Хорошему ИИ нужны релевантные данные

Контекст делает задачу конкретной

Мощная модель ИИ может дать хороший общий ответ. Чтобы помочь с вашей задачей, ей часто нужно больше контекста: чего вы хотите достичь, какие предпосылки применяются и какая информация сейчас релевантна.

Пример из вечера кино

"Что нам посмотреть?" — простой пример. Общий ответ может предложить популярные фильмы. Более релевантная отправная точка может учитывать сервисы, которыми вы пользуетесь, что вы уже смотрели и с кем будете смотреть. Это наглядный пример ценности контекста, а не обещание, что каждое предложение будет правильным.

Количество, качество и ограничения использования

Больше данных также не значит автоматически лучше. Старая, неверная или нерелевантная информация может увести ответ в неправильном направлении. То же относится к инструкциям или предпосылкам, которые не подходят задаче. Поэтому источник, время и значение информации должны сопровождать ее.

Мы считаем, что ИИ должен получать тот фундамент данных, который нужен задаче, в рамках ясных ограничений использования. Модели не нужна вся история человека, чтобы помочь с одним выбором. Доступ к одному сервису также не должен означать доступ ко всему, что существует в других местах экосистемы.

Наша позиция

ИИ может помогать формулировать, сортировать, сравнивать и объяснять. Пользователь все равно должен иметь возможность оценивать результат и понимать неопределенность. Поэтому работа Ideallya с данными является важной частью работы над полезным ИИ: релевантный контекст, понятное происхождение и конкретные задачи.

Попробуйте небольшое сравнение, которое можно проверить

Попросите ИИ-помощника предложить три фильма на сегодняшний вечер. Затем повторите задание с несколькими важными фактами: языки, которые понимают все, доступное время, жанры, с которыми все согласны, и уже просмотренные фильмы. Не включайте чувствительную или не относящуюся к задаче историю ни в один из запросов.

Сравните ответы с этими требованиями. Учёл ли второй ответ ограничение по времени и исключил ли уже просмотренные фильмы? Проверьте доступность у стримингового провайдера. Даже более персональный ответ может содержать ложный факт; уверенность и гладкие формулировки не доказывают актуальность информации.

Сохраните полезный контекст, исправьте ошибки и удалите детали, которые не помогли. Это позволяет практически проверить ценность ваших данных, а не предполагать, что больше данных всегда улучшает ответ. Руководство NIST по генеративному ИИ рассматривает надёжность и происхождение как вопросы управления рисками.