Доверяете ли вы искусственному интеллекту? Это сложный вопрос, потому что доверие может означать множество вещей.
Большинство людей, задумываясь над этим вопросом, думают о безопасности данных. Но развитие генеративного искусственного интеллекта (GenAI) ставит новые задачи, связанные с доверием, как для разработчиков, так и для всех, кто использует созданные ими продукты. Когда вы обращаетесь к модели GenAI, вы предоставляете право принимать решения программному обеспечению, которое работает иначе, чем все, что было до него. Учитывая встроенную в эти генеративные модели случайность, можно ли доверять им в том, что они сделают все правильно и надежно? Что вообще означает “правильные действия”?
Мы в Notion стремимся создавать такие инструменты ИИ, в которых простота использования и полезность сочетаются с точностью и надежностью. Одним из способов достижения этого баланса является обеспечение того, чтобы люди имели необходимый вклад и возможность видеть аналитический процесс ИИ. Мы называем это “держать людей в курсе”.
Генеративность GenAI – это обоюдоострый меч
Я пользователь-исследователь с докторской степенью в области когнитивной нейронауки; мое докторское исследование было посвящено обучению с подкреплением, или процессу, в ходе которого наш мозг использует обратную связь от окружающей среды для обучения и принятия решений. Сейчас я думаю о том, как этот процесс применим к ИИ.
Почти все компьютерные программы до сих пор вели себя детерминированно – каждый раз делали именно то, на что были запрограммированы. Даже большинство ранних моделей ИИ для потребительских технологий были разработаны так, чтобы предсказывать события с очень высокой точностью и выдавать результаты, которых ожидали пользователи.
Человек задает вопрос, модель ИИ обрабатывает информацию и выдает ответ.
GenAI отличается от других. Современные большие языковые модели (LLM) обучаются на наборах данных, содержащих миллиарды веб-страниц, и генерируют текст на основе сложных вероятностных распределений, анализируя совместное повторение слов в этих огромных наборах данных. Но вместо того чтобы просто выбирать наиболее предсказуемое следующее слово, как это делает упрощенный автозаполнитель, модели GenAI иногда выбирают альтернативный вариант в рамках распределения, внося элемент творческой непредсказуемости в свои ответы – “генеративность”, которая создает что-то новое.
Задайте модели GenAI один и тот же вопрос несколько раз, и вы можете получить разные ответы.
Эта изменчивость – одновременно и особенность, и недостаток. Именно благодаря ей GenAI обладает удивительным языковым талантом. Когда вы разговариваете с одной из этих новых моделей, вам кажется, что вы разговариваете с человеком. Но задавайте модели один и тот же вопрос снова и снова, и вы часто будете получать радикально разные ответы.
Такая изменчивость делает вещи интересными.
Контекст помогает нам понять смысл информации
Допустим, вы даете модели GenAI такую подсказку: Каковы основные критические замечания по поводу запуска нашего нового продукта? Но ни один документ, на который она может сослаться, не дает полного ответа на этот вопрос. Возможно, вы сможете скормить ей фрагменты отзывов пользователей, обзоров App Store и обращений в службу поддержки, и она синтезирует информацию из этих источников, чтобы получить качественный ответ.
Вы можете подумать: “Качественный ответ? Значит ли это, что ответ правильный? Или просто ответ, который звучит связно? И как я могу отличить его?”
Правда в том, что без контекста вы не сможете этого сделать.
Когда вы задаете кому-то вопрос в реальной жизни, ваш мозг учитывает множество факторов, оценивая его ответ. Что вы знаете об этом человеке? Какие предубеждения он может привнести в эту тему? Тот же аналитический процесс происходит, когда вы просматриваете веб-страницы. Кто написал эту страницу? Насколько она актуальна сегодня? Мы, люди, используем эти вспомогательные сигналы – в основном автоматически и, возможно, не так строго, как следовало бы, – чтобы оценить достоверность новой информации.
С GenAI это сделать сложнее. Ранние LLM читают подсказки и отвечают на них, но это “черные ящики”. Вы понятия не имеете, как модель проанализировала ваш вопрос, и чаще всего не знаете, в какой степени встроенная случайность повлияла на ответ.
Я считаю, что путь к настоящей синергии между человеком и ИИ лежит через создание инструментов, поддерживающих наш естественный процесс контекстного обучения и принятия решений. Держать человека в поле зрения означает гарантировать, что при использовании ИИ мы сможем понять и внести свой вклад в действия, которые модели предпринимают от нашего имени.
Возможность влиять на наши инструменты помогает нам доверять им
В Notion AI мы постарались найти баланс между готовыми функциями, которые работают прямо из коробки, и гибкостью, позволяющей пользователям настраивать результаты работы AI в соответствии со своими потребностями. В целом пользователи Notion – да и все работники сферы знаний, независимо от того, какой инструмент они используют, – проводят свое время за созданием, изменением или поиском информации. Поддерживать людей в курсе событий – значит по-разному относиться к каждому из этих типов взаимодействия.
Когда вы генерируете информацию, вы можете попросить ИИ подготовить для вас целый черновик. Или вы можете взаимодействовать с ИИ на каждом этапе процесса написания, от мозгового штурма до наброска и черновика. В этом случае результат каждого этапа становится исходным материалом для следующего этапа.
Если вас не устраивает ответ, вы можете изменить подсказку и получить обновленный ответ.
При изменении существующего документа искусственный интеллект может работать как с документом в целом, так и с определенными блоками выбранного вами содержимого. Здесь существует практически бесконечное множество вариантов того, как ИИ может следовать вашим предпочтениям для изменения контента.
А если вам нужно найти информацию, вы можете попросить Notion AI извлечь такие вещи, как пункты действий, из заметок о встречах. Кроме того, вы можете попросить его изучить текст и извлечь новые идеи – это сочетание поиска и генерации информации.
Существует бесчисленное множество нюансов взаимодействия ИИ с контентом, и технологам ИИ предстоит ответить на бесчисленные вопросы о том, как держать людей в курсе событий. Когда и как мы должны привлекать пользователей к каждому типу взаимодействия ИИ? Как создать совместный опыт, сбалансировав действия пользователя и ИИ в этих взаимодействиях? И как мы можем адаптировать эти подходы к уникальным потребностям и случаям использования пользователей Notion? У студента колледжа, просматривающего конспекты лекций с помощью ИИ, могут быть совсем другие потребности в доверии к ИИ, чем, скажем, у специалиста по продажам, создающего отчеты на основе конфиденциальных данных о клиентах.
В каждом сценарии возникают уникальные проблемы, и наш продукт должен быть достаточно гибким для их решения.
ИИ завтрашнего дня должен обеспечивать баланс между доверием и эффективностью
По мере того как мы будем все глубже интегрировать искусственный интеллект в Notion, эти решения станут для нас способом обеспечения надежного пользовательского опыта. Скажем, вы готовите презентацию на основе расшифровки последних звонков клиентов. Одним щелчком мыши Notion AI может подытожить каждый звонок – это уже встроенная функция в сегодняшнем продукте.
Но что, если бы модель могла разделить этот процесс на последовательность действий – сначала найти в стенограммах болевые точки клиентов, затем похвалить их, а потом превратить эти записи в маркетинговые идеи и рекомендации по продуктам?
Модели GenAI учитывают множество источников информации при формировании ответа на ваш запрос.
Возможно, он даже сможет приостанавливать работу в критических точках пути и давать вам возможность одобрить, отклонить или изменить текущий результат, прежде чем он станет исходным материалом для следующего шага:
- Вот как я интерпретирую ваши инструкции…
- Я извлек эти ключевые фрагменты из отзывов клиентов…
- Вот краткое изложение моих выводов…
Разница в результате будет огромной: от общего резюме до контекстно релевантного контента, сформированного в соответствии с вашими потребностями. А поскольку вы могли работать с искусственным интеллектом на протяжении всего процесса, опыт кажется более соответствующим тому, как наш мозг воспринимает и оценивает информацию.
Что, если бы вы могли направлять свою модель, выбирая, какие источники она использует для построения ответа?
С другой стороны, есть такое понятие, как “слишком много в курсе”. Любой рабочий процесс, построенный на взаимодействии человека и ИИ, включает множество моментов, когда ИИ приходится находить источники, анализировать данные, делать выводы, принимать решения и предпринимать действия. Слишком много таких моментов – и вы получите гораздо менее удобный пользовательский опыт. Если вам придется проверять модель на каждом этапе процесса, возможно, будет быстрее сделать всю работу самостоятельно.
Мы только начинаем понимать и решать эту новую разновидность проблем, появившуюся благодаря GenAI. По мере развития технологий и изучения предпочтений наших пользователей мы будем следить за тем, чтобы Notion AI и впредь уделял особое внимание доверию пользователей. И с каждой итерацией нашего продукта, с каждым звонком клиента, с каждым ответом на опрос мы будем приближаться к этому видению синергии человека и ИИ.