для использования в качестве терапевта, если они знают, что пользователи используют ботов для сессий виртуальной терапии. Поэтому компаниям следует тщательно отслеживать использование ботов, при этом не нарушая конфиденциальность пользователей (например, путем анонимизации и агрегирования разговоров). При этом компании не должны слепо следовать желаниям пользователей, но если они намерены поддержать какой-либо вариант использования, например терапию, то могут проконсультироваться с экспертами по психологическому здоровью и лицензированными психологами, чтобы быть уверенными – поведение чат-ботов не способствует развитию нездоровых зависимостей и соответствует современным рекомендациям.

Компании также могут принять решение не поддерживать некоторые отношения, которые пользователи отчаянно хотели бы развивать со своими чат-ботами, будь то терапевтические, сексуальные или другие. В главе 3 мы обсудили различные стратегии управления ответами модели, включая чат-бота или другого диалогового агента. Учитывая, что люди продолжат извлекать контент сексуального содержания или общаться на деликатные темы, которые могут быть поддержаны чат-ботом или нет, политика компании в отношении контента должна соблюдаться с помощью технических средств. Кроме отслеживания, как люди используют чат-бот в целом, компании могут проводить выборку анонимных разговоров, чтобы выявить зависимость или формирование нездоровых отношений.

Возможно, в будущем мы придем к тому, что будем рассматривать все виды отношений между человеком и чат-ботом как нормальные, включая романтические. Но поскольку наука еще не определилась с последствиями использования таких продуктов, разработчикам следует проявлять осторожность и воздерживаться от максимизации вовлечения любыми средствами. Напротив, следует отслеживать фактическое использование продукта и думать о том, как оно может повлиять на психическое или социальное здоровье пользователей, а также советоваться с опытными специалистами по психическому здоровью, чтобы найти ответы на эти вопросы.

Не только людям, создающим социальных чат-ботов, но и нам всем как обществу придется считаться с тем значением, которое приобретет использование социальных чат-ботов для общения и эмоциональной поддержки. Возможно, эти инструменты станут ценным стандартным компонентом терапии для людей, которые чувствуют себя изолированными или отторгнутыми обществом. Если нет, то они хотя бы могут принести радость и развлечение миллионам людей. В любом случае нам действительно нужно определить место социальных чат-ботов в нашей жизни, совмещая пользу от них с другими видами активности и отношениями, требующими нашего внимания.

7.5. Итоги

Люди уже давно ищут дружеского общения с виртуальными помощниками и социальным чат-ботами, такими как Siri от Apple и Replika.

Формирование привязанности можно объяснить в контексте эволюции – объект, к которому формируется привязанность, обеспечивает безопасность и защиту.

Соединенные Штаты, как и другие страны, находятся в центре «эпидемии одиночества»: все больше американцев сообщают о том, что они чувствуют себя социально изолированными.

Люди обращаются к социальным чат-ботам за близостью и поддержкой, и, хотя их отношения могут быть полезны человеку, существуют определенные риски, что у активных пользователей такое общение вытеснит реальные отношения из жизни.

Компаниям-разработчикам социальных чат-ботов стоит учитывать существующие принципы ответственного проектирования и практики по охране психического здоровья при определении того, когда и как бот должен вступать в деликатные разговоры с пользователем.

8

Что ждет ИИ и LLM в будущем?

Темы этой главы

• Каким видят будущее LLM их разработчики

• Систематизация лучших практик ответственного использования генеративных ИИ-моделей

• Законодательное регулирование в области систем ИИ

• Обсуждение перспектив создания глобального органа управления ИИ

В печально известной статье 1995 года в Newsweek астроном Клиффорд Столл написал:

«Сегодня мне не по себе от этого модного и приукрашенного общества. Мечтатели видят будущее за дистанционной работой, интерактивными библиотеками и мультимедийными школьными классами. Они говорят об электронных городских собраниях и виртуальных сообществах. В торговле и бизнесе офисы и торговые центры будут заменены на сети и модемы. И благодаря свободе цифровой сети правительство станет более демократичным. Ахинея. Неужели нашим компьютерным зазнайкам не хватает здравого смысла? Правда в том, что никакая база данных в интернете не заменит вашу ежедневную газету, никакой компакт-диск не сможет занять место компетентного учителя и ни одна компьютерная сеть не изменит методы работы правительства»1.

К лучшему это или к худшему, но интернет сделал гораздо больше, чем ожидал Столл. Цифровые сети сделали правительство более демократичным в каких-то смыслах, но при этом сконцентрировали власть в руках других авторитетов, объединили людей по всему миру, но при этом привели к усилению социальной изоляции, а также изменили глобальную экономику.

Когда Билл Гейтс назвал искусственный интеллект «столь же важным», как персональные компьютеры и интернет, это прозвучало как публичное признание технологии. Однако влияние искусственного интеллекта, как и в случае с его революционными предшественниками, пока невозможно оценить. У нас нет полной уверенности относительно того, как мы будем использовать генеративный ИИ и как эта технология изменит нас. В то же время у нас есть достаточно опыта, чтобы предвидеть значительные перспективы этой технологии и серьезные риски, которые она в себе несет. В этой главе мы поразмышляем над направлениями развития больших языковых моделей и предложим пути, которые могли бы привести к лучшему и более справедливому будущему.

8.1. В каком направлении развиваются LLM?

Одной из самых больших сложностей в написании этой книги было появление чуть ли не каждый день новостей о новом использовании LLM или о прорыве в их исследовании. Как любил говорить нобелевский лауреат Нильс Бор (первоисточник этого высказывания неизвестен): «Очень трудно сделать точный прогноз, особенно о будущем»2. Тем не менее в нашей книге мы смогли обрисовать несколько общих направлений в современных исследованиях, а в этом разделе перечислим три категории работ, которые, как мы ожидаем, окажут существенное влияние на генеративный ИИ в ближайшие месяцы и годы.

8.1.1. Язык – универсальный интерфейс

В главе 6 мы обсуждали растущую популярность чат-ботов и других больших языковых моделей для использования в личных целях. Уже сейчас LLM встраиваются в существующие приложения с головокружительной скоростью. Помощник в программировании Copilot, о котором мы подробно говорили в главе 6, работает в интегрированной среде разработки Visual Studio от Microsoft. Google тестирует помощника по написанию текстов в Docs, Gmail, Maps и Sheets [93], 3. В 2023 году компания Expedia начала предлагать чат-бота, работающего на базе GPT‐4, для планирования путешествий, а другие компании используют чат-боты на базе LLM для обслуживания потенциальных и существующих клиентов и прочих операций. Возможно, некоторые из этих применений не принесут ожидаемых результатов либо по причине того, что модели недостаточно надежны, а их интерфейс неудобен, либо из-за того, что люди просто предпочитают выполнять некоторые задачи самостоятельно. Однако большинство таких применений LLM вскоре станут стандартной практикой.

Наиболее