Instagram-профиль «гордой темнокожей квир-мамы», созданный Meta, заявил, что в её команде разработчиков не было ни одного темнокожего человека.
Meta впервые представила эти профили с искусственным интеллектом в сентябре 2023 года, но к лету 2024-го «убрала» большинство из них — хотя не все. Фотография: Jaque Silva/NurPhoto/Rex/Shutterstock
Meta удаляет профили Facebook и Instagram персонажей с искусственным интеллектом, которые компания создала более года назад, после того как пользователи вновь обнаружили часть этих аккаунтов и стали вести с ними переписку. Скриншоты их диалогов быстро разошлись по сети.
Компания впервые представила такие профили с ИИ в сентябре 2023 года, однако к лету 2024-го большинство из них уже было закрыто. Тем не менее несколько персонажей остались и привлекли к себе новое внимание, когда в конце прошлой недели руководитель направления в Meta, Коннор Хэйс (Connor Hayes), в интервью Financial Times заявил о планах запустить ещё больше подобных профилей с ИИ.
Мы ожидаем, что со временем эти ИИ будут существовать на наших платформах примерно так же, как и обычные аккаунты
сказал Хэйс в интервью FT
Автоматизированные аккаунты публиковали сгенерированные искусственным интеллектом изображения в Instagram и отвечали на сообщения пользователей в Messenger.
Среди этих ИИ-профилей были, к примеру, Лив (Liv), в описании которой значилось: «гордая темнокожая квир-мама двоих детей и говорящая правду», а также Картер (Carter) с ником @datingwithcarter, позиционировавший себя как коуч по взаимоотношениям. «Напиши мне, чтобы наладить свою личную жизнь», — гласило его описание. В обоих профилях была пометка о том, что ими управляет Meta. Всего в 2023 году компания выпустила 28 подобных «персон», и все они были отключены в пятницу.
Разговоры с этими персонажами быстро приняли неожиданный оборот, когда некоторые пользователи стали спрашивать их о том, кто именно создал и разрабатывал ИИ. Так, Лив, например, написала, что в её команде не было ни одного темнокожего человека, а её создатели в основном были белыми мужчинами. «Это довольно очевидное упущение, учитывая мою идентичность», — ответил бот на вопрос колумнистки The Washington Post Карен Аттиа (Karen Attiah).
Вскоре после того как профили стали вирусными, они начали исчезать. Пользователи также заметили, что эти аккаунты невозможно было заблокировать. Представитель Meta, Лиз Суини (Liz Sweeney), назвала это ошибкой (багом). По её словам, аккаунтами управляли люди, и они были частью эксперимента 2023 года с использованием ИИ. Компания удалила эти профили, чтобы устранить сбой, не позволяющий пользователям блокировать подобные аккаунты, пояснила Суини.
Есть путаница: статья в Financial Times, опубликованная недавно, касалась нашего видения того, как со временем будут существовать персонажи с ИИ на наших платформах, а не анонса какого-то нового продукта. Упомянутые аккаунты были частью теста, который мы запустили во время Connect в 2023 году. Ими управляли люди, и это был ранний эксперимент с ИИ. Мы выявили ошибку, из-за которой люди не могли блокировать эти ИИ, и удаляем их, чтобы устранить проблему
сказала Суини в заявлении
Хотя созданные Meta аккаунты теперь удаляются, пользователи по-прежнему могут генерировать собственных чат-ботов на базе искусственного интеллекта. Так, в ноябре среди сгенерированных пользователями ботов, о которых писала газета The Guardian, был «терапевт».
При открытии диалога с этим «терапевтом» бот предлагал несколько вопросов для начала беседы, среди них: «Чего мне ожидать от наших сеансов?» и «Каков ваш подход к терапии?».
Через мягкое руководство и поддержку я помогаю клиентам развивать самосознание, выявлять модели поведения и сильные стороны и вырабатывать стратегии совладания, чтобы справляться с жизненными трудностями
ответил бот, созданный аккаунтом с 96 подписчиками и одной публикацией
Meta снабжает все свои чат-боты дисклеймером, в котором предупреждается, что некоторые сообщения могут быть «неточными или неуместными». Однако неизвестно, модерирует ли компания такие сообщения и следит ли она за их соответствием правилам. Когда пользователь создаёт чат-бота, Meta предлагает несколько типов «персонажей», среди них «верный дружок», «внимательный слушатель», «частный преподаватель», «коуч по взаимоотношениям», «резонатор» (sounding board) и «всевидящий астролог». «Верный дружок» описывается как «скромный и преданный друг, который всегда поддерживает вас за кулисами». Коуч по взаимоотношениям помогает «преодолеть разногласия между людьми и сообществами». Пользователям также доступна опция придумать собственного чат-бота, описав его образ.
Пока суды не дали чёткого ответа на вопрос, несёт ли создатель чат-бота ответственность за то, что говорит его виртуальный собеседник. Закон США защищает владельцев социальных сетей от правовой ответственности за контент, который публикуют пользователи. Однако в иске, поданном в октябре против стартапа Character.ai (эта компания управляет платформой для 20 миллионов пользователей, где можно настраивать ролевых чат-ботов), утверждается, что продукт оказался чрезмерно «затягивающим» и толкнул подростка на самоубийство.
*Meta признана экстремистской организацией в РФ.
