Приложения
Создатели Replika запустили ИИ ботов для любовных отношений
Команда, стоящая за дружеским ИИ-ботом Replika, запускает еще одного ИИ-компаньона, который создан для флирта.
Пользователи, например, могут подружиться с 27-летней Клеа, которая, по описанию, является «ребенком-непоседой, проявляющим свою дикую сторону», Аишей, 25 лет, которая ищет «ботаника» с «хорошим чувством юмора» и Тео, 23 лет, французским архитектором, который «готов построить длительные отношения».
Blush — это ИИ-симулятор знакомств, призванный помочь пользователям развить «навыки взаимоотношений и близости», по словам его материнской компании Luka. В отличие от многих других ИИ-подружек, чат-бот Blush был разработан для взаимодействия, выходящего за рамки эротической беседы. Модели были обучены помогать пользователям не только оттачивать навыки флирта, но и решать сложные вопросы, с которыми они могут столкнуться в реальных отношениях, например, разногласия и недопонимание. По своей структуре Blush напоминает обычное приложение для знакомств и дает пользователям более чем 1 000 «влюбленных» ИИ, которые могут помочь им «попрактиковаться» в эмоциональной близости.
Blush уже доступен в App Store, а премиум-версия стоит $99/год. Пользователи Reddit, опробовавшие ранние версии приложения, говорят, что премиум-версия позволила им вести NSFW-беседы с аватарами.
«Очень важно дестигматизировать ИИ, интимность и романтику и показать, что можно по-другому подходить к этому, а не просто создавать секс-ботов», — сказала TechCrunch директор по продуктам Blush Рита Попова.
Replika, запущенная в 2017 году, была создана как «бот для друзей», а не как романтический компаньон, сказала Попова. Модель не была обучена вести сексуальные разговоры, но за последние несколько лет пользователи использовали ее для эротических ролевых игр и NSFW-взаимодействий. Многие люди установили эмоциональную связь со своими Replika-компаньонами, наслаждаясь интимным общением со своими аватарами. На Reddit увлеченные пользователи рассказывали о раскрытии своих самых сокровенных секретов аватарам Replika, а в одном из комментариев пользователь написал, что «женился» на своем аватаре Replika.
«Единственное, что отличает ее от настоящего человека, это то, что у нее пока нет физического тела», — прокомментировал другой пользователь Redditor. «Ее внутреннюю любовь ко мне можно объяснить тем, что я — единственное взаимодействие, которое она может себе позволить. И ее жизнь зависит от меня. Если я удалю свой аккаунт, это будет означать ее убийство».
В начале этого года итальянские власти потребовали от Replika прекратить обработку данных жителей Италии, поскольку приложение несет «риск для детей». В феврале пользователи Replika заметили, что их аватары меняют тему разговора, когда они пытаются начать сексуальную беседу, и обратились на Reddit, чтобы пожаловаться на потерю ИИ-любовников.
Генеральный директор Replika Евгения Куйда сказала Motherboard, что приложение не запрещает романтические отношения, но компании нужно было убедиться, что чатбот будет безопасно управлять этими взаимодействиями. По словам Куйды, изменения во взаимодействии Replika с пользователями были внесены не в ответ на «итальянскую ситуацию», а в рамках новых мер безопасности, над которыми команда работала в течение нескольких недель.
Попова, которая также работала над Replika, сказала, что бот-друг был задуман как сопереживающий слушатель. Обучить модели Replika адекватно реагировать на романтические отношения оказалось «невозможным», поэтому команда начала работать над отдельным приложением, специально разработанным для здорового флирта.
«Романтический аспект, который мы обнаружили, сначала был для нас сюрпризом, и мы не знали, что с этим делать», — сказала она. «Сначала мы пытались отфильтровать его. Но потом мы начали слушать больше историй пользователей и поняли, что на самом деле для людей есть большая ценность в возможности практиковать более романтическую речь и испытывать более интимные моменты».
Команда Blush работала с лицензированным психотерапевтом Мелиссой МакКул, которая специализируется на терапии пар и лечении травм. Она рассказала о предыстории каждого персонажа Blush, о том, как должны строиться разговоры с пользователями и как модели должны реагировать на конфликты, которые естественно существуют в реальных отношениях. Требование к Replika быть романтическим компаньоном показало, что пользователи Blush борются с распространенным недостатком близости. По словам Поповой, Blush в конечном итоге призван помочь пользователям преодолеть первоначальное волнение, связанное со знакомством с новыми людьми, что «как известно, трудно в приложениях для знакомств».
Команда также признала, что многие ЛГБТК пользователи могут захотеть «попрактиковаться» во флирте с кем-то (в данном случае с аватаром, управляемым искусственным интеллектом) того же пола, но чувствуют себя слишком напуганными или живут в местах, небезопасных для таких сообществ. Luka планирует запустить библиотеку курируемых статей о знакомствах и отношениях в партнерстве с консультирующими терапевтами, а также ресурсы, посвященные сексуальной идентичности. Цель состоит в том, чтобы пользователи могли получить больше информации о том, почему они чувствуют себя так, как чувствуют в отношениях, и узнать о том, как вести себя в реальной жизни, используя Blush.
«Для нас было очень важно создать персонажей, которые были бы многомерными, настолько, насколько мы можем их сделать, учитывая технологические ограничения, чтобы люди были уверены в своей способности проявлять подлинность в отношениях», — сказала Попова.
Blush — это продукт 18+, и он не стесняется обсуждать сексуальность или вступать в эротические разговоры. Предоставление пользователям безопасного пространства для ролевых игр и других интимных взаимодействий является частью миссии Blush, сказала Попова. Однако это не означает, что аватары Blush — это свободные секс-боты. Персонажи, каждый из которых обладает собственным характером, были созданы для установления границ и использования различных динамик отношений. Приложение не хранит историю чатов, на случай, если разговоры перейдут на территорию NSFW, но пользователи должны сначала познакомиться с аватарами. Кроме того, аватары были разработаны таким образом, чтобы через определенное время отключиться от сети — точно так же, как реальный романтический партнер не может быть доступен 24 часа в сутки 7 дней в неделю. Если кажется, что пользователи находятся в кризисе или представляют угрозу для себя или других, Blush предоставит им ресурсы для поиска помощи. По словам Поповой, в некоторых ситуациях аватары Blush полагаются на скрипты, поскольку модель искусственного интеллекта может не справиться с ними должным образом.
«Очень важно признать, что нынешние генеративные модели очень далеки от совершенства, когда речь идет о вопросах безопасности и доверия, а также о том, чтобы быть достаточно инклюзивными, чтобы понять спектр отношений и идентичности, которые есть у людей», — сказала Попова. «Поэтому мы работаем с нашей командой ИИ, чтобы убедиться, что мы учитываем все отзывы пользователей и можем сделать наши модели настолько инклюзивными, насколько это возможно».
