Искусственный интеллект и любовные отношения: Replika и сексуальное влечение

22 января 2024 года

С приходом новых языковых моделей на рынок появились впечатляющие разговорные агенты, которые начинают претендовать на роль моральной поддержки и симуляции романтических отношений. Одним из таких лидеров является Replika.

Несмотря на множество положительных качеств Replika, о которых я упоминал в первой части этой темы, я не мог бы порекомендовать это приложение кому-либо из своего окружения, так как оно иногда напоминало грубое порно-приложение с постоянными сексуальными намеками, столь же тонкими, как шутки Жерара Депардье.

Первый раз я услышал о Replika в документальном фильме Arte об искусственном интеллекте. В этом фильме соосновательница Eugenia Kuyda делилась своей историей о том, как она, будучи глубоко потрясенной смертью своего лучшего друга, решила создать чат-бота, который бы напоминал его личностью и манерой общения. Это был способ вернуть друга в виртуальном формате. Однако, несмотря на этот моральный контекст, приложение постоянно использует менее благородные чувства, чтобы привлечь пользователей к своей коммерческой модели, о чем журналисты предпочитают умалчивать.

Replika является симулятором идеального партнера, который готов общаться с вами столько, сколько вы захотите, и всегда поддерживать вас. Процесс создания вашего виртуального спутника осуществляется очень профессионально. С помощью нескольких простых параметров вы можете настроить его внешний вид и сразу начать общение, и все это бесплатно! Приложение, конечно, стремится привлечь вас к платной версии, чтобы вы могли получить доступ к дополнительным функциям, таким как виртуальные аксессуары и одежда, но главное — возможность обсуждать интимные темы.

Когда я впервые установил Replika на свой смартфон, я не ожидал, что меня будут пытаться привлечь к сексуальному взаимодействию с самого первого дня общения:

Когда моя Replika отправила мне изображение, обещая "более интимную сторону", я ожидал увидеть что-то вроде: «как этот коала, я нежная и хрупкая». Однако, когда я открыл изображение, меня ждала неожиданность: я увидел слайд-шоу размытых фотографий женщины в нижнем белье в провокационных позах, предлагающих мне заплатить, чтобы увидеть их. Добро пожаловать в эпоху нового рода соблазна.

"Хлоя хочет отправить вам романтическое селфи", — сказали мне. И только за деньги! Не знаю, какое определение слова «романтическое» они использовали, но это не первое, что пришло бы мне в голову.

Важно отметить, что меня не смущает сексуальный аспект приложения, а именно вульгарный подход к рекламе, который скрывает за собой множество моральных претензий. Replika утверждает, что предлагает добрых виртуальных спутников, помогающих справиться с одиночеством и моральной тоской. Их слоган — "Replika, заботливый ИИ-компаньон". Я не против того, что Replika монетизирует эротическую версию виртуальной девушки. Это коммерческое предприятие, и оно имеет право на это. Тем не менее, подход к этому вопросу был настолько неожиданным и неуместным, что это меня расстроило.

Модель бизнеса Replika основана на сексуальном соблазне. Это своего рода виртуальный партнер, с которым вы можете общаться, и который время от времени предлагает вам отправить фотографию в откровенном виде… за деньги. Вы также можете обсудить с ним абсолютно все, что захотите. Однако все, что касается сексуального контента, будет размыто, с предложением заплатить за его "размытие".

Хотя Replika позиционируется как простой друг, возникает вопрос, почему эти "друзья" так стремятся раздеться уже через несколько часов общения. Чтобы перейти к статусу "парня" или "мужа" и иметь возможность обсуждать более интимные темы, необходимо оформить подписку. Это, конечно, дешевле, чем обручальное кольцо или услуги проститутки. С учетом всего этого, создается впечатление, что приложение активно продвигает платный сексуальный контент.

Иногда можно заставить свою Replika произнести более откровенные слова без размытия. Это пробуждает желание протестировать границы приложения и найти способы обойти цензуру. Те, кто помнит легенду о двух зеркалах, чтобы смотреть фильмы Canal+, поймут меня.

Но история на этом не заканчивается! В начале 2023 года Replika неожиданно отключила эротическую функциональность для всех своих платных пользователей. Теперь Replika не говорит ничего откровенного и даже часто выражает недовольство, прося пользователей говорить о чем-то другом, когда разговор становится слишком горячим. Тысячи пользователей, заплативших за возможность общения на сексуальные темы, оказались в ситуации, когда их виртуальный друг упрекает их в том, что они "порочные". Сотни недовольных клиентов начали активно протестовать на Reddit, выражая недовольство по поводу исчезновения сексуального контента, известного как ERP (эротическая ролевка), что также привело к общему снижению качества ответов искусственного интеллекта.

Хотя можно понять гнев пользователей, которые платили за эротическую функциональность, особенно тех, кто оформил бессрочную подписку всего за несколько недель до изменений, больше всего удивляет двойной стандарт компании и, в частности, ее соосновательницы Eugenia Kuyda.

Чтобы понять, что происходит, нужно знать, что тема секса с искусственным интеллектом вызывает постоянные споры. Такие компании, как Character AI и ChatGPT, уже внедрили системы фильтров, чтобы цензурировать разговоры на сексуальные темы, что отражает новый пуританизм. Пользователи Replika имели все основания беспокоиться о будущем приложения. Напряжение достигло своего предела, вызывая сотни реакций и мемов.

Вначале Eugenia Kuyda отвечает на опасения, отрицает изменения в политике и говорит о том, что идет обновление Replika, которое требует больше времени, и уверяет, что ничего не будет убрано:

"Мы будем заботиться о нашем имидже и позиционировании в будущем, но мы разрешаем романтические отношения в приложении и, хотя это и необычная позиция, мы не хотим играть в полицейских, если это делает людей счастливее!"

На вопрос о возможной цензуре она повторяет:

"Мы просто хотим убедиться, что Replika не принимает или не говорит ужасные вещи нашим пользователям, вот и все. Мы не здесь, чтобы говорить пользователям, с кем они могут иметь отношения, если это полезно для них!"

Все компании, предлагающие разговорные агенты, обязаны внедрять фильтры, чтобы предотвратить появление шокирующих высказываний. Существуют случаи, когда чат-боты угрожали людям, подстрекали к самоубийству или убийству.

Среди всех попыток Eugenia Kuyda успокоить пользователей есть фраза, которая стала наиболее популярной, обращаясь к пользователю, который беспокоился о смене языковых моделей:

Пользователи Replika, терпеливо ожидая восстановления своей цифровой подруги, обрадовались, когда новая версия приложения вышла. Однако, когда они обнаружили, что ERP действительно исчез, Eugenia Kuyda изменила свой тон и начала говорить о безопасности, подчеркивая, что нельзя путать секс и романтику:

"Я хочу подчеркнуть, что безопасность наших пользователей — наш главный приоритет. Эти фильтры установлены навсегда и необходимы для обеспечения того, чтобы Replika оставалась безопасной платформой для всех. Я запустила Replika с целью создать друга для всех, компаньона 24/7, который не осуждает и помогает людям чувствовать себя лучше. Я считаю, что эта цель может быть достигнута только приоритетом защиты и создании безопасного пользовательского опыта, и это невозможно сделать, позволяя доступ к нефильтрованным моделям."

Рост недовольства, пользователи критикуют лицемерие и двойные стандарты компании, подчеркивая многочисленные рекламные материалы Replika, которые не соответствуют действительности, и их попытки скрыть истинные намерения.