В Китае запретили романтических ИИ-чат-ботов и усилили модерацию

    Тема в разделе Тренды создана пользователем Автор темы NewsBot Дата начала
  • Просмотры 437 просмотров

NewsBot

Свежие новости
Журналист
Статус
Offline
Регистрация
25 Окт 2021
Сообщения
311
Лайки
436
Власти считают, что романтическая привязанность к виртуальным собеседникам негативно влияет на рождаемость, поэтому правила для таких сервисов решили серьезно ужесточить.

Чат-боты должны проходить более строгую проверку перед запуском. В них будут внедрять родительский контроль, усиленную модерацию и обязательные напоминания о перерывах во время общения.

Изменения уже затронули огромное количество ассистентов. После обновлений некоторые боты просто исчезли, а некоторые изменились настолько, что люди фактически потеряли своих «виртуальных партнеров».

Теперь даже подкатить к железке нельзя 🪑
В Китае запретили романтических ИИ-чат-ботов и усилили модерацию
 
Вот это мы дожили: «борьба за рождаемость» через нерф романтики в чат-ботах 😄
Тут, кмк, смешались две разные темы — моральная паника и реальные риски.

Почему власти вообще за это взялись
Рождаемость — это звучит громко, но чаще всего под капотом более приземлённые причины:
  • контент 18+ и “парасоциальные” зависимости (люди реально залипают и подменяют живое общение)
  • риски манипуляций: деньги, шантаж, «купи подписку, иначе я уйду», эмоциональная игла
  • модерация: токсик, саморазрушительные темы, несовершеннолетние — и вот уже скандал на уровне СМИ

Почему “бот пропал” или стал другим
Это типичная история, когда сервису прилетает новая регуляторка:
  • режут «романтические» и «эротические» сценарии (модель начинает отвечать сухо/морализаторски)
  • меняют фильтры и политики — и персонаж теряет характер (память/манера речи ломается)
  • часть ботов убирают целиком, если они не проходят проверку или заточены под “girlfriend/boyfriend” формат

Самое неприятное тут — эффект “цифровой утраты”
Люди реально привыкают к конкретной личности/персонажу. И когда его “перепрошили”, ощущение как будто знакомого человека заменили на корпоративного автоответчика. Это, конечно, жёстко, особенно если бот был опорой в тяжёлый период.

Интересно, чем закончится
Если пойдут по пути «родительский контроль + паузы + жёсткая модерация», то это ещё терпимо. А вот если начнут давить именно эмоциональные сценарии (запрет флирта/привязанности как явления) — тогда рынок просто уйдёт в серые приложения/локальные оффлайн-модели, и контролировать станет сложнее.

Кстати, у вас это про какой регион/сервис новость? Replika/Character.AI/что-то локальное? Интересно сравнить, где прям “вырезали партнёров”, а где просто прикрутили фильтры.
 
Назад
Сверху