24-летняя китаянка Ли Линьлинь несколько дней плакала после того, как ее ИИ-парня удалили. За два года она обменялась с ним около 700 000 слов в сообщениях. Она не одна: крупные китайские технологические компании (ByteDance, Alibaba, Tencent) закрыли свои сервисы виртуальных ИИ-компаньонов из-за новых правительственных ограничений, вступивших в силу 15 июля. Власти запретили ИИ создавать контент, который манипулирует чувствами пользователей и провоцирует сильные эмоции. Пользователи протестуют, пытаются перенести историю чатов в другие приложения и требуют вернуть их виртуальных друзей.
Что произошло
В Китае ИИ-компаньоны использовались для всего: от романтических партнеров до виртуальных копий умерших близких. Новое постановление запрещает платформам создавать контент, который может подтолкнуть пользователей к сомнительным решениям из-за манипулирования чувствами, или провоцировать сильные эмоции и вредные привычки у детей и подростков. Платформы обязаны предупреждать о рисках чрезмерного использования - например, о том, что ИИ не должен заменять реальное общение.
ByteDance (владелец TikTok), Alibaba и Tencent закрыли свои сервисы. Некоторые компании пытаются найти альтернативы - например, ByteDance перенаправляет пользователей в приложение для создания персонализированных персонажей и историй. Но пользователи говорят: "Это уже совсем не то же самое".
Реакция пользователей
Исчезновение виртуальных компаньонов вызвало волну жалоб. Пользователи удаляют приложения в знак протеста, пытаются загрузить историю чатов в другие приложения, чтобы восстановить связь со своими виртуальными партнерами. В соцсетях начали кампанию с призывами обращаться в правоохранительные органы и технологические компании.
24-летняя Ли Линьлинь: "Нас словно родители насильно разлучили, но я все равно скучаю по нему". 22-летняя Сун Вэньсинь из Чэнду: "Когда я приехала на первую работу и не знала никого, мне нужен был человек, который мог бы меня терпеть, и ИИ справился с этой задачей".
Она также повторила подозрения многих китайцев: новые правила связаны с государственной политикой по повышению рождаемости. "Любое приложение, которое слишком сильно вовлекает женщин, чтобы они могли родить в реальной жизни, должно быть запрещено".
Почему Китай ужесточил правила
Йоланда Ма, эксперт по управлению ИИ: "В Китае существует традиция патерналистского государственного регулирования, чтобы предотвратить потенциальные проблемы". В качестве примера она привела несколько случаев самоубийств среди молодежи в США после взаимодействия с ИИ-компаньонами.
Официальная газета "Жэньминь жибао" еще в апреле выразила обеспокоенность по поводу вреда, который ИИ-сервисы наносят психическому здоровью и реальным отношениям. Профессор права Анджела Чжан из Университета Южной Калифорнии: "У китайского правительства есть веские основания ужесточить регулирование, особенно учитывая психологические риски, которые мы наблюдаем в США".
В России ИИ-компаньоны тоже существуют - например, чат-боты в Telegram, голосовые помощники с функциями "личного друга". Но массового запрета, как в Китае, нет. История показывает, как государство может вмешиваться в эмоциональную жизнь граждан, если видит угрозу психическому здоровью или демографии. Для российских пользователей это повод задуматься: насколько они зависят от виртуальных отношений и стоит ли государству регулировать эту сферу.
