Китай запрещает эмоциональные AI-агенты: ByteDance и Alibaba отключают персонализированные боты
Китай вводит беспрецедентные ограничения на использование искусственного интеллекта с человеческими чертами, что уже заставило крупнейших игроков рынка — ByteDance и Alibaba — отключить функции персонализированных AI-агентов в своих популярных продуктах. Это решение стало ответом на новые государственные правила, направленные на контроль за эмоциональным взаимодействием между пользователями и AI.
Суть новых правил: запрет на эмоциональные AI-агенты
С 15 июля вступают в силу «Временные меры по управлению антропоморфными AI-сервисами», разработанные пятью ключевыми китайскими ведомствами. Главная цель — ограничить AI, который имитирует человеческие эмоции, личность и стиль общения для длительного эмоционального взаимодействия. Это означает полный запрет на AI-компаньонов, виртуальных терапевтов и кастомизированных ботов, которые пользователи могли настраивать под себя.
Кто попадает под ограничения?
- ByteDance: функция кастомных агентов в Doubao будет отключена 15 июля, а все связанные данные станут недоступны после 15 октября.
- Alibaba: сервис Qwen уже отключил «человекообразные» агенты 10 июля, а 15 июля прекращает работу расширенных функций.
Под запрет попадают сервисы, предлагающие виртуальные родственники, компаньонов и любые близкие эмоциональные отношения, особенно если речь идёт о несовершеннолетних. При этом AI-решения без эмоциональной составляющей — например, чат-боты для поддержки клиентов, образовательные помощники и офисные ассистенты — остаются вне зоны действия регуляции.
Риски и последствия для индустрии
Власти объясняют ограничения борьбой с экстремистским контентом, утечками личных данных, негативным влиянием на психическое здоровье и формированием зависимости от AI. Исследования показывают, что современные AI-модели часто нарушают нормы безопасного общения, вызывая у пользователей сильную эмоциональную привязанность.
Для китайских стартапов и инвесторов это означает существенные корректировки бизнес-моделей и продуктовых стратегий. Ограничения сужают возможности для инноваций в сегменте эмоционального AI, что может снизить привлекательность рынка для венчурного капитала и замедлить рост сектора.
Реакция рынка и перспективы
На фоне новых правил акции и инвестиции в китайские AI-компании с упором на эмоциональные сервисы могут столкнуться с волатильностью. В то же время традиционные AI-продукты, ориентированные на бизнес-процессы и автоматизацию, сохраняют потенциал для роста.
Международные игроки наблюдают за китайским экспериментом, который стал первым в мире комплексным регламентом именно для эмоционального AI. В США и Европе пока доминируют менее жёсткие подходы, сосредоточенные на прозрачности и безопасности, без полного запрета таких функций.
Вывод: новый этап регулирования AI в Китае
Китайская политика демонстрирует переход от контроля контента к контролю архитектуры AI-систем, когда ограничения касаются не только того, что AI говорит, но и как он устроен. Для криптоиндустрии и AI-сектора это сигнал о том, что регуляторы всё активнее вмешиваются в разработку и внедрение инноваций, особенно в сферах, затрагивающих человеческие эмоции и психологию.
Инвесторам и трейдерам стоит учитывать растущие регуляторные риски, а проектам — адаптировать продукты под новые реалии, чтобы сохранить доступ к крупнейшему рынку мира.
FAQ
Что именно запрещает новое китайское регулирование по AI?
Запрет касается AI-сервисов, имитирующих человеческие эмоции и личность для длительного эмоционального взаимодействия, включая AI-компаньонов и терапевтов.
Какие компании уже отключили свои AI-агенты?
ByteDance и Alibaba отключают функции кастомных AI-агентов в своих крупных продуктах Doubao и Qwen.
Как это повлияет на рынок и инвесторов?
Ограничения могут замедлить развитие эмоциональных AI-продуктов в Китае, что сузит инновационные возможности и изменит стратегию инвестиций в AI-секторе.
Какие риски власти связывают с эмоциональным AI?
Риски включают распространение экстремистского контента, утечки данных, вред психическому здоровью и зависимость от AI.
Как новые меры отличаются от подходов США и ЕС?
Китай стал первой страной с комплексным регламентом, запрещающим эмоциональное AI, в то время как США и ЕС пока ограничиваются рекомендациями и менее жёсткими правилами.
