В Китае запрещают ИИ-собеседников из-за опасений за отношения и демографию

В Китае вступили в силу новые правила регулирования ИИ-сервисов, которые имитируют человеческое общение и способны формировать эмоциональную зависимость пользователей. Ограничения затрагивают в том числе виртуальных «парней» и «девушек», а несовершеннолетним запрещено предоставлять такие сервисы.

Согласно новым требованиям, ИИ-платформы не должны провоцировать зависимость от виртуального общения, чрезмерно потакать пользователям или вредить их реальным социальным связям. Сервисы также обязаны выявлять признаки эмоционального кризиса, ограничивать чрезмерное использование и напоминать пользователям, что они общаются с машиной, а не с реальным человеком, сообщает китаевед Николай Вавилов.

После введения новых требований ряд крупных китайских технологических компаний приостановил отдельные функции ИИ-компаньонов. При этом речь не идет о полном запрете всех ИИ-чат-ботов: новые правила распространяются именно на сервисы, предполагающие длительное эмоциональное взаимодействие, тогда как рабочие, образовательные и другие функциональные ИИ-приложения из-под этих ограничений исключены.