Китай начал внедрять в искусственный интеллект социалистические ценности

Китайские чиновники проводят детальное тестирование крупных языковых моделей, созданных местными компаниями, для проверки их соответствия «основным социалистическим ценностям», передает hightech.

Государственная канцелярия интернет-информации КНР (CAC) потребовала от таких технологических гигантов, как ByteDance, Alibaba, Moonshot и 01.AI, пройти правительственную проверку. Тесты часто включают вопросы, касающиеся политики Китая и Си Цзиньпина, а также анализ данных, использованных для обучения моделей. Спустя два десятилетия после внедрения «Великого китайского фаервола», который блокирует доступ к нежелательной информации, Китай устанавливает строгие регламенты для ИИ.

Один китайский стартап смог успешно пройти проверку только со второй попытки. Причины первого отказа оставались неясными, и разработчики обратились за консультацией к коллегам. Процесс занял несколько месяцев. Трудность заключалась в необходимости использования англоязычных материалов, идеологически отличающихся от китайских. В феврале власти выпустили руководство для компаний, работающих с ИИ, требующее создания базы данных слов и вопросов, противоречащих «основным социалистическим ценностям».

Пользователи китайских чат-ботов уже заметили результаты этого процесса. Большинство систем отказываются отвечать на вопросы о событиях на площади Тяньаньмэнь 4 июня 1989 года или о сходстве Си Цзиньпина с Винни-Пухом, ссылаясь на различные причины. В Китае был запущен альтернативный чат-бот, основанный на работах Си Цзиньпина и официальной литературе. ИИ обязан не уклоняться от обсуждения политических тем и должен отвечать на более 95% вопросов.

photo: livescience