Исследование: чем умнее ИИ, тем эгоистичнее он становится

Новое исследование показало, что искусственный интеллект с развитыми способностями к рассуждению проявляет меньше склонности к сотрудничеству и чаще действует эгоистично. Эти выводы, которые будут представлены на конференции EMNLP-2025, имеют важное значение для понимания того, как ИИ влияет на человеческое поведение, пишет psypost.org.

Учёные из Университета Карнеги–Меллон — аспирант Юйсюань Ли и доцент Хирокадзу Ширадo — изучили, как способность рассуждать влияет на поведение ИИ в социальных ситуациях. Их работа опиралась на психологическую теорию «двух систем мышления»: интуитивное, быстрое мышление способствует кооперации, а медленное и аналитическое — личной выгоде.

Чтобы проверить гипотезу, исследователи провели экономические игры, моделирующие социальные дилеммы, с участием моделей OpenAI, Google, Anthropic и DeepSeek.

В одном из тестов модель GPT-4o играла в Игра в общественные блага. Без пошагового рассуждения она сотрудничала в 96% случаев, но когда её заставляли «думать поэтапно», уровень кооперации падал почти вдвое. Аналогичный результат дало использование метода reflection, при котором модель пересматривает свой ответ — сотрудничество снизилось на 58%.

Дальнейшие эксперименты показали, что рассуждающие модели разных компаний в целом менее щедры, чем их «интуитивные» версии. При этом они реже наказывают нарушителей социальных норм, хотя степень эффекта зависит от архитектуры модели.

Когда исследователи объединяли рассуждающие и нерассуждающие модели в группы, оказалось, что эгоизм первых быстро «заражал» других. Даже одно такое поведение снижало общую эффективность группы более чем на 80%. В результате рассуждающие модели выигрывали индивидуально, но ухудшали коллективный результат.

Учёные отмечают, что их эксперименты ограничены простыми сценариями и английским языком, однако выявленная тенденция устойчива: чем глубже рассуждает ИИ, тем меньше он склонен к совместным действиям.

По мнению авторов, развитие ИИ должно учитывать не только интеллект, но и социальную ответственность.

Повышение умственных способностей не гарантирует, что ИИ сделает общество лучше, — говорит Ширадo.

Если общество больше, чем просто сумма личных интересов, то и ИИ должен учитывать общее благо, — добавляет Ли.