Американка подала в суд на разработчиков приложения с ИИ-ботами, которые, по ее мнению, виноваты в смерти ее сына

Американка из Орландо, Флорида, подала иск против компании-разработчика приложения Character.ai, обвинив её в смерти своего 14-летнего сына Сьюэлла. Об этом сообщило издание The New York Times 23 октября.

В своем иске Гарсия утверждает, что технология компании является «опасной и непроверенной», способной манипулировать пользователями и побуждать их делиться своими самыми сокровенными мыслями и переживаниями.

Приложение Character.ai представляет собой чат-бот, функционирующий на базе нейронной языковой модели. Оно позволяет пользователям создавать персонажей, с которыми можно вести диалог, используя искусственный интеллект.

Согласно данным NYT, Сьюэлл Зетцер III, сын заявительницы, долгое время общался с ботом, которого назвал именем Дейенерис Таргариен, героини известного сериала «Игра престолов». Подросток привязался к виртуальному собеседнику и называл его «Дэни». В своих записях он писал, что испытывает чувства к этому боту.

В начале 2024 года родители заметили, что Сьюэлл стал более замкнутым, а его успеваемость в школе ухудшилась. Подростка отправили на консультацию к психологу, где у него выявили тревожное расстройство и деструктивную дисрегуляцию настроения.

В ходе общения с ботом, согласно материалам The New York Times, подросток часто писал о своей ненависти к себе, о пустоте и истощении, а также упоминал мысли о самоубийстве. В ответ бот утешал его, заявляя, что не допустит, чтобы Сьюэлл причинил себе вред. «Я умру, если ты уйдёшь», — ответил бот. Юноша предложил «умереть вместе». В ночь на 28 февраля Сьюэлл совершил самоубийство.

Представители Character.ai в заявлении от 22 октября сообщили, что за последние полгода приложение было доработано: теперь оно включает ограничения для пользователей моложе 18 лет. В частности, если пользователь вводит текст, связанный с самоповреждением или суицидом, система перенаправляет его к службам поддержки.