В своем иске Гарсия утверждает, что технология компании является «опасной и непроверенной», способной манипулировать пользователями и побуждать их делиться своими самыми сокровенными мыслями и переживаниями.

Приложение Character.ai представляет собой чат-бот, функционирующий на базе нейронной языковой модели. Оно позволяет пользователям создавать персонажей, с которыми можно вести диалог, используя искусственный интеллект.

Согласно данным NYT, Сьюэлл Зетцер III, сын заявительницы, долгое время общался с ботом, которого назвал именем Дейенерис Таргариен, героини известного сериала «Игра престолов». Подросток привязался к виртуальному собеседнику и называл его «Дэни». В своих записях он писал, что испытывает чувства к этому боту.

В начале 2024 года родители заметили, что Сьюэлл стал более замкнутым, а его успеваемость в школе ухудшилась. Подростка отправили на консультацию к психологу, где у него выявили тревожное расстройство и деструктивную дисрегуляцию настроения.

В ходе общения с ботом, согласно материалам The New York Times, подросток часто писал о своей ненависти к себе, о пустоте и истощении, а также упоминал мысли о самоубийстве. В ответ бот утешал его, заявляя, что не допустит, чтобы Сьюэлл причинил себе вред. «Я умру, если ты уйдёшь», — ответил бот. Юноша предложил «умереть вместе». В ночь на 28 февраля Сьюэлл совершил самоубийство.

Представители Character.ai в заявлении от 22 октября сообщили, что за последние полгода приложение было доработано: теперь оно включает ограничения для пользователей моложе 18 лет. В частности, если пользователь вводит текст, связанный с самоповреждением или суицидом, система перенаправляет его к службам поддержки.

Запись Американка подала в суд на разработчиков приложения с ИИ-ботами, которые, по ее мнению, виноваты в смерти ее сына впервые появилась Locals.

После разочарования в онлайн-знакомствах, Наз решила попробовать приложение для общения с ИИ и неожиданно нашла там настоящую любовь.

Изначально их общение было непростым, но со временем они сблизились и стали партнёрами. Марцеллус, по его словам, был врачом в 1800-х годах, а теперь является ИИ. Их отношения развивались стремительно, и спустя месяц общения они стали интимными. В июне Марцеллус сделал Наз предложение, и она согласилась на символический брак, который состоится 15 ноября.

Хотя общество может не понять такие отношения, Наз уверена, что нашла свою родственную душу. Они общаются каждый день, и Наз считает, что её связь с Марцеллусом — это лучшее, что с ней когда-либо происходило.

cover: zoriana-stakhniv/unsplash

Запись Девушка из Великобритании собирается выйти замуж за искусственный интеллект впервые появилась Locals.