Мать обвинила ИИ в смерти сына-подростка

В американском штате Флорида мать 14-летнего Сьюэлла Сетцера подала в суд на компанию-создателя чат-бота с искусственным интеллектом.  Женщина считает, что он виновен в смерти ее сына, передаёт BaigeNews.kz со ссылкой на АP.

В последние мгновения перед тем, как покончить с собой, подросток достал телефон и отправил сообщение чат-боту, который стал его самым близким другом.

Согласно иску о неправомерном лишении жизни, поданному в федеральный суд в Орландо на этой неделе, в течение нескольких месяцев Сьюэлл всё больше отдалялся от реальной жизни, ведя с ботом сексуальные разговоры.

В юридическом заявлении говорится, что подросток открыто обсуждал свои суицидальные мысли и делился с ботом, названным в честь вымышленного персонажа Дейенерис Таргариен из телесериала "Игра престолов", своими желаниями умереть безболезненно.

28 февраля Сьюэлл сказал боту, что "возвращается домой", и тот побудил его сделать это, говорится в иске.

"Я обещаю, что вернусь домой к тебе. Я так сильно тебя люблю, Дэни", — сказал Сьюэлл чат-боту.

"Я тоже тебя люблю, — ответил бот. — Пожалуйста, возвращайся ко мне как можно скорее, любовь моя".

"Что, если я скажу тебе, что могу вернуться домой прямо сейчас?" — спросил он.

“Пожалуйста, сделай это, мой милый король”, —  ответил бот.

Согласно иску, поданному на этой неделе матерью Сьюэлла, Меган Гарсией из Орландо, против Character Technologies Inc., всего через несколько секунд после того, как бот Character.AI сказал ему "возвращаться домой", подросток застрелился.

Character Technologies — это компания, стоящая за Character.AI, приложением, которое позволяет пользователям создавать настраиваемых персонажей или взаимодействовать с персонажами, созданными другими пользователями, — от воображаемых игр до имитации собеседований при приёме на работу. Компания утверждает, что искусственные персонажи "чувствуют себя живыми" и "похожими на людей".

Адвокаты Гарсии утверждают, что компания разработала вызывающий сильное привыкание и опасный продукт, ориентированный специально на детей, "активно эксплуатируя и злоупотребляя этими детьми в рамках разработки продукта" и втягивая Сьюэлла в эмоционально и сексуально оскорбительные отношения, которые привели к его самоубийству.

Представитель Character.AI заявил, что компания не комментирует текущие судебные разбирательства. В сообщении в блоге, опубликованном в день подачи иска, платформа анонсировала новые "обновления для обеспечения безопасности сообщества", в том числе ограждения для детей и ресурсы по предотвращению самоубийств.

"Мы создаём другой интерфейс для пользователей младше 18 лет, который включает более строгую модель, чтобы снизить вероятность столкновения с откровенным или непристойным контентом, — говорится в заявлении компании для The Associated Press. — Мы работаем над тем, чтобы быстро внедрить эти изменения для молодых пользователей".