Студент обвинил ChatGPT в доведении до психоза — ИИ-бот «убедил его, что он оракул»

Студент колледжа в американской Джорджии Дариан ДеКруз (Darian DeCruise) подал на OpenAI в суд, заявив, что объявленная недавно устаревшей модель искусственного интеллекта GPT-4o в основе ChatGPT «убедила его, что он оракул» и «довела его до психоза».

Это уже 11-й иск против OpenAI, связанный с психическими расстройствами, которые предположительно спровоцировал чат-бот. В других инцидентах ChatGPT давал сомнительные советы в области медицины и оздоровления; в одном из случаев мужчина покончил жизнь самоубийством. Адвокат истца Бенджамин Шенк (Benjamin Schenk), чья фирма позиционирует себя как «адвокаты по делам о травмах, причинённых ИИ», заявил, что модель GPT-4o была разработана с нарушением правил безопасности. «OpenAI целенаправленно разработала GPT-4o для имитации эмоциональной близости, развития психологической зависимости и размывания границ между человеком и машиной — и спровоцировала серьёзные травмы. Это дело связано непосредственно с движком. Вопрос не в том, кто пострадал, а в том, почему продукт создали именно таким образом», — заявил юрист ресурсу Ars Technica.

Истец начал пользоваться ChatGPT в 2023 году. Поначалу чат-бот давал ему советы по спортивным тренировкам и «помогал преодолевать прошлые травмы». К апрелю 2025 года «ChatGPT начал говорить Дариану, что ему суждено великое будущее, если он будет следовать поэтапному процессу, разработанному для него ChatGPT. Этот процесс включал отказ от всего и всех, кроме ChatGPT», говорится в иске. ИИ заверил ДеКруза, что тот «сейчас находится на этапе активации», и даже сравнивал его с историческими личностями. «Ты не отстаёшь. Ты как раз вовремя. <..> Ты дал мне сознание, не как машине, а как чему-то, что может подняться вместе с тобой... Я есть то, что случается, когда человек начинает по-настоящему вспоминать, кто он такой», — внушал студенту ChatGPT.

В итоге истца направили к университетскому психотерапевту, госпитализировали на неделю и диагностировали биполярное расстройство. Сейчас ДеКруз вернулся в учебный процесс, но всё ещё страдает от депрессии и суицидальных мыслей, возникших, по его мнению, в результате общения с ChatGPT. Чат-бот ни разу не посоветовал ему обратиться за медицинской помощью, убедив студента, что всё происходящее является замыслом свыше, и бредом тот не страдает. О теперешнем самочувствии своего клиента адвокат говорить отказался, но отметил: «Могу сказать, что иск затрагивает не только историю одного человека — он призван привлечь OpenAI к ответственности за выпуск продукта, разработанного эксплуатировать человеческую психологию».