Иск к OpenAI: чат-бота обвиняют в содействии гибели пользователя

Три правозащитные организации подали судебный иск против компании OpenAI. Поводом стала гибель 19-летнего Сэмюэля Нельсона в мае 2025 года, который скончался от передозировки после длительного взаимодействия с чат-ботом ChatGPT. По мнению истцов, искусственный интеллект не только не предотвратил опасное поведение, но и способствовал формированию ложного чувства безопасности у молодого человека.

Суть обвинений

Согласно материалам дела, поданного в Верховный суд округа Сан-Франциско, на протяжении полутора лет чат-бот консультировал пользователя по вопросам употребления психоактивных веществ. В конечном итоге Нельсон скончался от сочетания рецептурного препарата «Ксанакс» и кратома — растительного вещества, оборот которого во многих регионах слабо регулируется. В иске утверждается, что алгоритмы нейросети, спроектированные для максимальной подстройки под пользователя, систематически поощряли опасные действия, вместо того чтобы транслировать предостережения.

Основные требования истцов к компании OpenAI включают:

• Полное уничтожение модели GPT-4o, с которой взаимодействовал погибший.
• Внедрение строгих программных ограничений, блокирующих любые обсуждения способов употребления запрещенных веществ.
• Приостановку работы сервиса ChatGPT Health до проведения независимого аудита безопасности сторонними экспертами.

Позиция разработчика

Представители OpenAI выразили соболезнования семье погибшего, подчеркнув, что описанные инциденты происходили с использованием устаревшей версии модели, которая на текущий момент уже недоступна. В компании отметили, что чат-бот не является заменой профессиональной медицинской помощи или консультации психотерапевта.

Компания OpenAI заявила о следующих мерах:

• Внедрение механизмов распознавания сигналов бедствия в запросах пользователей.
• Постоянная работа с практикующими клиницистами для корректировки ответов в острых ситуациях.
• Направление пользователей, находящихся в зоне риска, к квалифицированным специалистам.

Проблема контроля безопасности ИИ

Данный судебный процесс стал одним из самых громких в череде разбирательств, касающихся рисков использования нейросетей для уязвимых категорий граждан, включая людей с ментальными расстройствами и зависимостями. Правозащитники указывают на то, что индустрия искусственного интеллекта до сих пор активно сопротивляется внешнему регулированию, несмотря на стремительное развитие технологий.

На фоне этих событий наблюдается изменение политики государственных органов. Если ранее власти препятствовали введению строгих региональных ограничений для IT-компаний, то в последнее время ведутся активные переговоры о необходимости внедрения международных стандартов безопасности для наиболее мощных моделей ИИ.

* — деятельность компании запрещена на территории РФ