OpenAI обвиняют в игнорировании угроз перед массовой стрельбой в Канаде

В окружной суд Калифорнии поступило семь исковых заявлений, в которых компания OpenAI обвиняется в ненадлежащем реагировании на потенциальную угрозу перед одним из самых масштабных случаев стрельбы в истории Канады. Истцы утверждают, что трагедии можно было избежать при соблюдении внутренних протоколов безопасности.

Игнорирование рекомендаций экспертов

По данным судебных документов, за восемь месяцев до инцидента внутренняя команда специалистов по безопасности OpenAI выявила, что активность одного из пользователей ChatGPT несет реальную угрозу насилия с применением огнестрельного оружия. Согласно установленным правилам, в подобных ситуациях компания обязана незамедлительно уведомлять правоохранительные органы. Тем не менее, руководство OpenAI отклонило рекомендации экспертов.

Как сообщают источники в издании The Wall Street Journal, решение не передавать данные в полицию было продиктовано приоритетом конфиденциальности пользователя. Вместо обращения в правоохранительные органы компания ограничилась деактивацией учетной записи. При этом пользователю предоставили инструкции, позволяющие обойти блокировку и продолжить использование нейросети через регистрацию новой электронной почты.

Реакция руководства компании

Генеральный директор OpenAI Сэм Альтман признал допущенную ошибку, назвав произошедшее недопустимым. В своем официальном обращении к жителям Тамблер-Ридж, небольшого шахтерского поселения с населением около 2 тысяч человек, где произошла трагедия, он принес публичные извинения.

• Руководство OpenAI обязалось пересмотреть протоколы безопасности для предотвращения подобных инцидентов в будущем.
• Компания выразила готовность к сотрудничеству с государственными структурами всех уровней для усиления контроля над использованием технологий.
• Сэм Альтман подчеркнул важность признания ущерба, нанесенного местному сообществу, отметив, что своевременное уведомление полиции в июне могло изменить ход событий.

На текущий момент OpenAI заявляет о намерении усилить меры по выявлению опасного контента, чтобы исключить вероятность использования искусственного интеллекта для подготовки преступлений в реальном мире.