Генеральный директор OpenAI Сэм Альтман принес извинения канадскому городу Тамблер-Ридж после массовой стрельбы в феврале, в результате которой погибли восемь человек. Альтман заявил, что ему «глубоко жаль», что компания не предупредила полицию о подозрительных аккаунтах ChatGPT стрелка.

Премьер Британской Колумбии Дэвид Эби назвал извинения «необходимыми, но совершенно недостаточными». 18-летняя трансгендерная женщина 10 февраля убила свою мать и сводного брата дома, затем отправилась в местную среднюю школу, где застрелила пятерых детей и учителя, после чего покончила с собой.

После атаки OpenAI заявила, что выявила аккаунт подозреваемого через свои системы обнаружения нарушений и заблокировала его в июне, за восемь месяцев до стрельбы. Разработчик ChatGPT не сообщил об этом канадской полиции, поскольку активность не достигла порога для передачи в правоохранительные органы.

Альтман сказал: «Я глубоко сожалею, что мы не уведомили правоохранительные органы об аккаунте, заблокированном в июне. Хотя я знаю, что слов никогда не будет достаточно, я считаю, что извинения необходимы, чтобы признать вред и невосполнимую потерю, которую понесло ваше сообщество».

OpenAI использует автоматизированные системы модерации, которые сканируют контент в реальном времени. В серьезных случаях системы предназначены для пометки высокорискованного поведения для проверки человеком. При выявлении достоверной угрозы компания может передать соответствующие данные аккаунта правоохранительным органам.

После нападения канадские официальные лица вызвали команду безопасности OpenAI и предупредили о регуляторных мерах, если изменения не будут внесены. Компания пообещала ужесточить меры безопасности и создала прямой канал связи с полицией.

Семья девочки, серьезно раненной во время стрельбы, подала иск о халатности против американского технологического гиганта.

Source: www.dw.com