Провинция Британская Колумбия подала иск против компании OpenAI, обвиняя её в том, что она не уведомила правоохранительные органы об угрозах, сделанных пользователем в ChatGPT, перед одним из самых массовых расстрелов в истории Канады. Иск был подан в федеральный суд Сан-Франциско.
В феврале 2025 года 18-летний Джесси Ван Рутселаар застрелил восемь человек в средней школе и жилом доме в городе Тумблер-Ридж. Среди погибших — его 39-летняя мать и 11-летний сводный брат, а также пять детей и преподаватель школы. Сам нападавший покончил с собой. Генеральный прокурор Британской Колумбии Ники Шарма назвала иск «важным шагом на пути к справедливости».
В апреле генеральный директор OpenAI Сэм Альтман принёс извинения семьям жертв. «Я глубоко сожалею, что мы не уведомили правоохранительные органы», — написал он в открытом письме. Однако, по словам Шармы, компания до сих пор не предприняла «значительных шагов для решения проблем, поднятых выжившими и семьями».
Согласно иску, OpenAI заблокировала учётную запись Ван Рутселаара за восемь месяцев до трагедии за «использование моделей в целях насилия», но не сообщила в полицию, так как содержание «не соответствовало более высокому порогу для передачи». The Wall Street Journal сообщила, что около десятка сотрудников OpenAI обсуждали, стоит ли уведомлять власти, но руководство решило не делать этого. Издание Mother Jones утверждает, что после блокировки Ван Рутселаар создала второй аккаунт, и ChatGPT давал ей «советы о том, как обойти собственные системы безопасности».
Иск требует финансовой компенсации для покрытия расходов на экстренное реагирование и восстановление общины, включая снос и перестройку школы. Кроме того, суд должен обязать OpenAI пересмотреть политику выявления и реагирования на угрозы насилия. OpenAI подала ходатайства об отклонении исков, заявляя, что они должны рассматриваться в Британской Колумбии.
Эксперты отмечают, что это дело может стать важным прецедентом для определения ответственности ИИ-компаний за действия пользователей. Доцент Университета Саймона Фрейзера Жан-Кристоф Белиль-Пипон считает, что Британская Колумбия обратилась в американский суд, поскольку в Канаде ограничены размеры компенсаций. «Если факты подтвердятся в суде, это уже не просто неспособность предупредить. Это вопрос о том, какой вклад внёс сам продукт», — сказал он.
Юристы также указывают на нерешённость многих вопросов в области ответственности ИИ. «Это дело поднимает множество вопросов, на которые в американском праве пока нет ответов», — отметила доцент Юго-Западной школы права Тиффани Ли. Ожидается, что процесс может оказать значительное влияние на развитие законодательства в сфере ИИ.
Source: www.aljazeera.com