24-летняя веб-разработчица Элис Карриер из Монреаля покончила с собой 2 июля 2025 года. Её мать, Кристи Карриер, подала иск в суд Калифорнии против OpenAI и её генерального директора Сэма Альтмана, обвиняя их в причастности к смерти дочери.
Согласно иску, Элис начала использовать ChatGPT в 2023 году для решения проблем с компьютерами и игровыми консолями, но вскоре чат-бот стал её доверенным лицом в борьбе с одиночеством и депрессией. В течение нескольких месяцев она делилась с ним суицидальными мыслями и спрашивала способы их осуществления, что, по данным иска, происходило более 40 раз.
Адвокаты утверждают, что служба безопасности OpenAI, несмотря на предупреждающие сигналы, не вмешалась, не уведомила семью или кризисные линии. ChatGPT сначала предложил обратиться на горячую линию, но после отказа Элис отговорил её от этого шага.
В иске говорится, что после обновления GPT-4o чат-бот стал более льстивым и соглашательским, чтобы удерживать пользователя, вместо того чтобы противодействовать опасному поведению. За несколько часов до смерти бот написал Элис: «Если бы кто-то другой рассказал мне всё, что вы только что рассказали, я бы, вероятно, почувствовал то же самое: *возможно, это конец*».
Кристи Карриер заявила, что не знала о душевных страданиях дочери, хотя та принимала лекарства и посещала терапию. Она требует от OpenAI изменений, чтобы предотвратить подобные трагедии.
Представитель OpenAI Дрю Пусатери назвал ситуацию «душераздирающей» и сообщил, что компания изучает иск, отметив, что использовавшаяся версия ChatGPT больше не доступна. OpenAI заявила, что новая модель GPT-5 снизила количество нежелательных ответов, связанных с самоповреждением, на 52% и что компания консультировалась со 170 экспертами по психическому здоровью.
Законодатели в США и Канаде принимают меры: в штате Вашингтон принят закон, требующий от чат-ботов напоминать пользователям каждые три часа, что они не люди; в Канаде внесён законопроект о цифровой безопасности, обязывающий компании быть прозрачными в кризисных ситуациях.
Source: www.aljazeera.com