OpenAI зобов'язалася сповіщати поліцію про користувачів, чиї розмови з ChatGPT «перейшли межу неминучої та ймовірної загрози». До таких заходів компанія вдається після того, як у Канаді відбулася стрільба у школі, під час якої вбили вісім людей, передає The Washington Post.
Компанія надіслала листа до уряду Канади, де назвала кілька негайних кроків, які вона вжила у відповідь на вбивства, та зазначила, що якби їх було вжито раніше, поліція могла б запобігти трагічній події. Раніше повідомлялося, що OpenAI вирішила не повідомляти правоохоронні органи про підозрілі повідомлення.
Йдеться про найгіршу в історії Канади стрілянину у школі, що відбулася 10 лютого у Тамблер-Рідж, Британська Колумбія. Тоді Джессі Ван Рутселаар вбила вісім людей, після чого покінчила із собою. До цього OpenAI заблокувала її обліковий запис у ChatGPT, але дівчина змогла обійти обмеження, створивши ще один акаунт, про який дізналися вже після події.
Перший обліковий запис заблокували у червні 2025 року за проблематичне використання сервісу, однак тоді OpenAI не виявила «ймовірних та неминучих планів», через які компанія могла б звернутися до поліції. Після цього Рутселаар якимось чином змогла обійти обмеження стартапа та створити ще один акаунт, про який дізналися лише коли розкрили ім'я стрільця — його одразу передали поліції.
Віцепрезидентка OpenAI з питань глобальної політики, Енн О'Лірі, заявила, що компанія посилить протоколи щодо зв'язку з поліцією, «коли розмови переходять межу неминучої та ймовірної загрози». Вона також сказала, що згідно з новим розширеним протоколом направлення справ правоохоронним органам, обліковий запис Рутселаар, заблокований у червні, одразу був би переданий поліції, якби його виявили сьогодні.