В Бразилии фермера арестовали за обсуждение убийства сына с ChatGPT
В Бразилии правоохранительные органы задержали 36-летнего фермера, который на протяжении двух месяцев обсуждал с ChatGPT планы убийства своего восьмилетнего сына, нападений на полицейских и совершения самоубийства, сообщает Би-би-си. Сигнал о потенциально опасном пользователе поступил в бразильское Министерство юстиции от ФБР, которое, в свою очередь, получило уведомление от компании OpenAI.
Полиция штата Эспириту-Санту присвоила делу приоритетный статус из-за высокой степени риска, поскольку, согласно переписке, мужчина планировал расправиться с ребенком до 20 июня. Подозреваемый практически не общался с сыном и ограничивался выплатой алиментов, что, по версии следствия, могло стать одним из мотивов. Во время обыска в его доме оперативники изъяли бутылки с неизвестными веществами и веревку с петлей, а также установили, что мужчина искал информацию о ядах, в том числе о рицине, и пытался обойти защитные алгоритмы нейросети.
В сообщениях чат-боту бразилец утверждал, что пытался нанять киллера для себя и ребенка, а также рассматривал варианты нападения на школы, церкви или полицейских, чтобы спровоцировать ответный смертельный огонь. Проведя под стражей 54 дня, 13 августа мужчина был освобожден под электронный браслет с запретом приближаться к сыну. В настоящее время следователи проверяют его телефон и анализируют изъятые вещи, чтобы установить, перешел ли подозреваемый от намерений к реальной подготовке преступления.
Адвокат задержанного отрицает вину подзащитного, заявляя, что тот просто писал чат-боту "всякую чушь", не предпринимая никаких практических действий. Защита также указывает на проблему с доказательной базой, поскольку компания OpenAI передала следователям лишь текстовые запросы пользователя, но не ответила, что именно генерировал сам ChatGPT. Это создало юридическую дискуссию о том, насколько полно текстовые логи отражают контекст беседы и не провоцировал ли ИИ пользователя на подобные высказывания.
Данный случай стал одним из первых в мировой практике, когда автоматическая система обнаружения угроз в ИИ-платформе привела к аресту человека до совершения насильственного акта. Прецедент поднял сложный правовой и этический вопрос о допустимых границах вмешательства искусственного интеллекта в частную жизнь и о том, как юристам и полиция отслеживать реальные преступные намерения, не превращая алгоритмы в инструмент тотальной слежки.
