Мужчина два месяца описывал чат-боту планы изнасилования и убийства. OpenAI обнаружила переписку и передала её полиции, сообщает Ulysmedia.kz.
25-летний Даррен Чжоу, бывший финансовый аналитик Goldman Sachs, получил восемь лет пробации за то, что неделями рассказывал ChatGPT о планах похитить, изнасиловать и убить свою 21-летнюю бывшую девушку. Системы безопасности OpenAI сами обнаружили эти разговоры и сообщили о них в ФБР. Его арестовали до того, как он успел что-то сделать.
История началась в марте 2026 года, когда Чжоу расстался с девушкой из Лейк-Уэрт-Бич (Флорида). Отношения длились полгода. После разрыва он начал рассказывать ChatGPT о бывшей, а потом разговоры быстро перешли к угрозам.
— Я убью её до конца этого месяца. Если я не смогу быть с ней, тогда никто не сможет, — писал Чжоу чат-боту.
Угрозы становились конкретнее. Он описывал, как будет ждать девушку на парковке у спортзала с букетом цветов. Если она откажется вернуться, он достанет пистолет. В другом сценарии он планировал похитить её под угрозой оружия, отвезти к себе домой и изнасиловать. Также утверждал, что купил винтовку AR-15, пистолет Glock и дробовик, хотя позже адвокат заявил, что оружия у него не было.
Параллельно Чжоу преследовал девушку в реальной жизни. Она заблокировала его номер, но он создавал новые через приложения и продолжал писать. Отправлял ей фотографии оружия, пластиковых стяжек и латексных перчаток. В день её 21-летия написал, что «не может дождаться» встречи вечером.
Системы OpenAI автоматически обнаружили разговоры об угрозах. По политике компании, такие сообщения передают на ручную проверку специальной группе сотрудников. Если те решают, что существует реальная угроза жизни, OpenAI обращается в полицию.
23 мая ФБР связалось с полицией округа Палм-Бич и передало два месяца переписки Чжоу с ChatGPT. Нужно отметить, что в массиве были только сообщения самого Чжоу, без ответов бота. Полицейский, который изучил переписку, заключил, что это не «эмоциональные вспышки», а последовательное планирование насилия.
Чжоу арестовали 29 мая. Он провёл два дня в тюрьме и вышел под залог в 100 тысяч долларов. Goldman Sachs уволил его в июне.
13 августа Чжоу признал вину по всём трём обвинениям и заключил сделку с прокуратурой. Ему грозило до 25 лет тюрьмы, но судья Скотт Саскауэр согласился на мягкий вариант, потому что сама жертва его поддержала.
Чжоу получил восемь лет пробации. Первые два года будет носить GPS-браслет. Ему запретили контактировать с бывшей, владеть оружием, употреблять алкоголь и наркотики. Также он должен пройти программу для лиц, совершавших домашнее насилие, и психиатрическое обследование.
— Забудь об этом и живи дальше. В мире есть другие люди. Никто не заслуживает подобного обращения, — сказал судья Чжоу.
Его адвокат назвал сделку «справедливой» и подчеркнул, что Чжоу окончил Северо-Восточный университет в Бостоне с отличием и раньше не привлекался к ответственности.
— Он не жестокий человек. Он пережил тяжёлый психологический кризис, — заявил адвокат Стивен Белл.
Ранее мы писали, что международное исследование выявило опасные стороны ChatGPT. По данным Центра по противодействию цифровой ненависти, 53% ответов бота на вредоносные запросы содержали опасный контент. В ряде случаев ИИ помогал подросткам составлять прощальные письма и давал советы о «безопасных» способах самоповреждения.