OpenAI выявила угрозу убийства в переписке пользователя с ChatGPT
Система безопасности ChatGPT помогла предотвратить возможное убийство 21-летней жительницы Флориды. Угрозу удалось выявить после того, как 25-летний сотрудник Goldman Sachs Даррен Шида Чжоу подробно описал в переписке с чат-ботом планы похитить, изнасиловать и убить бывшую девушку, передает Azattyq Rýhy со ссылкой на Bild.
«Если она не даст мне второй шанс, я изнасилую и убью ее, а затем себя», - писал он.
Как сообщает Palm Beach Post со ссылкой на материалы суда, системы безопасности OpenAI обнаружили угрозы, после чего сотрудник компании проверил переписку и передал информацию ФБР. Материалы затем поступили местной полиции. Следователи расценили сообщения как реальный план преступления и арестовали Чжоу.
Он признал вину, а также подтвердил, что после расставания преследовал бывшую девушку, звонил и писал ей с разных номеров и аккаунтов.
Суд назначил Чжоу восемь лет условного срока и обязал его в течение двух лет носить электронный браслет. Ему также запрещено контактировать с бывшей девушкой и владеть огнестрельным оружием. После произошедшего Goldman Sachs уволил Чжоу.