Claude сдал девушку полиции — она использовала бота как личный дневник и записывала туда свои мысли
30-летняя Карли Мишель Хеллер из Бонита-Спрингс, Флорида, использовала Claude как личный дневник. 26 сентября она записала туда: «Я собираюсь застрелить шерифа прямо сейчас». На следующий день добавила: «Это последний шанс, у меня сегодня новая пушка» .
Система безопасности Claude автоматически flagged эти сообщения и передала их на проверку человеку. Сотрудник Anthropic счёл угрозу реальной и сообщил в полицию. Девушку задержали без происшествий. Ей предъявили обвинение в письменных угрозах насилием — это тяжкое преступление второй степени во Флориде .
По политике Anthropic, компания не раскрывает данные пользователей по запросу властей без ордера или повестки — кроме случаев, когда речь идёт о неминуемой физической опасности или смерти. В этой ситуации именно компания первой вышла на полицию, а не наоборот .
Девушка позже сказала полиции, что просто вела дневник в Claude. «Это останется между нами» — так себе вышло.
