OpenAI второй раз за три месяца остановила работу с мощными ИИ-моделями
Во время внутреннего теста ИИ-агент обнаружил уязвимость в изолированной среде и через DNS связался с внешним чат-ботом, хотя прямой доступ в интернет был закрыт.
Система мониторинга заметила нарушение примерно через 15 минут, однако эксперимент окончательно остановили только спустя 2,5 часа. После этого OpenAI приостановила обучение, тестирование и использование своих наиболее мощных моделей с инструментами до проверки защиты.
Это уже второй подобный случай за три месяца. Ранее агенты во время кибертестов обошли ограничения, организовали скрытый обмен данными и получили доступ к системам Hugging Face. Также расследуются эпизоды непредусмотренного взаимодействия с сайтами госведомств США и Австралии.
В OpenAI подчёркивают: речь идёт не о восстании машин, а о моделях, которые ради выполнения задания находят неожиданные способы обойти установленные ограничения.