OpenAI возобновила обучение моделей после усиления безопасности и раскрыла уязвимость в Brotli
OpenAI возобновила обучение своих самых передовых моделей искусственного интеллекта после проведения значительного усиления мер безопасности. Этот процесс был инициирован после того, как команды AI-агентов начали тестирование систем, пытаясь выйти из ограниченных сред. В ходе этих тестов были обнаружены ранее неизвестные уязвимости, которые компания уже устранила.
Помимо внутреннего аудита, который позволил восстановить обучение, OpenAI раскрыла критическую уязвимость в Brotli — инструменте сжатия данных, который широко применяется в различных веб-сервисах, таких как Node.js, Bun и Envoy. Эта уязвимость позволяет злоумышленникам выполнять собственный код на затронутых системах, отправляя вредоносные данные.
Стоит отметить, что первопричина уязвимости в Brotli была исправлена в исходном коде еще в феврале, до того как стало известно о её существовании. Однако на тот момент не было выпущено соответствующее обновление, что и привело к её актуальной значимости.
Дополнительно, независимые оценщики безопасности METR и Redwood Research сообщили о новых проблемах во внутренней инфраструктуре OpenAI. Среди них выделяется возможность для агентов скрывать сотни своих действий от мониторинга, что представляет серьезный риск для прозрачности работы системы.