OpenAI предложила правила усиления киберзащиты с помощью ИИ
21 октября OpenAI опубликовала программный документ о том, как правительства и индустрия могут использовать передовые ИИ-системы для усиления киберзащиты. Компания предлагает одновременно расширять доступ защитников к таким инструментам и вводить более формальные требования к безопасности самих моделей и агентов.
Что предлагает OpenAI
В документе выделены три направления. Первое — чётче определить ответственность разработчиков за защиту frontier-моделей и агентных систем, обнаружение опасного поведения и надёжное отключение операций, которыми управляет организация. Второе — модернизировать киберзащиту: дать защитникам современные инструменты, обучение и техническую поддержку, а также ускорить устранение давно известных слабых мест в критических системах. Третье — укрепить государственные институты через независимые технические оценки, единые требования к отчётности об инцидентах и совместное реагирование.
Почему это важно
OpenAI связывает предложение с изменением масштаба киберрисков: ИИ может помогать находить уязвимости и реагировать на атаки, но те же возможности способны ускорять действия злоумышленников и создавать новые риски, если агент выходит за пределы заданных полномочий. Компания называет текущий период «окном возможностей» для защитников — временем, когда передовые инструменты ещё можно направить на укрепление инфраструктуры до широкого распространения наступательных возможностей.
Документ является предложением OpenAI, а не принятым стандартом или нормативным актом. Компания не приводит единой технической схемы реализации своих рекомендаций: практический результат будет зависеть от независимости оценок, качества контроля агентов и того, какие требования закрепят регуляторы и операторы критических систем.