ISO опубликовала стандарт по угрозам и компрометации ИИ-систем
14 октября ISO опубликовала ISO/IEC 27090:2026 — первый международный стандарт, специально посвящённый угрозам и компрометации систем искусственного интеллекта. Документ предназначен для организаций любого типа и размера, которые разрабатывают или используют ИИ.
Что вошло в стандарт
ISO/IEC 27090 рассматривает безопасность на протяжении всего жизненного цикла ИИ-системы: при подготовке данных, обучении, эксплуатации и обновлении модели. В описании стандарта отдельно упоминаются отравление данных и кража модели. Также документ объясняет, какие последствия могут иметь такие атаки, как их выявлять и какие меры помогают снизить риск.
Стандарт выпустил технический подкомитет ISO/IEC JTC 1/SC 27, отвечающий за информационную и кибербезопасность. Первое издание насчитывает 56 страниц. ISO подчёркивает, что публикация дополняет, а не заменяет общие практики управления информационной безопасностью, включая ISO/IEC 27001 и ISO/IEC 27002.
Почему это важно
Для ИИ-проектов недостаточно защищать только серверы и учётные записи: изменение обучающих данных может повлиять на поведение будущей версии модели, а запросы и другие входы могут использоваться для извлечения самой модели или чувствительной информации. Поэтому контроль должен охватывать данные, модель, цепочку поставок, интерфейсы и процессы обновления.
ISO/IEC 27090 задаёт общую терминологию и структуру оценки угроз, но не является автоматической сертификацией безопасности конкретного продукта. Организациям всё равно придётся выбирать меры с учётом архитектуры и последствий отказа. Практическая ценность стандарта — в единой рамке, которая помогает сопоставить ИИ-специфические риски с уже действующими процессами кибербезопасности.