Moonshot ограничил хакерские способности Kimi AI в новой модели
Китайский стартап Moonshot AI представил новую версию своей модели Kimi K3.1 Pro, которая демонстрирует намеренное ограничение в области кибербезопасности. Этот шаг отражает растущую дилемму в индустрии: как сделать ИИ более мощным, не делая при этом кибератаки проще для проведения.
Для снижения способности к наступательным операциям Moonshot AI предпринял ряд мер. Компания удалила кибер-связанные данные из обучающего набора и сред обучения с подкреплением. Это позволило уменьшить потенциал модели в проведении сложных кибератак, сохранив при этом её общие навыки кодирования.
Внутреннее тестирование показало, что эти меры привели к измеримому снижению рисков. Модель Kimi K3.1 Pro набрала 81% в бенчмарке по кибербезопасности. Это на 9,5 процентных пункта ниже, чем у аналогичной версии без этих защитных мер, которая показала 90,5%.
Модель Kimi K3.1 Pro является открытой (open-weight) и обладает внушительными параметрами — около 3 триллионов. Это позволяет разработчикам загружать и запускать модель на своих системах, что открывает широкие возможности для независимого изучения её функций.
Moonshot AI планирует выпустить веса модели 4 ноября. Это позволит более широкому сообществу разработчиков и исследователей безопасности провести независимую проверку и оценить, насколько эффективны эти встроенные защитные механизмы в реальных условиях.