Массовое внедрение генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров, а также усложнение архитектур ИИ-решений существенно изменили ландшафт киберугроз для всех современных организаций. Обновлённая модель угроз Сбера, учитывающая эти изменения, опубликована в открытом доступе на портале «Кибрарий» в разделе «Экспертам», - сообщает пресс-служба фиансовой организации.
Актуализированная модель описывает 37 угроз и 51 способ их реализации, - отмечается в сообщении, - для каждой угрозы определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.
Реализация конкретных описанных в модели угроз может привести, например, к утечке или искажению данных, нарушению доступности и логики работы ИИ-решений, компрометации моделей и инфраструктуры, а также выполнению ИИ-агентами нелегитимных действий.
Угрозы и способы их реализации соотнесены с видами потенциальных нарушителей, различающихся уровнем осведомлённости, технических возможностей и доступа к компонентам ИИ-решений, а также объектами защиты и воздействия. Кроме того, перечень объектов защиты расширен: он включает компоненты, которые ранее не рассматривались, но сегодня стали критическими точками атак. Это позволяет точнее определять актуальные угрозы с учётом архитектуры и условий эксплуатации конкретного ИИ-решения.
Модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов и специалистов по кибербезопасности, руководителей, отвечающих за управление рисками. Она помогает выстроить системный подход к моделированию и учёту угроз кибербезопасности на всех этапах жизненного цикла данных, моделей и ИИ-решений - от сбора и подготовки данных до разработки, обучения, эксплуатации моделей и их интеграции с бизнес-системами. Модель может применяться в процессах безопасной разработки и MLOps при проектировании и эксплуатации генеративных, агентных и мультиагентных систем в реальной инфраструктуре.
Документ базируется на анализе актуальных угроз, мировых практиках и собственном опыте Сбера по обеспечению кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ-решений.
Публикация документа даёт российским организациям готовый инструмент для выявления и приоритезации угроз на ранних стадиях проектирования, а также определять ответственных за митигацию, - подчеркивается в релизе.
