Поделиться

Сбер сделал общедоступной обновленную модель угроз для систем искусственного интеллекта

Поделиться

Сбер опубликовал в открытом доступе актуализированную модель угроз для систем искусственного интеллекта. Документ размещен на портале «Кибрарий» в разделе «Экспертам» и предназначен для использования государственными организациями и частными компаниями. Предполагается, что разработка поможет повысить уровень киберустойчивости отечественных ИИ-решений с учетом накопленного опыта компании.

Развитие генеративного искусственного интеллекта, мультиагентных систем, технологий RAG и LLM-адаптеров, а также усложнение архитектуры современных ИИ-платформ заметно изменили характер киберугроз. Именно эти изменения легли в основу новой версии модели, подготовленной специалистами Сбера.

В обновленном документе описаны 37 угроз и 51 сценарий их возможной реализации. Для каждой из них приведены потенциальные последствия, указаны затрагиваемые свойства информации, связанные объекты и этапы жизненного цикла системы.

Как отмечают разработчики, реализация подобных угроз может привести к утечке или подмене данных, нарушению доступности сервисов и логики работы ИИ, компрометации моделей и инфраструктуры, а также к выполнению ИИ-агентами действий, не предусмотренных их назначением.

Авторы модели также классифицировали угрозы по типам потенциальных нарушителей, учитывая уровень их подготовки, технические возможности и степень доступа к компонентам ИИ-систем. Кроме того, расширен перечень объектов защиты: в него включены элементы, которые ранее не считались критически важными, но сегодня все чаще становятся целью кибератак. Такой подход позволяет точнее оценивать риски с учетом особенностей конкретной архитектуры и условий эксплуатации ИИ-решений.

Модель ориентирована на разработчиков систем искусственного интеллекта, MLOps-инженеров, архитекторов, специалистов по информационной безопасности, а также руководителей, отвечающих за управление рисками. Документ помогает выстроить комплексный процесс анализа и учета киберугроз на всех этапах жизненного цикла ИИ — от подготовки данных и обучения моделей до их внедрения, эксплуатации и интеграции с корпоративными системами. Кроме того, его можно использовать при организации безопасной разработки и процессов MLOps для генеративных, агентных и мультиагентных решений.

В основу документа легли результаты анализа современных киберугроз, международные практики и собственный опыт Сбера по защите инфраструктуры, предназначенной для разработки, обучения и эксплуатации систем искусственного интеллекта.

Публикация модели предоставляет российским организациям готовый инструмент для раннего выявления и оценки потенциальных угроз, их приоритизации еще на этапе проектирования, а также распределения ответственности за реализацию мер по снижению рисков.

Теги:
Новости по теме:
Туры на Дальний Восток от BestArctic.ru erid:pjwvokpoevpk
Больше туров
6+ реклама
ООО «Пресс Код ИТ»
ОГРН 1227700267739, ИНН 9725083184
Картина дня Вся лента
Поделиться
Как дальневосточному бизнесу сохранить устойчивость в эпоху перемен

Удорожание логистики и смена привычных цепочек поставок стали серьезным испытанием для дальневосточных компаний. Чтобы найти эффективные решения для работы в новых условиях, свыше 2,5 тысяч предпринимателей со всего Дальнего Востока собрались на масштабный Бизнес-Фест от Сбера.

Читать полностью
Поделиться
Не внедрил ИИ — потерял бизнес

Искусственный интеллект уже перестал быть игрушкой технологических гигантов — его всё чаще примеряют на себя региональные компании из самых разных отраслей. В Хабаровске Сбер провёл «Акселератор» для местного бизнеса, на котором показал, как генеративный ИИ может сэкономить время, деньги и нервы. Строители, ритейлеры, логисты и айтишники делились опытом и страхами. А спикеры из Сбера объясняли, почему откладывать цифровую трансформацию — всё равно что играть в рулетку с собственной конкурентоспособностью. Разбираемся, что предлагает рынок и зачем это нужно именно сейчас.

Читать полностью
Поделиться
«Государство добавит вам до 360 тысяч»

Программа долгосрочных сбережений с государственным софинансированием уже привлекла миллионы участников — и особенно активно ею пользуются на Дальнем Востоке. Почему все больше людей подключаются к ней онлайн, как получить до 360 тысяч рублей от государства и зачем это может быть выгодно даже тем, кому до пенсии еще далеко — объясняет Светлана Кобелева, директор управления финансовой грамотности и эффективности продаж Дальневосточного банка Сбербанка, в интервью для агентства EastRussia.

Читать полностью
Поделиться
Внешняя торговля России в 2024 году: главные вопросы и возможности дальневосточных предпринимателей

Форум «Экспортный потенциал Приморья» представил лучших экспортеров региона. Мероприятие организовал Центр поддержки экспорта, который входит в краевой центр «Мой бизнес» при поддержке Министерства экономического развития Приморского края. Директор управления продаж малому бизнесу Дальневосточного Сбербанка Инна Войскович рассказала EastRussia о главных итогах участия в форуме.

Читать полностью
Поделиться
То, что рынок прописал

Свыше двух с половиной тысяч средних и крупных предприятий страны сегодня проходят цифровую трансформацию при поддержке Сбера. На территории обслуживания Дальневосточного Сбербанка в процессе цифровизации находится более 100 компаний. Они принадлежат к различным отраслям экономики, а общая картина региональной цифровизации в значительной мере отражает хозяйственную специфику субъектов федерации.

Читать полностью
Поделиться
Дорогие деньги на большие проекты

На IX Восточном экономическом форуме состоялась сессия «ВЭБ. РФ: как инвестировать в условиях дорогих денег?». Эксперты обсудили, каким образом при высокой ключевой ставке Центробанка эффективно поддерживать инвесторов, чтобы темпы реализации масштабных проектов развития Дальнего Востока оставались высокими.

Читать полностью
Поделиться
Льготам все едино

Осенью проект федерального закона о едином преференциальном режиме Дальнего Востока и Арктики планируется внести на рассмотрение в Госдуму, с тем чтобы 1 января 2027 года он мог вступить в силу. Его суть – в унификации мер поддержки компаниям-резидентам со стороны государства, повышении эффективности предоставляемых им льгот. В нынешних экономических реалиях всплеска инвестиционной активности ждать, пожалуй, не стоит, но в Минвостокразвития полагаются на достаточно стабильный прирост числа новых инвесторов.

Читать полностью
Поделиться
Инвестиционное Приморье: бизнес готов строить гольф-курорт, жилье и логистический центр

Седьмой в этом году пул приоритетных проектов получил зеленый свет от регионального правительства. Инвесторы намерены комплексно застраивать Снеговую Падь во Владивостоке, расширять жилой фонд Уссурийска и модернизировать логистику у пункта пропуска «Пограничный»

Читать полностью
Поделиться
Ученые из Биробиджана научились разрушать опасный гололед и превращать обычный лед в сверхпрочный материал

Суровый климат требует нестандартных решений. Исследователи НОЦ «АйсТех» разработали экологичную установку для бережной очистки асфальта от толстого наката и одновременно с этим создали уникальный метод армирования, который делает ледовые переправы в пятнадцать раз прочнее.

Читать полностью
Поделиться
«Скорость — новая валюта»: почему бизнес, игнорирующий ИИ, останется за бортом

Пока одни дальневосточные предприниматели только присматриваются к нейросетям, другие уже готовы увольнять топ-менеджеров за отказ работать с AI-агентами. На пятом форуме «Бизнес у моря» во Владивостоке представители власти и IT-рынка обсудили, почему искусственный интеллект стал «новой нефтью» и как цифровые сотрудники меняют архитектуру региональных компаний.

Читать полностью
Больше материалов