Поделиться

Сбер сделал общедоступной библиотеку SIRIN для выявления ошибок в ответах нейросетей

Поделиться

Команда исследователей Центра практического искусственного интеллекта Сбербанка представила в открытом доступе библиотеку SIRIN (Semantic Inconsistency Recognition and Inspection Nexus — «Обнаружение и анализ семантических несоответствий»). Инструмент предназначен для повышения надежности языковых моделей и ИИ-агентов, помогая выявлять в их ответах недостоверные сведения и утверждения, которые не подтверждаются исходными данными.

SIRIN объединяет сразу несколько методов анализа ответов искусственного интеллекта. Благодаря этому разработчики могут тестировать различные подходы, комбинировать их между собой и выбирать наиболее эффективный вариант для конкретной задачи. Библиотека анализирует как ответ целиком, так и его отдельные части, указывая участки, где модель могла допустить ошибку. Кроме того, инструмент способен заранее оценить, хватает ли системе информации для подготовки корректного ответа. Если данных недостаточно, ИИ может запросить дополнительные сведения или отказаться от формирования неподтвержденного вывода, предотвращая появление ошибок еще до выдачи результата.

В основе разработки лежат исследования Сбера, посвященные обнаружению так называемых «галлюцинаций» искусственного интеллекта. Специалисты команды исполнительного директора по исследованию данных Центра практического ИИ Максима Макаренко создали метамодели, которые позволяют увеличить точность выявления подобных ошибок почти на 30%, используя для обучения всего 250 примеров.

Старший управляющий директор и директор по AI-трансформации Сбербанка Сергей Рябов сообщил, что компания последовательно внедряет технологии искусственного интеллекта и накопила значительный опыт в этой сфере. По его словам, библиотека SIRIN, уже доказавшая свою эффективность во внутренних клиентских сервисах, была открыта для всех участников рынка, чтобы способствовать развитию отечественных ИИ-решений. Он отметил, что воспользоваться инструментом может любая компания.

Интеграция SIRIN в ИИ-ассистента занимает всего несколько минут. Решение будет полезно организациям, использующим большие языковые модели и заинтересованным в контроле качества взаимодействия с пользователями. Кроме того, библиотека подойдет разработчикам RAG-систем, ИИ-агентов и интеллектуальных помощников, а также исследователям, которым необходима платформа для проверки новых алгоритмов.

Библиотека уже доступна на российской платформе GitVerse и на GitHub, а демонстрационная веб-версия опубликована на Hugging Face.

Теги:
Новости по теме:
Туры на Дальний Восток от BestArctic.ru erid:pjwvokpoevpk
Больше туров
6+ реклама
ООО «Пресс Код ИТ»
ОГРН 1227700267739, ИНН 9725083184
Картина дня Вся лента
Поделиться
Как дальневосточному бизнесу сохранить устойчивость в эпоху перемен

Удорожание логистики и смена привычных цепочек поставок стали серьезным испытанием для дальневосточных компаний. Чтобы найти эффективные решения для работы в новых условиях, свыше 2,5 тысяч предпринимателей со всего Дальнего Востока собрались на масштабный Бизнес-Фест от Сбера.

Читать полностью
Поделиться
Не внедрил ИИ — потерял бизнес

Искусственный интеллект уже перестал быть игрушкой технологических гигантов — его всё чаще примеряют на себя региональные компании из самых разных отраслей. В Хабаровске Сбер провёл «Акселератор» для местного бизнеса, на котором показал, как генеративный ИИ может сэкономить время, деньги и нервы. Строители, ритейлеры, логисты и айтишники делились опытом и страхами. А спикеры из Сбера объясняли, почему откладывать цифровую трансформацию — всё равно что играть в рулетку с собственной конкурентоспособностью. Разбираемся, что предлагает рынок и зачем это нужно именно сейчас.

Читать полностью
Поделиться
«Государство добавит вам до 360 тысяч»

Программа долгосрочных сбережений с государственным софинансированием уже привлекла миллионы участников — и особенно активно ею пользуются на Дальнем Востоке. Почему все больше людей подключаются к ней онлайн, как получить до 360 тысяч рублей от государства и зачем это может быть выгодно даже тем, кому до пенсии еще далеко — объясняет Светлана Кобелева, директор управления финансовой грамотности и эффективности продаж Дальневосточного банка Сбербанка, в интервью для агентства EastRussia.

Читать полностью
Поделиться
Внешняя торговля России в 2024 году: главные вопросы и возможности дальневосточных предпринимателей

Форум «Экспортный потенциал Приморья» представил лучших экспортеров региона. Мероприятие организовал Центр поддержки экспорта, который входит в краевой центр «Мой бизнес» при поддержке Министерства экономического развития Приморского края. Директор управления продаж малому бизнесу Дальневосточного Сбербанка Инна Войскович рассказала EastRussia о главных итогах участия в форуме.

Читать полностью
Поделиться
То, что рынок прописал

Свыше двух с половиной тысяч средних и крупных предприятий страны сегодня проходят цифровую трансформацию при поддержке Сбера. На территории обслуживания Дальневосточного Сбербанка в процессе цифровизации находится более 100 компаний. Они принадлежат к различным отраслям экономики, а общая картина региональной цифровизации в значительной мере отражает хозяйственную специфику субъектов федерации.

Читать полностью
Поделиться
Дорогие деньги на большие проекты

На IX Восточном экономическом форуме состоялась сессия «ВЭБ. РФ: как инвестировать в условиях дорогих денег?». Эксперты обсудили, каким образом при высокой ключевой ставке Центробанка эффективно поддерживать инвесторов, чтобы темпы реализации масштабных проектов развития Дальнего Востока оставались высокими.

Читать полностью
Больше материалов