Российские учёные из компании «Криптонит» (входит в «ИКС Холдинг») представили новую методику, которая поможет снизить частоту ошибок искусственного интеллекта. Разработанное решение позволяет точнее прогнозировать поведение нейросетей при изменении входных данных, что делает ИИ более надёжным и безопасным.

Нейросети лежат в основе большинства современных ИИ, но они не обладают разумом и часто демонстрируют ошибки при работе с данными, отличными от тех, на которых проходило обучение. Подобные сбои могут привести к серьёзным последствиям. Например, автопилоты Tesla не всегда корректно распознают объекты: они игнорируют велосипедистов со спины или принимают круги красного цвета на рекламных щитах за запрещающие сигналы светофора. Ошибки ИИ также затрагивают юридическую сферу: в 2024 году адвокаты в США столкнулись с риском использования моделей, которые ссылались на несуществующие судебные дела.

Эксперт отдела перспективных исследований «Криптонита», кандидат технических наук Никита Габдуллин разработал способ оценки обобщающей способности нейросетей. Методика основана на анализе их реакции на изменения данных или параметров. Исследование выявило общие закономерности в поведении различных нейросетей, что позволило предложить критерии оценки, основанные на анализе гессианов (математических характеристик). Эти критерии помогают точнее оценивать работу существующих систем и минимизировать ошибки при создании новых ИИ.

«Проявления ошибок ИИ могут быть самым разными, но причины их часто одинаковы и кроются в слабой предсказуемости поведения нейросетей при смене данных. Например, обученные модели могут демонстрировать впечатляющие метрики в лабораторных условиях, но резко снижать качество вывода при переходе к реальным данным», — отметил Никита Габдуллин.

Для внедрения методики специалисты «Криптонита» создали библиотеку с открытым исходным кодом Loss Landscape Analysis (LLA). Она предоставляет инструменты для анализа обобщающей способности нейросетей и позволяет разработчикам строить более надёжные модели.

Научная работа опубликована в открытом доступе и открывает новые горизонты для создания безопасных технологий на базе ИИ.

По материалам cnews.ru.