Исследователи Сколтеха и Института проблем передачи информации РАН разработали метод, повышающий точность оценки нейросетями собственной «уверенности» в прогнозах. Метод использует специальные тренировочные данные (Confidence-Aware Training Data) и направлен на повышение надежности моделей в ответственных сферах, таких как медицина и промышленность. Результаты представлены на конференции WACV-2025.
Современные нейросети часто проявляют избыточную уверенность, даже при неоднозначных или зашумленных данных. Новый подход помогает моделям выявлять случаи, требующие дополнительной проверки человеком. Технология протестирована на реальных данных, включая медицинскую диагностику, и показала значительное улучшение в оценке неопределенности.
В отличие от классических методов с бинарными метками (0 или 1), в новой методике используются «мягкие» метки (от 0 до 1), отражающие уверенность экспертов в разметке. Это позволяет модели принимать более осторожные решения и эффективнее справляться с неопределенностью. Метод учитывает два типа неопределенности: эпистемическую (из-за недостатка данных) и алеаторную (из-за шума в данных).
«Наш метод учит нейросеть проявлять осторожность в сложных случаях, снижая риск излишней уверенности. Мы подтвердили его эффективность на реальных данных», — отметил Александр Югай, младший инженер-исследователь Сколтеха.
Технология может быть применена в медицине, промышленной автоматизации, системах контроля и автономных решениях. «Мы научили модель выделять случаи с высоким риском ошибки, что критически важно для ответственных областей», — добавил Алексей Зайцев, доцент Сколтеха.
Сколтех научил ИИ сомневаться / © Uriel SC, unsplash.com.
Дополнительная информация: WACV 2025 Open Access Repository