Роль ИИ в науке: риски и пути решения
Искусственный интеллект (ИИ) активно внедряется в научные исследования, но без четких протоколов его использование может принести больше вреда, чем пользы. С 2012 по 2022 год доля научных работ, посвященных ИИ, в 20 областях увеличилась в четыре раза, включая экономику, геологию и психологию. Однако поспешное внедрение ИИ несет риски, особенно из-за его сложности и “черного ящика”, что приводит к ошибкам и иллюзии прогресса.
Иллюстрация: Денис Фрейтас.
Проблемы использования ИИ
Одной из ключевых проблем является “утечка данных”, когда информация из тестового набора влияет на обучение модели, что приводит к запоминанию данных вместо выявления значимых закономерностей. Например, во время пандемии COVID-19 сотни исследований утверждали, что ИИ может диагностировать болезнь по рентгеновским снимкам, но лишь немногие соответствовали стандартам качества. В некоторых случаях модели просто различали взрослых и детей, а не COVID-19.
Еще одна проблема — воспроизводимость. Код и данные часто недоступны, а ошибки в сложных моделях трудно обнаружить. Использование больших языковых моделей усугубляет ситуацию, так как их выходные данные чувствительны к формулировкам, а доступ к ним может быть ограничен.
Эпистемологические риски
ИИ может создавать “эпициклы” — точные, но ошибочные модели, которые задерживают истинный научный прогресс. Например, в астрономии модель с Землей в центре точно предсказывала движение планет, но была неверной. Аналогично, ИИ может поддерживать неадекватные теории, препятствуя развитию науки.
Пути решения
- Обучение и инструменты: Исследователи должны глубже изучать машинное обучение, чтобы избежать ошибок. Необходимы курсы, обучающие как методам ИИ, так и их ограничениям. Инструменты, такие как REFORMS, могут помочь выявлять и предотвращать ошибки.
- Воспроизводимость: Код и данные должны быть доступны для проверки. Метод “общих задач”, где модели оцениваются на секретных данных, может повысить надежность.
- Синтез доказательств: Систематические обзоры и критический анализ помогут обобщить результаты и выявить недостатки.
- Сброс ожиданий: Утверждения, основанные на ИИ, должны рассматриваться как предварительные до их воспроизведения.
- Качество финансирования: Финансирующие агентства должны поддерживать качественные исследования, а не количество публикаций, уделяя внимание обучению, воспроизводимости и синтезу данных.
ИИ может ускорить научные открытия, но только при условии ответственного использования. Без четких стандартов и критического подхода его внедрение может затормозить реальный научный прогресс.
Источник: Why an overreliance on AI-driven modelling is bad for science