ИИ угрожает развитию науки? Учёные выразили опасения

Принстонские учёные обеспокоены использованием искусственного интеллекта в науке. По их мнению, ИИ всё чаще используется для создания видимости прогресса, а не для реальных открытий. Об этом пишет журнал Nature.

В период с 2012 по 2022 год наблюдается существенный рост использования искусственного интеллекта в научных исследованиях, особенно в области медицины и компьютерных наук. Однако вместе с этим увеличивается и число методологических ошибок.

Ключевой вопрос состоит в том, что искусственный интеллект нередко не раскрывает смысл процессов, а лишь воспроизводит закономерности, выявленные в обучающих массивах информации. Это может стать причиной неверных выводов.

Например, некоторые системы искусственного интеллекта якобы определяли, есть ли у человека коронавирус. Но на самом деле они просто смотрели на возраст пациента. Этот процесс называется "просачивание данных", когда модель случайно получает доступ к тестовым данным до их использования.

Авторы статьи подчёркивают важность пересмотра подходов к обучению исследователей, внедрения системы проверки достоверности данных и использования скрытых тестовых наборов для предотвращения искажения результатов.

В противном случае научное сообщество может столкнуться с проблемой ложных открытий.

Уважаемые читатели "Царьграда"! 

Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".