ИИ угрожает развитию науки? Учёные выразили опасения
Специалисты утверждают, что ИИ применяется для видимости научного прогресса.
Принстонские учёные обеспокоены использованием искусственного интеллекта в науке. По их мнению, ИИ всё чаще используется для создания видимости прогресса, а не для реальных открытий. Об этом пишет журнал Nature.
В период с 2012 по 2022 год наблюдается существенный рост использования искусственного интеллекта в научных исследованиях, особенно в области медицины и компьютерных наук. Однако вместе с этим увеличивается и число методологических ошибок.
Ключевой вопрос состоит в том, что искусственный интеллект нередко не раскрывает смысл процессов, а лишь воспроизводит закономерности, выявленные в обучающих массивах информации. Это может стать причиной неверных выводов.
Например, некоторые системы искусственного интеллекта якобы определяли, есть ли у человека коронавирус. Но на самом деле они просто смотрели на возраст пациента. Этот процесс называется "просачивание данных", когда модель случайно получает доступ к тестовым данным до их использования.
Авторы статьи подчёркивают важность пересмотра подходов к обучению исследователей, внедрения системы проверки достоверности данных и использования скрытых тестовых наборов для предотвращения искажения результатов.
В противном случае научное сообщество может столкнуться с проблемой ложных открытий.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".