Перейти к содержимому 
Искусственный интеллект обещает ускорить научные открытия, но если ученые не будут осторожны, общественное доверие может быть подорвано.
Искусственный интеллект (ИИ) занял центральное место в фундаментальной науке. Пять лауреатов Нобелевских премий 2024 года по химии и физике объединяет одна общая черта: искусственный интеллект. Действительно, многие ученые, включая Нобелевские комитеты, приветствуют ИИ как преобразующую силу в науке.
Как сказал один из лауреатов, потенциал ИИ для ускорения научных открытий делает его «одной из самых преобразующих технологий в истории человечества». Но что эта трансформация будет на самом деле означать для науки?
Искусственный интеллект обещает помочь ученым делать больше, быстрее и с меньшими затратами. Но он также несет в себе множество новых проблем, и если ученые бросятся внедрять ИИ, они рискуют превратить науку в нечто, выходящее за рамки общественного понимания и доверия и не отвечающее потребностям общества.
Содержание
Иллюзии понимания
Эксперты уже выявили как минимум три иллюзии, которые могут ввести в заблуждение исследователей, использующих искусственный интеллект.
Первая — это «иллюзия глубины объяснения». Тот факт, что модель ИИ, такая как AlphaFold (которая получила Нобелевскую премию по химии за предсказание структуры белка), преуспевает в прогнозировании явления, не означает, что она может точно его объяснить. Исследования в области нейробиологии уже показали, что модели ИИ, разработанные для оптимизированного прогнозирования, могут привести к ошибочным выводам об основных нейробиологических механизмах.
Вторая — это «иллюзия широты исследования». Ученые могут думать, что они исследуют все проверяемые гипотезы в своих исследованиях, тогда как на самом деле они рассматривают лишь ограниченный набор гипотез, которые можно проверить с помощью ИИ.
Наконец, «иллюзия объективности». Ученые могут полагать, что модели ИИ свободны от предвзятости или что они могут учесть все возможные человеческие предубеждения. В действительности, однако, все модели ИИ неизбежно отражают предубеждения, присутствующие в их обучающих данных и намерениях их разработчиков.
Более дешевая и быстрая наука
Одна из основных причин растущей привлекательности ИИ в науке — его потенциал производить больше результатов, быстрее и с гораздо меньшими затратами.
Крайним примером этой тенденции является машина «Ученый искусственный интеллект», недавно разработанная Sakana AI Labs. Видение компании заключается в разработке «полностью управляемой ИИ системы для автоматизированных научных открытий», где каждая идея может быть преобразована в полноценную исследовательскую работу всего за 15 долларов США, хотя критики уже заявили, что система производит «бесконечную научную чепуху».
Действительно ли мы хотим будущего, где исследовательские работы можно создавать всего несколькими щелчками мыши, просто чтобы «ускорить» производство науки? Это грозит затопить научную экосистему статьями, не имеющими смысла и ценности, еще больше нагружая и без того перегруженную систему рецензирования. Мы можем оказаться в мире, где наука, какой мы ее знали, погребена под шумом контента, сгенерированного ИИ.
Отсутствие контекста
Расцвет ИИ в науке происходит в то время, когда общественное доверие к науке и ученым все еще довольно высоко, но мы не можем принимать его как должное. Доверие — это сложная и хрупкая вещь.
Как мы узнали во время пандемии COVID-19, призывы «доверять науке» могут оказаться недостаточными, поскольку научные данные и вычислительные модели часто оспариваются, они неполны или открыты для различных интерпретаций.
Однако мир сталкивается с множеством проблем, таких как изменение климата, утрата биоразнообразия и социальное неравенство, которые требуют государственной политики, разработанной с учетом экспертных оценок. Эти оценки также должны учитывать конкретные ситуации, собирая информацию из различных дисциплин и жизненного опыта, которые должны интерпретироваться через призму местной культуры и ценностей.
Как утверждалось в докладе Международного научного совета, опубликованном в 2023 году, наука должна признавать нюансы и контекст для восстановления общественного доверия. Если мы позволим ИИ формировать будущее науки, это может подорвать с трудом завоеванный прогресс в этой области.
Если мы позволим ИИ взять на себя ведущую роль в научных исследованиях, мы рискуем создать монокультуру знаний, которая отдает приоритет тем видам вопросов, методов, перспектив и экспертов, которые лучше всего подходят для ИИ.
Это может отдалить нас от трансдисциплинарного подхода, необходимого для ответственного ИИ, а также от нюансированных публичных рассуждений и диалога, необходимых для решения наших социальных и экологических проблем.
Новый социальный контракт для науки
В начале 21 века некоторые утверждали, что у ученых появился обновленный социальный контракт, в котором ученые сосредоточивают свои таланты на самых насущных проблемах нашего времени в обмен на государственное финансирование. Цель состоит в том, чтобы помочь обществу двигаться к более устойчивой биосфере — экологически безопасной, экономически жизнеспособной и социально справедливой.
Подъем ИИ предоставляет ученым возможность не только выполнять свои обязанности, но и оживить сам контракт. Однако научному сообществу необходимо сначала решить некоторые важные вопросы, касающиеся использования ИИ.
Например, является ли использование ИИ в науке своего рода «аутсорсингом», который может поставить под угрозу целостность финансируемых государством работ? Как с этим следует поступить?
Как насчет растущего воздействия ИИ на окружающую среду? И как исследователи могут соответствовать ожиданиям общества, интегрируя искусственный интеллект в исследовательский процесс?
Идея преобразования науки с помощью ИИ без предварительного заключения этого социального контракта рискует поставить телегу впереди лошади.
Если позволить ИИ формировать наши исследовательские приоритеты без участия различных голосов и дисциплин, это может привести к несоответствию тому, что действительно нужно обществу, и к неэффективному распределению ресурсов. Наука должна приносить пользу всему обществу. Ученым необходимо вести реальные разговоры о будущем ИИ в своем профессиональном сообществе и с заинтересованными сторонами в области исследований.
Эти дискуссии должны затрагивать аспекты этого обновленного социального контракта, отражая общие цели и ценности.
Настало время активно изучить различные варианты будущего, которые искусственный интеллект открывает или блокирует для науки, и установить необходимые стандарты и руководящие принципы для ответственного использования его потенциала.
Читайте также: Искусственный интеллект уже распространился по космосу, считает бывший главный историк NASA
Комментировать можно ниже в разделе “Добавить комментарий”.