Большинство сходится на вероятности примерно в пять процентов.
Опрос исследователей, работающих в области искусственного интеллекта (ИИ), показал, что в целом отрасль считает, что темпы прогресса ускоряются и могут принести человечеству всевозможную пользу, но многие обеспокоены потенциальными негативными последствиями нашей гонки за более совершенным ИИ.
В ходе опроса, который еще не прошел рецензирование, 2 778 исследователям ИИ задали ряд вопросов на тему искусственного интеллекта, в том числе о том, насколько плохим или хорошим окажется машинный интеллект высокого уровня (HLMI) для человечества. Участников попросили оценить в процентах вероятность того, что будущие достижения ИИ приведут к «вымиранию человечества или столь же необратимому и серьезному сокращению человеческого рода». Средний прогноз составил 5%, причем вероятность того, что это произойдет в течение 100 лет, эксперты в среднем также оценили в 5%.
«В зависимости от того, как мы задавали вопрос, от 41,2 до 51,4 процента респондентов оценили вероятность вымирания человечества или серьезной деградации более чем в 10 процентов», — сообщает команда в своем исследовании. Немного меньшая доля респондентов — 38 процентов — оценивает с той же десятипроцентной вероятностью развитие «крайне плохих» сценариев (например, вымирание людей)’ в вопросе «Насколько хорошим или плохим для людей будет машинный интеллект высокого уровня?».
Ученые сравнили полученные результаты с таким же опросом, проведенным в 2022 году. В 2022 году участники прогнозировали, что прогресс в достижении определенных рубежей, таких как ИИ автоматизация всех рабочих мест или создание искусственным интеллектом первого романа-бестселлера, произойдет после 2050 года.
В последнем же опросе, возможно, из-за ажиотажа вокруг развития чатботов за прошедший год, прогноз сместился на 20 лет раньше — 2030 год. В других задачах, основанных на языке, прогнозируемые сроки также изменились на более ранние.
«Хотя диапазон мнений о том, сколько времени потребуется для достижения поставленных целей, может быть очень широким, в этом году в ходе опроса наблюдался общий сдвиг в сторону более ранних ожиданий», — пояснила команда. «За четырнадцать месяцев, прошедших с момента последнего опроса, аналогичный контингент участников сдвинул ожидания достижения ИИ человеческого уровня в среднем на 13-48 лет раньше».
«В целом, мнения об ожидаемых социальных последствиях продвинутого ИИ разделились, и большинство специалистов придают определенное значение как крайне хорошим, так и крайне плохим сценариям», — заключили они. «В то время как оптимистичные сценарии отражают положительный потенциал ИИ по революционному изменению различных аспектов работы и жизни, пессимистичные прогнозы — особенно те, которые связаны с рисками вымирания — служат суровым напоминанием о высоких ставках, связанных с разработкой и внедрением искусственного интеллекта».
Результаты опроса доступны в виде препринта.
Читайте также: Искусственный интеллект теперь способен воспроизводиться без человека
