Большинство сходится на вероятности примерно в пять процентов.
Опрос исследователей, работающих в области искусственного интеллекта (ИИ), показал, что в целом отрасль считает, что темпы прогресса ускоряются и могут принести человечеству всевозможную пользу, но многие обеспокоены потенциальными негативными последствиями нашей гонки за более совершенным ИИ.
В ходе опроса, который еще не прошел рецензирование, 2 778 исследователям ИИ задали ряд вопросов на тему искусственного интеллекта, в том числе о том, насколько плохим или хорошим окажется машинный интеллект высокого уровня (HLMI) для человечества. Участников попросили оценить в процентах вероятность того, что будущие достижения ИИ приведут к “вымиранию человечества или столь же необратимому и серьезному сокращению человеческого рода”. Средний прогноз составил 5%, причем вероятность того, что это произойдет в течение 100 лет, эксперты в среднем также оценили в 5%.
“В зависимости от того, как мы задавали вопрос, от 41,2 до 51,4 процента респондентов оценили вероятность вымирания человечества или серьезной деградации более чем в 10 процентов”, – сообщает команда в своем исследовании. Немного меньшая доля респондентов – 38 процентов – оценивает с той же десятипроцентной вероятностью развитие “крайне плохих” сценариев (например, вымирание людей)’ в вопросе “Насколько хорошим или плохим для людей будет машинный интеллект высокого уровня?”.
Ученые сравнили полученные результаты с таким же опросом, проведенным в 2022 году. В 2022 году участники прогнозировали, что прогресс в достижении определенных рубежей, таких как ИИ автоматизация всех рабочих мест или создание искусственным интеллектом первого романа-бестселлера, произойдет после 2050 года.
В последнем же опросе, возможно, из-за ажиотажа вокруг развития чатботов за прошедший год, прогноз сместился на 20 лет раньше – 2030 год. В других задачах, основанных на языке, прогнозируемые сроки также изменились на более ранние.
“Хотя диапазон мнений о том, сколько времени потребуется для достижения поставленных целей, может быть очень широким, в этом году в ходе опроса наблюдался общий сдвиг в сторону более ранних ожиданий”, – пояснила команда. “За четырнадцать месяцев, прошедших с момента последнего опроса, аналогичный контингент участников сдвинул ожидания достижения ИИ человеческого уровня в среднем на 13-48 лет раньше”.
“В целом, мнения об ожидаемых социальных последствиях продвинутого ИИ разделились, и большинство специалистов придают определенное значение как крайне хорошим, так и крайне плохим сценариям”, – заключили они. “В то время как оптимистичные сценарии отражают положительный потенциал ИИ по революционному изменению различных аспектов работы и жизни, пессимистичные прогнозы – особенно те, которые связаны с рисками вымирания – служат суровым напоминанием о высоких ставках, связанных с разработкой и внедрением искусственного интеллекта”.
Результаты опроса доступны в виде препринта.
Читайте также: Искусственный интеллект теперь способен воспроизводиться без человека