“Если по какой-то причине, не дай бог, все эти ИИ системы будут пытаться нас убить, они точно нас убьют”.
ИИ – это я
Один из исследователей безопасности OpenAI бьет тревогу по поводу явно мрачно звучащей перспективы того, что искусственный интеллект может в конечном итоге привести к концу человечества.
“Я думаю, что существует что-то вроде 10-20-процентной вероятности захвата ИИ, при котором многие или большинство людей погибнут”, – сказал бывший сотрудник OpenAI Пол Кристиано. “Я отношусь к этому вполне серьезно”.
Обсуждая возможность уничтожения ИИ, Кристиано сказал, что в отличие от печально известного “всепропальщика” Элиезера Юдковски, который с крыш кричит о сценарии “Терминатора” на базе ИИ, он считает, что наш конец от искусственного интеллекта наступит постепенно:
“Я склонен представить себе что-то вроде годичного перехода от систем ИИ, которые являются довольно большой проблемой, к ускоряющимся изменениям, за которыми последует дальнейшее ускорение и так далее.”
Неудачная ставка
Однако как только ИИ преодолеет порог человеческой разумности, все ставки будут сделаны.
“В целом, возможно, шансы на гибель возрастут до 50/50 вскоре после того, как у нас появятся системы ИИ, соответствующие человеческому уровню”, – сказал Кристиано.
Новая некоммерческая организация бывшего члена команды безопасности OpenAI – Исследовательский центр выравнивания – основана на концепции выравнивания ИИ, которую Кристиано широко определил еще в 2018 году как “совпадение мотивов машин с человеческими”.
В то время как OpenAI на словах рассказывает о выравнивании, утверждая, что его “цель – сделать искусственный интеллект общего назначения (ИИОН) согласованным с человеческими ценностями и следующим человеческим намерениям”, одной только концепции ИИОН достаточно, чтобы заставить исследователей вроде Кристиано задуматься.
Кристиано считает, что “наиболее вероятный способ нашей смерти” – это когда все искусственные интеллекты, используемые в повседневной жизни, объединяются, чтобы убить нас.
“Если по какой-то причине, не дай Бог, все эти системы ИИ будут пытаться убить нас, они точно нас убьют”, – заключил он.
Остается надеяться, что он ошибается.
Читайте также: Искусственный интеллект вскоре может создать новые религии, культы и Библии