«Если по какой-то причине, не дай бог, все эти ИИ системы будут пытаться нас убить, они точно нас убьют».
ИИ — это я
Один из исследователей безопасности OpenAI бьет тревогу по поводу явно мрачно звучащей перспективы того, что искусственный интеллект может в конечном итоге привести к концу человечества.
«Я думаю, что существует что-то вроде 10-20-процентной вероятности захвата ИИ, при котором многие или большинство людей погибнут», — сказал бывший сотрудник OpenAI Пол Кристиано. «Я отношусь к этому вполне серьезно».
Обсуждая возможность уничтожения ИИ, Кристиано сказал, что в отличие от печально известного «всепропальщика» Элиезера Юдковски, который с крыш кричит о сценарии «Терминатора» на базе ИИ, он считает, что наш конец от искусственного интеллекта наступит постепенно:
«Я склонен представить себе что-то вроде годичного перехода от систем ИИ, которые являются довольно большой проблемой, к ускоряющимся изменениям, за которыми последует дальнейшее ускорение и так далее.»
Неудачная ставка
Однако как только ИИ преодолеет порог человеческой разумности, все ставки будут сделаны.
«В целом, возможно, шансы на гибель возрастут до 50/50 вскоре после того, как у нас появятся системы ИИ, соответствующие человеческому уровню», — сказал Кристиано.
Новая некоммерческая организация бывшего члена команды безопасности OpenAI — Исследовательский центр выравнивания — основана на концепции выравнивания ИИ, которую Кристиано широко определил еще в 2018 году как “совпадение мотивов машин с человеческими”.
В то время как OpenAI на словах рассказывает о выравнивании, утверждая, что его «цель — сделать искусственный интеллект общего назначения (ИИОН) согласованным с человеческими ценностями и следующим человеческим намерениям», одной только концепции ИИОН достаточно, чтобы заставить исследователей вроде Кристиано задуматься.
Кристиано считает, что «наиболее вероятный способ нашей смерти» — это когда все искусственные интеллекты, используемые в повседневной жизни, объединяются, чтобы убить нас.
«Если по какой-то причине, не дай Бог, все эти системы ИИ будут пытаться убить нас, они точно нас убьют», — заключил он.
Остается надеяться, что он ошибается.
Читайте также: Искусственный интеллект вскоре может создать новые религии, культы и Библии
