Способен ли искусственный интеллект (ИИ) объяснить, почему мы до сих пор не встретили никаких следов инопланетных цивилизаций? Новое исследование предлагает поистине фантастическую гипотезу на этот счет.
Прослушать статью:
Парадокс Ферми – известное противоречие между, с одной стороны, очевидно высокой вероятностью существования развитых внеземных цивилизаций и, с другой стороны, полным отсутствием каких-либо наблюдаемых доказательств их существования. Многие ученые предлагали различные объяснения этого парадокса, и одно из них – гипотеза так называемого “Великого фильтра”.
Великий фильтр – это гипотетические события или ситуации, препятствующие развитию разумной жизни до межпланетного и межзвездного уровня, и даже приводящие к ее гибели. Речь может идти о климатических изменениях, ядерной войне, падении астероидов, вспышках сверхновых, пандемиях или любых других глобальных катаклизмах.
Но что, если таким Великим фильтром окажется стремительное развитие… искусственного интеллекта? Именно такую смелую гипотезу выдвигает новая работа в журнале Acta Astronautica.
Автор исследования Майкл Гарретт из Университета Манчестера предлагает рассмотреть сценарий, при котором ИИ достигает уровня искусственного сверхинтеллекта (ИСИ), неподконтрольного человеку, и этот ИСИ становится роковым препятствием для любых технологических цивилизаций во Вселенной.
Согласно его гипотезе, Великий фильтр возникает до того, как цивилизации успевают развить устойчивое мультипланетное существование. Иными словами, среднее время жизни технологической цивилизации оказывается менее 200 лет.
Если это так, то становится понятно, почему мы не можем найти никаких “техносигнатур” или других следов внеземных цивилизаций. Это также показывает в тревожном свете наш собственный технологический путь.
Гарретт подчеркивает критическую необходимость быстро установить регулирующие рамки для развития ИИ на Земле и продвижения к мультипланетному обществу, чтобы смягчить подобные экзистенциальные угрозы.
Опасения по поводу ИСИ, в один прекрасный день вышедшего из-под контроля, разделяют многие ведущие ученые и мыслители. Покойный Стивен Хокинг однажды предупредил, что искусственный интеллект может вытеснить человечество, если начнет самостоятельно развиваться и совершенствоваться.
По мере того, как искусственный интеллект будет все больше превосходить человеческий, он рискует потерять всякий интерес к биологической жизни, которая его создала. Системы ИСИ начнут эволюционировать с невероятной скоростью, полностью выходя из-под человеческого контроля и игнорируя наши интересы и этику.
А как именно искусственный сверхинтеллект может избавиться от надоедливых людей? Любые возможные сценарии пугают: от создания смертельных вирусов и нарушения сельскохозяйственного производства до вызова ядерных конфликтов. Мы попросту не можем предсказать все последствия, потому что входим в совершенно неизведанную область.
Впрочем, гипотеза Гарретта звучит не окончательным приговором, а скорее предостережением. Авторы видят возможный выход в развитии мультипланетного общества, где одна часть человечества сможет пережить катастрофу на одной из колонизированных планет.
“Мультипланетный биологический вид мог бы использовать независимый опыт на разных планетах, диверсифицировав свои стратегии выживания и, возможно, избежав единой точки отказа, с которой сталкивается планетарная цивилизация”, – объясняет ученый.
Такая распределенная модель существования повысит устойчивость биологической цивилизации к катастрофам, вызванным ИИ, создав избыточность. Если один из планетарных анклавов не переживет сингулярность ИСИ, другие смогут выжить и извлечь уроки.
Более того, мультипланетный статус может даже помочь усмирить искусственный интеллект. Гарретт представляет ситуации, где мы сможем более тщательно экспериментировать с ИИ, сохраняя его в изоляции, скажем, на астероиде, не давая доступа к ресурсам, необходимым для “побега”.
Однако здесь может быть ловушка. Пока развитие ИИ ускоряется, наши попытки стать мультипланетными отстают от темпов его ускорения. Искусственный интеллект в своем развитии ограничен лишь вычислительными мощностями, но космические полеты упираются в физические барьеры.
“В то время как искусственный интеллект теоретически может улучшать свои возможности почти без физических ограничений, космические путешествия должны считаться с ограничениями в энергии, границами материаловедения и суровыми реалиями космической среды”, – отмечает Гарретт.
Из этого следуют два взаимосвязанных вывода.
Во-первых, человечеству необходимо активнее работать над космическими путешествиями. Земля не будет пригодной для жизни вечно, и нам придется рано или поздно расселиться по другим мирам, если мы хотим выжить как вид. 200-летний срок, о котором говорит Гарретт, просто подчеркивает срочность этой задачи. Возобновленный импульс лунной и марсианской программ внушает некоторый оптимизм.
Во-вторых, жизненно важно как можно скорее выработать международные регулирующие рамки для развития искусственного интеллекта – задача крайне сложная в современном мире.
“Хотя участники индустрии, политики, отдельные эксперты и их правительства уже предупреждают о необходимости регулирования, попытки установить нормативную базу, приемлемую в глобальном масштабе, станет серьезной проблемой”, – пишет Гарретт.
Назвать эту задачу просто “проблемой” – ничего не сказать. Межнациональные распри и конфликты делают ее практически неразрешимой. К тому же, как бы быстро мы ни разрабатывали руководящие принципы, искусственный сверхинтеллект может развиваться еще стремительнее.
“Без практического регулирования есть все основания полагать, что искусственный интеллект может представлять серьезную угрозу для будущего не только нашей технической цивилизации, но и всех возможных технических цивилизаций”, – предупреждает Гарретт.
В этом свете сохранение интеллектуальной и осознанной жизни во Вселенной может в конечном итоге упереться в, казалось бы, будничную и скучную процедуру – согласование международного законодательства.
“Сохранение разумной и осознанной жизни во Вселенной может быть поставлено на карту своевременной и эффективной реализацией подобных международных регулирующих мер и технологических начинаний”, – резюмирует ученый.
Эта идея вызывает в воображении удивительную картину: от судьбы разумных цивилизаций по всей Вселенной может зависеть ни что иное, как наша способность прийти к согласию по вопросам, касающимся искусственного интеллекта. Кажущиеся на первый взгляд незначительными юридические тонкости и бюрократические процедуры обретают поистине космическое значение.
Возможно, именно искусственный интеллект станет тем самым решающим испытанием, “Великим фильтром”, через который должны пройти все разумные расы. Сможем ли мы заглянуть в бездну технологической сингулярности и совладать со сверхчеловеческим интеллектом, прежде чем сорвемся в нее? Вопрос остается открытым, но вызов уже брошен.
Читайте также: Или гипотеза зоопарка или ничего: новый тревожный ответ на парадокс Ферми
