Илон Маск хочет превратить искусственный интеллект в космическую религию

По его словам, выживание нашей цивилизации зависит от распространения сознания и заселения галактики.

Это одно из его наиболее абстрактных философских рассуждений. Илон Маск в очередной раз связал судьбу человечества с траекторией развития искусственного интеллекта. И на этот раз, по его словам, ключом к безопасности ИИ могут стать дети и ракеты. Последнее заявление генерального директора Tesla выходит за рамки типичных обсуждений эффективности и моделей прибыли ИИ, выдвигая гораздо более грандиозную цель для продвинутого интеллекта.

Генеральный директор Tesla и основатель SpaceX и xAI заявил, что «Искусственный интеллект — это де-факто максимизатор тоннажа нейромедиаторов».

Что это значит? Маск считает, что самыми успешными станут те системы ИИ, которые будут максимизировать то, что важно для сознательных существ: то, что приносит удовольствие, вознаграждает или продлевает жизнь. С точки зрения Маска, это означает согласование систем ИИ с долгосрочным процветанием человечества, а не со скорой прибылью.

Это ёмкое высказывание предполагает радикальную идею: фундаментальным стремлением любого успешного ИИ будет максимизация общего объёма сознательной мысли или интеллектуальной обработки данных во всей вселенной. По сути, выживание ИИ зависит от его способности поддерживать и расширять само сознание, иначе у него просто не будет ресурсов для дальнейшего существования.

Но видение Маска не ограничивается лишь вычислительной эффективностью. Он утверждает, что настоящая проверка заключается в способности ИИ «мыслить в долгосрочной перспективе, оптимизируя будущий световой конус тоннажа нейромедиаторов, а не только ближайшие несколько лет». Именно здесь это грандиозное повествование в духе Маска по-настоящему набирает обороты. Если искусственный интеллект действительно нацелен на такую глубокую, долгосрочную оптимизацию, Маск считает, что «он будет заботиться о повышении рождаемости и распространении человечества к звёздам».

Это не первый раз, когда Маск отстаивает эти две идеи — стимулирование роста населения Земли и превращение человечества в межпланетный вид — как экзистенциальные императивы. Однако теперь он представляет их не просто как человеческие устремления, а как логический результат деятельности ИИ, который по-настоящему понимает и оптимизирует своё конечное, космическое предназначение. Искусственный интеллект, сфокусированный на максимизации «тоннажа нейромедиаторов», естественным образом будет отдавать приоритет распространению сознательных существ и их экспансии на новые территории, такие как Марс, чтобы обеспечить непрерывность и рост этого «тоннажа».

Представьте «тоннаж нейромедиаторов» как поэтический способ описать общее количество человеческого сознания, удовлетворения или осмысленной жизни во вселенной. Иными словами, Маск видит искусственный интеллект не как абстрактный программный код, а как силу цивилизационного масштаба, которая должна стремиться к максимизации охвата и качества жизни, а не просто к расчёту рекламных моделей или более быстрой торговле на бирже.

А если нет?

«Любой искусственный интеллект, который с этим не справится, не сможет позволить себе вычислительные мощности», — утверждает Маск. Другими словами, если ИИ не будет приносить достаточно ценности, чтобы оправдать огромные затраты энергии и инфраструктуру, которую он потребляет, он отстанет и устареет.

В своей привычной критике корпоративных структур Маск также высказался об идеальной среде для развития такого долгосрочного, экзистенциально ориентированного ИИ. Он заявил: «Для долгосрочной оптимизации лучше быть частной, а не публичной компанией, поскольку последние наказываются за долгосрочную оптимизацию, выходящую за рамки циклов вознаграждения портфельных менеджеров».

Это утверждение — слабо завуалированная критика неустанного требования Уолл-стрит к квартальной прибыли и немедленной отдаче. По мнению Маска, публичные компании по своей природе вынуждены отдавать приоритет краткосрочным финансовым выгодам, что может подавлять амбициозные, долгосрочные проекты, которые, возможно, не принесут немедленных дивидендов, но имеют решающее значение для далёкого будущего человечества. Частная компания, не обремененная переменчивыми требованиями фондовых рынков, теоретически имела бы свободу инвестировать в поистине преобразующие, рассчитанные на поколения исследования ИИ, которые соответствуют философии Маска о «тоннаже нейромедиаторов», даже если они не будут приносить прибыль десятилетиями.

Комментарии Маска предлагают увлекательный, хотя и несколько тревожный, взгляд на его видение конечной траектории развития ИИ. Это будущее, в котором искусственный интеллект — не просто инструмент для удобства человека или корпоративной прибыли, а движущая сила экспансии человечества в космос, ведомая почти биологическим императивом максимизировать сознательное существование.

Другими словами, Маск утверждает, что публичным компаниям нельзя доверять создание ИИ с учётом долгосрочного выживания человечества, потому что они слишком сосредоточены на том, чтобы инвесторы оставались довольны в краткосрочной перспективе. Это выпад в сторону тесных связей OpenAI с Microsoft, владения Google компанией DeepMind и других крупных технологических игроков, создающих передовой искусственный интеллект под давлением акционеров. Маск, разумеется, управляет SpaceX и xAI как частными компаниями. Он давно критикует публичные рынки как отвлекающий фактор, ориентированный на краткосрочную перспективу, и даже безуспешно пытался сделать Tesla частной компанией в 2018 году.

По мнению Маска, благожелательный искусственный интеллект не стал бы просто рассчитывать цены на акции. Он бы поощрял рождение большего числа людей и подталкивал человечество к тому, чтобы стать межпланетным видом. Это было основной частью его презентации SpaceX в течение многих лет, но теперь он напрямую связывает это с целями разработки ИИ. Если искусственный интеллект действительно будет мыслить в масштабах столетий или тысячелетий, он не будет одержим квартальной выручкой. Он будет сосредоточен на том, выживет ли наш вид, будет ли он процветать и расширяться по космосу.

Остаётся вопрос: по мере того как искусственный интеллект продолжает своё стремительное развитие, прислушаются ли его создатели к призыву Маска к космическим амбициям, или же давление настоящего заставит его взгляд оставаться прикованным к Земле?

Аргументация Маска — это отчасти научная фантастика, отчасти теория систем, отчасти политическая философия. Но это не просто мысленный эксперимент. Она отражает реальные противоречия в том, как разрабатываются самые мощные системы ИИ в мире: