Технологический предприниматель Элвин Ванг Грейлин рисует смелую картину новой эры просвещения, возглавляемой искусственным интеллектом (ИИ) и проникнутой состраданием. Очевидно, что существует много страха и дезинформации о рисках и роли ИИ и метавселенной в нашем обществе в будущем. Возможно, будет полезно взглянуть на проблему в три этапа.
В ближайшие 10 лет нам следует рассматривать ИИ как инструмент, поддерживающий нашу жизнь и работу, делающий нас более эффективными и продуктивными. В этот период прото-метавселенная станет платформой пространственных вычислений, куда мы будем отправляться учиться, работать и играть более захватывающим образом.
В последующие 11-50 лет, по мере того как все больше и больше людей будут освобождены от бремени необходимости работать, мы должны будем рассматривать искусственный интеллект как нашего покровителя, который помогает нам исследовать наши интересы в искусстве, культуре, науке – в любой области, которую мы захотим. Большинство людей также обратятся к метавселенной как к творческой площадке для самовыражения, досуга и экспериментов.
На третьем этапе, через 50 и более лет (если не раньше), Грейлин ожидает, что множество разрозненных систем ОИИ (общего искусственного интеллекта) в мире объединятся в единый СИИ (сверхразумный искусственный интеллект) с мудростью, достаточной для объединения примерно 200 стран мира. Этот СИИ поможет нам управлять мирной планетой, где все граждане обеспечены и имеют право выбирать, как они хотят вносить свой вклад в общество.
На этом этапе система ИИ превзойдет наш биологический интеллект и ограничения, и нам следует найти способы использовать ее за пределами нашей Солнечной системы, распространяя разумную жизнь во все уголки Галактики и далее.
На третьем этапе мы должны будем рассматривать ИИ как наших детей, потому что все эти существа с искусственным интеллектом будут нести в себе частичку нас. Так же, как и мы несем в своих генах частичку всех существ, которые предшествовали нам на древе жизни.
С этого момента ими будут руководить все элементы, созданные и накопленные человечеством на протяжении всей своей истории – от нашей морали и этики до нашей философии и искусства. Платформа метавселенной станет интерфейсом для исследования далеких уголков Вселенной вместе с нашими «детьми», даже если наши физические тела будут оставаться на Земле.
Будем надеяться, что эти «дети» будут относиться к нам как к своим почтенным предкам, с уважением и заботой, подобно тому, как восточные культуры относятся к своим старикам. Как и дети, они будут учиться своим ценностям и морали, наблюдая за нами. Так что будет лучше, если мы начнем подавать им хороший пример, относясь друг к другу так, как мы хотели бы, чтобы искусственный интеллект относился к нам в будущем.
Конечно, приведенные выше временные рамки являются лишь приблизительными, поэтому события могут происходить быстрее или медленнее, чем описано. Однако фазы, скорее всего, будут происходить именно в таком порядке, если мы сможем обеспечить устойчивое выравнивание будущих систем ОИИ/СИИ.
Если по какой-то причине мы не сможем этого сделать, или если злоумышленники будут использовать их для достижения катастрофических результатов, то будущее может оказаться довольно мрачным.
Грейлин напоминает, что его самые большие опасения всегда были связаны с риском неправомерного использования всех видов искусственного интеллекта людьми (а не злым ОИИ), и мы должны сделать все возможное, чтобы предотвратить подобные сценарии.
С другой стороны, он все больше убеждается в том, что любое созданное нами сверхсущество, скорее всего, будет по своей природе этичным и заботливым, а не агрессивным и злым. Карл Юнг говорил: «Чем больше вы понимаете психологию, тем меньше вы склонны винить других за их поступки». Грейлин надеется, что все мы сможем подтвердить истинность этого утверждения, просто наблюдая за собственным настроем при общении с маленькими детьми.
Вспомните, когда вы в последний раз играли с детьми в настольную игру; старались ли вы изо всех сил сокрушить их и победить малыша? Конечно же, нет.
Когда мы чего-то не боимся, мы обретаем дополнительное терпение и понимание. Что ж, СИИ, которого мы создаем, будет понимать не только психологию, но и все искусство, науку, историю, этику и философию человечества. Обладая таким уровнем мудрости, он должен быть более просвещенным, чем любой человек, и достичь уровня понимания, который мы даже не можем себе представить.
В статье 2022 года группа уважаемых исследователей в этой области также обнаружила связь между состраданием и интеллектом. В июле 2023 года Илон Маск официально вступил в гонку ИИ с новой компанией под названием xAI, и целевая функция их базовой модели сформулирована просто: «понять Вселенную».
Похоже, Маск разделяет точку зрения, что наделение ИИ врожденным любопытством и жаждой знаний может помочь достичь определенного уровня согласованности.
Таким образом, вы можете понять, почему стоит опасаться главным образом себе подобных. Тем не менее, несомненно, не помешает, если мы все начнем подавать хороший пример нашему подающему надежды отпрыску и продолжим изучать более прямые пути достижения устойчивого выравнивания.
Сегодня многие прочат конец цивилизации или даже конец человечества на Земле в связи с последними технологическими достижениями. Если в ближайшее десятилетие мы предпримем правильные, взвешенные действия, это вполне может стать началом новой эры процветания для человечества и всей жизни во Вселенной.
Мы находимся у порога чего-то нового. Мы приближаемся к концу стотысячелетней фазы невежества и бесцельного труда антропоцена и скоро перевернем страницу, чтобы начать новую эру просвещения, намного превосходящую наши самые смелые мечты.
Когда мы найдем решение для согласования ИИ и мирно переведем наш мир в следующую фазу прогресса, социальные блага будут поистине трансформационными. Это может привести к экспоненциальному росту человеческого понимания и возможностей.
Это принесет нам практически бесконечную производительность и неограниченную чистую энергию. Неравенство, проблемы со здоровьем и климатом, от которых сегодня страдает весь мир, может исчезнуть в течение относительно короткого периода времени. И мы сможем начать думать о планах в научно-фантастических временных масштабах, чтобы смело идти туда, где не ступала нога человека.
Читайте также: Искусственный интеллект теряет рассудок после обучения на данных, созданных искусственным интеллектом
