Тем, кто ощущал силу всю свою жизнь, будет ненавистна мысль о том, чтобы потерять ее. Если вы родились счастливчиком, когда фортуна на вашей стороне, вы будете яростно сопротивляться мысли о том, что ее могут у вас отнять. Если вам говорили, что вы самый яркий, самый сильный и самый лучший, сколько вы себя помните, вам будет больно узнать, что вы явно ниже среднего. Никто из нас не любит, когда его понижают. Ни один человек не хочет чувствовать себя неполноценным.
Содержание
Мы все, в совокупности, выросли с осознанием того, что мы – хищники. Каждый инстинктивно верит, что Homo sapiens, с нашим огромным интеллектом и удивительным талантом к изобретениям, по праву и справедливости стал доминировать в этом мире. Мы – цари и властители природы – лучшее, что когда-либо могла создать эволюция. Преклонитесь перед нашими Моцартами и Эйнштейнами!
Вот почему многие люди считают искусственный интеллект и новые технологии такими пугающими. Внезапно перед нами открылась перспектива осознать, что мы больше не самые лучшие и умные. В одно мгновение в 21 веке мы превратились из источника всей мудрости и творчества в неуклюжих обезьян, возящихся с устаревшими инструментами. Именно эта идея лежит в основе одного из лучших рассказов Айзека Азимова: “…Яко помниши его”.
“…Яко помниши его”
Есть известное высказывание (сомнительно приписываемое Ганди), которое гласит: “Сначала они тебя игнорируют, потом над тобой смеются, потом с тобой борются, а потом ты их побеждаешь”.
Фраза касалась революционных идей и движений, но это также верно и для того, как мы относимся к искусственному интеллекту.
“За несколько месяцев люди превратились из центра Вселенной в нечто, очень похожее на какой-нибудь бета-тест”.
У нас уже очень давно есть компьютеры. Большинство людей, читающих эту статью, выросли вместе с ними. Они были вездесущим фоном нашей повседневной жизни в течение полувека. Мы работаем на ноутбуках и носим с собой смартфоны; мы пользуемся калькуляторами, электронными таблицами и интернет-банкингом; мы разговариваем с голосовыми помощниками и позволяем приложению подсказать нам самый быстрый маршрут домой. Все это приемлемо. Они полезны и эффективны, причем совершенно не угрожающим образом.
Конечно, мы не можем вычислять суммы так, как это делает калькулятор, но калькулятор не может вести разговор. Да, мы не можем определить, есть ли пробки на шоссе, но наш GPS не сможет создать произведение искусства. Технологические изобретения хороши до тех пор, пока они не представляют никакой экзистенциальной угрозы для нашего существования. Они хороши как диковинки или развлечение, или если они демонстрируют изолированный, узкий интеллект, потому что наша жизнь при этом продолжается, в основном, как обычно. Мы можем игнорировать их или смеяться над тем, что голосовой помощник не понимает нас, когда мы намеренно коверкаем слова.
Однако сегодня мы находимся на пороге огромных перемен. Почти в одночасье ИИ бахнул сокрушительным взрывом. Он создает произведения искусства и книги, музыку и фильмы. Он ведет беседы и распознает лица. Короче говоря, ИИ делает все то, в чем мы считаем себя лучшими и исключительными. А в некоторых случаях он делает это лучше нас. За несколько месяцев человек превратился из центра Вселенной в нечто, очень похожее на бета-тест.
Именно эту идею Азимов исследует в своем рассказе “…Яко помниши его”. В том мире люди с ужасом и подозрением относятся ко всем роботам и искусственному интеллекту. Они лоббируют правительства и корпорации, чтобы те никогда не производили ничего даже отдаленно мощного или меняющего жизнь. И вот, одна из этих корпораций дает отпор. Два самых впечатляющих ИИ создают гениальный план, чтобы заставить людей доверять им: представить роботов, которые не представляют никакой угрозы, но при этом полезны. Привнести ИИ в мир людей таким образом, чтобы он был незаменим, но при этом казался безвредным. Пусть люди подключаются к машине. Со временем могут появиться более сложные роботы и более обобщенный интеллект – и все это при условии, что они находятся под полным человеческим управлением. Люди так беспокоятся не о том, что они вторые, а о том, что они не контролируют ситуацию. Важна не неполноценность, а бессилие.
Три закона робототехники Азимова
Все книги Азимова, как правило, вращаются вокруг его “Трех законов робототехники”. Эти законы, по сути, являются механизмами, позволяющими человеку держать все под контролем. Они гласят, что роботы должны всегда подчиняться и никогда не причинять вреда человеку. В полном виде они выглядят следующим образом:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат первому закону.
3. Робот должен защищать свое собственное существование, если такая защита не противоречит первому или второму законам.
Рассказы Азимова блестяще работают как научная фантастика, но также показывают нам, как трудно – даже невозможно – создать беспроблемные законы управления любым интеллектом. Всегда найдется лазейка или исключение. Все законы нуждаются в свободе действий и гибкости, иначе они сломаются (или сломаются те, кого они пытаются защитить). Как говорится в недавней статье в журнале Science Robotics, рассказы Азимова “предупреждают о невероятности разработки небольшого набора простых правил для адекватного проектирования или регулирования сложных машин, людей и их взаимодействий”. Возможно, это то, над чем стоит задуматься людям, которые призывают сделать полугодичную паузу в разработке ИИ.
В “…Яко помниши его” поворот сюжета особенно прозорлив. Роботы интерпретируют слово “человек” как обладающий “высшим интеллектом”. Люди выделяют себя из других видов благодаря таким качествам, как креативность и высокий интеллект. Но если ИИ лучше людей по этим характеристикам, имеют ли они большее право называться “людьми”, чем он сам? В мире, мире, где человек низведен до уровня неполноценности, означает ли “человек” просто наличие генома Homo sapiens? Если или когда появится всеобщий искусственный интеллект, это будет не просто угроза нашему образу жизни. Это будет угроза тому, как мы вообще понимаем человечество.
Отсутствующий четвертый закон
По мере того, как мы переходим в мир искусственного интеллекта, который будет делать человеческие вещи лучше людей, большинство из нас все равно захочет знать, что сделано человеком, а что нет. Для многих важно, чтобы роман, который они читают, был написан человеком, а не машинным алгоритмом. С высокой долей вероятности для вас имеет значение, написано ли стихотворение, песня или произведение искусства роботом. Возможно, Азимов упустил важный четвертый закон: Робот должен по требованию идентифицировать себя. Мы имеем право знать, взаимодействуем ли мы с человеком или искусственным интеллектом.
Читайте также: Роботы и искусственный интеллект имеют древнее мифологическое происхождение