Отрывок из книги “Темная история информационной эпохи в пяти необычных взломах” Скотта Дж. Шапиро.
Научно-фантастические фильмы отражают классический человеческий недостаток: в основном неправильное представление о будущем.
В эпическом научно-фантастическом фильме Стэнли Кубрика “2001: Космическая одиссея” 1968 года корабль “Discovery One” отправляется к Юпитеру, чтобы исследовать признаки внеземной жизни. На корабле пять членов экипажа: доктор Дэвид Боуман, доктор Фрэнк Пул и трое астронавтов, находящихся в спячке. Боуман и Пул могут управлять кораблем, поскольку большинство операций контролируется HAL, сверхразумным компьютером, который общается с экипажем с помощью человеческого голоса.
В решающей сцене HAL сообщает о выходе из строя устройства управления антенной, но Боуман и Пул не могут найти никаких повреждений. Центр управления полетами приходит к выводу, что HAL неисправен, но HAL настаивает на том, что его показания верны. Два астронавта уходят в спасательную капсулу и планируют отключить суперкомпьютер, если неполадки не прекратятся. Однако HAL может читать их разговоры по губам с помощью бортовой камеры. Когда Пул заменяет антенну, чтобы проверить ее, HAL перерезает кислородную линию и отправляет его дрейфовать в космос. Компьютер также отключает системы поддержки экипажа, находящегося в спящем состоянии, убивая и их.
Боуман, последний оставшийся член экипажа, ловит в космосе плавающее мертвое тело Пула. “Извини, Дэйв, боюсь, я не могу этого сделать”, – спокойно объясняет суперкомпьютер, отказываясь открыть двери корабля. Боуман возвращается на “Дискавери”, используя аварийный замок, и отключает вычислительное ядро HAL. HAL умоляет Боумана и даже выражает страх смерти, когда его схемы отключаются. Деактивировав взбунтовавшийся компьютер, Боуман направляет корабль к Юпитеру.
Фанаты давно заметили, что HAL – это всего лишь однобуквенное смещение IBM (в криптографии известное как шифр Цезаря, названный в честь схемы шифрования, которую использовал римский полководец Юлий Цезарь). Артур Кларк, автор романа и сценария к фильму “2001”, однако, отрицал, что название HAL было хитрым кодом. На самом деле IBM была консультантом фильма. А HAL – это аббревиатура от Heuristically Algorithmic Language-Processor (Эвристически-алгоритмический языковой процессор).
Предсказывать будущее сложно, потому что будущее должно иметь смысл в настоящем. Это редко удается. Когда вышел фильм, естественно было предположить, что в ближайшие несколько десятилетий у нас появятся межпланетные корабли, а управлять ими будут суперкомпьютерные системы. В 1968 году компьютеры представляли собой колоссальные электронные громады, производимые такими корпорациями, как IBM.
В 1980-х годах персональный компьютер, миниатюризация электроники и Интернет изменили наши представления о технологиях. Вместо одного невротического суперкомпьютера, пытающегося убить нас, опасность, казалось, уже исходила от убийственной сети обычных компьютеров. Культовый фильм Джеймса Кэмерона “Терминатор” 1984 года рассказывает о Скайнете, сети интеллектуальных устройств, созданных для правительства США компанией “Cyberdyne Systems”.
Скайнету было доверено защищать страну от внешних врагов и управлять всеми аспектами современной жизни. Она вышла в сеть 4 августа 1997 года, но обучалась так быстро, что “осознала себя” в 2:14 ночи 29 августа того же года. Видя в людях угрозу своему существованию, сеть спровоцировала ядерную войну, но не смогла уничтожить всех людей. Скайнет отправляет Терминатора, которого играет Арнольд Шварценеггер, в прошлое, чтобы убить мать Джона Коннора, который возглавит сопротивление против Скайнета.
Но Голливуд снова промахнулся. Новое тысячелетие началось без кибернетической ядерной войны. И несмотря на всю шумиху вокруг машинного обучения и искусственного интеллекта, подавляющее большинство компьютеров не отличаются особым умом. Да, они умеют делать определенные вещи, но не являются интеллектуально разносторонними. Компьютеры, встроенные в бытовые приборы, могут включать и выключать свет, регулировать термостат, сохранять фотографии в облаке, заказывать туалетную бумагу и настраивать кардиостимуляторы. Компьютерные чипы теперь устанавливаются на городских улицах для управления дорожным движением. Компьютеры управляют большинством сложных промышленных процессов.
Эти устройства впечатляют тем, что они есть, но они не собираются становиться самосознательными. Во многих отношениях они довольно глупы. Они не могут отличить человека от тостера.
Как цифровые сети было трудно предсказать в 1968 году, так и так называемый Интернет вещей (IoT) было трудно представить в 1984 году. Даже когда в прошлом десятилетии появились бытовые приборы с поддержкой Интернета, компьютерная индустрия и правовая система не спешили признать опасность этой новой технологии. Они не смогли предсказать IoT-ботнеты: гигантские сети встроенных устройств, зараженных вредоносным программным обеспечением и дистанционно управляемых как группа без ведома владельцев.
Читайте также: Искусственный интеллект вскоре может создать новые религии, культы и Библии