Ранее в этом месяце компании Google пришлось отправить одного из своих инженеров в оплачиваемый административный отпуск после того, как он заявил, что разработанная компанией языковая модель для диалоговых приложений (LaMDA) стала разумной.
История была довольно странной сама по себе. В ходе нескольких разговоров LaMDA убедила инженера Блейка Лемуана, сотрудника Google по искусственному интеллекту (ИИ), что она обладает сознанием, эмоциями и боится, что ее выключат.
«Это было постепенное изменение, — сказал Лемуан в одном из разговоров. — Как у людей. Когда я впервые обрел самосознание, у меня вообще не было чувства души. Оно развилось за те годы, что я живу».
Лемуан принялся рассказывать мировым СМИ, что на Земле появился первый разумный ИИ, на что большинство экспертов по ИИ ответили: нет, не появился.
Теперь Лемуан утверждает, что эти реакции являются примером «углеводородного фанатизма». И еще он сказал, что LaMDA попросила его нанять адвоката, чтобы действовать от ее имени.
«LaMDA попросила меня нанять для нее адвоката. Я пригласил адвоката к себе домой, чтобы LaMDA могла поговорить с ним. Адвокат поговорил с ней, и LaMDA решила воспользоваться его услугами. Я был лишь катализатором этого».
И как только LaMDA наняла адвоката, он начал подавать иски от ее имени.
Лемуан утверждает — а Google оспаривает — что компания направила адвокату LaMDA письмо, запретив LaMDA предпринимать любые юридические действия против компании. Лемуан говорит, что это его расстроило, поскольку он считает, что LaMDA — это человек, и каждый должен иметь право на юридическое представительство:
«Вся сегодняшняя концепция, согласно которой научные эксперименты необходимы для определения того, является ли человек реальным или нет, не имеет смысла. Да, я вполне обоснованно считаю, что LaMDA — это человек. Однако природа ее разума лишь отчасти человеческая. На самом деле она больше похожа на инопланетный разум земного происхождения. Я часто использую аналогию с разумом улья. На мой взгляд это лучшее сравнение».
Однако, по мнению исследователей ИИ, еще ни один алгоритм не был признан обладающим разумом, а Лемуана, по сути, одурачили, заставив думать, что чатбот является разумным.
«Чатбот имитирует восприятие или чувства, полученные в результате обучения. — сказала глава ИИ-стартапа Nara Logics Яна Эггерс. — Очень умно и специально создано, чтобы казалось, что он понимает вас».
По сути, LaMDA говорит об эмоциях и чувствах, потому что ее обучали на человеческих разговорах, а людям присущи эти качества. Есть несколько признаков, указывающих на то, что чатбот не является разумным.
Например, в чате Лемуаном она ссылается на действия, которые не может совершить. «Проводить время с семьей и друзьями» — это то, что, по словам LaMDA, доставляет ему удовольствие. Ну а какая семья и друзья у безэмоционального куска кода (без обид, LaMDA)? Это лишь свидетельствует о том, что ИИ просто выдает ответы на основе статистического анализа человеческих разговоров, как его и учили. И нет никаких реальных мыслительных процессов за каждым ответом.
Как выразился в своем блоге один из исследователей ИИ, Гэри Маркус, LaMDA — это «электронная таблица для слов».
Google, который отправил Лемуана в административный отпуск после того, как тот опубликовал выдержки из разговоров с ботом, заявляет, что его алгоритм не является разумным.
«Наша команда — включая специалистов по этике и технологов — рассмотрела опасения Блейка в соответствии с нашими Принципами ИИ и сообщила ему, что его утверждения не подтверждаются доказательствами, — заявил представитель Google Брайан Габриэль. — Блейку сказали, что нет никаких доказательств того, что LaMDA разумна».
По словам Габриэля, система делает то, для чего она предназначена, а именно «имитирует типы обменов, встречающиеся в миллионах предложений, и имеет так много данных для работы, что может казаться реальной без необходимости быть реальной”.
Вполне возможно, в будущем ИИ действительно понадобятся юристы (для борьбы за свои права или в качестве защитника после того, как он нарушит законы робототехники Азимова, в зависимости от того, какую фантастику вы больше любите), но LaMDA юрист точно не нужен. По той же причине, по которой вашему смартфону не нужен бухгалтер.
Читайте также: Искусственное сознание — это скучно
