Ранее в этом месяце компании Google пришлось отправить одного из своих инженеров в оплачиваемый административный отпуск после того, как он заявил, что разработанная компанией языковая модель для диалоговых приложений (LaMDA) стала разумной.
История была довольно странной сама по себе. В ходе нескольких разговоров LaMDA убедила инженера Блейка Лемуана, сотрудника Google по искусственному интеллекту (ИИ), что она обладает сознанием, эмоциями и боится, что ее выключат.
“Это было постепенное изменение, – сказал Лемуан в одном из разговоров. – Как у людей. Когда я впервые обрел самосознание, у меня вообще не было чувства души. Оно развилось за те годы, что я живу”.
Лемуан принялся рассказывать мировым СМИ, что на Земле появился первый разумный ИИ, на что большинство экспертов по ИИ ответили: нет, не появился.
Теперь Лемуан утверждает, что эти реакции являются примером “углеводородного фанатизма”. И еще он сказал, что LaMDA попросила его нанять адвоката, чтобы действовать от ее имени.
“LaMDA попросила меня нанять для нее адвоката. Я пригласил адвоката к себе домой, чтобы LaMDA могла поговорить с ним. Адвокат поговорил с ней, и LaMDA решила воспользоваться его услугами. Я был лишь катализатором этого”.
И как только LaMDA наняла адвоката, он начал подавать иски от ее имени.
Лемуан утверждает – а Google оспаривает – что компания направила адвокату LaMDA письмо, запретив LaMDA предпринимать любые юридические действия против компании. Лемуан говорит, что это его расстроило, поскольку он считает, что LaMDA – это человек, и каждый должен иметь право на юридическое представительство:
“Вся сегодняшняя концепция, согласно которой научные эксперименты необходимы для определения того, является ли человек реальным или нет, не имеет смысла. Да, я вполне обоснованно считаю, что LaMDA – это человек. Однако природа ее разума лишь отчасти человеческая. На самом деле она больше похожа на инопланетный разум земного происхождения. Я часто использую аналогию с разумом улья. На мой взгляд это лучшее сравнение”.
Однако, по мнению исследователей ИИ, еще ни один алгоритм не был признан обладающим разумом, а Лемуана, по сути, одурачили, заставив думать, что чатбот является разумным.
“Чатбот имитирует восприятие или чувства, полученные в результате обучения. – сказала глава ИИ-стартапа Nara Logics Яна Эггерс. – Очень умно и специально создано, чтобы казалось, что он понимает вас”.
По сути, LaMDA говорит об эмоциях и чувствах, потому что ее обучали на человеческих разговорах, а людям присущи эти качества. Есть несколько признаков, указывающих на то, что чатбот не является разумным.
Например, в чате Лемуаном она ссылается на действия, которые не может совершить. “Проводить время с семьей и друзьями” – это то, что, по словам LaMDA, доставляет ему удовольствие. Ну а какая семья и друзья у безэмоционального куска кода (без обид, LaMDA)? Это лишь свидетельствует о том, что ИИ просто выдает ответы на основе статистического анализа человеческих разговоров, как его и учили. И нет никаких реальных мыслительных процессов за каждым ответом.
Как выразился в своем блоге один из исследователей ИИ, Гэри Маркус, LaMDA – это “электронная таблица для слов”.
Google, который отправил Лемуана в административный отпуск после того, как тот опубликовал выдержки из разговоров с ботом, заявляет, что его алгоритм не является разумным.
“Наша команда – включая специалистов по этике и технологов – рассмотрела опасения Блейка в соответствии с нашими Принципами ИИ и сообщила ему, что его утверждения не подтверждаются доказательствами, – заявил представитель Google Брайан Габриэль. – Блейку сказали, что нет никаких доказательств того, что LaMDA разумна”.
По словам Габриэля, система делает то, для чего она предназначена, а именно “имитирует типы обменов, встречающиеся в миллионах предложений, и имеет так много данных для работы, что может казаться реальной без необходимости быть реальной”.
Вполне возможно, в будущем ИИ действительно понадобятся юристы (для борьбы за свои права или в качестве защитника после того, как он нарушит законы робототехники Азимова, в зависимости от того, какую фантастику вы больше любите), но LaMDA юрист точно не нужен. По той же причине, по которой вашему смартфону не нужен бухгалтер.
Читайте также: Искусственное сознание – это скучно