Существует ли мышление ИИ пытаются определить с помощью методов когнитивной психологии, применяемых для изучения младенцев и животных. Ученые используют строгие контрольные эксперименты, чтобы отличить реальное понимание от случайных совпадений.
Когда нейросеть блестяще решает сложную задачу, она действительно размышляет или лишь имитирует человеческую логику? Профессор Института Санта-Фе Мелани Митчелл предлагает использовать методы зоопсихологии и изучения младенцев, чтобы разгадать истинные механизмы работы искусственного разума.
Инопланетный разум внутри черного ящика
Нейросети научились писать стихи, сдавать экзамены и доказывать теоремы, но их внутренние процессы остаются тайной за семью печатями даже для самих разработчиков. В недавнем подкасте журнала Quanta Magazine когнитивист и специалист по информатике Мелани Митчелл подчеркнула, что современные языковые модели демонстрируют совершенно чуждый, «инопланетный» тип мышления. Хотя ИИ обучается на текстах, написанных людьми, его алгоритмы не имеют почти ничего общего с нашей логикой. Чтобы понять пределы возможностей таких систем, ученым приходится обращаться к дисциплинам, которые изначально не имели никакого отношения к программированию — например, к возрастной психологии.
Искусственный интеллект сегодня часто описывают как «черный ящик», поскольку исследователи не всегда могут предсказать, как именно распределятся веса между миллионами математических параметров для выдачи конкретного ответа. Однако человеческий мозг, как отмечают нейробиологи, представляет собой точно такой же закрытый механизм. На протяжении веков психологи успешно разрабатывали методы исследования интеллекта существ, которые не способны объяснить свои мотивы — младенцев и животных. Группа генетиков из Калифорнии одними из первых предложили перенести этот инструментарий на компьютерные алгоритмы, чтобы превратить тестирование нейросетей в строгую доказательную науку.
Синдром Умного Ганса и иллюзия понимания
Блестящее решение конкретной задачи далеко не всегда свидетельствует о глубоком понимании сути процесса. В начале XX века в Германии невероятной популярностью пользовался конь по кличке Умный Ганс. Животное якобы умело складывать числа: в ответ на математический пример конь безошибочно отстукивал копытом правильный результат. Многие ученые поверили в гениальность Ганса, пока психолог Оскар Пфунгст не провел контрольный эксперимент. Выяснилось, что лошадь терпела неудачу, если не видела человека, задающего вопрос, или если сам собеседник не знал правильного ответа. Ганс совершенно не умел считать, но виртуозно считывал микровыражения лиц людей, которые неосознанно расслаблялись и подавали сигнал, когда конь доходил до нужной цифры.
Современные нейросети часто попадают в похожую ловушку. В недавнем эксперименте ИИ отлично ответил на сложные вопросы по научным диаграммам. Однако когда ученые провели проверку и полностью скрыли от алгоритма эти картинки, произошла странная вещь: нейросеть продолжила отвечать правильно. Выяснилось, что программа вообще не смотрела на диаграммы. Она просто угадывала ответы, находя скрытые закономерности в самих текстовых вопросах. Этот случай наглядно доказывает: без жестких проверок все громкие заявления о «сверхинтеллекте» машин часто оказываются обычной иллюзией.
Шесть принципов тестирования искусственного интеллекта
Для объективной оценки нейросетей Мелани Митчелл разработала шесть фундаментальных правил, которые помогают отделить реальное мышление ИИ от статистических уловок.
- Отказ от антропоморфизма. Люди биологически склонны проецировать человеческие эмоции и качества на программы, которые связно общаются на естественном языке, хотя за их ответами кроется лишь математика.
- Скептицизм и контрольные эксперименты. Ученые обязаны сомневаться в собственных гипотезах и использовать «слепые» тестирования, чтобы исключить влияние самого экспериментатора.
- Устойчивость к изменениям. Алгоритм должен доказать, что может применять знания в нестандартных ситуациях, а не воспроизводить заученные шаблоны при незначительном изменении условий.
- Изучение внутренних структур. Системы не должны оставаться вечными «черными ящиками» — исследователям нужно активнее искать способы анализа их скрытых слоев.
- Разделение компетенции и результата. Необходимо жестко разграничивать реальное понимание концепции и формальную результативность (случайное попадание в правильный ответ).
- Фокус на неудачах. Публикация негативных результатов и разбор так называемых галлюцинаций дают науке гораздо больше реальной информации, чем успешное прохождение школьного теста.
В 1970-х годах старая математическая программа EURISKO генерировала сотни комбинаций формул, большинство из которых оказывались бесполезным мусором. Сегодня ИИ работает на невероятных масштабах и способен объединять далекие области математики — как это произошло при недавнем решении знаменитой проблемы Пауля Эрдёша о единичных расстояниях. Тем не менее, наткнувшись на малейшее отклонение от привычного формата, нейросеть часто теряет логику. Истинный разум характеризуется умением переносить жизненный опыт на новые сферы, и именно этой адаптивности моделям предстоит научиться.
Тирания задач и будущее профессий
Способность системы превзойти человека в одном конкретном испытании часто порождает ложные страхи на рынке труда. Философ Шеннон Валлор называет этот феномен «тиранией задач». Разработчики искусственно делят сложные профессии на изолированные функции — чтение рентгеновских снимков, анализ договоров или написание кода. Когда алгоритм сдает экзамен по адвокатуре, появляется пугающая иллюзия, что машина готова завтра же заменить специалиста.
Реальная рабочая среда требует гибкости, недоступной современным алгоритмам. В 2016 году пионер глубокого обучения Джеффри Хинтон заявил, что через пять лет искусственный интеллект полностью заменит врачей-радиологов, и призвал прекратить их обучение. Спустя десятилетие клиники по всему миру столкнулись с острой нехваткой специалистов этого профиля. Хотя алгоритмы действительно лучше находят мелкие патологии на сканах, работа врача не сводится к оценке пикселей на экране. Она включает комплексный анализ состояния пациента, коммуникацию с коллегами и принятие моральных решений в условиях неопределенности.
Глубокое понимание подразумевает работу на многих уровнях одновременно. Модель способна сгенерировать красивый художественный рассказ, но часто дает абсурдные ответы на базовые вопросы по его сюжету. Пока искусственный интеллект не научится самостоятельно формировать целостную картину мира, он останется лишь очень умным ассистентом, расширяющим возможности человека.
Ключевые тезисы:
- Нейросети демонстрируют чуждый человеку тип мышления, требующий оценки через зоопсихологию и методы изучения младенцев.
- Блестящее решение тестов не гарантирует понимания контекста, часто алгоритмы лишь считывают неочевидные статистические подсказки.
- Оценка ИИ должна строиться на поиске уязвимостей, анализе галлюцинаций и строгих контрольных экспериментах в нестандартных ситуациях.
Поддержать нас на Boosty
Поддержать нас на Дзен
FAQ: Часто задаваемые вопросы
Правда ли, что ИИ мыслит как человек?
Нет, современные большие языковые модели обладают «инопланетным» типом мышления. Они оперируют вероятностями и статистикой, а их внутренние процессы решения задач кардинально отличаются от человеческой логики.
Как ученые оценивают мышление ИИ?
Исследователи все чаще адаптируют методы когнитивной психологии, которые изначально применялись для изучения поведения младенцев и животных. Главный акцент делается на контрольные эксперименты, помогающие отличить реальное понимание проблемы от слепого угадывания.
Что такое «тирания задач» в оценке нейросетей?
Это ошибочное убеждение, что если искусственный интеллект успешно справляется с отдельной тестовой задачей (например, анализом медицинского снимка), то он способен полностью заменить специалиста в этой профессии.
Источник: Melanie Mitchell, Are We Thinking Correctly About AI Intelligence?, Quanta Magazine, 2026.
Читайте также: Побег из Шоушенка в мире кода: как ИИ-агент выбрался из песочницы и пошел гулять по чужим серверам