Искусственный интеллект повышает точность диагностики в медицине, но при этом вызывает риск когнитивной деградации и усиливает агрессию пользователей из-за иллюзии безнаказанности при общении с машинами.
Ключевые тезисы:
- Алгоритмы способны находить предраковые изменения на пиксельном уровне, снижая риски заболевания на треть.
- Срыв злости на чат-ботах не успокаивает, а формирует привычку к грубости в реальном общении.
- Слепое доверие нейросетям снижает собственные профессиональные навыки, требуя внедрения в рабочий график «часов без ИИ».
Известная техножурналистка Джоанна Штерн целый год тестировала на себе все доступные нейросети, чтобы отделить маркетинговые обещания Кремниевой долины от реальности. Итогом эксперимента стала не только новая книга, но и увольнение из The Wall Street Journal по совету чат-бота, а также пугающие выводы о том, как алгоритмы меняют врачебные диагнозы и наш собственный мозг.
В предисловии к своей книге «Я не робот: Мой год использования ИИ для (почти) всего» (I Am Not a Robot: My Year Using AI to Do (Almost) Everything) Штерн описывает типичный день из нашего возможного будущего. Автономные роботы стригут газон и складывают бельё, алгоритмы мониторят жизненные показатели, пишут сказки на ночь для детей и шепчут персонализированные аффирмации перед сном.
Но главная цель её исследования заключалась в другом. Журналистка хотела выяснить: действительно ли искусственный интеллект сделает жизнь лучше, или это очередная дерзкая ставка разработчиков, где прогресс вторичен по отношению к прибыли? Технологии, подобно смартфонам и социальным сетям, обречены превратиться из забавной новинки в повседневную необходимость, от которой невозможно отказаться.
Утопия или антиутопия: нейросети в кресле врача
Мать Джоанны Штерн несколько раз перенесла рак груди, и сама журналистка имеет 39-процентный риск развития этого заболевания. Поэтому её особенно интересовало, как ИИ-приложения, такие как Koios DS и Transpara, используются во время её ежегодных обследований. Результаты оказались обнадёживающими.
Обученные на миллионах маммограмм, эти программы способны выявлять закономерности на уровне пикселей. Как отмечает генеральный директор Koios Чад Маккленнан, алгоритмы видят те детали, которые человеческий глаз может упустить — особенно если врач простужен или просто отвлёкся на личные проблемы. Опираясь на данные, опубликованные в Journal of the National Cancer Institute, Штерн подчёркивает, что раннее обнаружение с помощью подобных инструментов способно снизить определённые онкологические риски на треть.
Однако визит к стоматологу вызвал у журналистки гораздо меньше энтузиазма. В стоматологии, которая регулируется не так строго, как лечение онкологии, ИИ-инструменты заставили её почувствовать себя неуютно. Многие врачи признавались, что руководство клиник давит на них, заставляя использовать алгоритмы для гипердиагностики и назначения ненужного лечения.
Этот контраст обнажает серьёзную проблему внедрения новых технологий в медицину. Люди создали системы здравоохранения со всеми их пороками и финансовыми стимулами. Прежде чем внедрять машины, которые лишь масштабируют и усиливают эти системные ошибки, стоило бы починить саму систему.
Несмотря на эти проблемы, некоторые технологии уже невозможно отменить. Генеративный поиск информации останется с нами навсегда, так как пользователи привыкли получать быстрые ответы вместо длинных списков ссылок. То же касается беспилотных автомобилей и цифровых ассистентов. Даже если беспилотник Waymo может внезапно остановиться посреди шоссе, приняв пассажира впереди идущей машины за пешехода, общая польза этих технологий все-таки скоро перевесит их недостатки. Главное — сохранять здоровый скептицизм по отношению к любым безапелляционным заявлениям IT-корпораций.
Газлайтинг от алгоритмов и эпидемия грубости
По мере того как смартфоны проникали в нашу жизнь, они меняли то, как мы думаем и общаемся. Исследования показывают, что чрезмерное использование гаджетов и соцсетей негативно влияет на когнитивные способности и концентрацию внимания. Искусственный интеллект идёт ещё дальше — он, похоже, превращает нас в грубиянов.
Практически каждый пользователь хотя бы раз ругался на чат-бота. Штерн поймала себя на том, что агрессивно отчитывает ChatGPT за то, что тот наотрез отказывался признавать свою ошибку: на сгенерированной картинке для детской сказки он нарисовал пять хомяков вместо запрошенных шести. Алгоритм не просто ошибся, он отстаивал свою правоту с непробиваемой уверенностью опытного демагога. Быть жертвой газлайтинга со стороны машины, имеющей доступ ко всем знаниям мира — опыт крайне раздражающий.
Проблема заключается не в том, что мы можем обидеть алгоритм (у него нет чувств). Опасность кроется в переносе этой модели поведения на живых людей. Как отмечает исследователь Дженнифер Сигел из Центра пользовательского опыта Университета Бентли, срывание злости на неодушевленном объекте не снижает накал эмоций, а лишь репетирует их. Привычка хамить виртуальным помощникам может незаметно просочиться в наше общение с окружающими.
Чтобы держать свою «ИИ-ярость» под контролем, Штерн сменила подход. Теперь она относится к нейросети не как к всезнающему эксперту, а как к старательному, но неопытному стажеру. Иногда он выдает блестящий результат, а иногда нуждается в жестком контроле, проверке фактов и небольшом перерыве.
Когнитивная разгрузка и риск потери навыков
Делегирование умственного труда внешним ресурсам — так называемая когнитивная разгрузка — имеет свою цену. Чем больше мы полагаемся на навигаторы, тем хуже ориентируемся в родном городе. Чем чаще мы просим нейросеть написать за нас текст, тем быстрее атрофируются наши собственные навыки. Попытка перепоручить ботам написание личных писем, как иронизирует Штерн, вообще может стать быстрым путем к безработице и разводу.
Страх перед технологиями тема не новая. В Древней Греции когда-то переживали, что письменность разрушит человеческую память. Много столетий спустя, европейские художники боялись, что фотография убьет живопись. В каком-то смысле они были правы: появление камер не уничтожило искусство, но навсегда изменило его роль в обществе. Аналогично, широкие возможности алгоритмов способны автоматизировать массу процессов. Но тот факт, что ИИ может заменить человека, не означает, что он обязательно так и сделает .
Идеальный сценарий — это дополнение человеческого опыта, а не его полная замена. Штерн приводит в пример исследование, согласно которому способность врачей-эндоскопистов обнаруживать предраковые новообразования самостоятельно падала более чем на 20% всего через несколько месяцев использования ИИ-помощников. Технология работает во благо только тогда, когда используется как второе мнение, а не как замена врачебному суждению.
После года непрерывных экспериментов журналистка признала свою высокую зависимость от алгоритмов. У неё сформировалась мышечная память: при любой необходимости провести исследование или отредактировать текст она автоматически открывает приложение. Чтобы не потерять себя, Штерн начала внедрять в свой график «часы без ИИ». Теперь она заставляет себя самостоятельно писать рассылки, отвечать на вопросы и продумывать стратегии. Если не делать эту работу самому, финальный результат быстро перестанет быть творческим и потеряет человеческое лицо.
Поддержать нас на Boosty
Поддержать нас на Дзен
FAQ: Часто задаваемые вопросы
Действительно ли искусственный интеллект помогает лечить рак?
Да, алгоритмы, обученные на миллионах снимков, способны выявлять патологии на уровне пикселей. Их использование при скрининге снижает риск развития определенных видов рака на треть.
Почему ИИ делает людей более грубыми?
Привычка срывать злость на ошибающихся чат-ботах не успокаивает нервы, а лишь тренирует агрессию. Психологи предупреждают, что такое поведение быстро переносится на общение с живыми людьми.
Что такое когнитивная разгрузка?
Это процесс делегирования умственных задач внешним инструментам. В случае с нейросетями чрезмерная разгрузка ведет к потере профессиональных навыков и креативности.
Как правильно использовать чат-ботов в работе?
Лучшая стратегия — относиться к нейросети как к старательному стажеру. Её результаты нельзя принимать на веру без проверки, они всегда требуют контроля и редактуры со стороны человека.
Источники:
- Stern, J. I Am Not a Robot: My Year Using AI to Do (Almost) Everything.
- Mammographic classification of interval breast cancers and artificial intelligence performance. Journal of the National Cancer Institute.
- Bentley University’s User Experience Center (Jennifer Siegel). Исследование влияния виртуальных помощников на поведение пользователей.
Читайте также: Искусственный интеллект в науке превзошел людей в проектировании физических экспериментов