«Большая математика» — это вычисления и алгоритмы, переросшие возможности человеческого мозга. Люди понимают их отдельные детали, но уже не осознают принцип работы современных систем ИИ целиком.
Ключевые тезисы
- За последние 75 лет компьютеры превратили математику в «большую математику» — алгоритмы, управляющие сервисами вроде TikTok, Netflix, Amazon и Google Search, а также выдачей кредитов и приемом на работу.
- Математики Стивен Строгац и Алекс Таунсенд предупреждают, что люди понимают отдельные части моделей ИИ, но не то, как они работают в целом, тогда как агенты OpenAI уже претендуют на решение задачи Навье — Стокса (доказательство ожидает проверки) и 372 других проблем.
- Чтобы сохранить контроль над технологиями вроде систем наблюдения и автономного оружия, гражданам нужна базовая алгоритмическая грамотность и проверка пяти факторов: цели оптимизации, петель обратной связи, полноты данных, интерпретируемости и степени неопределенности.
За последние 75 лет математика вырвалась за пределы человеческого разума и превратилась в невидимую инфраструктуру, которая управляет экономикой, досугом и судьбами миллионов людей. Математики Стивен Строгац и Алекс Таунсенд объясняют, почему даже создатели современных моделей искусственного интеллекта перестали понимать логику их работы и как обществу вернуть контроль над алгоритмами.
Рождение вычислений за гранью человеческого разума
Стремительный рост вычислительной мощности компьютеров за три четверти века превратил привычную арифметику в «большую математику» — вычисления столь огромного масштаба, что человеческий мозг не способен удержать их в голове. Побочным продуктом этой трансформации стали алгоритмы: пошаговые наборы инструкций и правил, которые сегодня поддерживают работу практически всех привычных цифровых сервисов.
Математические инструкции незаметно решают тысячи повседневных задач каждую секунду. Они формируют затягивающую ленту рекомендаций в соцсетях, сжимают фильмы на Netflix с терабайтов до гигабайтов для плавного просмотра, помогают отыскать потерянный смартфон через приложение и дирижируют сложнейшей логистикой заказов на маркетплейсах.
Если разобрать эти технологические чудеса на составные части, внутри окажутся лишь бесчисленные массивы цифр. На неподготовленный взгляд они выглядят бессмысленным шумом, однако при внимательном анализе в них проступают четкие закономерности, которые вполне поддаются расшифровке. В своей готовящейся книге Big Math: The Hidden Codes That Run Our World («Большая математика: скрытые коды, управляющие нашим миром») профессора Корнеллского университета и «соседи по кабинетам» Стивен Строгац и Алекс Таунсенд разбирают функции оптимизации на складах Amazon, алгоритмы сжатия изображений и видео, а также цепи Маркова, позволяющие поиску Google упорядочивать интернет.
Когда алгоритмы принимают судьбоносные решения
Главная тревога ученых связана с тем, что алгоритмы перестали быть простым инструментом для удобства и начали напрямую распоряжаться человеческими жизнями. Выдадут ли вам кредитную карту или ипотеку, примут ли в университет, пригласят ли на собеседование — все чаще вердикт выносит не человек, а математическая модель. Эти же алгоритмы служат фундаментом для систем искусственного интеллекта, которые перестраивают экономику и рынок труда.
В разговоре с изданием Big Think Стивен Строгац подчеркнул, что понимание принципов «большой математики» не должно оставаться закрытой привилегией руководителей технологических гигантов. По словам ученого, в демократических странах граждане обязаны участвовать в общественном выборе, однако как делать это осмысленно, если большинство людей испытывают дискомфорт при одном упоминании математики? Именно поэтому Строгац и Таунсенд постарались написать книгу без академического снобизма — для каждого, кто чувствовал себя отрезанным от технологической повестки, но хочет разобраться в происходящем.
Черный ящик искусственного интеллекта
Авторы книги не скрывают неприятной истины: по мере головокружительного развития моделей ИИ логика их работы перестала поддаваться человеческому осмыслению. Вместо прозрачных формул инженеры получили нечто похожее на капризного оракула, чьи внутренние рассуждения скрыты за стеной из миллиардов параметров.
«Мы не знаем, почему эти модели работают так хорошо. Никто не знает, — пишут Строгац и Таунсенд. — Мы достигли тревожного рубежа в развитии большой математики: нас окружают системы, которые действуют поразительно эффективно, но не поддаются нашему пониманию».
Алекс Таунсенд поясняет этот парадокс на языке механики. Специалисты прекрасно знают, из каких компонентов собраны нейросети и по каким правилам проходит их обучение, однако совершенно не представляют, как именно машина извлекает и усваивает конкретные знания. Ученые видят каждую шестеренку механизма, но ускользает принцип работы машины целиком.
Научная революция, оставляющая математиков без работы
Непонимание принципов работы ИИ особенно остро ударило по самим математикам — людям, которые стояли у истоков этих моделей. В начале сентября компания OpenAI объявила, что 88 ее ИИ-агентов нашли решение одной из знаменитых «задач тысячелетия» об уравнениях Навье — Стокса, считающейся своеобразным «Святым Граалем» науки. Важно оговориться, что крайне сложное доказательство пока не прошло официальную независимую проверку. Однако уже спустя месяц компания опубликовала решения еще 372 востребованных проблем из разных разделов математики.
Стремительное превращение нейросетей в «фабрики решений» вызвало у Строгаца и Таунсенда серьезные опасения. Когда сложную задачу решает машина, люди лишаются глубоких озарений, рождающихся только в мучительном поиске ответа.
Таунсенд испытал этот сдвиг на собственном опыте, изучая одно из недавних доказательств OpenAI по теме, над которой работал сам. Исходный текст занимал всего 13 страниц, но был настолько плотным и чуждым человеческой интуиции, что математику пришлось воспользоваться ИИ-ассистентом, развернуть выкладки до 150 страниц и потратить четыре-пять дней на построчную расшифровку. Местами ходы нейросети поражали ученого изяществом — будь их автором человек, их назвали бы блестящими, — и в итоге компьютерный текст даже научил профессора по-новому смотреть на умножение матриц.
И все же перспектива превратиться из первооткрывателей, штурмующих неприступные вершины чисел, в вечных учеников при искусственном интеллекте пугает научное сообщество. Больше всего Строгац и Таунсенд переживают не за себя, а за молодое поколение исследователей. Карьерные пути будущих математиков, статистиков, актуариев и криптографов внезапно оказались под вопросом.
Под угрозой оказалась и скрытая от посторонних глаз социальная сторона науки. Таунсенд разрушает расхожий медиаобраз гения-одиночки, который десять лет молча корпит над формулами в темном кабинете: на самом деле математика — крайне коллективная дисциплина. Большинство научных статей пишется в соавторстве, в живом обмене идеями, и ученые отчаянно не хотят потерять это человеческое общение.
Совесть за кодом и пять правил цифровой самообороны
Потенциал «большой математики» давно вышел за рамки академических споров и затрагивает каждого жителя планеты. Стивен Строгац напоминает, что те же алгоритмические принципы лежат в основе куда более спорных и опасных технологий: гигантских дата-центров, систем тотального наблюдения, кибероружия, беспилотников и военных комплексов наведения. Определять правила игры для таких систем должна широкая общественность, а не только технократы, корпорации и венчурные инвесторы.
Для участия в этом диалоге вовсе не нужно щелкать как орехи задачи по геометрии или матричной алгебре. Математическая грамотность в эпоху алгоритмов означает базовое понимание того, где заканчиваются возможности моделей и на что они влияют. Чтобы вернуть людям рычаги контроля, Строгац и Таунсенд сформулировали пять ориентиров для проверки любого алгоритма, вмешивающегося в вашу жизнь.
- Цель оптимизации. Алгоритмы всегда стремятся к максимальной эффективности, но выгода системы нередко оборачивается ущербом для конкретного человека. Важно проявлять здоровый скептицизм и спрашивать себя, какая именно цель заложена в программу и чьим интересам она служит.
- Петли обратной связи. Поведение пользователей непрерывно обучает те самые модели, которые затем формируют их привычки и выбор. Заметить эту замкнутую петлю — первый шаг к освобождению от незаметного манипулирования.
- Слепые зоны в данных. Любая вычислительная система ровно настолько надежна, насколько полны загруженные в нее сведения. Стоит всегда проверять, какие важные детали реальности не попали в выборку и оказались за скобками расчетов.
- Прозрачность и интерпретируемость. Модели, чью логику невозможно объяснить человеческим языком, не заслуживают слепого доверия. Если решение алгоритма затрагивает ваши интересы в банке или больнице, следует смело требовать понятного обоснования.
- Встроенная неопределенность. Вероятностный прогноз никогда не равен гарантии, особенно когда речь идет о единичном случае. Будь то медицинский тест, сводка погоды или предвыборный опрос, погрешность зашита в саму природу этих вычислений.
Сегодня «большая математика» слишком часто ведет себя как Большой Брат, однако, в отличие от антиутопии Джорджа Оруэлла «1984» (1949), финал этой истории еще не написан. Как подчеркивают Строгац и Таунсенд, каждое математическое изобретение начинается и заканчивается человеческим выбором. Люди могут никогда не постичь до конца созданных ими цифровых оракулов, но в наших силах решать, какие вопросы им задавать и оставаться совестью, стоящей за строчками кода.
Поддержать нас на Boosty
Поддержать нас на Дзен
Вопросы и ответы
Что такое «большая математика» и чем она отличается от обычной?
«Большой математикой» Стивен Строгац и Алекс Таунсенд называют вычисления и алгоритмы, которые за последние 75 лет развития компьютеров переросли возможности человеческого ума. Если классическую арифметику можно удержать в голове, то современные системы оперируют гигантскими массивами чисел, управляя потоковым видео, логистикой и поисковиками.
Правда ли, что ученые больше не понимают, как работает искусственный интеллект?
Да, разработчики и математики знают архитектуру нейросетей, их компоненты и математические правила обучения. Однако сам процесс того, как именно модель извлекает закономерности и приходит к удивительно точным результатам, остается для науки «черным ящиком»: специалисты понимают части, но не целое.
Неужели нейросети уже решили все главные математические задачи, включая уравнения Навье — Стокса?
В начале сентября компания OpenAI заявила, что 88 ее агентов решили «задачу тысячелетия» об уравнениях Навье — Стокса, а спустя месяц представила решения еще 372 проблем. Тем не менее громкое доказательство по уравнениям Навье — Стокса еще не прошло официальную проверку научным сообществом и не признано окончательно.
Как обычному человеку защититься от произвола алгоритмов без знания высшей математики?
Достаточно развивать базовую алгоритмическую грамотность: понимать, чьи цели оптимизирует сервис, замечать петли обратной связи в рекомендациях и помнить о неполноте данных и погрешности прогнозов. Если решение модели влияет на вашу жизнь в банке или клинике, не бойтесь требовать от сотрудников понятного объяснения.