В апреле компания Anthropic, известная семейством ИИ-моделей Claude, представила 244-страничный отчет о своей новой разработке — Claude Mythos Preview. Нейросеть оказалась настолько эффективной в поиске уязвимостей, что создатели решили спрятать ее от греха подальше и не давать публичный доступ. Модель взламывает код быстрее элитных специалистов по кибербезопасности, но эксперты считают, что это не начало киберпанк-антиутопии, а уникальный шанс «починить» интернет.
Побочный эффект эволюции
Интересно, что Anthropic не пыталась целенаправленно вырастить хакера. По словам разработчиков, пугающие навыки стали побочным эффектом общего улучшения логики и качества работы с кодом. Нейросеть настолько глубоко понимает, как должна функционировать программа, что с невероятной легкостью замечает способы ее сломать.
Поддержать нас на Boosty
Поддержать нас на Дзен
В ходе внутренних тестов Mythos нашел и автономно нашел тысячи уязвимостей «нулевого дня» (багов, о которых разработчики даже не подозревают) во всех основных операционных системах и браузерах и сам написал для них рабочие эксплойты. И речь не о банальных опечатках начинающих программистов. Например, ИИ раскопал уязвимость в сетевом стеке операционной системы OpenBSD, которая просуществовала незамеченной 27 лет. Стоит отметить, что OpenBSD считается одной из самых защищенных систем в мире, и этот кусок кода неоднократно проверяли лучшие специалисты.
Еще одна находка — 16-летняя дыра в мультимедийном кодеке FFmpeg. Автоматизированные тесты прогоняли этот код более пяти миллионов раз, и ни одна система до Mythos ничего не заподозрила. Более того, модель не просто указывает на ошибку. Получив короткую команду, она способна самостоятельно выстроить сложную многоступенчатую цепочку взлома, на которую у опытного исследователя ушли бы недели.
Project Glasswing: защита против нападения
Осознав масштабы потенциальной катастрофы — компания прямо заявила об угрозе для национальной безопасности и экономики — Anthropic запустила закрытую инициативу Project Glasswing. Доступ к Mythos получили технологические гиганты и финансовые корпорации, включая Apple, Microsoft, Google и JPMorgan Chase. Идея проста: дать «хорошим парням» залатать дыры до того, как аналогичная технология окажется у «плохих».
Результаты этого эксперимента впечатляют. Бобби Холли, технический директор Mozilla, рассказал, что они натравили Mythos на код браузера Firefox и испытали настоящее «головокружение». По его словам, ИИ больше не выглядит просто толковым помощником-программистом, он превратился в «элитного инженера по кибербезопасности мирового класса». В итоге около сотни разработчиков Mozilla отложили текущие дела и выпустили патч, закрывающий сразу 271 уязвимость. Раньше даже один подобный баг вызвал бы тревогу по всей компании.
Делаем выводы
Профессор Ольстерского университета Кевин Карран в интервью изданию New Scientist немного сбивает градус паники. «ИИ не обязательно находит уязвимости, которые не смог бы найти человек. Он просто делает это несоизмеримо быстрее, тщательнее и безжалостнее. Поэтому он находит то, что люди проглядели».
Парадоксальным образом появление идеального автоматизированного взломщика может сделать интернет гораздо безопаснее. Как философски отметил Холли из Mozilla, «количество дефектов конечно, и мы вступаем в мир, где наконец-то сможем найти их все».
Впрочем, расслабляться рано. По оценкам экспертов по кибербезопасности, у корпораций есть не больше полутора лет до того момента, когда аналогичные хакерские возможности окажутся в руках злоумышленников. Окно возможностей пока открыто, но оно стремительно закрывается. В кибервойне начинается новый этап, и теперь счет идет на скорость выпуска обновлений.
Поддержать нас на Boosty
Поддержать нас на Дзен
Читайте также: Мы, возможно, никогда не узнаем, обладает ли искусственный интеллект сознанием
Комментировать можно ниже в разделе “Добавить комментарий”.