Протестировать до внедрения

Исследователи Anthropic с помощью модели Claude Mythos Preview продемонстрировали, что искусственный интеллект способен выявлять не только ошибки в коде, но и принципиальные математические недостатки самих алгоритмов шифрования. 

Уязвимости, которые Claude находил ранее в криптографических библиотеках, были связаны с некорректной реализацией алгоритмов, то есть с ошибками в том, как программисты использовали алгоритмы в коде, что создавало возможности для атакующих взломать шифрование. Теперь же ИИ может находить недостатки в самих алгоритмах, что потенциально могло бы поставить под угрозу безопасность больших объемов данных.

Впрочем, эти открытия не влияют ни на одну работающую сегодня систему защиты информации. Атаки были произведены на еще не используемый на данный момент постквантовый алгоритм HAWK и усеченный вариант применяемого AES.

HAWK — кандидат в будущие стандарты цифровой подписи, разрабатываемые на случай появления квантовых компьютеров, способных взломать существующее шифрование. Claude за 60 часов нашел способ сократить стойкость ключа вдвое, используя ранее незамеченную симметрию в структуре этого постквантового алгоритма. Модель также изобрела метод, ускоряющий взлом 7-раундовой версии AES, из полных десяти, в 200–800 раз по сравнению с прежними подходами.

Так как HAWK лишь алгоритм-кандидат, а не действующий стандарт NIST, он не развернут ни в одном реальном сервисе. Соответственно, найденная уязвимость влияет только на его перспективы внедрения – возможно, его попросят доработать или отклонят.

Атака на AES проведена только на «ослабленную» версию. «Полный» AES, который защищает банковские операции и переписку, использует 10 раундов (циклов шифрования). Для полнораундного AES найденный метод не работает.

Как отмечают разработчики, Mythos Preview достиг этих результатов в основном автономно и практически без вмешательства человека. В течение недели один исследователь из Anthropic работал вместе с Claude над разработкой атаки HAWK, а другой создал каркас (набор промптов и кода), который позволил ИИ полностью автономно обнаружить атаку AES. Разработка каждого из результатов обошлась примерно в $100 тыс. в виде затрат на API.

Несмотря на отсутствие практической угрозы, работа Anthropic — важное достижение для науки и будущего. Впервые ИИ самостоятельно сгенерировал нетривиальный криптоаналитический прием, который раньше не рассматривался. Чтобы разработчики смогли оценивать способности ИИ-моделей в этой области в дальнейшем, компания опубликовала открытый бенчмарк CryptanalysisBench. Таким образом, в мире появилось новое направление: ИИ-тестирование алгоритмов на этапе их разработки, задолго до внедрения в практику.

Важно отметить, что в рамках проведенного исследования продемонстрировано принципиальное отличие постквантовой криптографии и квантовых коммуникаций. Постквантовые алгоритмы, как и классическая криптография, основаны на математических предположениях о сложности вычислительных задач и поэтому требуют длительного криптоанализа. В системах квантового распределения ключей безопасность обеспечивается законами квантовой механики, а не вычислительной сложностью алгоритмов.

Даже алгоритмы, разрабатываемые для защиты от квантовых компьютеров, проходят длительные этапы проверки и совершенствования. Именно поэтому современные системы защиты информации всё чаще рассматривают комбинацию постквантовой криптографии и квантового распределения ключей как взаимодополняющие технологии.