Anthropic выпустила открытый библиотеку для масштабной формальной верификации Claude

Искусственный интеллект компании Anthropic, команда Frontier Red Team, 22 октября опубликовала исследование, в котором утверждается, что большие языковые модели теперь могут автоматически составлять формальные доказательства в большем масштабе. Команда сотрудничала с Theorem, используя Claude на уровне ассемблера RISC-V для доказательства безопасности более 100 реальных открытых библиотек, что стало первым случаем использования ИИ для масштабной формальной верификации производственного программного обеспечения на уровне ассемблера. В процессе написания доказательств были обнаружены уязвимости, которые не были замечены в течение многих лет. Эксперимент преобразовал существующие компилируемые тесты fuzz из Google OSS-Fuzz в спецификации, при предположениях о однопоточном статическом бинарном коде, фиксированном объеме памяти, процессоре RISC-V и Linux, для любого входного значения менее 64 МБ программа должна нормально завершаться и не вызывать ошибок безопасности памяти или сбоев утверждений. После исправления проблем Claude доказал вышеуказанные свойства для 239 точек входа в 123 библиотеках OSS-Fuzz, доказательства касались скомпилированных инструкций RISC-V, примерно 180 миллионов строк Rocq, проверенных ядром Rocq. На странице указано, что это не означает, что в этих библиотеках нет уязвимостей, оставшиеся проблемы могут находиться вне доверенных компонентов или области доказательства. Команда также заставила Claude формализовать RFC 1950 и доказала, что реализация zlib в ядре Linux соответствует этой спецификации на уровне бинарного кода x86; интерпретатор, написанный на Rust, охватывающий большой подмножество Python, показал, что 99,95% случайно сгенерированных программ ведут себя аналогично CPython. В 36 небольших задачах верификации Opus 5.5 доказал, что для половины из них требуется на 40% меньше токенов, чем для Opus 5.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.