Admin
Администратор
Anthropic отказалась от публичного выпуска модели Mythos, предназначенной для поиска уязвимостей, из-за высокого риска её использования в злонамеренных целях.
Исследователь Мохан Педхапати продемонстрировал, что доступная модель Opus 4.6 способна успешно эксплуатировать уязвимости в движке V8, используемом в Chrome и других приложениях.
Эксперимент Педхапати занял неделю и обошёлся в 2283 доллара, включая использование API. Он смог запустить калькулятор на целевой системе, что является стандартным признаком успешного перехвата выполнения кода. Уязвимость, использованная в эксперименте, связана с ошибкой выхода за границы памяти в движке V8. Anthropic утверждает, что новая версия Opus 4.7 имеет механизмы для блокировки опасных сценариев, но признаёт, что Mythos остаётся более мощным инструментом. Педхапати считает, что проблема заключается в темпах прогресса, и рано или поздно даже начинающие злоумышленники смогут использовать API для создания эксплойтов.
