Admin
Администратор
Исследователи обнаружили уязвимость в платформе Hugging Face, которая позволила им захватить контроль над моделью Kokoro, используемой для преобразования текста в речь. Эта модель применяется в проектах таких компаний, как Google, NVIDIA, AMD, Intel и Amazon Web Services. Злоумышленник, получивший доступ к аккаунту, мог бы использовать его для распространения вредоносного ПО через цепочку поставок, что могло привести к краже данных или выполнению вредоносного кода. Однако исследователи продемонстрировали более скрытую атаку: они изменили веса модели так, чтобы она выдавала аудио, отличающееся от исходного текста, без изменения кода приложения. Поскольку изменяются только веса модели, вредоносный код или сигнатуры для антивирусных сканеров отсутствуют. Kokoro — это модель с открытыми весами, поддерживающая несколько языков и имеющая более 50 голосовых пресетов. Несмотря на то что разработчик модели, Hexgrad, не выпускал обновлений с апреля 2025 года, проект остаётся популярным, с почти 13 миллионами загрузок в месяц на Hugging Face. Исследователи захватили аккаунт Kokoro, зарегистрировав домен, указанный в файле DONATE.md, и сбросив пароль.