UFOLABSNEWS Исследователи Microsoft показали, как можно внедрить бэкдор в ИИ-агентов, изменив менее 10 нейронов.

Admin

Администратор

1794381884452

​


Исследователи Microsoft обнаружили, что для внедрения скрытого бэкдора в ИИ-модель достаточно изменить менее 10 редко используемых нейронов, не требуя полного переобучения модели. При появлении определённого триггера такая модель начинает выполнять команды злоумышленника с правами самого агента. Метод, названный Lazarus, был успешно протестирован на трёх открытых моделях. Для внедрения бэкдора атакующему необходимо получить доступ к изменению весов модели. Изменённые нейроны активируются только при появлении специальной строки-триггера во входных данных или выводе инструмента. Каждый изменённый нейрон отвечает за один токен в выходной команде, что делает атаку точной и незаметной. Microsoft заявила, что пока не зафиксировала случаев использования этой техники в реальных атаках, но опубликовала рекомендации по защите.
 
Похожие темы
Admin UFOLABSNEWS Исследователи захватили аккаунт Hugging Face для популярной модели Kokoro AI. Новости в сети 0
Admin UFOLABSNEWS Исследователи взломали системы двух автопроизводителей, используя стандартный пароль 'admin:admin'. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили уязвимость в функции сжатия OpenAI, позволяющую получать скрытые рассуждения моделей. Новости в сети 0
Admin UFOLABSNEWS Исследователи продемонстрировали уязвимость Node2Shell в Node.js, позволяющую выполнять произвольный код. Новости в сети 0
Admin UFOLABSNEWS Исследователи использовали публичную модель OpenAI для создания эксплойта для Chrome стоимостью 250 000 долларов за шесть дней. Новости в сети 0
Admin UFOLABSNEWS Исследователи опубликовали рабочий эксплойт для уязвимости в AnyDesk Linux. Новости в сети 0
Admin UFOLABSNEWS Исследователи Positive Technologies обнаружили 11 критических уязвимостей в устройствах Google и Apple. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили уязвимость в WeChat, позволяющую взламывать аккаунты через входящие звонки. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили вредоносный инструментарий PEEP, превращающий браузеры в бэкдоры. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили вредоносную активность, использующую ScreenConnect для распространения VBScript. Новости в сети 0
Admin UFOLABSNEWS Исследователи раскрыли детали работы вредоноса JSCeal, крадущего криптовалюту. Новости в сети 0
Admin UFOLABSNEWS Эксплойт для Harmony уже работает, исследователи ожидают атак. Новости в сети 0
Admin UFOLABSNEWS Исследователи показали, что одного посещения вредоносной страницы достаточно для взлома Tor Browser. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили критическую уязвимость в протоколе Attested TLS. Новости в сети 0
Admin UFOLABSNEWS Исследователи разработали метод TrojPix для утечки данных с изолированных систем через видеокабель. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили уязвимость BioShocking в ИИ-браузерах. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили скрытый бэкдор в популярном расширении Adblock for YouTube. Новости в сети 0
Admin UFOLABSNEWS Исследователи кибербезопасности возмущены блокировкой аккаунтов в X из-за ложных обвинений в злонамеренной деятельности. Новости в сети 0
Admin UFOLABSNEWS Исследователи обнаружили уязвимости DifyTap в платформе Dify, которые могут раскрыть AI-чаты между пользователями. Новости в сети 0
Admin Интересно Исследователи обнаружили уязвимости в ИИ-агенте OpenClaw. Новости в сети 0
Admin Интересно Исследователи сомневаются в реальности утечки данных IBM. Новости в сети 0
Admin Интересно Удалил ключ — не значит заблокировал. Исследователи Aikido выяснили, что API-ключи Google продолжают работать до 23 минут после удаления. Новости в сети 0
Admin Интересно Южнокорейские исследователи разработали умные кольца для перевода жестового языка. Новости в сети 0
Admin Интересно Исследователи обнаружили вредоносное ПО ZionSiphon, нацеленное на израильские системы водоснабжения и опреснения. Новости в сети 0
Admin Интересно Исследователи обнаружили вредоносную кампанию, использующую ISO-файлы для распространения троянов и майнеров. Новости в сети 0
Admin Интересно Китайские исследователи предложили новый метод изучения Венеры. Новости в сети 0
Admin Интересно Исследователи обнаружили сотни открытых API-ключей, предоставляющих доступ к AWS, GitHub, Stripe и OpenAI. Новости в сети 0
Admin Интересно Китайские исследователи успешно испытали твердотопливный ракетный двигатель на глубине 200 метров. Новости в сети 0
Admin Интересно Китайские исследователи разработали систему для обнаружения кораблей в сложных погодных условиях. Новости в сети 0
Admin Интересно Исследователи обнаружили механизм MITM-атаки в популярном клиенте Telegram — Telega. Новости в сети 0
Admin Интересно Китайские исследователи провели эксперимент с обработкой команд для роботов на орбите. Новости в сети 0
Admin Интересно Исследователи обнаружили шпионское ПО для iPhone, способное проникать на миллионы устройств. Новости в сети 0
Admin Интересно Китайские исследователи научили робота играть в теннис на профессиональном уровне. Новости в сети 0
Admin Интересно Кто владеет вашим расширением для Chrome? Исследователи предупреждают о превращении проектов в вредоносное ПО. Новости в сети 0
Admin Интересно Исследователи обнаружили сотни вредоносных рекламных кампаний на платформах Meta. Новости в сети 0
Support81 ИБ-исследователи vs. вендоры: кто в ответе за безопасность ПО? Новости в сети 0
Support81 Исследователи взломали чат-бот для найма сотрудников и раскрыли секреты KFC и Subway Новости в сети 0
Support81 Эпидемия RAT: исследователи отмечают стремительный рост активности троянов удалённого доступа Новости в сети 0
Denik Интересно Исследователи отмечают рост брутфорс атак на RDP Новости в сети 0
S Исследователи реализовали взлом шифрования спутниковой связи в реальном времени Новости в сети 0
Admin UFOLABSNEWS Сбой в работе Microsoft Outlook привёл к опасной ситуации с хлорированием бассейна. Новости в сети 0
Admin UFOLABSNEWS Современные фишинговые наборы для кражи сессий Microsoft 365. Новости в сети 0
Admin UFOLABSNEWS В Microsoft Entra обнаружен новый сценарий фишинга, позволяющий создавать облачные удостоверения. Новости в сети 0
Admin UFOLABSNEWS 1235 брешей за один месяц: Microsoft чинит Windows быстрее, чем её успевают ломать. Новости в сети 0
Admin UFOLABSNEWS Microsoft тестирует новую функцию восстановления Windows 11 через облако. Новости в сети 0
Admin UFOLABSNEWS Microsoft и Epic активно рассылают уведомления DMCA из-за клонов популярных игр. Новости в сети 0
Admin UFOLABSNEWS Исследователь раскрыл, как логические уязвимости позволили взломать Microsoft Edge на конкурсе Pwn2Own. Новости в сети 0
Admin UFOLABSNEWS Microsoft призывает администраторов Entra ID перевести пользователей на passkeys. Новости в сети 0
Admin UFOLABSNEWS Microsoft выпустила внеплановые обновления Windows для отзыва доверия к сертификатам eMudhra. Новости в сети 0
Admin UFOLABSNEWS Microsoft устранила опасную уязвимость в алгоритме сжатия Brotli. Новости в сети 0

Название темы