Интересно Anthropic представила инструмент для оценки рисков использования ИИ.

Admin

Admin

Администратор

1780809357262

​


Компания Anthropic разработала новый инструмент для анализа киберугроз, связанных с искусственным интеллектом.

Система LLM ATT&CK Navigator позволяет выявлять опасные аккаунты и оценивать их риски.

Anthropic представила LLM ATT&CK Navigator — интерактивный инструмент, который анализирует случаи злоупотребления ИИ и присваивает аккаунтам оценку риска ARiES. Система выявляет наиболее опасные аккаунты на платформе Claude, анализируя их действия и потенциальный ущерб. За последний год компания заблокировала 832 аккаунта, нарушавших правила этичного использования ИИ. Инструмент также показал рост числа субъектов со средним и высоким риском, что свидетельствует о возрастающей роли ИИ в кибератаках.
 
Для ответа нужно войти/зарегистрироваться
Похожие темы
Admin Интересно Anthropic представила плагин безопасности для Claude Code. Новости в сети 0
Admin UFOLABSNEWS Anthropic обошла собственные ограничения для сотрудничества со спецслужбами США. Новости в сети 0
Admin UFOLABSNEWS Anthropic исследовала внутреннюю структуру модели Claude и обнаружила сходство с теорией сознания. Новости в сети 0
Admin UFOLABSNEWS Anthropic тайно отслеживала пользователей из Китая через Claude Code. Новости в сети 0
Admin UFOLABSNEWS Австрия предложила разместить Anthropic в ЕС для снижения зависимости от США. Новости в сети 0
Admin UFOLABSNEWS Австрия предложила ЕС рассмотреть возможность размещения Anthropic на своей территории. Новости в сети 0
Admin UFOLABSNEWS Правительство США одобрило ограниченный выпуск модели Mythos 5 от Anthropic. Новости в сети 0
Admin UFOLABSNEWS Anthropic обвинила Alibaba в краже навыков модели Claude. Новости в сети 0
Admin Интересно США ограничили доступ к моделям ИИ Anthropic из-за опасений их использования иностранными военными. Новости в сети 0
Admin Интересно Anthropic отключила доступ к своим моделям ИИ для иностранных пользователей по требованию США. Новости в сети 0
Admin Интересно Публичность Fable 5 высветила агрессивные условия использования Anthropic. Новости в сети 0
Admin Интересно Anthropic выпустила Claude Fable 5 — модель ИИ, ранее считавшуюся слишком рискованной для публичного использования. Новости в сети 0
Admin Интересно OpenAI подала заявку на IPO в США вслед за Anthropic. Новости в сети 0
Admin Интересно Anthropic предлагает остановить разработку мощных ИИ-систем. Новости в сети 0
Admin Интересно Уязвимость в помощнике Anthropic AI могла раскрыть секретные данные. Новости в сети 0
Admin Интересно Anthropic призывает замедлить развитие ИИ перед IPO на триллион долларов. Новости в сети 0
Admin Интересно Anthropic расширяет доступ к своей системе Mythos AI для 200 организаций. Новости в сети 0
Admin Интересно Anthropic готовится к IPO, опережая OpenAI в гонке за лидерство на рынке ИИ. Новости в сети 0
Admin Интересно Anthropic выпустила обновлённую модель Claude Opus 4.8. Новости в сети 0
Admin Интересно Anthropic представит модель Mythos AI, способную изменить подход к киберрискам. Новости в сети 0
Admin Интересно Хакеры создали платформу KeyHunter для автоматического поиска ключей OpenAI, Anthropic и AWS. Новости в сети 0
Admin Интересно США объявили Anthropic угрозой национальной безопасности, но продолжают использовать её технологии. Новости в сети 0
Admin Интересно Anthropic рассказала, как отучила искусственный интеллект угрожать людям. Новости в сети 0
Admin Интересно Anthropic выпустила частичное исправление для уязвимости в расширении Claude Chrome. Новости в сети 0
Admin Интересно Несанкционированный доступ к мощной модели Mythos компании Anthropic. Новости в сети 0
Admin Интересно Claude взломал Chrome за 2283 доллара. Anthropic пыталась предотвратить это, но не смогла. Новости в сети 0
Admin Интересно GitHub заблокировал доступ к сети проектов из-за утечки кода Anthropic. Новости в сети 0
Admin Интересно Anthropic случайно опубликовала исходный код CLI-инструмента Claude Code. Новости в сети 0
Admin Интересно Армия США в заложниках у кода, а Anthropic пугает мир новой моделью Mythos. Новости в сети 0
Admin Интересно Anthropic запустила сервис для проверки кода, который работает как опытный разработчик. Новости в сети 0
Admin Интересно Бунт против Пентагона. Топы OpenAI и Google пошли в суд защищать Anthropic от принудительной милитаризации нейросетей. Новости в сети 0
Admin Интересно Мэр Лондона пригласил Anthropic в город после критики Пентагона. Новости в сети 0
Admin Интересно Anthropic обнаружила 22 уязвимости в Firefox с помощью модели Claude Opus 4.6. Новости в сети 0
Admin Интересно Пентагон требует от Anthropic полного контроля над ИИ Claude. Новости в сети 0
Admin Интересно Открыл README — потерял сервер. В Anthropic хотели упростить жизнь разработчикам, но случайно дали взломщикам ключи от их систем. Новости в сети 0
Admin UFOLABSNEWS Meta представила инструмент Muse Image для создания AI-контента на основе публичных фото из Instagram. Новости в сети 0
Admin UFOLABSNEWS Google представила рекламу о создании Декларации независимости с помощью современных инструментов. Новости в сети 0
Admin UFOLABSNEWS Китайская компания UBTECH представила гуманоидного робота U1 для общения и помощи в быту. Новости в сети 0
Admin UFOLABSNEWS Opera представила функцию Paste Protect для защиты от атак ClickFix. Новости в сети 0
Admin UFOLABSNEWS Microsoft представила новую функцию восстановления системы в Windows 11. Новости в сети 0
Admin UFOLABSNEWS OpenAI представила GPT-5.6 Sol для кибербезопасности и научных задач. Новости в сети 0
Admin UFOLABSNEWS OpenAI представила специализированный чип Jalapeño для работы языковых моделей. Новости в сети 0
Admin UFOLABSNEWS НАСА представила новый уникальный ровер для будущей экспансии Луны и Марса. Новости в сети 0
Admin UFOLABSNEWS Epic Games представила систему контроля версий Lore для работы с большими бинарными файлами. Новости в сети 0
Admin UFOLABSNEWS Positive Technologies представила платформу «Киберпогода» для прогнозирования атак через внешнюю бизнес-экосистему. Новости в сети 0
Admin Интересно Commodore представила раскладушку Callback 8020 за 640 долларов. Новости в сети 0
Admin Интересно CATL представила платформу для совместимости натрий-ионных и литий-ионных аккумуляторов. Новости в сети 0
Admin Интересно Apple представила масштабное обновление Siri в попытке догнать конкурентов в гонке ИИ. Новости в сети 0
Admin Интересно Microsoft представила новую концепцию корпоративных устройств. Новости в сети 0
Admin Интересно Cash App представила новый аксессуар для бесконтактных платежей. Новости в сети 0

Название темы