Интересно Anthropic представила инструмент для оценки рисков использования ИИ.

Admin

Admin

Администратор

1780809357262

​


Компания Anthropic разработала новый инструмент для анализа киберугроз, связанных с искусственным интеллектом.

Система LLM ATT&CK Navigator позволяет выявлять опасные аккаунты и оценивать их риски.

Anthropic представила LLM ATT&CK Navigator — интерактивный инструмент, который анализирует случаи злоупотребления ИИ и присваивает аккаунтам оценку риска ARiES. Система выявляет наиболее опасные аккаунты на платформе Claude, анализируя их действия и потенциальный ущерб. За последний год компания заблокировала 832 аккаунта, нарушавших правила этичного использования ИИ. Инструмент также показал рост числа субъектов со средним и высоким риском, что свидетельствует о возрастающей роли ИИ в кибератаках.
 
Для ответа нужно войти/зарегистрироваться
Похожие темы
Admin Интересно Anthropic представила плагин безопасности для Claude Code. Новости в сети 0
Admin Интересно США ограничили доступ к моделям ИИ Anthropic из-за опасений их использования иностранными военными. Новости в сети 0
Admin Интересно Anthropic отключила доступ к своим моделям ИИ для иностранных пользователей по требованию США. Новости в сети 0
Admin Интересно Публичность Fable 5 высветила агрессивные условия использования Anthropic. Новости в сети 0
Admin Интересно Anthropic выпустила Claude Fable 5 — модель ИИ, ранее считавшуюся слишком рискованной для публичного использования. Новости в сети 0
Admin Интересно OpenAI подала заявку на IPO в США вслед за Anthropic. Новости в сети 0
Admin Интересно Anthropic предлагает остановить разработку мощных ИИ-систем. Новости в сети 0
Admin Интересно Уязвимость в помощнике Anthropic AI могла раскрыть секретные данные. Новости в сети 0
Admin Интересно Anthropic призывает замедлить развитие ИИ перед IPO на триллион долларов. Новости в сети 0
Admin Интересно Anthropic расширяет доступ к своей системе Mythos AI для 200 организаций. Новости в сети 0
Admin Интересно Anthropic готовится к IPO, опережая OpenAI в гонке за лидерство на рынке ИИ. Новости в сети 0
Admin Интересно Anthropic выпустила обновлённую модель Claude Opus 4.8. Новости в сети 0
Admin Интересно Anthropic представит модель Mythos AI, способную изменить подход к киберрискам. Новости в сети 0
Admin Интересно Хакеры создали платформу KeyHunter для автоматического поиска ключей OpenAI, Anthropic и AWS. Новости в сети 0
Admin Интересно США объявили Anthropic угрозой национальной безопасности, но продолжают использовать её технологии. Новости в сети 0
Admin Интересно Anthropic рассказала, как отучила искусственный интеллект угрожать людям. Новости в сети 0
Admin Интересно Anthropic выпустила частичное исправление для уязвимости в расширении Claude Chrome. Новости в сети 0
Admin Интересно Несанкционированный доступ к мощной модели Mythos компании Anthropic. Новости в сети 0
Admin Интересно Claude взломал Chrome за 2283 доллара. Anthropic пыталась предотвратить это, но не смогла. Новости в сети 0
Admin Интересно GitHub заблокировал доступ к сети проектов из-за утечки кода Anthropic. Новости в сети 0
Admin Интересно Anthropic случайно опубликовала исходный код CLI-инструмента Claude Code. Новости в сети 0
Admin Интересно Армия США в заложниках у кода, а Anthropic пугает мир новой моделью Mythos. Новости в сети 0
Admin Интересно Anthropic запустила сервис для проверки кода, который работает как опытный разработчик. Новости в сети 0
Admin Интересно Бунт против Пентагона. Топы OpenAI и Google пошли в суд защищать Anthropic от принудительной милитаризации нейросетей. Новости в сети 0
Admin Интересно Мэр Лондона пригласил Anthropic в город после критики Пентагона. Новости в сети 0
Admin Интересно Anthropic обнаружила 22 уязвимости в Firefox с помощью модели Claude Opus 4.6. Новости в сети 0
Admin Интересно Пентагон требует от Anthropic полного контроля над ИИ Claude. Новости в сети 0
Admin Интересно Открыл README — потерял сервер. В Anthropic хотели упростить жизнь разработчикам, но случайно дали взломщикам ключи от их систем. Новости в сети 0
Admin Интересно НАСА представила новый уникальный ровер для будущей экспансии Луны и Марса. Новости в сети 0
Admin Интересно Epic Games представила систему контроля версий Lore для работы с большими бинарными файлами. Новости в сети 0
Admin Интересно Positive Technologies представила платформу «Киберпогода» для прогнозирования атак через внешнюю бизнес-экосистему. Новости в сети 0
Admin Интересно Commodore представила раскладушку Callback 8020 за 640 долларов. Новости в сети 0
Admin Интересно CATL представила платформу для совместимости натрий-ионных и литий-ионных аккумуляторов. Новости в сети 0
Admin Интересно Apple представила масштабное обновление Siri в попытке догнать конкурентов в гонке ИИ. Новости в сети 0
Admin Интересно Microsoft представила новую концепцию корпоративных устройств. Новости в сети 0
Admin Интересно Cash App представила новый аксессуар для бесконтактных платежей. Новости в сети 0
Admin Интересно Google представила Gemma 4 12B — мощную модель ИИ для локального использования. Новости в сети 0
Admin Интересно OpenAI представила GPT-Rosalind для анализа биологических угроз. Новости в сети 0
Admin Интересно Microsoft представила квантовый чип, разработанный с помощью ИИ. Новости в сети 0
Admin Интересно Embarcadero представила ИИ-ассистента Kai для Delphi и C++Builder. Новости в сети 0
Admin Интересно Huawei представила уникальный процессор толщиной в несколько атомов. Новости в сети 0
Admin Интересно Broadcom представила чипсеты Wi-Fi 8 до утверждения стандарта. Новости в сети 0
Admin Интересно Huawei представила новый способ создания более быстрых чипов без передовых технологий США. Новости в сети 0
Admin Интересно Alibaba представила новый процессор Zhenwu M890 и серверную систему Panjiu AL128. Новости в сети 0
Admin Интересно Microsoft представила инструменты RAMPART и Clarity для повышения безопасности ИИ-агентов. Новости в сети 0
Admin Интересно Colossal Biosciences представила искусственное яйцо для выращивания птиц. Новости в сети 0
Admin Интересно Microsoft представила функцию автоматического отката драйверов через облако. Новости в сети 0
Admin Интересно Nintendo представила Pictonico — смесь WarioWare и Face Raiders для эпохи слежки. Новости в сети 0
Admin Интересно OpenAI представила инструмент для поиска уязвимостей в коде. Новости в сети 0
Admin Интересно Google представила Gemini Intelligence — Android научится сам выполнять задачи. Новости в сети 0

Название темы