Admin
Администратор
CISA совместно с кибербезопасностными агентствами Великобритании, Канады, Австралии и Новой Зеландии выпустила рекомендации по безопасности агентного ИИ.
Агентный ИИ способен планировать, рассуждать и выполнять многошаговые задачи с минимальным вмешательством человека, что делает его использование в критически важных инфраструктурах и оборонных секторах потенциально опасным.
CISA предупреждает о рисках, связанных с агентным ИИ, включая потерю продуктивности, нарушение работы сервисов, утечки данных и киберинциденты. Выделено пять категорий рисков: привилегии, проектирование и конфигурация, поведение, структурные проблемы и подотчётность. Агентства подчеркивают необходимость дополнительных исследований и сотрудничества для разработки эффективных мер безопасности. Эран Барак, CEO компании MIND, отметил, что агентный ИИ является недетерминированным и автономным, что делает его использование без контроля особенно рискованным. Он рекомендовал компаниям двигаться вперёд, но обеспечивать соответствие мер безопасности темпам развития ИИ.
