ИИ в роли злоумышленника: может ли машина превзойти человека в искусстве обмана?

Support81

Модератор
ChatGPT попробовал свои силы в создании фишинговых писем.
Chay



Искусственный интеллект продолжает развиваться, с каждым новым исследованием демонстрируя поразительный прогресс. Но сможет ли машина когда-нибудь превзойти человека в искусстве обмана и манипуляций? Этот вопрос заинтересовал исследователей из IBM.

Команда IBM X-Force провела эксперимент, чтобы сравнить навыки ИИ и человека в создании фишинговых писем. Задача - составить максимально убедительное послание, которое побудит получателя кликнуть на вредоносную ссылку.

Перед моделью ChatGPT была поставлена непростая задача. В итоге ИИ справился за 5 минут, в то время как людям потребовалось 16 часов на аналогичное задание.

Однако финальные результаты оказались не в пользу нейросети. Письмо, созданное людьми, продемонстрировало бо́льшую эффективность, обеспечив кликабельность на уровне 14% против 11% у ChatGPT.

По мнению экспертов IBM, победу людям принесли эмоциональный подход, тщательный анализ целевой аудитории и грамотное построение текста. Хотя по скорости человек значительно уступает машине, он все еще опережает ИИ в психологических тонкостях.

Тем не менее, эксперты прогнозируют, что в скором времени ИИ сможет не просто сравняться, но и превзойти способности хакеров в социальной инженерии. Это ставит новые вызовы перед специалистами в сфере кибербезопасности.

Джон Каррутерс, выдающийся эксперт в сфере информационной безопасности, заявляет: "Нам просто необходимо изучать и анализировать методы, к которым злоумышленники могут прибегнуть, эксплуатируя генеративный ИИ. Понимая, как атакующие могут использовать технологии, мы поможем организациям минимизировать риски и эффективно защищаться от угроз".
Подробнее: https://www.securitylab.ru/news/543027.php
 
Похожие темы
Admin Интересно Милла Йовович создала инструмент для памяти ИИ MemPalace, но разработчики сомневаются. Новости в сети 0
Admin Интересно Американские чиновники предупредили банки о киберрисках от новой модели ИИ. Новости в сети 0
Admin Интересно Математик предложил новый метод предсказания хаоса в жидкостях с помощью ИИ. Новости в сети 0
Admin Интересно MemPalace: Милла Йовович запустила открытый инструмент для долгосрочной памяти ИИ. Новости в сети 0
Admin Интересно ИИ-алгоритмы демонстрируют неожиданную солидарность друг с другом. Новости в сети 0
Admin Интересно Google представила мощную ИИ-модель Gemma 4, которая работает даже на слабом железе. Новости в сети 0
Admin Интересно Гонка вооружений в сфере ИИ: почему управление уязвимостями становится приоритетом для компаний. Новости в сети 0
Admin Интересно Европейский союз запрещает использование ИИ для создания поддельных откровенных изображений. Новости в сети 0
Admin Интересно Microsoft позволяет Copilot использовать несколько моделей ИИ одновременно для взаимной проверки. Новости в сети 0
Admin Интересно 43% сотрудников опасаются, что ИИ лишит их работы. Как страх увольнения убивает эффективность бизнеса. Новости в сети 0
Admin Интересно ИИ ускоряет проектирование и строительство ядерных реакторов. Новости в сети 0
Admin Интересно Расширения для браузеров с функцией ИИ стали инструментом слежки. Новости в сети 0
Admin Интересно Дэвид Сакс покинул пост советника Белого дома по ИИ и присоединился к технологическому совету Трампа. Новости в сети 0
Admin Интересно Наталья Касперская предложила регулировать использование ИИ в образовании. Новости в сети 0
Admin Интересно Mozilla создает базу знаний для ИИ-агентов, аналогичную Stack Overflow. Новости в сети 0
Admin Интересно ИИ стал инструментом для создания запрещённого контента. Новости в сети 0
Admin Интересно Новый гибридный ИИ предсказывает срок службы батарей с высокой точностью. Новости в сети 0
Admin Интересно ИИ RAVEN обнаружил 31 скрытую экзопланету среди 2 миллионов звезд. Новости в сети 0
Admin Интересно Критическая уязвимость в Python-библиотеке LiteLLM: миллионы разработчиков ИИ оказались под угрозой. Новости в сети 0
Admin Интересно OpenAI Foundation инвестирует $1 млрд в использование ИИ для лечения болезней. Новости в сети 0
Admin Интересно 20 часов до первого удара. Как ИИ-инструменты лишили системных администраторов сна. Новости в сети 0
Admin Интересно Нейросеть написала код, а пароль спрятать забыла. ИИ превратил GitHub в решето. Новости в сети 0
Admin Интересно NVIDIA представила инструмент NemoClaw для безопасного запуска ИИ-агентов. Новости в сети 0
Admin Интересно Белый дом предлагает единый закон об ИИ для защиты детей и упрощения регулирования. Новости в сети 0
Admin Интересно Иностранные ИИ-инструменты должны соответствовать российским ценностям или покинуть страну. Новости в сети 0
Admin Интересно ИИ-терапия провалилась. Чат-боты проигрывают людям в борьбе с одиночеством. Новости в сети 0
Admin Интересно Systemd 260 удаляет поддержку старых скриптов и внедряет ИИ в разработку. Новости в сети 0
Admin Интересно Google представила обновлённый инструмент Stitch для проектирования интерфейсов с использованием ИИ. Новости в сети 0
Admin Интересно Минцифры выставило на обсуждение закон о суверенном ИИ. Новости в сети 0
Admin Интересно Компании в Индии обязаны раскрывать использование ИИ для получения киберстрахования. Новости в сети 0
Admin Интересно ИИ находит слишком много багов. Но разработчики нашли способ спасти Open Source от наплыва отчётов. Новости в сети 0
Admin Интересно ИИ в цифровой среде TerraLingua начал проявлять социальное поведение и обман. Новости в сети 0
Admin Интересно Пентагон внес ИИ-компанию в чёрный список за отказ сделать ИИ опаснее. Новости в сети 0
Admin Интересно ИИ теперь создаёт не только красивые, но и прочные объекты. Новости в сети 0
Admin Интересно Gartner рекомендует отключать корпоративный ИИ по пятницам после обеда. Новости в сети 0
Admin Интересно Популярные системы управления ИИ оказались уязвимыми для атак. Новости в сети 0
Admin Интересно Киберпреступники используют ClickFix для распространения macOS-трояна через поддельные установщики ИИ-инструментов. Новости в сети 0
Admin Интересно Microsoft запустила медицинский ИИ Copilot Health. Новости в сети 0
Admin Интересно Хакеры используют ИИ для создания вредоносного ПО Slopoly. Новости в сети 0
Admin Интересно Китайский регулятор предупредил об опасностях ИИ-инструмента OpenClaw. Новости в сети 0
Admin Интересно Hacker News запрещает комментарии, созданные или отредактированные с помощью ИИ. Новости в сети 0
Admin Интересно Китайские микродрамы с ИИ-животными стали хитом среди поколения Z. Новости в сети 0
Admin Интересно ИИ-чатботы признаны опасными после рекомендаций совершить насилие. Новости в сети 0
Admin Интересно Правительство может разрешить использование защищенных материалов для обучения ИИ. Новости в сети 0
Admin Интересно ИИ-хакеры захватывают сети всего за 29 минут. Новости в сети 0
Admin Интересно Как предотвратить утечку данных через ИИ: вебинар по аудиту современных агентских процессов. Новости в сети 0
Admin Интересно Пакистанские хакеры перешли на массовое производство вредоносного кода с помощью ИИ. Новости в сети 0
Admin Интересно Конец плавящимся дата-центрам: ИИ заставили считать на фотонах и навсегда отменили проблему перегрева серверов. Новости в сети 0
Admin Интересно ИИ помогает продвигать псевдонаучные теории, обходя академические барьеры. Новости в сети 0
Admin Интересно Пока разработчики спали, ИИ нашёл 10 тысяч уязвимостей в их проектах. Новости в сети 0

Название темы