Support81
Модератор
Законодательные запреты и технологии для защиты от несанкционированного использования изображений.
Современные генеративные инструменты ИИ сделали создание дипфейк-порнографии доступным для каждого. В отчете 2023 года компании Home Security Heroes, занимающейся обзорами сервисов защиты от кражи личности, указано, что для создания 60-секундного дипфейк-порнографического видео требуется всего одно четкое изображение лица и менее 25 минут. Это стало возможным благодаря бесплатным инструментам.
Внимание общественности к этой проблеме привлекли в январе 2023 года графические дипфейк-изображения Тейлор Свифт, распространившиеся в социальных сетях и набравшие 47 миллионов просмотров до удаления. Похожие случаи затронули не только звезд индустрии развлечений, таких как корейские поп-звезды, но и обычных людей. Согласно отчету, 99% жертв таких видео составляют женщины и девочки.
Такая ситуация вызывает активные действия со стороны женщин. Основательница стартапа Nadia Lee заявила: «Если технологии безопасности не будут развиваться с той же скоростью, что и ИИ, нас ждет катастрофа». Несмотря на исследования по обнаружению дипфейков, эти инструменты не успевают за технологиями их создания. Кроме того, их эффективность зависит от желания платформ бороться с дипфейками, а большинство таких видео размещается на специализированных сайтах.
Компания Lee, That’sMyFace , разрабатывает инструменты распознавания изображений для корпоративных клиентов, чтобы их логотипы, униформа или продукты не появлялись в порнографии. В будущем планируется создать инструмент для сканирования интернета на наличие дипфейк-изображений или видео с лицами пользователей.
Основательница стартапа Alecto AI , Breeze Liu, стала жертвой дипфейк-порнографии в 2020 году, обнаружив более 800 ссылок на поддельное видео. Полиция оказалась бессильной, и ей пришлось самостоятельно отслеживать и удалять видео. Liu решила использовать ИИ для борьбы с ИИ и создала приложение для проверки использования изображений лиц пользователей на основных социальных платформах.
Liu ведет переговоры с Meta о пилотной программе, которая обеспечит автоматизированную модерацию контента. В дальнейшем инструмент может стать частью инфраструктуры онлайн-идентификации, позволяя проверять фальшивые профили в социальных сетях и на сайтах знакомств.
Удаление дипфейк-контента из социальных сетей – сложная задача, а с порнографических платформ – еще труднее. Адвокаты по защите от сексуального насилия считают, что необходимы законодательные меры. Susanna Gibson, основавшая некоммерческую организацию MyOwn после личного опыта с дипфейками, добилась принятия закона в Вирджинии в 2023 году, расширяющего действующее законодательство против "порнографии мести". Несмотря на усилия, на федеральном уровне такие законы пока не получили широкого распространения.
В 49 штатах США, а также в округе Колумбия, есть законы против несанкционированного распространения интимных изображений, но их эффективность варьируется. Законы часто требуют доказательства намерения злоумышленника причинить вред, что сложно доказать. В разных юрисдикциях также нет единого мнения о том, считать ли распространение дипфейк-порнографии уголовным преступлением или гражданским правонарушением, и кто должен нести ответственность – распространители или платформы.
Великобритания в 2023 году приняла закон , криминализирующий распространение дипфейк-порнографии, а в Евросоюзе принята директива против кибернасилия, включая дипфейки, с реализацией до 2027 года. В Австралии и Южной Корее также действуют законы , направленные против распространения таких материалов. В Китае существуют ограничения на распространение синтетического контента, но их эффективность пока не доказана.
Пока законодательные меры не дают желаемого эффекта, на помощь приходят стартапы, такие как Alecto AI и That’sMyFace. Однако эти меры напоминают использование свистков для защиты от нападений – полезно, но недостаточно. Общество должно принимать более серьезные меры для предотвращения сексуального насилия во всех его проявлениях.
Подробнее: https://www.securitylab.ru/news/550200.php
Современные генеративные инструменты ИИ сделали создание дипфейк-порнографии доступным для каждого. В отчете 2023 года компании Home Security Heroes, занимающейся обзорами сервисов защиты от кражи личности, указано, что для создания 60-секундного дипфейк-порнографического видео требуется всего одно четкое изображение лица и менее 25 минут. Это стало возможным благодаря бесплатным инструментам.
Внимание общественности к этой проблеме привлекли в январе 2023 года графические дипфейк-изображения Тейлор Свифт, распространившиеся в социальных сетях и набравшие 47 миллионов просмотров до удаления. Похожие случаи затронули не только звезд индустрии развлечений, таких как корейские поп-звезды, но и обычных людей. Согласно отчету, 99% жертв таких видео составляют женщины и девочки.
Реакция и новые технологии
Такая ситуация вызывает активные действия со стороны женщин. Основательница стартапа Nadia Lee заявила: «Если технологии безопасности не будут развиваться с той же скоростью, что и ИИ, нас ждет катастрофа». Несмотря на исследования по обнаружению дипфейков, эти инструменты не успевают за технологиями их создания. Кроме того, их эффективность зависит от желания платформ бороться с дипфейками, а большинство таких видео размещается на специализированных сайтах.
Компания Lee, That’sMyFace , разрабатывает инструменты распознавания изображений для корпоративных клиентов, чтобы их логотипы, униформа или продукты не появлялись в порнографии. В будущем планируется создать инструмент для сканирования интернета на наличие дипфейк-изображений или видео с лицами пользователей.
Личный опыт и новые решения
Основательница стартапа Alecto AI , Breeze Liu, стала жертвой дипфейк-порнографии в 2020 году, обнаружив более 800 ссылок на поддельное видео. Полиция оказалась бессильной, и ей пришлось самостоятельно отслеживать и удалять видео. Liu решила использовать ИИ для борьбы с ИИ и создала приложение для проверки использования изображений лиц пользователей на основных социальных платформах.
Liu ведет переговоры с Meta о пилотной программе, которая обеспечит автоматизированную модерацию контента. В дальнейшем инструмент может стать частью инфраструктуры онлайн-идентификации, позволяя проверять фальшивые профили в социальных сетях и на сайтах знакомств.
Законодательные инициативы
Удаление дипфейк-контента из социальных сетей – сложная задача, а с порнографических платформ – еще труднее. Адвокаты по защите от сексуального насилия считают, что необходимы законодательные меры. Susanna Gibson, основавшая некоммерческую организацию MyOwn после личного опыта с дипфейками, добилась принятия закона в Вирджинии в 2023 году, расширяющего действующее законодательство против "порнографии мести". Несмотря на усилия, на федеральном уровне такие законы пока не получили широкого распространения.
В 49 штатах США, а также в округе Колумбия, есть законы против несанкционированного распространения интимных изображений, но их эффективность варьируется. Законы часто требуют доказательства намерения злоумышленника причинить вред, что сложно доказать. В разных юрисдикциях также нет единого мнения о том, считать ли распространение дипфейк-порнографии уголовным преступлением или гражданским правонарушением, и кто должен нести ответственность – распространители или платформы.
Международная практика
Великобритания в 2023 году приняла закон , криминализирующий распространение дипфейк-порнографии, а в Евросоюзе принята директива против кибернасилия, включая дипфейки, с реализацией до 2027 года. В Австралии и Южной Корее также действуют законы , направленные против распространения таких материалов. В Китае существуют ограничения на распространение синтетического контента, но их эффективность пока не доказана.
Заключение
Пока законодательные меры не дают желаемого эффекта, на помощь приходят стартапы, такие как Alecto AI и That’sMyFace. Однако эти меры напоминают использование свистков для защиты от нападений – полезно, но недостаточно. Общество должно принимать более серьезные меры для предотвращения сексуального насилия во всех его проявлениях.
Подробнее: https://www.securitylab.ru/news/550200.php
