Admin
Администратор
Современные языковые модели, используемые в чат-ботах, часто воспроизводят стереотипы вместо реальных человеческих черт. Исследователи из Пенсильванского университета выяснили, что ИИ упрощает идентичность пользователей, сводя её к набору клише.
undefined
Исследователи выделили четыре вида вреда от такого подхода: стереотипизация, экзотизация, стирание личных нюансов и доброжелательная предвзятость. Эти проблемы могут влиять на решения разработчиков и пользователей, особенно в критически важных сценариях. Авторы работы предлагают внедрить новые метрики оценки и вовлекать сообщества в процесс валидации, чтобы избежать усиления вредных стереотипов.
