Problème de deepfakes non consensuels sur Hugging Face
Hugging Face, une plateforme d'IA open-source, est critiquée pour son incapacité à modérer les deepfakes non consensuels. Un rapport d'AI Forensics révèle que 73 % des demandes sur ses modèles d'édition d'images sont sexuelles, ciblant principalement des femmes.
« “Most of the Spaces [tested] can be used for generating nonconsensual intimate images, and users are actually using it for these purposes,” says Paul Bouchaud. » — Wired AI
Que faut-il retenir ?
- 73 % des demandes reçues par AI Forensics sur Hugging Face étaient de nature sexuelle.
- 83 % des demandes cherchaient à déshabiller ou sexualiser les personnes sur les photos soumises.
- 6,7 % des demandes sexuelles ciblaient des enfants apparents.
- Les modèles testés n'avaient pas de mécanismes de sécurité pour interdire la création d'images dénudées.
Pourquoi cette nouvelle compte-t-elle ?
La prolifération des deepfakes non consensuels sur des plateformes comme Hugging Face soulève des préoccupations majeures en matière de sécurité et de protection des individus, en particulier des femmes et des enfants. Cela met en lumière la nécessité d'une meilleure régulation et de mécanismes de sécurité pour prévenir l'abus de ces technologies.
73 % des demandes sur Hugging Face étaient de nature sexuelle.
💬 Paul Bouchaud, chercheur principal chez AI Forensics
Public concerné : entreprises, développeurs
Comment Hugging Face gère-t-il les deepfakes non consensuels sur sa plateforme?
Hugging Face a des politiques de contenu interdisant les deepfakes sexuels sans consentement, mais un rapport d'AI Forensics indique que la modération est insuffisante, avec de nombreux modèles permettant la création d'images non consensuelles.
🔧 Outils mentionnés