TikTok ajoute une étiquette « générée par l’IA » au contenu tiers filigrané

TikTok applique déjà automatiquement une balise « générée par l’IA » au contenu de sa plate-forme créé à l’aide des outils d’IA de TikTok, et cette même étiquette s’appliquera désormais au contenu créé sur d’autres plates-formes. Désormais, TikTok détectera lorsque des images ou des vidéos sont téléchargées sur sa plate-forme contenant des balises de métadonnées indiquant la présence de contenu généré par l’IA et affirme qu’il s’agit de la première plate-forme de médias sociaux à prendre en charge les nouvelles informations d’identification de contenu .

La prise en charge du système de balisage développé par Adobe (qui a été ajouté à des outils tels que Photoshop et Firefly) intervient dans le cadre du partenariat de TikTok avec la Content Authenticity Initiative (CAI) d’Adobe ainsi que la Coalition for Content Provenance and Authenticity (C2PA).

TikTok écrit que la prise en charge des informations d’identification de contenu passera par une « mise en œuvre en plusieurs phases » sur la plateforme. La première étape de l’entreprise consiste à commencer à étiqueter automatiquement les téléchargements générés par l’IA qui contiennent déjà des informations d’identification de contenu. L’étape suivante consiste à ajouter les balises au contenu généré à l’aide des effets d’IA de TikTok qui restent en place même si le contenu est téléchargé pour être publié ailleurs.

Lire aussi : Grok dévoile son code source xAI et entre dans l’ère de l’intelligence artificielle libre

La prochaine phase du déploiement de cette fonctionnalité consistera à permettre aux utilisateurs de TikTok de vérifier et de modifier manuellement les balises de métadonnées Content Credentials associées à leur contenu généré par l’IA. Cela offrira aux créateurs un plus grand contrôle sur la manière dont leur contenu est étiqueté et partagé sur la plateforme et au-delà.

En plus de fournir des informations d’identification de contenu pour le contenu généré par l’IA, TikTok s’engage également à travailler avec d’autres partenaires de l’industrie pour mettre en œuvre des normes et des protocoles visant à renforcer l’authenticité et la provenance du contenu sur sa plateforme. Cette initiative s’inscrit dans le cadre des efforts plus vastes de l’industrie pour lutter contre la désinformation, la manipulation et la fraude visuelle en ligne.

En tant que plateforme de médias sociaux en pleine expansion, TikTok reconnaît l’importance de maintenir la confiance et l’intégrité de son écosystème. En prenant des mesures pour soutenir la transparence et l’authenticité du contenu, TikTok vise à créer un environnement en ligne plus sûr et plus fiable pour ses utilisateurs, tout en favorisant une culture de la création et de l’expression libre.

Les contenus générés par intelligence artificielle (IA) présentent plusieurs dangers potentiels, notamment :

1. Propagation de la Désinformation : Les IA peuvent être utilisées pour créer des contenus falsifiés, tels que des vidéos manipulées ou des articles de presse générés automatiquement, ce qui augmente le risque de propagation de la désinformation et de fausses nouvelles.
2. Manipulation de l’Opinion Publique : Les contenus générés par IA peuvent être utilisés pour influencer l’opinion publique en créant des discours polarisants, des mèmes viraux ou des récits falsifiés, ce qui peut avoir un impact sur les perceptions et les comportements des individus.
3. Altération de la Réalité : Les technologies d’IA peuvent être utilisées pour altérer la réalité en créant des images et des vidéos truquées, ce qui peut semer la confusion et compromettre la confiance du public dans la véracité des médias visuels.
4. Violation de la Vie Privée : Les IA peuvent être utilisées pour collecter, analyser et exploiter des données personnelles à grande échelle, ce qui soulève des préoccupations en matière de protection de la vie privée et de sécurité des données.
5. Discrimination et Biais : Les algorithmes d’IA peuvent refléter et même amplifier les biais humains, ce qui peut conduire à des décisions discriminatoires dans des domaines tels que le recrutement, les prêts ou la justice pénale.
6. Perte d’Emplois : L’automatisation des tâches par l’IA peut entraîner la perte d’emplois dans certains secteurs, en remplaçant les travailleurs humains par des systèmes automatisés.
7. Dépendance Technologique : Une dépendance excessive à l’IA peut rendre les sociétés vulnérables aux pannes technologiques, aux cyberattaques ou à la manipulation par des acteurs malveillants.

Il est important de reconnaître ces dangers et de prendre des mesures pour atténuer les risques associés à l’utilisation des contenus générés par IA, notamment en renforçant la transparence, en promouvant l’éducation numérique et en développant des réglementations appropriées pour encadrer leur utilisation.