Le Blog du Geek
Images générées par DALL-E 3 et ChatGPT. Avec la montée en puissance de l’intelligence artificielle générative, les préoccupations liées à la désinformation et à la fraude se multiplient. Dans ce contexte, OpenAI prend des mesures significatives pour lutter contre ces problèmes, en particulier en ce qui concerne les images générées par DALL-E 3 et ChatGPT.
Dans sa démarche pour renforcer la traçabilité et l’authenticité des images générées par DALL-E 3, OpenAI déploie une approche méthodique et novatrice.
L’ajout de métadonnées de provenance
OpenAI a récemment annoncé une initiative cruciale pour renforcer la transparence et la traçabilité des images générées par son API DALL-E 3. Désormais, les images générées par ChatGPT incluront des métadonnées de provenance conformes à la norme C2PA (Coalition for Content Provenance and Authenticity).
Intégration des métadonnées C2PA
OpenAI a choisi d’adopter la norme C2PA pour les métadonnées de provenance, offrant ainsi une base standardisée pour suivre l’origine des images générées. Ce processus implique l’inclusion de deux manifestes de métadonnées, le premier indiquant l’origine de l’image à partir de l’API DALL-E 3, suivi du second manifeste montrant son utilisation dans ChatGPT. Cette méthodologie permet une traçabilité transparente et facilite la détection des manipulations potentielles.
Limitations et utilité conditionnelle
Malgré la sophistication de la norme C2PA, OpenAI reconnaît ses limites. La vérification de la provenance ne fonctionne que lorsque les métadonnées sont intactes. Les captures d’écran ou les images partagées sur les réseaux sociaux, qui souvent perdent ces métadonnées, restent en dehors de la portée de cette méthode. OpenAI, tout en étant conscient de ces contraintes, considère cette approche comme une incitation à l’utilisateur pour rechercher activement des signaux de provenance.
La Coalition for Content Provenance and Authenticity (C2PA)
Cette coalition joue un rôle essentiel dans la définition de normes ouvertes pour suivre la provenance des contenus en ligne. Les métadonnées suivent cette norme, offrant ainsi un moyen de retracer l’origine d’une image générée. Cependant, OpenAI reconnaît les limites de cette méthode et souligne qu’elle est efficace uniquement lorsque les métadonnées sont intactes.
Limitations de la vérification des métadonnées
Malgré la sophistication de la technologie cryptographique derrière la norme C2PA, cette méthode ne peut fonctionner que si les métadonnées sont présentes. Les captures d’écran ou les images téléchargées sur les réseaux sociaux, souvent dépourvues de ces métadonnées, échappent à cette vérification. OpenAI admet que cette approche n’est pas une solution miracle, mais elle encourage activement les utilisateurs à être vigilants et à rechercher des signaux de provenance.
La collaboration entre ChatGPT et DALL-E 3 pour des résultats améliorés
OpenAI prépare le terrain pour une nouvelle ère de créativité et d’interaction entre l’intelligence artificielle textuelle et visuelle. La troisième version de DALL-E, le système d’IA de synthèse texte-image d’OpenAI, est sur le point d’être déployée, apportant des améliorations significatives par rapport à ses prédécesseurs.
Intégration de DALL-E 3 avec ChatGPT
Une des avancées majeures est la possibilité de générer des résultats au sein de l’application ChatGPT. Cette intégration offre une synergie entre les capacités de traitement du langage naturel de ChatGPT et les compétences de génération d’images de DALL-E 3. Cette combinaison crée un environnement interactif où les utilisateurs peuvent formuler des demandes complexes et détaillées pour obtenir des résultats visuels spécifiques.
Amélioration de la compréhension des intentions
OpenAI a souligné que DALL-E 3 présente une amélioration significative dans la compréhension des intentions des utilisateurs, en particulier lorsqu’il est confronté à des instructions longues et détaillées. Selon Axios, la nouvelle itération est qualifiée de « nettement meilleure » pour interpréter les demandes des utilisateurs, offrant ainsi une expérience utilisateur plus fluide et précise.
Collaboration synergique entre ChatGPT et DALL-E 3
Dans une démonstration réalisée avec The Verge, OpenAI a illustré comment DALL-E 3 peut être sollicité par ChatGPT pour générer des résultats visuels en fonction d’une demande textuelle complexe. L’exemple présenté consistait à demander à l’IA de produire quatre logos de restaurants de ramen situés dans les montagnes. Les résultats obtenus démontrent la capacité du système à interpréter des instructions spécifiques et à générer des contenus visuels correspondants.
Assistance de ChatGPT pour des instructions optimales
Si un utilisateur a des difficultés à exprimer clairement sa demande pour maximiser les capacités du générateur d’images, ChatGPT peut intervenir en aidant à rédiger une invitation détaillée. Cette fonctionnalité contribue à surmonter les barrières linguistiques ou conceptuelles qui pourraient entraver la communication efficace avec l’IA.
La collaboration entre ChatGPT et DALL-E 3 représente une avancée significative dans la convergence des capacités de l’intelligence artificielle.
Cette synergie promet d’enrichir l’expérience des utilisateurs en leur permettant d’exprimer leurs idées de manière plus détaillée et d’obtenir des résultats visuels correspondant à leurs attentes.
OpenAI expose sa stratégie de désinformation avant les élections de 2024
Alors que les États-Unis se préparent pour l’élection présidentielle de 2024, OpenAI se positionne en tant que défenseur de la transparence et de l’authenticité de l’information. La société partage ses projets visant à éliminer la désinformation liée aux élections à l’échelle mondiale.
Utilisation de la cryptographie pour la provenance des images
OpenAI met l’accent sur l’utilisation de la cryptographie, conformément à la norme C2PA, pour encoder la provenance des images générées par DALL-E 3. Cette approche permettra à la plate-forme de détecter plus efficacement les images générées par l’IA en utilisant un classificateur de provenance, offrant ainsi aux électeurs un moyen de vérifier la fiabilité des contenus.
Coopération avec journalistes, chercheurs et plateformes
OpenAI annonce son intention de travailler avec des journalistes, des chercheurs et des plateformes pour obtenir des commentaires sur son classificateur de provenance. En parallèle, les utilisateurs de ChatGPT bénéficieront de mises à jour en temps réel sur des actualités mondiales avec attribution et liens, renforçant ainsi la transparence et l’authenticité des informations.
Voir aussi: Technologie Deep fake : attention aux Fake news
OpenAI n’adopte pas une approche isolée. Cette approche participative vise à perfectionner les techniques de lutte contre la désinformation en tirant parti des expertises variées.
Engagement contre la désinformation électorale
Les utilisateurs de ChatGPT bénéficieront d’actualités en temps réel du monde entier avec des attributions claires et des liens associés. OpenAI dirigera également les utilisateurs vers des sources fiables, comme CanIVote.org, pour des informations liées au vote. Cette initiative renforce la transparence et l’engagement envers les utilisateurs.
Prévention contre les tentatives d’usurpation d’identité
En plus de s’attaquer à la désinformation visuelle, OpenAI réitère son engagement à mettre fin aux tentatives d’usurpation d’identité, telles que les DeepFakes et les Chatbot. La société interdit également les applications conçues pour influencer les campagnes politiques. OpenAI encourage les utilisateurs à signaler toute violation potentielle, renforçant ainsi sa politique visant à maintenir l’intégrité du processus de vote.
Perspectives futures de DALL-E 3 sur Chat GPT
OpenAI considère ces premières mesures comme des expérimentations. OpenAI souligne que le succès de ces mesures dépend de divers facteurs, mais en cas de réussite, la société envisage de déployer des stratégies similaires à l’échelle mondiale. Des annonces connexes sont prévues dans les mois à venir, montrant l’engagement continu d’OpenAI dans la lutte contre la désinformation à l’ère de l’intelligence artificielle générative.
