OpenAI dévoile sa stratégie contre la désinformation avant les élections de 2024
Cela nécessitera en partie la détection des images générées par l’intelligence artificielle.
Tl;dr
- OpenAI vise à réduire la désinformation électorale
- L’IA utilisera la cryptographie pour vérifier l’origine des images
- Collaboration prévue avec des journalistes et chercheurs
- L’entreprise a réitéré ses politiques sur la désinformation
Une mission pour contrer la désinformation
Dans le monde entier, la menace de la désinformation électorale est de plus en plus présente. Alors que les États-Unis se préparent pour les élections présidentielles de 2024, OpenAI a partagé ses plans pour combattre cette problématique. Un de leurs points forts réside dans l’utilisation de la cryptographie pour l’encodage de la provenance des images générées par DALL-E 3. Cette mesure, standardisée par la Coalition for Content Provenance and Authenticity, permettra de renforcer la transparence autour de l’origine de l’information.
Un outil pour déjouer les fausses images
Cette approche, ordonnée par OpenAI, permettra de détecter les images générées par intelligence artificielle grâce à un “provenance classifier” plus compétent. Ce faisant, les électeurs pourront évaluer la fiabilité de certaines informations véhiculées. Cette initiative se rapproche, voire excède celle du SynthID de DeepMind qui vise à marquer numériquement les images et l’audio générés par l’IA en tant que partie de la stratégie électorale de Google publiée le mois dernier.
Imminente collaboration avec des experts
OpenAI a annoncé son intention de travailler avec des journalistes, des chercheurs et d’autres plateformes numériques pour recevoir des commentaires sur son système de classification des images. Parallèlement, les utilisateurs du ChatGPT seront aiguillés vers le site officiel de l’information électorale aux États-Unis, CanIVote.org, lorsqu’ils demanderont “où voter” ou “comment voter”.
Poursuite des politiques antidésinformation
L’entreprise a également réitéré ses politiques existantes visant à éliminer les tentatives d’usurpation d’identité sous forme de deepfakes et de chatbots, ainsi que le contenu visant à “déformer le processus électoral ou à dissuader les gens de voter”. OpenAI interdit également les applications conçues pour la campagne politique et, si nécessaire, ses nouveaux GPT permettent aux utilisateurs de signaler d’éventuelles violations.
