Google durcit les règles sur l’IA suite à une recommandation absurde de mettre de la colle sur une pizza
Le responsable de Google Search a également justifié la raison pour laquelle l'IA de l'entreprise a généré certaines réponses franchement étranges. Avez-vous déjà reçu une telle réponse étrange de Google ?
Tl;dr
- Liz Reid, directrice de Google Search, reconnaît des erreurs dans les réponses générées par IA.
- Google a implanté des mesures pour garantir des résultats plus précis et pertinents.
- Des informations inexactes ou dangereuses ont été disséminées à partir d’exemples d’IA.
- Des réponses sur certaines questions de santé ne proviennent plus de l’IA.
Des anomalies dans les résultats de recherche Google
Mme Liz Reid, présidente de Google Search, a récemment avoué avec une franchise désarmante que le moteur de recherche de l’entreprise avait donné lieu à des “aperçus IA étranges, inexacts ou inutiles”. Ces anomalies ont de quoi décontenancer ceux qui font confiance à Google pour retrouver des informations pertinentes sur la toile.
Des mesures pour garantir des résultats fiables
Dans un souci d’honnêteté et de transparence, Reid a publié une déclaration sur le blog de la compagnie. Dans cette publication, elle a annoncé que Google a introduit des garanties pour assurer la qualité et l’exactitude des réponses fournies par l’IA. Ces mesures devraient éviter la génération de résultats susceptibles d’être transformés en mèmes sur les réseaux sociaux.
Des imperfections qui prennent de l’ampleur
D’après Reid, certaines des affirmations les plus problématiques de l’IA, “comme celles qui prétendent qu’il est sûr de laisser les chiens dans les voitures, sont fausses. C’est le résultat d’une interprétation erronée de contenus satiriques ou humoristiques par l’IA. Même si ces cas restent exceptionnels, ils ont néanmoins été amplifiés par leur diffusion virale.
La refonte de l’IA de Google
Face à cet état de fait, Google a entrepris de rectifier le tir. D’une part, en ajustant son IA pour mieux détecter le contenu humoristique et satirique. D’autre part, en limitant l’ajout de réponses générées par les utilisateurs dans les Aperçus, tels que les publications sur les médias sociaux et les forums. Ces mesures devraient réduire les risques de diffusion de conseils trompeurs, voire dangereux. Enfin, pour les sujets de santé, Google a tout simplement décidé de ne plus afficher de réponses générées par l’IA, afin de garantir la fiabilité des informations fournies à ses utilisateurs.
