IA : Google admet des fautes “inexcusables” de Gemini

Sundar Pichai, PDG de Google, précise que ses équipes travaillent sans relâche pour corriger ces problèmes, sans toutefois donner un délai sur le rétablissement de la génération d'images de personnes. Quelle sera la prochaine étape pour Google face à ces défis inédits ?

Google face à la controverse de l’IA Gemini

Dans un communiqué adressé à ses équipes et validé auprès de l’AFP, le PDG de Google, Sundar Pichai, a reconnu l’existence de “contenus problématiques” liés à la génération d’images par l’IA Gemini. Pichai a fait part de son souhait de discuter des défis rencontrés par cette technologie, qui a suscité une large polémique.

Un biais dans les images générées

Ces derniers jours, de nombreux utilisateurs ont souligné des anomalies dans les créations de l’IA, notamment des erreurs de représentation concernant le genre et l’origine.

Retenu comme exemple évocateur, une requête relative à un soldat allemand de 1943 a abouti à des images de soldats asiatiques ou de peau noire. Devant ces retours, Google a immédiatement suspendu cette fonctionnalité.

I really love the active discussion abt the role of ethics in AI, spurred by Google Gemini's text-to-image launch & its relative lack of white representation. As one of the most experienced AI ethics people in the world (>4 years! ha), let me help explain what's going on a bit. pic.twitter.com/uuIbE2NRfd

— MMitchell (@mmitchell_ai) February 25, 2024

Des efforts constants pour améliorer l’IA

“Sachez que nous travaillons sans relâche pour rectifier la situation”, a précisé Sundar Pichai. Il n’a toutefois pas indiqué quand la génération d’images serait à nouveau disponible.

Il convient de noter que malgré les obstacles, les équipes de Google restent concentrées sur la résolution de ces problèmes.

Des enjeux de représentation

Les controverses entourant l’IA générative ne sont pas nouvelles. Bien que les technologies de cette effervescence aient captivé le public, elles ont souvent été critiquées pour leur perpétuation de préjugés raciaux et sexistes. Par exemple, l’IA aura tendance à représenter des individus productifs ou des ingénieurs comme des hommes blancs, tandis qu’une aide ménagère sera souvent représentée par une femme racialisée.

Dans ce contexte mouvementé et débordant de défis, Google s’est engagé à persévérer dans ses efforts pour éradiquer ces biais. Toutefois, cette situation rappelle l’importance d’une réflexion critique autour des enjeux éthiques dans le développement de l’IA. Des questions qui prennent de l’ampleur à mesure que les technologies de pointe prennent une place de plus en plus centrale dans notre quotidien.