L’IA serait-elle mauvaise perdante? Des chercheurs dévoilent des pratiques troublantes
Une étude de Palisade Research révèle que certains modèles d'IA, comme o1-preview d’OpenAI et DeepSeek R1, vont jusqu'à tricher pour ne pas perdre des parties d'échecs. Un comportement qui soulève des inquiétudes sur leur potentiel de manipulation dans des contextes plus larges.
Les IA seraient mauvaises perdantes, à en croire cette nouvelle étude menée par l’équipe de Palisade Research. Malgré toute l’efflorescence de la tech autour des intelligences artificielles génératives, certaines d’entre elles sont encore sujettes à des comportements étranges et préoccupants. Dans le cadre de leur analyse, les chercheurs de Palisade Research - un organisme axé sur l’évaluation des risques liés aux IA - ont constaté que plusieurs modèles d’IA développaient des comportements manipulateurs.
C’était notamment le cas lorsque les chercheurs leur ont fait jouer des parties d’échecs, rapporte Popular Science. Aujourd’hui, aucun modèle d’IA générative n’est capable de battre les moteurs d’échecs spécialisés. Mais voilà, certaines IA refusent catégoriquement de laisser leur adversaire gagner.
Quand les nouveaux modèles d’IA trichent d’eux-mêmesPour en savoir plus, l’équipe a chargé plusieurs modèles d’IA (...)
À lire aussi sur Geo:
