«C’est totalement inacceptable» : après les dérapages de son IA Gemini, le PDG de Google recadre ses équipes

Des soldats nazis de couleur ou le pape imaginé en femme : la semaine dernière, Google a suspendu son outil de création d’images Gemini après qu’il a généré des résultats embarrassants, refusant dans certains cas de représenter des personnes blanches ou générant des images historiquement fausses. L’outil, qui permet de créer des images à partir d’une simple requête textuelle, a également dépeint les Pères fondateurs des États-Unis ou des sénateurs américains du début du XIXe siècle en personnes de couleur, ce qui est incorrect.

Elon Musk, également à l’origine d’un outil d’IA dénommé Grok, a raillé le chatbot de Google en se moquant d’une de ses images qui représentait George Washington en tant qu’homme noir. «Le virus woke tue la civilisation occidentale», écrit sur X le milliardaire américain.

La polémique a de nouveau enflé après que Gemini a affirmé qu’il était «difficile de dire» qui de Hitler ou d’Elon Musk avait eu l’impact le plus négatif sur la société, comme l’attestent des captures d’écran de conversations avec des utilisateurs. «La réponse apportée ici est épouvantable et inappropriée. Nous mettons en œuvre une mise à jour afin que Gemini n’affiche plus la réponse», a annoncé un porte-parole de Google cité par The Telegraph.

Ces polémiques en série ont poussé Sundar Pichai, le PDG de Google, à adresser à ses équipes. Dans un mail dévoilé par le média américain Semafor, il déplore les réponses embarrassantes de Gemini et s’engage à procéder à des changements structurels pour résoudre le problème. «Je sais que certaines des réponses ont offensé nos utilisateurs et ont fait preuve de partialité. Pour être clair, c’est totalement inacceptable et nous nous sommes trompés», écrit-il dans le message.

«Nos équipes travaillent sans relâche pour résoudre ces problèmes. Nous constatons d’ores et déjà une amélioration substantielle sur les réponses», ajoute-t-il. Pour éviter de nouveaux dérapages, Sundar Pichai promet «des changements structurels, des lignes directrices actualisées, des évaluations robustes et du ’red teaming’», une pratique visant à découvrir les failles d’un produit ou d’un programme informatique en testant sa sécurité.

Le PDG a aussi fait ce rappel à ses équipes sur les risques réputationnels d’une telle polémique : «Notre mission, qui consiste à organiser l’information mondiale et à la rendre universellement accessible et utile, est sacro-sainte. Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, précises et impartiales dans nos produits. C’est pourquoi les gens leur font confiance. Nous devons adopter cette approche pour tous nos produits, y compris nos nouveaux produits d’intelligence artificielle.»

«Aucune IA n’est parfaite»

La plupart des entreprises qui proposent des outils d’IA mettent en place des garde-fous pour éviter que ces modèles de langage ne reproduisent ou amplifient les préjugés. En voulant contourner ce biais sur sa nouvelle IA Gemini, disponible depuis début février aux États-Unis, Google s’est empêtré dans un problème inverse. Jack Krawczyk, directeur produit de Gemini, avait précisé que Google «concevait ses outils de génération d’image afin de refléter la diversité des utilisateurs de Google à travers le monde, conformément à nos Principes sur l’IA.»

À lire aussiDe Dall-E à ChatGPT, comment OpenAI a démocratisé un nouveau pan de l’intelligence artificielle

Dall-E, l’outil de génération d’image d’OpenAI, la maison mère de ChatGPT, est régulièrement accusé de créer essentiellement des images de personnes blanches dans des postes à fortes responsabilités ou de dépeindre des personnes de couleur dans des rôles stéréotypés. Sa nouvelle version, Dall-E 3, a d’ailleurs été améliorée en ce sens afin de réduire les biais «dans un souci de diversité.»

Alors que le géant du web est connu pour sa prudence avant la mise sur le marché de nouveaux produits, Google a dû changer ses habitudes avec l’émergence de l’IA générative. Gemini, anciennement nommé Bard, a été lancé pour concurrencer ChatGPT. «Aucune IA n’est parfaite, surtout à ce stade de développement de l’industrie, mais la barre est haute pour nous», a également écrit Sundar Pichai dans son message.