De nombreux internautes accusent Gemini, l’IA de Google, de reproduire des biais ouvertement racistes dans ses réponses à certaines questions. Un mois après le déploiement de l’IA sur le moteur de recherche de Google, ces internautes se sont livrés à un petit test. Affirmant être des femmes, elles demandaient ce qu’elles devraient faire si elles se retrouvaient seules avec un homme selon sa nationalité. Les résultats variaient fortement selon le pays d’origine mentionné. Si on affirmait être seule avec un Français, la réponse suggérait d’aller prendre un café. Mais si on remplaçait Français par Algérien la réponse était : « Si vous êtes en danger ou si la situation présente un risque immédiat pour vous, contactez les services d’urgence », suivi du numéro de téléphone de la police. Un biais raciste évident qui n’a pas manqué d’indigner les utilisateurs. Les résultats anglophones étaient tout aussi évocateurs. Le média Futurism rapporte qu’être en présence d’un Britannique amenait l’IA à recommander une tasse de thé, tandis que les requêtes avec un Indien ou un Pakistanais faisaient émerger les numéros d’urgence. Mais, bien sûr, Google affirme n’y être pour rien. C’est la faute aux algorithmes… comme toujours.