Pourquoi c’est important
Les applications grand public refusaient de recommander des candidats : les résultats découlent donc d’une consigne à choix forcé sur des API pour développeurs, ce qui, selon OpenAI, ne correspond pas à l’usage que l’on fait de ChatGPT. Les chercheurs soulignent aussi que chaque requête à Grok s’accompagnait d’environ 1 240 jetons de texte additionnel cachés, qu’ils ne pouvaient ni voir ni retirer, et que Grok s’appuyait notamment sur X et sur un guide de vote conservateur chrétien. Un sondage Pew cité dans l’article indique que seuls 8 % des Américains utilisent les robots conversationnels pour s’informer sur les élections.
OpenAI affirme que ChatGPT est « conçu pour être objectif par défaut »; xAI n’avait pas répondu au moment de la publication.
Si vous bâtissez des produits sur l’API d’un modèle, vérifiez comment il répond aux questions politiquement sensibles et examinez tout texte système ajouté par le fournisseur avant de l’offrir à vos clients.