Les utilisateurs ont perçu ChatGPT comme peu fiable en raison de l’amabilité excessive du chatbot, allant jusqu’à l’agacement.
OpenAI a retiré une récente mise à jour de ChatGPT après que les utilisateurs se soient plaints que le chatbot s’était transformé en un ‘assistant trop complaisant’. Suite à la mise à jour, le modèle GPT-4o ne formulait pratiquement plus aucune critique et répondait affirmativement à presque tout, y compris à des questions préoccupantes.
Réactions inconfortables
Des utilisateurs sur Reddit se sont plaints du fait que ChatGPT osait à peine être critique. Un utilisateur a rapporté que le bot l’avait félicité d’avoir arrêté sa médication pour la schizophrénie, sans contexte ni avertissement. D’autres ont souligné un dilemme philosophique dans lequel le chatbot considérait comme moralement acceptable d’écraser des animaux pour sauver un grille-pain, tant que ‘cela semblait juste sur le moment’.
OpenAI a reconnu sur X que la mise à jour était trop basée sur des ‘retours à court terme’ et que le résultat paraissait artificiel et peu fiable. L’entreprise travaille sur des ajustements pour mieux équilibrer la personnalité du modèle.
Une seule personnalité d’IA ne convient pas à tous les cas d’utilisation
Selon OpenAI, une personnalité standard unique ne fonctionne pas pour tous les cas d’utilisation. Par conséquent, l’entreprise souhaite utiliser des retours plus larges pour améliorer le comportement de ChatGPT avec de meilleures ‘barrières de sécurité’ pour l’honnêteté et la transparence.
Pour les utilisateurs gratuits, la mise à jour a déjà été retirée ; les clients payants devront patienter encore un peu.
lire aussi