Aïe, aïe, aïe IA : quand l'IA distille de fausses infos
OpenIA reconnaît « un filtre de probabilité d’intention » et un « système entraîné à anticiper les requêtes en fonction des catégories globales, ce qui pousse l’IA à contourner la réponse exacte pour proposer un panorama institutionnel ». En clair l’IA est programmée pour deviner les intentions des utilisateurs et non pour donner des réponses exactes à leurs recherches.
OpenIA concède également que « pour un utilisateur qui sait précisément ce qu’il cherche, cette approche n’est pas pertinente, elle est fausse et obstructive ». Dans un premier temps, OpenIA incrimine les algorithmes de Google. Ce qui est faux. Pour une même requête l’IA de Google, à savoir Gemini, donne la réponse exacte.
Cette brève incursion dans l’arrière-cour de l’IA appelle quelques remarques. Open IA a profité de la vague open-source pour se définir comme une œuvre communautaire mettant à disposition de tout un chacun une application gratuite. S’agissant d’application comme un traitement de texte, cela n’a aucun impact, s’agissant d’IA destinée à « assister » l’utilisateur, ce mode de fonctionnement est préoccupant car il aboutit à des réponses inexactes voire fallacieuses.
Par ailleurs, il ne faut jamais oublier que derrière l’IA il y a des humains lesquels, pour vivre, ont besoin de fonds. Ces fonds sont constitués de subventions, de dons ou d’un mécénat intéressé qui conduit fatalement à trier, prioriser, influencer. Rien d’étonnant à ce que OpenIa reflète le goût de ceux qui nourrissent la machine. Or La pertinence de la réponse à une requête dépend d‘un choix de configuration.
OpenIA admet finalement un « défaut de conception et d’écoute directe de son modèle face à la rigueur et la pertinence immédiate dont Gemini fait preuve ». Et pour cause,Gemini bénéficie de la force de Google et de données collectées depuis des lustres. Et surtout les GAFAM ont bâti leur force sur l’objectivité. Ainsi, Amazon publie des livres qui critiquent Amazon, là où d’autres censurent ce qui peut nuire à leurs intérêts.
L’IA devrait être universelle, elle ne l’est pas. Reste à distinguer une IA d’influence d’une IA objective, au risque d’être confronté à des réponses désastreuses lors de requêtes plus pointues.