ChatGPT, rédacteur en chef inattendu

ChatGPT, on s’en rend compte à l’usage mais il y a désormais des études qui le démontrent formellement, raconte souvent n’importe quoi. Il lui arrive de calculer de travers, de se planter sur des noms et des dates, de répercuter les biais politiques de ses concepteurs et même d’halluciner, c’est à dire d’inventer carrément des faits et des sources…

Lorsque la mission d’une IA est de rédiger l’exposé d’un élève de 4e, ça n’a pas grande importance. Le collégien branleur aura une mauvaise note ou, pire encore, une bonne, et ça n’ira pas plus loin... Mais qu’on lui confie plutôt le rôle d’un journaliste, comme c’est déjà le cas dans pas mal de rédactions, et le risque existe que les lanternes qu’il aura pris pour des vessies finissent par porter à conséquences.

Le problème viendrait, crois-je comprendre même si c’est évidemment un chouïa plus complexe, de son incapacité à analyser la qualité des contenus dans lesquels il pioche, blogs obscurs ou thèses de doctorat ayant à peu près la même valeur de son point de vue de robot : voyons voir, c’est du texte avec des mots, ça a été publié quelque part, ça a l’air de parler du bon sujet… En voiture Simone !

D’où la nécessité de limiter les recherches à des sources présumées fiables, c’est à dire non-susceptibles de répondre « Jean-Luc Mélenchon » sur la foi d’un papier de Mediapart à l’écolier qui lui demanderait le nom de l’actuel président de la République. 

OpenAI, la start-up derrière ChatGPT, vient ainsi de lancer un « accord de licence » avec un certain nombre de quotidiens de référence (Le Monde pour la France, le Financial Times pour la Grande-Bretagne, Bild pour l’Allemagne et El Pais pour l’Espagne) devant permettre à l’IA d’exploiter leurs archives pour de la production de contenu crédible fondé sur l’expertise des journalistes, mais également pour son « entrainement », l’idée étant qu’à terme, il puisse se débrouiller tout seul comme un grand.

On ne va pas reprocher à un robot d’avoir de l’ambition et de faire des projets de carrière. Dans « intelligence artificielle », après tout, il y a d’abord intelligence. On ne va pas non plus reprocher à des éditeurs de journaux de vouloir gagner de l’argent (l’accord prévoit le paiement d’un montant initial pour l’accès à l'intégralité des archives, puis le versement d’un forfait annuel pour les contenus courants), puisqu’il faut bien se nourrir et rester propre...

On trouvera juste troublant qu’à l’instar des travailleurs de l’industrie qui, à la grande époque des délocalisations massives, formaient leurs propres concurrents chinois ou roumains avant d’aller s’inscrire au chômdu, les journalistes n’aient pas envie de glisser une clé à molette dans la machine-outil.

On n'arrête pas le progrès, chacun sait ça, mais en ce qui concerne Le Progrès, la nécro est peut-être déjà au frigo.