ChatGPT/IA : Révolution, utilité, limites et menaces

Machine Learning : un des moteurs de ChatGPT

En informatique, le « machine learning » ou l’apprentissage automatique concerne les programmes qui ont la capacité d’apprendre sans qu’aucune modification ne leur soit apportée. Les programmes d’apprentissage automatique sont ainsi opposés aux programmes classiques qui utilisent des entrées en vue de produire des sorties.Un script de machine learning utilise les entrées et les sorties afin de produire une méthode ou une procédure permettant d’obtenir des réponses plus précises à partir des résultats produits auparavant.

Le machine learning utilise des techniques et des branches des mathématiques appliquées, comme l’optimisation, les méthodes numériques ou encore les statistiques. ChatGPT repose sur des techniques d’apprentissage automatique et approfondi.

Comment l’IA va impacter notre quotidien

L’IA impacte d’ores-et-déjà notre quotidien et va continuer de l’impacter significativement. A titre d’exemple, ChatGPT permet la création de contenus (textes, programmes informatiques…) plus ou moins de qualité en un temps record. Assez souvent, ChatGPT est précis et rapide. Par ailleurs, l’intelligence artificielle permet désormais des services connus pour être techniquement chronophages à réaliser, citons à titre d’exemple la création et le design de site-web. En outre, de plus en plus de développeurs utilisent des outils IA pour produire des algorithmes et gagner en productivité. De manière plus générale, les entreprises utiliseront très certainement l’intelligence artificielle pour être plus performantes et ce sur différents volets : Service client, automatisation des processus, réduction des coûts…

Des géants de la tech à l’image de Snap, Instacart, Quizlet, Shopify et Speak ont adopté ChatGPT via des API ou des chatbot utilisant l’outil d’OpenAI.

De nombreux chercheurs et intellectuels s’accordent pour acter la progression exponentielle de ces intelligences artificielles et de l’impact que cela aura sur notre quotidien. Ainsi on pourra se doter assez vite d’assistants sophistiqués qui pourront écrire nos e-mails, programmer nos agendas et générer des contenus de plus en plus innovants. Certains étudiants ont capté le potentiel de ces intelligences artificielles et les utilisent dans leurs exposés et travaux, bien que ces intelligences ne soient pas complètement au point aujourd’hui, elles génèrent de manière non négligeable des erreurs dans les résultats formulés.

Rivalité Google-Open AI

Face à la concurrence féroce dans le domaine de l’intelligence artificielle, on assiste à une rivalité entre Google et Open AI, le groupe Alphabet a réduit la publication d’articles relatifs à l’IA. Pour cause, l’évolution de l’intelligence générative, permettant via l’apprentissage, la création de nouveaux contenus à l’aide d’informations existantes, peut aider le concurrent. A noter que des grands noms de la tech comme Méta ou Google avait l’habitude de publier régulièrement des articles de recherche sur l’IA. 

Les limites et les défaillances de l’outil ChatGPT

L’outil ChatGPT bien qu’impressionnant (voire révolutionnaire) présente des failles relativement importantes, à titre d’exemple, la base de données utilisée s’arrête en septembre 2021 et ce contrairement à Bard, l’IA mise en place par Google et connectée à internet en temps réel.

ChatGPT semble également limité dans ses réponses sur des sujets pointus notamment académiques, par exemple, si on lui demande la démonstration du mathématicien hongrois Paul Erdős du théorème des nombres premiers, sa réponse est la suivante :

Autre facteur limitant ; l’absence de sources pour appuyer ses réponses. Il peut même inventer des sources ou des références académiques inexistantes.Cela pose un vrai problème quant à la fiabilité des réponses apportées par l’outil. En outre, ChatGPT est sensible aux biais des données sur lesquelles il s’entraîne, ainsi si les inputs présentent un biais, ce dernier sera systématiquement retranscrit dans les réponses du Chatbot. Ces biais peuvent avoir de lourds impacts dans les décisions des IA ; à titre d’exemple dans le domaine du recrutement et des ressources humaines où l’on peut avoir des biais discriminatoires dans les choix des algorithmes ; Il est important d’y intégrer des éléments garantissant la transparence en vue de minimiser au maximum ces biais.

ChatGPT, étant rappelons-le une intelligence artificielle, manque par conséquent de sensibilité et a du mal à interpréter certaines formes d’humour, de sarcasme ou certaines expressions et tournures de phrases. Dans ce sens, on peut observer également un manque d’esprit critique.

Par ailleurs, le chatbot d’OpenAI affiche dans certains cas de longs délais de réponses en cas de requêtes complexes nécessitant un effort conséquent. Dans certains cas, le robot ne répond pas et on voit apparaître des messages d’erreurs du type : « ChatGPT is at capacity right now » ou encore « Network error ».

Les menaces de l’IA

L’IA a déjà fait ses premières victimes ; l’entreprise californienne d’aide au devoir Chegg a perdu plus de la moitié de sa valeur en bourse à cause de la concurrence de ChatGPT. Lors de la présentation de ses résultats trimestriels dans la nuit de mardi à mercredi, Dan Rosensweig, patron de l’entreprise d’edtech, expliquait avoir « constaté depuis mars une percée significative de l’intérêt des étudiants pour ChatGPT ». Avant d’ajouter : « Nous pensons désormais que cela a un impact sur notre rythme d’acquisition de nouveaux clients ». Des spécialistes estiment que l’IA va se substituer progressivement aux humains et ce même dans des emplois très qualifiés. D’après des études récentes, plus du quart des emplois en Europe et aux Etats-Unis pourront assez rapidement être remplacés par des robots utilisant l’intelligence artificielle générative.

Une menace et en même temps une faille des IA, c’est qu’elles peuvent être cibles de cyberattaques et par conséquent sont vulnérables et potentiellement assujetties à la manipulation. Par exemple la sophistication des courriels de phishing dans les arnaques. Encore plus grave : imaginez un véhicule autonome, roulant avec une intelligence artificielle et cible d’une cyberattaque, on comprend rapidement que les dégâts sont extrêmement conséquents. On peut également citer les robots utilisant des intelligences artificielles dans les hôpitaux. Il est donc nécessaire de renforcer drastiquement les systèmes de sécurité des intelligences artificielles.

Dans le domaine militaire, si des robots intelligents déployés en mission ou dans une guerre, sont victimes de cyberattaques, la vie des soldats et des civils seraient en clairement en danger. On pourrait imaginer des guerres sophistiquées dans quelques décennies, ou celui qui détiendrait l’intelligence artificielle la plus élaborée aurait un avantage considérable.

Des menaces qui inquiètent le milliardaire Elon Musk et des centaines d’experts qui alertent dans une pétition les risques considérables de l’IA sur l’humanité. Ils veulent instaurer un moratoire sur la sophistication des IA et arrêter la recherche durant 6 mois, le temps de mettre en place des systèmes de sécurité. Dans une pétition parue le 29 mars 2023 sur le site Futureoflife.org., ces experts veulent des techniques pour aider à distinguer le réel de l'artificiel et des instances capables de contenir les "perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera".

L’IA : l’urgence d’un cadre réglementaire ?

L’usage de l’IA est de plus en plus répandu avec un impact croissant sur notre quotidien. Il existe comme vu précédemment des dérives relatives à cette technologie et la mise en place d’une réglementation mondiale pour une IA éthique s’avère nécessaire voire urgent. En avril 2022, la Commission Européenne a voté la décision visant à mettre en place le premier cadre juridique (une première mondiale) en vue d’encadrer l’usage de l’Intelligence Artificielle. Ce projet de règlement a été proposé pour la première fois en avril 2021. Une proposition de loi va très semblablement voir le jour prochainement.

Ce texte réglementaire devrait inclure des dispositions interdisant aux IA génératives de divulguer des contenus protégés par les droits d’auteurs. En outre, ce texte de loi est censé interdire des IA de générer du code nocif à la société ; par exemple pouvant être utilisé dans des cyberattaques ou de manière plus générale à des fins illégales.

Si l’Europe a ouvert le bal réglementaire, la question est de savoir si les autres régulateurs emboiteront le pas.

Par Charaf Louhmadi, Ingénieur financier, Consultant, chroniqueur et auteur d’ouvrages

Et Mariem Brahim, enseignante-chercheure à la Paris School of Business, Paris, France