La décision de l’UE de réglementer ChatGPT en le considérant comme un moteur de recherche paraîtra logique à ceux qui l’utilisent comme tel. Mais qu’en est-il si vous l’utilisez comme un ami ? Ou comme un thérapeute ? Ou encore pour discuter des prochaines élections ?

Ce sont là quelques-unes des nombreuses nouvelles questions que l’avènement de l’IA générative soulève pour les régulateurs européens — qui, selon les experts, n’ont pas encore trouvé de réponses satisfaisantes.

Lundi, l’exécutif européen a classé ChatGPT parmi les “très grands moteurs de recherche en ligne” au titre du règlement sur les services numériques (DSA), lui imposant ainsi une série d’obligations en matière de transparence et d’atténuation des risques similaires à celles auxquelles sont soumis les leaders traditionnels du secteur, tels que Google et Bing (de Microsoft), qui comptent plus de 45 millions d’utilisateurs mensuels. La société mère de ChatGPT, OpenAI, s’expose à des amendes pouvant atteindre 6% de son chiffre d’affaires mondial annuel si elle ne respecte pas ces règles.

Toutefois, cette catégorisation est restrictive et ne s’applique qu’aux parties de l’outil qui font office de moteur de recherche, ce qui signifie que les conversations dans lesquelles le chatbot apporte sa propre contribution ne semblent pas être concernées. En application du DSA, la Commission aurait pu choisir de classer ChatGPT dans la catégorie des “très grandes plateformes en ligne”, qui s’applique généralement aux réseaux sociaux et aux plateformes d’e-commerce et qui impose des obligations différentes.

Pourtant, aucune de ces deux catégories ne reflète l’éventail des utilisations possibles des chatbots.

“ChatGPT est bien plus qu’un simple moteur de recherche, et il existe également des risques liés au chatbot lui-même qui échappent aux obligations les plus strictes [du règlement]”, a pointé Christel Schaldemose, députée européenne socialiste danoise, qui figurait parmi les principaux négociateurs de cette législation.

Elle a mis en avant les risques pour les enfants, “comme la dépendance affective et la conception manipulatrice ou addictive”, et a exhorté la Commission à préciser dans quelle mesure ces risques sont pris en compte par la réglementation en vigueur.

ChatGPT et ses concurrents font l’objet d’une polémique mondiale, car ils auraient contribué aux suicides tragiques d’adolescents, notamment celui d’Adam Raine, un jeune Californien de 16 ans, dont les parents ont engagé des poursuites judiciaires contre l’entreprise.

Les cas d’utilisation de chatbots basés sur l’IA pour une thérapie ou pour avoir de la compagnie ne sont pas marginaux : selon une étude récente menée par le secteur des assurances, pas moins de 60% des adultes dans le monde les utilisent à des fins thérapeutiques.

Un espace hybride

La législation actuelle sur les services numériques, adoptée en 2022, n’avait pas prévu l’essor des chatbots. João Pedro Quintais, maître de conférences en droit à l’université d’Amsterdam, décrit ChatGPT comme une technologie “hybride” qui combine les fonctions d’un moteur de recherche et d’une plateforme en ligne, ainsi que d’autres fonctions plus proches de celles d’un éditeur de ses propres contenus.

La qualification de “moteur de recherche” pourrait limiter la capacité de la Commission à contrôler la manière dont ChatGPT gère les risques liés non seulement à la santé mentale des adolescents, mais aussi à l’intégrité des élections ou aux contenus illicites.

Demander à ChatGPT de citer les noms des candidats à une élection locale devrait désormais relever du champ d’application du DSA. En revanche, une conversation entre un utilisateur et un chatbot sur le choix du candidat pour lequel voter, au cours de laquelle des informations erronées pourraient être diffusées, pourrait ne pas être concernée.

Il a fallu un peu moins d’un an à la Commission pour finaliser la classification de ce chatbot, ses équipes s’étant heurtées à des difficultés pour déterminer dans quelle catégorie le classer. Selon les experts, sans avoir consulté le texte intégral actant cette classification annoncée cette semaine, il est difficile de savoir exactement quelles seront les obligations d’OpenAI.

La qualification de “plateforme” aurait imposé à OpenAI des obligations supplémentaires en matière de modération des contenus au titre du règlement sur les services numériques, mais elle aurait aussi permis à l’entreprise d’échapper à une part importante de ses responsabilités. Le DSA, comme d’autres législations dans le monde relatives aux plateformes, s’articule autour du principe du “safe harbor”, en vertu duquel les entreprises ne sont pas responsables des contenus présents sur leurs plateformes, ceux-ci étant mis en ligne par les utilisateurs. Mais l’avènement des chatbots soulève la question de savoir si une conversation entre une personne et une machine peut être considérée comme un “contenu généré par les utilisateurs”.

Modèles et risques

Si l’attention portée par les autorités de régulation à ChatGPT en tant qu’application grand public est récente, la Commission surveille de près les modèles d’intelligence artificielle qui la sous-tendent via son règlement sur l’IA (AI Act).

OpenAI, la société mère de ChatGPT, ainsi que des entreprises telles qu’Anthropic et Gemini (de Google) développent ce que l’on appelle des modèles d’IA à usage général, capables d’effectuer une grande variété de tâches pouvant présenter des “risques systémiques potentiels”.

Depuis août dernier, au titre de l’AI Act, ces entreprises ont l’obligation d’“évaluer et d’atténuer” les risques que présentent ces modèles. La Commission a commencé à faire appliquer cette législation fin août, lorsqu’elle a cuisiné une série d’entreprises spécialisées dans l’IA sur leurs procédures de sécurité.

Auparavant, un groupe d’experts avait identifié quatre risques : la mise au point d’armes nucléaires ou biologiques, la perte de contrôle sur les modèles, des modèles d’IA hors de contrôle qui commencent à faire du piratage, ou encore des modèles se livrant à des manipulations à grande échelle.

Mais aussi effrayants soient-ils, ces risques systémiques ne prennent pas en compte toute une série de problèmes potentiels, tant pour les utilisateurs que pour la société dans son ensemble.

“[Ces orientations] sont davantage axées sur ce qu’on appelle les risques existentiels que sur les risques pesant sur les droits fondamentaux”, a soulevé Daniel Leufer, responsable des politiques en matière de technologies émergentes chez AccessNow.

Il a fait valoir qu’avec la classification de ChatGPT au titre du DSA, il y a une chance “d’entrer dans les détails des choix de conception et de considérer ChatGPT davantage pour ce qu’il est réellement, à savoir un produit”.

L’intelligence artificielle ayant eu un impact aussi rapide et profond, la réglementation en la matière est encore en cours d’élaboration. Le député européen social-démocrate italien Brando Benifei, qui mène les travaux sur les questions l’intelligence artificielle au Parlement, a défendu l’approche européenne qui distingue la supervision des applications de celle des modèles d’IA, affirmant que ces deux cadres réglementaires peuvent se “compléter puissamment”.

Brando Benifei a toutefois reconnu qu’une supervision dans le cadre du DSA était “absolument nécessaire” pour protéger les personnes qui utilisent vraiment les outils d’IA, citant comme exemple concret les “dépendances dangereuses en matière de santé mentale” que certaines personnes développent à l’égard des chatbots compagnons.

“L’examen s’étend désormais du modèle sous-jacent à la manière dont ces services sont concrètement conçus et déployés.”

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.

​