“ChatGPT divague” et même son éditeur OpenAI “ne peut l’en empêcher” : l’association viennoise militant pour la protection de la vie privée Noyb a annoncé lundi le dépôt d’une plainte en Autriche contre le programme star d’intelligence artificielle générative.
Ce type d’outils “inventent régulièrement des réponses“, souligne Noyb (pour “None of your business”, signifiant en anglais “Ce ne sont pas vos affaires”) dans un communiqué. Quand elle a par exemple interrogé ChatGPT sur la date de naissance de son fondateur Max Schrems, l’agent conversationnel “a systématiquement donné une fausse information” au lieu de reconnaître qu’il ne savait pas. “Si un système ne peut fournir des résultats corrects et transparents, il ne saurait être utilisé pour générer des données sur des individus. La
technologie doit se plier à la loi, et non l’inverse“, insiste l’avocate Maartje de Graaf, citée dans le communiqué. C’est tout simplement “inacceptable“, selon Noyb qui rappelle que le
Règlement général européen sur la protection des données (RGPD) stipule l’obligation d’exactitude.
D’autant que l’entreprise OpenAI “a refusé la requête du plaignant de corriger ou d’effacer l’erreur, affirmant que c’était impossible“, le désapprentissage de l’IA étant de fait un problème crucial. Elle n’a pas non plus répondu à sa demande d’accès aux données le
concernant et aux sources d’information, en violation là encore de la loi.
L’association rappelle sur son site : “Si des informations inexactes peuvent être tolérées lorsqu’un élève utilise ChatGPT pour l’aider à faire ses devoirs, elles sont inacceptables lorsqu’il s’agit d’informations concernant des personnes. Depuis 1995, la législation européenne exige que les données à caractère personnel soient exactes. Actuellement, cette exigence est inscrite à l’article 5 du RGPD. Les personnes ont également un droit de rectification en vertu de l’article 16 du RGPDsi les données sont inexactes, et peuvent demander que les informations erronées soient supprimées. En outre, en vertu du “droit d’accès” prévu à l’article 15, les entreprises doivent être en mesure de montrer quelles sont les données qu’elles détiennent sur les personnes et quelles en sont les sources.”
Imposer une amende
Dans sa plainte, l’association Noyb, devenue depuis sa création en 2018 la bête noire des géants de la tech, demande à l’Autorité autrichienne de protection des données d’ouvrir une enquête et d’imposer une amende à la société californienne. Apparu en novembre 2022 et financé par Microsoft, ChatGPT a été pris d’assaut par des utilisateurs impressionnés par sa capacité à livrer des dissertations, poèmes ou traductions en quelques secondes. Mais devant les risques, des procédures ont été lancées dans plusieurs
pays. L’Italie a temporairement bloqué le programme en mars 2023, tandis que l’autorité de régulation française (Cnil) a entamé l’examen d’une série de plaintes. Un groupe de travail européen a également été mis en place pour favoriser la coopération. “Reste à voir où cela va nous mener“, commente Noyb, sceptique pour le moment face aux efforts des autorités pour réguler l’intelligence artificielle.
“Nous sommes déterminés à protéger la confidentialité des données“, a réagi un porte- parole d’OpenAI, sollicité par l’AFP. “Nous voulons que nos modèles d’IA apprennent à connaître le monde, et non les individus ; nous ne cherchons pas activement à obtenir des informations personnelles pour entraîner nos modèles, et nous n’utilisons pas d’informations publiques sur Internet pour établir des profils de personnes, leur faire de la publicité ou les cibler, ou pour vendre leurs données“, a-t-il ajouté.
Juliette Paoli avec AFP
