Appuyez sur play pour écouter cet article
L’Union européenne a dévoilé mercredi les premiers plans mondiaux de réglementation de l’intelligence artificielle, doublant son rôle de dirigeant mondial et défiant ses alliés – à savoir les États-Unis – de se rallier.
Les règles proposées, une priorité absolue pour Ursula von der Leyen en tant que chef du bras exécutif de l’UE, visent à freiner les utilisations «à haut risque» de l’IA telles que la reconnaissance faciale ou les logiciels pour traiter les demandes d’emploi qui, de l’avis de l’UE, posent problème. la plus grande menace potentielle pour la société et les individus.
La proposition de l’Europe inclut l’interdiction des pratiques qui «manipulent des personnes par des techniques subliminales au-delà de leur conscience» ou exploitent des groupes vulnérables tels que les enfants ou les personnes handicapées. D’autres pratiques interdites sont la notation sociale menée par le gouvernement, qui est un système introduit par la Chine pour mesurer la fiabilité d’un individu.
Les systèmes de reconnaissance biométrique en temps réel, tels que la reconnaissance faciale, seront interdits à des fins d’application de la loi, à moins qu’ils ne soient nécessaires pour trouver des victimes dans des cas tels que des enlèvements, des interventions terroristes ou des criminels.
Avec le livre de règles de l’IA, l’UE intensifie un plan de plusieurs années pour se positionner comme le principal dirigeant mondial de la technologie à la suite du déploiement de ses règles de confidentialité complètes, le RGPD, en 2018. Cette fois, les géants de la technologie de la Silicon Valley à Shenzhen sont devraient disposer de moins de deux ans pour mettre leur entreprise en conformité avec les règles de l’IA, qui présentent également un défi pour l’administration du président américain Joe Biden.
Alors que Washington a cherché des liens plus étroits avec l’Europe pour contrer les ambitions technologiques croissantes de la Chine, jusqu’à présent, les États-Unis n’ont pas suivi l’exemple de l’UE en matière d’IA ou de confidentialité. Les nouvelles règles – qui vont maintenant se frayer un chemin à travers le processus législatif européen – pourraient élargir le fossé réglementaire entre les deux parties, alors même que Bruxelles fait pression pour une coordination plus étroite sur ses propres priorités technologiques via une proposition de Conseil Commerce et Technologie.
Dans le même temps, les règles proposées distinguent l’UE de la Chine en matière de technologie. Le fait que les règles aient distingué la notation du crédit social – un outil principalement utilisé en Chine – est un signal que Bruxelles veut éviter l’utilisation de l’IA pour une surveillance autoritaire.
«Cela envoie un message clair à la Chine que le système de crédit social est incompatible avec les démocraties libérales», a déclaré Maroussia Lévesque, chercheuse au Berkman Klein Center de l’Université Harvard.
“Il n’y a pas de place pour une surveillance de masse dans notre société”, a déclaré la vice-présidente exécutive de la Commission, Margrethe Vestager.
“Pour que l’Europe devienne un leader mondial de l’IA fiable, nous devons donner aux entreprises l’accès aux meilleures conditions pour construire des systèmes d’IA avancés”, a déclaré Vestager.
Pour un sujet aussi vaste que l’IA, le nouveau livre de règles a été développé remarquablement rapidement, trois ans seulement depuis que la Commission a lancé sa première stratégie d’IA.
Mais cette rapidité peut se faire au prix d’une plus grande opposition aux petits caractères de la part des acteurs de la société civile et des législateurs européens qui doivent désormais analyser la proposition de la Commission européenne. Déjà, les militants expriment leur déception face à un projet final de la Commission que beaucoup d’entre eux disent qu’il est trop favorable à l’industrie et donne aux gouvernements une trop grande latitude pour utiliser l’IA pour la surveillance.
Nouvelle ère de régulation
L’une des principales inquiétudes des États-Unis est le rythme auquel la Chine développe les technologies d’IA. Les décideurs politiques américains ont exhorté leurs homologues européens à collaborer – dans l’espoir d’éviter de céder plus d’espace aux géants chinois de la technologie comme Huawei, Tencent et ByteDance, qui possède la populaire application de partage de vidéos TikTok.
Un rapport récent de la National Security Commission on Artificial Intelligence, présidé par l’ancien PDG de Google, Eric Schmidt, a mis l’accent sur le renforcement des capacités américaines en matière d’IA, en particulier dans le secteur de la défense, afin de maintenir son avantage concurrentiel. Le rapport recommandait également de renforcer la collaboration avec les alliés pour accélérer le processus.
Mais avec les nouvelles règles, il pourrait sembler aux États-Unis que l’Europe semble plus soucieuse de protéger ses citoyens que de garder un œil sur la Chine, avec laquelle le bloc a récemment signé un accord d’investissement. Schmidt a exprimé son scepticisme à l’égard du projet européen le mois dernier lorsqu’il a déclaré à POLITICO que l’ambition de l’UE de créer une «troisième voie» pour réguler l’intelligence artificielle ne fonctionnera pas.
À la fin de l’année dernière, von der Leyen a proposé un «accord d’IA» transatlantique avec les États-Unis, et l’Europe tient à signaler que sa «troisième voie» ne l’oppose pas à Washington.
L’UE pourrait bien se trouver un allié au sein de la Federal Trade Commission des États-Unis, qui verra probablement la critique de Big Tech Lina Khan nommée parmi ses commissaires.
La FTC a également récemment publié des lignes directrices pour les entreprises qui ont reconnu les diverses pratiques trompeuses devenues courantes avec l’IA, telles que la vente de produits qui ne fonctionnent pas ou des systèmes qui ne font pas ce qu’elles prétendent. Elisa Jillson, avocate à la FTC, a écrit que les entreprises devraient se tenir responsables ou «être prêtes à ce que la FTC le fasse pour vous».
Ce sont des signes que les États-Unis entrent dans une nouvelle ère de réglementation, a déclaré Meredith Whittaker de l’AI Now Institute de l’Université de New York.
“Il reste à voir comment ils utilisent ce pouvoir, mais nous voyons au moins dans cette agence un virage vers une position beaucoup plus offensive pour Big Tech”, a déclaré Whittaker.
Réussir ou échouer
Ce qui donne aux Européens l’espoir que les États-Unis pourraient jouer le jeu, c’est qu’ils y parviennent en premier.
Les règles du bloc en matière de protection des données sont désormais considérées comme l’étalon-or, ce qui incite d’autres pays à adopter des règles similaires. Certains États américains, comme la Californie, ont adopté des règles similaires, mais le pays est loin d’une loi fédérale sur la protection de la vie privée. La Commission européenne espère que les entreprises américaines désireuses de continuer à approvisionner le marché européen se conformeront.
L’Europe doit également convaincre les entreprises technologiques que ses règles valent la peine d’être suivies.
“Si le système européen est perçu comme ralentissant l’adoption de l’IA, ce n’est peut-être pas ce que les autres marchés décident de faire”, a déclaré Guido Lobrano, vice-président des politiques du lobby technologique ITI.
Agir d’abord ne signifie pas non plus que la proposition de l’Europe restera valable.
Deux fonctionnaires de l’UE qui ont aidé à rédiger les normes européennes de confidentialité ont exprimé des doutes sur le fait que Bruxelles serait en mesure d’établir les règles de facto du monde en matière d’intelligence artificielle. Ils se sont entretenus avec POLITICO sous couvert d’anonymat car ils n’étaient pas autorisés à parler publiquement des propositions de Bruxelles en matière d’IA.
L’UE a travaillé sur les règles de protection des données alors que personne d’autre ne l’était, a déclaré l’un des responsables. Ce n’est pas le cas avec l’IA. Les États-Unis, la Chine et d’autres pays non membres de l’UE font pression avec impatience sur la manière dont les normes de la technologie seraient déployées dans le monde entier. Cette concurrence rendrait difficile, voire impossible, pour l’UE de diriger le conseil d’administration de l’IA.
Pas si différent
Pour certaines technologies, telles que la reconnaissance faciale, l’UE et les États-Unis peuvent avoir des récits très différents, mais ils convergent dans la mise en œuvre, a déclaré Lévesque de Harvard.
“Les différences ne sont pas aussi grandes qu’on le pense entre l’approche américaine et l’approche européenne”, a déclaré Lévesque. Aux États-Unis, “de nombreux gouvernements locaux expérimentent des interdictions ou des moratoires … pour l’utilisation gouvernementale de la surveillance biométrique et certaines de ces mesures sont plus strictes que la réglementation européenne”, a poursuivi M. Lévesque.
Alexandra Geese, une eurodéputée verte allemande, a déclaré que l’UE et les États-Unis accordent la priorité aux droits de l’homme et à la non-discrimination. «Ce sont les valeurs que nous partageons. La plupart des recherches que nous avons sur le potentiel discriminatoire de l’IA que la Commission européenne tente de réglementer proviennent des États-Unis », a déclaré M. Geese.
Daniel Leufer, du groupe de droits numériques Access Now, a déclaré que le discours selon lequel l’UE est la seule à réglementer les technologies d’IA à risque n’est pas correct.
«L’interdiction de Portland sur la reconnaissance faciale est absolument leader mondial… L’UE qui suit la voie de l’interdiction de Portland avec ses interdictions sur la reconnaissance faciale renforcera d’autres initiatives locales», a déclaré Leufer.
“Je suis sûr qu’Eric Schmidt ne sera pas heureux à ce sujet, mais vous devriez gâter les plumes des bonnes personnes”, a-t-il ajouté.
Mark Scott a contribué au reportage.
Cet article fait partie de POLITICOCouverture de la police premium Tech: Pro Technology. Notre journalisme spécialisé et notre suite d’outils de renseignement politique vous permettent de rechercher, suivre et comprendre en toute transparence les développements et les parties prenantes qui façonnent la politique technologique de l’UE et conduisent les décisions ayant un impact sur votre secteur. E-mail [email protected] avec le code «TECH» pour un essai gratuit.
