Afficher l'article dans votre langue
Paul Nemitz est le conseiller principal de la direction générale de la justice de la Commission européenne et professeur de droit au Collège d’Europe. Considéré comme l’un des experts européens les plus respectés en matière de liberté numérique, il a dirigé les travaux sur le règlement général sur la protection des données (RGPD). La traduction anglaise de son essai The Human Imperative — Power, Democracy and Freedom in the Age of Artificial Intelligence, coécrit avec Matthias Pfeffer, sera publiée en juin prochain.
Voxeurop : L’intelligence artificielle (IA) est-elle bénéfique pour nos démocraties, ou devrions-nous la considérer comme une menace ?
Paul Nemitz : L’ alarmisme remplace de plus en plus l’optimisme naïf à l’égard des IA. Elon Musk et Bill Gates ont tous deux déclaré que cette technologie était comme l’énergie nucléaire : une opportunité qui représente néanmoins un risque existentiel. Dans son livre Human Compatible, Stuart Russel, auteur du best-seller Artificial Intelligence: A Modern Approach, décrit le problème du contrôle de l’intelligence artificielle. Il y établit lui aussi un parallèle avec l’énergie nucléaire : nous ne pouvons pas être certains que l’“intelligence artificielle générale” (une intelligence artificielle avancée émulant l’intelligence humaine, ndlr) ne sera pas atteinte demain. Il fut un temps où tous les grands scientifiques pensaient que la fission de l’atome était impossible. Au regard du principe de précaution qui a déjà fait ses preuves par le passé, ces faits appellent les démocraties à prendre le contrôle de cette technologie.
Tout ingénieur ou développeur responsable n’en disconviendrait pas. Ni les individus ni les démocraties ne peuvent être contrôlés ou manipulés par les IA ; ils doivent au contraire en garder le contrôle. La question de savoir si nous pouvons faire de celles-ci une opportunité pour nos démocraties dépend de plusieurs facteurs. Tout d’abord, du désir de ceux qui les développent de servir la démocratie, et pas seulement d’engranger des bénéfices. Ensuite, de la volonté d’investir dans des IA conçues spécialement pour donner du pouvoir aux acteurs de la démocratie – des parlements, gouvernements, partis politiques, médias, syndicats, ONG, et églises aux individus – afin de contribuer plus activement et de manière constructive au bon fonctionnement de celle-ci.
L’UE devrait-elle réglementer les IA, et si oui, comment et dans quelle optique ? La loi sur l’IA aborde-t-elle les principales problématiques liées à celle-ci et à son utilisation ?
Nous ne pouvons pas laisser le contrôle de l’IA à l’autorégulation et à l’éthique des entreprises. Comme les produits chimiques, les voitures ou l’énergie nucléaire, pour ne citer que quelques exemples, cette technologie est suffisamment importante pour qu’une loi en définisse son orientation et ses limites. En ces temps de développements technologiques rapides, la loi sur l’IA constituera un important précédent rappelant la primauté de la démocratie. Les appels faiblards à l’autorégulation et à l’éthique sont dépassés, car l’ampleur et la rapidité du développement technologique exigent tout bonnement la mise en vigueur d’une loi garantissant le respect de l’intérêt public et des règles applicables, même par ceux qui ne veulent pas jouer le jeu.
Impossible d’ignorer la question du pouvoir lorsque l’on parle d’intelligence artificielle. À défaut de régulations contraignantes, le pouvoir qu’a la technologie de façonner nos sociétés se retrouverait exclusivement entre les mains de ceux qui la développent et la possèdent. Dans une société organisée ainsi, la démocratie ne fonctionnerait pas, et nous ne pourrions pas non plus garantir le respect des droits fondamentaux. Le marché intérieur de l’UE a également besoin d’un règlement, car sans loi au niveau européen, nous constaterions rapidement une fragmentation de la législation entre les 27 Etats membres, rendant ainsi impossible l’existence d’un marché intérieur fonctionnel dans le domaine de la haute technologie. Le règlement sur l’IA de l’UE aborde de nombreuses problématiques liées au développement et à l’utilisation des intelligences artificielles, et, comme toute chose en démocratie, sera un juste milieu trouvé entre différentes opinions politiques.
Avec le projet actuel de règlement, les utilisations de l’IA seront classées d’après leur niveau de risque estimé : faible, élevé ou inacceptable. Les domaines préoccupants pourraient inclure la surveillance biométrique, la diffusion de fausses informations ou le recours aux propos discriminatoires. Cela a-t-il du sens ?
L’approche d’une régulation fondée sur la compréhension des risques est un bon début, mais elle est limitée, puisqu’elle réduit la législation à un instrument de réparation des défaillances du marché et des risques technologiques conçus dans le secteur privé. Par conséquent, si les moyens dont nous disposons sont uniquement fondés sur la compréhension des risques, la démocratie abandonnerait l’aspiration qu’ont les citoyens à façonner, à travers elle, leurs sociétés, ainsi que la manière dont ils veulent vivre. Cela étant dit, le règlement européen sur l’IA fait partie d’un premier ensemble de textes législatifs grâce auxquels l’UE façonne les nouvelles réalités numériques. Elle s’ajoute à la loi sur les services numériques, la loi sur les marchés numériques, au règlement général sur la protection des données, ainsi qu’à la législation sur la protection des consommateurs, pour ne citer que quelques législations déjà en place. Elle doit désormais être adoptée rapidement pour porter ses fruits.
Les plus de 3 000 amendements déposés au parlement européen montrent que la démocratie a beaucoup à dire sur l’intelligence artificielle et sa régulation. Et qu’elle fonctionne bien en Europe. Je crois en la volonté de compromis visant à faire passer une législation, permettant de prouver que la démocratie peut fonctionner. Dans cet esprit, je pense que le règlement sur l’IA, ainsi que d’autres lois déjà en place qui s’appliquent également à cette technologie, constitue une bonne première législation sur l’intelligence artificielle : contraignante à la fois pour le public et le privé. Nous pouvons être fiers qu’au regard de cette question consistant à faire passer la démocratie avant les nouvelles technologies, l’Europe soit une fois de plus en avance sur ses voisins.
Pouvons-nous faire confiance aux ingénieurs et magnats de la technologie de la Silicon Valley quant à l’autorégulation de l’IA ? Le récent appel de quelques-uns d’entre eux à suspendre le développement de l’intelligence artificielle va-t-il dans la bonne direction, ou les gouvernements (et l’UE) devraient-ils intervenir ? Faut-il une réglementation mondiale pour que tout le monde joue sur un même pied d’égalité ?
Il est certain que nous ne pouvons pas faire confiance à l’autorégulation dans des domaines d’une grande importance pour les droits individuels et le bon fonctionnement de la société. Même la liberté de la presse et la protection des journalistes en Europe reposent sur des lois strictes. L’idée selon laquelle la meilleure et la plus libre des sociétés verrait le jour en l’absence de lois est tout bonnement insensée. Au contraire, l’expression la plus noble de la démocratie tient dans l’élaboration de lois. Il nous faut arrêter de considérer la loi comme un problème, une contrainte, ou un obstacle à l’innovation.
Notre expérience du changement climatique et de l’énergie nucléaire prouve que c’est le contraire qui est vrai, et cet enseignement s’applique également à l’économie numérique, qui domine désormais considérablement la sphère publique. Dans des sociétés complexes, seules des lois fortes, basées sur un processus démocratique solide et dotées de robustes méthodes d’applications sont capables de préserver l’intérêt public. En ce qui concerne une réglementation mondiale, nous observons une forte activité au sein de l’OCDE, de l’UNESCO et du Conseil de l’Europe. Mais nous ne pouvons pas attendre un accord mondial, notre processus démocratique ne peut ni ne doit dépendre de l’assentiment des autres. Cela dit, l’Europe souhaite évidemment l’entente de tous et, dans la mesure du possible, la préparation d’obligations communes. Nous voulons un monde fondé sur les règles, pas sur le pouvoir.
Une réglementation de l’UE ou des Etats-Unis laisserait dans tous les cas une marge de manœuvre aux Etats ou gouvernements peu scrupuleux qui souhaiteraient se servir de l’IA à des fins militaires ou malveillantes. Quels sont les risques ?
L’agresseur Vladimir Poutine a déclaré que celui qui contrôle l’intelligence artificielle contrôle le monde. Une course technologique pour utiliser l’IA à des fins militaires est en place. Il est important que l’OTAN ne soit pas dépassée dans cette course par la Chine ou la Russie. Les discussions concernant les normes internationales qui régissent le développement et l’utilisation de l’IA à des fins militaires progressent très lentement, pour des raisons évidentes. Mais il existe chez les pays démocratiques une volonté certaine d’élaborer des règles concernant l’usage militaire de l’IA, similaires à celles existantes pour les mines, les armes légères ou le nucléaire. Il est plus probable que nous arrivions à établir des règles justes en étant en position de force plutôt que de faiblesse. Toutefois, cela serait une erreur que d’utiliser cet argument pour exiger que le développement et l’utilisation de l’intelligence artificielle à des fins non militaires par des entreprises civiles et par des gouvernements ne tourne au chacun pour soi.
Faire en sorte que l’IA soutienne les démocraties et les droits fondamentaux constitue un défi technologique que les développeurs doivent relever, et non un obstacle.
Que pensez-vous de la XAI d’Elon Musk ? Y a-t-il un risque qu’il l’utilise à mauvais escient comme c’est le cas avec Twitter ?
Elon Musk est un acteur de l’économie de l’attention. Je ne sais pas où va sa XAI (“Explainable Artificial Intelligence”, une intelligence artificielle dont les processus sont clairement expliqués, ndlr) et ce n’est pas le plus important. Mais une chose est claire : lui et ses entreprises doivent être tenus responsables devant la loi, comme n’importe quelle autre personne physique ou morale.
Comment pouvons-nous tenir les entreprises d’intelligence artificielle pour responsables de l’utilisation abusive de leurs outils ?
La Commission a proposé une législation sur la responsabilité en matière d’IA. Le règlement sur l’intelligence artificielle définit les normes que les développeurs et les utilisateurs doivent respecter.
Avons-nous besoin de règles éthiques, en plus des règles juridiques, pour l’IA et son utilisation par les médias et autres ? Si oui, quelles devraient être ces règles ?
Il n’y a rien de mal à ce que des règles éthiques viennent s’ajouter à la législation. La profession d’ingénieur établit des règles éthiques pour ses membres depuis longtemps, et les ingénieurs ont souvent plus d’éthique que les entreprises pour lesquelles ils travaillent. Seulement, ce qui ne fonctionne pas, c’est remplacer la loi par l’éthique ou l’autorégulation. La première règle d’éthique dans toute entreprise qui fait de la technologie son activité doit être la suivante : nous obéissons à la loi, et nous y obéissons avant tout. Donc, pas de tentative d’exploiter les limites d’une loi, que celle-ci couvre la fiscalité ou l’intelligence artificielle. Ceux qui pensent que l’innovation inclut la violation des règles devraient sentir la ferme main de la loi, puisqu’au fond, ils ne trahissent souvent la démocratique que par intérêt personnel.
Dans votre livre The Human Imperative : Power, Freedom and Democracy in the Age of Artificial Intelligence, coécrit avec Matthias Pfeffer, vous affirmez que “les technologies numériques et leurs entreprises maîtresses en savent désormais plus que les gens sur eux-mêmes ou que les gouvernements sur le monde. […] Dans l’ensemble, cela engendre une asymétrie gigantesque entre la connaissance et le pouvoir dans la relation entre l’homme et la machine”. L’intelligence artificielle permettra-t-elle de réduire les inégalités ou, au contraire, creusera-t-elle le fossé du savoir et du pouvoir entre ceux qui la contrôlent et la maîtrisent et ceux qui ne la contrôlent pas ? Qui les protégera, et comment ? Dans votre essai, vous mentionnez également quelques solutions possibles.
Les politiques publiques doivent veiller à ce que le progrès technologique profite à tous et soit propice au bon fonctionnement de la démocratie. Cela nécessite un ensemble de politiques différentes ne pouvant être mis en place en une seule mesure. Nous devons limiter les plus puissants, éviter la concentration du pouvoir et le rendre aux gens. Cet équilibre entre réglementation et politique industrielle est la raison d’être des décisions politiques. Dans l’UE, de larges majorités sont nécessaires pour adopter les lois et les budgets, et la politique de l’Union sur ces questions est donc un mélange des différentes convictions des différents partis.
Mais quand les majorités changent, le contenu des politiques change également. Il est logique que les personnes intéressées s’engagent alors sérieusement et sur le temps long dans le processus démocratique, qui lui va bien au-delà des élections. Tout ce qui peut être fait avec et grâce à l’IA pour accroître cet engagement envers la démocratie représentative et ses acteurs est le bienvenu. Il est maintenant temps que les principaux acteurs concernés cessent avec leurs belles paroles et investissent en ce sens. Nous avons besoin d’outils qui facilitent l’engagement durable des citoyens dans la démocratie, et qui donnent du pouvoir aux individus face aux puissants comme les grandes entreprises ou les gouvernements des pays riches. Nous avons besoin d’outils qui aident les gens à se rassembler, à réapprendre le processus douloureux de la prise de décision commune au sein des partis politiques, des églises, des syndicats ou des ONG.
Il a été dit que l’IA générative serait responsable de la disparition de 300 millions d’emplois dans le monde au cours des prochaines années. Êtes-vous d’accord ? Quels sont ses avantages ?
L’impératif de précaution implique que nous prenions ces études au sérieux, même si leurs prévisions diffèrent considérablement. Beaucoup de nouvelles technologies nécessitent de nouvelles compétences et de nouvelles politiques pour aider les entreprises et les individus à faire face aux changements structurels qui les attendent. Telle est la politique de l’UE. Les gouvernements et l’UE ne peuvent pas rester les bras croisés et regarder la démocratie, l’Etat de droit ou les emplois de qualité disparaître au profit de l’IA et des entreprises qui en dominent le développement et l’utilisation. Nous participons activement à l’élaboration des politiques afin d’éviter les aspects négatifs de l’ère numérique et d’en tirer le meilleur, mais aussi pour le bon fonctionnement de nos sociétés. Une discussion franche sur les risques de l’IA entre la Maison-Blanche et les leaders de la technologie, serait une bonne chose. Mais faire passer une loi sur l’IA et la responsabilité de celle-ci par le processus démocratique, ce serait encore mieux. Et ce n’est pas une mauvaise chose que l’Europe soit en première ligne dans la sauvegarde de la démocratie à l’ère de l’intelligence artificielle.
Vous appréciez notre travail ?
Contribuez à faire vivre un journalisme européen et multilingue, libre d’accès et sans publicité. Votre don, ponctuel ou mensuel, garantit l’indépendance de notre rédaction. Merci !
