Afficher l'article dans votre langue
Paul Nemitz est le conseiller principal de la direction générale de la justice de la Commission européenne et professeur de droit au Collège d’Europe. Considéré comme l’un des experts européens les plus respectés en matière de liberté numérique, il a dirigé les travaux sur le règlement général sur la protection des données (RGPD). La traduction anglaise de son essai The Human Imperative — Power, Democracy and Freedom in the Age of Artificial Intelligence, coécrit avec Matthias Pfeffer, sera publiée en juin prochain.
Voxeurop : L’intelligence artificielle (IA) est-elle bénéfique pour nos démocraties, ou devrions-nous la considérer comme une menace ?
Paul Nemitz : L’ alarmisme remplace de plus en plus l’optimisme naïf à l’égard des IA. Elon Musk et Bill Gates ont tous deux déclaré que cette technologie était comme l’énergie nucléaire : une opportunité qui représente néanmoins un risque existentiel. Dans son livre Human Compatible, Stuart Russel, auteur du best-seller Artificial Intelligence: A Modern Approach, décrit le problème du contrôle de l’intelligence artificielle. Il y établit lui aussi un parallèle avec l’énergie nucléaire : nous ne pouvons pas être certains que l’“intelligence artificielle générale” (une intelligence artificielle avancée émulant l’intelligence humaine, ndlr) ne sera pas atteinte demain. Il fut un temps où tous les grands scientifiques pensaient que la fission de l’atome était impossible. Au regard du principe de précaution qui a déjà fait ses preuves par le passé, ces faits appellent les démocraties à prendre le contrôle de cette technologie.
Tout ingénieur ou développeur responsable n’en disconviendrait pas. Ni les individus ni les démocraties ne peuvent être contrôlés ou manipulés par les IA ; ils doivent au contraire en garder le contrôle. La question de savoir si nous pouvons faire de celles-ci une opportunité pour nos démocraties dépend de plusieurs facteurs. Tout d’abord, du désir de ceux qui les développent de servir la démocratie, et pas seulement d’engranger des bénéfices. Ensuite, de la volonté d’investir dans des IA conçues spécialement pour donner du pouvoir aux acteurs de la démocratie – des parlements, gouvernements, partis politiques, médias, syndicats, ONG, et églises aux individus – afin de contribuer plus activement et de manière constructive au bon fonctionnement de celle-ci.
L’UE devrait-elle réglementer les IA, et si oui, comment et dans quelle optique ? La loi sur l’IA aborde-t-elle les principales problématiques liées à celle-ci et à son utilisation ?
Nous ne pouvons pas laisser le contrôle de l’IA à l’autorégulation et à l’éthique des entreprises. Comme les produits chimiques, les voitures ou l’énergie nucléaire, pour ne citer que quelques exemples, cette technologie est suffisamment importante pour qu’une loi en définisse son orientation et ses limites. En ces temps de développements technologiques rapides, la loi sur l’IA constituera un important précédent rappelant la primauté de la démocratie. Les appels faiblards à l’autorégulation et à l’éthique sont dépassés, car l’ampleur et la rapidité du développement technologique exigent tout bonnement la mise en vigueur d’une loi garantissant le respect de l’intérêt public et des règles applicables, même par ceux qui ne veulent pas jouer le jeu.
Impossible d’ignorer la question du pouvoir lorsque l’on parle d’intelligence artificielle. À défaut de régulations contraignantes, le pouvoir qu’a la technologie de façonner nos sociétés se retrouverait exclusivement entre les mains de ceux qui la développent et la possèdent. Dans une société organisée ainsi, la démocratie ne fonctionnerait pas, et nous ne pourrions pas non plus garantir le respect des droits fondamentaux. Le marché intérieur de l’UE a également besoin d’un règlement, car sans loi au niveau européen, nous constaterions rapidement une fragmentation de la législation entre les 27 Etats membres, rendant ainsi impossible l’existence d’un marché intérieur fonctionnel dans le domaine de la haute technologie. Le règlement sur l’IA de l’UE aborde de nombreuses problématiques liées au développement et à l’utilisation des intelligences artificielles, et, comme toute chose en démocratie, sera un juste milieu trouvé entre différentes opinions politiques.
Avec le projet actuel de règlement, les utilisations de l’IA seront classées d’après leur niveau de risque estimé : faible, élevé ou inacceptable. Les domaines préoccupants pourraient inclure la surveillance biométrique, la diffusion de fausses informations ou le recours aux propos discriminatoires. Cela a-t-il du sens ?
L’approche d’une régulation fondée sur la compréhension des risques est un bon début, mais elle est limitée, puisqu’elle réduit la législation à un instrument de réparation des défaillances du marché et des risques technologiques conçus dans le secteur privé. Par conséquent, si les moyens dont nous disposons sont uniquement fondés sur la compréhension des risques, la démocratie abandonnerait l’aspiration qu’ont les citoyens à façonner, à travers elle, leurs sociétés, ainsi que la manière dont ils veulent vivre. Cela étant dit, le règlement européen sur l’IA fait partie d’un premier ensemble de textes législatifs grâce auxquels l’UE façonne les nouvelles réalités numériques. Elle s’ajoute à la loi sur les services numériques, la loi sur les marchés numériques, au règlement général sur la protection des données, ainsi qu’à la législation sur la protection des consommateurs, pour ne citer que quelques législations déjà en place. Elle doit désormais être adoptée rapidement pour porter ses fruits.
Les plus de 3 000 amendements déposés au parlement européen montrent que la démocratie a beaucoup à dire sur l’intelligence artificielle et sa régulation. Et qu’elle fonctionne bien en Europe. Je crois en la volonté de compromis visant à faire passer une législation, permettant de prouver que la démocratie peut fonctionner. Dans cet esprit, je pense que le règlement sur l’IA, ainsi que d’autres lois déjà en place qui s’appliquent également à cette technologie, constitue une bonne première législation sur l’intelligence artificielle : contraignante à la fois pour le public et le privé. Nous pouvons être fiers qu’au regard de cette question consistant à faire passer la démocratie avant les nouvelles technologies, l’Europe soit une fois de plus en avance sur ses voisins.
Pouvons-nous faire confiance aux ingénieurs et magnats de la technologie de la Silicon Valley quant à l’autorégulation de l’IA ? Le récent
