Afficher l'article dans votre langue
L’intelligence artificielle (IA) aura été l’un des sujets les plus populaires de 2023, partageant la Une des journaux avec la guerre en Ukraine, la crise migratoire et le changement climatique. En fonction de l’interlocuteur, l’IA pourrait résoudre tous les problèmes de l’humanité – ou bien détruire toute notre civilisation, c’est selon. Mais ces deux discours, pourtant bien différents, sont parfois tenus par les mêmes personnes. Et, étonnamment, celles-ci viennent en majorité de la Silicon Valley …
Passons en revue quelques-unes des principales avancées de l’année liées à l’IA. J’ai par ailleurs déjà décrit la plupart d’entre elles dans un long essai publié dans le New York Times plus tôt cette année.
Déjà, un principe de base : notre engouement actuel face au développement de l’IA n’est qu’une extension de notre enthousiasme face au marché et au néolibéralisme. Il est difficile de comprendre pourquoi tant d’institutions publiques se laissent séduire par les belles paroles des partisans de l’intelligence artificielle, si ce n’est d’inscrire cette campagne de marketing dans la continuité historique de la privatisation des solutions à des problèmes qui, par ailleurs, relèvent du public et du collectif. Ainsi, résoudre nos problèmes par l’IA aujourd’hui revient à les résoudre par le marché. Personnellement, je trouve ça problématique, et j’espère que vous aussi. Mais ce lien entre l’intelligence artificielle d’aujourd’hui et le néolibéralisme n’est pas très bien compris. Permettez-moi donc de l'expliquer un peu plus.
En mai, plus de 350 cadres du secteur technologique, chercheurs et intellectuels ont signé une déclaration alertant l’opinion sur les dangers existentiels de l’intelligence artificielle. “Minimiser le risque d’extinction lié à l’intelligence artificielle devrait être une priorité mondiale au même titre que d’autres risques sociétaux tels que les pandémies et les guerres nucléaires”, avertissent les signataires.
Cette déclaration fait suite à une autre carte blanche très médiatisée – signée par des personnalités telles qu’Elon Musk ou Steve Wozniak, cofondateur d’Apple – appelant à un moratoire de six mois sur le développement des systèmes d’intelligence artificielle avancés.
Entre-temps, l’administration Biden a appelé à une innovation responsable dans le domaine de l’IA, déclarant que “pour saisir les opportunités” que cette dernière offre, il serait nécessaire de “d’abord en gérer les risques.” Les sénateurs américains ont quant à eux appelé à organiser des auditions “uniques en leur genre” sur le potentiel et les risques de l’IA, une sorte de cours accéléré dispensé par des cadres de l’industrie, des intellectuels, des défenseurs des droits civils et d’autres intervenants.
Nous ne devons pas l’inquiétude croissante que suscite l’IA à ces technologies fiables mais ennuyeuses que nous connaissons déjà – comme celles qui complètent automatiquement nos messages ou permettent aux robots aspirateurs d’éviter les obstacles dans nos salons. C’est plutôt la possible émergence de l’intelligence artificielle générale (IAG) qui affole les experts.
Si l’IAG n’existe pas encore, le rapide développement des capacités de ChatGPT, l’agent conversationnel d’OpenAI, suggère que son émergence serait proche. Sam Altman, cofondateur d’OpenAI, décrit d’ailleurs l’IAG comme “des systèmes plus intelligents que les humains”. Construire de tels systèmes reste un défi colossal, voire impossible pour certains. Toutefois, ses avantages semblent très attrayants.
Prenons pour exemple la société Roomba, spécialisée dans la fabrication d’aspirateurs intelligents. Ses produits pourraient évoluer et passer de simples nettoyeurs de sol à des robots multifonctions, capables de servir le café ou de plier le linge. Tout le charme de l’IAG se trouve dans l’autonomie des produits : ils n’auraient pas besoin d’être programmés pour effectuer une tâche.
Tout ça a l’air très séduisant. Mais que se passerait-t-il si ces Roomba à IAG devenaient trop intelligents ? Leur mission de créer un monde immaculé pourrait devenir très problématique pour nous, leurs créateurs, qui répandons tant de poussière. Après tout, c’est nous, les humains, qui sommes à l’origine de toutes ces miettes ; il suffirait d’une erreur de programmation pour que ces aspirateurs pensent qu’en nous éliminant, la propreté de la maison serait maintenue. Alors, pensez-y à deux fois avant de vous procurer un Roomba à IAG.
Les risques posés par l’intelligence artificielle générale sont en réalité d’ordre politique et ne seront pas résolus en apprivoisant des robots rebelles
Les discussions autour de l’intelligence artificielle générale fourmillent de ce genre de scénarios apocalyptiques. Pourtant, un nouveau lobby de l’IAG, composé d’universitaires, d’investisseurs et d’entrepreneurs, assure que celle-ci pourrait être une bénédiction pour la société une fois rendue sûre. Sam Altman, le représentant de cette campagne, s’est lancé dans une tournée mondiale pour charmer les législateurs. Au début de l’année, il écrivait par exemple que l’IAG pourrait même donner un coup de fouet à l’économie, faire avancer la science et “élever l’humanité en accroissant son abondance.”
C’est la raison pour laquelle, malgré toutes les réticences, tant de spécialistes du secteur de la tech s’efforcent de mettre au point cette technologie controversée. Ne pas l’utiliser pour sauver le monde semble totalement immoral. Les risques d’accident d’avion causé par l’IAG pâlissent à côté de tous les avantages qu’elle pourrait apporter : guérir le cancer, éliminer l’analphabétisme ou doter chacun d’entre nous d’un secrétaire personnel.
Tous ces visionnaires de la tech considèrent cette nouvelle technologie comme inévitable et, dans une version sécurisée, comme universellement bénéfique. Pour ses partisans, il n’existe guère de meilleure solution pour réparer l’humanité et développer son intelligence. Je répète : pour eux, le meilleur moyen d’accroître l’intelligence de notre société repose sur le perfectionnement de modèles de données alimentés par toujours plus d’informations de meilleure qualité.Un programme essentiellement technique, donc.
Mais l’idéologie qui sous-tend cet effort – que nous appelleront “IAGsime” pour les besoins de cet article – fait fausse route. Les risques posés par l’intelligence artificielle générale sont en réalité d’ordre politique et ne seront pas résolus en apprivoisant des robots rebelles. Même l’IAG la plus sécurisée n’apporterait pas la panacée progressiste promise par son lobby. En présentant son émergence comme inévitable, l’“IAGisme” nous empêche de trouver de meilleurs moyens de développer notre intelligence humaine –mais parlons-en plus tard.
Ses partisans ignorent que l’“IAGisme” n’est que le rejeton bâtard d’une idéologie bien plus importante, qui prône, comme a pu le dire Margaret Thatcher en son temps, qu’“il n’y a pas d’alternative” au marché. Car les entreprises qui développent l’IAG ne font pas dans l’humanitaire comme les Nations unies ou Mère Thérésa : ce sont des capitalistes, tournés vers le profit et désireux de promouvoir l’institution du marché comme principal mode d’organisation de notre société.
C’est pourquoi, plutôt que de détruire le capitalisme, comme le suggère Altman, l’IAG – ou du moins l’empressement à la développer – est plutôt susceptible de constituer un allié puissant (et branché) au crédo le plus destructeur du capitalisme : le néolibéralisme.
Les concepteurs du néolibéralisme, fascinés par la privatisation, la concurrence et le libre-échange, voulaient à l’origine dynamiser et transformer une économie stagnante et favorable au travail grâce aux marchés et à la déréglementation.
Certaines de ces transformations ont porté leurs fruits, mais leur coût a été immense. Au fil des ans, le néolibéralisme s’est attiré de très nombreuses critiques, qui l’ont rendu responsable de la Grande récession et de la crise financière, du trumpisme, du Brexit et de bien plus encore.
Il n’est donc pas surprenant de constater que l’administration Biden a pris ses distances avec cette idéologie, reconnaissant que les marchés peuvent parfois avoir tort. Des fondations, des groupes d’experts et des intellectuels ont même osé imaginer un avenir post-néolibéral. Malheureusement, en Europe, de telles prises de position sont très rares, même si Emmanuel Macron a récemment fait la Une des journaux en parlant de la planification écologique comme moyen de résoudre la crise climatique.
Pourtant, le néolibéralisme est loin d’être mort. Pire encore, il a trouvé un allié dans l’“IAGisme”, qui pourrait bien renforcer et reproduire ses principaux biais. En voici trois. D’abord, celui voulant que les acteurs privés ont tendance à être plus performants que les acteurs publics (ce que j’appelle le biais du marché). Ensuite, l’idée néolibérale classique selon laquelle il est plus important de s’adapter à la réalité plutôt que de la transformer (ou biais d’adaptation). Enfin, la croyance voulant que la maximisation de l’efficacité l’emporte toujours sur les préoccupations sociales, en particulier sur celles liées à la justice sociale (que je nomme biais d’efficacité).
Ces biais remettent en cause la promesse si séduisante de l’IAG : au lieu de sauver le monde, celle-ci pourrait bien ne faire qu’empirer les choses.
Le biais du marché
Le premier biais est celui du marché, qui veut que nous nous tournions en priorité vers les prestataires de services privés et que nous leur donnions la priorité ceux déjà présents sur le marché. Souvenez-vous d’Uber, qui a cherché un temps,avec ses tarifs bon marché, à remplacer les transports publics dans certaines villes.
En effet, le projet semblait prometteur : Uber proposait des trajets à des tarifs incroyablement bas, fruit d’un avenir où les voitures se conduisent toutes seules et où les coûts de main-d’œuvre sont minimes. Des investisseurs aux poches profondes ont adoré cette proposition, acceptant même d’absorber les pertes de plusieurs milliards de dollars d’Uber.
Mais quand il a fallu revenir à la réalité, les voitures autonomes se sont révélées n'être qu’un doux rêve, et les investisseurs ont alors exigé un retour sur investissement, contraignant Uber à augmenter ses prix. Les utilisateurs qui comptaient sur la firme pour remplacer les transports publics ont malheureusement été laissés sur le bord de la route.
Le principe néolibéral sur lequel repose le modèle économique d’Uber suppose que le secteur privé peut faire mieux que le secteur public. C’est là le cœur même du biais du marché.
