Faut-il avoir peur de l’intelligence artificielle forte ?

NB : les principes d’Asilomar sur l’AI, coordonnés par FLI et développés lors de la conférence Beneficial AI 2017, sont l’un des ensembles de principes de gouvernance de l’IA les plus anciens et les plus influents. Ces principes, au nombre de 23 ont été développés en conjonction avec la conférence Asilomar 2017 afin de guider les recherches notamment d’un point de vue éthique.

NB : vous pouvez consulter les 23 principes d’Asilomar sur l’AI en cliquant ici, et consulter les vidéos de la conférence Beneficial AI 2017 via le lien ci-dessous 👇

NB : l’expression Intelligence artificielle avancée fait référence à un niveau d’intelligence dans les machines qui est équivalent ou supérieur à l’intelligence humaine. Cela peut inclure des capacités telles que le traitement du langage naturel, la reconnaissance d’images, la prise de décision et l’apprentissage. L’IA peut être divisée en deux catégories principales : l’IA faible, qui est conçue pour une tâche spécifique, et l’IA forte, qui est capable d’accomplir n’importe quelle tâche intellectuelle qu’un humain peut effectuer.

NB : les auteurs de la pétition pensent que les IA avancées, ou IA fortes, peuvent représenter une rupture technologique suffisamment importante pour que leur développements ne soient pas opaques mais fassent l’objet d’une gouvernance transparente et de contrôles proportionnés à cet enjeu.

NB : les auteurs soulèvent les difficultés rencontrées, selon eux, par les créateurs de ces algorithmes à maîtriser leurs propres inventions et les problèmes qu’ils pourraient engendrer à la hauteur de leurs performances. Les laboratoires développant ces IA seraient désinhibés et encouragés par des financements massifs à ne plus suivre les principes d’Asilomar sur l’AI sans être conscients des conséquences de leurs actes.

NB : les auteurs soulèvent des questionnements relatifs à la dangerosité de l’intelligence artificielle pour nos sociétés démocratiques. L’usage de algorithme a déjà par le passé causé des perturbations importantes dans les régimes démocratiques comme l’a démontré le scandale Cambridge Analytica. Et encore, il ne s’agissait pas à ce moment-là d’algorithmes aussi puissants que ceux évoqués par les auteurs dans cette pétition. Le développement d’intelligences artificielles fortes pourrait déstabiliser nos démocraties en rendant plus difficile l’identification de la nature artificielle des manipulations de l’information par la création automatisée de contenus venant semer le doute ou porteur de contrevérités, et démultipliant sa vitesse de propagation bien au-delà des procédés habituels, sans qu’il ne nous soit possible de distinguer le vrai du faux comme l’ont démontré les réactions des internautes face à la diffusion de fausses photos créées via des IA génératives comme Midjourney à l’occasion des manifestations contre la réforme des retraites en France.

© AFP / Capture d’écran réalisée sur Facebook le 30 mars 2023.

NB : ils soulèvent également par ces questions le risque d’une automatisation débridée des tâches quotidiennes, personnelles comme professionnelles, qui pourraient conduire les êtres humains à perdre leur autonomie d’action, de penser, et leurs savoir-faires en les déléguant toujours plus à ces algorithmes. Vous souvenez-vous du film d’animation Wall-e et de ces humains devenus obèses à force d’être assistés dans une recherche de confort effrénée ? Plus que cela, ils craignent que cela n’aboutisse à une perte de contrôle de notre civilisation au bénéfice de systèmes complexes qu’il serait difficile d’arrêter faute de les comprendre. C’est là développer une vision bien noire et placer ces intelligences artificielles à un niveau qu’elles n’atteindront peut-être jamais.

NB : les auteurs soulignent que les dérives actuelles et futures sont cependant prises en compte par certains acteurs comme OpenAI, créateur de Chat GPT, quant à la nécessité de gouverner les recherches actuelles.

NB : les auteurs proposent de stopper les recherches actuelles concernant les systèmes d’IA les plus avancés et de mettre en place une gouvernance commune des différents acteurs clefs du secteur. 

NB : ils alertent aussi quant à l’urgence de la situation et à la nécessité que les états interviennent si ces acteurs clefs ne prennent pas les choses en main. C’est un appel relativement rare pour être souligné à un interventionnisme étatique au pays du libéralisme roi qui, au-delà de l’idéologie des auteurs, révèle une prise de position exceptionnelle.

NB : la notion de doute raisonnable fait écho aux principes largement adoptés de l’OCDE sur l’IA qui exigent que les systèmes d’IA « fonctionnent de manière appropriée et ne présentent pas de risque de sécurité déraisonnable ».

NB : l’utilisation de l’expression « boîtes noires » traduit selon les auteurs l’opacité des systèmes d’intelligence artificielle développés actuellement qui peut accroître leur dangerosité faute de pouvoir comprendre leur fonctionnement et agir en cas de problème. D’où la nécessité de mettre en place un système de surveillance indépendant externalisé de ces acteurs.

NB : les auteurs de la pétition rappellent l’importance d’un nouveau modèle de gouvernance qu’ils aimeraient voir associer acteurs publics, politiques, et privés afin de garantir la sûreté de ces nouveaux systèmes dAI fortes.

NB : les auteurs nous rappellent qu’il y a déjà eu des précédents concernant la mise en pause de certaines recherches et qu’il n’y a pas d’obstacles à ce que cela le soit pour l’intelligence artificielle. Ils citent notamment les exemples du clonage humain, de la modification de la lignée germinale humaine, de l’eugénisme.