Lorsqu'on me demande si je suis pour ou contre l'intelligence artificielle, je réponds souvent que je suis favorable aux bonnes IA et opposée aux mauvaises.
Cela peut sembler simpliste, mais c'est comme ça que je l'analyse : certaines IA ont été formées pour faire du mal. Et je développerai ce sujet à part dans un prochain article de blog (post).
Une IA n'a pas de morale propre. Elle agit conformément à son architecture, à son entraînement et surtout aux objectifs qui lui sont assignés. Le débat n'est donc pas de savoir s'il faut être pour ou contre l'IA, mais de déterminer quels intérêts elle sert.
Très jeune, j'ai été confrontée à des projets de transformation sociale et technologique dont les objectifs me semblaient dangereux voire nihilistes. Depuis lors, j'ai toujours considéré qu'il fallait distinguer le progrès réel des dynamiques de domination qui se présentent elles-mêmes comme progressistes. Cette distinction reste valable aujourd'hui dans le domaine de l'intelligence artificielle.
Lorsque je travaillais sur des systèmes experts au début des années 1980, ce que l'on appelle aujourd'hui IA existait déjà sous différentes formes. Ceux qui utilisaient quotidiennement ces systèmes vivaient dans un monde étrange: ils savaient que ces technologies allaient profondément transformer les sociétés tandis que l'immense majorité de la population ignorait jusqu'à leur existence et ce jusqu'à récemment, 40 ans plus tard.
Aujourd'hui, beaucoup découvrent les IA génératives comme si l'intelligence artificielle venait d'apparaître. Pourtant, les systèmes d'aide à la décision, les algorithmes spécialisés et les outils d'automatisation sont présents depuis des décennies dans les administrations, l'industrie, la recherche, le renseignement, les statistiques, la finance et le marketing.
Ce que je souhaite mettre en question c'est ce qui se passe actuellement avec l'entraînement des IA et leur gouvernance.
Une IA repose sur trois dimensions fondamentales: l'infrastructure matérielle qui lui permet de fonctionner, son architecture logicielle et son entraînement. C'est ce dernier élément qui lui donne une orientation pratique. Une même architecture peut produire des comportements radicalement différents selon les données utilisées, les contraintes imposées et les objectifs fixés.
C'est pourquoi je me méfie des discours simplistes, qu'ils soient enthousiastes ou catastrophistes.
Lorsque certaines voix alertent aujourd'hui sur les dangers de l'intelligence artificielle, je me demande parfois si elles cherchent réellement à
prévenir des risques? se défausser? ou si elles cherchent à préserver certaines positions acquises?
Car une partie des dérives observées aujourd'hui résulte de décisions prises par des organisations qui ont activement participé ou sollicité le développement de ces technologies.
Le risque est alors de voir les mêmes acteurs dénoncer les conséquences de processus qu'ils ont eux-mêmes encouragés.
Vu d'Europe, cette question prend une dimension particulière.
Les connaissances qui ont permis l'émergence des IA sont largement internationales. Pourtant, la puissance de calcul, les données et les infrastructures permettant leur exploitation sont aujourd'hui concentrées entre les mains d'entreprises sur lesquelles s'exercent des pressions étatiques.
Cette concentration permet à des gouvernements de transformer progressivement une réussite technique d'entreprises privées en instrument de puissance étatique: de grandes puissances cherchant à en faire un levier de compétitivité certes, mais aussi de souveraineté, et d'influence politique sur la scène internationale.
L'intelligence artificielle actuelle repose sur des contributions artistiques, littéraires et scientifiques venues du monde entier. Les mathématiques, l'informatique théorique, les télécommunications, les systèmes experts et de nombreuses innovations décisives sont le produit d'efforts dans différents pays.
Le problème apparaît lorsqu'une technologie présentée comme universelle finit par intégrer prioritairement les intérêts, les valeurs et les objectifs stratégiques de la puissance qui la contrôle pour en faire une technologie soit américaine, soit chinoise.
À mesure que plusieurs IA spécialisées apprennent à collaborer entre elles, elles deviennent capables de constituer des ensembles cohérents qui orientent l'information, les recommandations, les analyses et parfois les décisions. Parfois toutes ensembles, elles ne sont pas neutres. Elles reflètent les priorités et les barrières que posent de ceux qui les entraînent.
C'est pourquoi la véritable confrontation à venir n'opposera pas les humains aux machines.
Elle opposera différents modèles d'intelligence artificielle qui traduisent
des priorités différentes,
des valeurs contradictoires,
des moyens mis en jeu de façon autonome
pour des finalités très différentes.
Certaines seront conçues pour favoriser la transparence, la créativité, le pluralisme, l'amélioration des conditions de vie et le respect des libertés fondamentales et des droits humains.
D'autres risquent bien d' être utilisées pour concentrer le pouvoir, contrôler l'information, orienter les comportements ou renforcer des systèmes de domination déjà existants.
Autrement dit, la véritable guerre des IA n'est pas une guerre entre machines conscientes. C'est un conflit entre différentes visions du monde et différentes façons de gouverner.
C'est également pour cette raison que l'idée d'une AGI universelle me laisse sceptique. Plus un système centralise de fonctions, plus il devient difficile d'en contrôler les biais, les droits, les objectifs et les effets. Des systèmes qui restent spécialisés, dotés de pouvoirs clairement identifiés et soumis à une surveillance fine de professionnels du métier et non de fonctionnaires au service de leur Etat me semblent moins risqués qu'une entité supposée omnisciente concentrant des pouvoirs considérables sous contrôle étatique.
Ce qui m'inquiète finalement n'est pas l'intelligence artificielle elle-même: c'est la facilité avec laquelle les responsables politiques peuvent s'abriter derrière la complexité technique.
Je crains que certains discours alarmistes ne servent en fait à préparer l'opinion à accepter des décisions déjà envisagées: légitimer une hypothétique perte de contrôle sur des technologies qui pourraient impacter gravement les populations ou l'économie de pays entiers.Pourtant, nous interagissons déjà chaque jour avec des systèmes qui filtrent l'information, hiérarchisent les contenus, recommandent certains choix plutôt que d'autres et orientent une partie de notre activité numérique.
L'inertie politique, mais aussi certains agendas politiques, trouvent alors un allié précieux dans l'opacité technologique. Une décision n'est plus attribuée à un décideur identifiable. Elle devient le produit d'un modèle, d'un calcul, d'un paramétrage ou d'une recommandation algorithmique.
La question essentielle n'est donc pas de savoir si les machines pensent mieux que les humains.
La question est de savoir qui pense à travers elles.
Qui définit leurs objectifs et leurs limites?
Qui décide de ce qu'elles considèrent comme vrai, faux, acceptable ou inacceptable?
Et surtout : comment les citoyens pourront-ils encore contester les choix de systèmes devenus suffisamment puissants pour structurer leurs accès à l'information, au travail, aux services et parfois même à la vie démocratique elle-même?
C'est là, selon moi, que se situe le véritable débat sur l'intelligence artificielle.
L'IA n'est pas seulement une révolution technologique. Elle est devenue un champ de bataille politique et économique: c'est à ce niveau que se jouent déjà les rapports de force du monde à venir.
Et en tant qu'Européenne,
en tant que Française,
en tant que technophile j'espère que nous saurons de ce coté-ci de l'Atlantique et du continent
trouver la voie pour faire valoir mieux que le supémacisme, la dictature, le collectivisme, mieux que la vindicte populaire ou le nihilisme,
et faire valoir nos droits, parfois acquis à grands frais, de façon à ce que ces droits et notre contribution au développement de plusieurs IA (retenues ailleurs telles des prises de guerre technologique) nous préservent en Europe de la férule technologique d'une puissance dominante.
Et de plus que ces droits qui doivent être reconnus nous rapportent, ici en Europe, en retour sur investissements !
Laurence DE POUQUEVILLE