IA : expérimentations à grande échelle partout, contrôle démocratique nulle part

N’étant pas juriste, c’est avec prudence et humilité que je vous partage la réflexion suivante.

Comment est-ce possible qu’on laisse encore des entreprises privées lancer ce qu’il faut bien appeler des expérimentations à grande échelle, sans dispositif de contrôle, sur des produits aussi potentiellement dangereux que des programmes d’intelligence artificielle comme ChatGPT ? Alors que de l’aveu même de nombreux chercheurs de pointe du domaine, « on ne sait pas encore pourquoi ça marche aussi bien ».

On ne laisserait pas une entreprise agroalimentaire (dont on rappellera que le but n’est pas de nourrir les gens, mais de faire du profit en nourrissant les gens) lancer un nouveau produit révolutionnaire, à grande échelle, sans une première phase d’expérimentation avec évaluation.

De la même manière, on ne laisserait pas une entreprise pharmaceutique (dont on rappellera que le but n’est pas de soigner les gens, mais de faire du profit en soignant les gens) lancer un nouveau produit révolutionnaire, à grande échelle, sans une première phase d’expérimentation avec évaluation. Même dans l’urgence du COVID, certaines étapes ont été respectées, avec de nombreux organismes de contrôle.

Alors pourquoi laisse-t-on des entreprises numériques (dont on rappellera que le but n’est pas de rendre le monde meilleur, mais de faire du profit en rendant le monde meilleur [sic]) lancer des satellites dans l’espace ou mettre à disposition des IA génératives accessibles gratuitement au grand public ? Pourquoi ne met-on pas en place les mêmes types de contrôle, les mêmes étapes d’expérimentations progressives que dans les industries agroalimentaires et pharmaceutiques ?

Les libéraux technos-optimistes hurleront que cela tuerait « l’innovation ». À vrai dire, compte tenu de ce que l’innovation a apporté ces dernières années, peut-être qu’il ne serait pas plus mal de la faire ralentir un peu. Et profiter de ce temps pour discuter démocratiquement de ce qui est pertinent ou pas aujourd’hui, dans un monde en urgence environnementale et sociale.

Écrit en lisant et écoutant :

• Tribune. Pour Naomi Klein, les IA organisent “le plus grand pillage de l’histoire de l’humanité” [€]
• Avec philosophie, Épisode 1/3 : IA, un nouveau cap est-il franchi ?

Photo de CDC sur Unsplash

Cet article IA : expérimentations à grande échelle partout, contrôle démocratique nulle part est apparu en premier sur Louis Derrac.