Innovation Pédagogique et transition

« L'envers des mots » : Prompt

2024-04-22T08:05:16Z

Comment dialoguer avec l'intelligence artificielle ? Depuis la sortie de ChatGPT, qui aurait conquis plus de 100 millions d'utilisatrices et utilisateurs en quelques mois seulement), cette question taraude nombre d'experts et d'amateurs, tous désireux de tirer le meilleur des capacités promises par la machine.

Un terme apparaît alors pour désigner la requête adressée à une IA générative : le « prompt ». De l'anglais, « prompt », inciter, entraîner, inciter à dire quelque chose, un prompt est un début de texte, une question, une situation, posés à la machine en langage naturel afin qu'elle génère une réponse. Un bon prompt permettrait de faire produire à la machine n'importe quel contenu textuel, pictural, audio… Cette vision est à l'origine de nombreuses peurs, en partie légitimes, de la part du monde de la culture ou des médias par exemple.

Un prompt peut être une demande simple (une question ou une phrase, comme « Explique l'élection présidentielle »), ou une mise en situation plus complexe (par exemple « Imagine que tu es un membre du Conseil constitutionnel en France cherchant à expliquer, lors d'une conférence face à des étudiants de master en droit, ce qu'est l'élection présidentielle. Tu cherches à en expliquer l'origine, le rôle, l'importance et les menaces actuelles »). Un prompt peut également être compris comme une discussion complète censée guider le modèle.

Derrière cette apparente discussion, la réponse à un prompt est statistique : le modèle d'IA générative prédit ce que pourrait être la réponse la plus plausible au regard de sa base d'entraînement et la génère. Cette caractéristique a inspiré la critique adressée notamment par la chercheuse Emily Bender aux ancêtres de ChatGPT qui ne seraient dès lors que des « perroquets stochastiques ». Même si, en réalité, ces systèmes ne reproduisent pas des phrases entières mais paraphrasent, concatènent, reformulent, afin de produire un texte original.

Cette approche statistique provoque alors une standardisation du contenu produit par la machine et donc, par extension, par l'humain collaborant avec la machine pour produire un livre, une image ou un film. Daniel Andler reprend, lui, la figure du courtisan cherchant à plaire à son maître pour qualifier de tels systèmes.

Savoir prompter nous assure-t-il une réponse digne de confiance ? En réalité, ne sachant pas réellement de quoi ils parlent, les modèles sont capables de produire des résultats aberrants. N'ayant pas de conscience, de compréhension ni d'autres limites que celles induites par les données du dataset ou celles fixées « à la main », ChatGPT et consorts produisent tout. Et, dès lors, posent de sérieux problèmes quant à la multiplication et la facilitation de génération de fake news, deepfakes, discours haineux… alors même que les individus accordent d'autant plus de confiance à un texte, une image ou une voix que ceux-ci paraissent « humains ».

Qu'est-ce que le « prompt art », cette révolution artistique qui utilise l'intelligence artificielle ? (France Culture, septembre 2022).

Quoiqu'il arrive, l'effervescence autour des différents services semble avoir fait du prompt une compétence à part entière. Car l'exercice peut parfois se révéler contre-productif, en passant plus de temps à retravailler le prompt qu'on n'en aurait eu besoin pour produire soi-même le même contenu. On en vient alors à parler de « prompt engineering » de la part d'autoproclamés « prompt engineers » décrits comme des « AI whisperers ». On parle aussi de « prompt design » pour désigner l'habileté (moins technique que le prompt engineering) à gérer notamment le ton, le style, les éléments de langage…

[Plus de 85 000 lecteurs font confiance aux newsletters de The Conversation pour mieux comprendre les grands enjeux du monde. Abonnez-vous aujourd'hui]

Si interroger la machine peut sembler difficile, et parfois contre-intuitif, en réalité seuls les experts de domaines spécifiques peuvent juger de la pertinence véritable de la réponse donnée à un prompt. Nous pouvons parier que la capacité de prompt sera similaire à la capacité actuelle de mener efficacement une recherche sur un moteur de recherche.

La science du « prompt » vient ainsi en partie d'une illusion, celle de pouvoir correctement contrôler un modèle à plusieurs milliers de paramètres. Or les modèles d'IA génératives fonctionnent comme des « boîtes noires » : lorsque nous entrons un prompt, nous ne pouvons pas être certains de ce que la machine va nous retourner. Cette caractéristique a alors une implication directe sur la valeur de vérité que l'on peut attribuer à la machine. Hallucinations, biais dans les données, désinformation, dérive conceptuelle… si les modèles d'IA générative peuvent apporter une aide intéressante dans le cadre d'un travail créatif, ils ne peuvent en aucun cas servir de caution de vérité.

De « validisme » à « silencier », de « bifurquer » à « dégenrer », nos chercheurs s'arrêtent sur ces néologismes pour nous aider à mieux les comprendre, et donc mieux participer au débat public. À découvrir aussi dans cette série :

Adrien Tallent a reçu des financements de SNCF Réseau dans le cadre d'un contrat CIFRE.

« L'envers des mots » : Algocratie

2023-05-15T20:11:18Z

Un article repris du magazine The Conversation, une publication sous licence CC by nd

Formé de algo, apocope d'algorithme, et du suffixe -cratie (qui vient du grec kratos, le pouvoir), algocratie est un terme qui émerge depuis quelques années pour désigner le nouveau système politique dans lequel nous serions entrés.

Un système dans lequel les algorithmes – les étapes élémentaires des calculs utilisés pour résoudre un problème, comme répondre à une requête sur un moteur de recherche – influencent et font partie du processus de prise de décision dans divers secteurs. Dans la vie politique, économique et sociale de la société, elles pourraient même préempter de manière automatique un pouvoir jadis propriété du peuple en démocratie.

Ce terme est ainsi le titre de trois ouvrages publiés entre 2020 et 2023 : Résister à l'algocratie. Rester humain dans nos métiers et dans nos vies de Vincent Magos ; Algocratie. Vivre libre à l'heure des algorithmes de Arthur Grimonpont ; Algocratie. Allons-nous donner le pouvoir aux algorithmes ? de Hugues Bersini.

Algocratie et démocratie

L'algocratie est-elle en passe de remplacer la démocratie ? De plus en plus de domaines régaliens, démocratiques sont pénétrés par les algorithmes : filtrage et tri sur les réseaux sociaux, aide à la décision (justice, santé…), sélection à l'université, analyse prédictive (police, assurance…). Dès lors, nombreux sont ceux qui estiment qu'il existe un danger de dépossession du pouvoir du peuple, le « demos » de la démocratie, au profit de ces algorithmes.

L'économie mondiale fonctionne par exemple largement sur des algorithmes financiers. À titre d'exemple, le premier gestionnaire d'actifs mondial, le fond américain BlackRock, utilise notamment l'intelligence artificielle Aladdin, outil d'investissement capable d'évaluer les risques financiers et qui a contrôlé jusqu'à 20 000 milliards de dollars d'actifs financiers.

Aujourd'hui, plus de la moitié de la population mondiale utilise quotidiennement les réseaux sociaux sur lesquels des algorithmes de recommandation ajustent le contenu proposé aux préférences des utilisateurs et façonnent ainsi leurs représentations du monde. Il arrive qu'ils échappent aux volontés de leurs créateurs. De par leur fonctionnement qui valorise les réactions générées et sans être la volonté explicite de leurs créateurs, ceux-ci privilégient par exemple la diffusion des fake news.

Un nouveau monde institutionnel

L'algocratie serait ainsi un monde institutionnel où ces grandes entreprises transnationales participant à cette forme de régulation algorithmique prennent de plus en plus d'importance.

Néanmoins, employer le terme d'algocratie nous éloigne de la responsabilité. En réalité, dans une algocratie, si le pouvoir change, ce n'est pas pour aller du peuple vers les algorithmes. Les algorithmes matérialisent des relations de pouvoir et servent des volontés – politiques, économiques, idéologiques – bien humaines.

À lire aussi :
Qu'est-ce qu'un algorithme ?

Loin d'être une fatalité ou une évidence, le développement de ce qui pourrait s'apparenter à une « algocratie » répond donc à des choix politiques et à la mise en avant de ce que la chercheuse en philosophie du droit Antoinette Rouvroy appelle une « rationalité algorithmique ».

Ce sont des choix politiques et techniques d'un mode poussé de gouvernement par les nombres, faisant craindre qu'une algocratie soit en réalité un nouveau genre de « société de contrôle ».

Mythe et philosophie

L'algocratie s'inscrit dans une histoire philosophique et scientifique héritée de la philosophie des Lumières et de la révolution scientifique du XVIII^e siècle qui ont érigé la rationalité en culte.

De ce point de vue, l'aboutissement d'une certaine idée de la rationalité s'incarne dans cette « gouvernementalité algorithmique » synonyme d'algocratie. D'autant que, comme le dit l'universitaire et juriste Alain Supiot, nous pensons que gouverner et exercer le pouvoir sont une seule et même chose, que le pouvoir devrait être fondé sur une connaissance scientifique de l'individu et donc « impersonnel ». Cela expliquerait la diffusion d'une « gouvernance par les nombres » où tout, y compris la loi, devient l'objet d'un calcul.

L'idée d'une algocratie vient ainsi d'un mythe, celui du caractère infaillible de la technique face à la faillibilité de l'individu. L'algocratie ne considère plus une société comme étant un ensemble mais comme n'était plus que des groupes d'individus, des atomes.

Cet article s'intègre dans la série « L'envers des mots », consacrée à la façon dont notre vocabulaire s'étoffe, s'adapte à mesure que des questions de société émergent et que de nouveaux défis s'imposent aux sciences et technologies. Des termes qu'on croyait déjà bien connaître s'enrichissent de significations inédites, des mots récemment créés entrent dans le dictionnaire. D'où viennent-ils ? En quoi nous permettent-ils de bien saisir les nuances d'un monde qui se transforme ?

À découvrir aussi dans cette série :

Adrien Tallent a reçu des financements de SNCF Réseau dans le cadre d'un contrat doctoral CIFRE.