Innovation Pédagogique et transition
Institut Mines-Telecom

Une initiative de l'Institut Mines-Télécom avec un réseau de partenaires

Un peu de recul #2 : plagiat par des IA, quitter X, éduquer au numérique

3 février 2024 par Louis Derrac Blog de Louis Derrac 373 visites 0 commentaire

Un article repris de https://louisderrac.com/2024/02/un-...

Un article repris du blog de Louis Derrac, Comprendre le numérique pour pouvoir le critiquer et le transformer ; une publication sous licence CC by sa

Voici ma nouvelle série, un peu de recul. Pour partager, sans pression et sans objectifs, des lectures, des écoutes, des visionnages ou toutes autres interactions qui m’ont marqué, touché ou fait réfléchir. Ou simplement des pensées. J’espère que ça vous intéressera.

Les IA génératives sont (déjà) hors de contrôle

Deepfakes pornographiques, plagiats de sites et d’articles de presse entiers, désinformations politiques, flooding massif du web. C’était annoncé, et ça se concrétiste : les IA génératives sont (déjà) hors de contrôle. Lisez plutôt

In December, we noticed that articles we spent significant amounts of time on—reporting that involved weeks or months of research, talking to and protecting sources, filing public records requests, paying for and parsing those records, hours or days of writing, editing, and packaging—were being scraped by bots, run through an AI article “spinner” or paraphraser, and republished on random websites.1

A company called Byword gleefully advertises the “SEO heist” that “stole 3.6M total traffic from a competitor” with this One Weird Trick (exporting the competitor’s sitemap and creating AI generated versions of 1,800 of their articles).2

404 Media : We Need Your Email Address

À la lumière de toutes ces alertes, je me retrouve dans un état de froide sidération. Sidération de constater à quel point nous (nous étant comme toujours les gens lambdas et particulièrement les plus discriminés, les plus précaires) « subissons » déjà les effets du déploiement à grande échelle, et je le rappelle, sans aucun contrôle à priori, des IA génératives. C’est d’autant plus sidérant qu’à peu près tous ces effets négatifs (deepfakes, plagiats, fausses informations) étaient annoncés par de nombreux chercheuses et chercheurs. C’est un aveu de faiblesse du politique vis-à-vis des mondes scientifiques et économiques. C’est même un aveu de faiblesse démocratique, que nous ne soyons pas capable d’appliquer le moindre moratoire, la moindre régulation a priori, le moindre principe de précaution. C’est ahurissant de devoir à ce point subir des technologies dans un impensé ultra-déterministe, laissant sous-entendre collectivement que « c’est comme ça ». Que c’est la marche du progrès technique (en l’occurrence, les IA génératives), et que cette marche ne se discute pas, ne se choisit pas, ne se pense même pas. Bien sûr, que ce progrès technique finira forcément par se transformer en progrès humain. Bref, tous les poncifs contre lesquels les historiens, sociologues et philosophiques des sciences et des techniques nous ont abondamment alertés. Si le sujet vous intéresse, écoutez ou lisez François Jarrige, notamment On arrête parfois le progrès, et prolongez avec le kit de lecture technocritique proposé par Irénée dans Mais Où Va Le Web. Enfin, parce que dans cette cascade d’informations sur les IA génératives, tantôt dithyrambiques, tantôt apocalyptiques, tantôt exagérées voire fausses, il faut sortir la tête de l’eau et revenir au sens de tout ça :

Ne nous laissons pas voler les mots par les fous. C’est à peu près aussi déraisonnable
que d’user du terme d’intelligence artificielle, très à la mode, pour référer à des
algorithmes qui n’ont rien d’intelligent. Indépendamment des externalités négatives
considérables du numérique. La seule question intéressante serait : tout cela nous
rend-il plus heureux et plus alertes ? Cette technologie qui permettra d’automatiser les recrutements, de marginaliser les artistes, d’uniformiser les attentes, d’atrophier les possibles, de déployer les contrôles et surveillance de masse, d’élaguer les errances, d’autonomiser la finance, et de supprimer les imprévus, est-elle un progrès ? Sans même se soucier de son coût énergétique, de ses conséquences néocoloniales délétères et de son impact sur les vivants non humains, constitue-t-elle en elle-même un dessein désirable ? Souhaite-t-on obérer le fondement de notre humanité en déléguant nos choix à des processeurs ? L’interrogation n’est pas de nature scientifique. Elle est à la marge de nature politique, mais elle est fondamentalement poétique, axiologique [en rapport aux valeurs] et ontologique [en rapport à l’être et le fait d’exister].

Extrait du discours d’Aurélien Barrau à la conférence Beyond Growth de l’UE, 2023

Quitter X ?

Ensuite quitter cette plateforme qui est effectivement, sur certains thèmes ou sujets, saturée de discours de désinformation ou d’appels à la haine, c’est accepter aussi de n’offrir plus aucun contrepoint à ces discours, en tout cas plus le contrepoint que pouvaient proposer les universités. Et c’est, en bout de chaîne, contribuer un peu aussi à l’isolement des membres de la communauté universitaire (enseignants-chercheurs notamment) qui continuent d’y être et de s’y exprimer. Vous me direz : “Bah ils et elles n’ont qu’à quitter X aussi“. Oui mais c’est un peu plus compliqué que cela.

Affordance : Et si les universités restaient sur X plutôt que d’en partir ?

Pour le coup, je ne partage pas cette analyse de Olivier Ertzscheid, avec qui j’ai rarement des désaccords. En voici donc un, enfin, après tout ce temps ! Car de mon côté, j’écrivais en décembre 2022 la chose suivante :

Une chose me semble certaine cependant, c’est qu’une action politique et militante sereine et utile n’est plus possible sur Twitter. D’abord, pour les raisons morales que j’évoquais plus haut. Ensuite, parce que concrètement, Twitter est de moins en moins fréquentable. Et même, de moins en moins sûr. Vouloir continuer coûte que coûte à « occuper le terrain », ce serait un peu comme vouloir aller convaincre dans un bar d’extrême droite.

Twitter est (déjà) devenu le nouveau Truth Social

Olivier poursuit quant à lui :

Il existe en vérité deux postures : soit l’on considère que l’écosystème discursif de X est à ce point toxique qu’il est totalement impossible d’y faire vivre quelque forme que ce soit de rationalité ou d’argumentation scientifique et alors en effet on s’en va. Soit l’on considère que c’est précisément parce que c’est devenu presqu’impossible qu’il faut s’y maintenir pour garder ouvert ce possible, si restreint soit-il. […]

Mais j’ai aussi la conviction que dans un univers de discours de plus en plus délétère qui s’étend de la télévision aux médias sociaux, de CNews à X, de Bolloré à Musk, il nous faut aussi tenir ces places et continuer d’y faire exister une parole, une posture et une sociologie scientifique et universitaire.

Sur le principe, oui. Sauf quand les règles du jeu sont à ce point pipées. Vouloir faire exister une parole sur un réseau comme TwitterX, c’est du même ordre que Hugo Clément qui va discuter avec Jordan Barnella à une soirée organisée par Valeur Actuelle. Comme le rappelait Paloma Moritz pendant la polémique (attention, lien Youtube, protégez-vous), « il y a une différence fondamentale entre le fait de débattre avec l’extrême droite et le fait de débattre chez l’extrême droite ». À mon sens, cela s’applique aujourd’hui à TwitterX. Notre seule stratégie possible, je crois, c’est d’assécher ce réseau en le désertant, et d’en peupler d’autres pour leur permettre de se développer.

Besoin urgent d’éducation populaire au numérique

Un message dans mon fil d’actualité Mastodon, comme il en passe de nombreux par jour. « Goodbye, Chrome : Google’s Web browser has become spy software ». C’est le titre d’un article, écrit par un journaliste du Washington Post. Voilà qui est puissant quand même, me dis-je naïvement… avant de réaliser que l’article date de… 2019.

Voici la courte analyse que je tire de cette interaction. Les constats de l’hégémonie des géants du numérique, de leur toxicité, nous les partageons depuis de très nombreuses années… entre experts ou acteurs et actrices d’un très petit milieu. Pour élargir ce tout petit cercle, il nous faut drastiquement multiplier les actions d’éducation populaire au numérique. Nous avons beaucoup plus besoin de citoyen⋅ne⋅s capables de questionner et critiquer le statu quo numérique que de travailleur⋅se⋅s du code. Or on ne forme pas de la même façon un⋅ citoyen⋅ne et un travailleur⋅se⋅s, c’est l’objet de mon dossier Éduquer au numérique d’accord. Mais pas n’importe lequel et pas n’importe comment. C’est également le cœur de mon action, et si vous voulez œuvrer dans cette voie, n’hésitez pas à me contacter.

Photo de Rohit Tandon sur Unsplash

Cet article Un peu de recul #2 : plagiat par des IA, quitter X, éduquer au numérique est apparu en premier sur Louis Derrac.

Licence : CC by-sa

Répondre à cet article

Qui êtes-vous ?
[Se connecter]
Ajoutez votre commentaire ici

Ce champ accepte les raccourcis SPIP {{gras}} {italique} -*liste [texte->url] <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.

Suivre les commentaires : RSS 2.0 | Atom