Innovation Pédagogique et transition
Institut Mines-Telecom

Une initiative de l'Institut Mines-Télécom avec un réseau de partenaires

Culture et société : Quelle éthique pour les agents conversationnels ?

5 novembre 2023 par binaire IA, Chat GPT et formation 235 visites 0 commentaire

Un article repris de https://www.lemonde.fr/blog/binaire...

ChatGPTappartient à la famille des agents conversationnels. Ces IA sont des IA conversationnelles qui génèrent du texte pour répondre aux requêtes des internautes. Bien qu’elles soient attrayante, plusieurs questions se posent sur leur apprentissage, leur impact social et leur fonctionnement ! En binôme avec interstices.info, Karën Fort, spécialiste en traitement automatique des langues (TAL), est Maîtresse de conférences en informatique au sein de l’unité de recherche STIH de Sorbonne Université, membre de l’équipe Sémagramme au LORIA (laboratoire lorrain de recherche en informatique) , ET Joanna Jongwane, rédactrice en chef d’Interstices, Direction de la communication d’Inria, ont abordé ce sujet au travers d’un podcast. Thierry vieville et Ikram Chraibi Kaadoud

Un article repris du blog binaire, une publication sous licence CC by

Les IA conversationnelle qui génèrent du texte pour répondre aux requêtes des internautes sont à la fois sources d’inquiétudes et impressionnants par leurs « capacités ». Le plus populaire, ChatGPT, a fait beaucoup parler de lui ces derniers mois. Or il en existe de nombreux autres.

La communauté TAL s’est penché depuis longtemps sur les questions éthique liés au langage et notamment l’impact sociétal de tels outils
Une IA conversationnelle ayant appris des textes en anglais, reflétant le mode de pensé occidentale, saurait-elle saisir les subtilités d’un mode de pensé d’une autre partie du monde ?

Qui contrôle vérifie et corrige l’apprentissage d’une IA utilisé à travers le monde ? et surtout, comment peut-on s’assurer que son comportement n’est pas incohérent ? comme nous l’avons montré au travers d’experiences avec ChatGPT dans un précédent article ?

Karen Fort, interviewé par Joanna Jongwane, nous partage son epxertise sur ce sujet, brillamment et en 16 min !

 Écoutez l’interview de Karën Fort sur Interstices

Un article repris du site d ’[Intesices→https://www.imt.fr], revue de culture scientifique en ligne, créée par des scientifiques pour vous inviter à explorer les sciences du numérique et publiée par l’INRIA, une publication sous licenc e CC by nc nd

Le numérique a envahi notre quotidien, que ce soit dans la sphère professionnelle ou privée. De nouvelles applications voient sans cesse le jour et s’immiscent encore et toujours dans nos vies déjà ultra connectées. Pour faire face aux risques de dérives de certains outils numériques, se pose de plus en plus la question de l’encadrement et de la législation. Quid d’un numérique éthique et responsable ?

Les spécialistes du domaine du traitement automatique des langues (TAL) se sont penchés assez tôt sur ces questions éthiques. Co-présidente du comité d’éthique d’ACL, Karën Fort sensibilise d’ailleurs ses collègues du domaine à la réflexion sur les utilisations possibles de leurs travaux de recherche. C’est aussi une façon de leur rappeler qu’ils ou elles sont des scientifiques mais aussi des citoyens et citoyennes !

Entre crainte et fascination, les controverses autour des systèmes d’intelligence artificielle comme ChatGPT, ont pris de l’ampleur ces derniers mois. Pourtant, comme le souligne Karën Fort dans cet épisode du podcast audio, les enjeux sociétaux autour de ces agents conversationnels sont importants et ils peuvent avoir un impact positif à bien des égards. Pour elle, il est essentiel de bien comprendre ce qu’est ChatGPT et ce qu’il n’est pas ! Par exemple, ce n’est pas un moteur de recherche comme certains ont tendance à le croire mais un générateur automatique de textes qui a bel et bien des limites. À nous de fixer un cadre et des règles…

Licence : CC by-nc-nd

Répondre à cet article

Qui êtes-vous ?
[Se connecter]
Ajoutez votre commentaire ici

Ce champ accepte les raccourcis SPIP {{gras}} {italique} -*liste [texte->url] <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.

Suivre les commentaires : RSS 2.0 | Atom