Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage
Frédéric Alexandre, Inria
On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement.
Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois (…)
Innovation Pédagogique et transition
Une initiative de l'Institut Mines-Télécom avec un réseau de partenaires
binaire
Articles de cet auteur (93)
-
Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage
-
Ouvrez, ouvrez les revues scientifiques
Le site web d’Opscidia explique que la société « s’appuie sur la littérature scientifique en accès ouvert ainsi que sur les dernières avancées du traitement automatique du langage naturel dans le but de vous apporter le meilleur de l’information technologique ». Pour comprendre ce que ça voulait dire, nous avons rencontré ses dirigeants-fondateurs, Sylvain Massip et Charles Letaillieur. Le CEO Sylvain a une thèse en physique de l’université de Cambridge et a été chercheur et directeur de l’innovation dans une start-up, Natural Grass. Le CTO Charles est ingénieur Télécom Paris et a eu de nombreuses expériences dans le numérique, Cap (…)
-
De l’impact de l’IA sur les industries culturelles et créatives.
La Société Informatique de France (SIF) partage sur binaire un cycle d’interviews sur l’impact de l’Intelligence Artificielle (IA) sur les métiers, en commençant ici par l’impact de l’IA sur les industries culturelles et créatives, grâce à une interview de Quentin Auger, Directeur de l’Innovation chez Dada ! Animation, Erwan Le Merrer, Président du Conseil Scientifique de la SIF, Marie-Paule Cani, Serge Abiteboul et Thierry Viéville.
Bonjour Quentin, pouvez-vous nous dire rapidement qui vous êtes, et quel est votre métier ?
Je suis co-fondateur et directeur de l’innovation de Dada ! Animation, un studio d’animation 2D et 3D orienté (…) -
Quel(s) numérique(s) pour demain dans un monde contraint en matière et en énergie ?
Alors que le numérique s’impose dans tous les aspects de notre quotidien, ses impacts environnementaux interrogent. Martin Deron, responsable du Défi numérique de Chemins de transition (Université de Montréal) et doctorant à l’université Concordia, et Benjamin Ninassi, adjoint au responsable du programme Numérique et Environnement d’Inria, nous partagent ici des réflexions émergentes sur comment repenser le numérique pour le rendre compatible avec les contraintes environnementales et énergétiques, tout en lui permettant de contribuer à la construction de sociétés plus résilientes et soutenables ? Antoine Rousseau et Thierry Viéville . (…)
-
Des logiciels pour gérer le cyberharcèlement
Les outils numériques permettent la diffusion des connaissances et des contacts riches entre les internautes. Ils ont aussi permis le développement de comportements toxiques comme les fakenews ou les messages de haine sur les réseaux sociaux. Des chercheurs spécialisés en traitement automatique du langage naturel de l’Université Côte d’Azur nous parlent ici de nouvelles technologies qu’ils développent pour lutter contre un autre mal des réseaux sociaux, le cyberharcèlement.
-
Apprendre sans le savoir ?
Les algorithmes d’intelligence artificielle dont nous entendons si souvent parler sont basés sur des apprentissages et des connaissances. Ces notions sont à l’intersection de plusieurs domaines : sciences cognitives, sciences de l’éducation et désormais sciences du numérique. A partir d’articles qu’Ikram Chraibi Kaadoud a publié sur son blog Intelligence mécanique, nous vous proposons deux textes pour y voir plus clair ; voilà le premier. Pascal Guitton
-
Le CNNum et le blog Binaire explorent ensemble les communs numériques
Partageant l’ambition de questionner et d’éclairer la réflexion autour des enjeux du numérique, le Conseil national du numérique et le blog Binaire du Monde s’associent pour construire une collection d’entretiens sur les communs numériques.
Le Conseil national du numérique étudie depuis plusieurs mois les enjeux liés aux communs numériques, de la philosophie aux modèles économiques, en passant par l’engagement des acteurs et les relais du secteur public. Fidèle à sa méthode ouverte et collective, il réalise dans ce cadre des entretiens avec des experts, disponibles sur ce lien.
Depuis janvier 2021, le blog de vulgarisation sur (…) -
Urgence d’Agir : le sommet de la finance durable et accélération des objectifs par l’IA
Patricia Gautrin, doctorante en éthique de l’IA et chercheure à l’Algora Lab, un laboratoire interdisciplinaire de l’Université de Montréal et du MILA, aborde ici, d’un point de vue québecois, le concept de finance durable, et comment l’IA peut aider à cela. Merci à elle et CScience IA pour l’autorisation du partage de cet article, disponible aussi chez nos confrères au lien suivant. Ikram Chraibi Kaadoud et Thierry Viéville.
Un article repris du blog binaire, une publication sous licence CC by
Au-delà du Net zéro : la finance sera-t-elle le catalyseur du changement ? C’est la grande question posée au Sommet de la finance durable (…) -
Qui a voulu effacer Alice Recoque ? Sur les traces d’une pionnière oubliée de l’IA
Un billet à propos d’un livre. Nous avons demandé à Isabelle Astic, Responsable des collections Informatique au Musée des arts et métiers, de nous faire partager son avis du livre de Marion Carré à propos de Alice Recoque. Pierre Paradinas
Le titre de l’ouvrage de Marion Carré, un brin provocateur : « Qui a voulu effacer Alice Recoque ? », pourrait laisser penser qu’Alice Recoque est un de ces avatars informatiques issu des jeux vidéo. Mais c’est bien une femme en chair et en os qu’elle nous présente.
Ce titre est celui du premier chapitre, introductif, durant lequel l’autrice nous décrit les complications rencontrées pour que Alice (…) -
L’apprentissage à distance : une adaptation continue
Nombre d’entre nous ont dû avec les contraintes du confinement avoir recours pour la première fois de leur vie massivement au télétravail. Certains ont été émerveillés par un apport du numérique qu’ils n’attendaient pas. D’autres ont souligné des problèmes majeurs soulevés par le distanciel. Claude Terosier de Magic Maker propose son point de vue. Dans un cadre particulièrement exigeant, les ateliers avec des enfants dans le cadre d’une structure très distribuée, elle montre comment ils ont fait face et tiré le meilleur de la situation. Bon, les formateurs du numériques étaient mieux que d’autres préparés. Une morale peut-être : il est urgent de nous former tous et toutes au numérique. Serge Abiteboul et Pauline Bolignano.
