Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage
Frédéric Alexandre, Inria
On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement.
Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois (…)
Innovation Pédagogique et transition
Une initiative de l'Institut Mines-Télécom avec un réseau de partenaires
binaire
Articles de cet auteur (93)
-
Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage
-
Gilles Dowek, grand scientifique, passeur de science et penseur engagé
Gilles Dowek n’est plus parmi nous depuis le 21 juillet 2025. Il était informaticien, logicien, philosophe aussi. Il est né le 20 décembre 1966 et après des études à Polytechnique et une thèse d’informatique sous la direction de Gérard Huet, en 1991, il est devenu chercheur à l’Inria. C’est Serge Abiteboul et Claude Kirchner qui nous parlent de lui ici. Benjamin Ninassi, Pierre Paradinas, Thierry Viéville.
Sa passion pour la programmation débute tôt : à quinze ans, il conçoit un jeu de Mastermind qui lui vaut, en 1982, le Prix scientifique Philips pour les jeunes. C’est la première de nombreuses distinctions. En 2007, il obtient le (…) -
La passion du pair-à-pair
Un nouvelentretien autour de l’informatique repris du blog binaire.
Anne-Marie Kermarrec est une informaticienne française, professeure à l’École polytechnique fédérale de Lausanne. Elle est internationalement reconnue pour ses recherches sur les systèmes distribués, les systèmes « pair à pair », les algorithmes épidémiques et les systèmes collaboratifs d’apprentissage automatique. Elle fait partie du Conseil présidentiel de la science français et est nouvellement élue à l’Académie des Sciences. Elle contribue régulièrement à binaire, et a publié en 2021 « Numérique, compter avec les femmes », chez Odile Jacob.
Binaire : Tout d’abord, (…) -
L’IA contre l’inaction climatique et pour activer la transition énergétique
Grâce à l’explosion des données sur le climat, l’IA offre des possibilités de visualisation de scénarios nous permettant de prendre conscience de notre inaction climatique. Elle déploie également l’étude des changements climatiques et facilite une transition efficace vers des énergies propres.
Un article repris du blog binaire, une publication sous licence CC by
Patricia Gautrin, doctorante en éthique de l’IA et chercheure à l’Algora Lab, un laboratoire interdisciplinaire de l’Université de Montréal et du MILA, nous présente et discute ici le rôle potentiel de l’IA pour l’inaction climatique et comment cet outil peut aider à (…) -
Biais selon la langue dans Wikipédia, Google, ChatGPT et YouTube
Via Binaire : Cet article est paru le 8 octobre 2024 sur le site ami de Laurent Bloch sous licence Creative Commons. Laurent y commente l’article « A Perspective Mirror of the Elephant » de Communications of the Association for Computing Machinary, la principale revue mensuelle de la première des associations internationales dédiées à l’informatique. Serge Abiteboul.
Une révolution cognitive, des divergences culturelles
Nul doute que les chercheurs qui étudieront l’histoire de la pensée au tournant du XXIe siècle accorderont un chapitre substantiel à l’apparition des moteurs de recherche et des encyclopédies en ligne, qui apportent (…) -
Comment mettre en avant les communs au travail ?
Odile Chagny nous éclaire sur la manière dont les communs transforment le travail. Elle est économiste à l’Institut de Recherches Économiques et Sociales (IRES) et co-fondatrice du réseau Sharers et Workers. Cet article a été publié le 25 janvier 2023 sur le site de cnnumerique.fr et est remis en partage ici, les en remerciant.
Qu’est-ce que Sharers & Workers ?
Sharers & Workers est un réseau d’animation de l’écosystème autour des transformations du travail en lien avec la transformation numérique. Initialement centrés sur l’économie des plateformes, les travaux du réseau se sont recentrés sur les problématiques de l’IA et (…) -
Les géocommuns au service de la société
Dans le cadre de la rubrique autour des “communs du numérique”, un entretien avec Sébastien Soriano, directeur général de l’Institut national de l’information géographique et forestière (IGN) depuis janvier 2021. Les cartes géographiques sont un élément essentiel des communs. C’est aussi l’occasion pour Sébastien Soriano de revenir sur certains thèmes de son livre récent [1], « Un avenir pour le service public »
Binaire : peux-tu raconter aux lecteurs de binaire ton parcours ?
Sébastien Soriano : Je suis ingénieur des télécoms. J’ai travaillé dans des cabinets ministériels notamment sur la mise en place de la French Tech et du plan (…) -
Une vie numérique sans GAFAM est-elle possible ?
Corinne Vercher-Chaptal a mené une étude approfondie sur sept plateformes considérées comme alternatives aux plateformes dominantes. Entre transition écologique et renouveau démocratique, elle nous décrit les promesses de ces plateformes innovantes. Cet article a été publié le 21 octobre 2022 sur le site de cnnumerique.fr et est remis en partage ici, les en remerciant. Serge Abiteboul et Thierry Viéville.
Vous avez piloté une équipe de recherche qui a étudié 7 plateformes dites alternatives : en quoi ces plateformes se différencient des GAFAM ?
Ces modèles étaient alternatifs, non pas parce qu’ils proposaient de faire différemment ce (…) -
Vision croisée de l’IA Explicable entre philosophie et informatique
Pourquoi ne pas proposer au grand public une vision croisée de l’IA explicable entre philosophie et sciences informatiques des enjeux, des pistes de recherche et des conditions auxquelles les outils d’explications pourront être déterminants pour la confiance des utilisateurs et des autorités de régulation (s’il y en a un jour) de ces outils. Autrement dit, un fil de philosophie de l’Intelligence Artificielle (IA) sur l’opacité des systèmes computationnels complexes d’un point de vue de la philosophie des sciences. Cédric Brun, chercheur en philosophie des sciences en Neuroscience, Humanities & Society (NeHuS) et Ikram Chraibi (…)
-
Culture et société : Quelle éthique pour les agents conversationnels ?
ChatGPTappartient à la famille des agents conversationnels. Ces IA sont des IA conversationnelles qui génèrent du texte pour répondre aux requêtes des internautes. Bien qu’elles soient attrayante, plusieurs questions se posent sur leur apprentissage, leur impact social et leur fonctionnement ! En binôme avec interstices.info, Karën Fort, spécialiste en traitement automatique des langues (TAL), est Maîtresse de conférences en informatique au sein de l’unité de recherche STIH de Sorbonne Université, membre de l’équipe Sémagramme au LORIA (laboratoire lorrain de recherche en informatique) , ET Joanna Jongwane, rédactrice en chef (…)
