F : Intelligence du numérique et fractures artificielles

Intelligence du numérique et fractures artificielles. Fracture numérique ou fracture calculatoire ?

Depuis plus de trente ans, les références à la « fracture numérique » sont innombrables. Cette fracture séparait initialement les personnes disposant d’un accès à Internet ou à un ordinateur de celles qui n’en disposaient pas. Puis elle s’est déportée sur la maîtrise, ou non, de l’usage, sans différencier, par exemple, l’usage compulsif des réseaux sociaux de l’usage professionnel d’un tableur. Avec l’intelligence artificielle, elle dérive vers la capacité, ou non, à formuler les questions aux applications correspondantes et à en exploiter les réponses.

La fracture numérique évolue donc avec la sophistication des dispositifs et applications numériques qui irriguent la société. Or, avec l’explosion du volume de données disponibles sur Internet et, surtout, l’avènement de l’IA, une autre fracture numérique surgit. Une fracture où le mot « numérique » est à prendre au premier degré, comme désignant les nombres. Une fracture qui sépare deux catégories au sein même des personnes les plus cultivées occupant les professions les plus valorisées : celles qui savent repérer un manque de données rendant un propos vide de sens et qui maîtrisent les pourcentages, les fractions et la règle de trois, et celles qui ne les maîtrisent pas.

Ces dernières jouent un rôle important dans la société. Elles commettent des erreurs d’analyse majeures, faute d’une maîtrise élémentaire du nombre, au risque de prendre des décisions préjudiciables à l’intérêt de toute la société.

Illustrons ce propos dans le cadre de l’IA, où la capacité à évaluer les biais et la fiabilité des réponses obtenues devient cruciale pour prendre des décisions, notamment celle de poursuivre ou non le recours à l’IA.

C’est le cas dans le domaine des droits humains, au point que le Défenseur des droits s’inquiète à raison¹ du respect du droit des étrangers qui souhaitent franchir les frontières européennes, lorsque l’IA prend la forme d’un détecteur de mensonges², pour soumettre à des contrôles poussés les personnes identifiées comme susceptibles de mentir quant à leurs déclarations avant l’embarquement à bord d’un avion.

Pour asseoir numériquement son propos, il précise que « le système était crédité […] d’un taux de réussite autour de 75 %, ce qui revient à considérer un quart des personnes concernées comme soupçonnées de mentir alors que ce n’est pas le cas ». En simplifiant outrageusement, supposons que le système se trompe toujours dans un quart des situations, en détectant des mensonges à tort, ou en n’identifiant pas des menteurs³. Socialement, le risque semble être d’accuser à tort un quart des personnes de mentir. Mais l’on oublie une donnée clé : le nombre de menteurs effectifs parmi les passagers en général… De combien est-il ? Difficile à évaluer. Supposons qu’il soit de 10% : sur 1 000 passagers, en moyenne, 100 mentent et 900 disent la vérité. Le détecteur de mensonges identifie à tort 25 % des passagers qui disent la vérité comme des menteurs, soit 225 passagers. Il identifie aussi, à raison de 75 %, des menteurs parmi les menteurs, soit 75 passagers. Il identifie donc 225 + 75 = 300 passagers comme menteurs… alors qu’il n’y en a que 100 en tout, et qu’il n’en a détecté que 75 ! Il accuse donc à tort non pas « un quart des personnes concernées », mais bien trois quarts d’entre elles (225 non-menteurs / 300 accusés)⁴. Et si, à cause d’un biais de l’IA, le taux de fiabilité chute à 70 % pour certaines personnes ? Le taux d’erreur frôle alors les 80%…

Le taux d’erreur d’un test dépend non seulement de sa fiabilité mais aussi du taux de prévalence de la caractéristique recherchée dans la population concernée. Lorsque ce taux est très inférieur au taux d’erreur du test, le risque d’attribuer à tort à une personne la caractéristique recherchée est très élevé. La critique du test de détection de mensonge par le Défenseur des Droits laisserait entendre qu’avec une fiabilité plus élevée, le problème ne se poserait peut-être pas. Or pour une fiabilité de 90% et une prévalence de 10%, le taux d’identification de faux coupables est encore de 50% !

Le « taux de réussite » d’un détecteur de mensonges, donné sans la prévalence des mensonges réels, n’a donc pas de sens. Il est vain de l’utiliser pour argumenter en faveur ou défaveur dudit test. Cette omission de données constituait la base d’argumentaires fallacieux des antivax, qui soulignaient l’inefficacité du vaccin au prétexte que 80% des hospitalisés pour cause de Covid étaient vaccinés. Il manquait l’information clé : la proportion de vaccinés dans la population totale : 90 %. Le taux d’hospitalisés non vaccinés (20 %) était donc deux fois plus élevé que le taux de non vaccinés dans la population globale. Mieux : il y a 2,25 fois plus⁵ d’hospitalisés parmi les non vaccinés que parmi les vaccinés.

Le manque de données est plus frappant encore si l’on considère que 30 % des accidents de la route en France sont dus à l’alcool : cela signifierait qu’il y a 70 % d’accidents dus aux buveurs d’eau ! Le sens commun indique qu’il s’agit d’une boutade. Que manque-t-il comme donnée ? Le nombre de personnes considérées comme alcooliques : environ 8% en France en 2024. Il y a donc 4,92 fois plus⁶ d’accidents de la route parmi les alcooliques que parmi les non alcooliques… ce qui fait écrire au gouvernement que : « Ces décès pourraient être évités si tous les conducteurs respectaient strictement la limitation légale de l’alcoolémie au volant »⁷. Eh bien… pas tout à fait : il y en aurait 4,92 fois moins (la même proportion que pour les non alcooliques), soit environ 80 % de moins.

Si la fracture numérique existe, elle est calculatoire : la fracture entre les décideurs qui maîtrisent les nombres et le calcul et ceux qui ne les maîtrisent pas. Ces derniers sont majoritaires dans les ministères, y compris dans ceux de l’enseignement supérieur et de la recherche et dans celui de l’Éducation nationale. L’identification de données manquantes, les fractions, les pourcentages et la règle de trois ne sont pas acquises par la plupart des personnes qui nous gouvernent. En témoigne l’argumentaire approximatif du Défenseur des droits à propos d’un détecteur de mensonge, ou celui du gouvernement à propos des accidents de la route évitables. Il est problématique que ces approximations soient du même niveau que celles qui sous-tendent les argumentaires antivax, alors que la méfiance, sur le fond, du défenseur des droits par rapport à l’IA serait bien plus justifiée encore, avec des arguments numériquement pertinents. À l’heure où l’IA déferle sur notre société, les sphères dirigeantes, censées être bien informées, notamment parce qu’elles sont bien formées, ne peuvent pas courir le risque de développer des raisonnements dont on ne sait pas s’il faut redouter qu’ils soient des paralogismes ou des sophismes.

Il est donc urgent, voire crucial, que les citoyens en général et les élites en particulier maîtrisent les nombres et le calcul élémentaire, afin d’espérer qu’elles appréhendent avec quelque pertinence l’extraordinaire complexité du monde numérique au sens informatique du terme. Pour cela, une seule solution, structurelle dans l’enseignement secondaire de la 6^e au baccalauréat : que les mathématiques et l’informatique soient enseignées à toutes et à tous comme le français ou la géographie, en tronc commun, comme un bien culturel et scientifique commun. Faute de quoi, il est vain d’espérer que la France maîtrise industriellement le numérique en général et l’IA en particulier, et les rodomontades sur les centaines de milliers de personnes à former – lesquelles ? – et les milliards d’euros mobilisés – comment ? – n’y changeront rien.

Yves Bertrand, professeur des universités à l’université de Poitiers ; avec la complicité graphique de Frédéric Havet, directeur de recherche au CNRS.

L’article F : Intelligence du numérique et fractures artificielles est apparu en premier sur Blog binaire.