Penser, calculer, délibérer

Un article repris du blog binaire, une publication sous licence CC by

La numérisation de la société, le traitement automatique de l’information et les techniques d’intelligence artificielle induisent des ruptures dans notre façon de penser, de calculer, de délibérer.

Comprendre comment fonctionnent les capacités cognitives et comment elles sont affectées par la révolution numérique est essentiel pour le devenir de nos sociétés. Un dialogue interdisciplinaires entre juristes, philosophes et spécialistes des neurosciences et de l’intelligence artificielle, permet de mieux connaître les nouveaux enjeux et de répondre aux défis technologiques du XXIe siècle.

Comme l’explique Jean-Sylvestre Bergé dans sa préface, ce livre tente une approche pluri-disciplinaire sur les triples terres de la pensée, du calcul et de la délibération, en questionnant comment la pensée humaine elle même évolue à l’heure d’une révolution numérique qui va jusqu’à bouleverser notre vision du droit comme on en parle souvent sur binaire : en insistant sur l’aspect des données avec “Numérique est mon droit” de Célia Zolynski, ou les liens entre le “Code et le Droit” avec Lêmy Godefroy, ou les “Communs numériques dans la justice” avec Benjamin Jean, …

Un point clé est d’approfondir le lien entre calcul algorithmique et responsabilité humaine. Si la complexité de ces systèmes ne permet plus de réduire la responsabilité de leur fonctionnement à une ou des responsabilité individuelles et qu’il y a besoin de reconstruire le droit autour de ces objets, cela n’a pas de sens de parler de responsabilité de la machine, la responsabilité doit demeurer humaine. Cela est vrai y compris pour des tâches qui relevaient auparavant de capacités cognitives humaines, voire des décisions sans arbitrage humain (par exemple dans des situations d’urgence où retarder la décision serait pire que la déléguer à un algorithme, malgré les risques inévitables), mais mis en place par des humains. Cette réflexion est proposée par Raja Chatila, spécialiste des systèmes cognitifs robotiques.

Dans l’ouvrage on prend aussi le temps d’expliquer ce que nous comprenons aujourd’hui de notre intelligence biologique qui pense, ce qui offrira un éclairage crucial sur ce qui se passe quand on utilise des machines qui calculent, avant de conclure en quoi cela aide à réfléchir sur comment délibérer. Car oser comprendre les aspects scientifiques et techniques de la pensée et du calcul est essentiel pour se donner les moyens de délibérer en toute conscience avec les outils intellectuels et numériques qui nous sont donnés. On discute ainsi comment délibérer avec l’intelligence artificielle pour la mettre au service de l’intelligence naturelle avec Frédéric Alexandre et ses collègues, que l’on peut lire directement ici.

Au-delà, le cheminement intellectuel proposé s’est formé pendant plus de dix ans au sein du groupe informel de recherche « Limites et frontières », animé par les professeurs Philippe Pédrot et Alain Papaux, co-éditeurs de l’ouvrage.

Frédéric Alexandre, Raja Chatila, Marie-Hélène Comte, Philippe Pédrot et Thierry Viéville.