Les réseaux de neurones sont-ils subjectifs ?
L'autre jour Nicolas avait posé la question suivante :
Réflexion minute : "L'IA", les réseaux de neurones qui participent au traitement des données massives, sont-elles objectives ?
La réponse dépend de la définition de la subjectivité.
1. Si « subjectif » veut dire « conscient ergo unique », on réduit le problème à une question plus générale (et encore plus floue) de « les réseaux de neurones ont-ils une conscience ? ».
2. Si « subjectif » veut dire « capable d'avoir des biais » (capable d'avoir des déviations locales d'une fonction globale), alors le degré de subjectivité d'un réseau de neurones augmente avec sa taille. Un réseau d'un nœud est très objectif : il correspond à une fonction de seuil assez simple. Plus il y a de nœuds (et de boucles de rétroaction), plus il y aura d'intrication entre les activités de neurones. Un réseau de neurones suffisamment grand pourra ajuster la sortie pour un petit groupe d'entrées sans avoir un impact considérable sur d'autres entrées => plus de biais fins.
3. On peut s'inspirer de (1) pour poser un autre principe « subjectif ergo non modélisable » : on ne peut pas modéliser nous-mêmes, pour l'instant, donc on est subjectifs. De même pour un chien ou un chat. Un réseau de neurones on arrive à le modéliser, donc ce qu'il dit est objectif.
Ce principe pose une barrière floue : si un jour on modélise le chien, ses avis seront objectifs. Pareil pour nous-mêmes : le jour ou on peut modéliser nous-mêmes (= j'écris une appli qui me représente de façon très fidèle), on sera objectifs. On pourra répliquer mes avis à tout âge, plusieurs fois, à tout moment de la journée. On pourra avoir plusieurs moi jettables, etc.
Note : on fait introduire une espèce de « surprise » par ce principe : un système est subjectif si on ne peut pas (encore) prédire son comportement. Le jour où on pourra le faire, il ne sera plus subjectif. Ça colle pas mal avec ce que les gens disent de leurs ordis : « mon pécé ne m'écoute pas » ; ils n'arrivent pas à prédire le comportement de leurs ordinateurs, ils sont surpris.
4'. Toutes ces réflexions posent une question intéressante : c'est quoi être modélisable ? Pouvoir être répliqué bêtement dans un support suffisamment souple ? Dans ce cas-là, si tout est déterminé (mwahaha), alors tout est modélisable. Mais là on fait rentrer le principe de l'incertitude et le mont Mécanique Quantique, donc on ne pourra probablement pas dépasser une certaine précision dans la modélisation. Est-ce un gros décalage ?
On peut également poser une définition plus forte de la modélisabilité, fondé un peu dans la calculabilité, en disant que modéliser veut dire pouvoir (semi)décider certaines propriétés. Mais là on aura un autre curseur donné par le choix des propriétés, et boum, ça explose en des variantes bien variées.
Quelle que soit l'approche à la modélisation, se pose la question d'utilité (Nicolas) : est-ce utile de modéliser ? Est-ce plus utile que de jouer avec des modèles peu realistes sans chercher à aller vers une vérité qu'on ne peut pas atteindre [0] ?
[0] Michael Conrad. On design principles of a molecular computer. Communications of the ACM, Volume 28 Issue 5, May 1985, pp 464-480.
(réponse 1/2)
ReplyDeletePour moi, un discours va être objectif s'il ne dépend pas de la personne qui l'énonce. Un scientifique est objectif (mais pas neutre, voir http://uneheuredepeine.blogspot.fr/2014/03/avoir-un-point-de-vue-ca-narrive-pas.html ) car il essaiera d'énoncer une preuve argumentée, en s'appuyant sur des expériences reproductibles, ou au moins en traquant les biais statistiques ou cognitifs. Dit autrement, une personne ayant les mêmes informations et ayant appris le même langage produira un discours équivalent.
En fait la question pour moi serait plutôt dans l'autre sens : qu'est-ce que serait un discours non objectif ? Certains parlent de "qualia" (voir par exemple https://www.youtube.com/watch?v=evQsOFQju08 ou https://www.youtube.com/watch?v=nQHBAdShgYI), c'est à dire d'états de conscience non réductibles à la matière. Ce dont, étant matérialiste, je me méfie grandement, comme de toute limite a priori à l'établissement de la connaissance. Mais pour l'argumentation, un discours basé sur les qualia serait un exemple de discours subjectif.
Selon moi, si un réseau de capteur dit que le ciel est bleu, il est objectif, il faut juste se mettre d'accord sur ce qu'est le bleu. S'il dit que ses capteurs crament à cause de la lumière, il est objectif aussi, parce que d'autres peuvent aussi faire ce constat en observant sa structure. S'il dit qu'il a mal, j'irai jusqu'à dire que c'est objectif aussi, car il subit des dégâts détectables qui vont changer son modèle interne de lui-même, ce que peut énoncer un observateur extérieur.
Un tenant de la théorie des qualia dirait que justement mon bleu n'est pas ton bleu, de même que mon état mental de la douleur n'est pas le même que le tien. Et pour l'instant, oui, il aurait raison. Si nous étions élevés dans un environnement assez similaire nous serions d'accord pour désigner bleu à peu près les mêmes objets, et nous serions en opposition pour les frontières (est-ce du bleu ou du vert, ce bleu-vert ?). Mais la façon dont notre cerveau aurait codé la notion n'a pas de raison d'être la même. Il y aura des similitudes, étant donné que nous partageons une structure cérébrale commune. Mais nous ne relierons pas la couleur tout à fait aux mêmes objets, et n'aurons pas construit les mêmes affects sur elle. Pire, un observateur extérieur ne peut pas simplement regarder mon cerveau et en déduire ma définition précise et intime du bleu. Mon code est caché. "Car dans le temple de son esprit, chaque homme est seul.", comme le dirait Ayn Rand. Le "nous" n'a pas accès à toute l'information d'un "je". Pour l'instant.
(réponse 2/2)
ReplyDeleteCette obscurité du code est un produit de notre évolution, qui a généré un code efficace pour certains critères (pas tous, par exemple l'existence de biais cognitifs, ou notre sénescence une fois passé l'âge de se reproduire), mais pas un code lisible. Nous, humains, quand nous écrivons du code nous essayons de le rendre lisible, surtout s'il est destiné à un groupe et que nous voulons garantir qu'il soit vérifié et maintenu. Donc nos IAs seront plus lisibles (j'émets cependant le doute qu'un réseau de neurones comme AlphaGo soit lisible).
Le jour où nous serons téléchargés sur des disques durs ou que nous serons remplacés par les IAs, les intelligences terrestres ne seront peut-être pas faciles à lire, mais au moins le code sera le même pour tous. Et nous continuons sans cesse d'approfondir nos connaissances de l'intelligence artificielle et du cerveau humain, ce qui rendra de plus en plus facile que nos états internes soient examinables par des observateurs extérieurs. C'est déjà partiellement le cas avec nos corps, entre le développement de la médecine, et des outils pour consulter (parfois même en temps réel) l'état d'un patient.
Ce qui fait évidemment peur, puisque cela nous rend plus facilement manipulables (j'ai apprécié le traitement de ce thème dans La Zone du dehors de Damasio). Mais les autres n'ont déjà pas eu besoin de beaucoup nous comprendre pour nous nuire...
Bref, je pense que les qualia existent pour l'instant de fait mais qu'elles vont disparaître. En un sens, je pense que dans le futur de moins en moins de discours subjectifs seront produits. Ce qui ne signifie pas que nous n'aurons pas de point de vue (accès particulier à certaines informations) ni que nous perdrons notre individualité (le fait de pouvoir être observé jusque dans sa pensée n'empêche pas cette pensée d'avoir lieu). En un sens, ça fait que je suis assez d'accord avec la frontière simulable / pas simulable, mais que j'insiste avant tout sur le lisible / pas lisible, où je pense qu'est le noeud du problème.
(réponse 3/2 :D)
ReplyDeleteEt je précise que ce processus est en cours mais a commencé il y a longtemps. Ne serait-ce que l'apparition du langage, qui permet de formuler ses états mentaux et de les transmettre à autrui, donc de rendre son propre code en partie lisible, en créant au passage une représentation mentale de son esprit dans son esprit. Il est à noter que le langage est nécessaire pour cela, mais pas suffisant, car le langage pourrait être réduit à transmettre des informations sur le monde et ne servir que plus tard à transmettre des informations sur les états mentaux. A ce sujet, j'ai été fasciné par la thèse du bicaméralisme (voir https://www.youtube.com/watch?v=wfYbgdo8e-8 mais surtout https://en.wikipedia.org/wiki/Bicameralism_(psychology) ) qui propose qu'avant le deuxième millénaire av JC les humains n'étaient peut-être pas conscients au sens où nous l'entendons actuellement. Cela étant dit, pour l'instant l'hypothèse n'a pas encore fait ses preuves, donc elle est à prendre avec des pincettes.