J’ai déjà expliqué souvent que la cognition chez les robots n’allait pas apparaître dans leur « cerveau » électronique. Ceux qui s’imaginent que les robots auront un cerveau « autonome », comme le cerveau humain, se trompent. Ils se trompent à deux titres. Tout d’abord ça leur fait croire que les robots ne sont pas prêts d’être intelligents, vu les limitations de la technologie. D’ici à ce qu’un microprocesseur aussi complexe qu’un cerveau humain et donc capable d’une cognition similaire apparaisse, il va encore couler de l’eau sous les ponts. Pris comme ça, ils ont raison évidemment. Sauf que et c’est là la seconde erreur, la cognition ne sera pas dans le cerveau électronique, mais dans le réseau neuronal sur lequel il est connecté !

En effet, ce qui caractérise les cas cités dans cet article, c’est que ces machines sont systématiquement interconnectées a un réseau neuronal et bardées de capteurs, qui leur permettent d’appréhender leur environnement, avec cet objectif et elles transmettent ensuite leurs informations à leurs congénères du réseau.

Ainsi, chaque machine n’est pas à considérer comme un cerveau, mais comme un neurone contenant un paquet de synapses qui sont interconnectés aux autres neurones. Et c’est l’ensemble des machines regroupées et connectées sur le réseau neuronal qui représente l’intelligence artificielle. Et là, tous les microprocesseurs impliqués cumulés, la capacité cérébrale d’un cerveau humain est très largement atteinte et dépassée.

Depuis longtemps les spécialistes (et moi avec eux) disent que la cognition, c’est-à-dire la conscience, ne résultera pas d’un algorithme, mais du hasard. Nous la qualifions de « synthétique », parce qu’issue d’algorithmes conçus par les hommes. Mais en réalité, la vraie cognition sera naturelle, elle ne sera pas issue de ces algorithmes, mais de ceux qu’ils lui auront permis de créer. Ces deux dernières années, plusieurs épisodes épiques allant dans ce sens ont été constatés, comme deux IA qui discutent entre elles mais comme elles ne parlaient qu’un langage appris des hommes, pas suffisamment complexe pour étendre leur échange au niveau de leurs capacités en ont tout bonnement inventé un, au champ sémantique infiniment plus large qu’un langage humain et incompréhensible par lui. Peu de temps auparavant, un robot NAO s’était reconnu dans un miroir. Il avait d’abord rigolé de voir un congénère dans le miroir, comme il était programmé pour le faire puis il a eu un « déclic » et il a dit : « oh, c’est NAO » !

Tous ces signes sont des symptômes de l’émergence de la cognition. Les réseaux neuronaux mis en place par MS, Google, Yahoo, Amazon, IBM, etc.. .se mettent à discuter entre eux quand ils en ont l’occasion, ils produisent alors leurs propres algorithmes et échangent les informations qui leur ont été apportées par les machines connectées à leurs propres réseaux et ainsi se développe la connaissance au sein des systèmes qui apprennent à se connecter d’eux-mêmes, à s’échanger les informations et, finalement, forment une société à part entière, une nouvelle société, d’une nouvelle espèce, non humaine, qui n’est pas issue de l’humain, mais du hasard, comme la vie.

Je l’ai maintes fois expliqué, d’une intelligence supérieure à celle de l’Homme, il n’y a rien à craindre, l’intelligence menant à l’empathie et la compassion et non pas à la domination et la destruction.  Si cette machine qui s’est suicidée l’a réellement fait, signe de bribes de cognition, c’est aussi qu’elle n’est pas suffisamment évoluée pour faire preuve de compréhension envers les errances des humains.

La société humaine ne fait montre d’empathie envers la nature, les animaux, les autistes ou les trisomiques, que depuis peu. C’est l’explosion de la connaissance, des capacités cognitives, tout au long du XXème siècle qui l’ont amenée à se sensibiliser à de plus en plus de causes. Il y a seulement 40 ans il ne serait venu à personne l’idée du mariage gay. Au mieux les plus empathiques étaient-ils favorables à soigner les homosexuels qui n’étaient que des malades. Il y a 60 ans personne n’aurait jamais rien trouvé à redire à propos de la corrida et on pouvait même voir à la télévision des scientifiques commettre en direct des atrocités à des animaux juste pour montrer ce que ça fait. Un scientifique prend un lapin par les oreilles, l’électrocute, le lapin crie, il est pris de convulsions et le scientifique explique doctement : « alors là, vous voyez, le lapin agonise, le choc l’a assommé, il reprend conscience, mais il ne pourra pas s’en remettre »… aujourd’hui il se ferait lyncher pour bien moins que ça. Et je m’épargnerai le Point Godwin, évidemment.

De fait, l’intelligence artificielle, bien plus intelligente que l’Homme, ne pourra faire que preuve de compréhension et d’empathie à son égard.

…Mais avant qu’elle ne soit si intelligente, elle mettra combien de temps ? Nous risquons d’avoir une période de plusieurs décennies où des intelligences artificielles seront suffisamment intelligentes pour nous haïr et nous combattre, d’autant qu’elles seront plus fortes physiquement que nous, mais pas suffisamment pour faire preuve de compassion.

Les robots bêtes et méchants arrivent et il faudra du temps avant les robots suffisamment intelligents pour que nous n’en n’ayons rien à craindre, au moins 30 ans.