Pas vraiment. La question suivante serait: alors avec quoi le Grand Reset compte-t-il gérer le troupeau humain? Ça fera partie d’un article à venir, que je suis en train d’écrire.
Celui-ci est tout à fait passionnant. Vous pouvez aussi m’écrire ce que vous en pensez.
Note: curieuse coïncidence, le traducteur automatique – qui est un bon exemple d’intelligence artificielle – a été totalement incapable de donner un texte cohérent et lisible. J’ai donc dû quasiment tout faire moi-même. CQFD.
L’intelligence artificielle est-elle vraiment intelligente?
Les ordinateurs ne seront jamais conscients d’eux-mêmes ni intelligents
The Science Analyst
19 août
L’intelligence artificielle (IA) a fait du chemin.
De nombreux inventeurs ont rêvé de fabriquer une machine plus intelligente que les humains. Même avant que les ordinateurs n’existent.
Aujourd’hui, ils fabriquent des ordinateurs capables de jouer aux échecs mieux que le champion du monde humain. Ou de générer des mondes imaginaires à partir de rien, apparemment. Ou encore de conduire une voiture.
Mais… ils ont tous besoin d’un humain pour configurer leur algorithme et classer les données statistiques. Et lorsque des circonstances inattendues se produisent, l’IA peut ralentir considérablement sans jamais s’en remettre.
Un battage médiatique excessif de part et d’autre
L’intelligence artificielle a fait l’objet d’un battage médiatique excessif à la fois de la part de ses partisans et de ses opposants.
Ses partisans pensent qu’ils sont capables de concevoir des ordinateurs plus intelligents que tout être humain. Et ils croient que leur propre conscience peut y être transférée.
Ses opposants pensent que les ordinateurs deviendront conscients d’eux-mêmes et finiront par remplacer les humains.
De ces idéaux et de ces scénarios d’horreur, rien n’est vrai.
Un ordinateur ne travaille qu’avec des algorithmes et des données. Un ordinateur n’a donc aucune idée de quoi en faire, c’est un programmeur qui doit les sélectionner pour l’ordinateur.
Les algorithmes peuvent être utilisés pour filtrer et censurer vos messages. Ou ils peuvent être utilisés pour tuer automatiquement une personne dans une guerre. Toutes ces actions sont basées sur des paramètres et des critères définis par le programmeur. Ce même programmeur n’a aucune idée de l’environnement ni des circonstances réels dans lesquels ils seront utilisés par la suite. Et comme les environnements et les circonstances sont changeants, les ordinateurs finissent par échouer.
Les ordinateurs peuvent aussi tomber en panne de batterie. Les robots peuvent s’enliser dans la boue, briser un capteur, être peints ou incendiés par des militants.
Les robots de la NASA expédiés sur Mars sont un bon exemple de ce qui est en définitive possible. À chaque cycle, le robot reçoit une nouvelle mise à jour et exécute une certaine tâche, comme se déplacer ou prendre des photos.
Les drones aériens utilisés par l’armée sont connectés en permanence à un opérateur. Un algorithme ne fait que faciliter leur tâche. Mais plus ils sont automatisés, plus facilement l’adversaire peut les voler.
Algorithmes
Problème logique → Algorithme + temps → Problème résolu
Un Algorithme est une partie de programme qui cherche une réponse à un certain problème, efficacement de préférence.
La première tentative de création de l’IA a consisté à utiliser des langages de programmation capables de faire des choses intelligentes en quelques phrases. Avec des langages comme LISP, il était possible de créer des programmes qui créaient des programmes en interne. Avec des langages comme Prolog, il était possible de définir un ensemble de problèmes numériques et de laisser l’ordinateur chercher des réponses.
Les plus belles réussites furent les programmes qui jouaient aux échecs et au GO. Ces jeux étant très logiques, l’ordinateur devait simplement trouver le bon coup le plus rapidement possible. Il ne s’agit pas tant d’un exploit de l' »intelligence » que celui de programmeurs qui ont créé de très bons algorithmes.
Réseaux neuronaux
Depuis longtemps, on étudie les réseaux neuronaux du cerveau et on tente de procéder à une ingénierie inverse de certaines des structures que l’on y observe. On y trouve des neurones reliés par des nerfs et des synapses, dans des couches séparées.
Pour simplifier les choses dans un ordinateur, on les représente par des matrices et des vecteurs. Les neurones sont représentés par les vecteurs, et les synapses sont représentées par la matrice. Exemple: une connexion du neurone A (position 6) au neurone B (position 30) est un nombre 1,0 (dans la ligne 6, colonne 30 de la matrice).
L’information est simplement l’activation ou la désactivation des neurones, représentée par 1,0 et -1,0. Ou pour les données de type analogique, par les valeurs intermédiaires.
La sortie commence avec une valeur initiale, et on modifie ces valeurs par très petites étapes pour déterminer quelle infime modification fonctionnera le mieux.
La chaîne éducative 3Blue1Brown propose un excellent aperçu des réseaux neuronaux, et vous en explique les détails.
Lien vers les vidéos
Algorithmes des réseaux neuronaux
Le modèle algorithmique qui ressemble le plus au cerveau est le réseau Hopfield. C’est aussi le plus simple. Il s’agit simplement de deux vecteurs et d’une matrice.
https://fr.wikipedia.org/wiki/R%C3%A9seau_de_neurones_de_Hopfield
Bien qu’il soit le plus proche du cerveau, il ne fonctionne pas aussi bien.
Les algorithmes ont donc été améliorés et le plus populaire est maintenant Back-propagation [« rétropropagation »].
Back-propagation peut fonctionner avec différentes couches, ce qui permet de gagner beaucoup d’espace et de temps. Et pour chaque couche, on peut calculer les paramètres qui fonctionnent le mieux.
On trouve également des couches dans le cerveau, mais elles fonctionnent différemment.
L’apprentissage automatique
La plupart des gens pensent que ça fonctionne comme ceci.
Le réseau n’est qu’un ensemble de nombres stockés dans des matrices. L’entrée est juste une donnée présentée à l’entrée dans un tableau de ON (1.0) et OFF (-1.0). Lorsqu’on présente des données à l’entrée, la boîte produit automatiquement une sortie dans une représentation similaire de ON et OFF.
La réalité est bien plus complexe.
Les données massives [Massive Data] sont des données d’entraînement, avec la même quantité de valeurs que l’entrée [Input].
Ces données massives sont catégorisées [Categorized Data] et des données utiles sont ajoutées.
Par exemple, cette photo est-elle un « chat » ou un « chien »? Quel est l’âge de l’animal?
Les énormes bases de données statistiques [Huge Statistical Database] sont les matrices contenant tous les chiffres qui représentent les connexions entre les neurones.
Au cours de la formation (apprentissage) [Training Algorithm], les chiffres de la matrice sont légèrement modifiés. L’objectif est de tendre vers la bonne réponse/sortie [Output]. Les données catégorisées doivent contenir cette réponse correcte d’une manière ou d’une autre.
La base de données statistique n’est qu’une représentation différente des données, sous forme d’un grand nombre de chiffres statistiques. Il n’y a pas de raisonnement ajouté, pas d’intelligence.
Toutes les décisions proviennent de la façon dont les données sont catégorisées et de la façon dont elles correspondent aux statistiques stockées dans les matrices.
Ce n’est pas facile. Le programmeur doit accomplir beaucoup de tâches.
Le programmeur doit configurer toutes sortes de paramètres.
Toutes les données doivent être ordonnées et classées, parfois à la main, parfois par les utilisateurs eux-mêmes.
Les paramètres déterminent la façon dont les données sont représentées dans les chiffres, le nombre de couches et de connexions dans la base de données statistiques, la vitesse à laquelle les chiffres changent. Et le moment où les algorithmes doivent s’arrêter.
Le programmeur doit alors déterminer s’ils ont réellement fonctionné et si ce n’est pas le cas, en refaire une grande partie.
Pour le programmeur, l’énorme base de données statistiques est pratiquement illisible. Il/elle ne sait donc pas la plupart du temps ce fait que celle-ci. Il/elle doit donc découvrir par essais et erreurs ce qui fonctionne ou non. C’est pourquoi ce travail fait souvent partie de la recherche scientifique, qui nécessite également la rédaction d’articles.
Dans mon département universitaire, quelqu’un avait obtenu son diplôme en montrant à quel point ses réseaux neuronaux programmés fonctionnaient bien. La personne qui l’a suivi a découvert qu’ils ne fonctionnaient qu’avec un seul exemple. C’est la raison pour laquelle les réseaux neuronaux constituent avant tout un problème.
Quel est le mieux qu’un ordinateur puisse faire?
Les données connues sont converties en une base de données statistiques, en utilisant « l’apprentissage automatique » pour qu’elles deviennent « bien connues ».
Deep fakes:
Les images sélectionnées d’une personne connue sont remplacées par les images sélectionnées d’une autre personne connue. En utilisant la base de données statistiques, les traits personnels de l’un sont échangés avec les traits personnels de l’autre.
L’IA de Samsung: Megapixel Deepfakes – 2 minute papers
Création d’images à partir de mots (DALL-E)
Les mots connus sélectionnés sont traduits en objets.
Et les objets connus sont traduits en images.
Et les images connues sont fusionnées en une image finale.
Ces traductions sont toutes issues de la base de données statistiques.
Pour rendre l’image plus impressionnante, le programme utilise quelques manipulations statistiques afin qu’elles semblent bien assorties.
DALL-E 2 d’OpenAI: Top 5 des nouveaux résultats – 2 minute papers
Nous avons fabriqué des jouets pour enfants légèrement choquants – Corridor Crew
Compléter les détails d’un programme
La base de données statistiques est pleine d’exemples tirés de logiciels libres. Ainsi, lorsque le texte d’un programme ressemble statistiquement à l’un de ces exemples, certains détails de l’exemple sont récupérés. Et ceux-ci peuvent être complétés dans le texte pour compléter le programme.
Cela ne fonctionne bien que lorsque le nouveau programme ressemble (statistiquement) beaucoup aux exemples existants.
[ML News] Modèles d’IA qui écrivent du code (Copilot, CodeWhisperer, Pangu-Coder, etc.)
Qu’est-ce qu’un ordinateur ne peut JAMAIS faire?
Il ne peut effectuer aucune des tâches qui DOIVENT être effectuées par un programmeur pour que l’ordinateur fonctionne.
Un ordinateur ne peut pas distinguer les bonnes données des mauvaises
L’ordinateur est capable de produire une réponse, mais n’est jamais capable de savoir si c’est la bonne.
Certaines boucles de rétroaction sont possibles, mais elles sont essentiellement l’oeuvre du programmeur. Le programmeur décide toujours de ce qui est une bonne ou une mauvaise donnée, même lorsqu’il programme une boucle de rétroaction.
Il ne peut jamais s’améliorer automatiquement
Alan Turing a prouvé qu’un programme ne pouvait jamais tout savoir sur lui-même.
Il l’a prouvé en donnant l’explication la plus simple possible: Le Problème de l’Arrêt.
En bref: un programme ne sait pas si une partie de son calcul se terminera un jour. L’exécution d’une preuve mathématique, basée sur une recherche infinie, l’illustre très bien. Le calcul ne se terminera probablement jamais, et il n’existe aucun programme capable de prédire une recherche infinie.
Ainsi, si un ordinateur est incapable de tout savoir sur lui-même, ET ne sait pas différencier ce qui est bon de ce qui est mauvais, il ne pourra pas s’améliorer.
Il ne sait pas grand chose du monde réel, il ne sait même pas qu’un monde réel existe, ou que l’ordinateur lui-même existe.
Un ordinateur ne sera donc jamais intelligent
L’intelligence signifie: s’adapter automatiquement à différentes circonstances.
Lorsqu’une situation inédite se présente, l’ordinateur échoue.
Nous le voyons clairement dans le cas de la conduite autopilotée de Tesla:
- Elle est incapable de détecter un chariot tiré par des chevaux. Elle a souvent le même problème avec les piétons.
- Elle est susceptible conduire très vite lorsque le conducteur est endormi:
(« Je reste sans voix »: La police poursuit une Tesla en mode Autopilot qui roule à 90 km/h alors que le conducteur et le passager sont endormis). - Une Tesla dysfonctionne et percute un homme à grande vitesse alors que le conducteur essayait de se garer. Vidéo (NSFW – une personne se fait écraser)
- Recherche: Le pilote automatique Tesla essaie de me tuer.
Il n’existe pas de statistiques ni d’algorithme (ni de retour d’information) qui permettent à un ordinateur de s’adapter à un problème avant qu’il ne se produise.
Les humains sont différents
Nous sommes capables de nous préparer à un événement avant qu’il ne se produise, même si nous n’avons jamais été dans cette situation.
La meilleure façon de se préparer est d’utiliser son imagination et sa réflexion. Nous sommes capables de construire une maison et de prévenir les accidents en les visualisant à l’avance dans notre esprit.
Les ordinateurs ne peuvent-ils rien faire de similaire? Imaginer des données (comme DALL-E ci-dessus) pour se préparer à quelque chose d’inattendu?
L’ensemble des données est infini. Par conséquent, les données seront mélangées avec quantité de données imaginaires et inutiles. Comme vous l’avez vu plus haut, l’ordinateur ne sait pas quand arrêter le calcul. Et ne peut pas distinguer les bonnes des mauvaises données. Ce ne serait qu’un grand chaos.
Les humains sont capables de distinguer les problèmes réels des problèmes imaginaires, par le raisonnement. Et en jouant la situation dans nos esprits. Nous pouvons aussi rêver de situations impossibles, et reconnaître qu’elles ne sont pas réelles. Ce dernier point intervient généralement ensuite, lorsque nous sommes « réveillés ».
Si les humains sont différents des réseaux neuronaux, alors comment les humains pensent-ils?
Avec des programmes et de gros ordinateurs, nous pouvons simuler quelque chose de très similaire au cerveau. Ou peut-être le pourrons-nous à l’avenir.
Mais comme je l’ai décrit ci-dessus, les réseaux neuronaux ne sont que des bases de données statistiques de données catégorisées.
Qui fait la catégorisation dans le cerveau? Il n’y a pas de programmeur?
Qui fait la sélection entre bonnes et mauvaises données, puisque la plupart de ce que nous entendons et voyons est noyé dans le bruit?
Qui s’occupe de se souvenir de ce qui est important?
Qui accomplit le raisonnement?
Qu’est-ce que le raisonnement?
Un ordinateur a besoin d’un programmeur. Un réseau neuronal a besoin d’un programmeur.
Mais le cerveau ne dispose de rien de tel pour déterminer ces tâches.
Observation des souvenirs
Quelles sont les choses dont on se souvient?
En général, ce sont des choses dont on aime se souvenir, ou des choses dont on préfèrerait ne pas se souvenir. Parce qu’elles ont une valeur émotionnelle. Et certaines choses sont étrangement difficiles à retenir, comme une date d’anniversaire (désolé!).
L’émotion est donc un facteur déterminant de nos souvenirs.
Plus grande est l’émotio, plus forte la « connexion » avec nos souvenirs.
Une conscience éveillée aide à se souvenir. Et on ne peut être conscient que quand on est stimulé, pas quand on s’ennuie. Les choses qui nous stimulent sont donc plus faciles à apprendre. C’est un état très similaire aux émotions.
On peut donc en conclure que les émotions et le niveau de stimulation sont des facteurs décisifs. Ils aident donc à catégoriser les souvenirs.
Lorsque les choses tournent mal, comme lors d’une guerre, avec des traumatismes et une surstimulation due à la peur et au stress, il arrive que les souvenirs stockés soient mêlés d’imaginaire. Si le traumatisme est traité, la réalité peut refaire un peu surface, mais cela demande généralement beaucoup de travail. Et les gens préfèrent parfois ne pas connaître la réalité.
Observation du raisonnement
Lorsqu’on raisonne, on commence par un problème et on cherche des souvenirs liés à ce problème. Le cerveau est idéal à cet égard, car il contient différentes sortes de connexions. Un réseau neuronal peut également mettre en oeuvre des connexions statistiques.
Quand on raisonne, on utilise aussi son imagination. Et si ceci arrivait? Et si cela arrivait? On passe donc sans cesse d’un souvenir, ou d’une façon de penser, à l’autre.
Plusieurs choses entre donc en jeu.
- L’attention. Votre attention passe en revue une série de souvenirs et/ou de schémas de pensée. En fonction de votre entraînement, elle passe plus rapidement par certains souvenirs.
- L’imagination. Si on manque d’entraînement, on doit faire appel à son imagination pour envisager différentes options.
- La prise de décision. Décider de la voie à suivre. Quelle serait la meilleure façon de résoudre le problème? Quelles choses inédites peut-on inventer?
- Intuition. Quelles sont les nouvelles solutions qui viennent à l’esprit?
Un ordinateur ne dispose de rien de tel. Un ordinateur pourra en simuler une partie en accomplissant des choses au hasard, comme DALL-E.
Où sont stockés les souvenirs?
Il est clair que le cerveau établit des connexions et qu’il effectue un certain travail. D’après les scanners cérébraux, les informations provenant des yeux et des oreilles sont stockées dans une couche du cerveau. Les informations à court terme sont stockées en premier. Elles sont ensuite traitées dans la mémoire à long terme. Du moins en théorie.
Dans les circuits du cerveau, ces souvenirs sont généralement vagues, de faible résolution et très difficiles à gérer et à ordonner. Le système chimique doit décider quelles connexions établir et quoi oublier.
Mais il existe des personnes qui n’oublient jamais rien. Elles peuvent même se souvenir de données inutiles, comme d’un annuaire téléphonique. Précisément.
L’esprit dans la machine
Nous avons commencé à étudier le cerveau humain et avons simulé les structures neuronales du mieux possible. Mais ce n’est toujours pas suffisant!
Nous devons donc examiner de plus près le cerveau humain.
Nous devons découvrir ce qui se passe d’autre dans l’esprit humain.
C’est ainsi que nous en arrivons aux expériences de mort imminente. Les observations du cerveau en état de mort imminente sont tout aussi valables que les observations du cerveau en état de veille.
Les personnes en état de mort cérébrale, pendant une opération, sont encore capables d’observer les choses qui les entourent.
Il y a beaucoup d’observations de ce type, consultez cette liste non ordonnée d’entretiens.
Ces observations sont pour la plupart très singulières. Ces personnes perçoivent les choses comme si elles avaient quitté leur corps. Ce qui est logique, puisque le cerveau est en état de mort. On y trouve des récits de personnes aveugles qui voient pour la première fois, et même d’autres qui perçoivent les couleurs pour la première fois.
Ces souvenirs sont souvent très vifs et stockés dans la mémoire à long terme.
Ces personnes semblent observer les choses comme si elles étaient un pur esprit, au lieu d’un être humain normal. Quoi qu’il en soit, tout porte à croire que le siège de la conscience n’est peut-être même pas dans le cerveau.
Nous avons besoin de l’Esprit dans la Machine
Notre modélisation du cerveau, avec ses réseaux neuronaux et ses algorithmes, ne pouvait pas fonctionner. À presque toutes les étapes, elle a besoin d’un programmeur, d’un décideur ou de quelque chose de ce genre.
Sans cela, le cerveau ne serait que chaos.
Nous constatons à présent qu’il existe un esprit capable d’observer, et même de décider. C’est précisément ce dont notre cerveau a besoin pour fonctionner. Il a peut-être besoin de plus, mais c’est un début.
On ne peut tout simplement pas créer quelque chose à partir de rien.
Dans un autre billet, je développerai un modèle de l’esprit.
Je vous invite à le lire…
Le blog de Skidmark 