L’une de mes sources d’informations, de réflexion, autour de l’IA, c’est la chaîne de Monsieur Phi sur l’IA.
A la question : les IA sont elles intelligentes, la réponse aujourd’hui me semble clair. C’est oui. Certains cherchent désespérément quelque chose que notre intelligence permettrait de faire et que l’IA ne saurait pas faire…. En vain. A l’heure ou une IA est capable de résoudre des problèmes mathématiques que les plus grands mathématiciens n’arrivaient pas à résoudre, la réponse est assez évidente. L’IA est intelligente, à l’évidence !
Mais la question sur la conscience des IA est autrement plus complexe. Monsieur Phi a fait une vidéo là dessus. Je dois dire que je ne suis pas complètement convaincu par l’approche, qui de mon point de vue s’attache trop à essayer de comprendre comment marche la conscience dans notre cerveau… J’ai l’impression que, comme on n’arrive pas vraiment à définir ce qu’est la conscience, on essaie de se rattraper en essayant de comprendre comment marche notre cerveau, d’un point de vue global.
Déjà, définir la conscience n’est pas facile. Si on veut faire simple, on peut dire que la conscience, c’est le fait de savoir qu’on est, avoir conscience de soi.
Ok, mais dans ce cas, on ne peut réellement parler de conscience que pour soi même (je sais que j’ai une conscience), mais qu’en est il des autres ? Et puis cette définition ne va pas beaucoup nous aider pour savoir si l’IA a une conscience.
Je n’irais pas beaucoup plus loin sur cette question, que je vais laisser aux vrais philosophes 😉
Ce que je pense, c’est qu’il manque des choses aux IA actuelles, pour être complètes, au delà de l’intelligence.
Certains disent que le problème numéro un, c’est la perception du monde. Si j’ai bien compris, c’est là dessus que travaille Yann Le Cun avec son World Model. Je trouve intéressant que certains explorent des voies dissidentes, mais je ne suis pas convaincu par le postulat de départ. J’ai écouté plusieurs interviews de Yann, ou il explique le texte, le langage est limité : « ce n’est que du texte ». D’ou l’idée de construire des modèles basées sur des médias « plus riches » que le texte, avec la vidéo en particulier. Mais au final, notre cerveau ne fait que traiter des flux nerveux, issus de nos capteurs (yeux, oreilles, …). Donc pourquoi ne pas accepter l’idée qu’on peut avoir « conscience » du monde, à partir d’un flux de texte au lieu d’un flux nerveux ? D’ailleurs, les travaux sur la maîtrise des échecs par les LLM montrent bien que ces systèmes arrivent très bien à comprendre, modéliser, des choses, avec juste un flux textuel, même si les meilleurs résultats en la matière ont pour l’instant été obtenus avec une version particulière de ChatGPT (gpt-3.5-turbo-instruct).
Mon avis est qu’avec les modèles actuels, on est déjà allé très loin, mais qu’il manque des choses fondamentales : la capacité à apprendre, et la continuité, la persistance dans le temps.
La capacité à apprendre
Nous avons la capacité à apprendre, à partir de nos expériences passées.
Les modèles actuels de LLM sont plus statiques : ils ont un niveau de savoir, d’intelligence, issu du processus d’apprentissage, mais ils n’apprennent rien, pour une version donnée.
Les choses s’améliorent de manière superficielle avec l’augmentation du contexte. Mais au fond, si le LLM a biais, il le garde indéfiniment jusqu’à la prochaine version, et c’est bien dommage. Peut on imaginer une évolution des LLM pour être capable d’apprendre au fil du temps ?
La persistance
Nous existons au delà des interactions avec les autres. Cela me semble un élément constitutif de notre être.
Un LLM « n’existe » que le temps de son travail : la réponse pour un prompt, la tâche qu’il doit faire pour un agent). Peut on là aussi imaginer une évolution, pour faire que le LLM soit actif en continue, développant ses propres pensées, en continue ?
Alors, comment voyez vous l’avenir des LLM et des IA ?