Yann Le Cun : "D’ici cinq ans, plus personne n’utilisera un modèle tel que ChatGPT"

"En ce printemps 2023, dans le paysage de l’intelligence artificielle, il semble y avoir deux camps. D’un côté, ceux qui voient dans ChatGPT et les autres modèles générateurs de textes et d’images des outils puissants et potentiellement révolutionnaires. De l’autre, ceux (et non des moindres) qui appellent à interdire, ou du moins à mettre sur pause la recherche sur le sujet, le temps d’introduire un peu d’éthique dans cette affaire.


Et puis il y a Yann Le Cun. Le Français, qui dirige depuis dix ans la recherche fondamentale en intelligence artificielle de Facebook (puis du groupe Meta), n’est ni bluffé par les réponses de ChatGPT (« de la bonne ingénierie » confiait-il sur France Inter le 12 avril dernier), ni favorable à un moratoire sur la recherche en IA qui risquerait selon lui d’avoir l’effet inverse de celui escompté.

Sa « troisième voie » n’en est pas moins techno-enthousiaste : « L’intelligence artificielle, en tant qu’amplificateur de l’intelligence humaine, pourrait être à l’origine d’une nouvelle Renaissance, voire d’un nouveau Siècle des Lumières », nous a-t-il confié mardi 18 avril, lors d’une rencontre avec la presse organisée à Paris à l’occasion de la réédition de son livre Quand la machine apprend (Odile Jacob Poches, 2023). Morceaux choisis de cet échange passionnant et vertigineux.

« Les grands modèles de langage tels que ChatGPT sont « autorégressifs ». Cela signifie qu’on les entraîne, à partir d’un corpus de mots – jusqu’à 1 400 milliards de mots pour les systèmes aujourd’hui les plus performants – à prédire le dernier mot d’une séquence, celui qui doit venir ensuite dans une phrase donnée.

Il ne s’agit pas d’une idée neuve. Les travaux menés dans les années 1950 par Claude Shannon reposaient déjà sur ce principe. Aujourd’hui, ce qui est nouveau, c’est le passage à échelle, la puissance de calcul très importante des modèles de langage les plus récents..." Lire la suite