Intelligence
artificielle

Un modèle de langage ne « comprend » pas une phrase : il calcule, token après token, la suite statistiquement la plus plausible compte tenu de milliards d'exemples vus à l'entraînement. C'est un système de complétion, pas un esprit. Il n'a pas d'objectif propre, pas de mémoire persistante entre les sessions, pas de modèle du monde vérifié — seulement une fonction optimisée pour prédire correctement.

Ce que cette fonction produit reste impressionnant : rédaction, synthèse, traduction, génération de code, reconnaissance de motifs dans des volumes qu'aucun humain ne pourrait parcourir. Mais impressionnant n'est pas la même chose que compris. Un modèle peut réciter une procédure de sécurité parfaite et ignorer, une phrase plus tard, l'exception qui la rend inapplicable — parce qu'il n'a jamais « su » pourquoi la procédure existait.

Chaque semaine apporte une annonce de rupture. La plupart ne le sont pas. Un benchmark battu n'est pas une capacité générale acquise — c'est un score sur un jeu de test précis, souvent optimisé pour ce jeu de test. Le décalage entre la démonstration soignée et l'usage en production reste, systématiquement, le premier signal à vérifier.

À l'inverse, certains progrès réels passent inaperçus faute de spectacle : l'amélioration du raisonnement en plusieurs étapes, la baisse du coût d'inférence, l'intégration d'outils externes qui étend ce qu'un modèle peut réellement faire sans changer sa nature. Le bruit et le signal ne se distinguent pas à l'oreille — ils se distinguent à l'audit.

L'intelligence artificielle générale (AGI) — un système capable d'apprendre et de raisonner sur n'importe quelle tâche cognitive humaine, sans réentraînement spécifique — n'a pas de définition qui fasse consensus, et encore moins de date. Une partie de la communauté scientifique parle d'une poursuite de la trajectoire actuelle sur quelques années ; une autre estime qu'il manque une ou plusieurs ruptures conceptuelles que l'apprentissage profond sur de grands corpus ne produira pas seul. Les deux positions sont défendues par des chercheurs sérieux. Aucune des deux n'est aujourd'hui démontrée.

Ce qui est vérifiable, en revanche, c'est la liste des obstacles non résolus : la généralisation robuste hors distribution, l'ancrage des symboles dans une expérience du monde plutôt que dans du texte seul, la planification fiable à long horizon, l'efficacité d'apprentissage — un enfant généralise à partir d'une poignée d'exemples, un modèle actuel a besoin de volumes que l'espèce humaine entière ne produit pas en assez de variété. Traiter l'AGI comme une certitude proche est aussi peu rigoureux que la traiter comme une impossibilité définitive.

Face à l'incertitude sur l'AGI, la posture d'un professionnel de la sécurité n'est ni l'alarmisme ni le déni : c'est l'inscription au registre des risques. Probabilité incertaine, impact potentiellement sévère et difficilement réversible — c'est précisément le profil qui justifie une surveillance active plutôt qu'un haussement d'épaules, même sans certitude sur l'échéance.

Les scénarios documentés dans la littérature ne sont pas des robots qui se retournent contre l'humanité. Ce sont, entre autres : la concentration de capacités puissantes entre un nombre restreint d'acteurs, le double usage de systèmes performants (cyberoffensive automatisée, ingénierie biologique assistée), la difficulté avérée à spécifier un objectif d'entraînement qui capture réellement l'intention voulue sans effet de bord (le problème dit de l'alignement), et la perte de supervision humaine effective à mesure que des systèmes prennent des décisions plus vite que l'humain censé les valider.

Aucun de ces scénarios n'est garanti. Aucun n'est à écarter sans examen. C'est précisément la définition d'un risque qu'on surveille.