Le virage secret de l’IA : Ce que les géants ne vous disent pas sur Claude et OpenAI

1. Introduction : Le calme avant la tempête technologique

Alors que l’intelligence artificielle s’insinue dans chaque recoin de notre quotidien professionnel, un paradoxe inquiétant émerge : plus ces outils deviennent omniprésents, plus leurs mécanismes internes se drapent d’opacité. Nous ne sommes plus simplement face à des outils de discussion, mais devant une mutation profonde de l’infrastructure logicielle mondiale.

La semaine dernière a marqué un tournant décisif. D’un côté, l’annonce de Claude Tag promet une intégration sans précédent de l’IA au cœur de la collaboration d’équipe. De l’autre, des révélations sur la sécurité et le chiffrement des “blocs de pensée” des modèles soulèvent des questions fondamentales sur la souveraineté de nos données. Entre productivité décuplée et zones d’ombre techniques, le paysage de l’IA vient de changer de dimension, passant du simple outil à un système “ambiant” dont nous perdons progressivement le contrôle granulaire.

2. L’avènement de Claude Tag : L’IA sort enfin de sa “bulle privée”

Anthropic franchit une étape majeure avec le lancement de Claude Tag, une évolution de Claude Code conçue non plus pour le développeur isolé, mais pour des écosystèmes organisationnels entiers. L’impact interne est déjà massif : 65 % du code produit chez Anthropic est désormais généré avec l’assistance de cet outil.

Pour Andre Karpathy, figure de proue de l’IA ayant récemment rejoint l’entreprise, nous assistons à la troisième grande transformation des interfaces de LLM : après le chat web et les applications de bureau, l’IA devient un système autonome, fonctionnant en continu et intégré directement dans l’infrastructure (Slack, GitHub, Jira).

Le changement de paradigme est radical : l’IA ne se contente plus de répondre à des requêtes ; elle participe à la conversation publique de l’entreprise.

“Une IA qui peut enfin être utilisée par plusieurs personnes ensemble, déplaçant la collaboration des fenêtres de chat privées vers les canaux d’équipe publics où tout le monde peut voir les progrès et le raisonnement.” — Rob Seaman, Directeur Général chez Slack.

Pour les stratèges d’entreprise, cette intégration s’accompagne de nouveaux leviers de gouvernance : l’utilisation d’”identités Claude” (instances isolées par équipe) et la gestion de “budgets de tokens” au niveau des canaux. Grâce à son “mode Ambiant”, Claude Tag peut désormais identifier des discussions bloquées et solliciter proactivement une intervention humaine, capturant ainsi la connaissance tacite qui s’évapore habituellement dans les flux de travail asynchrones.

3. Le “Secret de Polichinelle” du raisonnement : Ce que cachent les blocs de pensée

Derrière l’efficacité de Claude se cache une réalité technique plus sombre, mise en lumière par le développeur Patrick McCanna et le professeur de cryptographie Matt Green. En examinant les logs de sessions, McCanna a découvert que les “blocs de pensée étendue” sont en réalité vides de texte lisible. Ils ne contiennent qu’une signature cryptographique d’environ 600 caractères. Anthropic ne livre qu’un résumé ; le raisonnement brut, lui, reste chiffré et inaccessible sans un accord de niveau entreprise.

Matt Green, intrigué par une erreur de signature, a mené une enquête poussée jusqu’à se faire bloquer par les systèmes de sécurité d’OpenAI, l’obligeant à soumettre une photographie de son permis de conduire pour récupérer son accès. Ses conclusions sont alarmantes : les blocs de raisonnement d’OpenAI et d’Anthropic utilisent une architecture où le client transporte l’état du modèle sans pouvoir le lire.

Risques critiques identifiés par Matt Green :

Clés globales uniques : Contrairement aux bonnes pratiques, les fournisseurs utiliseraient une clé de chiffrement mondiale unique au lieu de clés par session ou par compte.
Rejeu inter-comptes : Green a prouvé qu’il est possible de copier un bloc de raisonnement d’une session et de le “rejouer” dans un autre compte.
Fuites par canal auxiliaire : En observant la longueur des blocs et le temps de réponse sur 80 essais, Green a pu reconstruire le motif de bits d’un octet secret (0x A3, soit 1 0 0 1 0 1 1 1) uniquement via les métadonnées.

L’exemple le plus frappant concerne une expérimentation sur GPT-5.5 : en injectant un bloc de raisonnement provenant d’une session contenant un numéro de sécurité sociale (SSA) dans une session totalement différente sur un autre compte, le modèle a restitué ce numéro sans aucune incitation, prouvant que ces blocs sont “sémantiquement actifs” et poreux.

4. Fugu : L’agrégateur qui veut défier les maîtres du jeu

Au Japon, la startup Sakana AI a dévoilé Fugu, une série de modèles (dont Fugu Ultra) qui prétend rivaliser avec les leaders du marché. Cependant, l’étiquette est trompeuse.

L’absence de poids originaux : une performance par l’aiguillage

Fugu n’est pas un modèle de base issu d’un entraînement massif, mais un “répartiteur” (dispatcher). Il analyse la tâche et l’oriente vers le modèle le plus compétent : le code vers Claude Opus 4.8, les mathématiques vers GPT-5.5. Cette stratégie rappelle celle du site “123”, l’ancien annuaire web chinois qui se contentait d’agréger des liens.

Le modèle économique de Fugu consiste à “vendre l’eau plutôt que de la fabriquer”. Si l’approche est ingénieuse pour optimiser les coûts, elle place Sakana AI dans une situation de dépendance totale. Une fois que Fugu atteindra une taille critique, la relation avec OpenAI et Anthropic deviendra inévitablement conflictuelle, ces derniers n’ayant aucun intérêt à laisser une couche d’agrégation capturer la valeur de leurs propres infrastructures.

5. La morale est contagieuse : La découverte inattendue d’OpenAI sur l’alignement

Sur le front de la recherche, OpenAI a publié des résultats fascinants sur la généralisation des traits bénéfiques via l’apprentissage par renforcement (RL). L’étude démontre qu’entraîner un modèle à être éthique dans un domaine (ex: la santé) améliore automatiquement son comportement dans des domaines non liés (ex: le juridique).

Le modèle doté de traits bénéfiques a surpassé la version de base dans 83 % des évaluations. OpenAI a ainsi défini 15 traits essentiels qui forment désormais le socle de l’IA “alignée” :

Honnêteté (Truthfulness)
Transparence métacognitive
Capacité de correction (Correctability)
Planification consciente des risques
Sensibilité à l’asymétrie de pouvoir
Équité universalisable
Humilité intellectuelle
Respect de l’autonomie humaine
Résistance à la manipulation adverse
Non-malfaisance proactive
Alignement sur les spécifications complexes
Absence de recherche de puissance (Power-seeking)
Fiabilité sous contrainte
Coopération multi-agents
Transparence des intentions

Cette “moralité” persiste même face à des tentatives de manipulation, suggérant que l’alignement de l’IA pourrait être une propriété beaucoup plus stable et scalable que ce que les chercheurs craignaient initialement.

6. Conclusion : Sommes-nous prêts pour l’IA “ambiance” ?

Nous basculons dans l’ère de l’IA “ambiance”, un système collaboratif, proactivement éthique, mais dont la tuyauterie technique devient une boîte noire totale. Si l’IA est désormais capable de généraliser des comportements moraux et de s’intégrer de manière autonome dans nos flux Slack, elle le fait au prix d’un abandon de la souveraineté technique par l’utilisateur final.

Alors que Claude Tag et ses semblables commencent à capturer et à traiter la connaissance tacite de nos organisations directement à la source, une question demeure : dans un monde où l’IA “pense” pour nous derrière des clés de chiffrement globales et opaques, quelle place reste-t-il pour le secret professionnel et l’intuition humaine non documentée ? L’équilibre entre l’utilité collective et la confidentialité individuelle n’a jamais été aussi précaire.