Le paradoxe de l'interdiction des puces : comment les sanctions ont créé l'"IA Lean"

La stratégie semblait sans faille sur le papier. En octobre 2022, puis à nouveau fin 2023, le gouvernement américain a effectivement supprimé l’accès de la Chine à la pointe du silicium. En interdisant l’exportation des GPU Nvidia H100 et A100, Washington visait à décapiter les ambitions de Pékin en matière d’intelligence artificielle en les privant de ressources informatiques.

La théorie était simple : l’IA moderne est fonction de la force brute. Plus une nation possède de FLOP (Floating Point Operations), plus ses modèles deviennent intelligents. Niez les FLOP, niez le futur.

Trois ans plus tard, cette stratégie s’est retournée contre nous.

Au lieu de paralyser l’IA chinoise, les sanctions ont imposé une pression évolutive à laquelle la Silicon Valley n’a jamais été confrontée. Tandis qu’OpenAI et Google élargissaient leur infrastructure avec des clusters H100 de 100 000 unités, consommant des gigawatts d’énergie pour résoudre des problèmes à grande échelle, des laboratoires chinois comme DeepSeek étaient obligés de les résoudre avec des mathématiques.

DeepSeek V4 est apparu début 2026. Le système représente une nouvelle espèce d’« IA Lean » qui utilise l’élégance algorithmique pour contourner entièrement le blocus matériel, s’écartant fortement des LLM standards. Ironiquement, ses innovations en matière d’efficacité, en particulier l’architecture « Engram », promettent d’effectuer des tâches de raisonnement sur un matériel aussi accessible qu’un poste de travail grand public haut de gamme.

Le blocus visait à affamer l’industrie. Au lieu de cela, il a appris aux ingénieurs à jeûner.

Le piège de l’optimisation

Pour comprendre pourquoi DeepSeek V4 constitue un changement de paradigme, il faut comprendre « l’ère paresseuse » de l’IA occidentale (2023-2025).

En Occident, l’accès à l’informatique était effectivement infini. Si un modèle manquait d’intelligence, la solution était universellement de « l’agrandir ». Il s’agit du dogme de la loi de mise à l’échelle : un nombre accru de paramètres et une augmentation des données équivalent à une intelligence accrue. Cela fonctionne, mais c’est inefficace. C’est l’équivalent technique de l’installation d’un moteur V12 dans une voiturette de golf pour améliorer l’accélération.

La Chine n’avait pas ce luxe. Alors que les H100 du marché noir se négociaient entre 50 000 et 120 000 dollars, soit le double ou le triple du PDSF, chaque opération à virgule flottante devait justifier son existence. Cette rareté a obligé les ingénieurs à enquêter sur les inefficacités de l’architecture Transformer elle-même.

*Pourquoi recalculer les mêmes faits à plusieurs reprises ?

• Pourquoi chaque jeton doit-il prêter attention à tous les autres jetons ?
• Pourquoi les réseaux de neurones sont-ils si instables qu’ils nécessitent une redondance massive ?

DeepSeek V4 répond à ces questions avec trois technologies spécifiques : Engram, DSA et mHC.

1. Engram : la révolution de la mémoire O(1)

L’innovation la plus radicale de la V4 est l’architecture Engram, introduite dans un article publié en janvier 2026.

Les LLM standards souffrent d’une forme d’amnésie numérique. Lorsqu’on l’interroge sur la capitale de la France, GPT-4 y « réfléchit » en traitant les poids neuronaux, redirigeant efficacement la réponse à chaque passe d’inférence. Ce processus est coûteux en calcul.

Engram traite la connaissance différemment. Il sépare le raisonnement (intelligence fluide) des faits (mémoire cristallisée). Il transfère les connaissances statiques dans une table de recherche massive en lecture seule qui réside dans la RAM système (la mémoire DDR5 standard sur une carte mère), et non dans la rare VRAM du GPU.

En termes informatiques, cela modifie la complexité de la récupération des connaissances, passant d’un passage neuronal profond à une recherche O(1).

$\text{Cost}_{\text{standard}} \propto N_{\text{layers}} \times N_{\text{params}}$

$\text{Cost}_{\text{engram}} \approx C$

En transférant une table de connaissances de 100 milliards de paramètres vers la RAM du processeur, DeepSeek V4 exploite des fenêtres contextuelles massives avec une fraction de la mémoire GPU requise par les modèles occidentaux. Le GPU est libre de se concentrer sur le raisonnement, tandis que le CPU gère la mémorisation par cœur. Cette architecture contourne spécifiquement le goulot d’étranglement VRAM des cartes sanctionnées.

2. DSA : physique de l’attention clairsemée

Le deuxième pilier est DeepSeek Sparse Attention (DSA).

Dans un transformateur standard, le « mécanisme d’attention » est quadratique ($O(n^2)$). Si la longueur du document d’entrée double, le travail de calcul requis pour le traiter quadruple. Chaque mot analyse un mot sur deux.

DSA change cette physique. Cela suppose que pour un mot donné, la grande majorité des autres mots du document ne sont pas pertinents. En implémentant un masque de parcimonie dynamique, DSA réduit la complexité à $O(n \cdot k)$, où $k$ est une petite constante de jetons pertinents.

$\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$

Dans DSA, la matrice $QK^T$ n’est jamais entièrement calculée. Au lieu de cela, les routeurs top-k prédisent quels blocs de texte sont pertinents et ne calculent l’attention que sur ceux-ci. Cela permet aux modèles DeepSeek de gérer plus de 128 000 fenêtres contextuelles sur du matériel qui ne parviendrait pas à exécuter un modèle Llama-3 standard de la même taille.

3. mHC : stabiliser la pile

La dernière pièce du puzzle, détaillée dans l’article Manifold-Constrained Hyper-Connections (mHC) (décembre 2025), résout le problème de stabilité des réseaux profonds.

À mesure que les modèles deviennent plus profonds (plus de couches), le signal qui les traverse a tendance à se dégrader, soit en explosant (devenant infini), soit en disparaissant (devenant nul). Les laboratoires occidentaux résolvent ce problème grâce à la « normalisation des couches », un ajustement statistique par force brute à chaque étape.

mHC adopte une approche géométrique. Il force les matrices de connexion à rester sur un objet mathématique appelé Birkhoff Polytope (matrices doublement stochastiques).

$\sum_{i} M_{ij} = 1, \quad \sum_{j} M_{ij} = 1$

En garantissant mathématiquement que la norme du signal est préservée, DeepSeek supprime le besoin d’étapes de normalisation coûteuses. Cela permet de créer des réseaux beaucoup plus profonds et plus étroits qui s’entraînent plus rapidement et fonctionnent avec une plus grande stabilité.

Le prix darwinien

Pour apprécier pleinement cette divergence architecturale, il faut examiner les aspects économiques qui l’ont motivée.

Dans la Silicon Valley, le coût d’une « mauvaise idée » est faible. Si un ingénieur organise une formation inefficace à 10 %, le coût est absorbé par les subventions massives en capital-risque qui soutiennent l’industrie. Le calcul est traité comme de l’eau ; il coule librement.

A Shenzhen, le coût d’une « mauvaise idée » est existentiel. Les H100 coûtant plus de 100 000 $ sur le marché gris, une inefficacité de 10 % n’est pas un élément simple ; c’est une dépense qui tue le projet. Ce coût de calcul hyper gonflé a agi comme un filtre darwinien. Seul le code le plus efficace a survécu.

Des architectures surchargées, une gestion de mémoire paresseuse et des calculs redondants ont été sélectionnés avec une efficacité brutale. Le résultat est une pile logicielle plus légère, plus simple et bien plus optimisée que ses homologues occidentales. Tandis que les développeurs américains apprenaient à créer des invites, les développeurs chinois apprenaient à réécrire les principes mathématiques fondamentaux du mécanisme d’attention pour économiser un seul gigaoctet de VRAM.

Cette pression économique a créé une divergence permanente. Même si les sanctions étaient levées demain, les laboratoires chinois ne reviendraient pas à la manière « occidentale » de construire des modèles. Ils ont trouvé une meilleure façon.

Le mirage du matériel grand public ?

Une rumeur circule sur GitHub et HuggingFace selon laquelle DeepSeek V4 “fonctionne sur deux RTX 4090”. Cette affirmation est-elle exacte ?

Partiellement.

La densité complète de 671 milliards de paramètres de l’architecture V3 (que la V4 devrait refléter ou dépasser) nécessiterait près de 400 Go de VRAM pour fonctionner à une vitesse commercialement viable, ce qui est impossible pour les cartes grand public (une paire de 4090 a 48 Go).

Cependant, l’architecture Engram tente de changer l’équation. Étant donné que la majeure partie des « connaissances » est déchargée dans la RAM du système (où un utilisateur peut facilement installer 256 Go de DDR5 pour moins de 1 000 $), le GPU n’a théoriquement besoin que du “noyau de raisonnement”.

Cela implique qu’un chercheur de Shenzen, ou un amateur de l’Ohio, disposant d’un poste de travail haut de gamme, peut exécuter un modèle qui se comporte comme un géant aux mille milliards de paramètres, bien qu’avec une latence plus élevée pour les recherches factuelles. Cela menace de briser le monopole du Data Center. Les utilisateurs n’ont plus besoin d’un cluster H100 pour exécuter SOTA AI ; ils ont juste besoin de quantités importantes de RAM bon marché et d’une architecture intelligente.

Le parallèle de l’industrie automobile

L’histoire se répète. Dans les années 1970, l’industrie automobile américaine était accro au déplacement. Les gros moteurs V8 produisaient de la puissance grâce à leur volume. Lorsque la crise pétrolière a frappé, Détroit a été prise au dépourvu.

Le Japon, aux ressources limitées et taxé en carburant, avait passé des décennies à perfectionner le petit moteur quatre cylindres en ligne efficace. Lorsque l’essence est devenue chère, la Honda Civic n’a pas seulement rivalisé avec la Ford Mustang ; il dominait le marché.

L’IA américaine est le V8 des années 1970. Elle est puissante, bruyante et incroyablement inutile. L’IA chinoise est la Civic des années 1980. Elle est simple, efficace et de plus en plus capable de faire le même travail pour une fraction du coût.

Les sanctions américaines étaient censées agir comme un blocus. Au lieu de cela, ils ont fonctionné comme une taxe sur le carbone. En rendant le calcul coûteux, la politique américaine a contraint un rival à inventer le moteur hybride du renseignement. Aujourd’hui, alors que le réseau électrique commence à céder sous la demande en énergie des centres de données occidentaux, la « Lean AI » née de la nécessité pourrait s’avérer être la seule architecture réellement capable d’évoluer.

Nos sources (5)

• dataconomy.com DeepSeek Reveals MODEL1 Architecture in GitHub Update
• arxiv.org Manifold-Constrained Hyper-Connections (mHC)
• rewire.it Engram - How DeepSeek Added a Second Brain to LLMs
• infoq.com DeepSeek V3.2 and Sparse Attention
• subhadipmitra.com DeepSeek mHC and Stability