Etched livre son premier rack d'inférence alors que sa valorisation atteint 21 milliards de dollars

Etched a-t-il commencé à livrer son matériel d'inférence pour l'IA ? La startup affirme avoir livré son premier rack à Jane Street tout en levant 700 millions de dollars, portant sa valorisation à 21 milliards de dollars. À mesure que les charges de travail d'inférence se développent, la bande passante mémoire, la latence d'interconnexion, l'alimentation électrique et l'utilisation soutenue du calcul peuvent devenir aussi importantes que le débit arithmétique de pointe. Les unités de traitement graphique (GPU) traditionnelles sont conçues pour gérer des charges de travail hautement parallèles. Cependant, la génération autorégressive déplace de manière répétée les poids du modèle, les données du cache KV et l'état intermédiaire à travers la hiérarchie de la mémoire, avec des schémas d'accès qui varient selon l'architecture du modèle et la configuration de service.

Pourquoi le premier rack d'Etched compte pour l'économie de l'inférence par l'IA

En bref

• Etched a finalisé un tour de table de 700 millions de dollars mené par Jane Street, doublant sa valorisation théorique à 21 milliards de dollars en un seul mois.
• L'entreprise a livré son premier rack d'inférence à Jane Street, marquant une étape clé alors que le géant du trading quantitatif commence à déployer le matériel dans ses charges de travail.
• Etched a sécurisé plus d'un milliard de dollars de contrats clients auprès d'entreprises d'IA publiques et privées, constituant un premier signal fort de la demande du marché.

La croissance rapide de l'IA générative a accru la demande en infrastructure de calcul haute performance. Durant la phase d'entraînement initiale, les unités de traitement graphique standard se sont révélées très efficaces, car l'entraînement des modèles reposait sur des calculs continus de rétropropagation. Les charges de travail d'entraînement peuvent souvent révéler davantage de parallélisme arithmétique que le décodage autorégressif, ce qui rend les GPU particulièrement bien adaptés au calcul matriciel à grande échelle.

Cependant, à mesure que les applications entrent dans l'ère de l'inférence, les exigences d'ingénierie ont évolué. Contrairement à l'entraînement, l'inférence ne met pas continuellement à jour les poids des modèles ; les performances de service dépendent plutôt fortement du déplacement et du traitement efficaces de l'état du modèle sous contraintes de latence et de débit. Selon les caractéristiques de la charge de travail, la bande passante mémoire et la latence d'interconnexion peuvent laisser les ressources de calcul sous-utilisées, même lorsque le débit arithmétique de pointe est élevé. Etched soutient que le débit d'inférence soutenu sur les accélérateurs d'IA existants peut rester bien en deçà des FLOPs de pointe, les contraintes thermiques, de mémoire et d'interconnexion limitant l'utilisation.

Ces contraintes contribuent à expliquer pourquoi le matériel d'inférence spécialisé attire les investissements. Etched développe un système d'inférence co-conçu verticalement qui englobe le silicium, les racks, la mémoire, les interconnexions, le logiciel et la fabrication. Bien que l'entreprise ait été initialement associée à une conception de silicium spécifique aux Transformeurs, ses systèmes actuels sont conçus pour prendre en charge un plus large éventail d'architectures de modèles de pointe, y compris les modèles à mélange d'experts (MoE) et, selon les dirigeants de l'entreprise, des architectures non basées sur les Transformeurs telles que Mamba. En co-concevant l'ensemble de la pile d'exécution, ce matériel personnalisé vise à réduire la surcharge d'exécution. Le compromis est clair : le matériel personnalisé est généralement moins flexible que les plateformes GPU généralistes pour les charges de travail situées en dehors de son domaine d'inférence cible. Le déploiement de Jane Street offre un premier signal de confiance des clients dans l'architecture d'Etched, bien que les données publiques n'établissent pas encore ses performances à l'échelle de la production ni son avantage en termes de coûts par rapport aux principaux systèmes GPU, comme le discussent les rapports de TechCrunch sur ce tour de table.

Mécanismes internes : inférence à basse tension et mémoire à l'échelle du cluster

À l'échelle du rack, les sous-systèmes de mémoire et les interconnexions de mise à l'échelle peuvent limiter la vitesse à laquelle l'état du modèle se déplace entre la mémoire et les ressources de calcul. Lorsqu'une application exécute un appel d'inférence, le processeur doit lire les données de la mémoire, effectuer l'opération et réécrire le résultat. Dans les configurations standard, ces transferts peuvent introduire de la latence et une pression sur la bande passante à travers la hiérarchie de la mémoire et l'interconnexion de mise à l'échelle.

Pour remédier à ces goulots d'étranglement de l'inférence, Etched associe deux approches architecturales complémentaires destinées aux charges de travail à haut débit et à faible latence :

Inférence à basse tension (LVI) et mémoire à l'échelle du cluster (CSM)

• Inférence à basse tension (Low Voltage Inference - LVI) : Etched positionne la LVI principalement autour de l'inférence à haut débit et la décrit dans le contexte de charges de travail intensives en pré-charge (prefill). L'entreprise indique que des blocs mathématiques à tension réduite permettent une densité de calcul nettement supérieure dans le cadre de l'enveloppe thermique et énergétique disponible, tout en réduisant l'exposition aux contraintes de puissance et de chaleur.
• Mémoire à l'échelle du cluster (Cluster Scale Memory - CSM) : La CSM cible l'accès mémoire à faible latence et est conçue pour résoudre les goulots d'étranglement du décodage. Etched soutient que les systèmes d'IA actuels basés sur la HBM peinent à atteindre une latence de décodage comparable à celle de la SRAM en raison de goulots d'étranglement au niveau du sous-système mémoire et des interconnexions. La CSM résout ce problème en connectant plusieurs puces via une interconnexion propriétaire à large bande passante, créant ainsi un pool de mémoire partagé à faible latence dans tout le domaine de mise à l'échelle.

Une cartographie simplifiée basée sur la description faite par Etched des charges de travail de pré-charge et de décodage peut être représentée ainsi :

[Charges de travail à haut débit / intensives en pré-charge]
                     │
                     ▼
       [Inférence à basse tension — LVI]


[Charges de travail à faible latence / intensives en décodage]
                     │
                     ▼
       [Mémoire à l'échelle du cluster — CSM]

En co-concevant le calcul, la mémoire et les interconnexions, Etched vise à améliorer l'utilisation soutenue de l'inférence. Ensemble, ces approches ciblent différentes contraintes de calcul, de mémoire et d'interconnexion à travers les charges de travail d'inférence.

ASIC spécialisés vs GPU généralistes : évaluer le compromis de la spécialisation

Alors que les environnements informatiques modernes s'orientent vers des plateformes matérielles alternatives, les développeurs doivent réévaluer la manière dont ils gèrent les piles d'exécution et les charges de travail de calcul. La transition des GPU généralistes vers des circuits intégrés propres à une application (ASIC) représente un choix stratégique fondamental. Les équipes d'ingénierie doivent mettre en balance les avantages potentiels en termes d'efficacité du matériel dédié et les risques systémiques liés à l'enfermement logiciel et à des limites architecturales rigides.

Évaluation architecturale : ASIC personnalisé vs GPU généraliste

Le développement d'un ASIC nécessite des ressources d'ingénierie initiales substantielles, des accords de fabrication à long terme et un profil de charge de travail stable et prévisible. Cette approche peut améliorer les performances par jeton et l'efficacité des coûts lorsque les caractéristiques de la charge de travail s'alignent étroitement sur le matériel, mais elle limite la capacité de la plateforme à s'adapter si les architectures de réseaux de neurones sous-jacentes subissent un changement de paradigme soudain. À l'inverse, les GPU bénéficient d'un écosystème logiciel mature et offrent généralement une plus grande flexibilité lorsque les architectures de modèles évoluent, bien que les ASIC spécifiques à une charge de travail puissent offrir une plus grande efficacité lorsque celle-ci correspond étroitement à leur architecture.

Le tableau ci-dessous résume les principaux compromis entre les ASIC spécialisés et les GPU généralistes :

L'évaluation de ces compromis matériels est essentielle à mesure que les organisations étendent leurs clusters de déploiement actifs. Bien que les GPU généralistes restent la référence par défaut pour la recherche standard et l'expérimentation multi-modèle, les ASIC spécialisés s'avèrent de plus en plus attrayants pour des charges de travail de production à grand volume et bien définies, où la minimisation de la latence constitue l'objectif opérationnel prioritaire.

Listes de contrôle d'intégration : comment les équipes d'ingénierie se préparent à la co-conception matériel-logiciel

Pour maintenir la stabilité d'exécution et des performances prévisibles à mesure que les centres de données adoptent du matériel d'inférence spécialisé, les équipes d'ingénierie et de produits doivent mettre en œuvre des flux de travail de co-conception robustes.

Liste de contrôle pour les développeurs

• Établir le profil du modèle et les besoins en mémoire du cache KV : mesurez les poids du modèle, la croissance du cache KV, la mémoire d'activation et la sensibilité à la taille des lots sous le trafic de production.
• Évaluer la compatibilité de l'architecture du modèle : vérifiez que vos réseaux de neurones en production s'alignent sur les opérateurs mathématiques au niveau matériel pris en charge par l'ASIC.
• Évaluer par benchmark la latence d'exécution principale : analysez séparément les étapes de pré-charge et de décodage sous des distributions de lots réalistes pour identifier les goulots d'étranglement potentiels du pipeline.

Liste de contrôle Produit et Stratégie

• Évaluer la stabilité de la charge de travail avant la spécialisation matérielle : determinez la fréquence à laquelle les architectures de modèles de production évoluent avant de vous engager vers un matériel plus spécialisé.
• Auditer l'économie de l'inférence : évaluez par benchmark le débit par dollar et par watt pour justifier les coûts de transition vers des piles matérielles spécialisées.
• Vérifier l'évolutivité du système : assurez-vous que vos plans de déploiement matériel tiennent compte des délais d'approvisionnement en matières premières et des contraintes d'emballage avancé.

En établissant ces directives structurées, les équipes de développement peuvent faire évoluer leurs applications vers des déploiements d'inférence plus fiables et efficaces tout en préservant la continuité opérationnelle.

Points clés pour les équipes d'ingénierie

La première livraison de rack d'Etched apporte à l'entreprise ce qui manquait jusqu'alors à sa valorisation de 21 milliards de dollars : un véritable déploiement client. L'adoption précoce par Jane Street et les plus d'un milliard de dollars de contrats déclarés renforcent l'argument de la demande, mais les contrats et les tests initiaux ne remplacent pas une rentabilité à grande échelle prouvée.

Le pari technique va au-delà d'une simple puce. Etched co-conçoit le silicium, la mémoire, les interconnexions, les racks et les logiciels autour des charges de travail d'inférence, en utilisant la LVI pour les opérations à haut débit et la CSM pour l'accès mémoire à faible latence. Pour les acheteurs, la question centrale est de savoir si ces gains d'efficacité peuvent surpasser la flexibilité, la maturité de l'écosystème, la résilience de la chaîne d'approvisionnement et la trajectoire de mise à niveau offertes par les GPU généralistes.

Références

1. Etched. De zéro à un : première livraison client effectuée. https://www.etched.com/progress/from-zero-to-one

2. Reuters. La startup de puces d'IA Etched valorisée à 21 milliards de dollars lors de son dernier tour de table. https://www.reuters.com/technology/ai-chip-startup-etched-valued-21-billion-latest-funding-round-2026-08-18/

3. TechCrunch. La valorisation d'Etched double à 21 milliards de dollars en un mois. https://techcrunch.com/2026/08/18/etcheds-valuation-doubles-to-21b-in-a-month/

4. TechCrunch. La startup de puces d'IA Etched défie les sceptiques et atteint une valorisation de 10,3 milliards de dollars grâce à des investisseurs prestigieux. https://techcrunch.com/2026/07/23/ai-chip-startup-etched-defies-skeptics-hits-10-3b-valuation-from-big-name-investors/