Etched envía su primer rack de inferencia mientras su valoración alcanza los 21.000 millones de dólares

¿Ha comenzado Etched a enviar su hardware de inferencia de IA? La startup afirma haber entregado su primer rack a Jane Street al mismo tiempo que ha recaudado 700 millones de dólares en una ronda con una valoración de 21.000 millones de dólares. A medida que las cargas de trabajo de inferencia se amplían, el ancho de banda de la memoria, la latencia de interconexión, el suministro de energía y la utilización sostenida del cálculo pueden volverse tan importantes como el rendimiento aritmético pico. Las unidades de procesamiento gráfico (GPU) tradicionales están diseñadas para gestionar cargas de trabajo altamente paralelas. Sin embargo, la generación autorregresiva mueve repetidamente los pesos del modelo, los datos de la caché KV y el estado intermedio a través de la jerarquía de memoria, con patrones de acceso que varían según la arquitectura del modelo y la configuración de servicio.

Por qué el primer rack de Etched es importante para la economía de la inferencia de IA

De un vistazo

• Etched completó una ronda de financiación de 700 millones de dólares liderada por Jane Street, duplicando su valoración en papel a 21.000 millones de dólares en un solo mes.
• La empresa envió su primer rack de inferencia a Jane Street, lo que marca un hito clave mientras el gigante del trading cuantitativo comienza a implementar el hardware en sus cargas de trabajo.
• Etched ha asegurado más de 1.000 millones de dólares en contratos con clientes de empresas de IA públicas y privadas, lo que proporciona una señal temprana de la demanda del mercado.

El rápido crecimiento de la IA generativa ha incrementado la demanda de infraestructura informática de alto rendimiento. Durante la era inicial de entrenamiento, las unidades de procesamiento gráfico estándar fueron muy eficaces porque el entrenamiento de modelos se basaba en cálculos de retropropagación continuos. Las cargas de trabajo de entrenamiento a menudo pueden exponer una mayor paralelización aritmética que la decodificación autorregresiva, lo que hace que las GPU sean especialmente adecuadas para el cálculo matricial a gran escala.

Sin embargo, a medida que las aplicaciones transicionan hacia la era de la inferencia, los requisitos de ingeniería han cambiado. A diferencia del entrenamiento, la inferencia no actualiza repetidamente los pesos del modelo; por el contrario, el rendimiento del servicio depende en gran medida de mover y procesar de forma eficiente el estado del modelo bajo restricciones de latencia y rendimiento. Dependiendo de las características de la carga de trabajo, el ancho de banda de la memoria y la latencia de interconexión pueden dejar los recursos informáticos subutilizados incluso cuando el rendimiento aritmético máximo es alto. Etched argumenta que el rendimiento de inferencia sostenido en los aceleradores de IA existentes puede mantenerse muy por debajo de los FLOPs máximos, ya que las limitaciones térmicas, de memoria y de interconexión limitan la utilización.

Estas limitaciones ayudan a explicar por qué el hardware de inferencia especializado está atraiendo inversión. Etched apuesta por un sistema de inferencia codesigned verticalmente que abarca silicio, racks, memoria, interconexiones, software y fabricación. Aunque la empresa se asociaba originalmente con un diseño de silicio específico para Transformer, sus sistemas actuales están diseñados para admitir una gama más amplia de arquitecturas de modelos de frontera, incluidos modelos de mezcla de expertos (MoE) y, según ejecutivos de la empresa, arquitecturas ajenas a Transformer como Mamba. Al codesignar toda la ejecución, el hardware personalizado pretende reducir los costes operativos de ejecución. La compensación es clara: el hardware personalizado suele ser menos flexible que las plataformas GPU de propósito general para cargas de trabajo fuera de su dominio de inferencia objetivo. La implementación de Jane Street proporciona una señal temprana de confianza del cliente en la arquitectura de Etched, aunque los datos públicos aún no establecen su rendimiento a escala de producción ni su ventaja de coste frente a los sistemas de GPU líderes, tal como se analiza en el reportaje de TechCrunch sobre la ronda de financiación.

Mecánica interna: Inferencia de bajo voltaje y memoria a escala de clúster

A escala de rack, los subsistemas de memoria y las interconexiones de ampliación pueden limitar la rapidez con la que el estado del modelo se desplaza entre la memoria y los recursos informáticos. Cuando una aplicación ejecuta una llamada de inferencia, el procesador debe leer los datos de la memoria, completar la operación y escribir la salida de vuelta. En las configuraciones estándar, estas transferencias pueden introducir latencia y presión de ancho de banda en toda la jerarquía de memoria y en la interconexión de ampliación.

Para abordar estos cuellos de botella en la inferencia, Etched combina dos enfoques arquitectónicos complementarios para cargas de trabajo de alto rendimiento y baja latencia:

Inferencia de bajo voltaje (LVI) y memoria a escala de clúster (CSM)

• Inferencia de bajo voltaje (LVI): Etched posiciona la LVI principalmente en torno a la inferencia de alto rendimiento y la describe en el contexto de cargas de trabajo con un uso intensivo de prefill. Etched afirma que los bloques matemáticos de menor voltaje permiten una densidad de cálculo sustancialmente mayor dentro del margen térmico y de energía disponible, al tiempo que reducen la exposición a dichas limitaciones.
• Memoria a escala de clúster (CSM): La CSM se centra en el acceso a la memoria de baja latencia y está diseñada para abordar los cuellos de botella en la decodificación. Etched argumenta que los sistemas de IA basados en HBM actuales luchan por lograr una latencia de decodificación a nivel de SRAM debido a los cuellos de botella en el subsistema de memoria y la interconexión. La CSM soluciona esto conectando varios chips a través de una interconexión propietaria de gran ancho de banda, creando un grupo de memoria compartido y de baja latencia en todo el dominio de ampliación.

Un mapeo simplificado basado en la descripción de Etched de las cargas de trabajo de prefill y decodificación se puede representar como:

[Cargas de trabajo de alto rendimiento / con uso intensivo de Prefill]
                     │
                     ▼
       [Inferencia de bajo voltaje — LVI]


[Cargas de trabajo de baja latencia / con uso intensivo de decodificación]
                     │
                     ▼
       [Memoria a escala de clúster — CSM]

Al codesignar el cálculo, la memoria y las interconexiones, Etched busca mejorar la utilización sostenida de la inferencia. Juntos, estos enfoques abordan diferentes limitaciones de computación, memoria e interconexión en las cargas de trabajo de inferencia.

ASIC especializados frente a GPU de propósito general: Evaluación de la compensación de la especialización

A medida que los entornos informáticos modernos evolucionan hacia plataformas de hardware alternativas, los desarrolladores deben reevaluar cómo gestionan las pilas de ejecución y las cargas de trabajo computacionales. La transición de las GPU de propósito general a los circuitos integrados de aplicación específica (ASIC) representa una decisión estratégica fundamental. Los equipos de ingeniería deben sopesar las ventajas potenciales de eficiencia del hardware dedicado frente a los riesgos sistémicos de la dependencia de proveedores y los límites arquitectónicos rígidos.

Evaluación arquitectónica: ASIC personalizado frente a GPU de propósito general

Desarrollar un ASIC requiere importantes recursos de ingeniería iniciales, acuerdos de fabricación a largo plazo y un perfil de carga de trabajo estable y predecible. Este enfoque puede mejorar el rendimiento por token y la eficiencia de costes cuando las características de la carga de trabajo se alinean estrechamente con el hardware, pero limita la capacidad de la plataforma para adaptarse si las arquitecturas de redes neuronales subyacentes experimentan cambios importantes. Por el contrario, las GPU se benefician de un ecosistema de software maduro y generalmente ofrecen una mayor flexibilidad a medida que evolucionan las arquitecturas de los modelos, aunque los ASIC específicos para cargas de trabajo pueden ofrecer una mayor eficiencia cuando la carga coincide estrechamente con su arquitectura.

La tabla siguiente resume las compensaciones clave entre los ASIC especializados y las GPU de propósito general:

Evaluar estas compensaciones de hardware es fundamental a medida que las organizaciones escalan sus clústeres de implementación activos. Si bien las GPU de propósito general siguen siendo la opción predeterminada para la investigación estándar y la experimentación con múltiples modelos, los ASIC especializados resultan cada vez más atractivos para cargas de trabajo de producción de gran volumen y bien definidas, donde minimizar la latencia es el principal objetivo operativo.

Listas de comprobación de integración: Cómo se preparan los equipos de ingeniería para el codesiseño de hardware y software

Para mantener la estabilidad de la ejecución y un rendimiento predecible a medida que los centros de datos adoptan hardware de inferencia especializado, los equipos de ingeniería y de producto deben implementar flujos de trabajo de codesiseño sólidos.

Lista de comprobación para el desarrollador

• Perfil de los requisitos de memoria del modelo y de la caché KV: Mida los pesos del modelo, el crecimiento de la caché KV, la memoria de activación y la sensibilidad al tamaño del lote bajo el tráfico de producción.
• Evaluar la compatibilidad de la arquitectura del modelo: Verifique que sus redes neuronales de producción se alineen con los operadores matemáticos a nivel de hardware compatibles con el ASIC.
• Evaluar comparativamente la latencia de ejecución principal: Analice las fases de prefill y decodificación por separado bajo distribuciones de lotes realistas para identificar posibles cuellos de botella en la canalización.

Lista de comprobación de producto y estrategia

• Evaluar la estabilidad de la carga de trabajo antes de la especialización de hardware: Determine con qué frecuencia cambian las arquitecturas de los modelos de producción antes de comprometerse con un hardware más especializado.
• Auditar la economía de la inferencia: Compare el rendimiento por dólar y por vatio para justificar los costes de cambio asociados a la adopción de pilas de hardware especializadas.
• Verificar la escalabilidad del sistema: Asegúrese de que sus planes de implementación de hardware tengan en cuenta los plazos de entrega de materias primas y las restricciones de suministro de empaquetado avanzado.

Al establecer estas directrices estructuradas, los equipos de desarrollo pueden transicionar sus aplicaciones hacia implementaciones de inferencia más fiables y eficientes, manteniendo al mismo tiempo la continuidad operativa.

Puntos clave para los equipos de ingeniería

El primer envío de racks de Etched le otorga a la empresa algo que su valoración de 21.000 millones de dólares no tenía hasta ahora: una implementación real en un cliente. La adopción temprana por parte de Jane Street y los más de 1.000 millones de dólares en contratos reportados refuerzan la hipótesis de demanda, pero los contratos y las pruebas preliminares no equivalen a una economía a gran escala probada.

La apuesta técnica va más allá de un solo chip. Etched está codesignando silicio, memoria, interconexiones, racks y software en torno a las cargas de trabajo de inferencia, utilizando LVI para operaciones de alto rendimiento y CSM para el acceso a la memoria de baja latencia. Para los compradores, la pregunta central es si esas ganancias de eficiencia pueden superar la flexibilidad, la madurez del ecosistema, la resiliencia de la cadena de suministro y la ruta de actualización que ofrecen las GPU de propósito general.

Referencias

1. Etched. From Zero to One: Shipped First Customer Delivery. https://www.etched.com/progress/from-zero-to-one

2. Reuters. AI chip startup Etched valued at $21 billion in latest funding round. https://www.reuters.com/technology/ai-chip-startup-etched-valued-21-billion-latest-funding-round-2026-08-18/

3. TechCrunch. Etched’s valuation doubles to $21B in a month. https://techcrunch.com/2026/08/18/etcheds-valuation-doubles-to-21b-in-a-month/

4. TechCrunch. AI chip startup Etched defies skeptics, hits $10.3B valuation from big-name investors. https://techcrunch.com/2026/07/23/ai-chip-startup-etched-defies-skeptics-hits-10-3b-valuation-from-big-name-investors/