Etched ने वैल्यूएशन $21B पर पहुंचने के साथ पहला इन्फेरेंस रैक किया शिप

क्या Etched ने अपना AI इन्फेरेंस हार्डवेयर शिप करना शुरू कर दिया है? इस स्टार्टअप का कहना है कि उसने $21 बिलियन के वैल्यूएशन पर $700 मिलियन जुटाने के साथ Jane Street को अपना पहला रैक डिलीवर कर दिया है। जैसे-जैसे इन्फेरेंस वर्कलोड्स का दायरा बढ़ रहा है, मेमोरी बैंडविड्थ, इंटरकनेक्ट लेटेंसी, पावर डिलीवरी और निरंतर कंप्यूट यूटिलाइजेशन, पीक अर्थमैटिक थ्रूपुट जितने महत्वपूर्ण हो सकते हैं। पारंपरिक ग्राफिक्स प्रोसेसिंग यूनिट (GPUs) को अत्यधिक समानांतर (parallel) वर्कलोड को संभालने के लिए डिज़ाइन किया गया है। हालांकि, ऑटोरिग्रेसिव जनरेशन बार-बार मॉडल वेट, KV-कैश डेटा और इंटरमीडिएट स्टेट को मेमोरी पदानुक्रम के माध्यम से ले जाती है, जिसमें एक्सेस पैटर्न मॉडल आर्किटेक्चर और सर्विंग कॉन्फ़िगरेशन के अनुसार भिन्न होते हैं।

AI इन्फेरेंस इकोनॉमिक्स के लिए Etched का पहला रैक क्यों मायने रखता है

एक नज़र में

• Etched ने Jane Street के नेतृत्व में $700 मिलियन का फंडिंग राउंड पूरा किया, जिससे एक ही महीने के भीतर इसका पेपर वैल्यूएशन बढ़कर $21 बिलियन हो गया।
• कंपनी ने Jane Street को अपना पहला इन्फेरेंस रैक शिप किया, जो एक महत्वपूर्ण मील का पत्थर है क्योंकि यह क्वांटिटेटिव ट्रेडिंग दिग्गज अपने वर्कलोड में हार्डवेयर को तैनात करना शुरू कर रहा है।
• Etched ने पब्लिक और प्राइवेट AI कंपनियों में $1 बिलियन से अधिक के कस्टमर कॉन्ट्रैक्ट सुरक्षित कर लिया है, जो ग्राहकों की मांग का शुरुआती संकेत देता है।

जेनरेटिव AI की तीव्र वृद्धि ने उच्च-प्रदर्शन कंप्यूटिंग बुनियादी ढांचे की मांग को बढ़ा दिया है। प्रारंभिक प्रशिक्षण युग के दौरान, मानक ग्राफिक्स प्रोसेसिंग यूनिट अत्यधिक प्रभावी थे क्योंकि मॉडल प्रशिक्षण निरंतर बैकप्रोपैगेंशन गणनाओं पर निर्भर करता था। प्रशिक्षण वर्कलोड अक्सर ऑटोरिग्रेसिव डिकोडिंग की तुलना में अधिक अर्थमैटिक समवर्तीता (parallelism) को उजागर कर सकते हैं, जिससे GPUs बड़े पैमाने पर मैट्रिक्स गणना के लिए विशेष रूप से उपयुक्त बन जाते हैं।

हालांकि, जैसे-जैसे एप्लीकेशन इन्फेरेंस युग की ओर बढ़ रहे हैं, इंजीनियरिंग की आवश्यकताएं बदल गई हैं। प्रशिक्षण के विपरीत, इन्फेरेंस बार-बार मॉडल वेट को अपडेट नहीं करता है; इसके बजाय सर्विंग प्रदर्शन लेटेंसी और थ्रूपुट बाधाओं के तहत मॉडल स्टेट को कुशलतापूर्वक स्थानांतरित करने और संसाधित करने पर अत्यधिक निर्भर करता है। वर्कलोड विशेषताओं के आधार पर, मेमोरी बैंडविड्थ और इंटरकनेक्ट लेटेंसी कंप्यूट संसाधनों को कम उपयोग में छोड़ सकती है, तब भी जब पीक अर्थमैटिक थ्रूपुट उच्च हो। Etched का तर्क है कि मौजूदा AI एक्सीलेरेटर पर निरंतर इन्फेरेंस थ्रूपुट पीक FLOPs से काफी नीचे रह सकता है क्योंकि थर्मल, मेमोरी और इंटरकनेक्ट बाधाएं उपयोग को सीमित करती हैं।

ये बाधाएं यह समझाने में मदद करती हैं कि विशेष इन्फेरेंस हार्डवेयर क्यों निवेश आकर्षित कर रहा है। Etched सिलिकॉन, रैक, मेमोरी, इंटरकनेक्ट्स, सॉफ्टवेयर और विनिर्माण में फैली एक लंबवत रूप से सह-डिज़ाइन की गई इन्फेरेंस प्रणाली को आगे बढ़ा रहा है। हालांकि कंपनी शुरू में एक ट्रांसफॉर्मर-विशिष्ट सिलिकॉन डिज़ाइन से जुड़ी थी, लेकिन इसकी वर्तमान प्रणालियों को मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल सहित फ्रंटियर मॉडल आर्किटेक्चर की एक व्यापक श्रृंखला का समर्थन करने के लिए डिज़ाइन किया गया है, और कंपनी के अधिकारियों के अनुसार, मम्बा जैसे गैर-ट्रांसफॉर्मर आर्किटेक्चर का भी। संपूर्ण निष्पादन स्टैक को सह-डिज़ाइन करके, कस्टम हार्डवेयर का उद्देश्य निष्पादन ओवरहेड को कम करना है। ट्रेड-ऑफ़ स्पष्ट है: कस्टम हार्डवेयर अपने लक्षित इन्फेरेंस डोमेन के बाहर के वर्कलोड के लिए सामान्य प्रयोजन वाले GPU प्लेटफ़ॉर्म की तुलना में आम तौर पर कम लचीला है। Jane Street की तैनाती Etched के आर्किटेक्चर में ग्राहक के विश्वास का एक शुरुआती संकेत प्रदान करती है, हालांकि सार्वजनिक डेटा अभी तक प्रमुख GPU प्रणालियों की तुलना में इसके उत्पादन-स्केल प्रदर्शन या लागत लाभ को स्थापित नहीं करता है, जैसा कि फंडिंग राउंड पर TechCrunch की रिपोर्टिंग में चर्चा की गई है।

अंडर-द-हुड मैकेनिक्स: लो वोल्टेज इन्फेरेंस और क्लस्टर स्केल मेमोरी

रैक स्केल पर, मेमोरी सबसिस्टम और स्केल-अप इंटरकनेक्ट इस बात को सीमित कर सकते हैं कि मॉडल स्टेट मेमोरी और कंप्यूट संसाधनों के बीच कितनी तेज़ी से स्थानांतरित होता है। जब कोई एप्लीकेशन इन्फेरेंस कॉल निष्पादित करता है, तो प्रोसेसर को मेमोरी से डेटा पढ़ना होता है, ऑपरेशन पूरा करना होता है, और आउटपुट को वापस लिखना होता है। मानक कॉन्फ़िगरेशन में, ये स्थानांतरण मेमोरी पदानुक्रम और स्केल-अप इंटरकनेक्ट में लेटेंसी और बैंडविड्थ का दबाव पैदा कर सकते हैं।

इन इन्फेरेंस बाधाओं को दूर करने के लिए, Etched उच्च-थ्रूपुट और निम्न-लेटेंसी वर्कलोड के लिए दो पूरक वास्तुशिल्प दृष्टिकोणों को जोड़ती है:

लो वोल्टेज इन्फेरेंस (LVI) और क्लस्टर स्केल मेमोरी (CSM)

• लो वोल्टेज इन्फेरेंस (LVI): Etched मुख्य रूप से उच्च-थ्रूपुट इन्फेरेंस के आसपास LVI स्थिति निर्धारित करती है और प्रीफिल-हैवी वर्कलोड के संदर्भ में इसका वर्णन करती है। Etched का कहना है कि कम-वोल्टेज वाले गणित ब्लॉक उपलब्ध बिजली और थर्मल लिफाफे के भीतर काफी अधिक कंप्यूट घनत्व की अनुमति देते हैं, साथ ही बिजली और थर्मल बाधाओं के संपर्क को कम करते हैं।
• क्लस्टर स्केल मेमोरी (CSM): CSM कम-लेटेंसी मेमोरी एक्सेस को लक्षित करता है और इसे डिकोड बाधाओं को दूर करने के लिए डिज़ाइन किया गया है। Etched का तर्क है कि आज के HBM-आधारित AI सिस्टम मेमोरी-सबसिस्टम और इंटरकनेक्ट बाधाओं के कारण SRAM-स्तरीय डिकोड लेटेंसी प्राप्त करने के लिए संघर्ष करते हैं। CSM एक मालिकाना हाई-बैंडविड्थ इंटरकनेक्ट के माध्यम से कई चिप्स को जोड़कर इस समस्या का समाधान करता है, जिससे स्केल-अप डोमेन में एक साझा, कम-लेटेंसी मेमोरी पूल बनता है।

प्रीफिल और डिकोड वर्कलोड के Etched के विवरण के आधार पर एक सरलीकृत मैपिंग को इस प्रकार दर्शाया जा सकता है:

[High-Throughput / Prefill-Heavy Workloads]
                     │
                     ▼
       [Low Voltage Inference — LVI]


[Low-Latency / Decode-Heavy Workloads]
                     │
                     ▼
       [Cluster Scale Memory — CSM]

कंप्यूट, मेमोरी और इंटरकनेक्ट को सह-डिज़ाइन करके, Etched का उद्देश्य निरंतर इन्फेरेंस उपयोग में सुधार करना है। साथ ही, ये दृष्टिकोण इन्फेरेंस वर्कलोड में विभिन्न कंप्यूट, मेमोरी और इंटरकनेक्ट बाधाओं को लक्षित करते हैं।

विशेषीकृत ASICs बनाम सामान्य-उद्देश्य वाले GPUs: विशेषज्ञता ट्रेड-ऑफ़ का मूल्यांकन

जैसे-जैसे आधुनिक कंप्यूटिंग वातावरण वैकल्पिक हार्डवेयर प्लेटफॉर्म की ओर बढ़ रहे हैं, डेवलपर्स को यह फिर से मूल्यांकन करना होगा कि वे निष्पादन स्टैक और कम्प्यूटेशनल वर्कलोड को कैसे प्रबंधित करते हैं। सामान्य-उद्देश्य वाले GPUs से एप्लीकेशन-विशिष्ट इंटीग्रेटेड सर्किट (ASICs) में संक्रमण एक मौलिक रणनीतिक विकल्प का प्रतिनिधित्व करता है। इंजीनियरिंग टीमों को सॉफ्टवेयर लॉक-इन और कठोर वास्तुशिल्प सीमाओं के प्रणालीगत जोखिमों के मुकाबले समर्पित हार्डवेयर के संभावित दक्षता लाभों को तौलना चाहिए।

वास्तुशिल्प मूल्यांकन: कस्टम ASIC बनाम सामान्य-उद्देश्य वाला GPU

एक ASIC विकसित करने के लिए पर्याप्त अग्रिम इंजीनियरिंग संसाधनों, दीर्घकालिक विनिर्माण समझौतों और एक स्थिर, अनुमानित वर्कलोड प्रोफ़ाइल की आवश्यकता होती है। यह दृष्टिकोण प्रति-टोकन प्रदर्शन और लागत दक्षता में सुधार कर सकता है जब वर्कलोड विशेषताएं हार्डवेयर के साथ निकटता से संरेखित होती हैं, लेकिन अंतर्निहित तंत्रिका नेटवर्क आर्किटेक्चर में अचानक कोई बदलाव होने पर प्लेटफॉर्म की अनुकूलन क्षमता सीमित हो जाती है। इसके विपरीत, GPUs को एक परिपक्व सॉफ्टवेयर इकोसिस्टम से लाभ होता है और मॉडल आर्किटेक्चर विकसित होने पर वे आम तौर पर अधिक लचीलापन प्रदान करते हैं, हालांकि जब वर्कलोड उनके आर्किटेक्चर से मेल खाता है तो वर्कलोड-विशिष्ट ASIC अधिक दक्षता प्रदान कर सकते हैं।

नीचे दी गई तालिका विशेष ASICs और सामान्य-उद्देश्य वाले GPUs के बीच मुख्य ट्रेड-ऑफ़ को रेखांकित करती है:

इन हार्डवेयर ट्रेड-ऑफ़ का मूल्यांकन करना महत्वपूर्ण है क्योंकि संगठन अपने सक्रिय डिप्लॉयमेंट क्लस्टर को बढ़ाते हैं। जबकि सामान्य-उद्देश्य वाले GPUs मानक अनुसंधान और बहु-मॉडल प्रयोग के लिए डिफ़ॉल्ट बने हुए हैं, उच्च-मात्रा, अच्छी तरह से परिभाषित उत्पादन वर्कलोड के लिए विशेष ASICs तेजी से आकर्षक हैं जहां लेटेंसी को कम करना प्राथमिक परिचालन उद्देश्य है।

इंटीग्रेशन चेकलिस्ट: इंजीनियरिंग टीमें हार्डवेयर-सॉफ्टवेयर सह-डिज़ाइन के लिए कैसे तैयारी करती हैं

जैसे-जैसे डेटा सेंटर विशेष इन्फेरेंस हार्डवेयर को अपनाते हैं, निष्पादन स्थिरता और अनुमानित प्रदर्शन बनाए रखने के लिए, इंजीनियरिंग और उत्पाद टीमों को मजबूत सह-डिज़ाइन वर्कफ़्लो अपनाना चाहिए।

डेवलपर कार्यान्वयन चेकलिस्ट

• प्रोफाइल मॉडल और KV-कैश मेमोरी आवश्यकताएं: उत्पादन ट्रैफ़िक के तहत मॉडल वेट, KV-कैश वृद्धि, एक्टिवेशन मेमोरी और बैच-आकार संवेदनशीलता को मापें।
• मॉडल आर्किटेक्चर संगतता का आकलन करें: सत्यापित करें कि आपके उत्पादन तंत्रिका नेटवर्क ASIC द्वारा समर्थित हार्डवेयर-स्तरीय गणितीय ऑपरेटरों के साथ संरेखित हैं।
• बेंचमार्क कोर निष्पादन लेटेंसी: संभावित पाइपलाइन बाधाओं की पहचान करने के लिए यथार्थवादी बैच वितरण के तहत प्रीफिल और डिकोड चरणों को अलग-अलग प्रोफाइल करें।

उत्पाद और रणनीति चेकलिस्ट

• हार्डवेयर विशेषज्ञता से पहले वर्कलोड स्थिरता का आकलन करें: अधिक विशेष हार्डवेयर के लिए प्रतिबद्ध होने से पहले निर्धारित करें कि उत्पादन मॉडल आर्किटेक्चर कितनी बार बदलते हैं।
• इन्फेरेंस इकोनॉमिक्स का ऑडिट करें: विशेष हार्डवेयर स्टैक को अपनाने की स्विचिंग लागत को उचित ठहराने के लिए प्रति डॉलर और प्रति वाट थ्रूपुट का बेंचमार्क करें।
• सिस्टम स्केलेबिलिटी सत्यापित करें: सुनिश्चित करें कि आपकी हार्डवेयर डिप्लॉयमेंट योजनाएं कच्चे माल के लीड समय और उन्नत पैकेजिंग आपूर्ति बाधाओं को ध्यान में रखती हैं।

इन संरचित दिशानिर्देशों को स्थापित करके, विकास टीमें परिचालन निरंतरता बनाए रखते हुए अपने एप्लीकेशन को अधिक विश्वसनीय और कुशल इन्फेरेंस डिप्लॉयमेंट में स्थानांतरित कर सकती हैं।

इंजीनियरिंग टीमों के लिए मुख्य बातें

Etched का पहला रैक शिपमेंट कंपनी को वह चीज़ देता है जिसकी उसके $21 बिलियन के वैल्यूएशन में पहले कमी थी: एक वास्तविक ग्राहक डिप्लॉयमेंट। Jane Street का शुरुआती प्रग्रहण और $1 बिलियन से अधिक के रिपोर्ट किए गए अनुबंध मांग के मामले को मजबूत करते हैं, लेकिन अनुबंध और शुरुआती परीक्षण सिद्ध बड़े पैमाने की अर्थशास्त्र के समान नहीं हैं।

तकनीकी दांव एक चिप से कहीं अधिक व्यापक है। Etched उच्च-थ्रूपुट संचालन के लिए LVI और कम-लेटेंसी मेमोरी एक्सेस के लिए CSM का उपयोग करके इन्फेरेंस वर्कलोड के चारों ओर सिलिकॉन, मेमोरी, इंटरकनेक्ट, रैक और सॉफ्टवेयर को सह-डिज़ाइन कर रहा है। खरीदारों के लिए, केंद्रीय प्रश्न यह है कि क्या वे दक्षता लाभ सामान्य-उद्देश्य वाले GPUs द्वारा पेश किए गए लचीलेपन, इकोसिस्टम परिपक्वता, आपूर्ति-श्रृंखला लचीलेपन और अपग्रेड पथ से अधिक हो सकते हैं।

संदर्भ

1. Etched. From Zero to One: Shipped First Customer Delivery. https://www.etched.com/progress/from-zero-to-one

2. Reuters. AI chip startup Etched valued at $21 billion in latest funding round. https://www.reuters.com/technology/ai-chip-startup-etched-valued-21-billion-latest-funding-round-2026-08-18/

3. TechCrunch. Etched’s valuation doubles to $21B in a month. https://techcrunch.com/2026/08/18/etcheds-valuation-doubles-to-21b-in-a-month/

4. TechCrunch. AI chip startup Etched defies skeptics, hits $10.3B valuation from big-name investors. https://techcrunch.com/2026/07/23/ai-chip-startup-etched-defies-skeptics-hits-10-3b-valuation-from-big-name-investors/