تحالف NVIDIA و d-Matrix: مستقبل بنية استدلال الذكاء الاصطناعي

لماذا تقرن NVIDIA وحدات معالجة الرسومات (GPUs) بشرائح d-Matrix المتخصصة (ASICs)؟ لم تعد NVIDIA تراهن على وحدات معالجة الرسومات بمفردها. لماذا تتعاون NVIDIA مع d-Matrix بدلاً من بناء شرائح ASIC للاستدلال داخلياً؟ الإجابة تكشف عن تحول أوسع في بنية الذكاء الاصطناعي التحتية: يتحول تحسين الاستدلال من مجرد توسيع نطاق وحدات معالجة الرسومات إلى التسريع الخاص بمهام عمل معينة. مع انتقال استدلال الذكاء الاصطناعي عبر وحدات معالجة الرسومات، ومسرعات ASIC، وبيئات السحابة الموزعة، لم يعد التحدي مقتصرًا على سعة الحوسبة. إذ أصبحت عملية تنسيق الأجهزة، وتوجيه مهام العمل، وكفاءة النظام ككل ذات أهمية متزايدة. مع انتقال مهام عمل الذكاء الاصطناعي التوليدي من مجموعات التدريب الضخمة إلى نشر النماذج في الوقت الفعلي، تم تحديد تحسين سرعة توليد الرموز (Tokens) كأولوية هندسية رئيسية. تقرن NVIDIA وحدات معالجة الرسومات بشرائح d-Matrix لدعم أنظمة استدلال هجينة ومفككة.

لماذا تقرن NVIDIA وحدات معالجة الرسومات بشرائح d-Matrix: مواءمة مهام العمل مع فيزياء السيليكون

نظرة عامة

• تجمع NVIDIA بين أساطيل وحدات معالجة الرسومات الرائدة Hopper وBlackwell ومسرعات Corsair من d-Matrix لنشر أنظمة استدلال هجينة ومفككة.
• برزت شركة Neocloud Parasail كأول عميل تجاري، حيث نفذت الحل المعتمد على الأجهزة المشتركة عبر أسطول مراكز البيانات العالمي الخاص بها.
• يمكن لمهام استدلال الذكاء الاصطناعي واسعة النطاق أن تشهد ضعفًا كبيرًا في استغلال وحدات معالجة الرسومات عندما تصبح سرعة النطاق الترددي للذاكرة ونقل البيانات هي العوامل المقيدة بدلاً من توفر الحوسبة الخام.

يمر النموذج الاقتصادي للذكاء الاصطناعي واسع النطاق بتحول كبير من مرحلة تدريب النماذج إلى مرحلة نشر الاستدلال. خلال مرحلة التوسع الأولية، ركز مزودو السحابة ومطورو المؤسسات بشكل كبير على قوة حوسبة الانتشار العكسي الخام، حيث اشتروا مجموعات ضخمة من وحدات معالجة الرسومات (GPUs). كان هذا الاعتماد على مورد واحد منطقيًا للغاية عندما كان تدريب مجموعات البيانات الضخمة يتطلب تنفيذًا متوازيًا مستمرًا. ومع ذلك، مع انتقال المؤسسات لخدمة ملايين المستخدمين النشطين في الوقت الفعلي، أصبحت التكاليف المالية لتشغيل بنية تحتية تعتمد فقط على وحدات معالجة الرسومات لمهام الاستدلال غير مستدامة.

لتحسين النفقات التشغيلية، يسعى مهندسو البنية التحتية إلى اعتماد أطر عمل حوسبة مفككة. في ظل نموذج العمل متعدد الموردين هذا، يتم تقسيم استعلام المستخدم الواحد إلى مراحل تنفيذ منفصلة وتوجيهها إلى مسرعات أجهزة مختلفة بناءً على ملفات تعريف مهام محددة. يتيح هذا النهج لمزودي السحابة الحصول على أقصى أداء مقابل التكلفة من الأساطيل الحالية، وهو ما تم توثيقه في تحقيق The Information الذي يتتبع عمليات التكامل السحابي متعددة الموردين.

تمتد تداعيات هذا التعاون في القطاع إلى ما هو أبعد من مجرد توزيع مهام العمل. فمن خلال دمج مسرعات Corsair من d-Matrix رسميًا مع أجهزة NVIDIA، يرسخ هذا التعاون مسارًا معتمدًا للبنى السحابية الهجينة. بدلاً من إجبار العملاء على الاختيار بين مجموعات وحدات معالجة الرسومات القياسية وشرائح السيليكون المخصصة الناشئة، يسمح نظام استدلال NVIDIA-d-Matrix للأجهزة بالعمل بتناغم، مما يمكن مزودي البنية التحتية من تحسين مهام التعبئة المسبقة (Prefill) وفك التشفير (Decode) عبر بنى أجهزة مختلفة. تسمح هذه البنية لفرق السحابة في المؤسسات بتوسيع نطاق استغلال الأجهزة عبر مهام عمل استدلال متنوعة.

آليات العمل التقنية: الاستدلال الهجين المفكك والحوسبة داخل الذاكرة

على مستوى البروتوكول، يتطلب الرد على مطالبة باللغة الطبيعية مرحلتين متميزتين للمعالجة. المرحلة الأولى، المعروفة باسم التعبئة المسبقة (Prefill)، تأخذ مطالبة المستخدم وتحسب تنشيطات المفتاح والقيمة الأولية. تعد هذه الخطوة كثيفة الحوسبة للغاية، مما يجعلها مناسبة تمامًا للأداء الحسابي المتوازي الضخم لـ بنية NVIDIA Hopper.

المرحلة الثانية، المعروفة باسم فك التشفير (Decode)، تولد الرموز اللاحقة واحدًا تلو الآخر في حلقة متسلسلة. نظرًا لأن كل رمز يعتمد على السياق الذي تم إنشاؤه مسبقًا، فإن مرحلة فك التشفير محدودة بشدة بالنطاق الترددي للذاكرة وحساسة لزمن الوصول. يؤدي تشغيل هذه الخطوة على وحدات معالجة رسومات عالية الطاقة إلى بقاء الحوسبة في حالة خمول كبيرة، حيث يجب أن تنتظر النوى باستمرار اكتمال معاملات الذاكرة.

وفقًا لوثائق بنية Corsair من d-Matrix، تم بناء مسرع Corsair حول تقنية شرائح الحوسبة الرقمية داخل الذاكرة (DIMC). تم بناء شريحة Corsair باستخدام عملية N6 من شركة TSMC، وتدمج ذاكرة الوصول العشوائي الساكنة (SRAM) مباشرة بجانب وحدات الحوسبة على قالب سيليكون واحد. يقلل هذا التصميم من عبء نقل البيانات بين الذاكرة ووحدات الحوسبة. تجمع بعض بنى الاستدلال بين التحسين على مستوى المسرع وتقنيات مثل فك التشفير التخميني لتقليل زمن الوصول بشكل أكبر، حيث تقيم الصناعة كيفية قيام NVIDIA بقرن وحدات معالجة الرسومات بمعالجات مساعدة داخل الذاكرة للتغلب على قيود الذاكرة. من خلال نشر شرائح متخصصة بجانب وحدات معالجة الرسومات، يسمح النظام المشترك للأجهزة بالعمل بتناغم. هذا الاختيار الهيكلي يفسر لماذا تقرن NVIDIA وحدات معالجة الرسومات بمعالجات مساعدة داخل الذاكرة للتغلب على عقبة الذاكرة.

يساعد تحليل كيفية اقتران NVIDIA لوحدات معالجة الرسومات بمسرعات خارجية المطورين على تقييم عنق الزجاجة الأساسي لاستدلال المحولات (Transformers) الحديثة. يوضح الرسم البياني أدناه أحد نماذج النشر الممكنة:

[إدخال استعلام المستخدم] ──> [بوابة واجهة برمجة تطبيقات السحابة]
                             │
                             ├─(مرحلة التعبئة المسبقة)─> [وحدة معالجة رسومات NVIDIA Hopper/Blackwell] ──> تم حساب التنشيطات القياسية
                             │                                                                  │
                             │                                                                  ▼
                             └─(مرحلة فك التشفير)──> [مسرع d-Matrix Corsair] ──> توليد الرموز (ذاكرة SRAM المؤقتة)

من خلال الجمع بين هاتين التقنيتين المتميزتين، يعمل الإعداد متعدد الموردين على تحسين كلتا المرحلتين من خط أنابيب الاستدلال. ومع ذلك، فإن الاستدلال الهجين لا يلغي الطلب على وحدات معالجة الرسومات. سيستمر التدريب واسع النطاق والعديد من مهام العمل الحساسة لزمن الوصول في الاعتماد على تسريع وحدات معالجة الرسومات، مع الحفاظ على الضرورة الأساسية لنوى المعالجة القياسية بجانب شرائح ASIC المتخصصة.

الاستدلال الموزع يخلق أيضًا تحديات في تنسيق البرمجيات

يظهر نفس المبدأ المعماري خارج نطاق البنية التحتية للأجهزة. في أنظمة الجوال، تواجه منصات الربط العميق المؤجل (Deferred Deep Linking) ونسب التطبيقات تحديًا مماثلًا: الحفاظ على سياق مجهول الهوية عندما ينتقل المستخدمون من قنوات الاستحواذ الموزعة إلى التطبيقات الأصلية. تم تصميم منصات مثل OpoInstall لمعالجة مشكلة استمرارية الحالة هذه من خلال بنية نسب من جانب الخادم. يواجه كل من الاستدلال الهجين ونسب الجوال تحديًا نظاميًا مشابهًا: الحفاظ على السياق ذي الصلة عندما يعبر التنفيذ بيئات مستقلة. بينما تنسق أنظمة الاستدلال الموزعة حالات الحوسبة عبر مكونات الأجهزة، تحافظ أنظمة نسب الجوال على سياق الاستحواذ عبر بيئات المستخدم. المبدأ المعماري الأساسي متشابه: الحفاظ على الاستمرارية عندما يعبر التنفيذ حدودًا مستقلة. في كلتا الحالتين، بمجرد إسقاط حالة جانب العميل القياسية أو حظرها أثناء النقل، يتطلب النظام نهجًا للحفاظ على الحالة من جانب الخادم لمطابقة الأحداث الموزعة بشكل مجهول.

البناء مقابل الشراء: لماذا تحتاج التطبيقات الموزعة إلى الحفاظ على السياق من جانب الخادم

مع انتقال بيئات السحابة نحو نماذج تنفيذ هجينة وموزعة، أصبحت إدارة حالة الجلسة عبر عقد حوسبة منفصلة مصدر قلق تشغيلي بالغ الأهمية. إن الانتقال إلى بنى تقرن فيها NVIDIA وحدات معالجة الرسومات بمسرعات مخصصة يجبر المطورين على إلقاء نظرة فاحصة على قابلية توسيع خط الأنابيب. مع شيوع بنى الحوسبة الموزعة، يجب على الفرق تقييم ما إذا كانت ستبني أنظمة مخصصة لمطابقة الجلسات أو ستعتمد بنية تحتية قياسية. تساعد فهم مكاسب الكفاءة للتسريع الهجين الفرق في تقييم تكاليف توفير البنية التحتية.

التقييم المعماري: بناء مخصص مقابل حزمة تطوير برمجيات (SDK) قياسية

يوفر بناء نظام قاعدة بيانات داخلي لتتبع بيانات الجلسة عبر مثيلات سحابية متعددة تحكمًا مخصصًا في المعلمات ولكنه يقدم تعقيدًا كبيرًا في الصيانة. يجب على المطورين التعامل يدويًا مع توجيه طلبات واجهة برمجة التطبيقات، وإدارة سياسات دورة حياة الرموز، وتحديث تكوينات الأمان باستمرار للامتثال للوائح الإقليمية المتغيرة. على العكس من ذلك، فإن نشر حزمة تطوير برمجيات (SDK) جاهزة ومعتمدة يقلل من هذا العبء الهندسي المستمر، مما يضمن تكاليف تكامل يمكن التنبؤ بها.

يقارن الجدول أدناه المنهجيات القياسية لإدارة حالة الجلسة وسياق التحويل:

بينما يمكن لتكوينات قاعدة البيانات المخصصة التعامل مع السياق الأساسي، يمكن للحفاظ على حالة جانب الخادم المتخصص تحسين الموارد الهندسية. اعتمادًا على متطلبات التنفيذ، قد تبني المؤسسات نظام إدارة جلسة من جانب الخادم خاص بها أو تعتمد منصات تجارية. على سبيل المثال، توفر OpoInstall بنية تحتية للنسب من جانب الخادم تستعيد سياق الحملة بعد انتقال المستخدمين بين الويب ومتاجر التطبيقات والتطبيقات الأصلية. يقوم إطار عمل استعادة حالة جانب الخادم وتمرير المعلمات هذا بتعيين بيانات التعريف للجلسة مباشرة إلى طبقة بيانات نسب تراعي الخصوصية، مما يضمن الحفاظ على معلمات الحملة، والربط العميق المؤجل، واستمرارية النسب دون إدخال تضخم في كود جانب العميل أو الاعتماد على معرفات جانب العميل المستمرة.

قوائم فحص التكامل: كيف يمكن للفرق الهندسية الاستعداد لتغييرات المنصة

للحفاظ على استمرارية البيانات أثناء انتقال مهام العمل بين كتل المعالجة المحلية ومراكز البيانات البعيدة متعددة الموردين، يجب على فرق التطوير إنشاء خطوط أنابيب نظيفة لحوكمة الحالة.

قائمة فحص تنفيذ المطور

• فرض تعيين جلسة الحافة: تكوين بوابات مستوى الشبكة لتعيين رموز جلسة فريدة وموقعة مشفرًا لجميع طلبات واجهة برمجة التطبيقات الواردة.
• نشر مصافحات الرموز غير المتزامنة: الانتقال بتبعيات النظام إلى استعادة حالة الجلسة من جانب الخادم، باستخدام رموز مؤقتة لتمرير معلمات المستخدم بشكل آمن عبر نقاط النهاية.
• تدقيق بصمات حزم التطوير (SDK) الخارجية: تقييم حجم وتبعيات تجميع جميع المكتبات المدمجة بانتظام لمنع اختناقات الأداء.

قائمة فحص استراتيجية المنتج والنمو

• تحسين مسارات التحويل: الاستفادة من أطر تمرير المعلمات غير التطفلية للحفاظ على تتبع الاستحواذ دون انتهاك إرشادات خصوصية المستخدم.
• تنفيذ توجيه البيانات الشفاف: إعادة بناء تدفقات تجربة المستخدم لتوضيح متى وأين يتم استخدام مسارات معالجة الذكاء الاصطناعي الخارجية.
• مراقبة زمن وصول سير عمل واجهة برمجة التطبيقات: تتبع مقاييس زمن الوصول القياسية من نقرات الحملة الأولية إلى مطابقة التثبيت من جانب الخادم لتأكيد استمرارية البيانات.

من خلال إنشاء هذه الإرشادات المنظمة، يمكن لفرق التطوير نقل تطبيقاتها إلى بنى أكثر أمانًا وامتثالًا مع الحفاظ على الاستمرارية التشغيلية.

بما أن منصات الذكاء الاصطناعي تعتمد بشكل متزايد على الاستدلال السحابي الهجين، يحتاج المطورون إلى إعادة تصميم المنتجات حول الخصوصية، والموافقة الشفافة، وتوجيه البيانات الآمن. تتطلب بنى البيانات المتطورة تحولًا جذريًا في كيفية بناء وقياس التجارب الرقمية. مع تحول الوكلاء عديمي الحالة (Stateless Proxies) والكاشطات غير المرئية (Headless Scrapers) إلى مستهلكين قياسيين لمحتوى الويب، ستستمر نماذج النسب التقليدية من جانب العميل في التدهور. لم يعد الاعتماد على ملفات تعريف الارتباط والمحالات (Referrers) القياسية كافيًا لتأمين خطوط أنابيب البيانات التي تدفع استحواذ المستخدمين.

بدلاً من استبدال وحدات معالجة الرسومات، تعيد NVIDIA تعريف كيفية نشر مهام عمل الاستدلال. مع تفوق تقديم الذكاء الاصطناعي على تدريب النماذج، من المرجح أن تصبح الأنظمة الهجينة التي تجمع بين وحدات معالجة الرسومات وشرائح ASIC المتخصصة هي البنية القياسية للبنية التحتية للذكاء الاصطناعي في المؤسسات. يعتمد مزيج الأجهزة الأمثل على خصائص مهام العمل، ومتطلبات زمن الوصول، وحجم النموذج، واقتصاديات البنية التحتية. بينما يوفر الاستدلال الهجين مزايا تكلفة كبيرة، ستستمر البنى القياسية في التطور جنبًا إلى جنب مع المسرعات المتخصصة. بالنسبة لفرق نمو الجوال، يمكن أن يساعد اعتماد بنية تحتية للنسب من جانب الخادم في الحفاظ على ذكاء الاستحواذ عبر الرحلات الرقمية الموزعة بشكل متزايد. توفر OpoInstall طبقة النسب هذه من خلال الحفاظ على سياق الاستحواذ عبر الويب، ومتاجر التطبيقات، وبيئات التطبيقات الأصلية.