أخبار عربية
أحدث
الذكاء الاصطناعي والتكنولوجيا

رسوم CUDA البيانية ونماذج الاستدلال والخدمة المفصولة

صورة توضيحية لكابلات ألياف الاتصالات في صندوق أرضي، وليست عتادًا لوحدات GPU.
صورة توضيحية لكابلات ألياف الاتصالات في صندوق أرضي، وليست عتادًا لوحدات GPU.

يدفع الذكاء الاصطناعي الحديث أداء البنية التحتية إلى الحدود الفيزيائية للسيليكون والعناقيد عبر إزالة عبء وحدة CPU، وحلقات الاستدلال أثناء الاستنتاج، وتوجيه عناقيد GPU المتخصصة بحسب المرحلة. وتشغّل هذه التقنيات الثلاث أسرع أنظمة الذكاء الاصطناعي الإنتاجية وأذكاها اليوم.

1. رسوم CUDA البيانية ودمج النوى: إزالة عبء CPU & الذاكرة

مع تضاعف سرعة وحدات GPU الحديثة (مثل H100 وB200) تضاعفًا هائلًا، قد يستغرق تنفيذ نواة GPU خفيفة واحدة من 2 إلى 5 ميكروثوانٍ فقط. غير أن وحدة CPU تستغرق غالبًا من 10 إلى 20 ميكروثانية لمجرد تحضير تلك النواة والتحقق منها وإطلاقها عبر مشغّل PCIe—فتبقى وحدة GPU التي تكلّف ملايين الدولارات خاملة تمامًا في انتظار تعليمات CPU.

  • دمج النوى (الجمع بين العمليات لتوفير الذاكرة وعمليات الإطلاق).
  • عنق الزجاجة في غياب الدمج. تنفّذ طبقة Transformer القياسية عشرات العمليات الصغيرة بالتتابع (مثل LayerNorm → Linear → Add Residual → GeLU). ودون الدمج تُطلق GPU نوى منفصلة لكل خطوة، وتكتب الموتّرات الوسيطة إلى HBM (VRAM) البطيئة ثم تقرؤها فورًا مرة أخرى للخطوة التالية.
  • التنفيذ المدموج. تدمج المترجمات مثل torch.compile (TorchInductor) وTensorRT-LLM عدة عمليات عنصرية وعمليات اختزال في نواة CUDA/Triton مخصصة واحدة. تُحمَّل القيم من HBM مرة واحدة، وتُحوَّل داخل السجلات/SRAM فائقة السرعة على الرقاقة، ولا تُكتب مرة أخرى إلى HBM إلا في النهاية تمامًا—مما يقلّل بشكل كبير حركة عرض نطاق الذاكرة وعدد عمليات إطلاق النوى.
  • رسوم CUDA البيانية (إعادة تشغيل خطوط تنفيذ كاملة دفعة واحدة).
  • التسجيل وإعادة التشغيل. حتى بعد دمج النوى، لا يزال التمرير الأمامي في LLM يتطلب مئات عمليات إطلاق النوى لكل رمز مولَّد. تحل رسوم CUDA البيانية هذه المشكلة بالتقاط تسلسل كامل من عمليات GPU—النوى ونسخ الذاكرة والاعتماديات—أثناء تشغيل إحماء وتجميعه في رسم تنفيذ ثابت مخزَّن مباشرة في ذاكرة GPU.
  • لا تدخل من CPU. أثناء الاستدلال الفوري، بدلًا من أن تطلق CPU 300 نواة منفصلة واحدة تلو الأخرى، تصدر CPU استدعاء API واحدًا فقط (cudaGraphLaunch) يشغّل التمرير الأمامي كله على GPU بشكل مستقل.
  • التعامل مع الأشكال الديناميكية. ولأن رسوم CUDA البيانية تتطلب عناوين ذاكرة وأشكال موتّرات ثابتة، تحشو محركات الاستدلال الدفعات الواردة إلى أحجام سلال ثابتة (مثل أحجام الدفعات 1 و2 و4 و8 و16) وتحدّث مؤشرات الإدخال في مكانها قبل إعادة تشغيل الرسم الملتقَط مسبقًا.

2. حوسبة وقت الاختبار & نماذج الاستدلال (o1/o3 & DeepSeek-R1)

تاريخيًا، كانت مختبرات الذكاء الاصطناعي توسّع الذكاء حصرًا بصبّ مزيد من الحوسبة في التدريب المسبق (نماذج أكبر مدرَّبة على نصوص إنترنت أكثر). وفتحت نماذج الاستدلال مثل o1/o3 من OpenAI وDeepSeek-R1 محورًا ثانيًا للتوسع: حوسبة وقت الاختبار (التوسع وقت الاستدلال)، مما يتيح للنماذج «التفكير» مدة أطول قبل الإجابة.

  • التعلم المعزز لسلسلة التفكير (CoT).
  • بدلًا من الاعتماد فقط على أمثلة كتبها البشر للتفكير خطوة بخطوة، تُدرَّب هذه النماذج بالتعلم المعزز واسع النطاق (RL) (مثل GRPO – Group Relative Policy Optimization في DeepSeek-R1) على مجالات يمكن التحقق منها مثل الرياضيات والبرمجة والمنطق الصوري.
  • يولّد النموذج عدة مسارات استدلال مرشحة، ولا يتلقى مكافآت موضوعية إلا عندما تجتاز إجابته النهائية اختبارات الوحدة أو التحقق الرياضي، ويكتشف ذاتيًا سلوكيات معرفية ناشئة—منها التحقق الذاتي، والتراجع عند الوصول إلى طريق مسدود، وتقسيم المسائل المعقدة إلى أهداف فرعية.
  • كيف تتوسع حوسبة الاستدلال.
  • عند تلقي موجّه صعب، يولّد النموذج آلاف «رموز التفكير» الداخلية داخل مسودة مخفية قبل إخراج الاستجابة النهائية. وتتحسن الدقة لوغاريتميًا كلما أنفق النموذج مزيدًا من رموز الاستدلال في استكشاف الفرضيات.
  • تحوّل مقايضة الحوسبة. في نماذج LLM التقليدية يكون الاستدلال رخيصًا وسريعًا (توليد نحو 50 رمز خرج). أما في نماذج الاستدلال فقد يولّد استعلام واحد من 10,000 إلى 50,000 رمز تفكير، فيتحول الاستدلال إلى حمل توليد دفعي ضخم ومتواصل تهيمن عليه زيادة KV-cache وكفاءة الانتباه في السياقات الطويلة.

3. فصل مرحلتي Prefill وDecode

تتكون خدمة نموذج LLM من مرحلتين حسابيتين متعاكستين جوهريًا. وتشغيل المرحلتين على وحدة GPU نفسها تمامًا يسبّب تعارضات جدولة حادة وقصورًا في استغلال العتاد.

المرحلةطبيعة الحملعنق الزجاجة في العتادمقياس زمن الاستجابة
Prefill (معالجة الموجّه)تعالج جميع رموز الموجّه (مثل 10,000 رمز) بالتوازي في تمريرة أمامية واحدة.محدودة بالحوسبة (تشبع نوى Tensor Cores في GPU بضربات مصفوفات ضخمة).TTFT (الزمن حتى أول رمز)
Decode (توليد الرموز)تولّد رموز الخرج واحدًا تلو الآخر بالتتابع، وتقرأ KV cache كاملة في كل خطوة.محدودة بعرض نطاق الذاكرة (تبقى نوى Tensor Cores خاملة في الغالب في انتظار قراءات VRAM).TPOT (الزمن لكل رمز خرج)
  • مشكلة التداخل عند الاستضافة المشتركة.
  • في الخدمة الموحدة التقليدية، إذا أرسل مستخدم واحد مستندًا ضخمًا من 32,000 رمز إلى Prefill بينما يتلقى 50 مستخدمًا آخرين رموز Decode بالبث، فإن حسابات مصفوفات Prefill الضخمة تستحوذ على نوى Tensor Cores في GPU—مسببة تجمدات ملحوظة وارتفاعات في زمن الاستجابة («تقطّع») لجميع المستخدمين الـ 50.
  • علاوة على ذلك، يحتاج Prefill إلى FLOPs حوسبة عالية، بينما يحتاج Decode إلى عرض نطاق ذاكرة HBM وسعة ضخمين لاحتواء KV caches لدفعات كبيرة.
  • تقسيم العنقود (معمارية مفصولة).
  • تقسّم أنظمة الاستدلال الحديثة فائقة النطاق (مثل Mooncake وDistServe وNVIDIA Dynamo) عنقود GPU إلى مجمّعين مخصصين:
  • 1. مجمّع Prefill: محسَّن لإنتاجية الحوسبة الخام (استغلال عالٍ لنوى Tensor Cores، وتوازي موتّرات أصغر) لمعالجة الموجّهات الطويلة بسرعة وتحقيق أهداف صارمة للزمن حتى أول رمز (TTFT).
  • 2. مجمّع Decode: محسَّن لعرض نطاق ذاكرة عالٍ وسعة KV-cache كبيرة (توازي موتّرات/خبراء أوسع، وأحجام دفعات كبيرة) لبث الرموز بسلاسة بأقصى عدد رموز في الثانية.
  • نقل KV Cache عالي السرعة. بمجرد أن تنتهي وحدة Prefill GPU من معالجة موجّه وتبني KV Cache الأولية، تبثّ KV Cache تلك مباشرة عبر وصلات NVLink أو InfiniBand RDMA فائقة السرعة إلى VRAM لوحدة Decode GPU، التي تتولى فورًا توليد الرموز دون أي تداخل.

المزيد من الأخبار: الذكاء الاصطناعي والتكنولوجيا