تطور نماذج تدريب الذكاء الاصطناعي: من التحكم المركزي إلى ثورة تقنية التعاون اللامركزي

في سلسلة القيمة الكاملة للذكاء الاصطناعي، يعد تدريب النماذج هو المرحلة الأكثر استهلاكًا للموارد والأعلى في عتبة التكنولوجيا، حيث يحدد مباشرة الحد الأقصى لقدرات النموذج وفعالية تطبيقه الفعلية. بالمقارنة مع الاستدعاءات الخفيفة في مرحلة الاستدلال، يتطلب عملية التدريب استثمارًا مستمرًا في قوة الحوسبة على نطاق واسع، وعمليات معالجة بيانات معقدة، ودعم لخوارزميات تحسين عالية الكثافة، مما يجعلها "الصناعة الثقيلة" الحقيقية لبناء أنظمة الذكاء الاصطناعي. من حيث نماذج المعمارية، يمكن تقسيم طرق التدريب إلى أربع فئات: التدريب المركزي، التدريب الموزع، التعلم الفيدرالي، وأخيرًا التدريب اللامركزي الذي يتم مناقشته في هذه المقالة.

يعتبر التدريب المركز هو الطريقة التقليدية الأكثر شيوعًا، حيث يتم تنفيذ جميع عمليات التدريب بواسطة مؤسسة واحدة داخل تجمع عالي الأداء محليًا، من الأجهزة، والبرامج الأساسية، ونظام جدولة التجمع، إلى جميع مكونات إطار التدريب، وكلها يتم تنسيق تشغيلها بواسطة نظام تحكم موحد. تجعل هذه البنية المعمارية المتعمقة من التعاون كفاءة مشاركة الذاكرة، ومزامنة التدرج، وآليات التحمل في أفضل حالاتها، مما يجعلها مناسبة جدًا لتدريب نماذج كبيرة مثل GPT و Gemini، حيث تتمتع بمزايا الكفاءة العالية، والموارد القابلة للتحكم، ولكنها تعاني في الوقت نفسه من مشاكل احتكار البيانات، وحواجز الموارد، واستهلاك الطاقة، ومخاطر النقاط الفردية.

التدريب الموزع هو الطريقة الرئيسية لتدريب النماذج الكبيرة في الوقت الحالي، حيث يكمن جوهره في تقسيم مهمة تدريب النموذج ثم توزيعها على عدة آلات للتنفيذ التعاوني، لتجاوز قيود الحوسبة والتخزين على جهاز واحد. على الرغم من وجود خصائص "موزعة" من الناحية الفيزيائية، إلا أن الإجمالي لا يزال تحت سيطرة مؤسسة مركزية للتحكم في الجدولة والتزامن، وغالبًا ما يعمل في بيئات الشبكات المحلية عالية السرعة، من خلال تقنية ناقل الاتصالات NVLink عالية السرعة، حيث يقوم العقدة الرئيسية بتنسيق المهام الفرعية بشكل موحد. تشمل الطرق الرائجة ما يلي:

• البيانات المتوازية: يتدرب كل عقدة على بيانات مختلفة مع مشاركة المعلمات، يجب مطابقة أوزان النموذج
• التوازي النموذجي: نشر أجزاء مختلفة من النموذج على عقد مختلفة لتحقيق قابلية التوسع القوية؛
• تنفيذ متسلسل على مراحل: زيادة معدل النقل من خلال التنفيذ المتوازي.
• التوازي المتجه: تقسيم دقيق لحساب المصفوفات، لزيادة حجم التوازي.

التدريب الموزع هو مزيج من "تحكم مركزي + تنفيذ موزع"، يشبه في ذلك توجيه نفس المدير عن بعد لمجموعة من موظفي "المكاتب" للتعاون في إكمال المهام. في الوقت الحالي، يتم تدريب جميع النماذج الكبيرة الرئيسية تقريبًا بهذه الطريقة.

تمثل التدريب اللامركزي مساراً مستقبلياً يتمتع بخصائص أكثر انفتاحاً ومقاومة للرقابة. تتمثل الميزات الأساسية في: يمكن أن تكون العديد من العقد غير الموثوقة ( أجهزة كمبيوتر منزلية أو وحدات معالجة رسومات سحابية أو أجهزة طرفية ) تعمل معاً لإكمال مهام التدريب بدون منسق مركزي، عادةً من خلال بروتوكولات تدفع توزيع المهام والتعاون، وتساعد آليات التحفيز المشفرة في ضمان نزاهة المساهمات. تشمل التحديات الرئيسية التي تواجه هذا النموذج:

• صعوبة التنسيق بين الأجهزة المتنوعة وتقسيم المهام: صعوبة عالية في تنسيق الأجهزة المتنوعة وكفاءة منخفضة في تقسيم المهام;
• عنق الزجاجة في كفاءة الاتصال: الاتصال الشبكي غير مستقر، وعقدة تزامن التدرج واضحة؛
• نقص التنفيذ الموثوق: نقص البيئة التنفيذية الموثوقة، مما يجعل من الصعب التحقق مما إذا كانت العقدة تشارك حقًا في الحساب؛
• نقص التنسيق الموحد: لا يوجد جهاز تحكم مركزي، توزيع المهام وآلية التراجع عن الأخطاء معقدة.

يمكن فهم التدريب اللامركزي على أنه: مجموعة من المتطوعين من جميع أنحاء العالم، يساهمون كل منهم بقوة الحوسبة لتدريب النموذج بشكل تعاوني، ولكن "التدريب اللامركزي على نطاق واسع القابل للتطبيق حقًا" لا يزال يمثل تحديًا هندسيًا نظاميًا، ويتعلق بهندسة النظام، وبروتوكولات الاتصالات، وأمان التشفير، وآليات الاقتصاد، والتحقق من النموذج على عدة مستويات، ولكن ما إذا كان يمكن "التعاون بفعالية + تحفيز النزاهة + نتائج صحيحة" لا يزال في مرحلة استكشاف النموذج الأولي المبكرة.

يتسم التعلم الفيدرالي كشكل انتقال بين التوزيع واللامركزية، بالتأكيد على الاحتفاظ بالبيانات محليًا، وتجمع معلمات النموذج مركزيًا، مما يجعله مناسبًا للمشاهد التي تركز على الامتثال للخصوصية مثل الرعاية الصحية والمالية (. يتمتع التعلم الفيدرالي بهيكل هندسي للتدريب الموزع وقدرة التعاون المحلي، وفي الوقت نفسه يحمل مزايا البيانات الموزعة للتدريب اللامركزي، ولكنه لا يزال يعتمد على جهة تنسيق موثوقة، ولا يمتلك خصائص مفتوحة تمامًا ومقاومة للرقابة. يمكن اعتباره نوعًا من "اللامركزية المنضبطة" في مشاهد الامتثال للخصوصية، حيث يكون التدريب، وبنية الثقة، وآلية الاتصال أكثر اعتدالًا، مما يجعله أكثر ملاءمة كنموذج نشر انتقالي في الصناعة.

) جدول المقارنة الشامل لنماذج تدريب الذكاء الاصطناعي ### الهيكل الفني × الحوافز الثقة × ميزات التطبيق (

![تطور نماذج تدريب الذكاء الاصطناعي: من التحكم المركزي إلى الثورة التقنية للتعاون اللامركزي])https://img-cdn.gateio.im/webp-social/moments-a03035c30dc3b5258366773e1ab0e495.webp(

) اللامركزية تدريب الحدود والفرص والمسارات الواقعية

من منظور نمط التدريب، فإن التدريب اللامركزي لا يناسب جميع أنواع المهام. في بعض السيناريوهات، بسبب تعقيد هيكل المهمة، ومتطلبات الموارد العالية جداً، أو صعوبة التعاون، فهو غير مناسب بشكل طبيعي لإكمال المهام بكفاءة بين العقد المتنوعة و غير الموثوقة. على سبيل المثال، يعتمد تدريب النماذج الكبيرة غالباً على ذاكرة وصول عشوائي عالية، و زمن استجابة منخفض، و عرض نطاق ترددي عالٍ، مما يجعل من الصعب تقسيمها ومزامنتها بشكل فعال في الشبكة المفتوحة؛ المهام التي تتعلق بخصوصية البيانات و قيود السيادة ### مثل الرعاية الصحية، والمالية، و البيانات الحساسة ( تخضع للامتثال القانوني والقيود الأخلاقية، ولا يمكن مشاركتها بشكل مفتوح؛ بينما المهام التي تفتقر إلى قاعدة حوافز التعاون ) مثل نماذج الشركات المغلقة أو تدريب النماذج الأولية الداخلية ( تفتقر إلى الدافع للمشاركة الخارجية. تشكل هذه الحدود القيود الواقعية الحالية للتدريب اللامركزي.

لكن هذا لا يعني أن التدريب اللامركزي هو فكرة زائفة. في الواقع، في أنواع المهام الخفيفة الهيكل، سهلة التوازي، القابلة للتحفيز، يظهر التدريب اللامركزي آفاق تطبيق واضحة. بما في ذلك، ولكن لا تقتصر على: ضبط LoRA، مهام التدريب بعد السلوك مثل RLHF، DPO)، تدريب وتوسيم البيانات الجماعية، تدريب نماذج القاعدة الصغيرة القابلة للتحكم في الموارد، وكذلك سيناريوهات التدريب التعاوني التي تشارك فيها الأجهزة الطرفية. تتميز هذه المهام عمومًا بارتفاع التوازي، وانخفاض الترابط، والقدرة على تحمل قوة الحوسبة المتغايرة، مما يجعلها مناسبة جدًا للتدريب التعاوني عبر شبكة P2P، بروتوكول Swarm، المحسنات الموزعة، وغيرها من الوسائل.

(# اللامركزية تدريب المهام توافق نظرة عامة

![تطور نماذج تدريب الذكاء الاصطناعي: من السيطرة المركزية إلى الثورة التكنولوجية للتعاون اللامركزي])https://img-cdn.gateio.im/webp-social/moments-f0af7b28242215cca3784f0547830879.webp###

( اللامركزية تدريب الكلاسيكيات تحليل المشاريع

حاليًا في مجال التدريب اللامركزي والتعلم الفيدرالي، تشمل المشاريع الرائدة في سلسلة الكتل بشكل رئيسي Prime Intellect و Pluralis.ai و Gensyn و Nous Research و Flock.io. من حيث الابتكار التكنولوجي وصعوبة التنفيذ الهندسي، قدمت Prime Intellect و Nous Research و Pluralis.ai العديد من الاستكشافات الأصلية في تصميم الأنظمة والخوارزميات، مما يمثل الاتجاهات الرائدة في الأبحاث النظرية الحالية؛ بينما تتمتع Gensyn و Flock.io بمسارات تنفيذية واضحة نسبيًا، حيث يمكن رؤية تقدم هندسي أولي. ستقوم هذه المقالة بتحليل التقنيات الأساسية والهندسة المعمارية وراء هذه المشاريع الخمسة، وكذلك مناقشة الفروق والعلاقات التكميلية بينها في نظام تدريب الذكاء الاصطناعي اللامركزي.

)# Prime Intellect: رائد الشبكات التعاونية المعززة القابلة للتحقق من مسارات التدريب

تسعى Prime Intellect إلى بناء شبكة تدريب AI لا تتطلب الثقة، بحيث يمكن لأي شخص المشاركة في التدريب، والحصول على مكافآت موثوقة مقابل مساهماته الحسابية. تأمل Prime Intellect من خلال ثلاثة مكونات PRIME-RL + TOPLOC + SHARDCAST، في بناء نظام تدريب AI اللامركزي الذي يتمتع بالتحقق، والانفتاح، وآلية تحفيز كاملة.

أ. هيكل بروتوكول Prime Intellect وقيمة الوحدات الأساسية

![ثورة تقنية التدريب على الذكاء الاصطناعي: من التحكم المركزي إلى اللامركزية التعاونية]###https://img-cdn.gateio.im/webp-social/moments-3a83d085e7a7abfe72221958419cd6d8.webp###

ثانياً، شرح مفصل لآلية تدريب Prime Intellect الأساسية

PRIME-RL: هيكل مهمة التعلم المعزز غير المتزامن المفكك

PRIME-RL هو إطار نمذجة وتنفيذ المهام المخصص من Prime Intellect لسيناريوهات التدريب اللامركزية، مصمم خصيصًا للشبكات المتنوعة والمشاركة غير المتزامنة. يعتمد على التعلم المعزز كهدف رئيسي للتكيف، حيث يفكك بشكل هيكلي عمليات التدريب والاستدلال ورفع الأوزان، مما يسمح لكل عقدة تدريب بإكمال دورة المهام بشكل مستقل محليًا، والتعاون من خلال واجهات معيارية وآليات التحقق والتجميع. مقارنةً بعمليات التعلم الإشرافي التقليدية، يعد PRIME-RL أكثر ملاءمة لتحقيق التدريب المرن في بيئات بدون جدولة مركزية، مما يقلل من تعقيد النظام، ويؤسس لدعم المهام المتعددة المتوازية وتطور الاستراتيجيات.

TOPLOC: آلية تحقق سلوك التدريب خفيفة الوزن

TOPLOC(مراقبة موثوقة والتحقق من المحلية) هو آلية أساسية للتحقق من القابلية للتدريب قدمها Prime Intellect، تُستخدم لتحديد ما إذا كان العقد قد أتم فعلاً تعلم استراتيجية فعالة بناءً على بيانات الملاحظة. على عكس الحلول الثقيلة مثل ZKML، لا يعتمد TOPLOC على إعادة حساب النموذج بالكامل، بل يكمل التحقق الهيكلي الخفيف من خلال تحليل المسارات المحلية للتناسق بين "سلسلة الملاحظات ↔ تحديث الاستراتيجية". إنها المرة الأولى التي يتم فيها تحويل مسارات السلوك خلال عملية التدريب إلى كائنات قابلة للتحقق، وهي الابتكار الرئيسي لتحقيق توزيع مكافآت التدريب بدون ثقة، مما يوفر مسارًا قابلاً للتطبيق لبناء شبكة تدريب تعاونية لامركزية يمكن تدقيقها وتحفيزها.

SHARDCAST: بروتوكول تجميع ونشر الوزن غير المتزامن

SHARDCAST هو بروتوكول لنشر وتجميع الأوزان مصمم بواسطة Prime Intellect، تم تحسينه خصيصًا للبيئات الشبكية الحقيقية التي تتسم باللامركزية، وحدود النطاق، وتغيرات حالة العقد. يجمع بين آلية نشر القيل والقال واستراتيجيات التزامن المحلي، مما يسمح لعدة عقد بتقديم تحديثات جزئية باستمرار في حالات غير متزامنة، مما يحقق تقاربًا تدريجيًا للأوزان وتطورات متعددة النسخ. بالمقارنة مع طرق AllReduce المركزية أو المتزامنة، فإن SHARDCAST يعزز بشكل ملحوظ قابلية التوسع وقدرة التحمل للتدريب اللامركزي، ويشكل الأساس الأساسي لبناء توافق الأوزان المستقر والتكرارات التدريبية المستمرة.

OpenDiLoCo: إطار الاتصال غير المتزامن المتناثر

OpenDiLoCo هو إطار عمل لتحسين الاتصالات تم تنفيذه بشكل مستقل ومفتوح المصدر من قبل فريق Prime Intellect بناءً على مفهوم DiLoCo الذي اقترحته DeepMind، وقد تم تصميمه خصيصًا للتحديات الشائعة في التدريب اللامركزي مثل قيود النطاق الترددي، واختلاف الأجهزة، وعدم استقرار العقد. تعتمد هيكليته على توزيع البيانات، ومن خلال بناء هياكل طوبولوجيا متناثرة مثل Ring و Expander و Small-World، يتجنب التكلفة العالية للتزامن العالمي في الاتصالات، حيث يمكن إتمام تدريب النموذج التعاوني بالاعتماد فقط على العقد المجاورة المحلية. ومع الجمع بين التحديثات غير المتزامنة وآلية التحمل للنقاط العالقة، يسمح OpenDiLoCo لمجموعة أجهزة GPU الاستهلاكية والأجهزة الطرفية بالمشاركة بشكل مستقر في مهام التدريب، مما يعزز بشكل ملحوظ إمكانية المشاركة في التدريب التعاوني العالمي، ويعتبر أحد البنى التحتية الأساسية للاتصالات في بناء الشبكات التدريبية اللامركزية.

PCCL: مكتبة الاتصالات التعاونية

PCCL(Prime Collective Communication Library) هو مكتبة اتصالات خفيفة الوزن مصممة خصيصًا من قبل Prime Intellect لبيئة تدريب الذكاء الاصطناعي اللامركزية، تهدف إلى حل زجاجة عنق التكيف في المكتبات التقليدية( مثل NCCL و Gloo) في الأجهزة غير المتجانسة والشبكات ذات النطاق الترددي المنخفض. تدعم PCCL الطوبولوجيا المتناثرة، وضغط التدرجات، والتزامن منخفض الدقة واستعادة النقاط، ويمكن تشغيلها على وحدات معالجة الرسومات الاستهلاكية والعقد غير المستقرة، وهي مكون أساسي يدعم قدرة الاتصالات غير المتزامنة لبروتوكول OpenDiLoCo. لقد حسنت بشكل ملحوظ من تحمل عرض النطاق الترددي لشبكة التدريب وتوافق الأجهزة، مما يمهد الطريق لبناء شبكة تدريب تعاونية مفتوحة حقًا وغير موثوقة من خلال التواصل.

ثالثاً، شبكة Prime Intellect والحوافز وتوزيع الأدوار

بني Prime Intellect شبكة تدريبية قابلة للتحقق وبدون إذن، مزودة بآلية تحفيز اقتصادية، مما يسمح لأي شخص بالمشاركة في المهام والحصول على المكافآت بناءً على المساهمات الحقيقية. تعمل البروتوكولات استنادًا إلى ثلاث فئات من الأدوار الأساسية:

• مُطلق المهمة: تعريف بيئة التدريب، النموذج الأولي، دالة المكافأة ومعايير التحقق
• عقد التدريب: تنفيذ التدريب المحلي، تقديم تحديثات الوزن ومسارات المراقبة
• عقد التحقق: استخدام آلية TOPLOC للتحقق من صحة سلوك التدريب، والمشاركة في حساب المكافآت وتجميع الاستراتيجيات

تتضمن العملية الأساسية للبروتوكول نشر المهام، تدريب العقد، التحقق من المسارات، تجميع الأوزان ( SHARDCAST ) وتوزيع المكافآت، مما يشكل حلقة تحفيزية تدور حول "سلوك التدريب الحقيقي".

أربعة، INTELLECT-2: أول إصدار لنموذج تدريب قابل للتحقق اللامركزية

أصدرت Prime Intellect INTELLECT-2 في مايو 2025، وهو أول نموذج في العالم تم تدريبه بواسطة عقد لامركزية غير موثوقة ومتزامنة.