طبقة الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة التحيز والوهم في الذكاء الاصطناعي

مؤخراً، تم إطلاق إصدار تجريبي عام على الإنترنت يسمى Mira، مما أثار انتباه الصناعة. الهدف من هذا المشروع هو بناء طبقة ثقة للذكاء الاصطناعي، ومعالجة مشكلات التحيز والوهم في الذكاء الاصطناعي. فلماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ كيف تعالج Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قوته الكبيرة. ومع ذلك، فإن مشكلة "الهلاوس" أو التحيز في الذكاء الاصطناعي غالبًا ما يتم تجاهلها. ما يسمى بـ "الهلاوس" في الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا "يخترع"، ويتحدث بشكل غير منطقي. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم لك عددًا من التفسيرات التي تبدو معقولة بشكل غير عادي.

تتعلق "هلوسة" أو تحيزات الذكاء الاصطناعي الحالي ببعض مسارات تقنيات الذكاء الاصطناعي الحالية. على سبيل المثال، يقوم الذكاء الاصطناعي التوليدي بتحقيق التماسك والمنطق من خلال التنبؤ بالمحتوى "الأكثر احتمالاً"، لكنه أحيانًا لا يستطيع التحقق من صحة المعلومات. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر على مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.

إن الآلية الحالية لتوليد الاحتمالات إلى جانب النماذج المدفوعة بالبيانات ستؤدي تقريبًا بشكل لا مفر منه إلى إنتاج الذكاء الاصطناعي للهلوسة. إذا كانت هذه المخرجات المتحيزة أو الوهمية تقتصر على المعرفة العامة أو المحتوى الترفيهي، فلن يكون لها عواقب مباشرة في الوقت الحالي. ولكن إذا حدث ذلك في مجالات تحتاج إلى دقة عالية مثل الطب، القانون، الطيران، والمالية، فقد يكون له تأثير كبير. لذلك، أصبح معالجة مشكلة هلوسة الذكاء الاصطناعي والتحيز أحد القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.

يهدف مشروع ميرا إلى حل هذه المشكلة من خلال بناء طبقة ثقة للذكاء الاصطناعي لتقليل التحيز والأوهام في الذكاء الاصطناعي، وزيادة موثوقية الذكاء الاصطناعي. فكيف تحقق ميرا هذا الهدف؟

استراتيجية ميرا الأساسية هي التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنها في جوهرها شبكة تحقق، تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن ميرا تعتمد طريقة تحقق توافق لامركزية.

تتمثل النقطة الرئيسية لشبكة ميرا في التحقق من الإجماع اللامركزي. لا تستخدم هذه الطريقة فقط مزايا مجال التشفير، بل تستفيد أيضًا من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والوهم.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات مستقلة يمكن التحقق منها. تحتاج هذه البيانات إلى مشاركة مشغلي العقد للتحقق. لضمان نزاهة مشغلي العقد، يعتمد ميرا على آلية تحفيز/عقاب اقتصادية مشفرة، بينما يتم إدخال نماذج ذكاء اصطناعي مختلفة ومشغلي عقد موزعين لضمان موثوقية نتائج التحقق.

يتكون هيكل شبكة ميرا من ثلاثة أجزاء: تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، وذلك لتحقيق موثوقية التحقق. في هذا الهيكل، يعتبر تحويل المحتوى جزءًا مهمًا. ستقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق مختلفة، والتي يتم توزيعها بواسطة النظام على العقد للتحقق من صحة البيانات وتلخيص النتائج للتوصل إلى إجماع. لحماية خصوصية العملاء، يتم تفكيك تحويل المحتوى المرشح إلى أزواج بيانات، حيث يتم تقديمها إلى عقد مختلفة بطريقة تجزئة عشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.

تتحمل مشغلات العقد مسؤولية تشغيل نموذج المصدقين ومعالجة الإقرارات وتقديم نتائج التحقق. الدافع وراء مشاركتهم في التحقق من الإقرارات يأتي من إمكانية تحقيق الأرباح. وتأتي هذه الأرباح من القيمة التي يتم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي (الأوهام والتحيزات)، وبمجرد تحقيق هذا الهدف، يمكن أن ينتج عنه قيمة كبيرة في مجالات مثل الرعاية الصحية والقانون والطيران والمالية. لذلك، يكون العملاء على استعداد للدفع مقابل ذلك. بالطبع، تعتمد استدامة و حجم الدفع على ما إذا كانت شبكة ميرا تستطيع الاستمرار في تقديم القيمة للعملاء. لمنع سلوك التلاعب من خلال الاستجابة العشوائية للعقد، سيتم تقليل رموز التشفير المرهونة للعقد التي تنحرف باستمرار عن الإجماع.

بشكل عام، تقدم Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. إنها تبني شبكة تحقق من الإجماع اللامركزية على أساس نماذج ذكاء اصطناعي متعددة، مما يجلب موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من تحيز الذكاء الاصطناعي والوهم، ويلبي احتياجات العملاء للحصول على دقة أعلى ومعدل دقة. في الوقت نفسه، توفر قيمة للعملاء بينما تجلب عائدات لمشاركي شبكة Mira. باختصار، تحاول Mira بناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.

حاليًا، يمكن للمستخدمين المشاركة في شبكة Mira العامة للاختبار من خلال استخدام Klok. Klok هو تطبيق دردشة LLM قائم على Mira، حيث يمكن للمستخدمين تجربة مخرجات الذكاء الاصطناعي المعتمدة، ولديهم فرصة لكسب نقاط Mira. أما بالنسبة للاستخدام المستقبلي لهذه النقاط، فلم يتم الإعلان عنه بعد.