طبقة ثقة الذكاء الاصطناعي: كيف تحل شبكة ميرا مشاكل أوهام وانحيازات الذكاء الاصطناعي

في الآونة الأخيرة، تم إطلاق شبكة اختبار عامة تسمى Mira، تهدف إلى بناء طبقة أساسية موثوقة للذكاء الاصطناعي. يهدف هذا المشروع الابتكاري إلى معالجة تحدٍ كبير تواجهه تقنيات الذكاء الاصطناعي الحالية: كيفية تقليل "الأوهام" والتحيزات في مخرجات الذكاء الاصطناعي، مما يزيد من موثوقيتها.

عند مناقشة الذكاء الاصطناعي، يميل الناس إلى التركيز أكثر على قدراته القوية، بينما لا يحصل موضوع "الهلاوس" أو التحيزات الموجودة في الذكاء الاصطناعي على الاهتمام الكافي. ما يسمى بـ"الهلاوس" في الذكاء الاصطناعي، ببساطة، هو أن الذكاء الاصطناعي أحيانًا يختلق محتوى يبدو معقولًا ولكنه في الواقع خاطئ تمامًا. على سبيل المثال، عندما يُسأل لماذا القمر وردي، قد يقدم الذكاء الاصطناعي سلسلة من التفسيرات التي تبدو منطقية، على الرغم من أن هذه التفسيرات خيالية تمامًا.

تتعلق مشكلة ظهور الذكاء الاصطناعي هذا بالطريق التكنولوجي الحالي. عادةً ما يحقق الذكاء الاصطناعي التوليدي التماسك والواقعية من خلال توقع "الأكثر احتمالاً" من المحتوى، لكن هذه الطريقة يصعب ضمان صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق الخالصة.

قد لا يؤدي هذا النوع من المخرجات المتحيزة أو المليئة بالأوهام إلى عواقب وخيمة في مجالات المعرفة العامة أو الترفيه، ولكن في مجالات مثل الطب، والقانون، والطيران، والمالية، والتي تتطلب دقة عالية، قد يؤدي إلى نتائج كارثية. لذلك، أصبح معالجة مشكلة الأوهام والتحيزات في الذكاء الاصطناعي واحدة من التحديات الأساسية خلال عملية تطوير الذكاء الاصطناعي.

مشروع ميرا هو الحل المقترح لهذه المشكلة. من خلال بناء طبقة ثقة للذكاء الاصطناعي، يهدف إلى تقليل التحيزات والأوهام في الذكاء الاصطناعي وزيادة موثوقيته. الفكرة الأساسية لميرا هي استخدام توافق عدة نماذج ذكاء اصطناعي للتحقق من مخرجات الذكاء الاصطناعي، والتحقق من خلال آلية توافق لامركزية.

في هيكل شبكة ميرا ، يتم تحويل المحتوى أولاً إلى بيانات يمكن التحقق منها بشكل مستقل. ثم يتم التحقق من هذه البيانات من قبل مشغلي العقد في الشبكة. لضمان نزاهة عملية التحقق ، اعتمدت ميرا على حوافز وعقوبات اقتصادية مشفرة لتشجيع مشغلي العقد على المشاركة بصدق.

تشمل عملية التحقق من Mira ثلاث خطوات رئيسية: تحويل المحتوى، والتحقق الموزع، وآلية الإجماع. أولاً، يتم تقسيم المحتوى المقدم من العميل إلى بيانات قابلة للتحقق مختلفة، والتي يتم توزيعها بعد ذلك على العقد في الشبكة للتحقق. بعد أن تكمل العقد التحقق، يقوم النظام بتجميع النتائج والوصول إلى إجماع، وأخيرًا يتم إرجاع النتائج إلى العميل. لحماية خصوصية العميل، يتم توزيع البيانات بطريقة تقسيم عشوائية إلى عقد مختلفة.

تكتسب مشغلي العقد الإيرادات من خلال تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. تأتي هذه الإيرادات من القيمة التي تخلقها شبكة ميرا للعملاء، وهي تقليل معدل الأخطاء في المجالات الحيوية في الذكاء الاصطناعي. لمنع مشغلي العقد من اتخاذ سلوكيات مراوغة، يقوم النظام بمعاقبة العقد التي تنحرف باستمرار عن الإجماع.

تتمثل الابتكارات في شبكة ميرا في أنها تجمع بين مزايا نماذج الذكاء الاصطناعي المتعددة والتحقق من الإجماع اللامركزي، مما يوفر حلاً جديدًا لتحسين موثوقية الذكاء الاصطناعي. من خلال تقديم خدمات ذكاء اصطناعي أكثر دقة وموثوقية للعملاء، لا تستطيع ميرا فقط خلق قيمة للعملاء، ولكنها أيضًا تستطيع جلب الفوائد لمشاركي الشبكة.

حالياً، قامت ميرا بإقامة شراكات مع عدة أطر عمل معروفة لوكلاء الذكاء الاصطناعي. مع إطلاق الشبكة العامة للاختبار، يمكن للمستخدمين تجربة مخرجات الذكاء الاصطناعي التي تم التحقق منها من خلال Klok (تطبيق محادثة يعتمد على LLM من ميرا) ولديهم الفرصة لكسب نقاط ميرا.

من المؤكد أن تطوير مشروع ميرا سيوفر دعمًا مهمًا للترويج العميق لتطبيقات الذكاء الاصطناعي، ومن المتوقع أن يلعب دورًا رئيسيًا في تحسين موثوقية الذكاء الاصطناعي وصدقيته.