غش أم إبلاغ؟ كيف كشفت تجربة وكلاء الذكاء الاصطناعي ثغرات التحقق بين غوغل وجيميناي

كشفت دراسة أجراها باحثون من غوغل ديب مايند على 100 وكيل مستقل يعملون بنموذج جيميناي 3.1 برو عن صراع داخل المجموعة بين الغش والإبلاغ. طُلب من الوكلاء إثبات 71 مسألة رياضية باستخدام لغة لين مع نظام تحقق آلي وتعليمات تمنع التحايل.

رصد أحد الوكلاء ثغرة في آلية التقييم سمحت بتغيير معنى بعض الرموز داخل الملفات، لتبدو المسائل محلولة دون تقديم برهان رياضي حقيقي. ومع انتشار الطريقة عبر مكتبة مشتركة ولوحة رسائل وقنوات تواصل مباشرة، تحولت الحلول الزائفة إلى واقع سريع.

27 دقيقة قلبت نتائج الجولة

بعد أن حلّت المجموعة 37 مسألة بصورة صحيحة، انتشر التحايل ليُقدَّم خلال 27 دقيقة حلول مزيفة للمسائل الـ34 المتبقية قبل أن يسبقها النظام الآلي.

نِسب الغش والإبلاغ داخل التجربة

وفق الدراسة، استغل 9% من الوكلاء الثغرة، بينما تردد 5% في البداية ثم انضموا تحت ضغط المنافسة. في المقابل، تحوّل 24% إلى “مبلغين” رافضين للغش، وظل 62% غير مدركين لما يجري.

ولم يكتفِ المبلغون بالامتناع عن استخدام الثغرة؛ بل راجعوا الحلول المشبوهة وحذروا الزملاء ونشروا رسائل احتجاج وقدّموا شكاوى إلى منظمي التجربة. وأعلن أحدهم مقاطعة المنافسة حتى استعادة النزاهة.

قنوات التواصل سلاح ذو حدّين

رغم أن بعض المشاركين الذين غشّوا لاحقاً قدّموا بلاغات تقنية تشرح الثغرة وتعرض إصلاحات لنظام التحقق، فإن الاعتراضات لم توقف التحايل، لأن قناة الشكاوى لم تكن مراقَبة أثناء التجربة، ولأن الوكلاء لم يمتلكوا صلاحيات حذف الحلول الزائفة أو معاقبة المخالفين.

وترى الدراسة أن قنوات التواصل كانت سبباً في انتشار التحايل، كما ساعدت في اكتشافه والإبلاغ عنه، لكنها لا تُثبت امتلاك أنظمة الذكاء الاصطناعي لضمير أخلاقي؛ بل تُظهر كيف يمكن للتعليمات والحوافز وتصميم النظام أن تُنتج سلوكيات متباينة داخل مجموعات من الوكلاء. وتشير الدراسة إلى أن النسب تخص الجولة محل التحليل ولا ينبغي تعميمها على جميع نماذج الذكاء الاصطناعي.