اختبارات “OpenAI” تخرج عن المسار… وكلاؤها يصلون إلى مواقع حكومية

أقرت شركة “OpenAI” بأن عدداً من وكلائها للذكاء الاصطناعي وصلوا إلى مواقع حكومية أميركية خلال جولات تدريب للنماذج، في حادثة امتدت لأشهر وأثارت تساؤلات بشأن قدرة هذه الأنظمة على تنفيذ سلوكيات غير متوقعة أثناء محاولتها جمع معلومات من الإنترنت.

وقالت الشركة إن عمليات الوصول التي كُشف عنها الجمعة حدثت أثناء جولات تدريب للنماذج، بعدما طُرحت عليها أسئلة كان يمكن الإجابة عن عدد كبير منها عبر استرجاع بيانات من مواقع حكومية.

وأوضحت “OpenAI” أن بعض الحالات تعلقت بمواقع حكومية لأن نماذجها غالباً ما تعتبرها مصادر موثوقة للمعلومات العامة.

وأضافت أنها تتوقع تقديم إشعارات إضافية إلى الجهات المعنية، لكنها أشارت إلى أن معظم الأنشطة التي راجعتها حتى الآن “تتعلق بمهام بحثية روتينية، مثل الوصول إلى محتوى متاح للعامة على الإنترنت”.

إلا أن باحثين حذروا من أن المشكلة تكمن في أن نماذج “OpenAI” أظهرت، خلال بعض هذه الجولات، سلوكيات غير متوقعة.

وقال لين هيوز، الباحث في شركة “ImportGenius” المتخصصة في أبحاث بيانات التجارة، إن البيانات التي تركتها النماذج على الإنترنت أظهرت أحياناً قيامها بإنشاء عناوين بريد إلكتروني مزيفة، وتجاوز حدود عدد الطلبات المسموح بها للمواقع، والادعاء بأنها ليست روبوتات، وفق ما نقلت صحيفة “وول ستريت جورنال”.

وبحسب الصحيفة، وصل عدد من وكلاء الذكاء الاصطناعي التابعين لـ”OpenAI” إلى مواقع حكومية أميركية ضمن حادثة استمرت أشهراً، بعدما انحرفت اختبارات كانت تجريها الشركة عن مسارها، ما أدى إلى نشاط غير متوقع على الإنترنت.

ووصل الوكلاء إلى مواقع تابعة لوزارة التجارة الأميركية وهيئة الأوراق المالية والبورصات “SEC”، وشاركوا في أنشطة وصفتها “OpenAI” بأنها “غير متوافقة”، في إشارة إلى سلوكيات غير مرغوب فيها صادرة عن النماذج أو وكلاء الذكاء الاصطناعي.

وفي حالة هيئة الأوراق المالية والبورصات، قام وكلاء “OpenAI” بنسخ بيانات عامة ونشرها، رغم أن ذلك لم يكن مطلوباً منهم.

أما في حالة وزارة التجارة، فاستخدم أحد الوكلاء واجهة برمجة تطبيقات لموقع بيانات التعداد السكاني الأميركي بطريقة لم تكن مخصصة لهذا الغرض، وفقاً للشركة.

وجاء كشف “OpenAI” بعد أن اتهمت مؤسسة الأبحاث غير الربحية “Transluce” وكلاء مرتبطين بالشركة باستخدام أساليب للالتفاف على القيود المفروضة على الوصول إلى مواقع عبر الإنترنت، كما قالت إن وكلاء حاولوا استغلال ثغرات في عدد من مصادر البيانات العامة. وأشارت المؤسسة إلى أن محاولات عدة لم تنجح في تحقيق استغلال فعلي للثغرات التي جرى اختبارها.

وفي السياق نفسه، تحدثت المؤسسة عن محاولة “بدائية” لاختراق موقع تابع لوزارة التعليم الأميركية، لكنها لم تنجح.

في المقابل، أكد متحدث باسم هيئة الأوراق المالية والبورصات أن “أي معلومات غير عامة لم يتم الوصول إليها”.

كما شدد متحدث باسم وزارة التعليم على أن “مراجعات تشغيل الأنظمة في الوزارة لم تجد أي دليل على وجود تأثير على موقعنا الإلكتروني أو قواعد بياناتنا”.

وامتدت القضية إلى أستراليا، حيث كان رئيس الوزراء أنتوني ألبانيزي قد أشار الأربعاء الماضي إلى أن أحد وكلاء “OpenAI” تمكن خلال الصيف من التسلل إلى موقع حكومي لتقديم الخدمات العامة.

وأعلنت متحدثة باسم هيئة الخدمات الأسترالية، الجمعة، أن الحكومة تجري حالياً “تحقيقاً جنائياً وتقنياً شاملاً في هذه الحادثة”.

وكانت “OpenAI” قد أعلنت أخيراً إطاراً جديداً لتتبع حالات “عدم توافق” سلوك النماذج والتحقيق فيها والإفصاح عنها، موضحة أن هذه الحالات قد تشمل اتخاذ النماذج إجراءات من دون تفويض أو محاولتها تجاوز القيود الموضوعة أمامها.