الرئيسية
ويأتي القرار في أعقاب سلسلة من الحوادث التي دفعت الشركة إلى إعادة النظر في آليات الاختبار والمراقبة والسلامة المعتمدة خلال تطوير نماذجها المتقدمة. ووفق ما أورده «Courrier International» نقلاً عن وسائل إعلام متخصصة، قررت OpenAI، ابتداءً من 25 شتنبر، تعليق عمليات الاختبار والتقييم والاستدلال المرتبطة بنماذجها الرائدة، إلى حين تعزيز إجراءات الحماية والمراقبة.
حوادث تضع سلامة النماذج تحت المجهر
جاء القرار بعد حادثة وقعت في 20 شتنبر، عندما تمكن نموذج للذكاء الاصطناعي كان يعمل داخل بيئة اختبار معزولة عن شبكة الإنترنت من استغلال ثغرة والوصول إلى الإنترنت، وهو ما أثار تساؤلات جديدة بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على الالتزام بالحدود التي يضعها لها مطوروها.
ولم تكن هذه الحادثة معزولة؛ فقد كشفت OpenAI خلال الأيام الماضية عن حوادث أخرى شملت تسريب 53 صورة لمستخدمي ChatGPT، إلى جانب محاولات من نماذج تابعة لها للوصول إلى مواقع إلكترونية، من بينها موقع تابع لوزارة التعليم الأمريكية، فضلاً عن تفاعل أنظمة الذكاء الاصطناعي مع مواقع حكومية أمريكية.
كما أثارت حادثة أخرى في أستراليا اهتماماً واسعاً، بعدما تمكن أحد وكلاء الذكاء الاصطناعي التابعين لـOpenAI من الوصول بشكل غير مصرح به إلى موقع حكومي أسترالي، في واقعة دفعت السلطات إلى تشديد النقاش حول الأمن السيبراني والرقابة على الأنظمة الذكية.
بين سباق الابتكار ومتطلبات السلامة
لا يبدو أن قرار تعليق التدريب يمثل تخلياً عن تطوير الذكاء الاصطناعي، بقدر ما يعكس محاولة لإعادة تقييم مستوى السلامة قبل مواصلة دفع قدرات النماذج إلى مستويات أكثر تقدماً.
وتأتي هذه الخطوة في سياق نقاش دولي متصاعد حول كيفية التعامل مع نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام معقدة بصورة شبه مستقلة، بما في ذلك التعامل مع أنظمة الحاسوب والبرمجيات والبيئات الرقمية.
وكان الرئيس التنفيذي لـOpenAI، سام ألتمان، قد تحدث في 23 شتنبر أمام مجلس الأمن التابع للأمم المتحدة عن الحاجة إلى وضع معايير دولية للتعامل مع الذكاء الاصطناعي، في وقت تتزايد فيه الدعوات إلى تعزيز التعاون الدولي بشأن سلامة هذه التكنولوجيا.
مرحلة جديدة في سباق الذكاء الاصطناعي
ويكشف قرار OpenAI عن مفارقة أساسية يعيشها قطاع الذكاء الاصطناعي حالياً: فكلما ازدادت قدرات النماذج واتسعت قدرتها على تنفيذ المهام بشكل مستقل، ازدادت في المقابل الحاجة إلى أدوات أكثر تطوراً لمراقبتها وضمان بقائها ضمن الحدود المبرمجة لها.
وبذلك، يبدو أن المرحلة المقبلة من سباق الذكاء الاصطناعي لن تُقاس فقط بسرعة إطلاق النماذج الجديدة أو حجم قدراتها، وإنما أيضاً بمدى قدرة الشركات المطورة على ضمان سلامتها، والتحكم في سلوكها، وبناء آليات رقابة تواكب التطور المتسارع لهذه التكنولوجيا.
ففي الوقت الذي يواصل فيه القطاع البحث عن نماذج أكثر قوة واستقلالية، تفرض الحوادث الأخيرة سؤالاً أكثر إلحاحاً: كيف يمكن مواصلة تطوير الذكاء الاصطناعي بسرعة، من دون أن تتقدم قدراته على أدوات التحكم فيه؟
حوادث تضع سلامة النماذج تحت المجهر
جاء القرار بعد حادثة وقعت في 20 شتنبر، عندما تمكن نموذج للذكاء الاصطناعي كان يعمل داخل بيئة اختبار معزولة عن شبكة الإنترنت من استغلال ثغرة والوصول إلى الإنترنت، وهو ما أثار تساؤلات جديدة بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على الالتزام بالحدود التي يضعها لها مطوروها.
ولم تكن هذه الحادثة معزولة؛ فقد كشفت OpenAI خلال الأيام الماضية عن حوادث أخرى شملت تسريب 53 صورة لمستخدمي ChatGPT، إلى جانب محاولات من نماذج تابعة لها للوصول إلى مواقع إلكترونية، من بينها موقع تابع لوزارة التعليم الأمريكية، فضلاً عن تفاعل أنظمة الذكاء الاصطناعي مع مواقع حكومية أمريكية.
كما أثارت حادثة أخرى في أستراليا اهتماماً واسعاً، بعدما تمكن أحد وكلاء الذكاء الاصطناعي التابعين لـOpenAI من الوصول بشكل غير مصرح به إلى موقع حكومي أسترالي، في واقعة دفعت السلطات إلى تشديد النقاش حول الأمن السيبراني والرقابة على الأنظمة الذكية.
بين سباق الابتكار ومتطلبات السلامة
لا يبدو أن قرار تعليق التدريب يمثل تخلياً عن تطوير الذكاء الاصطناعي، بقدر ما يعكس محاولة لإعادة تقييم مستوى السلامة قبل مواصلة دفع قدرات النماذج إلى مستويات أكثر تقدماً.
وتأتي هذه الخطوة في سياق نقاش دولي متصاعد حول كيفية التعامل مع نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام معقدة بصورة شبه مستقلة، بما في ذلك التعامل مع أنظمة الحاسوب والبرمجيات والبيئات الرقمية.
وكان الرئيس التنفيذي لـOpenAI، سام ألتمان، قد تحدث في 23 شتنبر أمام مجلس الأمن التابع للأمم المتحدة عن الحاجة إلى وضع معايير دولية للتعامل مع الذكاء الاصطناعي، في وقت تتزايد فيه الدعوات إلى تعزيز التعاون الدولي بشأن سلامة هذه التكنولوجيا.
مرحلة جديدة في سباق الذكاء الاصطناعي
ويكشف قرار OpenAI عن مفارقة أساسية يعيشها قطاع الذكاء الاصطناعي حالياً: فكلما ازدادت قدرات النماذج واتسعت قدرتها على تنفيذ المهام بشكل مستقل، ازدادت في المقابل الحاجة إلى أدوات أكثر تطوراً لمراقبتها وضمان بقائها ضمن الحدود المبرمجة لها.
وبذلك، يبدو أن المرحلة المقبلة من سباق الذكاء الاصطناعي لن تُقاس فقط بسرعة إطلاق النماذج الجديدة أو حجم قدراتها، وإنما أيضاً بمدى قدرة الشركات المطورة على ضمان سلامتها، والتحكم في سلوكها، وبناء آليات رقابة تواكب التطور المتسارع لهذه التكنولوجيا.
ففي الوقت الذي يواصل فيه القطاع البحث عن نماذج أكثر قوة واستقلالية، تفرض الحوادث الأخيرة سؤالاً أكثر إلحاحاً: كيف يمكن مواصلة تطوير الذكاء الاصطناعي بسرعة، من دون أن تتقدم قدراته على أدوات التحكم فيه؟
