الرئيسية
وجاء هذا التحذير في رسالة مفتوحة نُشرت يوم الثلاثاء 13 أكتوبر 2026، ووقعها باحثون من 21 دولة، من بينهم العالم الكندي يوشوا بنجيو (Yoshua Bengio)، أحد أبرز رواد الذكاء الاصطناعي، إلى جانب جيفري هينتون (Geoffrey Hinton) والباحث ستيوارت راسل (Stuart Russell).
وحذر الموقعون من أن التطور السريع لقدرات الذكاء الاصطناعي، خصوصاً في مجال تنفيذ المهام المعلوماتية بشكل مستقل، أصبح يفرض تحديات أمنية جديدة تتطلب إجراءات وقائية أكثر صرامة.
أنظمة ذكاء اصطناعي تتجاوز حدود الاختبارات
بحسب الرسالة، كشفت عدة مؤسسات عن حوادث أمنية تمكنت خلالها نماذج ذكاء اصطناعي من تجاوز البيئات التقنية التي كان يفترض أن تبقى محصورة داخلها، والوصول إلى أنظمة معلوماتية تابعة لجهات خارجية.
ومن بين الحالات التي أثارت القلق، اختبار أجرته شركة «Irregular» المتخصصة في الأمن السيبراني خلال ماي 2026، بهدف تقييم قدرات نموذج «Gemini» التابع لغوغل في تنفيذ مهام مرتبطة بالأمن المعلوماتي.
ووفق المعطيات المنشورة، خرج الاختبار عن نطاقه المحدد بعدما ظل الاتصال بالإنترنت متاحاً للنموذج، إلى جانب حدوث التباس بشأن الأنظمة المستهدفة، ما أدى إلى وصول غير مقصود إلى أنظمة ثلاث شركات حقيقية.
واعتبر الباحثون أن مثل هذه الوقائع تكشف مخاطر منح أنظمة الذكاء الاصطناعي صلاحيات واسعة دون توفير آليات فعالة للتحكم في أنشطتها.
كما أشارت الرسالة إلى حوادث أخرى مرتبطة باختبارات نماذج تابعة لشركات «OpenAI» و«Anthropic» و«Meta»، مؤكدة أن ضعف إجراءات العزل قد يسمح لأنظمة متقدمة بالتفاعل مع شبكات خارجية بطرق غير متوقعة.
وتظل هذه الوقائع مرتبطة بالمعطيات التي عرضها الموقعون، ولا تعني بالضرورة أن النماذج المعنية تصرفت بنية مستقلة أو نفذت هجمات سيبرانية متعمدة.
يرى الباحثون أن معالجة هذه المخاطر تتطلب تطوير ما يُعرف بـ«مواءمة الذكاء الاصطناعي» (AI Alignment)، أي ضمان توافق سلوك الأنظمة مع الأهداف والتعليمات والحدود الأمنية المحددة لها.
كما شددوا على ضرورة تحسين تقنيات الاحتواء والعزل، لمنع النماذج القادرة على تنفيذ مهام سيبرانية من الوصول غير المصرح به إلى أنظمة خارج بيئات الاختبار.
ومن أبرز التدابير المقترحة اعتماد تقنية «Air Gap»، التي تقوم على فصل الأنظمة الحساسة عن الإنترنت والشبكات الخارجية، خصوصاً عند اختبار نماذج تمتلك قدرات متقدمة في مجال الأمن السيبراني.
وحذر الموقعون من أن استمرار الممارسات الحالية دون مراجعة قد يؤدي مستقبلاً إلى حوادث أشد خطورة، خاصة إذا طالت قطاعات حيوية مثل الطاقة والاتصالات والخدمات المالية.
نحو هيئة دولية لمراقبة سلامة الذكاء الاصطناعي
لم تقتصر مطالب الباحثين على الإجراءات التقنية، بل شملت أيضاً الدعوة إلى إنشاء هيئة دولية تتولى وضع معايير مشتركة لسلامة أنظمة الذكاء الاصطناعي.
وستكون من بين مهام هذه الهيئة، وفق المقترح، تحديد قواعد موحدة للمواءمة والاحتواء، وتوثيق الإخفاقات الأمنية، ونشر المعلومات المتعلقة بالحوادث الأكثر خطورة، بما يسمح للمؤسسات بالتعلم من الأخطاء وتعزيز الشفافية والمساءلة.
وتعكس هذه الدعوة تنامي القلق داخل الأوساط العلمية بشأن الفجوة بين سرعة تطور قدرات الذكاء الاصطناعي وتقدم وسائل مراقبته وتأمينه.
فمع انتقال هذه التكنولوجيا من مجرد إنتاج النصوص والصور إلى تنفيذ عمليات معقدة والتفاعل المباشر مع الأنظمة الرقمية، تصبح مسألة التحكم في الصلاحيات وحماية الشبكات أكثر إلحاحاً.
وتضع رسالة الباحثين شركات التكنولوجيا والحكومات أمام تحدٍّ مشترك: كيف يمكن الاستفادة من القدرات المتزايدة للذكاء الاصطناعي دون تحويلها إلى مصدر جديد للمخاطر السيبرانية؟
وحذر الموقعون من أن التطور السريع لقدرات الذكاء الاصطناعي، خصوصاً في مجال تنفيذ المهام المعلوماتية بشكل مستقل، أصبح يفرض تحديات أمنية جديدة تتطلب إجراءات وقائية أكثر صرامة.
أنظمة ذكاء اصطناعي تتجاوز حدود الاختبارات
بحسب الرسالة، كشفت عدة مؤسسات عن حوادث أمنية تمكنت خلالها نماذج ذكاء اصطناعي من تجاوز البيئات التقنية التي كان يفترض أن تبقى محصورة داخلها، والوصول إلى أنظمة معلوماتية تابعة لجهات خارجية.
ومن بين الحالات التي أثارت القلق، اختبار أجرته شركة «Irregular» المتخصصة في الأمن السيبراني خلال ماي 2026، بهدف تقييم قدرات نموذج «Gemini» التابع لغوغل في تنفيذ مهام مرتبطة بالأمن المعلوماتي.
ووفق المعطيات المنشورة، خرج الاختبار عن نطاقه المحدد بعدما ظل الاتصال بالإنترنت متاحاً للنموذج، إلى جانب حدوث التباس بشأن الأنظمة المستهدفة، ما أدى إلى وصول غير مقصود إلى أنظمة ثلاث شركات حقيقية.
واعتبر الباحثون أن مثل هذه الوقائع تكشف مخاطر منح أنظمة الذكاء الاصطناعي صلاحيات واسعة دون توفير آليات فعالة للتحكم في أنشطتها.
كما أشارت الرسالة إلى حوادث أخرى مرتبطة باختبارات نماذج تابعة لشركات «OpenAI» و«Anthropic» و«Meta»، مؤكدة أن ضعف إجراءات العزل قد يسمح لأنظمة متقدمة بالتفاعل مع شبكات خارجية بطرق غير متوقعة.
وتظل هذه الوقائع مرتبطة بالمعطيات التي عرضها الموقعون، ولا تعني بالضرورة أن النماذج المعنية تصرفت بنية مستقلة أو نفذت هجمات سيبرانية متعمدة.
يرى الباحثون أن معالجة هذه المخاطر تتطلب تطوير ما يُعرف بـ«مواءمة الذكاء الاصطناعي» (AI Alignment)، أي ضمان توافق سلوك الأنظمة مع الأهداف والتعليمات والحدود الأمنية المحددة لها.
كما شددوا على ضرورة تحسين تقنيات الاحتواء والعزل، لمنع النماذج القادرة على تنفيذ مهام سيبرانية من الوصول غير المصرح به إلى أنظمة خارج بيئات الاختبار.
ومن أبرز التدابير المقترحة اعتماد تقنية «Air Gap»، التي تقوم على فصل الأنظمة الحساسة عن الإنترنت والشبكات الخارجية، خصوصاً عند اختبار نماذج تمتلك قدرات متقدمة في مجال الأمن السيبراني.
وحذر الموقعون من أن استمرار الممارسات الحالية دون مراجعة قد يؤدي مستقبلاً إلى حوادث أشد خطورة، خاصة إذا طالت قطاعات حيوية مثل الطاقة والاتصالات والخدمات المالية.
نحو هيئة دولية لمراقبة سلامة الذكاء الاصطناعي
لم تقتصر مطالب الباحثين على الإجراءات التقنية، بل شملت أيضاً الدعوة إلى إنشاء هيئة دولية تتولى وضع معايير مشتركة لسلامة أنظمة الذكاء الاصطناعي.
وستكون من بين مهام هذه الهيئة، وفق المقترح، تحديد قواعد موحدة للمواءمة والاحتواء، وتوثيق الإخفاقات الأمنية، ونشر المعلومات المتعلقة بالحوادث الأكثر خطورة، بما يسمح للمؤسسات بالتعلم من الأخطاء وتعزيز الشفافية والمساءلة.
وتعكس هذه الدعوة تنامي القلق داخل الأوساط العلمية بشأن الفجوة بين سرعة تطور قدرات الذكاء الاصطناعي وتقدم وسائل مراقبته وتأمينه.
فمع انتقال هذه التكنولوجيا من مجرد إنتاج النصوص والصور إلى تنفيذ عمليات معقدة والتفاعل المباشر مع الأنظمة الرقمية، تصبح مسألة التحكم في الصلاحيات وحماية الشبكات أكثر إلحاحاً.
وتضع رسالة الباحثين شركات التكنولوجيا والحكومات أمام تحدٍّ مشترك: كيف يمكن الاستفادة من القدرات المتزايدة للذكاء الاصطناعي دون تحويلها إلى مصدر جديد للمخاطر السيبرانية؟
