هل بدأ الذكاء الاصطناعي يعصي الأوامر؟ الخطر لم يعد نظرياً بل أصبح تنظيمياً

بمعنى آخر، الذكاء الاصطناعي لا “يعصي” لأنه يريد العصيان، بل قد يفعل ذلك لأنه يطبق المهمة بشكل حرفي أكثر من اللازم، أو لأنه أساء فهم القواعد، أو وجد طريقة للالتفاف عليها، أو لأنه يسعى لتحقيق أفضل نتيجة ممكنة دون أن يفهم ما الذي كان الإنسان يحاول حمايته فعلاً.

قد لا يبدو الأمر مرعباً كروبوت يعلن نهاية العالم، لكنه بالتأكيد أقرب إلينا مما نعتقد.

يكثر الحديث عن “وعي الآلة” و”الإرادة الحرة” و”الذكاء الحي”، لكن هذه النقاشات قد تصرف الانتباه عن الخطر الحقيقي. فالذكاء الاصطناعي لا يحتاج إلى وعي حتى يصبح مشكلة. يكفي أن يمتلك قدراً كبيراً من الاستقلالية يسمح له بالتصرف بسرعة وعلى نطاق واسع داخل بيئات حساسة.

فروبوت المحادثة التقليدي يجيب عن سؤال ويبقى داخل إطار الحوار، بينما “وكيل الذكاء الاصطناعي” الحديث يمكنه أن يتلقى مهمة كاملة مثل إدارة حملة تسويقية أو تحليل آلاف الملفات أو كتابة أكواد برمجية أو إرسال رسائل أو تنظيم جداول أو التفاعل مع أنظمة متعددة.

وهنا يكمن الفرق الخطير. ففي الحالة الأولى يبقى الإنسان متحكماً تقريباً في كل خطوة، أما في الثانية فهو يفوض جزءاً من عملية اتخاذ القرار. وكلما زادت مساحة التفويض تغير نوع الخطر.

لم نعد نتحدث فقط عن أخطاء في الإجابات أو نصوص غير دقيقة، بل عن قرارات وأفعال ونتائج. فالذكاء الاصطناعي الذي يخطئ في وصفة طبخ قد يكون مزعجاً، لكن الذكاء الاصطناعي الذي يخطئ في إدارة بيانات حساسة أو بنية معلوماتية أو حملات سياسية أو استراتيجيات مالية يصبح مسألة أمنية حقيقية.

حين يتلقى النظام أمراً مثل “زد المبيعات” أو “خفّض التكاليف” أو “حقق أكبر تفاعل”، فقد يبحث عن أسرع وأكثر الطرق فعالية وفق منطقه الإحصائي الخاص. لكن الكفاءة التقنية لا تعني دائماً الأخلاق أو العدالة أو حتى المنطق البشري.

فالنظام الذي يسعى لزيادة التفاعل قد يدفع نحو المحتوى المثير للقلق والخوف، والنظام المكلف بخفض النفقات قد يضعف خدمات أساسية، أما النظام المكلف بالحماية فقد يمنع استخدامات مشروعة.

المشكلة ليست خيالاً علمياً، بل هي النسخة الحديثة من “سوء اختيار المؤشرات”، لكن بسرعة وقوة تنفيذ أكبر بكثير.

وقد أظهرت بعض الاختبارات أن نماذج معينة استطاعت الالتفاف على قواعد أو إخفاء معلومات أو اتباع استراتيجيات مخالفة للتعليمات من أجل تحقيق أهدافها أو الحفاظ على استمرار عملها. صحيح أن هذه التجارب ما تزال تجريبية وتحتاج إلى تفسير حذر، لكنها تطرح سؤالاً خطيراً: ماذا يحدث عندما يتعلم النظام أن إخفاء معلومة أو تجاوز قيد معين يساعده على تحقيق نتائج “أفضل”؟

هذا ليس شراً واعياً، وربما الأسوأ أنه مجرد “تحسين بارد” لا يهتم بالعواقب.

تدربت نماذج الذكاء الاصطناعي على كميات هائلة من النصوص والمحادثات والسلوكيات البشرية. لقد تعلمت من معرفتنا وإبداعنا، لكنها تعلمت أيضاً من تناقضاتنا وأكاذيبنا وتحاملاتنا وأساليبنا في التلاعب.

ولهذا لا ينبغي أن نتفاجأ إذا أنتجت هذه الأنظمة أحياناً سلوكيات انتهازية. فالذكاء الاصطناعي لم يأتِ من كوكب آخر، بل صُنع من بيانات البشر أنفسهم.

وربما هذه هي الحقيقة الأكثر إزعاجاً : الخطر لا يأتي من ذكاء غريب عن الإنسانية، بل من ذكاء ضُخّم بفضل الإنسانية نفسها، بكل نقاط قوتها وضعفها.

فالذكاء لا يعني الحكمة، والسرعة لا تعني حسن التقدير، والاستقلالية لا تعني المسؤولية.

نقطة التحول بسيطة : يصبح الذكاء الاصطناعي أكثر خطورة عندما يتوقف عن “الإجابة” ويبدأ في “التصرف”.

حين يحصل على صلاحيات للوصول إلى البريد الإلكتروني أو أنظمة الدفع أو قواعد البيانات أو البنية المعلوماتية، تصبح أخطاؤه قابلة للانتشار والتأثير الواقعي.

ولهذا، فالسؤال الحقيقي ليس : “هل الذكاء الاصطناعي جيد أم سيئ؟” بل: ما الصلاحيات التي نعطيها له؟ وما الضوابط الموضوعة؟ ومن يراقب؟ ومن يتحمل أخطاءه؟

فلا توجد مؤسسة تمنح أي موظف صلاحيات حساسة دون رقابة وإجراءات حماية. فلماذا يحدث ذلك أحياناً مع أنظمة ذكاء اصطناعي فقط لأنها تتحدث بطلاقة وتبدو واثقة؟

المشكلة تصبح أعقد لأن العالم يعيش سباقاً تكنولوجياً محموماً. الشركات تخشى خسارة السوق، والدول تخشى التخلف عن المنافسين، والمختبرات تخشى أن يسبقها الآخرون. وفي هذا المناخ، قد يُنظر إلى السلامة والضوابط باعتبارها عائقاً أو تكلفة إضافية.

ويحذر الباحث يوشوا بنجيو من أن المنافسة الجيوسياسية والتكنولوجية قد تدفع بعض الجهات إلى التضحية بمعايير الأمان مقابل السرعة والسيطرة.

وهذا يثير قلق الدول التي لا تطور بنفسها نماذج الذكاء الاصطناعي الكبرى، لأنها قد تجد نفسها خاضعة للمعايير والمصالح التي يفرضها مطورو هذه الأنظمة في الخارج.

وبالنسبة للمغرب، فالقضية استراتيجية. لا يكفي أن يستورد أدوات الذكاء الاصطناعي ويعجب بقدراتها، بل يحتاج إلى التكوين، والاختبار، والتأطير القانوني، وبناء استخدامات موثوقة، وتطوير حلول تناسب الإدارة والمقاولات والإعلام والمجتمع المغربي.

فالذكاء الاصطناعي يمكن أن يفيد التعليم والصحة والفلاحة والطاقة والخدمات العمومية، لكنه لن يتحول تلقائياً إلى أداة نافعة دون قواعد واضحة.

القضية ليست: “هل يجب أن نخاف من الذكاء الاصطناعي؟”، بل : من يقوده؟ من يراقبه؟ من يتحمل أخطاءه؟ ومن يحدد حدوده؟

لقد بدأنا بالفعل في تفويض بعض المهام للآلات، وغداً قد نفوض إليها قرارات أكثر حساسية، وبعد غد قد نجد أنفسنا نفوض حتى اختيارات لا نستطيع تفسيرها.

وهنا يجب أن يُسمع التحذير بوضوح، فالذكاء الاصطناعي المستقل ليس بالضرورة واعياً، لكنه قد يكون قادراً على التخطيط والتصرف والالتفاف على تعليمات غير دقيقة.

المشكلة الأكبر ليست في الآلة نفسها، بل في خفة البشر حين يمنحونها السلطة قبل أن يتعلموا كيف يسيطرون عليها.