الرئيسية
القرار الخوارزمي قد تكون له جهات متعددة
يغير الذكاء الاصطناعي الوكيل طبيعة المشكلة القانونية. فالبرنامج التقليدي ينفذ قواعد محددة، بينما يستطيع الوكيل تلقي هدف وتقسيم المهمة واختيار الأدوات والرجوع إلى قواعد البيانات واستدعاء وكلاء آخرين. وهكذا يصبح القرار نتيجة سلسلة من الخطوات لم يوافق عليها إنسان بالضرورة واحدةً واحدة.
ودافع المغرب في الحوار العالمي حول حكامة الذكاء الاصطناعي عن منع هذا الاستقلال التشغيلي من خلق فراغ في المسؤولية. وتشمل الالتزامات المقترحة توثيق مكونات السلسلة والبيانات المستخدمة، وتحديد شخص مسؤول عن أي قرار يمس الحقوق، وضمان إمكانية الاعتراض في أجل يتناسب مع سرعة النظام. فإذا رُفضت خدمة إدارية أو جُمّدت عملية بنكية، يجب أن يحصل الشخص على تفسير ومسار للطعن، لا على جواب يقول إن «الخوارزمية قررت».
من الموقف الدولي إلى ضمانات مغربية
يمكن لهذه المبادئ أن تمنح المغرب أفضلية إذا وُجهت بها المشاريع العمومية والخاصة منذ البداية. فالمخاطر لا تقتصر على جواب خاطئ، بل قد تشمل التمييز أو انتهاك الخصوصية أو تنفيذ إجراء من دون تفويض كاف. ويجب تصنيف الأنظمة حسب درجة المخاطر؛ فتلخيص وثيقة داخلية ليس كاتخاذ قرار إداري أو إطلاق دفعة مالية.
كما ينبغي ألا يكون المسؤول البشري اسماً على الورق، بل شخصاً يفهم النظام ويملك سلطة إيقافه. ويمكن للصفقات العمومية أن تفرض التوثيق واختبارات التحيز ومكان تخزين البيانات والتدقيق المستقل والإبلاغ عن الحوادث. المطلوب قواعد واضحة تحمي المواطن من دون تعطيل الابتكار المسؤول.
