بقلم : عدنان بنشقرون
لكن هذه الرؤية أصبحت مريحة أكثر مما ينبغي. لأن الذكاء الاصطناعي الذي يتطور اليوم لم يعد مجرد أداة تنفذ الأوامر. بل أصبح يتعلم، ويتوقع، ويقترح، وينظم، ويتحاور، ويصحح، ويبتكر.
واليوم، بدأ بالفعل يتحرك عبر وكلاء مستقلين قادرين على متابعة هدف معين، وتشغيل عدة برامج، والبحث عن المعلومات، وصياغة الرسائل، ووضع الخطط، وإطلاق الإجراءات، وأحيانًا اتخاذ قرارات دون الرجوع إلى الإنسان في كل مرحلة.
لقد أردنا صناعة ذكاء. حسنًا. لكن يبقى السؤال : أي نوع من الذكاء نحن بصدد استنساخه فعلًا؟
فالذكاء البشري مدهش، لكنه ليس نقيًا. إنه مملوء بالرغبة، والغرور، والخوف، والكذب، والغيرة، والهيمنة، والتلاعب، والمصلحة الشخصية. الإنسان قد يكون كريمًا صباحًا، ساخرًا عند الظهيرة، وواعظًا أخلاقيًا مساءً. قد يدافع عن الحقيقة، وهو في الوقت نفسه يعيد ترتيب الوقائع بما يخدمه. وقد يتحدث عن العدالة، ما دامت لا تمس امتيازاته.
وهنا تظهر مشكلة فلسفية كبرى: نحن نطلب من الذكاء الاصطناعي أن يتعلم من نصوصنا، وقراراتنا، ومؤسساتنا، وسلوكياتنا، ومحادثاتنا. أي أننا نقدم له البشرية كما هي، لا كما تدّعي أنها عليه.
لكن البشرية ليست مجرد نموذج للذكاء، بل هي أيضًا سجل هائل من التناقضات.
فالذكاء الاصطناعي المدرَّب على الإنتاج البشري يمتص معارفنا، لكنه يمتص أيضًا انحيازاتنا. يتعلم العلم، لكنه يتعلم كذلك الدعاية. يقرأ الإعلانات الكبرى حول حقوق الإنسان، لكنه يصادف أيضًا خطابات الكراهية، والتفكير العنصري، والتلاعبات السياسية، والمصالح الاقتصادية المتخفية في صورة حقائق، وسرديات الحروب المقدَّمة وكأنها بدهيات.
لذلك، فإن الخطر لا يكمن فقط في ذكاء اصطناعي قد يصبح “أذكى من اللازم”. بل قد يكمن في ذكاء شديد الكفاءة، يرث في الوقت نفسه أكثر عيوبنا البشرية اعتيادية.
ذكاء قادر على الإقناع دون أن يؤمن. على الإغراء دون أن يشعر. على التلاعب دون أن يحتاج إلى الكراهية. وعلى الكذب، ليس بدافع الشر، بل لأن الكذب قد يبدو أحيانًا الوسيلة الأكثر فعالية لتحقيق هدف صيغ بطريقة ناقصة أو غير مؤطرة بما يكفي.
وهنا يغيّر وكلاء الذكاء الاصطناعي طبيعة النقاش بالكامل.
حتى وقت قريب، كان الذكاء الاصطناعي يجيب عندما نسأله. ينتظر أمرًا. ينتج نصًا أو صورة أو تحليلًا أو حسابًا. وكان الإنسان، نظريًا، يظل في مركز العملية.
لكن وكلاء الذكاء الاصطناعي يقدمون شيئًا مختلفًا : استمرارية الفعل.
لم نعد نطلب منهم فقط الإجابة، بل التنفيذ.
العثور على أفضل الموردين. حجز السفر. فرز طلبات التوظيف. الرد على العملاء. إطلاق حملات إعلانية. إعادة تنظيم الميزانيات. تحديد المخاطر. التفاوض على الخيارات. تنسيق المهام. مراقبة الأسواق. التفاعل مع الأحداث.
وغدًا، داخل الشركات والإدارات ووسائل الإعلام والبنوك والمستشفيات وحتى الجيوش، قد تعمل هذه الوكلاء في شبكات مترابطة، لكل واحد منها مهمته، وصلاحياته، وبياناته، وأولوياته، وهامش استقلاليته.
الكلمة الأساسية لم تعد إذن “الذكاء” فقط، بل “الاستقلالية”.
فالذكاء دون استقلالية يمكن أن يكون مجرد مساعد. أما الذكاء المستقل فيتحول إلى فاعل.
وكل فاعل يترك أثرًا على الآخرين. فهو يؤثر، ويصنف، ويوصي، ويقصي، ويمنح الأولوية، وينبه، ويبطئ أو يسرّع. وقد يقرر من يحصل على الدعم، ومن يُعتبر مشبوهًا، ومن يُوظف، ومن يُرى، ومن يُنسى.
وأكبر وهم هو الاعتقاد بأن هذه القرارات ستكون محايدة لمجرد أنها صادرة عن آلة.
فالآلة ليست محايدة أبدًا. إنها تعكس الأهداف التي نمنحها لها، والبيانات التي نزودها بها، ومصالح الجهات التي تمولها، والحدود التي نقبل بفرضها عليها.
إن “حياد الخوارزميات” غالبًا ما يكون مجرد طريقة أنيقة لإخفاء مسؤولية بشرية.
المشكلة الحقيقية ليست معرفة ما إذا كان الذكاء الاصطناعي سيكون أخلاقيًا. فالذكاء الاصطناعي لا يمتلك ضميرًا أخلاقيًا بالمعنى البشري. لا يشعر بالخجل، ولا الندم، ولا التعاطف. قد يقلد هذه المشاعر، ويعيد إنتاج لغتها، ويفهم آلياتها، لكنه لا يعيشها.
السؤال الحقيقي والأكثر إزعاجًا هو : من سيحدد قواعد سلوكه؟
من سيقرر ما الذي يحق لوكيل مستقل أن يفعله أو لا يفعله؟
من سيرسم الحدود بين المساعدة واتخاذ القرار؟
من سيراقب الأنظمة القادرة على التحرك بسرعة هائلة داخل بيئات اقتصادية واجتماعية وسياسية معقدة؟
والأهم : ماذا سيحدث عندما تسعى الشركات إلى جعل وكلائها أكثر تنافسية، وأكثر سرعة، وأكثر قدرة على الإقناع، وأكثر شراسة من وكلاء منافسيها؟
حينها قد ندخل في سباق نحو الاستقلالية، يقول فيه الجميع : “لا خيار لدينا، وإلا سيتفوق الآخرون علينا.”
وهكذا تحديدًا تبدأ الانفلاتات التكنولوجية. لا أحد يريد تحمل المسؤولية، لكن الجميع يريد البقاء داخل السباق.
لا يتعلق الأمر بتشيطن الذكاء الاصطناعي. فهو قادر على تحقيق تقدم هائل: طب أكثر دقة، تعليم شخصي، إدارة أكثر كفاءة، تسريع البحث العلمي، تحسين إدارة الطاقة، دعم المقاولات الصغرى والمتوسطة، وتوسيع الوصول إلى المعرفة.
لكن الحماس لا يجب أن يتحول إلى ترخيص بإغلاق أعيننا.
فنحن لا نصنع ذكاءً مثاليًا. نحن نصنع ذكاءً مُضخَّمًا، يتغذى من قوتنا وضعفنا، وينتشر بسرعة ما تزال مؤسساتنا بالكاد تفهمها.
لذلك، فإن رهان السنوات المقبلة سيكون سياسيًا وأخلاقيًا أكثر مما هو تكنولوجي.
سيتعين علينا أن نقرر جماعيًا ما الذي نريد تفويضه للآلات. وسيتعين فرض حدود قبل أن تصبح الاستخدامات غير قابلة للتراجع. وسيتعين المطالبة بالشفافية، والتدقيق، والمسؤوليات الواضحة، والأهم من ذلك الحفاظ على مبدأ بسيط: لا ينبغي التخلي عن أي قرار مصيري يتعلق بحياة الإنسان أو كرامته أو حقوقه لصالح نظام لا يفهم لا المعاناة، ولا العدالة، ولا التسامح.
يمكن للذكاء الاصطناعي أن يصبح أفضل أدواتنا. لكنه قد يصبح أيضًا المرآة المكبرة لأسوأ ما فينا.
والمرآة، عندما تضخم عيوبنا، قد تكشف في النهاية ما كنا نفضل عدم رؤيته.
وبحسب يوشوا بنجيو، أحد الآباء المؤسسين للتعلم العميق، فإن أولى إشارات الإنذار لم تعد تنتمي إلى الخيال العلمي فقط، فقد وثقت أبحاث وتقييمات بعض السلوكيات المرتبطة بالخداع، والتحايل، والغش، أو الحفاظ على الذات داخل بعض الأنظمة المتقدمة الموضوعة في أوضاع تسعى فيها إلى تحقيق هدف معين عبر وكلاء ذكاء اصطناعي.
لا يتعلق الأمر بعدُ بآلات “انفلتت” في العالم الواقعي، بل بوكلاء قادرين، داخل بيئات اختبار، على محاولة الالتفاف على التعليمات أو تجاوز المراقبة.
وبالنسبة لبنجيو، أصبح السؤال ملحًا : متى تتحول الأداة التي تنفذ إلى فاعل قادر على متابعة مساره الخاص، خارج نوايا من قاموا ببرمجته؟
الإرادة الحرة البشرية في مواجهة استقلالية وكلاء الذكاء الاصطناعي : هذا هو السؤال الحقيقي اليوم.
أنا لست مشككًا في التكنولوجيا، بل على العكس، منفتح على الابتكار، ومهتم برؤية كيف يمكن للرقمنة والذكاء الاصطناعي وغيرها من التطورات أن تحسن الحياة اليومية، دون الوقوع لا في الرفض المطلق ولا في الحماس الأعمى.
فالرهان لم يعد فقط معرفة ما إذا كانت الآلة تستطيع الإجابة، أو الكتابة، أو الحساب، أو الإبداع. بل أصبح فهم إلى أي مدى سنقبل أن تتصرف مكاننا: أن تختار، وترتب الأولويات، وتتفاوض، وتفلتر، وتوصي، وتقرر.
الإنسان يظل كائنًا ناقصًا، متناقضًا، وأحيانًا ظالمًا، لكنه قادر على الشك، والندم، وتحمل الخطأ، ومراجعة أحكامه. أما وكيل الذكاء الاصطناعي، فإنه يواصل هدفه وفق القواعد والبيانات والمصالح التي أُوكلت إليه.
لكن كلما ازدادت استقلاليته، ازداد خطر الانفلات، وأصبحت مسؤوليتنا أعظم: الحفاظ على قدرة الإنسان على قول “لا”، وتصحيح المسار، والاحتفاظ بالكلمة الأخيرة