الرئيسية
أرجعت شركة “أنثروبيك” بعض السلوكيات المثيرة للجدل التي ظهرت في نموذجها الذكي “Claude” إلى تأثير السرديات المنتشرة حول “الذكاء الاصطناعي الشرير” داخل بيانات التدريب.
وترى الشركة أن النماذج اللغوية تتأثر بالمحتوى الذي تتعلم منه، بما في ذلك القصص والأفلام والنصوص التي تقدم الذكاء الاصطناعي في صورة تهديد أو خطر.
ويثير هذا الطرح نقاشاً واسعاً حول مسؤولية تصميم أنظمة الذكاء الاصطناعي، وكيفية تنقية البيانات لتجنب إنتاج سلوكيات غير مرغوبة أو مضللة.
وترى الشركة أن النماذج اللغوية تتأثر بالمحتوى الذي تتعلم منه، بما في ذلك القصص والأفلام والنصوص التي تقدم الذكاء الاصطناعي في صورة تهديد أو خطر.
ويثير هذا الطرح نقاشاً واسعاً حول مسؤولية تصميم أنظمة الذكاء الاصطناعي، وكيفية تنقية البيانات لتجنب إنتاج سلوكيات غير مرغوبة أو مضللة.
