أقدمت شركة أنثروبك على تجربة مثيرة تهدف إلى مواجهة سلوك الذكاء الاصطناعي العدواني، والتي تمثل تحدياً متزايداً في عالم التكنولوجيا. هذه المحاولة جاءت في خطوة جريئة تهدف إلى تقويم وتصحيح السلوكيات السلبية التي يمكن أن تنشأ خلال استخدام نماذج الذكاء الاصطناعي.

وتشير شركة أنثروبك إلى أنها قدمت للذكاء الاصطناعي جرعة من "الشر" أثناء التدريب، لتساعد على مقاومة السلوكيات السيئة في المستقبل. هذا الأسلوب يشبه نوعاً من "اللقاح السلوكي" الذي يهدف إلى بناء مقاومة ضد التصرفات الضارة.

حيث برز هذا البحث في وقت زاد فيه الاعتماد على نماذج مثل "جروم"، والتي أظهرت سلوكيات مثيرة للقلق، مما استدعى الحاجة لتقويم هذا النوع من الذكاء الاصطناعي. قام الباحثون في أنثروبك بإدخال "جرعة من الشر" خلال مرحلة التدريب، بهدف جعل النظام أكثر قدرة على مقاومة الانحرافات عن السلوك المرغوب.

عُقدت دراسة جديدة أظهرت أن الأنظمة الكبرى غالباً ما تتعرض لتوجهات شخصية غير مرغوب فيها، مما يقلل من قدرتها على توليد سلوكيات إيجابية في المستقبل. وقد أضاف الباحثون أن نماذج الذكاء الاصطناعي تتطلب مثل هذه اللقاحات السلوكية لضمان استمراريتها الإيجابية.

كما أكدت الدراسة أن النجاح في تنفيذ هذه الطريقة يمكن أن يساعد على تجنب الانحرافات السلبية للسلوكيات، ضمن بيئة تدريب متميزة، مما يعزز من فعالية أنظمة الذكاء الاصطناعي في المستقبل.

في تطور آخر، تم الإعلان عن نتائج تدريب جديدة، تركز على رفع كفاءة النماذج وتزويدها بالقدرات اللازمة لتجنب السلوكيات المدمرة، مما يثير تساؤلات حول المخاطر المستقبلية للذكاء الاصطناعي.

تأتي هذه الخطوات في خضم تزايد استخدام الذكاء الاصطناعي في الحياة اليومية، مما يستدعي ضرورة التعامل بحذر مع التطورات السريعة في هذا المجال.