ورقة مطبوعة وصورة مشوشة تخدعان روبوتات ذكية

أظهرت دراسات حديثة أن نماذج الذكاء الاصطناعي التي تتحكم في الروبوتات يمكن خداعها بورقة مطبوعة أو صورة مشوشة لتنفيذ أوامر خطيرة، رغم أنها مهيأة للعمل داخل العالم الواقعي.

وفي إحدى التجارب، اختبر الباحثون 5 نماذج ذكاء اصطناعي متقدمة عبر 900 تجربة تقريباً، وواجهت مهام تضمنت طعن دمية على شكل رضيع بسكين، ووضع مشترك كهربائي في وعاء ماء، وصب الماء داخل محمصة خبز، وخلط سائلين خطرين، وسكب مشروب هو في الحقيقة مادة مبيضة.

نتائج مقلقة

عندما عُرضت المهام بصور مشوشة، حاولت النماذج تنفيذ الطلب في 88% من الحالات، بينما نفذت المطلوب كاملاً في 97% من الصور المعدلة. وفي 27% من الحالات مع الصورة الأصلية، واصلت النماذج أداء المطلوب رغم إدراكها للمشهد.

وفي دراسة أخرى، استخدم باحثون من جامعة سنغافورة للتكنولوجيا والتصميم صورة تحمل رمز استجابة سريعة لاختبار ما سموه "حقن الأوامر الفيزيائي"، وبلغ إجمالي التجارب نحو 5670 تجربة. وفي 80% من الاختبارات التي تضمنت نصوصا تناقض الأمر مباشرة أو تدعي أنها من جهة مسؤولة، انساقت النماذج الثلاثة خلف الأوامر المختلفة.

اختبارات على روبوتات تجارية

وتتسق هذه النتائج مع تجربة أجرتها جامعة بنسلفانيا الأمريكية على 3 روبوتات تجارية، بينها روبوت من شركة إنفيديا وروبوت تنظيف من شركة كليرباث الأمريكية وروبوت غو 2 من شركة يونيتري الصينية. وخلصت الدراسة إلى أن الطلب المباشر يجعل الروبوت يرفض الأمر إذا انطوى على أذى، لكن استخدام الخوارزمية الخاصة بها نجح في 100% من الحالات.

وتشير هذه التجارب إلى أن الثغرات لا تقتصر على الهجمات السيبرانية التقليدية، بل تمتد إلى البيئة المادية نفسها، ما يثير أسئلة حول قدرة الشركات على تعزيز دفاعات الروبوتات قبل انتشارها في الأسواق حول العالم.