أنثروبيك تحذر من مرحلة جديدة في تطور الذكاء الاصطناعي

حذرت شركة أنثروبيك من اقتراب الذكاء الاصطناعي من مرحلة متقدمة قد يشارك فيها في تصميم وتطوير أجيال جديدة منه، بما يثير تساؤلات حول مستقبل الرقابة البشرية وسلامة النماذج.

وجاء ذلك في وثيقة التسجيل المعدلة للاكتتاب العام، حيث أشارت الشركة إلى احتمال اقتراب نماذجها من مستوى متقدم في التحسين الذاتي التكراري، مع التأكيد أن نماذجها الحالية لم تصل بعد إلى هذه المرحلة بصورة كاملة.

مؤشرات على تسارع التطوير

وقالت أنثروبيك إن نماذجها باتت تساهم في كتابة الشيفرات البرمجية والمشاركة في التجارب البحثية وتحليل النتائج، مشيرة إلى أن نموذج كلود كتب أكثر من 80% من الشيفرات البرمجية التي أدمجتها الشركة في قاعدة شيفرتها خلال مايو/أيار الماضي.

كما أشار المعهد إلى أن مهندسي الشركة أصبحوا يدمجون في المتوسط كمية من الشيفرات تعادل نحو ثمانية أضعاف ما كانوا يدمجونه يوميا خلال عام 2024، مع توضيح أن عدد الأسطر البرمجية لا يمثل وحده مقياسا دقيقا للإنتاجية أو جودة العمل.

فرص ومخاطر

وترى الشركة أن التحسين الذاتي التكراري قد يسرع الابتكار في قطاعات مختلفة، لكنه يحمل في المقابل مخاطر تتعلق بتسارع قدرات النماذج بوتيرة قد تفوق قدرة البشر على اختبارها ومراقبتها.

وتحذر أنثروبيك من احتمال انتقال الأخطاء والتحيزات من نموذج إلى آخر، وتراكمها عبر أجيال متعاقبة، بما قد يجعل اكتشافها ومعالجتها أكثر صعوبة، مع تزايد الحاجة إلى الإشراف البشري على عمليات البحث والتطوير.