شات جي بي تي يقيد معلومات الأسلحة للمراهقين

تتجه أوبن إيه آي إلى تشديد إجراءات السلامة في شات جي بي تي، عبر تقييد وصول المستخدمين المراهقين إلى المعلومات التطبيقية المتعلقة بالأسلحة، وتطوير آليات لرصد المحادثات التي قد تكشف عن مؤشرات على التفكير في ممارسة العنف أو إيذاء الآخرين.

وتشمل التحديثات الحد من تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الحماية الأمنية، إلى جانب توسيع نطاق التدخل عند ظهور مؤشرات تستدعي القلق بشأن سلامة المستخدم أو المحيطين به. ولا تقتصر هذه الإجراءات على الطلبات التي تتضمن تهديدات صريحة، بل قد تشمل أسئلة تبدو عادية إذا أظهر سياق المحادثة نمطا يثير مخاوف تتعلق بالسلامة.

قيود على المعلومات المتعلقة بالأسلحة

تستهدف السياسة الجديدة الحد من وصول المراهقين إلى التفاصيل التي يمكن استخدامها للحصول على الأسلحة أو تشغيلها أو توظيفها في الاعتداء على الآخرين، مع منع تحول إجابات شات جي بي تي إلى إرشادات عملية يمكن استغلالها في تنفيذ أعمال عنف، حتى عندما لا يعبّر المستخدم صراحة عن نية مؤذية.

وفي إجراء منفصل يشمل جميع المستخدمين، قررت أوبن إيه آي تشديد القيود على التفاصيل المرتبطة بحوادث إطلاق النار الجماعي، بما في ذلك أنواع الأسلحة والمعدات المستخدمة، وطرق حصول منفذي الهجمات عليها، والمقارنات التفصيلية لحجم الأضرار التي تسببت فيها. ولا يعني ذلك حظر مناقشة هذه الحوادث بالكامل، إذ ستظل المعلومات التاريخية والاجتماعية المتعلقة بها متاحة.

مراقبة سياق المحادثات والتدخل المبكر

يمثل توسيع نطاق رصد المحادثات أحد أبرز جوانب التحديثات الجديدة، إذ تسعى الشركة إلى الاستفادة من سياق التفاعل والطلبات المتكررة لتحديد الأنماط التي قد تشير إلى اهتمام المستخدم بإيذاء الآخرين. وبموجب هذه الإجراءات، قد ينهي شات جي بي تي المحادثة تلقائيا إذا رصد مؤشرات على التفكير في ارتكاب أعمال عنف أو إلحاق أذى جسيم بشخص آخر.

وتقول أوبن إيه آي إنها تعمل مع خبراء في مجالات السلامة والوقاية من العنف لتطوير وسائل التدخل المبكر، إلى جانب الإجراءات المعمول بها حاليا لتقييد الحسابات أو حظرها عند مخالفة سياسات الاستخدام. كما تطرح هذه الآلية تحديا تقنيا يتعلق بالتمييز بين الاهتمام المعرفي المشروع والسلوك الذي قد ينطوي على خطر حقيقي.

تقدير الأعمار وتعزيز الرقابة الأبوية

تتضمن الإجراءات أيضا الاعتماد على نظام تقدير أعمار المستخدمين، الذي يحدد الحسابات التي يُرجح أن أصحابها دون 18 عاما، ويطبق عليها تلقائيا إعدادات أكثر تشددا في التعامل مع المحتوى الحساس. ويستند النظام إلى مجموعة من المؤشرات، تشمل الموضوعات التي يناقشها المستخدم، وأوقات نشاطه، وأنماط استخدامه للخدمة، وعمر الحساب.

وبالتوازي مع ذلك، تعمل الشركة على تطوير أدوات الرقابة الأبوية التي تتيح للوالدين ربط حساباتهم بحسابات أبنائهم المراهقين وإدارة بعض إعدادات السلامة، كما تعتزم إرسال إشعارات في حالات محددة، من بينها تعليق حساب المراهق نتيجة تكرار المحادثات المرتبطة بالعنف. ولا تمنح هذه الأدوات الوالدين صلاحية الاطلاع على سجل محادثات أبنائهم.

تحديات الخصوصية ودقة أنظمة الحماية

رغم أن توسيع إجراءات السلامة يوفر طبقة إضافية من الحماية، فإنه يثير تساؤلات بشأن حدود المراقبة الآلية، ومدى دقة الأنظمة في تحديد السلوكيات الخطرة دون تقييد الاستخدامات المشروعة. كما أن الاعتماد على تقدير العمر الآلي قد يؤدي إلى إخضاع بعض البالغين لقيود مخصصة للقاصرين.

وأعلنت أوبن إيه آي أنها ستبدأ تطبيق إجراءات الحماية الجديدة خلال الأسابيع المقبلة، على أن تنشر أول تقرير للسلامة المجتمعية مطلع عام 2027، يتضمن بيانات وأمثلة مجهولة الهوية حول كيفية اكتشاف السلوكيات المرتبطة بالعنف والتعامل معها، مع إصدار تحديثات دورية كل ستة أشهر.