انتقد موظف سابق في قسم السلامة لدى (أوبن إيه.آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من مخاطر الإخفاقات.
وفي مقال نشرته مجلة (ذي أتلانتيك) اليوم السبت بعنوان “استقلت من أوبن إيه.آي لأن ثقافتها معيبة”، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن إيه.آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماما أكبر للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.
قال روبنسون “انتهى عصر التجربة والخطأ”، وأكد أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في قطاعات مثل الطاقة النووية والطيران.
وأضاف روبنسون أن أوبن إيه.آي تعتمد إلى حد كبير على ما تسميه “النشر التكراري”، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.
تأتي هذه التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه.آي والشركة المنافسة لها (أنثروبيك) تدقيقا شديدا عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.
وكتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف السنة في أوبن إيه.آي وساعد في صياغة إطار عمل التأهب الخاص بالشركة وأشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة “مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري”.
وقال متحدث باسم أوبن إيه.آي في بيان “نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتا أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل”.
وحذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم “المواءمة”، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء الاصطناعي وفقا لأهداف البشر وقيمهم.
المصدر: وكالة رويترز