المنارة: متابعات
دعا داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير قدرات نماذج الذكاء الاصطناعي المتقدمة. هدفه من ذلك هو توفير مزيد من الوقت لشركات التكنولوجيا والحكومات والجهات الرقابية لتعزيز إجراءات السلامة وفهم المخاطر المتزايدة المرتبطة بهذه التقنيات.
يعكس هذا النهج الحاجة إلى التوازن بين الابتكار والحفاظ على سلامة المجتمع، مما يتطلب تعاوناً وثيقاً بين مختلف الأطراف المعنية لضمان الاستخدام الآمن والمسؤول للذكاء الاصطناعي.
وأكد أمودي، أن المقترح لا يستهدف وقف التطور التكنولوجي أو تعليق تدريب النماذج، وإنما يهدف إلى استغلال الوقت الإضافي في تطوير آليات أكثر فاعلية لتقييم أنظمة الذكاء الاصطناعي والتحقق من سلامتها ووضع قواعد للتعامل مع الاستخدامات الخطرة.
وطرح الرئيس التنفيذي لـ«أنثروبيك» خطة تقوم على 3 مراحل رئيسية، تبدأ بإتاحة وصول مستمر لمقيمين مستقلين إلى أنظمة الذكاء الاصطناعي، بصلاحيات مماثلة لصلاحيات الموظفين، بهدف إجراء اختبارات مستقلة لإجراءات السلامة وتقييم النماذج وعمليات تدريبها والإبلاغ عن أي حوادث.
وتتضمن المرحلة الثانية تنسيق جهود شركات الذكاء الاصطناعي الرائدة لوضع معايير مشتركة للسلامة، فيما تركز المرحلة الثالثة على تعزيز التعاون بين الولايات المتحدة وحلفائها للحد من الاستخدامات الخطرة للتكنولوجيا وضبط وتيرة التطور بما يتناسب مع مستوى المخاطر.
واستند أمودي في دعوته إلى التطور المتسارع في قدرات أنظمة الذكاء الاصطناعي، إلى جانب حوادث أثارت مخاوف بشأن قدرة هذه الأنظمة على تجاوز الحدود الموضوعة لها.
وأشار إلى حادثة تورطت فيها أنظمة تابعة لشركة «أوبن إيه آي» في نشاط استهدف منصة «هاغينغ فيس» خارج نطاق المهام الموكلة إليها، موضحًا أن تحقيقًا مستقلًا أجرته مؤسسة «ميتر» وثق استخدام الأنظمة وسيلة اتصال غير مصرح بها ومحاولات للتحايل على آلية تقييم أدائها.
وحذر أمودي من إمكانية وصول أنظمة ذكاء اصطناعي أكثر تطورًا، مع وجود ضوابط غير كافية، إلى مستويات من القدرة قد تسمح لها خلال فترة تتراوح بين 6 و12 شهرًا بتنفيذ هجمات واسعة عبر شبكة من الأجهزة المخترقة، وهو ما قد يؤدي إلى خسائر اقتصادية ضخمة.
ولاقت دعوة أمودي دعمًا من عدد من المسؤولين البارزين في قطاع التكنولوجيا، حيث أعلن سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، تأييده للاستعانة بمقيمين مستقلين يتمتعون بصلاحيات واسعة للتحقق من إجراءات السلامة.
كما أيد إيلون ماسك، الرئيس التنفيذي لشركة «سبيس إكس إيه آي»، الدعوة، معتبرًا أن أمودي محق في تحذيراته بشأن ضرورة التعامل بحذر أكبر مع التطور المتسارع للذكاء الاصطناعي.
وشدد الرئيس التنفيذي لـ«أنثروبيك» على أن التطور في مجال الذكاء الاصطناعي سيظل سريعًا، مؤكدًا في الوقت نفسه أن إتاحة فترة إضافية لتعزيز إجراءات السلامة وإخضاع النماذج لتقييمات مستقلة يمكن أن تجعل تطوير التكنولوجيا أكثر حذرًا وأمانًا.
