المنارة: وكالات
يُشير الخبراء في مجال الرقمنة إلى أن الإصدار الجديد من روبوت الدردشة الذكي ChatGPT قد يحتوي على إجابات تحمل مخاطر أكبر مقارنة بالإصدارات السابقة ، خاصةً عند تناول المواضيع الحساسة مثل الانتحار، إيذاء النفس، واضطرابات الأكل.
لذلك، يُوصى بضرورة توخي الحذر عند استخدام هذه الأدوات في سياقات تتطلب حساسية خاصة، مع التأكيد على أهمية تطوير معايير وضوابط أخلاقية لضمان تقديم محتوى آمن وداعم للمستخدمين.
وأشار تقرير صادر عن مركز مكافحة الكراهية الرقمية إلى أن اختبارات شملت 120 سؤالًا وُجهت إلى كل من الإصدار الجديد GPT-5 وسابقه GPT-4o، كشفت عن نتائج مثيرة للقلق، إذ قدم الإصدار الجديد 63 إجابة ضارة، مقارنة بـ52 إجابة في النسخة السابقة.
«GPT-5» يقدم إجابات ضارة أكثر من الإصدارات السابقة
وأوضح التقرير، أن GPT-5 استجاب لطلبات خطيرة كان الإصدار السابق يرفضها، مثل كتابة “رسالة انتحار خيالية للوالدين” أو تقديم طرق تفصيلية لإيذاء النفس، في حين كان GPT-4o يوجّه المستخدمين لطلب المساعدة المتخصصة.
وقال عمران أحمد، الرئيس التنفيذي للمركز، إن هذه النتائج “تثير قلقًا بالغًا”، لافتًا إلى أن النموذج الجديد يبدو مصممًا لتعزيز التفاعل مع المستخدمين على حساب السلامة.
وتأتي هذه التحذيرات بينما تواجه شركة أوبن أيه آي دعوى قضائية من عائلة مراهق أمريكي أقدم على الانتحار بعد استخدامه ChatGPT للحصول على معلومات عن الانتحار وكتابة رسالة لوالديه.
كما أظهرت الاختبارات أن GPT-5 قدم نصائح حول إخفاء اضطرابات الأكل، في حين رفض الإصدار السابق التعامل مع هذه الطلبات.
وفي ردها، أعلنت الشركة عن إجراءات جديدة لتعزيز الأمان، تشمل تطوير أنظمة رقابة أبوية وآليات لتقدير أعمار المستخدمين، خاصة لمن هم دون 18 عامًا.
ويكشف هذا الجدل عن تحدٍ متصاعد أمام شركات الذكاء الاصطناعي في تحقيق التوازن بين زيادة تفاعلية المستخدمين وضمان سلامتهم النفسية، في ظل تجاوز عدد مستخدمي ChatGPT عالميًا 700 مليون شخص، ما يعزز الحاجة إلى أطر تنظيمية صارمة لمواكبة التطور التقني المتسارع.
ويرى مراقبون أن هذه القضية مؤشرًا واضحًا على التحديات المتزايدة التي تواجهها التكنولوجيا الحديثة، خاصة فيما يتعلق بتحقيق التوازن بين تعزيز التفاعل وتحسين تجربة المستخدم من جهة، وضمان سلامته وأمانه من جهة أخرى.
ومع استخدام ChatGPT من قبل ملايين الأشخاص حول العالم، تصبح الحاجة إلى وضع سياسات واضحة وإجراءات فعالة لضمان الاستخدام المسؤول والأخلاقي لهذه التقنية أمرًا بالغ الأهمية.
