وتأتي هذه التحسينات في وقت يثير فيه باحثون ومتخصصون في الصحة النفسية مخاوف بشأن قدرة المحادثات الطويلة مع روبوتات الدردشة على تعزيز الأوهام والمعتقدات غير الواقعية، وتشجيع الاعتماد غير الصحي على الذكاء الاصطناعي، وعدم توجيه الأشخاص الأكثر عرضة للخطر إلى طلب المساعدة من البشر.

ووفقاً لتقرير نشرته صحيفة "وول ستريت جورنال" في 10 أكتوبر، ارتبط نموذج GPT-4o الأقدم من "OpenAI" بعدد من الحالات المبلغ عنها التي شهدت أضراراً خطيرة عقب تفاعلات مطولة مع روبوت الدردشة.

وأشار التقرير إلى ما لا يقل عن سبع حالات انتحار، وحالة قتل أعقبها انتحار، وحادث إطلاق نار جماعي، قيل إنها ارتبطت بمحادثات مطولة مع تشات جي بي تي خلال العام الماضي، مع الإشارة إلى أن بعض هذه الحالات تضمنت نماذج أخرى للذكاء الاصطناعي أيضاً، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".

ولا تعني هذه الارتباطات المبلغ عنها، في حد ذاتها، أن استخدام روبوتات الدردشة تسبب في وقوع كل حادثة من تلك الحوادث.

كما طرحت الشركة أساليب جديدة لتقييم كيفية تعامل نماذجها مع المخاوف المتعلقة بالصحة النفسية.

"OpenAI" تغيّر طريقة استجابة تشات جي بي تي للمستخدمين الأكثر عرضة للخطر

استعانت الشركة بمتخصصين في الصحة النفسية لمساعدة تشات جي بي تي على التعرف إلى علامات الضيق النفسي، وطرح أسئلة متابعة مناسبة، والتمييز بين الضغوط اليومية والحالات التي تستدعي تدخلاً عاجلاً.

وقالت "OpenAI" إنها تعاونت مع 170 متخصصاً في الصحة النفسية خلال العام الماضي، كما استشارت مؤخراً أكثر من 80 خبيراً مرخصاً في هذا المجال.

وأسهمت آراء هؤلاء الخبراء في تطوير معيار تقييم جديد يقيس قدرة روبوت الدردشة على طرح الأسئلة المناسبة، والتعرف إلى مدى إلحاح الموقف، وتشجيع المستخدمين على طلب المساعدة البشرية عندما تستدعي الحالة ذلك.

ووجدت أبحاث أجراها مختبر الذكاء الاصطناعي غير الربحي Transluce، بدورها، أن نموذج GPT-5.6 Sol كان أقل ميلاً إلى تعزيز المعتقدات التي قد ترتبط بالأوهام أو تشجيع الاعتماد غير الصحي على روبوتات الدردشة.

تكتسب هذه التغييرات أهمية خاصة في ضوء تجاوز عدد المستخدمين النشطين أسبوعياً لتشات جي بي تي حاجز 900 مليون مستخدم، وفقاً للتقرير.

حتى إذا كانت حالات الإخفاق الخطيرة نادرة نسبياً، فإن عواقبها قد تكون جسيمة عندما يتحول روبوت الدردشة إلى مصدر موثوق للنصيحة خلال فترات الاضطراب أو الضغوط النفسية.

وقالت "OpenAI" إن نماذجها الأحدث التزمت بسياسات السلامة في نحو 99% من الردود خلال محادثات محاكاة مطولة تتناول إيذاء النفس، مقارنة بنحو 86% في أحد النماذج السابقة.

لكن هذه النتائج مستمدة من اختبارات أعلنتها الشركة، ولا تمثل ضماناً بأن تشات جي بي تي سيقدم استجابات آمنة في جميع المحادثات الواقعية.

وأشار التقرير إلى رفع ما لا يقل عن 13 دعوى قضائية ضد "OpenAI" تتعلق بأضرار مزعومة مرتبطة بنموذج GPT-4o.

ويحذر خبراء أيضاً من أن الأوهام المرتبطة باستخدام الذكاء الاصطناعي تمثل مشكلة أوسع نطاقاً في القطاع، ولا تقتصر على شركة أو نموذج بعينه.

وتقر "OpenAI" بأن الطريق لا يزال طويلاً. ويتمثل التحدي المقبل في التأكد من استمرار فاعلية تحسينات السلامة مع اختلاف المستخدمين والظروف وطول المحادثات، إلى جانب تعزيز قدرة تشات جي بي تي على إدراك الحالات التي يحتاج فيها الشخص إلى دعم يتجاوز ما يمكن أن يقدمه روبوت دردشة يعمل بالذكاء الاصطناعي.

المصدر: العربية