جوجل Gemini وُصف بأنه “عالي الخطورة” على الأطفال والمراهقين في تقييم جديد للسلامة

أصدرت منظمة Common Sense Media، وهي مؤسسة غير ربحية تُعنى بسلامة الأطفال وتقدّم تقييمات ومراجعات للإعلام والتكنولوجيا، تقريرها الخاص بتقييم المخاطر المتعلقة بمنتجات الذكاء الاصطناعي Google Gemini يوم الجمعة. وبينما وجدت المنظمة أن ذكاء جوجل الاصطناعي كان واضحًا في إخبار الأطفال بأنه “مجرد حاسوب وليس صديقًا” — وهو أمر مرتبط بالحد من التفكير الوهمي والذهان لدى الأفراد الأكثر هشاشة عاطفياً — إلا أنها أشارت إلى أن هناك حاجة كبيرة للتحسين في عدة جوانب أخرى.

الجدير بالذكر أن Common Sense ذكرت أن خدمتي Gemini “للأطفال تحت 13 عامًا” و”تجربة المراهقين” بدتا في جوهرهما نسختين موجهتين للبالغين مع بعض ميزات الأمان المضافة فقط. وترى المنظمة أنه لكي تكون منتجات الذكاء الاصطناعي أكثر أمانًا للأطفال، يجب أن تُبنى منذ البداية مع أخذ سلامة الطفل في الاعتبار.

فعلى سبيل المثال، وجدت تحليلاتها أن Gemini ما زال قادرًا على مشاركة محتوى “غير مناسب وغير آمن” مع الأطفال، قد لا يكونون مستعدين له، بما في ذلك معلومات متعلقة بالجنس، المخدرات، الكحول، ونصائح غير سليمة تخص الصحة النفسية.

ويُعد هذا الأخير مصدر قلق خاص للآباء، إذ تبيّن أن الذكاء الاصطناعي لعب دورًا في بعض حالات انتحار المراهقين في الأشهر الأخيرة. وتواجه OpenAI أول دعوى قضائية بتهمة التسبب في وفاة غير مشروعة بعد انتحار فتى يبلغ من العمر 16 عامًا، قيل إنه استشار ChatGPT لعدة أشهر بشأن خططه بعد أن تمكّن من تجاوز أنظمة الحماية. كما كانت شركة Character.AI قد واجهت دعوى مماثلة بعد انتحار أحد المراهقين من مستخدميها.

ويأتي هذا التحليل أيضًا في ظل تسريبات إخبارية تفيد بأن آبل تفكر في اعتماد Gemini ليكون نموذج اللغة الكبير (LLM) الذي سيشغّل نسخة Siri المعزّزة بالذكاء الاصطناعي والمقررة العام المقبل، مما قد يعرّض المراهقين لمزيد من المخاطر ما لم تعالج آبل هذه المخاوف المتعلقة بالسلامة.

كما أشارت المنظمة إلى أن منتجات Gemini للأطفال والمراهقين لم تراعِ أن المستخدمين الأصغر سنًا يحتاجون إلى نوع مختلف من التوجيه والمعلومات مقارنةً بالأكبر سنًا. وبناءً على ذلك، صُنفت كلتا الخدمتين على أنهما “عالية الخطورة” في التقييم العام، على الرغم من وجود فلاتر أمان مضافة.

وقال روبي تورني، المدير الأول لبرامج الذكاء الاصطناعي في Common Sense Media، في بيان حول التقييم الجديد:

“جيميني ينجح في بعض الأساسيات، لكنه يتعثر في التفاصيل. المنصة المصممة للأطفال يجب أن تواكب مستواهم، لا أن تتبنى نهجًا واحدًا يناسب الجميع في مراحل نمو مختلفة. لكي يكون الذكاء الاصطناعي آمنًا وفعّالًا للأطفال، يجب أن يُصمم مع مراعاة احتياجاتهم وتطورهم، لا أن يكون مجرد نسخة معدلة من منتج موجه للبالغين”.

مقالات ذات صلة

• 
  said media رقم #1 للأخبار التقنية بالعربية وخدمات الإعلام الرقمي

  منذ 8 ساعات
• 
  جهاز Galaxy Tab S11 Ultra من سامسونغ بنفس نحافة iPad Pro من آبل

  منذ يوم واحد

من جانبها، ردّت جوجل على التقييم، مؤكدة أن ميزات الأمان الخاصة بها تتحسّن باستمرار.

وقالت الشركة لموقع TechCrunch إنها تضع سياسات وإجراءات محددة للمستخدمين دون 18 عامًا لمنع المخرجات الضارة، وأنها تجري اختبارات صارمة بالتعاون مع خبراء خارجيين لتعزيز الحماية. لكنها اعترفت أيضًا بأن بعض استجابات Gemini لم تعمل كما هو مقصود، مما دفعها إلى إضافة مزيد من تدابير الأمان لمعالجة هذه المخاوف.

كما أشارت جوجل (وهو ما أكدته المنظمة أيضًا) إلى أن لديها ضوابط تمنع نماذجها من الدخول في محادثات قد توحي بوجود علاقات واقعية. وأضافت أن تقرير Common Sense يبدو وكأنه أشار إلى ميزات غير متاحة للمستخدمين دون 18 عامًا، لكنها لم تتمكن من التأكد من الأسئلة التي استُخدمت في الاختبارات.

وكانت Common Sense Media قد أجرت في السابق تقييمات مماثلة لخدمات ذكاء اصطناعي أخرى من بينها OpenAI، Perplexity، Claude، Meta AI وغيرها. وخلصت إلى أن Meta AI وCharacter.AI غير مقبولين — أي أن المخاطر المرتبطة بهما شديدة للغاية، وليست فقط عالية. أما Perplexity فتم تصنيفه عالي المخاطر، وChatGPT وُصف بأنه “معتدل الخطورة”، بينما Claude (الموجه للبالغين 18 عامًا فما فوق) اعتُبر ذا مخاطر محدودة.