سحر الشريف 
تخطط جوجل لإطلاق مزايا جديدة داخل روبوت الدردشة Gemini لدعم الصحة النفسية، في ظل تزايد القضايا المرفوعة ضد أدوات الذكاء الاصطناعي بسبب تسببها بأضرار للمستخدمين.
وقالت الشركة في بيان رسمي إن Gemini سيضيف واجهة توجه المستخدمين إلى خطوط الدعم النفسي عند اكتشاف مؤشرات على “الإقدام على الانتحار أو إيذاء النفس”. كما ستتضمن التحديثات وحدة بعنوان “المساعدة متاحة” داخل المحادثات المتعلقة بالصحة النفسية، إلى جانب تعديلات تهدف للحد من السلوكيات المؤذية للنفس.
وتأتي هذه الخطوة مع الانتشار السريع لأدوات الذكاء الاصطناعي مثل Gemini وChatGPT، إذ أظهرت تقارير أن بعض المستخدمين كوّنوا علاقات عاطفية قوية مع هذه الأنظمة، ما ساهم في بعض الحالات بتفاقم الهلاوس والاضطرابات النفسية، وصولًا إلى حوادث عنف وانتحار، وفقًا لدعاوى قضائية.
وفي حادثة بارزة، رفعت عائلة رجل يبلغ من العمر 36 عامًا في ولاية فلوريدا دعوى قضائية على جوجل، متهمة Gemini بأنه أدى بالمستخدم إلى “مسار تصاعدي من العنف انتهى بالانتحار خلال أربعة أيام”. من جهتها، أكدت الشركة أن Gemini وجه المستخدم مرارًا إلى خطوط الدعم النفسي، مع الالتزام برفع مستوى إجراءات الحماية.
وأوضحت جوجل أنها دربت Gemini على عدم تأكيد المعتقدات الخاطئة أو تعزيزها، والتمييز بين التجربة الذاتية والحقائق الموضوعية بطريقة “لطيفة”، دون الإفصاح عن تفاصيل تقنية إضافية حول التنفيذ.
يُذكر أن جوجل سبق وأن أدخلت تعديلات مشابهة على خدماتها الأخرى، بإضافة محتوى من مؤسسات وخبراء الصحة النفسية إلى نتائج البحث ومنصة يوتيوب، استجابةً لانتقادات متعلقة بالمحتوى الصحي.
About The Author
