أعلنت شركة غوغل عن تطوير ميزة مبتكرة ضمن نماذج الذكاء الاصطناعي الجديدة (PaliGemma 2)، تتيح للنموذج القدرة على تحليل الصور و"قراءة المشاعر". وتمكن هذه الميزة الذكاء الاصطناعي من إنشاء تعليقات توضيحية تفصيلية حول الصور، متجاوزة التعرف البسيط على الكائنات، لتشمل وصف الإجراءات، والعواطف، والسرد العام للمشهد.

ورغم تأكيد غوغل على إجراء اختبارات لتقليل التحيزات الديموغرافية في النموذج، أثارت هذه الخطوة جدلاً واسعاً. كشفت الشركة أن النموذج سجل نتائج جيدة باستخدام معيار FairFace، وهو مجموعة صور تهدف إلى قياس الأداء العادل بين الأعراق. لكن انتقد بعض الباحثين هذا المعيار، مشيرين إلى محدوديته لتمثيل عدد قليل من المجموعات العرقية، ما يطرح تساؤلات حول شمولية نتائج الاختبارات.

أعرب خبراء في الذكاء الاصطناعي عن قلقهم من قدرة النماذج على "قراءة المشاعر". أشارت ساندرا واتشر، أستاذة أخلاقيات البيانات بمعهد أكسفورد، إلى أن افتراض قراءة مشاعر البشر يبدو إشكالياً، فيما أكد مايك كوك، الباحث بجامعة كينغز كوليدج، أن المشاعر تجربة معقدة للغاية يصعب اكتشافها بدقة في الحالة العامة.

كما حذرت جهات تنظيمية من المخاطر المرتبطة باستخدام هذه التكنولوجيا. في الاتحاد الأوروبي، يُحظر نشر أجهزة الكشف عن المشاعر في سياقات عالية المخاطر، مثل المدارس وأماكن العمل، باستثناء وكالات إنفاذ القانون. وأوضح خبراء أن إساءة استخدام ميزات مثل "PaliGemma 2" قد تؤدي إلى أضرار حقيقية، مما يثير تساؤلات حول حدود استخدام الذكاء الاصطناعي وتأثيره على الخصوصية.