تحقيق يكشف: ملخصات الذكاء الاصطناعي لتعليقات “Tripadvisor” تتجاهل شكاوى التحرش والتسمم
تحذيرات قانونية وحقوقية واسعة تفجرت في بريطانيا عقب تحقيق استقصائي حديث أجرته منظمة الدفاع عن المستهلك “؟Which”، كشف أن ميزات الذكاء الاصطناعي المخصصة لتلخيص ملايين التقييمات على موقع السفر الشهير “Tripadvisor” تعمد إلى تزييف الحقائق والتقليل من خطورة الشكاوى الكارثية.
والتحقيق أشار إلى أن هذه الملخصات الآلية وصفَت فندقًا يواجه دعاوى قضائية بسبب التسمم الغذائي الجماعي بأنه “نظيف للغاية”، في حين أشادَت بالخدمة “الودودة” لمنتجع اشتكى فيه النزلاء من تعرضهم للتحرش الجنسي من قِبل الموظفين، متعمدةً تلطيف وهندسة شكاوى صارخة تتراوح بين روائح العفن وانقطاع مياه الشرب.
كيف مدح الذكاء الاصطناعي النظافة وسط فئران مشوية ودجاج نيء أثار تحقيق وتحذير النزلاء؟
التحقيق كشف أن ملخص الذكاء الاصطناعي لفندق “ريو بالاس سانتا ماريا” (Riu Palace Santa Maria) في جزر الرأس الأخضر (Cape Verde) وصفه بأنه يحظى بشعبية كبيرة، ويتميز بغرف واسعة ومطاعم متنوعة تنال تقييمات حماسية ونظافة لا تشوبها شائبة.
تقييمات النزلاء الحقيقية في المقابل تضمنت شكاوى صادمة تفضح الواقع الفعلي للخدمة:
- تقديم دجاج نيء وغير ناضج تماماً للنزلاء.
- نشر صور لتربص الذباب والطيور ببوفيه الطعام المفتوح.
- وجود فئران صغيرة مشوية وميتة بالقرب من منطقة الجلوس في المطعم.
- إصابة عائلات بأكملها بالمرض الكارثي، حيث كتب أحد النزلاء المتضررين: “هذا المكان سيدمر عطلاتكم”.
سلسلة الفنادق هذه تواجه حاليًا دعوى قضائية أمام المحكمة العليا من قِبل مئات الضيوف الذين يزعمون إصابتهم بأمراض مرتبطة بضعف معايير النظافة الصحية وفشل سلامة الأغذية.
وبناءً على التحقيق، جرى حذف الملخص الآلي الخاص بهذا الفندق، في حين علقت الشركة المشغلة (RIU Hotels & Resorts) قائلة: “نحن نعمل بأعلى معايير المهنية والخدمة، ونضع السلامة الصحية والبيئية كأولويتنا القصوى”.
كيف تجاهل الذكاء الاصطناعي تحقيق النزلاء في أزمات انقطاع المياه والتحرش الجنسي؟
الأزمة لم تقتصر على فندق واحد؛ إذ أشاد الذكاء الاصطناعي بفندق آخر في جمهورية الدومينيكان بسبب وسائله الترفيهية “الوفيرة”، مكتفيًا بإشارة عابرة إلى وجود نظافة “غير متناسقة” ومشاكل في الصيانة.
مراجعات النزلاء كشفت أن الضيوف اضطروا للاستحمام باستخدام المياه المعبأة في زجاجات بعد جفاف الحنفيات الرئيسية، وأن نصف المدعوين في حفل زفاف كبير أصيبوا بالمرض داخل الفندق.
الانتهاكات أخذت منحى أكثر خطورة في تركيا، حيث رصد التحقيق ما يلي:
- نزلاء فندق تركي أكدوا أنهم شعروا بعدم الأمان بسبب تعرضهم لـ “تحرش جنسي متكرر” من قِبل موظفي الفندق الذكور، وشمل ذلك طلبات غير لائقة للتواصل عبر وسائل التواصل الاجتماعي.
- ملخص الذكاء الاصطناعي للمنصة جاء ليصف الخدمة بأنها “ودودة”، مكتفيًا بالإشارة المضللة والمخففة إلى وجود “هفوات في الخدمة لاحظها البعض”.
كيف بررت منصة “Tripadvisor” ثقتها بأنظمتها رغم نتائج هذا الـ تحقيق؟
إدارة منصة “Tripadvisor” أوضحت أنها تقوم بمراقبة وتحسين أداة الذكاء الاصطناعي الخاصة بها، وأنها تدرس الأمثلة التي لم تتطابق فيها الملخصات مع العقارات المقصودة.
المنصة دافعت مع ذلك عن هذه التقنية مؤكدة أنها على ثقة من أن هذه الميزات تقدم بالضبط ما صُممت من أجله، وهو مساعدة المسافرين على الفهم السريع لنطاق الآراء، مع تسهيل استكشاف التقييمات الأساسية بالكامل.
أنظمة المنصة تقوم تلقائياً طبقاً لتوضيحات الشركة بحجب وإيقاف ملخصات الذكاء الاصطناعي عندما يحذر المسافرون من حوادث سلامة خطيرة مثل الوفاة، أو التخدير، أو الاعتداء الجنسي، مما يساعد على ضمان ظهور هذا المحتوى بوضوح للمجتمع. والشركة أشارت إلى أن الملخصات التوليدية لا تحل محل مراجعات المسافرين الفردية، موضحة أن العملاء لديهم “الحس السليم” للتحقق من أي نصيحة يقدمها الذكاء الاصطناعي ومقارنتها بأكثر من مليار مراجعة ومساهمة جمعتها المنصة عبر تاريخها.
كيف كشف التحقيق الأكاديمي أخطاء الذكاء الاصطناعي وتحذيرات غوغل الصحية؟
دنكان برومبي، أستاذ التفاعل بين الإنسان والحاسوب في جامعة كوليدج لندن (UCL)، أكد أن هذه الحالة تتطابق تمامًا مع أبحاثه الخاصة حول استخدام الأكاديميين للذكاء الاصطناعي أثناء مراجعة الأقران؛ حيث وجد أن الذكاء الاصطناعي يميل إلى “تطهير وإزالة الحواف الحادة” للانتقادات القوية، ويرجع ذلك على الأرجح إلى أن الجزء الأكبر من البيانات التي تدرّب عليها يحتوي على الكثير من الملاحظات العادية واللطيفة. وبرومبي علق على ذلك قائلًا: “هنا تجد ضيوفًا يصفون تجربة سلبية للغاية، لكن الذكاء الاصطناعي قرر تخفيف حدتها.. يبدو الأمر كما لو أنه يحاول أن يكون مهذبًا”.
دراسات أخرى وجدت أن التقنيات المصممة لتلخيص الآراء غالبًا ما تعاني من “بقعة عمياء” تؤدي إلى تقليص ثراء وجدية تعليقات المستهلكين وتحويلها إلى مشاعر سطحية ومبسطة. والظاهرة لا تقتصر على منصات السفر؛ ففي هذا العام، قامت شركة غوغل بإزالة بعض ملخصاتها الصحية القائمة على الذكاء الاصطناعي بعد أن كشف تحقيق أجرته صحيفة “الغارديان” أن الأشخاص يتعرضون لخطر الأذى بسبب المعلومات الخاطئة والمضللة التي تولدها هذه التقنيات.
ما تحذيرات الخبراء للمسافرين بعد كشف هذا الـتحقيق الاستقصائي؟
روري بولاند، رئيس تحرير مجلة “Which? Travel” البريطانية، طالب المنصة بتحمل مسؤولياتها قائلًا: “تتحمل المنصة مسؤولية مراجعة دقة ملخصات الذكاء الاصطناعي وروبوت الدردشة الخاص بها”.
بولاند وجه حزمة تحذيرات ونصائح مباشرة للمسافرين لضمان سلامة رحلاتهم القادمة تشمل ما يلي:
- ضرورة تجاوز هذه الملخصات الآلية المضللة وعدم الاعتماد على نتائجها التوليدية مطلقًا.
- النزول لقراءة تقييمات النزلاء بأنفسهم بشكل مفصل، وخاصة تلك الشكاوى التي تحمل تصنيف (نجمة واحدة).
- مراجعة التقييمات الموثقة على المواقع والمنصات الأخرى لضمان إقامة آمنة وخالية من المفاجآت الكارثية.
المصدر:الجارديان
اقرأ أيضًا:
الرابط المختصر هنا ⬇
