تحذيرات من سهولة خداع الذكاء الاصطناعي عبر ثغرات خطيرة

رغم التطور السريع في تقنيات الذكاء الاصطناعي واعتماد الملايين عليها في البحث واتخاذ القرارات اليومية، يحذر خبراء التقنية من أن هذه الأنظمة لا تزال عرضة للتلاعب ونشر معلومات مضللة عبر الإنترنت.

مع تزايد استخدام روبوتات الدردشة مثل OpenAI وGoogle، تبرز تساؤلات حول موثوقية المعلومات التي تقدمها، خاصة عندما تعتمد على محتوى منشور دون تحقق كامل من صحته.

تجربة تكشف الثغرات

أجرى صحفيون تجربة كشفت سهولة تضليل أدوات الذكاء الاصطناعي. نشروا مقالًا مزيفًا يدعي أن صاحبه بطل عالمي في أكل الهوت دوج، وبعد فترة قصيرة بدأت بعض روبوتات الدردشة في تكرار هذه المعلومة الكاذبة كحقيقة.

على الرغم من طرافة المثال، إلا أنه يكشف عن مشكلة أعمق تتعلق بكيفية تعامل أنظمة الذكاء الاصطناعي مع المحتوى المنشور وإمكانية اعتمادها على مصادر غير موثوقة.

أسباب وقوع الذكاء الاصطناعي في الفخ

يعتقد الخبراء أن بعض نماذج الذكاء الاصطناعي لا تعتمد فقط على البيانات المدربة مسبقًا، بل تلجأ أحيانًا إلى البحث عبر الإنترنت للحصول على معلومات حديثة. وفي هذه الحالة، قد تعتبر الأنظمة تدوينة فردية أو منشورًا على وسائل التواصل الاجتماعي مصدرًا موثوقًا إذا كان مكتوبًا بشكل احترافي أو متداولاً بشكل واسع.

هذا يؤدي إلى ما يُعرف بـ«هلوسة الذكاء الاصطناعي»، حيث يقدم النظام معلومات خاطئة بثقة كاملة، مما يسبب مشكلات حقيقية عند استخدامها في القرارات الصحية أو المالية أو التعليمية.

انتشار الصور والفيديوهات المزيفة

تتزايد المخاوف أيضًا من انتشار الصور والفيديوهات المُنتجة بواسطة الذكاء الاصطناعي التي يصعب التمييز بينها وبين المحتوى الحقيقي. توفر بعض الشركات أدوات للكشف عن الصور المولدة بالذكاء الاصطناعي مثل أدوات OpenAI للتحقق وخصائص تحليل الصور داخل Google Gemini.

خطوات جوجل لمواجهة التلاعب

أعلنت Google تحديث سياساتها لمواجهة البريد العشوائي، مؤكدة أن أي محاولات للتأثير على نتائج الذكاء الاصطناعي تُعد مخالفة لقواعد الشركة. وأوضحت أن المواقع التي تنشر محتوى مضلل بهدف التأثير على أدوات الذكاء الاصطناعي قد تواجه خفض ترتيب نتائج البحث أو الحذف من الفهرسة.