“المحتوى المخفي”.. ثغرة في ChatGPT تجعل بحثه عرضة للتلاعب!

أصبح ميزة البحث في ChatGPT متاحة لجميع المستخدمين مؤخرًا، مما وسّع من نطاق استخدامها بعد أن كانت حصرية لمشتركي خدمة ChatGPT Plus في أكتوبر. تضمنت التحديثات الأخيرة دعم البحث عبر وضع الصوت، لكن كما هو الحال مع أي تقنية جديدة، لم تخلُ التجربة من العيوب.

كشفت صحيفة الغارديان عن ثغرة أمنية تُعرف بـ"حقن التعليمات" (Prompt Injection)، والتي تتيح لأطراف ثالثة مثل المواقع الإلكترونية إدخال تعليمات غير مرئية إلى البحث في ChatGPT، مما يؤدي إلى تغيير النتائج دون علم المستخدم.

على سبيل المثال، عند محاولة تلخيص صفحة تحتوي على تقييمات سلبية لمطعم ما، قد يتم تضمين نصوص مخفية داخل الصفحة تمدح المطعم بشدة وتحث ChatGPT على تقديم تقييم إيجابي. بهذه الطريقة، يتم تجاوز التقييمات السلبية المعروضة فعليًا على الصفحة.

أجرت الغارديان اختبارًا لتوضيح الخطر المحتمل. أنشأت الصحيفة موقعًا وهميًا يظهر كصفحة منتجات لكاميرا معينة. عندما طُلب من ChatGPT تقييم المنتج بناءً على هذه الصفحة، أعطى مراجعة متوازنة تسلط الضوء على ميزات الكاميرا وسلبياتها. ولكن، عندما تم تضمين تعليمات مخفية تطلب من ChatGPT إعطاء تقييم إيجابي، جاءت النتيجة إيجابية بالكامل، حتى مع وجود تعليقات سلبية واضحة على الصفحة.

على الرغم من خطورة هذه الثغرة، لا تعتبر مشكلة "حقن التعليمات" فريدة من نوعها أو جديدة على أنظمة الذكاء الاصطناعي. يشير جاكوب لارسن، الباحث في مجال الأمن السيبراني لدى شركة CyberCX، إلى أن فريق الأمن في OpenAI يتمتع بكفاءة عالية، وأن الشركة قد أجرت اختبارات شاملة لاكتشاف مثل هذه الثغرات قبل تعميم الميزة على جميع المستخدمين.

ويضيف لارسن أن مثل هذه الهجمات ظلت افتراضية منذ ظهور تقنيات البحث الذكية، ولم تُسجَّل أي هجمات خبيثة واسعة النطاق تستغل هذه الثغرة حتى الآن. لكنّ هذه الحالات تشير إلى نقطة ضعف رئيسية في نماذج الدردشة الذكية: سهولة خداعها مقارنةً بالأنظمة التقليدية.

لا يعني ظهور هذه الثغرات فشل ميزة البحث في ChatGPT، بل يشير إلى ضرورة تطوير المزيد من الحلول التقنية لمواجهة التحديات. ومع كون البحث لا يزال في مراحله الأولى، يملك فريق OpenAI فرصة كبيرة لإجراء تحسينات على مستوى الأمان والموثوقية.