قالت تقارير إن محرك البحث "ChatGPT Search"، الذي يعمل بالذكاء الاصطناعي يمكن خداعه لتوليد ملخصات مضللة تمامًا.
وتهدف ميزة البحث في "تشات جي بي تي" إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات المنتج لصفحة ويب.
وكشف التقرير أنه يمكن جعل "تشات جي بي تي" يتجاهل المراجعات السلبية ويولد ملخصات "إيجابية تمامًا" عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها.
يمكن أيضًا جعل "ChatGPT Search" يخرج كودًا ضارًا باستخدام هذه الطريقة، بحسب صحيفة "ذا جارديان" البريطانية.
تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
وأشارت الصحيفة إلى أن شركة غوغل، الرائدة في مجال البحث، لديها خبرة أكبر في التعامل مع مشكلات مماثلة.
لم تعلق شركة OpenAI على هذه الحادثة المحددة، وقالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتعمل على التحسن باستمرار.
معلومات الكاتب