قالت شركة جوجل إن روبوت الدردشة الذكي الرائد "جيميني" تعرض لهجمات مكثفة من جهات ذات دوافع تجارية، سعت إلى استنساخ قدراته من خلال توجيه أعداد هائلة من الأسئلة المتكررة إليه، وصلت في إحدى الحملات إلى أكثر من 100 ألف استفسار؛ بهدف استخدام هذه المعرفة في بناء أو تعزيز أنظمة ذكاء اصطناعي خاصة بهم.
وفي تقرير نُشر اليوم الخميس، ذكرت جوجل أنها تواجه بشكل متزايد ما يُعرف بـ"هجمات الاستخلاص"، وهي هجمات تعتمد على طرح أسئلة متكررة ومصممة بعناية لدفع روبوت الدردشة إلى الكشف عن آلياته الداخلية.
ووصفت الشركة هذا الأسلوب بأنه "استخراج النموذج"، حيث يقوم المهاجمون بفحص النظام بحثًا عن الأنماط والمنطق الذي يمكنه من العمل.
وبحسب جوجل، يسعى منفذو هذه الهجمات إلى استخدام المعلومات المستخلصة في تطوير نماذج ذكاء اصطناعي منافسة أو تحسين أنظمة قائمة بالفعل، في محاولة لتحقيق أفضلية تنافسية في سوق يشهد سباقًا محمومًا بين الشركات.
شركات وباحثون وراء الهجمات
وترجح جوجل أن الجناة يقفون في الغالب ضمن فئتين رئيسيتين: شركات خاصة وباحثون يعملون في مجال الذكاء الاصطناعي، ويهدفون إلى تحقيق مكاسب تجارية أو تقنية.
وبحسب "NBC News" فإن الشركة تعتقد أن الهجمات انطلقت من مناطق مختلفة حول العالم، لكنها امتنعت عن الكشف عن مزيد من التفاصيل المتعلقة بهوية المشتبه بهم.
من جهته، أشار جون هولتكوست، كبير محللي مجموعة استخبارات التهديدات في جوجل، إلى أن حجم الهجمات التي استهدفت منصة "جيميني" يشير إلى أنها إما شائعة بالفعل أو مرشحة لأن تصبح كذلك قريبًا، ليس فقط ضد النماذج الكبرى، بل أيضًا ضد أدوات الذكاء الاصطناعي المخصصة للشركات الصغيرة.
وقال هولتكوست: "سنكون بمثابة مؤشر مبكر لمزيد من الحوادث"، دون أن يسمي أي جهات بعينها.
سباق الذكاء الاصطناعي وسرقة الملكية الفكرية
ولفتت "جوجل" إلى أن ما يُعرف بعملية "التقطير" أو "الاستخلاص" يعد شكلًا من أشكال سرقة الملكية الفكرية، مشيرة إلى أن شركات التكنولوجيا أنفقت مليارات الدولارات في سباق متسارع لتطوير روبوتات الدردشة المدعومة بالذكاء الاصطناعي، أو ما يعرف بنماذج اللغة الضخمة. وتعتبر هذه الشركات أن آليات عمل نماذجها المتقدمة تمثل أسرارًا تجارية بالغة الأهمية.
وعلى الرغم من امتلاك جوجل وغيرها من الشركات الكبرى آليات لرصد هجمات "التقطير" ومحاولة حظر منفذيها، فإن نماذج اللغة الضخمة تظل بطبيعتها عرضة لهذا النوع من المخاطر، نظرًا لإتاحتها على نطاق واسع لأي مستخدم عبر الإنترنت.
وسبق أن اتهمت شركة OpenAI، المطورة لبرنامج ChatGPT، منافستها الصينية DeepSeek، العام الماضي، بتنفيذ هجمات استخلاص بيانات بهدف تحسين نماذجها الخاصة.
وأوضحت جوجل أن العديد من الهجمات التي استهدفت "جيميني" صممت خصيصًا لكشف الخوارزميات التي تساعد النموذج على "التفكير المنطقي" أو اتخاذ قرارات تتعلق بكيفية معالجة المعلومات.
وفي هذا السياق، حذر هولتكوست من أنه مع تزايد عدد الشركات التي تطور نماذج لغوية خاصة بها، ومدربة على بيانات شديدة الحساسية، فإن هذه النماذج تصبح أكثر عرضة لهجمات مماثلة. وأضاف: "لنفترض أن نموذجك اللغوي قد دُرب على مئة عام من التفكير السري في استراتيجيات التداول. نظريًا، يمكن استخلاص بعض هذه المعلومات"