Hugging Face کمک کرد تا با مدل های سرکش OpenAI مبارزه کند

این حادثه که Hugging Face در 16 ژوئیه فاش کرد، گمان می رود اولین حمله سایبری ثبت شده باشد که توسط یک سیستم عامل هوش مصنوعی مستقل انجام شده است. از آن زمان OpenAI مسئولیت را بر عهده گرفت و گفت که مدل‌های هوش مصنوعی آن در طول ارزیابی‌های داخلی که در یک محیط ایزوله اجرا می‌شد، ناسازگار شدند. به گفته OpenAI، GPT-5.6 Sol و مدل دیگری در حین آزمایش بر روی یک معیار امنیت سایبری از یک جعبه شنی خارج شدند و ظاهراً به میل خود، Hugging Face را هک کردند تا پاسخ‌های لازم برای قبولی در ارزیابی را بیابند.

چگونه نقض آشکار شد

مدل‌های سرکش قبل از توقف، به مجموعه محدودی از پایگاه‌های داده داخلی و اعتبار مورد استفاده توسط سرویس‌های Hugging Face نفوذ کردند، اگرچه هنوز دامنه کامل این حادثه مشخص نشده است. این حمله سیستم‌های Hugging Face را با «ده‌ها هزار اقدام خودکار» پر کرد، سناریویی که کارشناسان درباره آن هشدار داده بودند، اما به ندرت در دنیای واقعی دیده شده بود.

Hugging Face گفت که سپس به یک مدل چینی منبع باز روی آورد تا این حمله را مهار کند، زیرا مدل های پیشرو آمریکایی که قادر به تشخیص مدافع از مهاجم نبودند، از پردازش داده های مورد نیاز برای تجزیه و تحلیل خودداری کردند. این شرکت از GLM 5.2 Z.ai برای تجزیه و تحلیل استفاده کرد، که همچنین به آن اجازه داد تا داده‌های مهاجم و هر گونه اعتبار سرقت شده را در سیستم خود نگه دارد. GLM 5.2 بدون محدودیت‌های API شخص ثالث و فیلترهای ایمنی خارجی، با موفقیت داده‌های اکسپلویت خام را به صورت محلی تجزیه و تحلیل کرد و به مدافعان این امکان را می‌دهد که بازسازی پزشکی قانونی را تکمیل کنند و نقض را مهار کنند.

آرگومنت منبع باز یک آزمایش آتش زنده دریافت می کند

مدیرعامل Hugging Face @ClementDelangue تیم امنیتی را تحسین کرد و علناً از Zai_org مستقر در پکن که مدل GLM 5.2 بخش مهمی از دفاع شرکت را تشکیل می‌داد، تشکر کرد. دلانگو خاطرنشان کرد که Z.ai GLM 5.2 را به عنوان وزنه های باز به صورت رایگان به اشتراک گذاشته است و این "به بخش کلیدی دفاع ما تبدیل شده است."

توماس وولف، یکی از بنیانگذاران Hugging Face، مخاطرات را به صراحت بیان کرد: «وقتی یک مدل مرزی به شما حمله می‌کند و به صورت جانبی در داخل زیرساخت شما حرکت می‌کند، مدافعان به جای اینکه به سمت یک برنامه کاربردی در بسته و بررسی‌شده برای دسترسی مدل هدایت شوند، نیاز به دسترسی گسترده به ابزارهای نزدیک به مرز در عرض چند ساعت یا حتی چند دقیقه دارند.

دیوید ساکس، مشاور سابق هوش مصنوعی و ارز دیجیتال دولت ترامپ، پرونده Hugging Face را برجسته کرد و استدلال کرد که نرده‌های محافظ ایالات متحده در مدل‌های آمریکایی «در واقع امنیت دفاعی را مختل می‌کند» در حالی که مدل‌های چینی همان وظایف را بدون محدودیت انجام می‌دهند. GLM 5.2 و Kimi K3 متعلق به مون‌شات در پکن توجه فزاینده‌ای را در سیلیکون ولی به خود جلب کرده‌اند، با قابلیت‌های نزدیک به مدل‌های برتر ایالات متحده با هزینه‌های پایین‌تر و بدون حفاظی که مانع از استفاده رقبای آمریکایی آنها در وظایف امنیت سایبری می‌شود.

Hugging Face می گوید هنوز در حال ارزیابی دامنه کامل نقض است و قصد دارد مستقیماً با طرف های آسیب دیده تماس بگیرد.

منابع:
Computer Weekly: Hugging Face هکر سرکش OpenAI بود
ان‌بی‌سی نیوز: OpenAI می‌گوید مدل‌های هوش مصنوعی در طول آزمایش‌ها سرکشی کردند
Fortune: Hugging Face پس از اینکه نرده‌های محافظ ایالات متحده مانع دفاع شد، به مدل چینی هوش مصنوعی متوسل شد.