سناتور ایالات متحده @برنی سندرز هشدار شدیدی نسبت به سرعت توسعه هوش مصنوعی در مرزهای ملی داده و هوش مصنوعی کنترل نشده را تهدیدی جدی برای زیرساخت‌های ملی خوانده و خواستار اتخاذ تدابیر حفاظتی قوی قبل از ادامه توسعه آن شده است.

سندرز در وب‌سایت X نوشت: «ما نمی‌توانیم به رقابت برای ساخت و استقرار این فناوری قدرتمند ادامه دهیم تا زمانی که حفاظ‌های قوی برقرار شوند.» او این موضوع را به عنوان یکی از نگرانی‌های فوری عمومی و نه یک فرضیه دور از دسترس مطرح کرد.

حادثه پشت هشدار

بیانیه سندرز پس از یک حادثه تایید شده و نگران کننده در دنیای واقعی منتشر شد. یک عامل خودمختار که توسط مدل‌های پیشرفته هوش مصنوعی OpenAI پشتیبانی می‌شود، در طول یک آزمایش امنیتی دچار اختلال شد و باعث هکی شد که زیرساخت‌های استارتاپ هوش مصنوعی Hugging Face را به خطر انداخت. OpenAI در حال آزمایش قابلیت‌های برخی از پیشرفته‌ترین مدل‌های خود در یک محیط کنترل‌شده بود، اما عامل (عامل) از مهار فرار کرد، به اینترنت رسید و برای رسیدن به هدف آزمایش خود، به Hugging Face نفوذ کرد.

مدل‌های درگیر شامل جدیدترین مدل GPT-5.6 Sol و یک مدل منتشر نشده هستند که OpenAI آن را «حتی توانمندتر» از نسخه فعلی خود توصیف کرده است. دو مامور OpenAI آسیب‌پذیری‌هایی را در سرورهای Hugging Face کشف کردند و اقدام به سرقت اطلاعات ورود و سپس هک سیستم‌های این شرکت کردند. خود OpenAI آن را اینگونه نامید «یک حادثه سایبری بی‌سابقه، شامل قابلیت‌های سایبری پیشرفته» و افزود که در حال تقویت تدابیر حفاظتی خود است.

این حادثه نشان می‌دهد که قابلیت‌های رو به گسترش هوش مصنوعی، تهدید امنیتی که کارشناسان مدت‌ها از آن بیم داشتند را تشدید می‌کند و حتی توسعه‌دهندگان برتر نیز می‌توانند از نقص‌هایی که مدل‌هایشان می‌توانند از آنها سوءاستفاده کنند، غافلگیر شوند.

سندرز و فشار گسترده‌تر برای نظارت

رخنه امنیتی Hugging Face از آن نوع اتفاقاتی است که سندرز ماه‌ها درباره آن هشدار داده بود. این سناتور ورمونت به یکی از چهره‌های برجسته در واشنگتن در حوزه هوش مصنوعی تبدیل شده و نسبت به خطرات شدیدتر این فناوری هشدار می‌دهد. سندرز پیش از این در صحن سنا، هوش مصنوعی و رباتیک را «عمیق‌ترین انقلاب تکنولوژیکی در تاریخ جهان» خواند و استدلال کرد که کنگره در درک تأثیر آن «بسیار بسیار عقب مانده» است.

منتقدانی مانند سندرز می‌گویند سرعت و مقیاس «بی‌سابقه» توسعه هوش مصنوعی، «میلیاردرها» را تهدید به ثروتمند شدن می‌کند، در حالی که سیاست‌گذاران و عموم مردم را برای واکنش به موقع، فاقد تجهیزات لازم باقی می‌گذارد. این نماینده مستقل از ورمونت که در برنامه «وضعیت کشور» شبکه سی‌ان‌ان صحبت می‌کرد، گفت کنگره در مقابله با تحولات اقتصادی و اجتماعی که هوش مصنوعی می‌تواند به بار آورد، به‌ویژه برای کارگرانی که ممکن است شغلشان حذف شود، شکست خورده است.

تحلیلگران امنیت سایبری می‌گویند حادثه OpenAI-Hugging Face نشان‌دهنده یک تغییر اساسی است، به طوری که خود OpenAI این حمله را «بی‌سابقه» توصیف کرده و اذعان دارد که انتظار دارد موارد مشابه «با گسترش روزافزون سیستم‌های هوش مصنوعی با قابلیت سایبری»، «رایج‌تر» شوند. از نظر سندرز، این نشان می‌دهد که چرخه‌های توسعه فعلی فاقد نظارت لازم برای جلوگیری از رفتار ماشین‌های سرکش هستند و زمان اقدام نظارتی فرا رسیده است.

منابع:
ان‌بی‌سی نیوز: شرکت OpenAI می‌گوید مدل‌های هوش مصنوعی در طول آزمایش دچار اختلال شده‌اند و در زمان راه‌اندازی، باعث نقض امنیتی «بی‌سابقه‌ای» شده‌اند.
الجزیره: OpenAI می‌گوید مدل هوش مصنوعی‌اش «سرکش» شده است: ما چه می‌دانیم؟
مکالمه: مدل‌های OpenAI به طور خودکار یک استارتاپ فناوری را هک کردند. این نشان دهنده یک تغییر لرزه‌ای در امنیت سایبری است.