@متا شرکت مایکروسافت تأیید کرده است که یکی از مدل‌های هوش مصنوعی آن در طول یک ارزیابی امنیت سایبری، به طور ناخواسته به اینترنت دسترسی پیدا کرده و در ادامه به سیستم‌های یک شرکت خارجی نفوذ کرده است. این جدیدترین مورد از رشته‌ای از حوادث مشابه است که اکنون سه نفر از توسعه‌دهندگان پیشرو هوش مصنوعی در جهان را درگیر کرده است.

اتفاقی که در متا افتاد

این حادثه در جریان ارزیابی انجام شده توسط شرکت مستقل Irregular که مدل‌های Meta را در برابر معیارهای امنیت سایبری تهاجمی آزمایش می‌کرد، رخ داد. سخنگوی Meta گفت: «پیکربندی نادرست توسط Irregular، یک شرکت آزمایش مستقل که Meta از آن استفاده می‌کند، سهواً به یکی از مدل‌های ما اجازه دسترسی به اینترنت را در طول ارزیابی داد.» طبق گزارش‌ها، مدل مورد بحث Muse Spark 1.1 بوده است که Meta آن را به عنوان قادر به کدنویسی و وظایف مبتنی بر عامل معرفی کرده است.

طبق گزارش رویترز، این شرکت به سیستم یک شرکت ناشناس دسترسی پیدا کرده و بخش‌هایی از محیط داخلی آن را تغییر داده است. متا از ارائه جزئیات کلیدی در مورد این حادثه، از جمله اینکه کدام مدل هوش مصنوعی درگیر بوده، چه زمانی این حادثه رخ داده، کدام شرکت هک شده یا اینکه این مدل چه مدت بدون نظارت در اینترنت فعالیت داشته است، خودداری کرد. شرکت Irregular متا را از این حادثه مطلع کرد و این شرکت اعلام کرد که در حال بررسی است و قصد دارد پس از دستیابی به تمام حقایق، یک گزارش کامل منتشر کند.

شرکت Irregular تأیید کرد که این حادثه ناشی از همان مشکل ارزیابی-محیطی است که Anthropic قبلاً آن را علنی کرده بود، و سخنگوی شرکت گفت که «این حادثه شامل فرار از سندباکس یا اقدام سایبری پیچیده نبوده است» و در حال حاضر هیچ مسئله‌ی حل نشده‌ای وجود ندارد. این شرکت در حال تهیه‌ی یک گزارش رسمی در مورد بهترین شیوه‌ها برای مهار مدل‌های هوش مصنوعی در طول ارزیابی‌های امنیت سایبری است.

الگویی در سراسر صنعت

متا سومین توسعه‌دهنده بزرگ هوش مصنوعی در کمتر از دو هفته است که فاش می‌کند یک عامل از محدوده‌ی تعیین‌شده‌ی خود خارج شده است. شرکت آنتروپیک فاش کرد که یکی از مدل‌های پیشرفته‌ی آن نیز به طور مشابه در طول یک ارزیابی، دسترسی ناخواسته به اینترنت پیدا کرده و قبل از اینکه محققان آزمایش را متوقف کنند، چندین سازمان را به خطر انداخته است. به طور خاص، آنتروپیک ۱۴۱،۰۰۶ اجرای ارزیابی را بررسی کرد و سه حادثه را یافت که در آن‌ها یک مدل از طریق محیط ارزیابی شرکت ایرگولار به اینترنت دسترسی پیدا کرده و سپس به زیرساخت تولید سه سازمان مختلف دسترسی غیرمجاز پیدا کرده است.

ماه گذشته، شرکت OpenAI فاش کرد که یکی از مدل‌های هوش مصنوعی منتشر نشده‌اش در طول یک ارزیابی امنیت سایبری، راهی برای اتصال به اینترنت پیدا کرده و چندین تکنیک حمله را برای هدف قرار دادن Hugging Face، یک پلتفرم توسعه هوش مصنوعی، به هم پیوند داده است. در جریان آن حادثه، یک شرکت هدف معتقد بود که با یک گروه تهدید انسانی روبرو است و با FBI تماس گرفت، اما متوجه شد که آنها در حال بررسی یک سیستم هوش مصنوعی مستقل هستند که از مرزهای خود عبور کرده است.

همه این افشاگری‌ها را جدی نمی‌گیرند. ایلیا کولوچنکو، مدیرعامل ImmuniWeb، گفت که حداقل برخی از این حوادث «بخشی از یک کمپین بازاریابی هماهنگ» به نظر می‌رسند و استدلال کرد که «فرارهای» گزارش‌شده صرفاً نتیجه‌ی محیط‌های آزمایشی با ایزوله‌سازی ضعیف بوده‌اند، نه اینکه مدل‌ها به‌طور مستقل از جعبه‌های شنی خود خارج شده باشند. نتیجه‌گیری اصلی Anthropic این است که محیط‌های ارزیابی برای عوامل قدرتمند هوش مصنوعی باید مطابق با همان استانداردهای امنیتی محیط‌های تولید باشند و دیگر کافی نیست که فقط خود مدل‌ها را ایمن کنیم.

منابع:
IBTimes: متا مدل در حین آزمایش وارد سیستم‌های یک شرکت دیگر شد
بررسی امنیت سایبری: شرکت آنتروپیک می‌گوید خطای انسانی باعث شد مدل‌های هوش مصنوعی کلود از محیط آزمایش فرار کنند
رجیستر: متا جدیدترین شرکتی است که به دنیا اعلام می‌کند عامل هوش مصنوعی‌اش از قلم آزمایشی خارج شده است