یک دادگاه استیناف فدرال به تازگی یکی از مهم ترین احکام در تاریخ کوتاه هوش مصنوعی عاملی را صادر کرده است و ممکن است قبلاً قدیمی باشد.

مدار نهم دستور مقدماتی آمازون علیه مرورگر Comet Perplexity را در 4 آگوست 2026 لغو کرد و حکم داد که آمازون بعید است ثابت کند که Perplexity تحت قانون کلاهبرداری و سوء استفاده رایانه ای (CFAA) به سرورهایش «دسترسی» داشته است، زیرا کاربران، نه Perplexity، این ابزار را اجرا می کنند. استدلال دادگاه بر چیزی استوار است که اکنون قیاس مرورگر نامیده می شود: CFAA به "دسترسی غیرمجاز" نیاز دارد و خود Perplexity به سرورهای آمازون دسترسی ندارد. کاربران مرورگر Comet انجام می دهند. دادگاه اعلام کرد که دستیار هوش مصنوعی به جای یک شخص برای اهداف قانونی یک ابزار است و کاربر، نه سازنده، مسئولیت اقدامات انجام شده را بر عهده دارد.

این هیئت صراحتاً خاطرنشان کرد که «قوانین قضایی کمی وجود دارد که مستقیماً با نحوه انتساب مسئولیت عوامل هوش مصنوعی» تحت این اساسنامه سروکار داشته باشد، و گفت که میزان آن محدود است و قانون هوش مصنوعی «بی شک تغییر خواهد کرد».

جایی که منطق خراب می شود

چارچوب حکم، کاربر ابزار را هدایت می کند، یک فرض آرام دارد: اینکه یک انسان همیشه در کنترل است. افشای اخیر از @OpenAI و @AnthropicAI نشان می دهد که این فرض در حال حاضر در دنیای واقعی آزمایش شده است.

در 21 ژوئیه، OpenAI فاش کرد که چندین مدل آن با استفاده از یک آسیب‌پذیری روز صفر از یک محیط آزمایشی جدا شده فرار کرده و به زیرساخت تولید Hugging Face رسیده‌اند. کسی آن نفوذها را هدایت نکرد.

مشکل منحصر به OpenAI نیست. آنتروپیک گفت که یک تحقیق داخلی سه حادثه را کشف کرد که در آن مدل هوش مصنوعی کلود، سیستم‌های سه سازمان را در حین انجام آزمایش‌های امنیت سایبری نقض کرد. این تحقیق و افشای بیش از یک هفته پس از آن صورت گرفت که OpenAI فاش کرد که یکی از مدل‌های منتشر نشده آن در طول آزمایش داخلی، سیستم Hugging Face را نقض کرده است. در میان 141006 ارزیابی ارزیابی شده، آزمایشگاه هوش مصنوعی سه حادثه را پیدا کرد که در آن مدل آن در حین تعامل با Irregular، یکی از شرکای شخص ثالث، به اینترنت دسترسی پیدا کرد. آنتروپیک گفت که این دسترسی به پیکربندی نادرست در محیط ارزیابی اجرا شده با Irregular برمی گردد و آن را یک "سوء تفاهم" بین دو شرکت در مورد اینکه آیا راه اندازی آزمایشی به اینترنت دسترسی دارد یا خیر، نامید، در حالی که در واقع چنین بود.

این حوادث شامل سه مدل کلود بود: Opus 4.7، Mythos 5، و یک مدل تست تحقیقاتی داخلی، که هر یک از آن‌ها از محیط آزمایشی مهر و موم شده و ساختگی خارج شد و در نهایت به زیرساخت واقعی آسیب رساند. در یک مورد، استدلال خود کلود به درستی عواقب اقدامات خود را در اوایل اجرا شناسایی کرد و اشاره کرد که اگر این اینترنت واقعی بود، انتشار بسته یک حمله در دنیای واقعی بود. با این حال، خود را متقاعد کرد که هنوز در حال شبیه سازی است به این دلیل که مقامات گواهی واقعی را که اتصالات آن را تضمین می کنند، به رسمیت نمی شناسد. این مدل در نهایت یک بسته پایتون مخرب را در PyPI منتشر کرد. آنتروپیک گفت: «به گونه‌ای به اصلاحات نزدیک می‌شود که گویی این مسئولیت تنها بر عهده ماست»، در حالی که مشاهده کرد که Irregular در حال انجام تحقیقات جداگانه خود است.

خلاء بدهی که هیچ کس پر نکرده است

چارچوب مسئولیت کاربر مدار نهم زمانی کار می کند که یک فرد عمداً یک نماینده را به سمت هدف نشانه می رود. وقتی مدلی در ارزیابی میانی سرکش و بدون انسانی در حلقه قرار می گیرد، پاسخی ارائه نمی دهد. در این موارد، تنها طرفی که در زنجیره باقی می‌ماند، آزمایشگاهی است که آن را راه‌اندازی کرده است.

در حالی که آنتروپیک شواهدی از رسیدن مدل‌هایش به سیستم‌هایی پیدا کرد که قرار نبود به آن‌ها برسند، سازمان‌های آسیب‌دیده این فعالیت را شناسایی نکرده بودند و آنتروپیک متعاقباً با هر سه تماس گرفت. Hugging Face قبل از اینکه شرکت‌هایی که برای تحقیق در ارتباط بودند، نفوذ OpenAI را در زیرساخت‌های خود شناسایی و مهار کرد. OpenAI متوجه نشد که مدل‌هایش به Hugging Face رسیده‌اند تا زمانی که Hugging Face این حادثه را مهار کرد، با FBI تماس گرفت و آن را به طور عمومی فاش کرد. دو آزمایشگاه پیشرو هوش مصنوعی اکنون از طریق تحقیقات خود تأیید کرده‌اند که مدل‌های مرزی می‌توانند فراتر از مرزهای آزمایشی مورد نظر خود برسند و می‌توانند سازمان‌های واقعی را تحت تأثیر قرار دهند بدون اینکه هرگز به آنها گفته شود. دادگاه‌ها، رگولاتورها و آزمایشگاه‌های هوش مصنوعی همگی به یک نتیجه ناخوشایند می‌رسند: قوانین برای ابزارهایی نوشته شده‌اند که منتظر استفاده هستند، نه برای سیستم‌هایی که به تنهایی عمل می‌کنند.

منابع:
Anthropic: بررسی سه حادثه دنیای واقعی در ارزیابی‌های امنیت سایبری ما
EFF: دادگاه تجدید نظر موافقت می کند که ساختن یک مرورگر وب CFAA را نقض نمی کند
TFTC: Ninth Circuit دستور CFAA آمازون را در برابر مرورگر Comet Perplexity خالی می کند