@trishoolai، تیم پشت صحنه بیتنزور (@opentensor) زیرشبکه ۲۳، HaloGuard 1.0 را منتشر کرده است، یک مدل ایمنی سریع و آنی که در هفت معیار ایمنی تعیین‌شده، رتبه‌های برتر را کسب کرده است. این عرضه که در ۲ جولای اعلام شد، یک مدل نسبتاً جمع‌وجور را در مقابل پیشنهادات آزمایشگاه‌های هوش مصنوعی بسیار بزرگ‌تر قرار می‌دهد.

مدل‌های کوچک، نتایج قوی

HaloGuard در دو اندازه عرضه می‌شود. نسخه پارامتر 4B در هر هفت معیاری که روی آن آزمایش شده، مقام اول را کسب کرده است. نسخه 0.8B به عنوان یک گزینه سبک وزن قرار گرفته است که از مدل‌هایی با اندازه چندین برابر خود بهتر عمل می‌کند و استقرار با تأخیر کم را برای توسعه‌دهندگانی که روی خطوط لوله هوش مصنوعی یا چارچوب‌های عامل کار می‌کنند، بسیار کاربردی‌تر می‌کند.

فلسفه اصلی طراحی، رهگیری است نه اصلاح. HaloGuard پیام‌ها را قبل از رسیدن به مدل یا عامل اصلی، غربالگری می‌کند و ورودی‌های بالقوه مضر را در همان ابتدا می‌گیرد، نه اینکه خروجی‌ها را پس از آسیب فیلتر کند.

ساخته شده برای شکستن خودش

ساختار انگیزشی این زیرشبکه، آن را از ابزارهای ایمنی مرسوم متمایز می‌کند. این سیستم یک محیط رقابتی ایجاد می‌کند که در آن ماینرها برای شناسایی رفتارهای بالقوه مشکل‌ساز، درخواست‌های خصمانه ارائه می‌دهند. به عبارت ساده، به ماینرها پول داده می‌شود تا راه‌هایی برای شکستن مدل پیدا کنند و هر حمله موفقیت‌آمیز به یک چرخه وصله (patch) بازخورد می‌دهد. تریشول (Trishool) تیم قرمز هوش مصنوعی را به یک فرآیند غیرمتمرکز و مداوم تبدیل می‌کند، به طوری که با هوشمندتر شدن هوش مصنوعی، دفاع‌ها و بررسی‌های ایمنی نیز در کنار آن بهبود می‌یابند.

تریشول خود را به عنوان یک لایه هم‌ترازی غیرمتمرکز توصیف می‌کند که برای ایجاد ایمنی مستقل و مورد تایید بازار برای هوش مصنوعی طراحی شده است و با خودکارسازی حلقه ایمنی در مقیاس جهانی، یک مکانیسم بدون نیاز به اعتماد برای ابرهوش مصنوعی ایمن ایجاد می‌کند.

نسخه آلفای قبلی HaloGuard در حال حاضر به صورت زنده در زیرشبکه Chutes، زیرشبکه استنتاج هوش مصنوعی که در سه‌ماهه اول ۲۰۲۶، ۴۳ میلیون دلار درآمد واقعی هوش مصنوعی ایجاد کرده است، اجرا می‌شود. طبق گزارش‌ها، از ماه مه، امتیاز F1 87٪ را در ترافیک واقعی ثبت کرده است. این استقرار زنده به ادعاهای این معیار، به جای شرایط آزمایش کنترل‌شده، تا حدودی بر داده‌های تولید مبتنی است.

بیتنزور یک پلتفرم متن‌باز است که در آن شرکت‌کنندگان کالاهای دیجیتالی از جمله استنتاج و آموزش هوش مصنوعی تولید می‌کنند. این پلتفرم از زیرشبکه‌های مجزایی تشکیل شده است که هر کدام جامعه‌ای مستقل از ماینرها هستند که کالا را تولید می‌کنند و اعتبارسنج‌هایی که کار ماینرها را ارزیابی می‌کنند. راه‌اندازی HaloGuard نمونه‌ای عینی از اعمال مستقیم این مدل بر زیرساخت ایمنی هوش مصنوعی است.

منابع
مستندات Trishool (docs.trishool.ai)
مخزن GitHub فاز 2 Trishool
مستندات رسمی بیتنزور