مدیرعامل گوگل دیپ‌مایند @demishassabis از ایالات متحده خواسته است تا یک نهاد رسمی برای بررسی قدرتمندترین مدل‌های هوش مصنوعی جهان قبل از رسیدن به دست کاربران ایجاد کند و هشدار داده است که هوش مصنوعی عمومی احتمالاً تنها چند سال دیگر فاصله دارد و پنجره ساخت نرده‌های محافظ به سرعت در حال بسته شدن است.

یک مدل FINRA برای هوش مصنوعی Frontier

هاسابیس پیشنهاد ایجاد یک نهاد استاندارد هوش مصنوعی را می‌دهد که از FINRA، نهاد نظارتی خصوصی و تحت حمایت مالی صنعت که وال استریت را تحت نظارت SEC کنترل می‌کند، الگوبرداری شده باشد. آزمایشگاه‌های Frontier در ابتدا مدل‌های خود را داوطلبانه، تا 30 روز قبل از انتشار، برای آزمایش ایمنی که قابلیت‌های خطرناک سایبری، بیولوژیکی و "فریب" را بررسی می‌کند، با این نهاد به اشتراک می‌گذارند. هنگامی که رژیم آزمایش "مؤثر و قوی" ثابت شود، رسمی‌سازی "می‌تواند به سرعت دنبال شود"، به این معنی که مدل‌های Frontier قبل از استقرار در بازار ایالات متحده، ملزم به گذراندن این آزمون خواهند بود.

هاسابیس یک هیئت مدیره مستقل با اکثریت آرا متشکل از برندگان جایزه تورینگ و سایر متخصصان معتبر، در کنار نمایندگان صنعت، دولت و متن‌باز را پیش‌بینی می‌کند. این نهاد پیشنهادی به بودجه "قابل توجهی" برای جذب استعدادهای فنی در سطح جهانی و تأمین منابع محاسباتی لازم برای آزمایش در مقیاس بزرگ نیاز دارد که احتمالاً این بودجه از صنعت تأمین می‌شود. هاسابیس می‌گوید که می‌خواهد این نهاد قبل از پایان سال عملیاتی شود.

قابل توجه‌ترین عنصر این پیشنهاد، یک مکانیسم ترمز است. هاسابیس می‌گوید که این نهاد می‌تواند با افزایش خطرات، از جمله «هماهنگی برای کاهش سرعت توسعه در بین آزمایشگاه‌های مرزی در صورت لزوم»، «تشدید» شود. او می‌گوید که ماه‌هاست دولت ترامپ، آزمایشگاه‌های رقیب و مقامات اروپایی را در جریان امور قرار داده است.

کاخ سفید بدبین و ساختار بودجه نامناسب

این پیشنهاد در یک لحظه سیاسی پیچیده مطرح می‌شود. سریرام کریشنان، مشاور هوش مصنوعی کاخ سفید، در ۳ جولای به فایننشال تایمز گفت: «سازمان غذا و داروی آمریکا (FDA) برای هوش مصنوعی وجود نخواهد داشت.» او گفت که دولت رویکرد ملایم‌تری را ترجیح می‌دهد و هشدار داد که مقررات سنگین، نوآوری را کند و رقابت‌پذیری ایالات متحده را تضعیف می‌کند. چارچوب هسابیس، که عمداً از زبان صدور مجوز دولتی اجتناب می‌کند، به نظر می‌رسد برای نخ کردن این سوزن طراحی شده است و نظارت را به جای یک آژانس فدرال، در دست صنعت قرار می‌دهد.

اما مدل خودتنظیمی تنش‌های خاص خود را دارد. نهادی که توسط همان آزمایشگاه‌هایی که قرار است بر آنها نظارت کند، تأمین مالی می‌شود، با تضاد منافع آشکاری روبرو است و نحوه‌ی مدیریت اخیر انتشار مدل‌ها، تأثیر چندانی بر ایجاد اعتماد به ترتیبات موردی نداشته است. چند هفته پیش از اظهارات کریشنان، دولت فدرال «مداخله‌ی بی‌سابقه‌ای» انجام داد و شرکت آنتروپیک را مجبور به حذف آخرین نسخه‌ی مدل Mythos خود کرد، ضمن اینکه راه‌اندازی نسخه‌ی ۵.۶ OpenAI را نیز متوقف کرد. هاسابیس این موارد را به عنوان شواهدی ذکر کرد که واشنگتن به جای پاسخ‌های بداهه، به یک ساختار حاکمیتی رسمی نیاز دارد.

به گفته‌ی هاسابیس، هوش مصنوعی عمومی (AGI) که قادر به تطبیق با مغز انسان در طیف وسیعی از وظایف باشد، «احتمالاً تنها چند سال دیگر» فاصله دارد و این امر، «پنجره‌ی گرانبهایی» را برای جامعه باقی می‌گذارد تا نظارت بر آن را برقرار کند. اینکه آیا واشنگتن می‌تواند قبل از بسته شدن این پنجره، بر سر یک چارچوب به توافق برسد، همچنان پرسش اصلی و بی‌پاسخ است.

منابع:
Axios: Hassabis از گوگل خواستار ایجاد یک نهاد نظارتی جهانی جدید برای هوش مصنوعی به رهبری ایالات متحده شد
سی‌ان‌بی‌سی: رئیس گوگل دیپ‌مایند خواستار رهبری آمریکا در تدوین استانداردهای هوش مصنوعی شد
مشاور کاخ سفید می‌گوید ترامپ سازمان غذا و داروی آمریکا (FDA) را برای هوش مصنوعی ایجاد نخواهد کرد