چارچوب نظارتی کاخ سفید برای هوش مصنوعی با چالش‌های اساسی مواجه است

کاخ سفید در ماه اوت چارچوبی برای تست مدل‌های هوش مصنوعی (AI) بسته و پیشرفته به منظور ارزیابی خطرات ایمنی و امنیت سایبری نهایی کرد. این چارچوب در شرایطی به اجرا درآمد که یک محقق از شرکت انتروپیک به دلیل نگرانی‌هایی درباره کنترل ظرفیت‌های مدل‌های هوش مصنوعی استعفا داده و هشدارهایی از سوی رهبران صنعت مبنی بر کاهش سرعت رقابت در این زمینه مطرح شده است.

چالش‌های شفافیت و کارایی

با وجود اینکه این چارچوب تنها به مدل‌های بسته و پیشرفته اشاره دارد، معیارهای دقیق آن هنوز به صورت عمومی منتشر نشده و تنها به شرکت‌های هوش مصنوعی ارائه شده است. این عدم شفافیت انتقادات زیادی را به همراه داشته و سوالاتی را درباره توانایی دولت در ارائه نظارت کافی بر مدل‌های پیشرفته هوش مصنوعی برانگیخته است. این چارچوب به صورت داوطلبانه عمل می‌کند و مدل‌ها می‌توانند قبل از انتشار برای ارزیابی ارائه شوند، اما دولت تنها سی روز برای ارزیابی این مدل‌ها فرصت دارد.

بیشتر بخوانید: استیو جونز و چالش‌های مراکز داده هوش مصنوعی

نقص‌های موجود در ظرفیت‌های نظارتی

سوالات زیادی درباره‌ی معیارهای ایمنی و امنیت سایبری که مدل‌ها باید از آن‌ها عبور کنند وجود دارد. در حالی که نهادهای مختلفی مانند آژانس امنیت ملی و دفتر سیاست‌گذاری علم و فناوری در این ارزیابی‌ها مشارکت خواهند داشت، هنوز اطلاعاتی درباره‌ی کارشناسان و دفاتر مسئول این ارزیابی‌ها منتشر نشده است. با توجه به چالش‌های فنی و محدودیت‌های اعتبارسنجی در این زمینه، اعتبار این ارزیابی‌ها به شفافیت و وجود نیروی کار فنی قوی بستگی دارد.

چارچوب نظارتی کاخ سفید، با ترکیبی از ارزیابی مستقیم دولتی و سیستم داوطلبانه، در معرض خطر ناکارآمدی و عدم شفافیت قرار دارد. دولت به دلیل سه شکاف اصلی در ظرفیت‌های فنی خود، از جمله کمبود استعدادهای فنی و عدم توانایی در جذب و حفظ کارشناسان فنی، به سختی می‌تواند ارزیابی مستقل انجام دهد. این مسئله می‌تواند منجر به تضاد منافع در صورت تکیه بر تخصص صنعت برای کمک به ارزیابی مدل‌ها شود.

در نهایت، برای موفقیت نظارت فدرال بر هوش مصنوعی، نیاز به طراحی چارچوبی داریم که شفافیت و استقلال را ترویج کند. ایجاد یک هیئت نظارتی برای تنظیم بازار حسابرسی‌های خارجی می‌تواند به عنوان یک راهکار مناسب مطرح شود. این هیئت می‌تواند به بهبود استقلال و ایجاد بازار رقابتی برای حسابرسی هوش مصنوعی کمک کند.

بیشتر بخوانید: هشدار محققان: خطر انقراض بشر تا ۲۰۳۰! · چالش تنظیم‌گری صنعت هوش مصنوعی آمریکا با رقابت چین