تهدیدات بالقوه ناشی از هوش مصنوعی به عنوان یک خطر وجودی به تازگی در کانون توجه قرار گرفته است. یکی از محققان امنیتی در شرکت هوش مصنوعی Anthropic اعلام کرده است که احتمال اینکه هوش مصنوعی بتواند باعث نابودی بشر شود، بیش از یک در ده است. دیگر اعضای این شرکت نیز در حمایت از نگرانیهای او، به خطرات بالقوه این فناوری اشاره کردهاند و پیشبینی کردهاند که ممکن است هوش مصنوعی تا ده سال آینده به حدی پیشرفته و خطرناک شود که قادر به نابودی انسانها باشد.
رقابتهای جهانی و تهدیدات ناشی از هوش مصنوعی
این نگرانیها همزمان با هشدارهای یوشوا بنگیو، دانشمند کامپیوتر و برنده جایزه تورینگ، مطرح شده است. او در سال گذشته به این نکته اشاره کرده بود که سیستمهای هوش مصنوعی خودمختار میتوانند اهداف خودحفاظتی را توسعه دهند که خاموش کردن آنها برای انسانها آسان نیست. این نگرانیها در حالی مطرح میشود که استفاده از هوش مصنوعی در طراحی سلاحهای بیولوژیکی، حملات سایبری به زیرساختهای حیاتی و سایر فعالیتهای جنگی نیز به ثبت رسیده است.
بیشتر بخوانید: تحلیل تفاوتهای پاستا و نودل در فرهنگ غذایی جهانی
تجربههای گذشته و ضرورت همکاری بینالمللی
در حالی که برخی از تردیدها نسبت به این ادعاها وجود دارد، اما دلایل معقولی برای اعمال احتیاط در برابر فناوریهایی با سرعت رشد نمایی وجود دارد. به خصوص اینکه هوش مصنوعی به عنوان یک عنصر مرکزی در رقابتهای فزاینده میان ایالات متحده و چین در حال ظهور است. این رقابتها به شدت یادآور مسابقات فضایی و هستهای گذشته است، جایی که هر دو ابرقدرت از عقب ماندن میترسند و هرگونه محدودیت را به عنوان یک ریسک استراتژیک تلقی میکنند.
تجربههای گذشته نشان میدهد که حتی رقبای تلخ نیز میتوانند در مواجهه با تهدیدات مشترک به درک مشترک برسند. در دوران جنگ سرد، پس از آزمایش هستهای شوروی در سال ۱۹۴۹ و شکلگیری تسلیحات هیدروژنی در دهه ۱۹۵۰، دو ابرقدرت به این درک رسیدند که استفاده از سلاحهای هستهای به عنوان گزینههای تهاجمی باید به تدریج محدود شود. این تغییر نگرش به پیگیری توافقات بینالمللی منجر شد و در سال ۱۹۷۰ پیمان عدم اشاعه هستهای به تصویب رسید.
اگر توسعه سریع هوش مصنوعی تهدیدی مشابه به وجود آورد، امیدواریم که واشنگتن و پکن بتوانند به یک توافق مشابه در زمینه کنترل این فناوری دست یابند. این به معنای عبور از مشکوک بودن متقابل به یک شناخت مشترک است که یک مسابقه کنترل نشده در زمینه هوش مصنوعی به نفع هیچیک از طرفین نخواهد بود.
در نهایت، درسهایی که از دوران هستهای میتوان گرفت، نشان میدهد که حتی در شرایط دشوار، امکان دستیابی به یک درک مشترک وجود دارد. تسریع در این فرآیند، به جای انتظار برای وقوع یک بحران، مسیر مسئولانهتری خواهد بود.
بیشتر بخوانید: تحلیل تحولات خلیجفارس و نظم نوین منطقهای ایران · صنعت هوش مصنوعی و ضرورت قوانین اجتماعی در توسعه فناوری
