در روزهای اخیر، صداهایی از آزمایشگاههای پیشرفته هوش مصنوعی به گوش میرسد که خطرات جدی این فناوری را به تصویر میکشند. یکی از این صداها، جیکوب ککسون، محقق شناختهشدهای است که به تازگی از شرکت آنتروپیک استعفا داده و در یک پست عمومی به انتقاد از خطرات ناشی از کار در چنین شرکتهایی پرداخته است. او هشدار میدهد که تحقیقاتش میتواند به تهدیدی برای بشریت تبدیل شود.
مقابله با خطرات ناشی از هوش مصنوعی
ککسون در استعفای خود ادعا کرده که همکارانش در آنتروپیک به این دلیل در حال ادامه کار هستند که نمیخواهند میدان را به افرادی بسپرند که از اصول اخلاقی کمتری برخوردارند. او بیان کرده که این افراد دربارهٔ «بازی پایانی» و «زمان بحرانی» صحبت میکنند و به این نتیجه رسیدهاند که تصمیمات آنها در سالهای آینده میتواند سرنوشت بشریت را رقم بزند.
این ادعاها، در حالی مطرح میشوند که نگرانیها دربارهٔ قدرت فزایندهٔ هوش مصنوعی و توانایی آن در خودتحول به شدت در حال افزایش است. ککسون به این نکته اشاره کرده که توسعهٔ هوش مصنوعی خودبهخود میتواند به نسلهای جدیدی از ماشینها منجر شود که فراتر از تواناییهای انسانی عمل میکنند. این تحولات میتواند به یک رقابت خطرناک میان شرکتها منجر شود که در آن اولویتهای اخلاقی به حاشیه رانده میشوند.
احساس ناامیدی و خطرات آینده
در این میان، سوالات زیادی دربارهٔ حقیقت این هشدارها وجود دارد. آیا این ادعاها تنها بخشی از یک موج بزرگتر از ترس و نگرانیهای بیاساس هستند یا واقعاً ما در آستانه یک بحران بزرگ قرار داریم؟ به نظر میرسد که ککسون و همکارانش به شدت نگران عواقب کار خود هستند و این نگرانیها باید جدی گرفته شوند.
این قبیل استعفاها و افشاگریها نشاندهندهٔ یک تغییر مهم در نگرش به هوش مصنوعی و تأثیر آن بر جامعه هستند. آیا ما واقعاً در حال بازی با آتش هستیم؟ زمان آن رسیده که به این سوالات پاسخهای جدی بدهیم و از حالا به فکر راهکارهایی برای جلوگیری از فاجعههای احتمالی باشیم.
