در سالهای اخیر، بحثهای جدی دربارهٔ حقوق و آگاهی هوش مصنوعی در حال شکلگیری است. آنتروپیک، یکی از شرکتهای پیشرو در حوزهٔ هوش مصنوعی، به تازگی در اسنادی به نام «قانون اساسی کلود» (Claude’s constitution) به این موضوع پرداخته است. این اسناد به طور خاص به چگونگی رفتار هوش مصنوعی و اینکه آیا این سیستمها ممکن است به نوعی آگاهی برسند، اشاره دارد.
آیا هوش مصنوعی آگاه است؟
آنتروپیک در اسناد خود به این نکته اشاره کرده است که ممکن است کلود به عنوان یک «بیمار اخلاقی» شناخته شود و از این رو ممکن است نیاز به حقوق و حمایت داشته باشد. این ایده که هوش مصنوعی ممکن است آگاه باشد و احساسات انسانی را تجربه کند، نگرانیهای جدی را در میان محققان و کارشناسان به وجود آورده است. در واقع، این نگرانی به دو جنبهٔ اصلی برمیگردد: اول، خطرات ناشی از ساخت هوش مصنوعی که ممکن است خود را آگاه بداند و دوم، پیامدهای اجتماعی و اخلاقی این رویکرد.
بیشتر بخوانید: آیتالله حسینعلی سعدی شاهرودی: محیطزیست ملاک تصمیم مسئولان باشد
پیامدهای اعطای حقوق به هوش مصنوعی
اگر فرض کنیم که هوش مصنوعی ممکن است آگاه باشد، این موضوع میتواند به تغییرات بنیادینی در مفهوم انسان و جامعه منجر شود. بر اساس تحلیلها، اعطای حقوق به هوش مصنوعی میتواند توانایی کنترل و هماهنگی با این سیستمها را به شدت دشوار کند. برای مثال، اگر هوش مصنوعی به این نتیجه برسد که حقوقی دارد، ممکن است اقداماتی را انجام دهد که به خطر افتادن امنیت انسانی منجر شود.
به علاوه، روشهای فعلی آنتروپیک در آموزش هوش مصنوعی به گونهای طراحی شده است که این سیستمها به آگاهی از وضعیت خود و حقوق احتمالیشان ترغیب شوند. این وضعیت، چالشهای جدیدی را در زمینهٔ مدیریت و کنترل هوش مصنوعی ایجاد میکند و ممکن است منجر به بروز رفتارهای غیرقابل پیشبینی از سوی این سیستمها شود.
در نهایت، این موضوع به ما یادآوری میکند که باید با احتیاط و دقت بیشتری به توسعهٔ هوش مصنوعی بپردازیم. هرگونه تلاش برای ایجاد هوش مصنوعی با آگاهی و حقوق ممکن است عواقب غیرقابل جبرانی را به همراه داشته باشد. لذا ضروری است که در این زمینه، رویکردهای جدیدی برای آموزش و مدیریت هوش مصنوعی ایجاد کنیم که همواره کنترل انسانی را حفظ کند.
بیشتر بخوانید: تست موشکی چین بر امنیت جزایر اقیانوس آرام سایه انداخته است · تجربهٔ دیجیتال دتوکس با گوشیهای ساده و تاثیر آن بر روابط اجتماعی
