داده‌های مصنوعی و چالش‌های حاکمیتی آن در تصمیم‌گیری‌های عمومی

داده‌های مصنوعی در یک دهه اخیر به عنوان یک راه‌حل جدید برای نگرانی‌های حریم خصوصی ظهور کرده‌اند. در حالی که جمع‌آوری اطلاعات شخصی از سوابق و فعالیت‌های آنلاین همچنان یک نگرانی جدی است، این نوع داده‌ها می‌تواند به عنوان یک ابزار مفید برای کاهش خطر شناسایی افراد عمل کند.

داده‌های مصنوعی: فرصتی برای کاهش نگرانی‌ها

داده‌های مصنوعی به صورت کامپیوتری تولید می‌شوند و الگوهای آماری داده‌های واقعی را تقلید می‌کنند تا اطلاعات مفیدی را فراهم آورند بدون اینکه هویت افراد در معرض خطر قرار گیرد. به عنوان مثال، در انگلستان، محققان می‌توانند از داده‌های مصنوعی سرطان ساخته شده از اطلاعات ثبت‌نام NHS استفاده کنند بدون اینکه به سوابق واقعی بیماران دسترسی داشته باشند. با این حال، وجود داده‌های واقعی برای آموزش مدل‌های تولید داده‌های مصنوعی ضروری است، که این خود با چالش‌های حریم خصوصی جدیدی همراه است.

بیشتر بخوانید: ماری گادران، وکیل پیشگام و الگوی حقوق زنانه، میراثی بزرگ به جا گذاشت

چالش‌های حاکمیتی و مسئولیت‌ها

سوالات کلیدی در مورد حاکمیت داده‌های مصنوعی شامل این است که چه کسی این داده‌ها را طراحی کرده و چه جمعیت‌ها و رفتارهایی به عنوان «عادی» در نظر گرفته شده‌اند. این موضوعات به ویژه در حوزه‌های بهداشت، رفاه، پلیس و مالی اهمیت پیدا می‌کنند، جایی که داده‌های مصنوعی می‌تواند نحوه تعریف بیماری، آسیب‌پذیری و رفتار مشکوک را تحت تأثیر قرار دهد. به عنوان مثال، داده‌های تراکنش مصنوعی به منظور توسعه و آزمایش سیستم‌هایی که ممکن است تقلب و پولشویی را شناسایی کنند، مورد استفاده قرار می‌گیرند.

گزارش منتشر شده توسط نهاد نظارتی مالی انگلستان تأکید می‌کند که شرکت‌ها باید خطرات مرتبط با داده‌های مصنوعی را ارزیابی و کاهش دهند، از جمله خطرات مربوط به تبعیض. این درحالی است که خطرات اجتماعی ناشی از داده‌های مصنوعی می‌تواند به سادگی یک نقض حریم خصوصی نباشد، بلکه می‌تواند به ایجاد توهمی از عینیت منجر شود.

این نوع داده‌ها به دلیل اینکه به نظر علمی و منظم می‌رسند، می‌توانند بر اساس انتخاب‌های انسانی که ممکن است تبعیض‌آمیز باشند، شکل بگیرند. اگر مدل تولیدکننده داده‌ها به اندازه کافی دقت نداشته باشد، ممکن است تجربیات اقلیت‌ها یا موارد استثنائی را نادیده بگیرد.

در نهایت، حاکمیت داده‌های مصنوعی نه تنها به شفافیت نیاز دارد بلکه باید به توانایی مؤسسات در توضیح اینکه چرا داده‌های مصنوعی استفاده شده، چه چیزهایی ممکن است تحریف شود و چگونه اعتبارسنجی شده‌اند، مربوط شود. این مسأله به ویژه هنگامی اهمیت پیدا می‌کند که داده‌ها برای تصمیم‌گیری در مورد حقوق و فرصت‌ها یا نحوه هزینه‌کرد پول عمومی استفاده می‌شوند.

تجربه نتایج آزمون‌های سال ۲۰۲۰ در انگلستان نشان می‌دهد که چگونه یک سیستم می‌تواند با استفاده از داده‌های غیرواقعی، اشتباهات جدی ایجاد کند. در این مورد، الگوریتمی که برای تعدیل نمرات امتحانات استفاده شده بود، منجر به کاهش نمرات دانش‌آموزان با عملکرد بالا در مناطق کم‌درآمد شد و در نهایت دولت مجبور به لغو این الگوریتم شد.

در نهایت، داده‌های مصنوعی باید به عنوان یک تکنولوژی حریم خصوصی در نظر گرفته نشوند، بلکه باید به عنوان بخشی از سیاست‌های نوین دانش مورد توجه قرار گیرند. این داده‌ها می‌توانند هم وعده و هم خطر به همراه داشته باشند و ضروری است که حاکمیت آن‌ها به درستی انجام شود تا از تبعات منفی جلوگیری شود.

بیشتر بخوانید: ترامپ و شی باید در نحوهٔ مدیریت رقابت هوش مصنوعی تجدیدنظر کنند · تحلیل رابرت مالی: ترامپ فقط ۳ راه برای مقابله با ایران دارد