پاریس، 26 نوامبر (IPS) – کشورهای عضو سازمان آموزشی، علمی و فرهنگی ملل متحد (یونسکو) بر روی متنی از اصول اخلاقی توصیه شده برای هوش مصنوعی (AI) توافق کردند که دولت ها می توانند به صورت «داوطلبانه» اعمال کنند.
یونسکو می‌گوید، متن تصویب‌شده، که آژانس آن را «تاریخی» می‌نامد، «ارزش‌ها و اصول مشترکی را تشریح می‌کند که ساخت زیرساخت‌های قانونی لازم را برای تضمین توسعه سالم هوش مصنوعی راهنمایی می‌کند».
آدری آزولای مدیر کل یونسکو اعتبار: AM/SWAN
متن بیان می‌کند که سیستم‌های هوش مصنوعی «نباید برای اهداف اجتماعی و نظارت انبوه مورد استفاده قرار گیرند»، از جمله توصیه‌های دیگر.
با این حال، 193 کشور عضو این سازمان شامل کشورهایی می‌شوند که به استفاده از هوش مصنوعی و سایر فناوری‌ها برای انجام چنین نظارتی، اغلب اقلیت‌ها و مخالفان – از جمله نویسندگان و هنرمندان- را هدف قرار می‌دهند. دولت ها و شرکت های چند ملیتی نیز از داده های شخصی و فناوری هوش مصنوعی برای نقض حریم خصوصی استفاده کرده اند.
در حالی که نامی از این کشورها و نهادها ذکر نشده است، مقامات یونسکو اذعان کردند که گفتگوهای منتهی به متن تصویب شده شامل «مکالمات دشوار» بوده است.
آدری آزولای، مدیر کل یونسکو، با ارائه این توافقنامه در 25 نوامبر در مقر این سازمان در پاریس، گفت که ابتکار عمل برای داشتن چارچوب اخلاقی هوش مصنوعی در سال 2018 آغاز شده است.
آزولای به خبرنگاران گفت: «به یاد دارم که بسیاری فکر می‌کردند دستیابی به نقاط مشترک بین 193 کشور، اگر نگوییم غیرممکن، بسیار سخت خواهد بود… اما پس از این سال‌ها کار، ما پاداش این پیروزی مهم چندجانبه‌گرایی را دریافت کردیم.
او خاطرنشان کرد که فناوری هوش مصنوعی به سرعت در حال توسعه است و دارای طیف وسیعی از اثرات عمیق است که هم مزایایی برای بشریت و هم خطرات گسترده ای را در بر می گیرد. آزولای تاکید کرد که به دلیل چنین تاثیری، یک توافق جهانی با توصیه های عملی بر اساس نظرات کارشناسان در سراسر جهان ضروری است.
یونسکو گفت که این توافق در خلال چهل و یکمین نشست کنفرانس عمومی یونسکو، که در 9 تا 24 نوامبر برگزار شد و شامل تصویب “توافقنامه های کلیدی که نشان دهنده همکاری چندجانبه مجدد است” به امضا رسید.
در حالی که این توافقنامه تعریف واحدی از هوش مصنوعی ارائه نمی‌کند، «جاه‌طلبی» این است که بر اساس متن، به ویژگی‌های هوش مصنوعی پرداخته شود که «ارتباط اخلاقی محوری» دارند.
اینها ویژگی‌ها یا سیستم‌هایی هستند که «ظرفیت پردازش داده‌ها و اطلاعات را به شیوه‌ای شبیه به رفتار هوشمند دارند و معمولاً شامل جنبه‌های استدلال، یادگیری، ادراک، پیش‌بینی، برنامه‌ریزی یا کنترل می‌شوند».
یونسکو گفت، در حالی که این سیستم ها “نتایج قابل توجهی را در زمینه های بسیار تخصصی مانند غربالگری سرطان و ایجاد محیط های فراگیر برای افراد دارای معلولیت ارائه می دهند”، به همان اندازه چالش های جدیدی ایجاد می کنند و “نگرانی های اخلاقی اساسی” را ایجاد می کنند.
این توافقنامه، سوگیری‌هایی را که فناوری‌های هوش مصنوعی می‌توانند «جاسازی و تشدید کنند» و تأثیر بالقوه آنها بر «شأن انسانی، حقوق بشر و آزادی‌های اساسی، برابری جنسیتی، دموکراسی … و محیط زیست و اکوسیستم‌ها» را تشریح می‌کند.
به گفته یونسکو، این نوع فناوری‌ها «بسیار تهاجمی هستند، حقوق بشر و آزادی‌های اساسی را نقض می‌کنند و به شکل گسترده‌ای مورد استفاده قرار می‌گیرند».
این توافق تاکید می‌کند که وقتی کشورهای عضو چارچوب‌های نظارتی را توسعه می‌دهند، باید «به این نکته توجه داشته باشند که مسئولیت نهایی و مسئولیت‌پذیری همیشه باید به عهده اشخاص حقیقی یا حقوقی باشد» – یعنی انسان‌ها – «و اینکه سیستم‌های هوش مصنوعی نباید شخصیت حقوقی داشته باشند». .
در این توافقنامه آمده است: «فناوری‌های جدید باید ابزارهای جدیدی برای دفاع، دفاع و اعمال حقوق بشر فراهم کنند و آنها را نقض نکنند».
در میان فهرست بلند اهداف، یونسکو گفت که هدف این توافق تضمین این است که تحولات دیجیتالی به دستیابی به اهداف توسعه پایدار نیز کمک می کند (یک طرح سازمان ملل برای دستیابی به «آینده ای بهتر و پایدارتر» برای جهان).
ما شاهد افزایش تعصبات جنسیتی و قومیتی، تهدیدهای قابل توجه برای حریم خصوصی، حیثیت و نمایندگی، خطرات نظارت انبوه و افزایش استفاده از فناوری‌های غیرقابل اعتماد هوش مصنوعی در اجرای قانون هستیم. یونسکو اعلام کرد که تاکنون هیچ استاندارد جهانی برای پاسخگویی به این مسائل وجود نداشته است.
در رابطه با تغییرات آب و هوایی، متن می گوید که کشورهای عضو باید مطمئن شوند که هوش مصنوعی از روش هایی استفاده می کند که از نظر منابع و انرژی کارآمد هستند، با توجه به تأثیری که بر محیط زیست ذخیره سازی مقادیر عظیمی از داده ها، که نیاز به انرژی دارد، می کند. همچنین از دولت ها می خواهد که تأثیر مستقیم و غیرمستقیم زیست محیطی را در طول چرخه حیات سیستم هوش مصنوعی ارزیابی کنند.
در مورد موضوع جنسیت، متن می‌گوید که کشورهای عضو «باید اطمینان حاصل کنند که پتانسیل فناوری‌های دیجیتال و هوش مصنوعی برای کمک به دستیابی به برابری جنسیتی به طور کامل به حداکثر رسیده است».
این بیانیه اضافه می‌کند که دولت‌ها «باید تضمین کنند که حقوق بشر و آزادی‌های اساسی دختران و زنان، ایمنی و سلامت آنها در هیچ مرحله‌ای از چرخه حیات سیستم هوش مصنوعی نقض نشود».
الساندرا سالا، مدیر هوش مصنوعی و علوم داده در Shutterstock و رئیس سازمان غیرانتفاعی Women in AI – که در ارائه این توافق نامه صحبت کرد – گفت که متن دستورالعمل های روشنی را برای حوزه هوش مصنوعی از جمله در زمینه هنری و فرهنگی ارائه می دهد. و مسائل جنسیتی
او گفت: «این نمادی از پیشرفت اجتماعی است.
مقامات یونسکو در پاسخ به نگرانی های مطرح شده توسط روزنامه نگاران در مورد آینده این توصیه ها، که اساساً الزام آور نیستند، گفتند که کشورهای عضو متوجه شده اند که جهان به این توافق “نیازمند” است و این گامی در جهت درست است.
© Inter Press Service (2021) – کلیه حقوق محفوظ استمنبع اصلی: Inter Press Service