محافظت از کودکان در برابر تأثیرات هوش مصنوعی – مسائل جهانی

کودکان در حال حاضر به طرق مختلف با فناوری‌های هوش مصنوعی تعامل دارند: آنها در اسباب‌بازی‌ها، دستیاران مجازی، بازی‌های ویدیویی و نرم‌افزارهای یادگیری تطبیقی ​​تعبیه شده‌اند. تأثیر آنها بر زندگی کودکان عمیق است، با این حال یونیسف دریافت که وقتی صحبت از سیاست‌ها و شیوه‌های هوش مصنوعی به میان می‌آید، در بهترین حالت، حقوق کودکان یک فکر بعدی است.

در پاسخ، آژانس کودکان سازمان ملل متحد پیش‌نویس راهنمای سیاست‌گذاری در مورد هوش مصنوعی برای کودکان را برای ارتقای حقوق کودکان و افزایش آگاهی در مورد اینکه چگونه سیستم‌های هوش مصنوعی می‌توانند این حقوق را حمایت یا تضعیف کنند، تهیه کرده است.

Conor Lennon از UN News از Jasmina Byrne، مسئول سیاست در تیم بینش جهانی یونیسف و استیون Vosloo، متخصص داده‌ها، تحقیقات و سیاست‌گذاری یونیسف درباره اهمیت قرار دادن کودکان در مرکز سیاست‌های مرتبط با هوش مصنوعی سؤال کرد.

فناوری هوش مصنوعی جامعه را به طور اساسی تغییر خواهد داد.

استیون ووسلو در یونیسف دیدیم که هوش مصنوعی موضوع بسیار داغی است و چیزی که اساساً جامعه و اقتصاد را به ویژه برای نسل‌های آینده تغییر می‌دهد. اما وقتی به استراتژی‌های هوش مصنوعی ملی، و سیاست‌ها و دستورالعمل‌های شرکت‌ها نگاه کردیم، متوجه شدیم که توجه کافی به کودکان و چگونگی تأثیر هوش مصنوعی روی آنها نمی‌شود.

بنابراین، ما یک فرآیند مشاوره گسترده را آغاز کردیم و با کارشناسان سراسر جهان و تقریباً 250 کودک در پنج کشور صحبت کردیم. این روند منجر به پیش‌نویس سند راهنمای ما شد و پس از انتشار آن، از دولت‌ها، سازمان‌ها و شرکت‌ها دعوت کردیم تا آن را آزمایش کنند. ما در حال توسعه مطالعات موردی پیرامون راهنمایی هستیم تا بتوانیم درس های آموخته شده را به اشتراک بگذاریم.

یاسمینا برن هوش مصنوعی برای چندین دهه در حال توسعه بوده است. به خودی خود نه مضر است و نه خیر. استفاده از این فناوری هاست که آنها را مفید یا مضر می کند.

کاربردهای مثبت بسیاری از هوش مصنوعی وجود دارد که می توان از آنها در آموزش برای یادگیری شخصی استفاده کرد. می توان از آن در مراقبت های بهداشتی، شبیه سازی زبان و پردازش استفاده کرد و برای حمایت از کودکان دارای معلولیت استفاده می شود.

و ما در یونیسف از آن استفاده می کنیم. به عنوان مثال، به ما کمک می کند تا گسترش بیماری را پیش بینی کنیم، و تخمین فقر را بهبود ببخشیم. اما خطرات زیادی نیز در ارتباط با استفاده از فناوری‌های هوش مصنوعی وجود دارد.

بچه‌ها همیشه با فناوری‌های دیجیتال تعامل دارند، اما نمی‌دانند و بسیاری از بزرگسالان نمی‌دانند که بسیاری از اسباب‌بازی‌ها یا پلتفرم‌هایی که استفاده می‌کنند از هوش مصنوعی پشتیبانی می‌کنند. به همین دلیل ما احساس کردیم که باید به کودکان و به دلیل آسیب پذیری های خاص آنها توجه ویژه ای شود.

حریم خصوصی و انگیزه سود

استیون ووسلو هوش مصنوعی می‌تواند از پردازش زبان طبیعی برای درک کلمات و دستورالعمل‌ها استفاده کند، و بنابراین داده‌های زیادی از آن کودک، از جمله مکالمات صمیمی، جمع‌آوری می‌کند، و این داده‌ها در ابر، اغلب در سرورهای تجاری، ذخیره می‌شوند. بنابراین، نگرانی های مربوط به حریم خصوصی وجود دارد.

ما همچنین مواردی را می‌شناسیم که این نوع اسباب‌بازی‌ها هک شده‌اند، و در آلمان ممنوع شده‌اند، زیرا به اندازه کافی ایمن در نظر گرفته می‌شوند.

حدود یک سوم کاربران آنلاین کودکان هستند. اغلب متوجه می‌شویم که بچه‌های کوچک‌تر از پلتفرم‌های رسانه‌های اجتماعی یا پلت‌فرم‌های اشتراک‌گذاری ویدیویی استفاده می‌کنند که در ذهنشان طراحی نشده است.

آنها اغلب برای حداکثر تعامل طراحی شده‌اند و بر اساس سطح مشخصی از نمایه‌سازی بر اساس مجموعه داده‌هایی که ممکن است نشان دهنده کودکان نباشند، ساخته شده‌اند.

تجزیه و تحلیل پیش‌بینی‌کننده و نمایه‌سازی به‌ویژه هنگام برخورد با کودکان مرتبط است: هوش مصنوعی ممکن است کودکان را به گونه‌ای معرفی کند که آنها را در یک سطل خاص قرار دهد، و این ممکن است تعیین کند که آنها در آینده چه نوع فرصت‌های آموزشی دارند یا والدین به چه مزایایی می‌توانند برای کودکان دسترسی داشته باشند. . بنابراین، هوش مصنوعی نه تنها امروز آنها را تحت تأثیر قرار می دهد، بلکه می تواند کل مسیر زندگی آنها را در جهت دیگری قرار دهد.

یاسمینا برن سال گذشته این خبر بزرگی در بریتانیا بود. دولت از الگوریتمی برای پیش بینی نمرات نهایی دانش آموزان دبیرستانی استفاده کرد. و از آنجایی که داده‌هایی که در الگوریتم‌ها وارد می‌شد به سمت کودکان مدارس خصوصی منحرف می‌شد، نتایج آنها واقعاً وحشتناک بود و آنها واقعاً علیه بسیاری از کودکان که از جوامع اقلیت بودند تبعیض قائل شدند. بنابراین، آنها مجبور شدند آن سیستم را رها کنند.

این تنها یک مثال از این است که چگونه، اگر الگوریتم‌ها بر اساس داده‌های مغرضانه باشند، در واقع می‌تواند پیامدهای بسیار منفی برای کودکان داشته باشد.

“این یک زندگی دیجیتالی است”

استیون ووسلو ما واقعا امیدواریم که توصیه های ما برای افرادی که واقعاً کد را می نویسند فیلتر شود. خط مشی خط مشی مخاطبان گسترده ای را هدف قرار داده است، از دولت ها و سیاست گذارانی که به طور فزاینده ای استراتژی ها را تنظیم می کنند و شروع به فکر کردن در مورد تنظیم مقررات هوش مصنوعی می کنند، و بخش خصوصی که اغلب این سیستم های هوش مصنوعی را توسعه می دهد.

ما منافع رقابتی را می بینیم: تصمیمات در مورد سیستم های هوش مصنوعی اغلب باید بین یک انگیزه سود در مقابل یک انگیزه اخلاقی تعادل ایجاد کند. آنچه ما از آن دفاع می کنیم تعهد به هوش مصنوعی مسئول است که از بالا سرچشمه می گیرد: نه فقط در سطح دانشمند داده یا توسعه دهنده نرم افزار، از مدیریت ارشد و وزرای ارشد دولت.

یاسمینا برن ردپای داده ای که کودکان با استفاده از فناوری دیجیتال از خود به جای می گذارند، تجاری سازی شده و توسط اشخاص ثالث برای سود خود و برای منافع خود استفاده می شود. آنها اغلب مورد هدف تبلیغاتی قرار می گیرند که واقعاً برای آنها مناسب نیست. این چیزی است که ما واقعاً از نزدیک دنبال و نظارت کرده ایم.

با این حال، من می گویم که اکنون اشتهای سیاسی برای رسیدگی به این موضوعات بیشتر شده است و تلاش می کنیم تا آنها را در دستور کار سیاست گذاران قرار دهیم.

دولت‌ها باید فکر کنند و کودکان را در مرکز همه سیاست‌گذاری‌های خود پیرامون فناوری‌های دیجیتال مرزی قرار دهند. اگر به آنها و نیازهایشان فکر نکنیم. آن وقت ما واقعاً فرصت های بزرگی را از دست می دهیم.

استیون ووسلو دولت اسکاتلند استراتژی هوش مصنوعی خود را در ماه مارس منتشر کرد و آنها رسماً دستورالعمل خط مشی یونیسف در مورد هوش مصنوعی برای کودکان را تصویب کردند. و بخشی از آن به این دلیل بود که دولت به طور کلی کنوانسیون حقوق کودک را به قانون تصویب کرده است. زندگی کودکان دیگر واقعا آنلاین یا آفلاین نیست. و اکنون یک زندگی دیجیتالی است.

این گفتگو برای طولانی بودن و وضوح ویرایش شده است. می توانید مصاحبه را از اینجا بشنوید.