مایکروسافت خواستار تدوین قوانین جهانی برای ایمنی هوش مصنوعی شد

به گزارش خبرگزاری سریع؛ برد اسمیت، رییس مایکروسافت، هشدار داده است که هوش مصنوعی در مقایسه با محصولاتی مانند شیر و ماشین لباس‌شویی، با مقررات ایمنی بسیار کمتری روبه‌رو است و برای جلوگیری از خطرهای احتمالی آن، باید قوانین روشن و مشترک در سطح جهان تدوین شود.

اسمیت در گفت‌وگو با برنامه «مصاحبه با بزرگان» شبکه خبری بی‌بی‌سی گفت که هوش مصنوعی می‌تواند ابزاری سودمند باشد، اما در صورت استفاده نادرست یا خارج‌شدن از کنترول انسان، به خطری جدی تبدیل شود.

او تأکید کرد که روند قانون‌گذاری باید هرچه زودتر آغاز شود و شرکت‌های فعال در این عرصه باید برای جلوگیری از پیامدهای ناخواسته، مسوولیت بیشتری بپذیرند.

رییس مایکروسافت در توضیح ضرورت نظارت بر این فناوری گفت که ماشین لباس‌شویی و هر بسته شیر فروخته‌شده در فروشگاه‌ها، تابع مقررات ایمنی و بررسی‌های مشخص است؛ اما در بخش هوش مصنوعی هنوز چنین سطحی از نظارت وجود ندارد.

اسمیت خواستار آن شده است که شرکت‌های هوش مصنوعی از نظر قانونی مکلف شوند حوادث مرتبط با عملکرد خارج از کنترول این فناوری را گزارش دهند و در صورت آسیب‌دیدن افراد، آنان را از رویداد آگاه سازند.

او همچنان پیشنهاد کرده است که محصولات مشخص هوش مصنوعی، پیش از عرضه به بازار، از سوی ارزیابان مستقل بررسی شوند. به باور او، تجربه نظارت بر ایمنی محصولات دیگر می‌تواند در ایجاد چارچوب‌های مناسب برای هوش مصنوعی مورد استفاده قرار گیرد.

از دیدگاه اسمیت، شرکت‌ها باید سازوکارهای توقف اضطراری یا کلیدهای خاموشی نیز داشته باشند تا در صورت بروز خطر، بتوان فعالیت سامانه‌های هوش مصنوعی را متوقف کرد یا سرعت آن را کاهش داد.

این پیشنهادها در حالی مطرح می‌شود که نگرانی‌ها درباره توانایی برخی سامانه‌های هوش مصنوعی در انجام فعالیت‌های پیچیده، احتمال سوءاستفاده از این فناوری و پیامدهای آن برای امنیت سایبری افزایش یافته است.

درخواست اسمیت برای نظارت بیشتر، با دیدگاه دونالد ترمپ، رییس‌جمهور امریکا، تفاوت دارد. ترمپ بر توسعه سریع هوش مصنوعی در امریکا تأکید کرده و خواستار آن شده است که مقررات این صنعت به مانعی در برابر رقابت شرکت‌های امریکایی با رقبای چینی تبدیل نشود.

در مقابل، شماری از مدیران شرکت‌های بزرگ فعال در بخش هوش مصنوعی، از جمله آنتروپیک، اوپن‌ای‌آی و گوگل دیپ‌مایند، درباره خطرهای این فناوری هشدار داده و از ضرورت تدابیر ایمنی بیشتر سخن گفته‌اند.

با این حال، اسمیت معتقد است که تدوین مقررات ایمنی لزوماً به معنای متوقف‌کردن پیشرفت فناوری نیست؛ بلکه می‌تواند زمینه توسعه مسوولانه‌تر آن را فراهم سازد.

او همچنین گفته است که بریتانیا به دلیل برخورداری از ظرفیت‌های تخنیکی و تجربه فعالیت مؤسسه امنیت هوش مصنوعی، می‌تواند در تدوین معیارهای جهانی برای این فناوری نقش مهمی ایفا کند.

این مؤسسه در دوره نخست‌وزیری ریشی سوناک با نام مؤسسه ایمنی هوش مصنوعی ایجاد شد و بخشی از تلاش‌های بریتانیا برای بررسی خطرهای احتمالی این فناوری به شمار می‌رود.

اسمیت باور دارد که واشینگتن ممکن است پذیرش معیارهای پیشنهادی بریتانیا را نسبت به برخی مقررات اتحادیه اروپا آسان‌تر بداند. با این حال، میزان توافق امریکا با چنین پیشنهادهایی به محتوای مقررات و چگونگی تطبیق آن‌ها بستگی خواهد داشت.

او در پایان بار دیگر بر ضرورت اقدام فوری تأکید کرده و گفته است که خطرهای ناشی از فعالیت عامل‌های هوش مصنوعی خارج از کنترول انسان و توانایی مدل‌های پیشرفته در تهدید امنیت سایبری، نیازمند همکاری میان دولت‌ها و شرکت‌های فناوری است.