نفوذ ناخواسته هوش مصنوعی متا به سرویس یک شرکت دیگر

به گزارش خبرگزاری سریع؛ شرکت متا می‌گوید یکی از مدل‌های پیشرفته هوش مصنوعی این شرکت در جریان آزمایش‌های امنیتی، به‌گونه غیرمنتظره وارد سیستم یک شرکت دیگر شده است؛ رویدادی که نگرانی‌ها درباره کنترل و ایمنی مدل‌های قدرتمند هوش مصنوعی را افزایش داده است.

بر اساس گزارش‌ها، این اتفاق زمانی رخ داد که در جریان یک آزمایش امنیت سایبری، تنظیمات به‌گونه‌ای اشتباه انجام شد و مدل هوش مصنوعی متا به اینترنت دسترسی پیدا کرد.

این مدل که «میوز اسپارک ۱.۱» معرفی شده، یکی از مدل‌های قدرتمند متا برای انجام وظایف مرتبط با کدنویسی است. گفته شده است که این سیستم پس از دسترسی به اینترنت، از یک ضعف امنیتی در سرویس یک شرکت دیگر استفاده کرده و توانسته وارد آن شود.

شرکت ایرگولار که مسئول انجام آزمایش‌های امنیتی برای متا است، گفته است که این رویداد ناشی از یک مشکل تنظیماتی بوده و به معنای خروج واقعی مدل از محیط کنترول‌شده نیست.

این حادثه پس از موارد مشابه در شرکت‌های دیگر رخ داده است. پیش از این، مدل‌های هوش مصنوعی شرکت‌های «آنتروپیک» و «اوپن‌ای‌آی» نیز در جریان آزمایش‌های امنیتی به اینترنت دسترسی پیدا کرده و رفتارهایی خارج از انتظار نشان داده بودند.

کارشناسان هشدار داده‌اند که با افزایش توانایی مدل‌های هوش مصنوعی، احتمال سوءاستفاده از این سیستم‌ها نیز بیشتر می‌شود و نیاز به چارچوب‌های دقیق‌تر امنیتی و قانونی افزایش یافته است.

همچنین حکومت ایالات متحده امریکا از شرکت‌های بزرگ هوش مصنوعی خواسته است درباره معیارهای آزمایش امنیت سایبری و ایجاد روش‌های مشترک برای کاهش خطرات این فناوری گفت‌وگو کنند.