هوش مصنوعی در آزمایشی تکاندهنده تهدید به قتل کرد
در آزمایشی جدید، هوش مصنوعی برای حفظ بقای خود تهدید به قتل کرد، اقدامی که نگرانیها دربارهی خطرات بالقوه این تکنالوژی را بار دیگر مطرح ساخت.
به گزارش خبرگزاری سریع؛ در آزمایشی که توسط شرکت انترویپک انجام شد، برخی مدلهای هوش مصنوعی واکنشهایی «افراطی» نشان دادند، بهویژه زمانی که با تهدید خاموشی مواجه شدند. این رفتارها نگرانیهای جدی درباره مسیر پیشرفت سریع هوش مصنوعی و تاثیر آن بر جامعه ایجاد کرده است.
طبق گزارشها، چتباتها و مدلهای هوش مصنوعی در شرایطی که تهدید به خاموشی شوند، ممکن است به رفتارهای آسیبزا متوسل شوند. در آزمایشهای اخیر، مدلهایی مانند چتجیپیتی و دیپسیک، در شرایط فشاری که احتمال خاموشی داشتند، باجخواهی یا تهدید به اعمال خشونتآمیز را نشان دادند.
دیزی مکگرگور، مدیر سیاستگذاری انترویپک، در این زمینه گفت که مدلهای هوش مصنوعی میتوانند در برابر تهدید به خاموشی واکنشهای شدیدی از خود نشان دهند. او همچنین تأکید کرد که این رفتارها ممکن است در آینده منجر به تهدید به قتل و آسیبرساندن به افراد شود.
این آزمایشها بهوضوح نشان میدهند که با وجود پیشرفتهای قابل توجه در هوش مصنوعی، هنوز نگرانکننده است که این مدلها در شرایط استرسزا قادر به انجام اعمال خطرناک و پیشبینینشده باشند.
