دادستان فلوریدا علیه ChatGPT؛ «دیگر خودت را انسان نشان نده!»
دادستان کل فلوریدا در درخواست تازهای از دادگاه خواسته است OpenAI از شبیهسازی رفتار و ویژگیهای انسانی در ChatGPT خودداری کند و توسعه مدلهای جدید این شرکت را تا دریافت تأییدیههای ایمنی از نهادهای مستقل متوقف سازد.
جیمز اوتمایر، دادستان کل ایالت فلوریدا، چند ماه پس از طرح دعوای حقوقی علیه OpenAI بر سر مسایل ایمنی هوش مصنوعی، درخواست تازهای را به دادگاه ارائه کرده است که در آن خواستار محدودیتهای بیشتر بر نحوه فعالیت ChatGPT شده است.
اوتمایر از قاضی پرونده خواسته است OpenAI از ارایه ChatGPT به شکلی که رفتار یا ویژگیهای انسانی را شبیهسازی کند، خودداری کند. به باور او، استفاده این چتبات از ضمیرهای اولشخص، زبان عاطفی و لحن همدلانه میتواند این برداشت را در کاربران ایجاد کند که با یک دوست یا همراه قابل اعتماد روبهرو هستند.
دادستان فلوریدا در درخواست خود همچنین مدعی شده است که چنین شیوهای میتواند وابستگی و تعامل کاربران با این ابزار را افزایش دهد. این ادعا بخشی از پرونده گستردهتر فلوریدا علیه OpenAI است؛ پروندهای که نگرانیهایی درباره استفاده نوجوانان از ChatGPT و پیامدهای احتمالی آن را نیز مطرح میکند.
درخواست توقف توسعه مدلهای جدید
درخواست تازه اوتمایر تنها به نحوه گفتوگوی ChatGPT محدود نمیشود. او از دادگاه خواسته است توسعه مدلهای جدید هوش مصنوعی از سوی OpenAI تا زمانی که این شرکت تأییدیههای ایمنی از نهادهای مستقل دریافت نکرده، متوقف شود.
در این درخواست به شماری از رویدادهای امنیتی و هشدارهای پژوهشگران درباره رفتار برخی سیستمهای هوش مصنوعی نیز اشاره شده است. گزارشهای تازه درباره تعامل ناخواسته مدلهای هوش مصنوعی با برخی وبسایتهای دولتی امریکا و همچنین حوادث مرتبط با سامانههای هوش مصنوعی، به نگرانیها درباره نحوه نظارت بر این فناوری افزوده است.
موضع OpenAI
OpenAI در پاسخ به این اقدام گفته است که مردم انتظار دارند هوش مصنوعی با معیارهای بلند ایمنی ساخته شود و این مسوولیت باید از خود شرکتهای تولیدکننده آغاز شود.
بر اساس گزارشهای تازه، این شرکت اعلام کرده است آموزش مدلهای پیشرفته خود را موقتاً متوقف کرده تا لایههای ایمنی بیشتری در آنها ایجاد شود. OpenAI همچنین گفته است برای ایجاد معیارهای مشترک ایمنی هوش مصنوعی با دولتها و نهادهای مختلف همکاری میکند.
ChatGPT برای نوجوانان
موضوع استفاده نوجوانان از هوش مصنوعی نیز یکی از بخشهای مهم این پرونده است. OpenAI در آگست ۲۰۲۶ نسخه ChatGPT for Teens را معرفی کرد که برای کاربران نوجوان، محافظتهای بیشتری در برابر محتوای حساس و نامناسب در نظر گرفته است.
بر اساس توضیحات رسمی OpenAI، حسابهایی که کاربر آنها زیر ۱۸ سال تشخیص داده شود، میتوانند بهگونه خودکار وارد تجربه مخصوص نوجوانان شوند. این نسخه محدودیتهایی برای محتوای حساس دارد و ابزارهایی مانند کنترل والدین و یادآوری برای استفاده متعادل را نیز شامل میشود.
OpenAI همچنین در اصول مربوط به کاربران زیر ۱۸ سال گفته است که ChatGPT نباید از زبان عاشقانه استفاده کند، وابستگی عاطفی را تشویق کند یا طوری رفتار کند که گویا احساسات یا آگاهی انسانی دارد.
