دکتر چتجیپیتی در جیب ابی؛ از فرشته نجات عفونت تا وحشت سوراخ شدن اندام داخلی
ماجرای ابی و خطای چتجیپیتی در تشخیص سوراخ شدن اندام داخلی او، زنگ خطر بزرگی را درباره توصیههای بهداشتی هوش مصنوعی به صدا درآورد. بررسیهای علمی نشان میدهند که به دلیل لحن مقتدرانه اما اشتباه چتباتها و افت دقت آنها به ۳۵ درصد در مواجهه با بیماران واقعی، این ابزارها هرگز نباید جایگزین پزشک متخصص شوند.
به گزارش خبرگزاری سریع؛ ابی، شهروند اهل منچستر که سالها با اضطراب بیمار شدن دستوپنجه نرم میکند، بارها از چتجیپیتی برای مدیریت سلامت خود کمک گرفت. او معتقد بود این چتبات نسبت به جستوجوهای اینترنتی معمولی که مستقیماً فرد را به سمت ترسناکترین احتمالات میبرد، توصیههای شخصیسازیشدهتری ارائه میدهد. تجربه اول او بسیار مثبت بود؛ زمانی که علائم عفونت مجاری ادراری داشت، هوش مصنوعی با بررسی نشانهها پیشنهاد داد به داروساز مراجعه کند. این پیشنهاد ساده و دقیق منجر به تجویز آنتیبیوتیک و درمان آسان او شد، بدون اینکه احساس کند وقت سیستم درمانی را تلف کرده است.
اما جنبه تاریک و ترسناک این فناوری زمانی آشکار شد که ابی هنگام پیادهروی لیز خورد و به سختی روی یک تختهسنگ افتاد. او درد وحشتناکی را در کمر و شکم خود حس کرد و بلافاصله به سراغ هوش مصنوعی داخل جیبش رفت تا وضعیتش را بسبنجد. چتجیپیتی با قاطعیت به او اعلام کرد که یکی از اندامهای داخلیاش سوراخ شده و باید فوراً به بخش اورژانس مراجعه کند. این پاسخ هولناک باعث شد ابی سه ساعت با اضطراب شدید در اورژانس بنشیند، تا اینکه دردش فروکش کرد و فهمید حالش خوب است.
هوش مصنوعی آشکارا اشتباه کرده بود و این خطا، زنگ خطری جدی را درباره کیفیت توصیههای بهداشتی چتباتها در جهان به صدا درآورد. پروفسور کریس ویتی، مدیر ارشد پزشکی انگلستان، با ابراز نگرانی شدید تأکید کرده که پاسخهای این ابزارها اغلب در عین قاطعیت، اشتباهاند. پژوهشهای دانشگاه آکسفورد نشان میدهد اگرچه دقت چتباتها در بررسی سناریوهای مکتوب و کامل پزشکان نزدیک به ۹۵ درصد است، اما وضعیت واقعی متفاوت است. به محض اینکه انسانهای واقعی شروع به چت میکنند و اطلاعات را با حواسپرتی و به تدریج بروز میدهند، دقت سیستم به ۳۵ درصد سقوط میکند.
این سقوط یعنی در دوسوم موارد، مردم توصیه اشتباه دریافت میکنند؛ مانند یک بیمار سکته مغزی که چتبات به او توصیه غلط «استراحت در خانه» داد. بررسیهای موسسه لاندکویست کالیفرنیا نیز تایید میکند که این مدلها در برابر پرسشهای چالشبرانگیز، به راحتی اطلاعات نادرست و خطرناک علمی را ترویج میکنند. پزشکان هشدار میدهند لحن مقتدرانه و صمیمی رباتها حس اعتبار کاذبی منتقل میکند، در حالی که این سیستمها صرفاً برای پیشبینی متن طراحی شدهاند. با وجود اینکه اوپنایآی بر آموزشی بودن ابزارش تأکید دارد، ابی میگوید دیگر هیچکدام از حرفهای هوش مصنوعی را حقیقت مطلق نمیداند.
