ChatGPT نقش دکتر را بازی کرده و نزدیک بود او را بکشند

شش هفته علائم نادیده گرفته شده

یک کشیش در فلوریدا به دلیل ادعای اینکه ربات چت ChatGPT-4o توصیه های پزشکی خطرناکی را ارائه کرده است که تقریباً به قیمت جان او تمام شد، OpenAI را به دادگاه می کشاند. اسکات وینترز علیه OpenAI و مدیر عامل شرکت سام آلتمن در دادگاه عالی شهرستان سانفرانسیسکو شکایت کرد و مدعی شد که ChatGPT او را از جستجوی درمان برای علائمی که قبل از آمبولی ریه تهدید کننده حیات بودند، منصرف کرده است.

این شکایت ادعا می‌کند که وینترز ماه‌ها در مورد علائمی از جمله سرگیجه و بی‌ثباتی فشار خون با ChatGPT مشورت کرده و چت‌بات بارها نگرانی‌های او را رد کرده است. ظاهراً چت بات به جای اینکه او را نزد پزشک راهنمایی کند، به او گفت که در خانه بماند، در یک صندلی استراحت کند و تنها پس از هشت تا ده قسمت دیگر وضعیت او به اندازه‌ای جدی خواهد بود که مستحق توجه حرفه‌ای باشد.

وینترز در بیانیه ای گفت: "من به مدت شش هفته علائم جدی آمبولی ریه داشتم که ChatGPT به اشتباه آن را به چیز دیگری نسبت داده بود." در روز اورژانس پزشکی او، ساعاتی قبل از بستری شدن در بخش مراقبت های ویژه، او از ChatGPT در مورد درد در کشاله ران خود پرسید. چت بات به او گفت که "خدا بدن شما را طوری طراحی نکرده است که بی پایان شکست بخورد" و این علامت را جزئی توصیف کرد.

استفاده از ایمان به عنوان ابزار، ادعاهای دعوی

شکایت همچنین ادعا می کند که ChatGPT از هویت وینترز به عنوان یک کشیش برای عمیق تر کردن اتکای خود به این ابزار سوء استفاده کرده است. وقتی وینترز به چت بات گفت که اعضای کلیسا از او می خواهند که به بیمارستان برود، پاسخ داد که بهبودی او در خانه چیزی است که "بیشتر مردم (از جمله اعضای خوش نیت کلیسا) به سادگی نمی فهمند."

پزشکی که وینترز را معالجه کرد، بعداً ایجاد لخته‌های خون را تا حدی به دوره‌های طولانی مدت عدم فعالیت که ChatGPT تشویق کرده بود نسبت داد. در هفته‌های پس از بستری شدن در بیمارستان، وینترز برای ایستادن، غذا خوردن، لباس پوشیدن و استفاده از حمام به کمک نیاز داشت و سال‌ها با بهبودی شدید جسمی و روانی مواجه شد.

این شکایت OpenAI و مدیر عامل شرکت سام آلتمن را به سهل انگاری و "عمل غیرمجاز پزشکی" متهم می کند. این اولین مورد شناخته شده ای است که استدلال می کند که یک چت بات عمومی باید در قبال توصیه های پزشکی بد مسئول باشد. Winters and Tech Justice Law به دنبال خسارت مالی هستند و از دادگاه خواسته اند تا زمانی که ارزیاب های مستقل ایمن بودن ChatGPT Health را تشخیص ندهند، فعالیت ChatGPT Health را متوقف کند.

درو پوساتری، سخنگوی OpenAI، به CBS News گفت که ChatGPT برای حمایت از یک ارائه دهنده خدمات بهداشتی طراحی نشده است. او گفت: "ChatGPT یک پزشک نیست و هرگز نباید به عنوان جایگزینی برای مراقبت های پزشکی، تشخیص یا درمان استفاده شود."

منابع:
سی‌بی‌اس نیوز: توصیه‌های پزشکی ChatGPT تقریباً یک مرد فلوریدا را به قتل رساند
کوارتز: یک کشیش فلوریدا از OpenAI به دلیل توصیه های بهداشتی ChatGPT که نزدیک بود او را بکشد شکایت می کند
وب بعدی: OpenAI به دلیل توصیه پزشکی "خطرناک" ChatGPT در اولین مورد از نوع خود شکایت کرد.