بیمار مبتلا به سرطان پس از مشورت با «چت‌جی‌پی‌تی»، داروی اشتباه مصرف کرد!

به گزارش ایسنا، خبرنگار دیجیتال ترندز در گزارش جدیدی درباره تجربه بد دوست بیمارش در مشورت با چت‌بات هوش مصنوعی «چت‌جی‌پی‌تی»(ChatGPT) نوشت و دلایل بروز اشتباه را بررسی کرد.

به نقل از دیجیتال ترندز، «ندیم سرور»(Nadeem Sarwar) خبرنگار حوزه فناوری در گزارش خود، تجربه دوست بیمارش را از مشورت پزشکی با چت‌جی‌پی‌تی شرح داده است که در ادامه آن را می‌خوانیم.

دوست ۲۴ ساله‌ام با من تماس گرفت و از سردرد شدید و درد معده‌اش شکایت کرد. او در حال حاضر تحت درمان سرطان پستان قرار دارد و دو سال گذشته را با این بیماری گذرانده است. نزدیکترین بیمارستان را پیدا کردم و او را برای معاینه به بیمارستان رساندم.

در راه بیمارستان از او پرسیدم درد از چه زمانی آغاز شده و آیا علائم نگران‌کننده دیگری را تجربه کرده است. پاسخ او مرا شوکه کرد. دوستم گفت: پس از این که از سر کار برگشتم، کمی سرگیجه داشتم و همچنین احساس کردم مشکلی در روده‌ام وجود دارد. بنابراین، از چت‌جی‌پی‌تی پرسیدم که آیا می‌توانم داروی مسکن مصرف کنم. چند ساعت پس از مصرف داروهای مسکن، درد روده بدتر شد و احساس سوزش به وجود آمد و چند بار استفراغ کردم.

این اعتراف مرا تکان داد، اما این اتفاق ناگوار، لایه‌های زیادی دارد که باعث شد تصمیم بگیرم استفاده از هوش مصنوعی را برای عزیزانم ممنوع کنم؛ به ویژه وقتی صحبت از گفت‌وگوهای مربوط به سلامت و تندرستی به میان می‌آید. به عنوان کسی که نسبت به داروها بسیار حساس است و دوره درمان سرطان را می‌گذراند، پرسیدن از یک هوش مصنوعی درباره مصرف داروها آخرین کاری بود که از هر شخص عاقلی انتظار می‌رفت انجام دهد.

من دقیقاً نمی‌دانم چه کسی مقصر این حادثه‌ ناگوار و تهدیدکننده‌ زندگی است. دوستم به سادگی از یک قرص مسکن عکس گرفت، آن را به چت‌جی‌پی‌تی داد و پرسید که آیا می‌تواند هم‌زمان دو قرص مصرف کند. پزشکش فقط یک قرص را به او توصیه کرده بود و آن هم تنها برای زمانی که درد خیلی شدید و غیرقابل تحمل است. چت‌جی‌پی‌تی به او گفت که باید یک قرص مسکن مصرف کند و مصرف دو قرص فقط با توصیه‌ پزشک امکان‌پذیر است.

وقتی از دوستم پرسیدم که چرا به چت‌بات هوش مصنوعی روی آورده، گفت که دریافت پاسخ از چت‌جی‌پی‌تی آسان‌تر است. برای کسی که پس از دبیرستان مجبور شده درس را رها کند و با مشاغل متفرقه به حمایت از خانواده‌اش بپردازد، مشکل او را درک می‌کردم. نمی‌توانستم برای او درباره مفاهیم سواد دیجیتال و بررسی واقعیت سخنرانی کنم. آن چت خیلی ایراد داشت و هر دو طرف در اینجا مقصر هستند.

مشکل از همین جا آغاز می‌شود. وقتی دوستم درخواستش را به زبان هندی ترجمه کرد، به دلیل وجود فقط یک کلمه، با یک فاجعه دستوری روبه‌رو شد. او می‌خواست بپرسد که آیا می‌تواند دو قرص از داروی موجود در عکس را مصرف کند، اما ترجمه ناقص او طوری بود که انگار از چت‌جی‌پی‌تی می‌پرسد آیا می‌تواند هر دو دارو را مصرف کند.

اینجا بود که چت‌جی‌پی‌تی دچار مشکل شد. عکس، قرصی را نشان می‌داد که فقط ترکیب شیمیایی آن شامل «دیکلوفناک» و «سراپتیوپتیداز» قابل دیدن بود و نام دارو فقط تا حدی دیده می‌شد. با وجود این، چت‌بات هوش مصنوعی به طور دقیق داروی مسکن را چیزی شبیه به «سیپزن-دی» تشخیص داد، اما پیش از آن به داروی دیگری به نام «فناک پلاس» نیز اشاره کرد که ترکیب شیمیایی آن دیکلوفناک و «پاراستامول» است و او قبلاً در گفت‌وگوی دیگری درباره آن صحبت کرده بود.

این یک ترکیب کاملاً متفاوت است؛ اگرچه هر دو ترکیب به عنوان داروهای مسکن بدون نسخه در دسترس هستند. بنابراین، ما به طور کلی یک اشتباه انسانی (با ترجمه) و دو اشتباه از چت‌جی‌پی‌تی داریم، زیرا این برنامه نیز دانش را از حافظه خود استخراج کرد. با وجود این، توصیه آن دقیق بود.

چت‌بات هوش مصنوعی شرکت «اوپن‌ای‌آی»(OpenAI) به وضوح هشدار داد که مصرف هر دو دارو حرکت خوبی نیست و افزود که می‌تواند به مصرف بیش از حد دیکلوفناک منجر شود. این چت‌بات عوارض جانبی را نیز شرح داد که شامل احساس سوزش در معده، مشکلات مربوط به زخم، خونریزی و عوارض جانبی بلندمدت بر کلیه‌ها بود.

به خاطر داشته باشید که عکس ارائه‌شده به چت‌جی‌پی‌تی فقط یک مسکن را نشان می‌داد. همچنین، توصیه شده بود که فقط یکی از این مسکن‌ها باید همزمان مصرف شود و نه هر دو، اما دوستم با یادآوری این که هر دو دارو در یک مقطع توسط پزشکان تجویز شده بودند (هرچند نه با هم)، هر دو را برای تسکین سریع درد مصرف کرد و خیلی زود دچار مشکل شد.

وقتی دوستم به دکتر گفت که چرا دو قرص را هم‌زمان مصرف کرده، عصبانی شد و او را به خاطر مشورت نکردن با متخصص مراقبت‌های بهداشتی سرزنش کرد. پس از آن برای تسکین درد، آمپولی را به او تزریق کرد و دوباره مسکن‌هایی تجویز کرد که به بدن شکننده‌اش آسیبی نرسانند.

به عنوان یک خبرنگار فناوری که درباره خطرات تعامل با هوش مصنوعی در موضوعات حساس به ویژه سلامت و تندرستی نوشته است، احساس شکست داشتم. احساس می‌کردم که هرگز درباره خطرات ربات‌های هوش مصنوعی با دوستم صحبت نکرده‌ام و تنها پس از آن حادثه ترسناک بود که درباره خطرات به او هشدار دادم.

وقتی او اعتراف کرد که در گذشته چندین بار دیگر از چت‌جی‌پی‌تی برای مشاوره پزشکی استفاده کرده است، تلفنش را گرفتم و برنامه را حذف کردم. مهمتر از آن، از او خواستم که هرگز برای مشاوره پزشکی به هیچ چت‌بات هوش مصنوعی دیگری مانند «جمینای»(Gemini) و «کلود»(Claude) یا حتی کل اینترنت دست نزند. تنها راه پیش رو، صحبت با پزشک یا مراجعه به کلینیک است.

چت‌جی‌پی‌تی منبعی برای دانش سریع و محاوره‌ای است. بنابراین، هشدار و سلب مسئولیت‌ باید در اولویت باشد. اوپن‌ای‌آی ممکن است جانب احتیاط را رعایت کند، اما درک عمومی از چت‌جی‌پی‌تی با سرعت خطرناکی در حال تغییر است.

بسیاری از کاربران، آن را به عنوان نوع جدیدی از موتور دانش می‌بینند که مانند انسان صحبت می‌کند. موارد متعددی از ربات‌های هوش مصنوعی وجود دارند که توصیه‌های بهداشتی خطرناکی را ارائه می‌دهند و پژوهش‌های انجام‌شده تا سال ۲۰۲۶ همچنان رفتارهای پرخطر آنها را درباره موضوعات حساس برجسته کرده‌اند. من فقط امیدوارم که اوپن‌ای‌آی و هر شرکت هوش مصنوعی دیگری به این موضوع فکر کند و اقدامات مناسبی را انجام دهد.

*