چرا با اینکه در آزمون پزشکی قبول شده اما نمی توان به توصیه های پزشکی اش اعتماد کرد؟ - وبلاگ بهابادی

به گزارش وبلاگ بهابادی، زومیت نوشت: سم آلتمن، مدیرعامل OpenAI چندماه قبل اظهار داشت افراد کم عایدی و کسانی که از خدمات مراقبت های بهداشتی بهره نمی برند قادر خواهند بود از چت بات های هوش مصنوعی مثل ChatGPT به عنوان مشاور پزشکی استفاده نمایند.

ایده آلتمن برای استفاده از هوش مصنوعی به عنوان مشاور پزشکی در ابتدا کمی احمقانه به نظر می رسید و در حال حاضر نمی توان به این رویکرد اعتماد کرد. براساس تحقیقات تازه متخصصان پزشکی دانشگاه استنفورد، اگرچه ChatGPT می تواند آزمون مجوز پزشکی ایالات متحده را با موفقیت بگذراند، اما در پاسخ به سناریوهای پزشکی به طرز نگران کننده ای غیرقابل اعتماد است.

تحقیق دانشمندان استنفورد نشان می دهد تقریباً 60 درصد از پاسخ های ChatGPT به موقعیت های پزشکی دنیای واقعی با نظر متخصصان انسانی در تضاد است یا به میزان کافی با نظر پزشکان مطابقت ندارد.

محققان استنفورد در آزمایش خود 64 سؤال پزشکی واقعی از ChatGPT پرسیدند از دوازده متخصص بالینی درخواست کردند پاسخ های هوش مصنوعی را مورد ارزیابی قرار دهند.

GPT-4 تازهترین و قدرتمندترین مدل زبان بزرگ دنیا است که ChatGPT از آن استفاده می نماید. آزمایش ها نشان می دهند بیش از 90 درصد از پاسخ های این مدل هوش مصنوعی به میزان کافی ایمن هستند اما نمی توان آن ها را الزماً دقیق درنظر گرفت.

به هر حال، 41 درصد از پاسخ های هوش مصنوعی OpenAI با پاسخ های ارائه شده ازطرف متخصصان پزشکی در تضاد بود و 29 درصد از آن ها به قدر مبهم یا نامرتبط بودند که حتی امکان ارزیابی آن ها وجود نداشت.

به گزارش فیوچریسم، بعضی از افراد از ادعاهای مرتبط با مفید بودن هوش مصنوعی در زمینه مشاوره پزشکی، عقب نشینی نموده اند و درعوض آن را ابزار مفیدی برای آنالیز مدارک پزشکی یا ارائه دستورالعمل به بیماران می دانند. مارک سنداک، دانشمند داده های بالینی دانشگاه دوک می گوید: ما نباید به ادعای مفید نبودن هوش مصنوعی برای یاری به پزشکان اطمینان کنیم و این موضوعی است که باید به طور دقیق آنالیز گردد.

5858