Ett test från Washington Post lät ChatGPT Health analysera tio års data från Apple Watch, inklusive 29 miljoner steg och 6 miljoner pulsavläsningar, och bad verktyget att betygsätta kolumnistens hjärthälsa. Resultatet varierade dramatiskt mellan F, C och B när samma data presenterades för AI:n gång på gång, och hans egen läkare bedömde svaren som felaktiga, inkonsekventa och vilseledande. Experten dr Eric Topol kallade analysen ”grundlös” och sa att verktyget inte är redo att ge medicinska råd.
Detta är en nyttig påminnelse om att generativ AI inom hälsa kan vara inspirerande, men inte är tillräckligt tillförlitlig för att fungera som självständigt beslutsstöd vid patientbedömningar – särskilt eftersom den kan misstolka komplex medicinsk data eller producera till synes definitiva svar där sådana inte finns. Vi möter ständigt klienter som fått felaktiga ”råd” eller diagnoser från AI.
På Executive Health använder vi AI-stöd inom flera områden, främst inom MRI-analys, särskilt för att förbättra MRI-bilder, men också för att stärka läkarnas förmåga att tolka bilder och upptäcka subtila fynd. Men det är just det: ett stöd – det ersätter inte den kliniska bedömningen, erfarenheten och den helhetssyn som våra specialister bidrar med varje dag.
Vi tror på ansvarsfull implementering där teknikens styrkor används tillsammans med mänsklig expertis för att leverera verkligt säkra och meningsfulla resultat för patienten.
