Foto: Getty
Virksomhedens interne dokumenter fra IBM viser, at medicinske eksperter, der arbejder med virksomheden ‘ s supercomputer Watson fundet “flere eksempler på, usikker og forkert behandling anbefalinger”, når du bruger den software, ifølge en rapport fra Stat Nyheder.
Stat gennemgået dokumenter, der indgår i de to præsentationer, der er givet i juni og juli 2017 ved IBM Watson ‘ s tidligere vice-sundheds chef Andrew Norden. De dokumenter, der angiveligt blev delt med IBM Watson Health management.
I henhold til Stat, de dokumenter, der er leveret til stærk kritik af den Watson for Onkologi system, og erklærede, at de “ofte upræcise” forslag fremsat af produktet bringe op “alvorlige spørgsmål om processen for at opbygge indhold og den underliggende teknologi.”
Et eksempel på dokumenter, der er tale om en 65-årig mand diagnosticeret med lungekræft, som også syntes at have alvorlig blødning. Watson efter sigende foreslog, at man skal administreres både kemoterapi og narkotika “Bevacizumab.” Men stoffet kan føre til en “alvorlig eller fatal blødning,” ifølge en advarsel om medicin, og derfor bør ikke gives til mennesker med svær blødning, som Stat påpeger.
En Memorial Sloan Kettering (MSK) Cancer Center talsmand fortalte Stat, at de troede, at denne anbefaling blev ikke givet til en rigtig patient, og var bare en del af system test.
Ifølge den rapport, de dokumenter, der har skylden for den pågældende uddannelse ved IBM ingeniører og læger på MSK, som har indgået et partnerskab med IBM i 2012 til at træne Watson til at “tænke” mere som en læge. De dokumenter, at der i stedet for fodring rigtige patient data til software—lægerne var efter sigende fodring Watson hypotetiske patienter data, eller “syntetiske”. Dette ville betyde, at det er muligt, at når andre hospitaler brugte MSK-uddannet Watson for Onkologi, læger fik behandling anbefalinger styret af MSK lægernes behandling præferencer, i stedet for en AI fortolkning af de faktiske patient data.
Og resultaterne synes at blive mindre end ønskeligt, at nogle læger.
“Dette produkt er et stykke lort,” en læge på Florida ‘ s Jupiter Hospital sagde, at IBM, i henhold til de dokumenter, der er anmeldt af Statistik. “Vi købte det for markedsføring, og med håb om at du ville opnå visionen. Vi kan ikke bruge det, for de fleste tilfælde.”
Som læge var efter sigende en af mange, hvis klager, der var indeholdt i interne dokumenter.
Inden for få dage, når Norden gav en af disse præsentation, Gizmodo talte med en onkolog på Jupiter Hospital til en rapport om den nidkære hype og mangler i Waston. Under interviewet, som blev arrangeret af IBM Watson Sundhed, Shah sagde Watson undertiden fungeret som en ekstra mening, når Jupiter lægerne kunne ikke blive enige om behandling. Shah ikke give et rungende ja eller den slags barske kritik af, at den unavngivne Jupiter læge tilsyneladende åbenhjertigt delte med IBM kontaktpersoner, som vist i de interne dokumenter.
Svarer til Stat ‘ s rapport, en IBM talsmand fortalte Gizmodo, at Watson for Onkologi er uddannet til at hjælpe onkologer behandling af 13 kræftformer og bliver brugt af en 230 hospitaler rundt omkring i verden, og har “støttet sig til mere end 84,000 patienter.”
“På samme tid, vi har lært og forbedret Watson Sundhed baseret på løbende feedback fra kunder, nye videnskabelige beviser, og nye kræfttilfælde og behandling alternativer,” talsmand sagde. “Dette omfatter 11 software udgivelser for endnu bedre funktionalitet i det forløbne år, herunder de nationale retningslinier for kræftformer, der spænder fra tyktarmen til leveren kræft.”
Norden fortalte Stat, kunne han ikke udtale sig, da han ikke længere arbejder for IBM. Han forlod uger efter præsentationerne til at arbejde for Cota, en sundhedspleje data-analytics-selskab, der havde indgået en aftale med IBM.
Memorial Sloan Kettering talsmand Caitlin Hool fortalte Stat, at den kritik, der i den interne dokumenter er en afspejling af “det robuste karakter af processen” af at udvikle software, som Watson.
“Mens Watson for Onkologi giver sikker behandlingsmuligheder, behandling beslutninger, der i sidste ende kræver inddragelse og klinisk vurdering af den behandlende læge,” Hool fortalte Stat. “Ingen teknologi kan erstatte en læge og hans eller hendes viden om deres individuelle patient.”
[Stat Nyheder]