Når det kommer til anvendelse af machine learning, der som oftest er de samtaler, der er om det medicinske område. Dette er ikke overraskende: en enorm industri, der genererer en fænomenal mængde af data og indtægter, hvor den teknologiske fremskridt kan forbedre eller redde livet for millioner af mennesker. Næppe en uge går uden udseendet af forskning, der tyder på, at de algoritmer, der vil bedre eksperter til at identificere lungebetændelse eller Alzheimers sygdom — sygdomme komplekse organer, fra øjet til hjertet. Og alt dette går, men…
Problemerne med overfyldte sygehuse og stressede sygeplejersker er forgiftning offentlige sundhedssystem, og øge de private omkostninger ved sundhedssystem. Og her er det igen, de algoritmer, der tilbyder en fristende løsning. Hvor mange gange faktisk nødt til at besøge en læge? Er det muligt at erstatte disse besøg smart chatbot — som vil blive udstyret med bærbare diagnostiske tests ved hjælp af de nyeste resultater inden for bioteknologi? Unødvendige besøg kunne være reduceret, og patienter kan blive diagnosticeret og henvist til specialister hurtigt, uden at vente på den indledende høring.
Som i tilfælde af kunstig intelligens algoritmer, målet er ikke at erstatte læger, men at give dem værktøjer til at reducere den daglige eller tilbagevendende stykker arbejde. Med en AI, der kan udforske tusindvis af scanninger per minut, “kedelige ting”, som forbliver på maskiner, og læger kan fokusere på de dele af arbejdet, der kræver mere komplekse, subtil, baseret på domme om de bedste metoder til behandling og patientens behov.
High stakes
Og alligevel, som det er tilfældet med de algoritmer til AI, der er risici forbundet med deres anvendelse — selv for opgaver, der anses for banalt. Problemer algoritmer en “black box”, der tager uforklarlige beslutninger, alvorlige nok, når du prøver at forstå, hvorfor en automatiseret chatbot-rekruttering er ikke imponeret over din historie i løbet af interviewet. I sundheds-sammenhæng, hvor beslutninger, der kan betyde liv eller død, konsekvenserne af algoritmiske fejl kan være fatal.
Neurale netværk, der gør et fremragende stykke arbejde med håndtering af store mængder af data og forbindelser, absorption af underliggende mønstre eller logik i systemet i det skjulte lag, lineær algebra, om påvisning af hudkræft af fotos eller skrive pseudosclerosis sprog. Men de er frygtelig forklare den underliggende logik i det forhold, de har opdaget det: der er noget mere end bare en perlerække af numre, de statistiske vægte mellem lagene. Og de kan ikke skelne mellem korrelation fra årsagssammenhæng.
Rejser et interessant dilemma for læger. Drømmen om big data i medicin til at levere neurale netværk “enorme mængder af data om sundhed,” placering af komplekse, implicitte relationer og foretage en individuel vurdering af patienter. Hvad hvis den algoritme, der ville være urimeligt effektiv i diagnosen af den sundhedsmæssige status eller behandling opgave, men du vil ikke har en videnskabelig forståelse af, hvordan dette forhold rent faktisk virker?
Alt for mange tråde, der skal løses
De statistiske modeller, der ligger til grund for disse neurale netværk, der ofte antager, at variabler er uafhængige af hinanden, men i en kompleks, interaktive system, i lighed med det menneskelige legeme, er det ikke altid tilfældet.
I en vis forstand, er det et kendt begreb inden for medicinsk videnskab der er mange fænomener og relationer, der har været observeret i årtier, men er stadig dårligt forstået på et biologisk niveau. Paracetamol er et af de mest populære smertestillende medicin, men stadig aktiv i diskussioner om sine handlinger. Praktiserende læger kan søge at bruge noget værktøj, der er mest effektive, uanset om det er baseret på en dyb videnskabelig indsigt. Fans af Københavns fortolkning af kvantemekanikken kan omformulere at “Lukke op og helbrede!”.
Selvfølgelig, i dette område er løbende debat om, hvorvidt eller ikke at gøre, risikerer vi med denne tilgang er, at overse den dybere forståelse, der i sidste ende vil vise sig at være mere frugtbart — for eksempel for at søge efter nye stoffer.
I tillæg til den filosofiske islæt, der er praktiske problemer: hvis du ikke forstår den sorte boks af medicinsk algoritme, hvordan man griber problemer af kliniske forsøg og regulering?
Kan kræve gennemsigtighed med hensyn til driften af de algoritme — data, som han ser på grænseværdierne, på grundlag af hvilke drager konklusioner eller giver gode råd, men dette kan være i konflikt med motiver af overskud og udøvelse af tavshedspligt i medicinsk start-UPS.
En løsning kan være at slette den algoritmer, som er i stand til at forklare sig selv eller stole på godt forstå, medicinsk videnskab. Men det kan forhindre folk til at høste fordelene af nyttigt arbejde, såsom algoritmer.
Evalueringen af algoritmer
Nye algoritmer inden for sundhed, ikke vil være i stand til at gøre, hvad fysik gjorde med kvantemekanik, fordi det ikke er indsat i feltet. Mange algoritmer er forbedret, der arbejder i marken. Hvordan kan vi vælge de mest lovende tilgang?
Opret en standardiseret system af kliniske forsøg og afprøvning, der gælder ligeledes for algoritmer, der arbejder på forskellige måder eller ved hjælp af forskellige data vil blive udfordrende. I de kliniske forsøg, at bruge prøver, af lille størrelse, for eksempel, algoritmer, der forsøger at tilpasse behandlingen til den enkelte, vil også blive udfordrende. Med små prøver og svage videnskabelige forståelse af, hvad der sker, vil det være umuligt at afgøre,, den algoritme, der er lykkedes eller mislykkedes, fordi han kan være god i Almindelighed, men for at vise et dårligt eksempel.
Tilføj til denne blanding uddannelse og billedet bliver endnu mere kompliceret. “Vigtigere er, at den ideelle algoritme i “black box” er plastisk og hele tiden bliver opdateret, så den traditionelle model af kliniske forsøg er ikke hensigtsmæssigt, fordi det bygger på en statisk produkt, der er underlagt stabil rating”.
Jeg har brug for at tilpasse hele systemet af medicinske og kliniske forsøg.
Opnå balance
Sundhed historie afspejler historien om kunstig intelligens i mange aspekter. Det er ingen tilfældighed, at IBM har forsøgt at ændre på sundhedsområdet, og ved hjælp af sin kunstige intelligens Watson.
Den balance skal findes. Vi er nødt til at finde en måde at behandle big data, til at bruge den forfærdelige magt, neurale netværk og til at automatisere argumentation. Vi skal være opmærksomme på de mangler og skævheder af denne tilgang til at løse problemer.
Vi bør glæde os disse teknologier, fordi de kan være et nyttigt supplement til den viden, de færdigheder og forståelse, der kan give folk. Som neurale netværk, som vores erhvervsliv har brug for at lære, at udbygge dette samarbejde i fremtiden.
Enig? Lad os diskutere i vores chat i Telegrammet.