AI-experter diskuterar hur man kan integrera robust AI i hälso- och sjukvården, varför tvärvetenskapligt samarbete är avgörande och potentialen för generativ AI inom forskning.
Feifei Li och Lloyd Minor höll inledningsanföranden vid det första RAISE Health Symposium vid Stanford University School of Medicine den 14 maj. Steve Fish
De flesta människor som fångats av artificiell intelligens har haft någon sorts "aha"-ögonblick, där de öppnat sina sinnen för en värld av möjligheter. Vid det första RAISE Health Symposium den 14 maj delade Lloyd Minor, MD, dekanus för Stanford University School of Medicine och vice president för medicinska frågor vid Stanford University, med sig av sitt perspektiv.
När en nyfiken tonåring ombads att sammanfatta sina fynd gällande innerörat, vände han sig till generativ artificiell intelligens. ”Jag frågade: 'Vad är superior canal dehiscence syndrome?' berättade Minor för nästan 4 000 symposiedeltagare. På bara några sekunder dök flera stycken upp.
”De är bra, riktigt bra”, sa han. ”Att denna information sammanställdes till en koncis, generellt korrekt och tydligt prioriterad beskrivning av sjukdomen. Det är ganska anmärkningsvärt.”
Många delade Minors entusiasm inför halvdagsevenemanget, som var en följd av RAISE Health-initiativet, ett projekt som lanserades av Stanford University School of Medicine och Stanford Institute for Human-Centered Artificial Intelligence (HAI) för att vägleda ansvarsfull användning av artificiell intelligens inom biomedicinsk forskning, utbildning och patientvård. Talarna undersökte vad det innebär att implementera artificiell intelligens inom medicin på ett sätt som inte bara är användbart för läkare och forskare, utan också transparent, rättvist och skäligt för patienter.
”Vi tror att detta är en teknik som förbättrar mänskliga förmågor”, säger Fei-Fei Li, professor i datavetenskap vid Stanford School of Engineering, chef för RAISE Health with Minor-projektet och medansvarig för HAI. Generation efter generation kan nya tekniker dyka upp: från nya molekylära sekvenser av antibiotika till kartläggning av biologisk mångfald och avslöjande av dolda delar av grundläggande biologi, accelererar AI vetenskapliga upptäckter. Men allt detta är inte fördelaktigt. ”Alla dessa tillämpningar kan få oavsiktliga konsekvenser, och vi behöver datavetare som utvecklar och implementerar [artificiell intelligens] på ett ansvarsfullt sätt, och arbetar med en mängd olika intressenter, från läkare och etiker ... till säkerhetsexperter och mer därtill”, säger hon. ”Initiativ som RAISE Health visar vårt engagemang för detta.”
Konsolideringen av tre avdelningar inom Stanford Medicine – School of Medicine, Stanford Health Care och Stanford University School of Child Health Medicine – och dess kopplingar till andra delar av Stanford University har försatt skolan i en position där experter brottas med utvecklingen av artificiell intelligens, lednings- och integrationsfrågor inom hälso- och sjukvård och medicin. Medicin, löd sången.
”Vi är väl positionerade för att vara en pionjär inom utveckling och ansvarsfull implementering av artificiell intelligens, från grundläggande biologiska upptäckter till att förbättra läkemedelsutveckling och effektivisera kliniska prövningsprocesser, ända fram till själva leveransen av hälso- och sjukvårdstjänster. Hur hälso- och sjukvårdssystemet är uppbyggt”, sa han.
Flera talare betonade ett enkelt koncept: fokus på användaren (i det här fallet patienten eller läkaren) så följer allt annat. ”Det sätter patienten i centrum för allt vi gör”, säger Dr. Lisa Lehmann, chef för bioetik vid Brigham and Women's Hospital. ”Vi måste ta hänsyn till deras behov och prioriteringar.”
Från vänster till höger: STAT News-ankaret Mohana Ravindranath; Jessica Peter Lee från Microsoft Research; Sylvia Plevritis, professor i biomedicinsk datavetenskap, diskuterar artificiell intelligens roll i medicinsk forskning. Steve Fish
Paneltalarna, som inkluderade Lehmann, medicinsk bioetiker vid Stanford University, Mildred Cho, MD, och Googles kliniska chef Michael Howell, MD, noterade komplexiteten i sjukhussystem och betonade behovet av att förstå deras syfte innan man ingriper. Implementera dem och se till att alla system som utvecklas är inkluderande och lyssnar på de människor de är utformade för att hjälpa.
En nyckel är transparens: det tydliggör varifrån data som används för att träna algoritmen kommer, vad algoritmens ursprungliga syfte är och om framtida patientdata kommer att fortsätta hjälpa algoritmen att lära sig, bland andra faktorer.
”Att försöka förutsäga etiska problem innan de blir allvarliga [innebär] att hitta den perfekta lösningen där man vet tillräckligt om tekniken för att ha ett visst förtroende för den, men inte innan [problemet] sprider sig ytterligare och löser det tidigare”, säger Denton Char, kandidat i medicinska vetenskaper, docent vid institutionen för pediatrisk anestesiologi, perioperativ medicin och smärtmedicin. Ett viktigt steg, säger han, är att identifiera alla intressenter som kan påverkas av tekniken och avgöra hur de själva vill besvara dessa frågor.
Jesse Ehrenfeld, läkare och ordförande för American Medical Association, diskuterar fyra faktorer som driver införandet av digitala hälsoverktyg, inklusive de som drivs av artificiell intelligens. Är det effektivt? Kommer det att fungera på min institution? Vem betalar? Vem är ansvarig?
Michael Pfeffer, MD, IT-chef på Stanford Health Care, nämnde ett färskt exempel där många av problemen testades bland sjuksköterskor på Stanfords sjukhus. Läkare stöds av stora språkmodeller som tillhandahåller inledande anteckningar för inkommande patientmeddelanden. Även om projektet inte är perfekt rapporterar läkare som hjälpte till att utveckla tekniken att modellen underlättar deras arbetsbelastning.
”Vi fokuserar alltid på tre viktiga saker: säkerhet, effektivitet och inkludering. Vi är läkare. Vi svär en ed att ’inte göra någon skada’, säger Nina Vasan, MD, klinisk biträdande professor i psykiatri och beteendevetenskap, som anslöt sig till Char och Pfeffer i gruppen. ”Detta borde vara det första sättet att utvärdera dessa verktyg.”
Nigam Shah, MBBS, Ph.D., professor i medicin och biomedicinsk datavetenskap, inledde diskussionen med en chockerande statistik trots en berättigad varning till publiken. ”Jag talar i allmänna termer och siffror, och ibland tenderar de att vara väldigt direkta”, sa han.
Enligt Shah beror AI:s framgång på vår förmåga att skala upp den. ”Att göra ordentlig vetenskaplig forskning på en modell tar ungefär 10 år, och om vart och ett av de 123 stipendie- och residensprogrammen ville testa och driftsätta modellen till den nivån av noggrannhet, skulle det vara mycket svårt att göra rätt vetenskaplig forskning som vi för närvarande organiserar våra ansträngningar och [testar]]. Det skulle kosta 138 miljarder dollar att se till att var och en av våra webbplatser fungerar korrekt”, sa Shah. ”Vi har inte råd med detta. Så vi måste hitta ett sätt att expandera, och vi måste expandera och göra bra vetenskaplig forskning. Noggrannhetskompetensen finns på ett ställe och skalningskompetensen finns på ett annat, så vi kommer att behöva den typen av partnerskap.”
Biträdande dekanus Yuan Ashley och Mildred Cho (receptionen) deltog i RAISE Health Workshop. Steve Fish
Några talare vid symposiet sa att detta skulle kunna uppnås genom offentlig-privata partnerskap, såsom Vita husets nyligen antagna exekutivorder om säker, trygg och tillförlitlig utveckling och användning av artificiell intelligens och konsortiet för artificiell intelligens inom hälso- och sjukvården (CHAI).
”Det offentlig-privata partnerskapet med störst potential är ett mellan den akademiska världen, den privata sektorn och den offentliga sektorn”, säger Laura Adams, seniorrådgivare vid National Academy of Medicine. Hon noterade att regeringen kan säkerställa allmänhetens förtroende, och akademiska medicinska centra kan ge legitimitet, och teknisk expertis och datortid kan tillhandahållas av den privata sektorn. ”Vi är alla bättre än någon av oss, och vi inser att… vi kan inte be för att förverkliga potentialen hos [artificiell intelligens] om vi inte förstår hur vi ska interagera med varandra.”
Flera talare sa att AI också påverkar forskningen, oavsett om forskare använder den för att utforska biologiska dogmer, förutsäga nya sekvenser och strukturer av syntetiska molekyler för att stödja nya behandlingar, eller till och med hjälpa dem att sammanfatta eller skriva vetenskapliga artiklar.
”Det här är en möjlighet att se det okända”, säger Jessica Mega, MD, kardiolog vid Stanford University School of Medicine och medgrundare av Alphabets Verily. Mega nämnde hyperspektral avbildning, som fångar bildfunktioner som är osynliga för det mänskliga ögat. Tanken är att använda artificiell intelligens för att upptäcka mönster i patologibilder som människor inte ser och som indikerar sjukdom. ”Jag uppmuntrar människor att omfamna det okända. Jag tror att alla här känner någon med någon form av medicinskt tillstånd som behöver något utöver vad vi kan erbjuda idag”, sa Mejia.
Paneldeltagarna var också eniga om att system för artificiell intelligens kommer att ge nya sätt att identifiera och bekämpa partiskt beslutsfattande, oavsett om det fattas av människor eller artificiell intelligens, med förmågan att identifiera källan till partiskheten.
”Hälsa är mer än bara sjukvård”, var flera paneldeltagare överens om. Talarna betonade att forskare ofta förbiser sociala hälsofaktorer, såsom socioekonomisk status, postnummer, utbildningsnivå samt ras och etnicitet, när de samlar in inkluderande data och rekryterar deltagare till studier. ”AI är bara så effektiv som de data som modellen är tränad på”, säger Michelle Williams, professor i epidemiologi vid Harvard University och docent i epidemiologi och folkhälsa vid Stanford University School of Medicine. ”Om vi gör det vi strävar efter att göra. förbättra hälsoutfall och eliminera ojämlikheter, måste vi se till att vi samlar in högkvalitativa data om mänskligt beteende och den sociala och naturliga miljön.”
Natalie Pageler, MD, klinisk professor i pediatrik och medicin, sa att aggregerade cancerdata ofta utesluter data om gravida kvinnor, vilket skapar oundvikliga bias i modeller och förvärrar befintliga skillnader inom hälso- och sjukvården.
Dr. David Magnus, professor i pediatrik och medicin, sa att liksom all ny teknik kan artificiell intelligens antingen förbättra eller försämra saker på många sätt. Risken, sa Magnus, är att artificiell intelligens kommer att lära sig om orättvisa hälsoresultat som drivs av sociala hälsofaktorer och förstärka dessa resultat genom sina resultat. ”Artificiell intelligens är en spegel som speglar det samhälle vi lever i”, sa han. ”Jag hoppas att varje gång vi har möjlighet att belysa en fråga – att hålla upp en spegel för oss själva – kommer det att fungera som motivation att förbättra situationen.”
Om du inte kunde delta i RAISE Health-workshopen finns en inspelning av sessionen här.
Stanford University School of Medicine är ett integrerat akademiskt hälsovårdssystem som består av Stanford University School of Medicine och hälsovårdssystemen för vuxna och barn. Tillsammans förverkligar de biomedicinens fulla potential genom gemensam forskning, utbildning och klinisk patientvård. För mer information, besök med.stanford.edu.
En ny modell för artificiell intelligens hjälper läkare och sjuksköterskor på Stanford Hospital att samarbeta för att förbättra patientvården.
Publiceringstid: 19 juli 2024