En partisk medicinsk algoritm gynnade vita människor för hälsovårdsprogram

Kategori:Artificiell intelligensPostad25 okt En läkare kontrollerar en patient En läkare kontrollerar en patient



En studie har belyst riskerna med att använda historiska data för att träna maskininlärningsalgoritmer för att göra förutsägelser.

Nyheterna: En algoritm som många amerikanska vårdgivare använder för att förutsäga vilka patienter som mest kommer att behöva extra medicinsk vård privilegierade vita patienter framför svarta patienter, enligt forskare vid UC Berkeley, vars studie var publicerad i Science . Effektivt, det stötte upp vita kön för specialbehandlingar för komplexa tillstånd som njurproblem eller diabetes.





Studien: Forskarna grävde igenom nästan 50 000 register från ett stort, hemligt akademiskt sjukhus. De fann att vita patienter fick högre riskpoäng och därför var mer benägna att väljas ut för extra vård (som mer omvårdnad eller dedikerade möten) än svarta patienter som faktiskt var lika sjuka. Forskarna beräknade att partiskheten minskade andelen svarta patienter som fick extra hjälp med mer än hälften.

Vilken programvara var detta? Forskarna sa inte, men Washington Post identifierar det som Optum, som ägs av försäkringsbolaget UnitedHealth. Det säger att dess produkt används för att hantera mer än 70 miljoner liv. Även om forskarna bara fokuserade på ett särskilt verktyg, de identifierade samma brist bland de 10 mest använda algoritmerna i branschen. Varje år tillämpas dessa verktyg kollektivt på uppskattningsvis 150 till 200 miljoner människor i USA.

Hur partiskheten smög sig in: Ras var inte en faktor i algoritmens beslutsfattande (det skulle vara olagligt); den använde patienternas medicinska historia för att förutsäga hur mycket de sannolikt skulle kosta sjukvården. Men kostnaden är inte ett rasblindt mått: av socioekonomiska och andra skäl har svarta patienter historiskt sett ådragit sig lägre vårdkostnader än vita patienter med samma tillstånd. Som ett resultat gav algoritmen vita patienter samma poäng som svarta patienter som var betydligt sjukare.



En liten räddning: Forskarna arbetade med Optum för att rätta till problemet. De minskade skillnaden med mer än 80 % genom att skapa en version som förutsäger både en patients framtida kostnader och hur många gånger ett kroniskt tillstånd kan blossa upp under det kommande året. Så algoritmisk bias kan korrigeras, om - och tyvärr är det ett stort om - du kan fånga det.

Varför det är viktigt: Studien är den senaste som visar fallgroparna med att allokera viktiga resurser enligt rekommendationer av algoritmer. Den här typen av utmaningar utspelar sig inte bara inom hälso- och sjukvården utan också inom anställning, kreditvärdering, försäkring och straffrätt.

Läs nästa: vår interaktiva förklaring om hur AI-bias påverkar det straffrättsliga systemet och varför det är så svårt att eliminera.

Faktisk Teknik

Kategori

Okategoriserad

Teknologi

Bioteknik

Teknisk Policy

Klimatförändring

Människor Och Teknik

Silicon Valley

Datoranvändning

Mit News Tidningen

Artificiell Intelligens

Plats

Smarta Städer

Blockchain

Huvudartikel

Alumnprofil

Alumnikoppling

Mit News-Funktion

1865

Min Syn

77 Mass Ave

Möt Författaren

Profiler I Generositet

Ses På Campus

Alumnbrev

Nyheter

Tidningen Mit News

Val 2020

Med Index

Under Kupolen

Brandslang

Oändliga Berättelser

Pandemic Technology Project

Från Presidenten

Cover Story

Fotogalleri

Rekommenderas