En ukritisk brug af menneskelige data i AI-systemer har en tendens til at reproducere, og måske endda forværre, allerede eksisterende sociale uligheder. Der er brug for en revision af måden, sundhedsvæsenet indsamler data om borgerne på. Det skriver Morten Sodemann i en kommentar i mediet Ræson, hvor han peger på nogle oplagte løsninger:
1. Patienter skal involveres i, hvilke data der indsamles om dem og deres liv med sygdom.
2. Kliniske databaser og elektroniske patientjournaler skal som rutine indeholde de manglende sociale informationer, som er forbundet med ulighed i behandling. Databaser skal ikke kun opfylde forskeres, politikeres og økonomers behov – de skal også tjene det fælles gode dvs. beskytte mod konsekvenserne af social ulighed i sundhed, understøtte at alle har lige adgang til sundhedsvæsnets ressourcer og sikre ligebehandling baseret på aktuelle og komplette data der dækker alle befolkningsgrupper.
3. De sociale grupper, der oftest ikke deltager i nationale spørgeskemaundersøgelser skal interviewes på andre mere direkte måder. Det kan gøres gennem kvalitative undersøgelser, telefoninterviews og fokusgrupper.
4. Den viden, vi mangler om holdninger og adfærd, skal prioriteres i forskning og det bør være et krav i biomedicinsk forskning, at man inddrager samfundsmedicinske og humanistiske forskere i dataindsamling.
5. Med så systematisk under- og misrepræsentation af de mest sårbare og mest syge befolkningsgrupper i sundhedsdata, og dermed politiske sundhedsprioriteringer, er der grund til at skabe en tværgående styrelse på sundhedsområdet, som kan sikre at de manglende informationer bliver en integreret del af alle sundhedsdatabaser lige fra forebyggelse til den sidste fase af livet. Brugen af kunstig intelligens til at skabe sociale profiler for patienttyper og forudsige deres adfærd skal overvåges og styres.