SHAP

(categorie: inteligență artificială)

SHAP este metoda cea mai folosită pentru a explica predicția unui model complex, arătând cu cât a împins fiecare variabilă riscul estimat al unui pacient în sus sau în jos. Numele este acronimul denumirii engleze, care se traduce aproximativ ca explicații aditive de tip Shapley.

Pornește de la un concept din teoria jocurilor: valoarea Shapley, care împarte corect câștigul unei echipe între jucători, în funcție de contribuția fiecăruia.

Cum funcționează

Problema pe care o rezolvă este reală. Un model de tip XGBoost combină sute de arbori de decizie, iar calea prin care ajunge la un rezultat nu poate fi urmărită cu ochiul liber. Un medic căruia i se spune doar „risc de 32%” nu are cum să judece dacă cifra are sens pentru pacientul din fața lui.

Aplicată unui model de predicție, metoda pornește de la riscul mediu din populație și arată cu cât a împins fiecare variabilă riscul acelui pacient. Rezultatul este o descompunere aditivă: riscul de bază plus contribuțiile individuale dau riscul estimat.

Analogia cu teoria jocurilor este exactă. Valoarea Shapley calculează contribuția unui jucător testând toate combinațiile posibile de echipe cu și fără el. SHAP face același lucru cu variabilele: evaluează cât se schimbă predicția când o variabilă este inclusă sau nu, în toate combinațiile.

Pe lângă explicația individuală, metoda permite și o vedere de ansamblu: care variabile contează cel mai mult în întreaga cohortă și în ce direcție acționează valorile lor mari sau mici.

Ce oferă

Explicația unei predicții individuale

Pentru pacientul ilustrat în studiul din 2026, riscul mediu era 24% și modelul a estimat 32%. Trombocitele au adăugat aproximativ 10 puncte procentuale, indicele TyG aproximativ 9, iar albumina a scăzut riscul cu aproximativ 5.

Tipare la nivelul cohortei

Valorile mari ale albuminei au coborât aproape întotdeauna riscul estimat, iar cele șase variabile s-au confirmat ca principalii factori ai predicției.

Harta corelațiilor

Autorii au construit și o reprezentare a corelațiilor dintre contribuțiile variabilelor, care arată că unele acționează împreună.

Instrument de comunicare

Un medic poate arăta pacientului sau familiei că riscul este crescut în principal din cauza unei albumine scăzute și a unei uree mari, nu dintr-un motiv misterios.

Relevanță clinică

Utilitatea practică cea mai importantă este că permite medicului să judece predicția, nu doar să o accepte. Autorii ilustrează exact acest lucru: dacă trombocitele pacientului sunt influențate de o boală hematologică preexistentă, contribuția lor la risc trebuie privită cu rezervă.

Există însă o limită esențială, pe care autorii o formulează explicit. SHAP arată cum a ajuns modelul la o cifră, nu de ce se îmbolnăvește pacientul. Faptul că trombocitele au crescut riscul estimat înseamnă că, în datele de antrenament, astfel de valori s-au asociat cu evoluții mai proaste — nu că trombocitele produc insuficiența de organ.

Asocierile învățate de algoritm pot reflecta cauze reale, factori care însoțesc cauzele reale sau particularități ale bazei de date. Explicabilitatea face modelul verificabil, ceea ce este mult; nu îl transformă într-o teorie despre biologia bolii.

Autorii văd în explicabilitate și un beneficiu de comunicare: un prognostic explicat prin analize concrete este mai transparent și decizia mai ușor de împărtășit. Rămâne de demonstrat dacă această transparență schimbă efectiv ceva în îngrijire.

Analiza sistematică din 2025 a găsit că 93% dintre studiile de învățare automată pentru pancreatita acută nu descriu deloc cum ar urma medicul să interacționeze cu modelul. Investiția în explicabilitate din studiul din 2026 este, în acest context, un pas notabil.

Ce trebuie verificat

Dacă explicația este oferită pentru fiecare predicție individuală sau doar la nivel global.

Dacă contribuțiile raportate au sens fiziologic.

Faptul că o contribuție mare nu înseamnă o relație cauzală.

Dacă medicul poate folosi explicația pentru a corecta predicția cu judecata clinică.

Dacă există un studiu care măsoară efectul explicației pe decizii.

Factori care influențează interpretarea unei explicații SHAP

Relațiile învățate din datele de antrenament.

Corelațiile dintre variabile, care pot distribui contribuția.

Populația pe care modelul a fost antrenat.

Bolile preexistente ale pacientului, care pot altera semnificația unei valori.

Riscul mediu din cohorta de referință.

Calibrarea modelului.

Numărul de variabile din model.

SHAP în context Healthwise

SHAP este răspunsul la una dintre obiecțiile constante la adresa inteligenței artificiale în medicină: opacitatea. Nu o elimină complet — un model cu sute de arbori rămâne complex —, dar o face verificabilă, ceea ce schimbă relația dintre medic și instrument.

Pe Healthwise, apare ca metoda de explicabilitate folosită în studiul despre predicția insuficienței de organ din pancreatita acută.

Concluzie

SHAP arată cu cât a împins fiecare variabilă riscul estimat al unui pacient, pornind de la riscul mediu din populație, printr-o descompunere aditivă bazată pe valoarea Shapley din teoria jocurilor.

Ce trebuie reținut: permite medicului să judece predicția în loc să o accepte, verificând dacă are sens clinic; dar arată cum a ajuns modelul la o cifră, nu de ce se îmbolnăvește pacientul — o contribuție mare nu este o relație cauzală.