Explicabilitate

(categorie: inteligență artificială, etică medicală)

Explicabilitatea este proprietatea unui model de a permite înțelegerea modului în care ajunge la o predicție. Pentru modelele simple este intrinsecă; pentru cele complexe necesită metode dedicate, precum SHAP.

Este una dintre cerințele centrale pentru acceptarea inteligenței artificiale în medicină și una dintre condițiile impuse de reglementările europene pentru sistemele cu risc ridicat.

Cum funcționează

Există o gradație. Un scor clinic cu cinci criterii adunate pe hârtie este complet transparent: fiecare punct este vizibil. O regresie logistică este interpretabilă: fiecare coeficient are o semnificație directă. Un ansamblu de sute de arbori de decizie nu este niciuna.

Pentru modelele complexe se folosesc metode post-hoc, care explică predicția fără să simplifice modelul. SHAP este cea mai folosită: arată cu cât a împins fiecare variabilă riscul estimat, pornind de la riscul mediu.

Distincția importantă este între explicarea modelului și explicarea bolii. O metodă de explicabilitate arată ce a făcut algoritmul, nu de ce se îmbolnăvește pacientul. Asocierile învățate pot reflecta cauze reale, factori care le însoțesc sau particularități ale bazei de date.

Valoarea reală a explicabilității nu este încrederea, ci verificabilitatea. Un medic care vede descompunerea unei predicții poate judeca dacă are sens clinic pentru pacientul din fața lui — și o poate respinge când nu are.

Funcții

Verificare de către medic

Permite judecarea predicției, nu doar acceptarea sau respingerea ei. Este funcția cea mai importantă.

Comunicare cu pacientul

Un risc explicat prin analize concrete — albumina scăzută, ureea mare — este mai transparent decât o cifră fără justificare.

Reducerea încrederii excesive

Autorii studiului din 2026 au ales să afișeze nu doar o cifră, ci și explicația ei, tocmai pentru ca medicul să poată judeca predicția.

Cerință de reglementare

Legislația europeană privind inteligența artificială impune cerințe de documentare și de supraveghere umană pentru sistemele cu risc ridicat, categorie în care intră un software de estimare a riscului clinic.

Relevanță clinică

Autorii studiului din 2026 formulează scopul precis: transparența face prognosticul mai clar și decizia mai ușor de împărtășit. Un medic care poate arăta pacientului sau familiei că riscul estimat este crescut în principal din cauza unei albumine scăzute și a unei valori mari a ureei, și nu dintr-un motiv misterios, comunică altfel.

Rămâne însă de demonstrat dacă această transparență schimbă efectiv ceva în îngrijire. Nu s-a măsurat nicio decizie clinică, iar cei patru clinicieni care au testat aplicația au oferit doar un feedback informal, fără un studiu de utilizabilitate.

Explicabilitatea este propusă și ca antidot împotriva celor două riscuri opuse ale interacțiunii dintre medic și algoritm: încrederea excesivă, care duce la acceptarea unui rezultat chiar când alte semne îl contrazic, și oboseala alarmelor, care duce la ignorarea instrumentului.

Ghidul TRIPOD+AI cere acum ca studiile să descrie explicit cum se integrează modelul în fluxul de lucru și cine ia decizia finală — o cerință care recunoaște că performanța unui algoritm în practică depinde de oamenii care îl folosesc cel puțin la fel de mult cât depinde de matematica din spatele lui.

Analiza sistematică din 2025 a găsit că 93% dintre studiile din domeniu nu descriu deloc această interacțiune. Explicabilitatea rămâne, în majoritatea cazurilor, o promisiune netestată.

Ce trebuie verificat

Dacă modelul oferă o explicație pentru fiecare predicție individuală.

Dacă explicația este prezentată împreună cu cifra, nu separat.

Dacă se face distincția între explicarea modelului și explicarea bolii.

Dacă există un studiu care măsoară efectul explicației pe decizii clinice.

Dacă se descrie cine ia decizia finală și cum se integrează modelul în fluxul de lucru.

Factori care influențează gradul de explicabilitate

Complexitatea intrinsecă a modelului.

Numărul de variabile folosite.

Prezența unei metode de explicabilitate dedicată.

Modul de prezentare a explicației în interfață.

Coerența fiziologică a variabilelor incluse.

Corelațiile dintre variabile, care complică atribuirea contribuției.

Formarea utilizatorilor în interpretarea explicației.

Explicabilitate în context Healthwise

Explicabilitatea este proprietatea care transformă un algoritm dintr-un oracol într-un instrument. Un model care afișează doar o cifră cere încredere; unul care își arată raționamentul permite verificare — iar în medicină, a doua situație este singura acceptabilă.

Pe Healthwise, apare ca cerință centrală pentru acceptarea inteligenței artificiale în practica clinică și ca element care distinge studiul din 2026 de majoritatea literaturii.

Concluzie

Explicabilitatea este proprietatea unui model de a permite înțelegerea modului în care ajunge la o predicție, intrinsecă la modelele simple și obținută prin metode dedicate la cele complexe.

Ce trebuie reținut: valoarea ei reală este verificabilitatea, nu încrederea — un medic care vede raționamentul poate respinge o predicție care nu are sens clinic; iar explicarea modelului nu este o explicație a bolii.