Bioètica
Com pensem la cruïlla entre la ciència, la intel·ligència artificial i les persones a les quals servim.
No només si una cosa es pot fer.
La bioètica pregunta també si una cosa s'ha de fer, i sota quines condicions. Va néixer en la medicina per respondre a una constatació incòmoda: el progrés tècnic, per si sol, no garanteix que es tracti bé les persones.
D'aquí van sorgir quatre principis que encara avui la vertebren — autonomia, beneficència, no maleficència i justícia — pensats per orientar decisions on el que està en joc no és un producte, sinó la biologia humana i la confiança de qui la comparteix.
Neural Omega no és un hospital, però treballa amb la mateixa matèria. Construïm infraestructura digital sobre dades de persones malaltes, amb eines que aprenen d'aquestes dades i retornen prediccions. Cadascuna d'aquestes paraules — dades, persones, aprendre, predir — conté una decisió ètica que preferim prendre de manera conscient abans que per defecte.
Treballem on equivocar-se té conseqüències reals.
Tres territoris que rarament comparteixen un mateix marc d'exigència convergeixen en el que fem. Cadascun imposa la seva pròpia responsabilitat.
Ciència
De la investigació heretem l'obligació de no afirmar més del que l'evidència permet. Una hipòtesi sòlida no és una conclusió, i confondre-les — sobretot davant de qui busca esperança — és una forma de dany.
Intel·ligència artificial
Un model presenta els seus resultats amb una fluïdesa que pot confondre's amb certesa. I hereta els biaixos de les dades amb què s'entrena: mal alimentat, pot rendir pitjor precisament en les poblacions ja desateses.
Dades clíniques
El que una persona comparteix sobre la seva malaltia és íntim. Tractar-ho com una simple matèria primera seria trair la confiança que fa possible tota la resta. És un préstec, no una propietat.
La responsabilitat no és una declaració. És el que fem quan ningú mira.
Els principis es demostren en les decisions difícils — les que costen temps, diners o atenció. Aquestes ja guien com treballem.
Diem el que podem defensar
Un únic registre per a tothom: el que no sostindríem davant d'un revisor científic tampoc ho afirmem davant d'un inversor. No prometem cures ni terminis presentats com a segurs. La credibilitat no es construeix encertant l'afirmació grandiloqüent, sinó no havent de rectificar-la mai.
L'eina no substitueix el criteri
Els nostres models proposen; l'evidència experimental i el criteri del professional disposen. Quan una funció pot induir a confiar-hi més enllà del que l'evidència avala, la limitem o la retirem — per més tècnicament atractiva i comercialment útil que sigui.
Les dades són una confiança, no un actiu
No venem ni intercanviem dades clíniques personals, ni les fem servir per a finalitats diferents d'aquelles per a les quals se'ns van lliurar. Entenem la protecció de dades com l'expressió legal d'un deure anterior: no defraudar qui ens va confiar quelcom íntim.
Pensem en qui es queda fora
Quatre de cada cinc persones amb malaltia autoimmune són dones, i la innovació arriba abans a qui ja està més ben atès. No podem resoldre avui l'accés ni la representativitat, però sí no construir deliberadament per a una minoria privilegiada.
Una feina que no s'acaba.
Cap d'aquestes tensions es resol una vegada i per sempre. Es resolen cada dia, en decisions concretes, i se sotmeten a examen: aquest compromís obliga per igual l'equip, la direcció, els fundadors i qui inverteix en el projecte.
No afirmem ser una empresa perfecta, ni haver resolt tot el que anomenem aquí. Afirmem quelcom més exigent: tenir aquestes qüestions presents en cada decisió, acceptar que se'ns confronti amb les nostres pròpies paraules, i corregir-nos quan l'evidència, l'experiència o l'error ens ensenyin que ho hem de fer.
Darrere de cada principi, un equip.
L'ètica no la sosté un document, sinó les persones que prenen les decisions cada dia. Coneix qui construeix Neural Omega, i per què.
Coneix Neural Omega →