A casa hem acabat una sèrie de televisió on, malgrat els petits defectes de la trama en la resolució de certes qüestions i la construcció temporal una mica confosa en segons quins moments, s’aboquen idees que no pots deixar anar, per la lucidesa que contenen. La sèrie és Promoción 09, creada per Tom Rob Smith. Segueix les vides i les carreres d’un equip de reclutes de l’FBI mentre se centra en la transformació del sistema de justícia penal dels Estats Units a mesura que s’altera per l’ús creixent de la intel·ligència artificial en la predicció de crims futurs. Idea que, inevitablement, ens duu a Minority Report (2002) i que ja va explorar visionàriament l’Steven Spielberg. Només que ara la IA ja és una realitat.
En un dels capítols, un dels protagonistes es veu obligat a defensar la inclusió de la intel·ligència artificial en la investigació policial. Els seus superiors, escèptics, li posen objeccions. No tot es pot deixar en mans d’una màquina, li venen a dir. Segons ells no es pot permetre que una IA acabe decidint per les persones. La resposta del personatge és inquietant perquè gira l’argument com un calcetí. Després de la inevitable pausa dramàtica li rebla al seu interlocutor que potser les institucions tradicionals ja funcionen, en bona part, artificialment. Continuen oferint respostes fabricades per unes estructures, unes normes i unes inèrcies que pertanyen a un món que ja no existeix. Tal volta ens espanta delegar decisions en una màquina —conclou— mentre acceptem sense alterar-se que moltes de les nostres institucions fa temps que han deixat de mirar la realitat que tenen davant.
La idea em va semblar extraordinària. I només unes hores després vaig comprendre fins a quin punt podia ser, tanmateix, terrible.
La meua dona és advocada. La seua feina sempre és motiu de debat a casa. No fa gaire, precisament arran del cas Maricarmen, parlàvem d’un procediment de desnonament que porta i que està intentant aturar. Una família de sis persones —tres generacions i amb una menor inclosa— esperava que l’administració pogués oferir-los alguna alternativa residencial. Però encara no l’han trobada. El jutjat havia de decidir si mantenia suspés el procediment mentre arribés alguna solució. I la resposta judicial conté aquestes paraules:
«Es evidente que la suspensión del proceso carece de cualquier tipo de objeto si las administraciones públicas competentes no proponen ninguna medida adecuada para hacer frente a la unidad familiar de la persona demandada.»
És difícil llegir aquesta frase sense aturar-se un moment. Com que l’administració que se n’hauria de fer càrrec no ha estat capaç d’aconseguir una solució per a aquella família —i precisament per això!— el jutjat considera que esperar ja no té objecte.
Hi ha una lògica jurídica al darrere. Naturalment que n’hi ha. Un jutge no pot resoldre les causes que té damunt la taula segons les seues simpaties personals, ni convertir cada procediment en una decisió moral improvisada. Les normes existeixen també per protegir-nos de l’arbitrarietat. La llei limita el poder, estableix garanties, ordena conflictes, protegeix drets. Tot això és cert. Però alguna cosa grinyola més que una sénia de fusta, quan la incapacitat de l’Administració per resoldre un problema acaba convertint-se en la raó per a deixar de protegir qui pateix precisament aquell problema. Com no hem trobat una llar per a vosaltres, ja no té sentit continuar esperant la recerca. Llegit fora del llenguatge jurídic —i ací és sovint on apareix el debat a casa—, resulta difícil defugir la brutalitat de la frase. Però encara hi havia un altre fragment en la resolució que impressiona més:
«La labor del juzgador consiste en aplicar la ley —juzgando y haciendo ejecutar lo juzgado—.»
En principi, res a objectar. És la llei. És el procediment. És la funció del jutge. És la norma. I és en aquest moment que vaig tornar immediatament a la sèrie, considerant aquell diàleg sobre la intel·ligència artificial, i preguntant-me què significa que una cosa siga realment artificial.
Potser ens hem acostumat a associar la paraula amb ordinadors, algoritmes, robots, màquines capaces de donar-nos una resposta més enllà del nostre treball. Però artificial també és allò que ha perdut el contacte amb la matèria viva de què prové. Allò que reprodueix una forma sense recordar-ne ja el sentit. Allò que continua funcionant perquè el mecanisme encara funciona, encara que la raó que el justificava s’haja esvaït.
I ací està la cosa. Una institució pot ser profundament artificial sense que hi haja un sol ordinador decidint dins d’ella. Pot estar formada per persones, persones intel·ligents, honestes, preparades. I, tanmateix, comportar-se com una màquina. Introduïm un cas, comprovem els requisits, apliquem el protocol, produïm una resposta i que passe el següent.
Però la família, continua allí. Sis persones amb noms, roba dins dels armaris, plats a la cuina, llits que algú haurà de desfer, medicaments en algun calaix. Una família amb una criatura, possiblement, que no entén què vol dir allò de “llançament” —potser esbalaïda per la literalitat de la paraula—, però que entenen perfectament què significa que un adult li diga que ho ha d’arreplegar tot perquè allí, en la casa on han tornat cada dia després del món, ja no poden continuar-hi vivint.
Tot això existeix, però no per al procediment. I aquesta és una de les formes més terribles d’artificialitat institucional. Allò que no cap dins de l’expedient deixa de ser rellevant, encara que continue sent amb tota la seua cruesa fora d’ell. No és que la realitat s’haja esvaït de sobte. És que el sistema ha decidit que no cal mirar-la, veure-la.
Que conste que no estic proposant que els jutges resolguen segons la seua consciència en contra de les lleis. La meua dona ja m’avisa. Un estat de dret no podria sobreviure gaire temps d’aquesta manera. Tampoc es tracta de negar drets a l’altra part d’un procediment. Els conflictes jurídics ho són precisament perquè hi ha drets, interessos i obligacions que xoquen entre si. La qüestió és una altra.
Què passa quan hem construït normes incapaces d’assumir les conseqüències humanes de la seua pròpia aplicació? Què passa quan l’excepció humana apareix davant nostre i l’única resposta possible és “que no està prevista”? Què ocorre quan una institució continua fent correctament allò que sempre ha fet, però allò que sempre ha fet ja no dona resposta al món en què vivim? Potser aleshores hauríem de començar a distingir entre una institució que funciona i una institució que simplement continua en marxa. I no és el mateix.
Una administració pot continuar tramitant expedients mentre fracassa socialment. Un sistema sanitari pot continuar comptabilitzant visites mentre deixa pacients abandonats durant mesos. Una escola pot continuar expedint notes mentre perd la capacitat d’educar determinats alumnes. Una política d’habitatge pot complir escrupolosament tots els tràmits mentre deixa famílies a la intempèrie. Un jutjat pot produir resolucions jurídicament estructurades mentre la realitat humana queda cada vegada més lluny del llenguatge amb què aquelles resolucions són escrites.
En la forma, tot funciona. Els papers circulen, les notificacions arriben, els terminis vencen, les signatures germinen al final de cada document. El sistema respira. Però les persones s’ofeguen. Això és el que em sembla tan poderós d’aquella idea sobre la intel·ligència artificial.
Ens preocupa —amb raó— que una màquina puga prendre decisions sobre nosaltres sense comprendre realment què significa patir, perdre una casa, quedar-se sense treball, esperar una operació, criar un fill sense ajut, envellir sol, fugir d’una guerra. Ens espanta imaginar un algoritme dient: No compleix els requisits, Sol·licitud denegada, Risc assumible, Cas tancat. Però hauríem de preguntar-nos també quantes vegades ja diem exactament aquestes coses sense necessitat de cap algoritme.
Potser el perill no és només que les màquines aprenguen a comportar-se com nosaltres. El que ens hauria de preocupar és per què nosaltres mantenim intactes institucions que cada vegada s’assemblen més a les màquines. Institucions que processen, classifiquen, deriven, arxiven, contesten i que rarament alcen el cap. I precisament aquest gest és important. Perquè darrere de qualsevol norma, un dia, hi hagué una raó, i algú va pensar que aquella llei havia de protegir alguna cosa, que aquell procediment perseguia una finalitat. Que aquell dret servia perquè alguna persona no quedara indefensa davant d’una altra, davant d’una empresa o davant del mateix Estat.
La llei no naix per produir expedients —en aquest punt, a casa, tots estem d’acord—, naix per ordenar la convivència entre éssers humans. El procediment no és la finalitat, és una ferramenta. I quan la ferramenta comença a comportar-se com si ella mateixa fora l’objectiu de tot plegat, alguna cosa s’ha invertit.
En aquella resolució que abans he esmentat, apareix també una expressió que n’hi ha per a sucar-hi pa. El jutge parla d’interpretar els preceptes «de forma razonable». I aleshores apareix inevitablement una pregunta: raonable per a qui? Respecte de què? Raonable per preservar el ritme d’un procediment o per evitar una suspensió indefinida? Raonable per protegir els drets legítims de la propietat o per a l’Administració que no ha trobat una alternativa? Raonable per a les sis persones que l’endemà no sabran on dormiran?
La raó mai no habita completament fora de la realitat. Una decisió pot resultar perfectament racional dins d’un sistema i profundament absurda quan ix al carrer. Pot ser coherent en el paper i devastadora al voltant d’una taula. Pot cabre perfectament dins d’una resolució i no cabre de cap manera dins de la vida que tenim. Aquesta distància és el que hauríem de vigilar. Perquè les institucions són necessàries. Absolutament necessàries. Precisament per això hauríem d’exigir-los molt més que mera supervivència burocràtica.
Una democràcia no és només un conjunt de normes. És també la capacitat permanent de revisar-les. Una societat madura no hauria de preguntar-se únicament si una llei s’està aplicant correctament. Hauria de preguntar-se periòdicament si aquella llei continua servint per a allò que pretenia protegir.
De vegades tinc la sensació que intentem governar el present amb el vocabulari del passat. I quan el present no cap dins d’aquell codi, culpem el present. No està previst. No compleix els requisits. No concorre el pressupòsit, ni hi ha cobertura legal. És possible que totes aquestes frases siguen jurídicament correctes. Però una societat no pot resignar-se a viure eternament dins del jurídicament correcte si els resultats són humanament insostenibles.
Aquesta és una de les grans confusions del nostre temps: identificar justícia amb mera aplicació normativa. La llei és imprescindible per a arribar a la justícia. Però no sempre hi arriba. I quan no hi arriba, no hauríem de castigar el jutge perquè no invente una llei nova. Hauríem de mirar una mica més amunt. Hem de preguntar-nos per què el legislador no ha creat instruments suficients. Per què l’Administració no té recursos. Per què els serveis públics arriben tard. Per què permetem que els problemes socials acaben transformats en conflictes judicials que exigim després que resolga una persona asseguda davant d’un expedient. No heu pensat mai que potser demanem als jutges que administren les conseqüències d’un fracàs que s’ha produït molt abans d’entrar al jutjat?
Les nostres institucions han deixat de pensar en nosaltres sense que ens n’adonem. Continuen responent, produint documents, celebrant vistes i dictant resolucions. Però han perdut una cosa essencial. La capacitat de preguntar-se per què. Per què existeix aquesta norma, a qui havia de protegir, quina realitat volia ordenar. Què passa quan la seua aplicació produeix exactament el contrari del que una societat humanament decent voldria aconseguir. I això ens retorna, finalment, a la intel·ligència artificial.
Tal vegada la gran diferència entre intel·ligència i automatització no consisteix en la capacitat de donar una resposta. Qualsevol sistema prou sofisticat pot fer això. La intel·ligència apareix quan som capaços de dubtar de la resposta, quan ens plantegem si la pregunta estava ben formulada, quan descobrim que una regla útil en milers de casos anteriors pot ser monstruosa en la següent (la mil u). Apareix quan som capaços de veure la persona abans que l’expedient i recordem que darrere de cada categoria administrativa hi ha una vida que no encaixa a aquestes. Potser això és el més genuïnament humà que ens queda. La capacitat d’alçar el cap i mirar. De dir que açò no pot acabar així.
No sabem quina serà finalment la destinació d’aquella família de sis persones. Puc assegurar-vos que la meua dona lluita per elles amb tots els instruments que té a les mans, però també amb tota la voluntat emocional que el cas exigeix. I pensem molt en ells. Els pensem guardant la roba dins d’una bossa, precipitadament; en la criatura que pregunta desconcertada on van ara; en la mare i el pare que busquen una resposta que ignoren. Pensem també en totes les persones que, des d’un jutjat, una administració, uns serveis socials, darrere de la finestreta d’una oficina, intenten fer correctament la seua faena dins dels marges que se’ls han ofert.
Confiem en el fet que no tothom és cruel. Però això, precisament, és el que més ens inquieta. Perquè els sistemes més deshumanitzats no necessiten persones cruels. Només necessiten persones que facen la seua tasca correctament sense mirar més enllà dels papers que segellen. Potser per això ens espanta tant la intel·ligència artificial. Perquè ens obliga a mirar-nos en un espill. I en apropar-nos prou, descobrim que la pregunta no és únicament fins a quin punt permetrem que les màquines decidisquen sobre les nostres vides. La pregunta verdaderament incòmoda és una altra.
Quanta intel·ligència queda encara en les institucions que podem continuar anomenant humanes?
