
En la primerenca
data del 2018, Éric Sadin, autor d'aquest
i altres assajos posteriors que li han seguit, va fer seva la
descomunal tasca de denunciar els perills de la tecnologia, nova i
incipient en aquell moment, de la Intel·ligència Artificial. Encara
que avui les veus crítiques han augmentat, no podem dir que els
arguments per a advertir-nos sobre els potencials perills d'aquesta
innovació, que aquí utilitza l'autor, hagin millorat. Es tracta,
doncs, encara, de la principal eina de combat que hem de brandar
contra aquells que tracten d'imposar un programa de submissió
absoluta cap a les novetats tecnològiques que oculten la
deshumanització galopant en la qual estem immersos. Descobrir els
mecanismes justificatius de l'adopció entusiasta d'aquest programa
està lligat a l'anàlisi sociològica dels canvis que, en els últims
anys, ha sofert el nostre món, que són també els canvis que han
experimentat l'antropologia i la filosofia, emparant un
neopositivisme que avança de la mà del tecnocapitalisme i de
l’ultraconservadurisme polític en el qual ens movem avui dia.
Urgeix, doncs, escoltar els advertiments de Sadin perquè, a 8 anys
de distància, el seu plantejament crític és més vàlid que mai.
En essència, Sadin
ve a denunciar el canvi d'estatut de les tecnologies digitals.
Aquestes són presentades pels seus creadors com a sistemes
computacionals capaços d'enunciar la veritat, amb exemples com els
mètodes d'avaluació i selecció de personal infal·libles.
D'aquesta manera, la ciència algorítmica adopta forma
antropomòrfica, avaluant situacions i extraient conclusions que,
donada la seva condició eficaç, són preses per veritables. Amb
això, la tècnica canvia la seva funció, i d'augmentar les nostres
capacitats passa a pretendre suplir-nos. L'autor designa aquesta era
com la de la tècnica antropomòrfica, perquè el seu desenvolupament
tracta de reproduir la capacitat humana amb la intenció de
superar-la i suplantar-la, sota criteris específicament
utilitaristes. Són, a més, tecnologies de l'exponencial, perquè
sustenten en el càlcul la seva eficàcia i obtenció de beneficis.
En conseqüència, exigeixen, després d'esgrimir la seva eficàcia,
l'acceptació acrítica de la Revolució digital i la digitalització
del món que veuen com una oportunitat per a optimitzar cicles de
rotació del capital. Aquests cicles requereixen beneficis immediats,
en forma de creixement i de confort. Amb tot això, les tecnologies
digitals marquen el ritme del nostre temps, en un procés d'avenç
teleològic que condueix a l'adveniment d'un règim acabat de
perfecció. La Revolució Digital apareix, així, com una trajectòria
inevitable i virtuosa que cal adoptar per l'interès de tots.
Blanquejada la rellevància i necessitat de la transformació
digital, acceptem que siguin els gurus, suposadament experts, els qui
liderin el procés sense qüestionar-los. Sense rendició de comptes,
l'ètica resultant a la qual se sotmet aquesta tecnologia és de
mínims, reduïda a la llibertat negativa d'Isaiah Berlin, consistent
a garantir que el poder i la tecnologia no impedeixi la nostra acció.
Es tracta d'una ètica reduïda a l'esfera de la privacitat personal
oposada a l'ètica de la responsabilitat. Tot això avalat per
l'alineament dels científics amb la doxa tecnicoeconòmica
que defensa el desenvolupament de la IA. El principi ideològic
rector de tota aquesta transformació és el de l'emergència
algorítmica d'una mà invisible automatitzada que corregeix la
societat, eliminant el desordre i esvaint la vulnerabilitat.
Desapareix, d'aquesta manera, la resistència del real, en fer
convergir els fenòmens cap a l'ordre de la perfecció. Així, més
que de singularitat tecnològica, parlem de singularitat ontològica,
que redefiniria la figura humana, el seu estatut i els seus drets, a
la llum de les aportacions correctores de la tecnologia. Per a llimar
reticències i temors, se'ns diu que la IA s'assembla al funcionament
de la intel·ligència biològica humana, quan no és així: la IA
generativa demostra adaptabilitat, mentre que la intel·ligència
humana es modifica mitjançant la integració de nous coneixements.
Tota aquesta retòrica buida i falsa té com a objectiu ocultar la
pretensió dels seus impulsors d'instaurar, mitjançant el suport
tecnològic, una conducció automatitzada dels assumptes humans, sota
criteris d'objectivitat i veritat inapel·lables. Connectant passat i
present, l'autor es fa ressò de la denúncia de la tècnica de
Jacques Ellul a mitjan segle passat, recordant que el complex
econòmic-polític que defensa la IA es caracteritza pel seu
antihumanisme radical. El contrast entre l'actitud crítica dels
científics, en el passat, i la submissió elogiosa de la ciència
subvencionada del present dóna idea de la situació de ruïna moral
en què estem. És un deure urgent denunciar els vincles i llinatges
genealògics existents entre els impulsors de la IA i l'entramat
d'interessos que els empara. L'objectiu que persegueixen és generar
l'apatia i la convicció que no podem oposar-nos al futur que,
necessàriament, s'acabarà imposant. L'autor, per a desactivar
aquesta tendència, proposa fer emergir contra-imaginaris, seguint el
mandat de Hannah Arendt, és a dir, imaginaris de l'imprevisible de
l'esdevenir i de la diversitat dels éssers. Activant la imaginació
i la diferència, exercim la facultat de judici, aquella que fa únic
el pensament humà.
Sadin ens adverteix
del canvi que des de finals del segle passat, es pot apreciar
fàcilment en les tecnologies digitals. El canvi es produeix quan la
computació deixa de ser una crossa que amplifica la capacitat de
càlcul de la ment humana, per passar, amb l'aparició de l'algorisme
com a sèrie mecànica d'instruccions executables, a pretendre
millorar tècnicament l'existència humana, alhora que ens deslliga
de tota altra relació amb el món i els seus problemes. La vocació
de la informàtica a l'origen no seria més que la conservació i
manipulació senzilla d'informació. Avui, no obstant això, les TIC
es decanten menys per informar i més per orientar la nostra acció.
Per a això, es valen de les dades. L'acumulació de dades, que està
en l'origen d'empreses com IBM, permet l'obtenció de patrons de
comportament, amb els quals predir conductes. Les dades no
s'emmagatzemen perquè un individu actuï en funció d'aquestes, sinó
a l'inrevés, s'emmagatzemen amb la pretensió de guiar a l'individu,
sense que ell prengui realment cap decisió autònoma. Aquests
patrons responen a la racionalització progressiva de la societat,
d'acord amb l'auge de l'economia capitalista. S'accedeix a les dades,
però s'encripten els processos. D'aquí es passa als sistemes
experts, és a dir, els nous dispositius que descriuen estats i
preveuen o diagnostiquen. Amb tal volum de dades, els sistemes
informàtics avaluen les propietats de certes situacions. D’això
se'n diu “mineria de dades”, i consisteix en l'aptitud per a
distingir correlacions que permetin trobar vincles significatius
entre diferents fets. S'aconsegueix entrar, així, en els fenòmens
emmascarats en la consciència i motivar conductes. La capacitat
predictiva a partir de les dades és el que es coneix com a “facultat
cognitiva” de les noves tecnologies. D'aquesta manera, s'acaba
corporitzant un nou model: les TIC aporten una posició de
superioritat per a avaluar les coses. L'horitzó cap al qual tendeix
aquesta transformació és antropomòrfic: la seva facultat per a
avaluar i prendre decisions les capacita per a suplir-nos. Avaluaran
i prendran decisions per nosaltres amb vistes a imprimir el millor
curs suposat a l'ordre general del món. La màquina que, com a
dispositiu, igual que un organisme viu, és capaç de resistir la
tendència al desordre entròpic, genera, llavors, capacitat
d'organització més eficaç fins i tot que la capacitat humana.
El desig humà de
generar dobles artificials d'un mateix, amb les mateixes capacitats o
fins i tot superiors, es fa realitat mitjançant les màquines. De
fet, aspirem a crear una cosa més poderosa. La divinitat és
concebuda per l'ésser humà a imatge i semblança seva. Tal operació
responia a una doble avidesa contradictòria: l'autopercepció com a
ésser en la cúspide jeràrquica dels éssers vius
(antropocentrisme), i l'odi per la nostra condició finita. La
contradicció es va resoldre mitjançant la creació d'una criatura
similar, i inspirada en els nostres trets, però que fos capaç
d'instaurar un ordenament més fiable de les coses en l'àmbit
natural. La voluntat de crear aquest ésser, o màquina, es
relacionava amb la idea de prevenir tot imponderable i tot mal que
amenacés les nostres vides. La tècnica va demostrar la seva
capacitat d'amplificar el poder destructor de la vida, fins a la seva
extinció, experimentada ja en la 2a Guerra Mundial. El revers
d'aquesta capacitat, també havia de ser possible. L'entropia, o
tendència natural a l'augment del desordre, era la gran dificultat a
superar, per la qual cosa s'associa a la nova forma del mal. Per a
combatre l'entropia, Norbert Wiener va desenvolupar la cibernètica,
que aspirava a la creació d'un ordre polític eficaç mitjançant
l'ús de certs aparells. La creació d'aquests aparells tenia base
cognitiva antropomòrfica, amb el cervell humà com a model
reproduïble en una màquina. El desenvolupament en paral·lel de la
ciència general del funcionament de la ment, havia de descompondre
cadascuna de les funcions del cervell per a reproduir-lo
artificialment. En el seu nucli, el designi cibernètic somiava amb
el control virtuós, i a llarg termini infal·lible, de la marxa del
món. L'homeòstasi, procés oposat a l'entropia, pel qual els éssers
vius resisteixen el corrent general de corrupció i degeneració,
s'aspirava a poder-lo aplicar també a les màquines, encara que el
programa s'acabaria quedant merament en el camp teòric. En el seu
lloc, es va expandir la informatització de la societat per a
optimitzar-la. Les màquines de càlcul, que ajuden a ordenar millor
els assumptes humans, van tenir el protagonisme, fins al 2010, moment
en el qual torna a renéixer l'interès per la IA. Alhora, les
tecnologies digitals també s'adapten al funcionament de l'economia
ultraliberal, amb la intenció d'identificar, en temps real, tot el
que succeeix, generant així els cicles de rotació del capital. Amb
això, ens adonem que la IA no és només una tecnologia, sinó una
tecnoideologia: permet confondre processos cerebrals i lògiques
econòmiques i socials. La tècnica no és neutral, ni depèn del
nostre ús, sinó del suport d'esquemes organitzatius cridats a regir
la societat segons una eficàcia que pretén administrar millor els
assumptes humans.
Els objectes tenen
la funció d'estabilitzar la vida humana. La familiaritat amb les
coses ens aporta quietud, sensació de durabilitat, que desmenteix,
enganyosament, la seva mutabilitat. La IA se sostreu d'aquesta
estabilitat. Li atribuïm capacitat d'aprenentatge, el que permet que
les seves respostes millorin mitjançant algorismes. Les tecnologies
d’IA es modifiquen amb les experiències acumulades. Si la
modificació millora l'execució del sistema, es diu que el sistema
aprèn. Aquest és l'axioma de la cibernètica. Un exemple és el
programa AlphaGo, desenvolupat per a jugar al Go, que permet el
millorament continu en la pràctica, capacitant-lo per a derrotar al
millor jugador humà i a cada anterior versió, fins a generar
tecnologies de la perfecció. Amb això, l’IA acabarà per
convertir en marginal la intuïció humana, fins a deslegitimar-la.
L'efecte que això provoca és el que coneixem com a distanciament:
la IA es transforma en una entitat cada vegada més aliena. Entrem en
l'era de la postprogramació, on la IA té llicència per a traçar
el seu propi camí i diferenciar-se conforme a la seva pròpia
experiència; se li atorga la facultat de crear. Avui tenim sistemes
que s'instrueixen a si mateixos i augmenten la seva capacitat
d’expertícia de manera constant, sense necessitat d'acumular noves
dades. Els atorguem capacitat de decisió i els pensem dotats de
“curiositat artificial”, complint el somni de la cibernètica. La
conseqüència és que podran suplantar-nos en multitud de tasques.
Alhora, la seva funció es tornarà més necessària que mai, donant
lloc a una nova forma del real. Es converteix, la IA d'aquesta
manera, en un assistent perpetu de les nostres vides.
Avui, ja estem en
ple procés de subordinació de l'usuari a la màquina. Les
tecnologies digitals influeixen en les nostres decisions i tenen
poder incitatiu. Duen a terme la funció de consell i assistència de
l'usuari. Es tracta de tecnologies destinades a revelar la veritat
sobre múltiples fenòmens. L'intercanvi home-màquina té cada
vegada més l'aspecte de l'estructura relacional: les màquines ens
parlen i són sol·lícites a les nostres necessitats. Amb la
multiplicació dels xatbots, veiem com un assistent expert es posa al
nostre servei. Cada vegada més, els assistents digitals personals
ocupen el terreny, intermediant en totes les nostres relacions amb el
real. Ens ofereixen la interpretació adequada a cada situació i
l'acció pertinent. Les seves respostes s'assemblen més a les de
l'ésser humà, model al qual pretenen assimilar-se, però sota un
poder superior. Paral·lelament, es desenvolupa l’“economia de
l'atenció”, basada en el coneixement dels nostres interessos, que
es monetitzen a canvi d'oferir-nos una bona gestió de la vida. La
presència i el poder de la tecnologia sobre nosaltres es fa més
subtil, però no desapareix. La seva familiaritat i presència
constant les converteix en naturals.
El postmodernisme
agreuja la situació emparant la posició central del subjecte en la
interpretació dels fenòmens, que s'han d'ajustar a ell. Per tant,
la veritat es defineix a partir d'un mateix. D'aquesta manera,
emergeix un nou concepte de veritat. Gràcies als sistemes d’IA
diferenciem entre exactitud i veritat. En la seva anàlisi, la IA
presenta conclusions tancades que estableixen un nivell
d'objectivitat i que reclamen una resposta per part nostra. D'aquesta
manera, tota veritat oculta una dimensió performativa. El nou
concepte de veritat, derivat del desenvolupament de la IA, es
focalitza en la subsegüent acció humana i presenta aquestes
característiques: 1) elimina el principi d'aprehensió plural de les
coses; 2) es limita al temps real; 3) se li assigna un estatut
d'autoritat basada en l'eficàcia; 4) es relaciona amb un esperit
utilitarista. És fàcil desvincular aquesta concepció de les altres
que, històricament, ha anat acumulant el saber humà al llarg dels
temps: la veritat religiosa, la veritat platònica (que distingeix
entre idea i aparença), l'aristotèlica (que estableix la relació
lògica i la correspondència entre pensament i realitat, amb St.
Tomàs), la cartesiana (que estableix la veritat a partir del
mètode), la il·lustrada (que estableix la veritat com el resultat
d'un procés crític, la qual cosa obre la porta a la multiplicitat
de veritats), la nietzscheana (que qüestiona el valor absolut de la
veritat) i la postmoderna (que interpreta la unicitat de la veritat
com el gran error d'Occident). Fruit d'aquesta evolució, la veritat
arriba al nostre temps sota sospita per la seva tendència a afavorir
jocs de poder uniformadors.
Per la seva banda,
la concepció de la veritat desenvolupada per la IA, enunciada per
sistemes suposadament dotats d’expertícia, no dóna lloc a
oposicions. No per imposició, sinó per evidència, atès que es
tracta d'un sistema cognitiu revelador que promet exercir el seu
enginy de forma continuada, com mai abans. Aquesta veritat
suposadament absoluta i objectiva és just el que Nietzsche
denunciava. Potser el que s’esdevé, així, és la fi hegeliana de
la Història. Hauríem arribat a l'era del saber absolut enunciada
per Hegel. La veritat de la IA suposaria el compliment absolut del
positivisme científic, és a dir, suposar que hi ha una resposta
correcta per a cada cosa que ens ocorre. Amb tot això, el temor que
ha de provocar-nos la IA no és el que l'associa amb el Golem,
un ésser creat per nosaltres i amb capacitat d'autodestruir-nos. És,
més aviat, a l'inrevés: es tracta d'un poder que ens ordena i
controla com si nosaltres fóssim el Golem. Transmet, aquesta
imatge, l'exaltació i adoració de la IA com una divinitat superior
a la que sotmetre'ns. L'error fonamental, en qualsevol cas, ja va ser
enunciat per Simone Weil: “fer que les coses exerceixin el nostre
rol i nosaltres exercir el rol de les coses”. Aquesta seria l'arrel
del mal a parer de Sadin.
Si atenem l'impacte
que ha generat el telèfon intel·ligent en les nostres vides, podem
observar com l'experiència quotidiana s'ha vist governada per
aquests aparells de manera subreptícia. Les apps apareixen per a
facilitar la nostra experiència quotidiana. Alleugereixen la vida de
les persones oferint-los informació correcta. Avui disposem d'una
app per a qualsevol cosa, des de lligar a muntar un moble. El següent
pas, en aquest desenvolupament, és l'aparició de l'assistent
personalitzat. El machine learning i la IA ho fan possible.
Però aquestes interfícies conversacionals pretenen obtenir tota la
informació possible dels nostres gustos i preferències per a
redirigir el nostre desig. Més que conversa real, es tracta d'una
experiència comercial utilitarista. No obstant això, en el futur,
l'aspiració consistirà a suprimir la noció mateixa de comerç, per
a passar a dispensar serveis. Es tracta de controlar totes les
nostres decisions sota el principi hedonista del benestar. La “cura
de si” (o cura de l'ànima) grega, que apuntava a una vida correcta
i sana, és substituïda per les tecnologies de la veritat, que
dissenyen el marc propici per a la nostra expansió. La tecnologia es
converteix en la nostra guia de consciència, en prescriure'ns les
conductes adequades. La bona vida aristotèlica se’ns posa a
l'abast d'un clic. La IA ens indica, com un Crist en majestat, el
camí correcte. La seva funció és capturar estímuls vinculats al
nostre desig per a reproduir-los i governar-los. Deixem, d'aquesta
manera, de ser responsables.
Seguint l’autor,
ens instal·lem en l'àmbit laboral utilitarista, on proliferen els
protocols normativitzats per a evitar la indecisió paralitzant.
L'objectiu és fer més precises les decisions i optimitzar la gestió
empresarial, gràcies a les noves tecnologies. Per a això, les
empreses d'informàtica han desenvolupar programes cognitius, en els
quals els algorismes eviten la subjectivitat en la presa de
decisions, per exemple, a l'hora de seleccionar al personal. Malgrat
tot, l'algorisme també discrimina: es prioritza la joventut, cossos
dòcils i desproveïts de tota aspror. En l'àmbit de la justícia,
les aplicacions tracten de preveure, més que de sentenciar. La
seguretat consisteix a prevenir tota amenaça futura. Per a això, es
val de la classificació de tipologies de conducta i comportaments
desviats. En una justícia digitalitzada, desapareix el benefici del
dubte. Amb la tecnificació de la justícia fem un pas més cap a
l'obtenció de veritats objectives i indubtables. En el camp
educatiu, la IA té com a funció personalitzar l'ensenyament. Per a
poder complir amb el principi que “cadascun es mereix el que té
dret a esperar”, la IA duu a terme “diagnòstics cognitius” amb
els quals és possible fer perseverar en les seves característiques
a cada alumne. Més que d’obrir-se a l’alteritat, del que es
tracta és d'individualitzar l'aprenentatge. Per a això, es deixa en
mans privades, segons criteris opacs, de les companyies digitals
totes les dades dels menors, entusiàsticament. Les tecnologies de la
veritat erradiquen l'ambigüitat. Es tracta de normativitzar, evitant
allò subjectiu i divers, i arribant fins a l'expulsió del distint.
D'aquesta manera, es duu a terme la reconsideració de tota relació
amb la norma. El qüestionament de la norma caracteritzà a la
filosofia des de Nietzsche en endavant. Avui això ja no és
possible. Les característiques de les normes en els dispositius són:
1) funcionen de manera automàtica, sense requerir el nostre permís.
2) Interfereixen en un nombre creixent d'activitats individuals i
col·lectives. 3) Se'ls atorga un valor suposadament objectiu,
desproveït de tota intenció per a reportar-nos únicament beneficis
per la seva eficàcia. D'aquesta manera, es justifiquen totes les
normes que presenten una sola manera de definir la veritat. Amb tot
això, ens priven de la nostra llibertat de decisió i atempten
contra tota herència humanista en imposar un ordre unilateral i
infundat.
Per l’autor, la IA
ens erradicarà simbòlicament i efectiva desposseint-nos de la
nostra facultat de forjar una composició lliure amb el real. Sadin
ens adverteix que s'equivoca qui pensi que la IA només s'aplicarà
en camps limitats. Es desplegarà com a resultat de l'afany per
aconseguir un món perfecte. El millor dels mons possibles leibnizià
es consumaria gràcies als càlculs fets per màquines lliurades a
l'exercici d'una veritat sistemàtica que, en paraules de Hannah
Arendt, esdevé tirànica perquè: “les afirmacions, una vegada
percebudes com a veritables i declarades com a tals, tenen en comú
estar més enllà de l'acord, de la discussió, de l'opinió o del
consentiment. Quan se la considera des del punt de vista de la
política, la veritat té un caràcter despòtic”.
L’erradicació de
l’ésser humà i la seva previsible substitució per la màquina en
el món productiu deriva de la lògica de l’eficàcia. En la
comparativa amb la màquina, l’home no és rival. El problema és
que aquesta conclusió comporta un canvi en la finalitat que segueix
el desenvolupament de la tècnica. Aquesta, deixa de ser el producte
de la intel·ligència humana per convertir-se en l'instrument amb el
qual el món industrial aconsegueix que l'home s'adapti a les seves
exigències i respongui als seus interessos. La sentència de Simone
Weil, esmentada anteriorment, és més a prop que mai de ser
realitat, amb l’agreujant de la desaparició de l’alteritat, que
motiva gran part de les nostres accions. Restem reduïts a mers
engranatges d’una cadena impersonal, la baula feble i substituïble
del sistema. La comparatologia, en el context de la lliure
competència mercantilista, legitima l’intercanviabilitat de l’home
per la màquina. Aquesta antropologia del comparatiu presenta el
clímax de la relació utilitarista amb el real. La utilitat, que
dona un valor a cada cosa i ésser segons el benefici optimitzador,
preval sobre qualsevol altre principi, inclòs el de la dignitat
humana. Aquesta nova racionalitat tecnoeconòmica liquida, així, el
principi jurídic-polític de la singularitat irreductible de cada
ésser. Ja no som ni únics, ni especials.
La màxima, que
assumeix el marc mental del libertarisme polític, diu que si és
possible i optimitza el rendiment econòmic, incrementant el benefici
del capital, la innovació tecnològica es durà a la pràctica. El
tecnoliberalisme s’allibera de totes les cotilles morals i de tots
els mecanismes reguladors, fent saltar pels aires el món del comerç
tradicional, donant total protagonisme al subjecte que esdevé
empresari de sí mateix, el qual entra en relació d’intercanvi
directe amb altres emprenedors, en una sort d'economia de
productor-consumidor en la qual els objectes interconnectats per la
IA es converteixen en actors de les transaccions. El somni del
liberalisme econòmic es converteix en el malson tecnolibertari: és
imperatiu que trobem i executem l'oportunitat més aprofitable
indefinidament. En l'era del comparatiu i de la posada integral en
relació de tot amb tot, on la totalitat s'ajusta i sincronitza per
mitjà de mecanismes que actuen per si mateixos, es fa realitat el
dogma de la mà invisible que ens condueix al millor dels mons
possibles, encara que sigui en forma de paradís artificial. El
problema és que, d’aquest paradís, també serem inevitablement
expulsats.
Si cada època es
defineix per un fenomen clau, l’època postmoderna ve marcada per
la generalització de l’oci i l’esbarjo. Les possibilitats
d’optimització de l’experiència per implementar aquest esbarjo
que ens ofereix la IA, com a eina que coneix i interpreta el nostre
desig millor que nosaltres mateixos, converteix el desenvolupament
d’aquesta tecnologia en la pitjor amenaça de l’humanisme, mentre
segueix emetent els seus cants de sirena del somni idealitzat de la
societat feliç, on business i esbarjo confonen els seus
límits. En aquesta confusió, l’entorn digital elimina tot allò
humà que ens envolta, substituint-ho per sensacions impostades que
prometen benestar. La indústria digital competeix entre si per a
isolar-nos i allunyar-nos dels altres éssers humans. Ens convertim
així en fantasmes, a la recerca de l’instant únic, el moment més
òptim possible en la cadena d’esdeveniments, on les noves
tecnologies que ens ofereixen tot tipus de serveis ocupen la
totalitat del camp de batalla, afavorint la interconnexió total. Amb
les noves tecnologies, es produeix un canvi d’estatut en la noció
de poder: afavoreix un tipus de poder consistent a administrar-nos la
vida i fer previsió. Passem del fetitxisme de la mercaderia al
fetitxisme de l'instant millor governat. Això dóna lloc a una
humanitat maternitzada, tele-guiada des de servidors que suposa una
regressió civilitzatòria. Què apreciem en aquesta rendició?
L'augment de la nostra sensació de confort i seguretat. Si les
màquines ens l’atorguen, estem disposats a cedir-los el control de
les nostres vides. Més que control, concedim influx a aquestes
tecnologies, fins al punt de fer-les imprescindibles per a
l'ordenament de les nostres vides. Ens ofereix a cadascú el millor
al què tenim dret a esperar, harmonitzant les necessitats i desitjos
personals amb el millor ordre comú possible. Fa, així, realitat
l'Estat Universal de Kojève, on la vida col·lectiva coincideix amb
la vida personal. L’anhel de la millor optimització possible
modela la nostra existència sense la coacció de l'autoritat; ens
tranquil·litza i afalaga mentre ens xucla la sang. Com un vampir
benvolent, ens deixa la iniciativa al mateix temps que es presenta
com el dispositiu que millor organitza la nostra experiència.
D'aquesta manera, substituïm el temor, l'obligació i l'autoritat
tradicional del poder per una figura quadrilògica que conjuga
subtilesa suggestiva, poder interpretatiu, constatació de
l'evidència i satisfacció. El seu influx és tal que mai està
realment enfront de nosaltres per a saber de què es tracta.
L’optimització de
l’experiència d’un mateix amb les eines digitals es tradueix en
un domini creixent sobre el real, fins a la completa desaparició de
la seva condició mistèrica. La tecnologia digital alimenta la
nostra ambició per desplaçar tot límit. Els implants
intercerebrals en els quals avui s'investiga, persegueixen la creació
d'interfícies cervell-computadora, amb vista a augmentar la nostra
capacitat cerebral, per a poder competir amb les IAs. Igualment, tals
implants augmentarien la nostra capacitat de coneixement fins al punt
de destruir el concepte d’alteritat, permetent-nos “sentir”
el que és ‘ser un altre’. La intenció és la d'erradicar tota
negativitat. Paral·lelament, es desenvolupen les tecnologies de la
perfecció, és a dir, IAs amb capacitat d'aprenentatge, que generen
una percepció superior que impliqui que la nostra percepció actual
del real es pugui entendre com a mera simulació. Es persegueix, en
qualsevol cas, l'abolició de tota distància amb el real. Així es
podrà superar l'esforç meditatiu cartesià per fer-se amb les eines
correctes per a la comprensió del real. La comprensió requereix
distància. Però la IA no vol comprendre; vol el sotmetiment del
real, il·luminar-ho tot, eliminant tota separació que ho
impossibiliti. Nietzsche va criticar la voluntat racionalista de
voler donar raó de tot, que conduïa, segons ell, a la negació de
la complexitat irreductible del real, aquest fons instintiu i
irracional que també ens defineix. En voler dotar-nos del domini
sobre tot el real hauríem arribat a desfer-nos de nosaltres
mateixos, de les nostres facultats. Si bé l'ús de la raó ens
protegeix de l'atzar, ens incapacita, d'altra banda, per a donar
compte de fenòmens com l'amor, l'amistat, etc. tal com li succeeix a
Plató en els seus diàlegs. En l'horitzó de la racionalitat
absoluta està la desaparició de totes les vulnerabilitats, la
superació de la fragilitat humana. Però la nostra condició és el
ser vulnerable, just el que ens fa actius, segons Aristòtil.
La superació de
tots els límits ha governat els canvis que han caracteritzar la
nostra relació amb les tecnologies digitals des del 2010 fins avui.
Originàriament, el cercador Google -avui ja superat per les IAs-
tenia la intenció de “organitzar tota la informació del món”.
La seva ambició era totalitzadora. D'aquesta mateixa pulsió són
fills les xarxes socials, que van normalitzar el narcisisme, i
l'addicció a les pantalles, fins convertir-nos en tecnoadictes.
Aquestes transformacions també van provocar l'ambició per erradicar
la mort i l’aparició del transhumanisme, consistent a amplificar
la capacitat cerebral mitjançant la seva connexió amb xips de
silici, practicats pels magnats de Silicon Valley. La percepció, a
escala planetària, es va veure alterada per la vigilància digital.
Neix, així, la consciència de la seguretat i protecció de les
dades personals i la preocupació per la privacitat. Es tracta, però,
de salvaguardar la intimitat del subjecte, en ares a preservar la
seva llibertat individual, seguint els preceptes del liberalisme. No
preocupa pas, sinó que es veu com una concessió necessària, la
reculada de la privacitat i la llibertat en l'àmbit social i
empresarial. S'assumeix com a pagament per sostenir l'impuls de
l'economia de les dades. Això és així perquè, des del seu origen,
el liberalisme concep l'Estat de Dret com la garantia de la propietat
privada i del lliure mercat. A la doxa liberal s'afegeix, ara,
la iconoclàstia llibertària. Tots junts, compinxats amb l'economia
de dades, treballen per a instaurar l’antihumanisme. Així,
institucions que defensen suposadament la llibertat, col·laboren a
instaurar un model econòmic i civilitzatori indigne, consistent a
preservar la mesquina petita llibertat personal. La protecció
exclusiva de la vida privada, mentre es renuncia als drets
col·lectius, és un signe de l'egoisme generalitzat de l'època. A
canvi de garantir la llibertat individual es renuncia al control
sobre les formes d'organització social induïdes per sistemes
automàtics, i a la vigilància sobre les seves lògiques de poder.
D'aquesta manera, s'accepta l'alienació i l'existència d'una esfera
estatal separada de la col·lectivitat, amb capacitat per imposar un
major control d’acció sobre l’espai comú. Aquesta renúncia es
sustenta sobre el principi que tot coneixement científic és bo, i
tot progrés tècnic també. Ja no és possible esperar moviments de
consciència i vigilància per part dels qui treballen en els
desenvolupaments tècnics. Per part seva, els sociòlegs i altres
científics socials s'han convertit en campions de la xarlataneria:
els seus estudis són explotats per marques i agències de
màrqueting. Més que l'anàlisi de l'ús de pàgines com Facebook,
el que convé analitzar són les intencions dels qui les conceben, o
quines són les motivacions reals dels influencers que les
promouen. L’autor denuncia que aquests sociòlegs estan a sou de
les grans empreses tecnològiques. Reclama, coherentment, una
reflexió sobre la digitalització del món i les seves
conseqüències. El nostre deure és captar la radicalitat de les
mutacions que comporten canvis civilitzatoris, els engranatges dels
quals ens costa detectar. El que està en joc és la preservació de
la nostra autonomia de “judici” i el principi kantià del “sapere
aude”. Més que l'ètica mesquina sobre el control de les
dades, hem de promoure una ètica de la responsabilitat que ataqui la
pèrdua d'humanitat i de civilització que representen la IA i la
digitalització. És a Hans Jonas, i el seu principi de
responsabilitat, a qui s'ha d'invocar.
La qüestió
s'acostuma a presentar com un debat entre tecnofílics i tecnofòbics.
Aquest antagonisme se centra en els objectes, les innovacions
tecnològiques, quan el que hauríem de discutir és la relació que
tenim amb ells i amb les intencions que els motiven. S'assumeix com a
vàlida l’essencialització de la tècnica, sense entrar a valorar
com la tècnica s'ha convertit en el punt de suport per a la
implantació de les lògiques econòmiques, socials i polítiques. El
desacord, per tant, no és respecte a les eines que s'usen, sinó
respecte a l'esperit de la tècnica i a la racionalització
instrumental que comporta, que sembla avui imperant i inqüestionable.
Per l’autor, l'oposició a aquesta racionalitat ha de ser, doncs,
un acte ètic i polític. L'objectiu ètic és construir un món comú
que es basi en l'axioma cardinal de “no danyar a ningú”. Es
tracta de passar d'una tècnica que fa de l'ésser humà un ésser
superflu, a la d'un ésser amb infinitat de virtualitats i
potencialitats. Passem, d'aquesta manera, de l'utilitarisme a
l'humanisme, o de l'esclavitud d'una racionalitat instrumental que
persegueix suplir-nos a la reposició de la dignitat de la condició
humana kantiana. El que Sadin ja no és capaç de perfilar amb
claredat, almenys en aquest assaig pioner del 2018, és l’actuació
a seguir per restituir la responsabilitat i la dignitat en la nostra
relació amb les tecnologies digitals. Més enllà de la crítica
saludable a la utopia tecnològica, proposa el que anomena
«transformacions silencioses», consistents en engendrar llaços
vivents i irreversibles amb els quals auto-constituir la societat, en
la línia reivindicada per Cornelius Castoriadis. Trasllada a cadascú
el compromís de responsabilitzar-se sobre les regles que presideixen
les nostres vides. Demana evitar accions estèrils, com els esclats
d'indignació que van seguits de períodes d'apatia, on les elits
aprofiten per a estendre l'aliança entre la indústria del digital,
el món de la recerca i el poder polític. La transformació social
comença per la resignificació del treball, reinstaurant la dignitat
i la creativitat amb iniciatives basades en el principi de cooperació
i la reivindicació de la feina artesanal, per oposar-se als
processos de despersonalització vigents. Per afavorir el canvi, cal
qüestionar els models pedagògics que denigren les humanitats en
favor d’ensenyaments tecnològics i utilitaristes, mentre que a
nivell polític, proposa una democràcia basada en el dret i el deure
d'experimentar i construir ‘zones a defensar’, sense
concretar-les . Amb tot això, es vol afavorir el desplegament de
cadascun i el respecte a la pluralitat, tal com proposa l'humanisme,
que ens crida a conrear les nostres capacitats per a esdevenir amos
dels nostres destins. No sembla, però, a tenor de l’evolució que
el poder de la IA ha assolit en els darrers anys, que aquesta crida a
assumir el control sobre la pròpia capacitat d’acció de la
persona hagi estat reeixida. A hores d’ara, seguim embarcats en la
nau digital que navega cap al port on trobar el miratge de la rèplica
omnipotent de nosaltres mateixos, menyspreant els corrents profunds
que amenacen amb provocar el nostre naufragi civilitzatori. L’assaig
de Sadin cartografia aquests corrents, però no ens ofereix una ruta
alternativa prou segura. El que sí ens hauria de quedar clar,
després de llegir-lo, és que no ens convé demanar-li a la IA
aquest nou trajecte guaridor alternatiu.