En la primerenca data del 2018, Éric Sadin, autor d'aquest1 i altres assajos posteriors que li han seguit, va fer seva la descomunal tasca de denunciar els perills de la tecnologia, nova i incipient en aquell moment, de la Intel·ligència Artificial. Encara que avui les veus crítiques han augmentat, no podem dir que els arguments per a advertir-nos sobre els potencials perills d'aquesta innovació, que aquí utilitza l'autor, hagin millorat. Es tracta, doncs, encara, de la principal eina de combat que hem de brandar contra aquells que tracten d'imposar un programa de submissió absoluta cap a les novetats tecnològiques que oculten la deshumanització galopant en la qual estem immersos. Descobrir els mecanismes justificatius de l'adopció entusiasta d'aquest programa està lligat a l'anàlisi sociològica dels canvis que, en els últims anys, ha sofert el nostre món, que són també els canvis que han experimentat l'antropologia i la filosofia, emparant un neopositivisme que avança de la mà del tecnocapitalisme i de l’ultraconservadurisme polític en el qual ens movem avui dia. Urgeix, doncs, escoltar els advertiments de Sadin perquè, a 8 anys de distància, el seu plantejament crític és més vàlid que mai.
En essència, Sadin ve a denunciar el canvi d'estatut de les tecnologies digitals. Aquestes són presentades pels seus creadors com a sistemes computacionals capaços d'enunciar la veritat, amb exemples com els mètodes d'avaluació i selecció de personal infal·libles. D'aquesta manera, la ciència algorítmica adopta forma antropomòrfica, avaluant situacions i extraient conclusions que, donada la seva condició eficaç, són preses per veritables. Amb això, la tècnica canvia la seva funció, i d'augmentar les nostres capacitats passa a pretendre suplir-nos. L'autor designa aquesta era com la de la tècnica antropomòrfica, perquè el seu desenvolupament tracta de reproduir la capacitat humana amb la intenció de superar-la i suplantar-la, sota criteris específicament utilitaristes. Són, a més, tecnologies de l'exponencial, perquè sustenten en el càlcul la seva eficàcia i obtenció de beneficis. En conseqüència, exigeixen, després d'esgrimir la seva eficàcia, l'acceptació acrítica de la Revolució digital i la digitalització del món que veuen com una oportunitat per a optimitzar cicles de rotació del capital. Aquests cicles requereixen beneficis immediats, en forma de creixement i de confort. Amb tot això, les tecnologies digitals marquen el ritme del nostre temps, en un procés d'avenç teleològic que condueix a l'adveniment d'un règim acabat de perfecció. La Revolució Digital apareix, així, com una trajectòria inevitable i virtuosa que cal adoptar per l'interès de tots. Blanquejada la rellevància i necessitat de la transformació digital, acceptem que siguin els gurus, suposadament experts, els qui liderin el procés sense qüestionar-los. Sense rendició de comptes, l'ètica resultant a la qual se sotmet aquesta tecnologia és de mínims, reduïda a la llibertat negativa d'Isaiah Berlin, consistent a garantir que el poder i la tecnologia no impedeixi la nostra acció. Es tracta d'una ètica reduïda a l'esfera de la privacitat personal oposada a l'ètica de la responsabilitat. Tot això avalat per l'alineament dels científics amb la doxa tecnicoeconòmica que defensa el desenvolupament de la IA. El principi ideològic rector de tota aquesta transformació és el de l'emergència algorítmica d'una mà invisible automatitzada que corregeix la societat, eliminant el desordre i esvaint la vulnerabilitat. Desapareix, d'aquesta manera, la resistència del real, en fer convergir els fenòmens cap a l'ordre de la perfecció. Així, més que de singularitat tecnològica, parlem de singularitat ontològica, que redefiniria la figura humana, el seu estatut i els seus drets, a la llum de les aportacions correctores de la tecnologia. Per a llimar reticències i temors, se'ns diu que la IA s'assembla al funcionament de la intel·ligència biològica humana, quan no és així: la IA generativa demostra adaptabilitat, mentre que la intel·ligència humana es modifica mitjançant la integració de nous coneixements. Tota aquesta retòrica buida i falsa té com a objectiu ocultar la pretensió dels seus impulsors d'instaurar, mitjançant el suport tecnològic, una conducció automatitzada dels assumptes humans, sota criteris d'objectivitat i veritat inapel·lables. Connectant passat i present, l'autor es fa ressò de la denúncia de la tècnica de Jacques Ellul a mitjan segle passat, recordant que el complex econòmic-polític que defensa la IA es caracteritza pel seu antihumanisme radical. El contrast entre l'actitud crítica dels científics, en el passat, i la submissió elogiosa de la ciència subvencionada del present dóna idea de la situació de ruïna moral en què estem. És un deure urgent denunciar els vincles i llinatges genealògics existents entre els impulsors de la IA i l'entramat d'interessos que els empara. L'objectiu que persegueixen és generar l'apatia i la convicció que no podem oposar-nos al futur que, necessàriament, s'acabarà imposant. L'autor, per a desactivar aquesta tendència, proposa fer emergir contra-imaginaris, seguint el mandat de Hannah Arendt, és a dir, imaginaris de l'imprevisible de l'esdevenir i de la diversitat dels éssers. Activant la imaginació i la diferència, exercim la facultat de judici, aquella que fa únic el pensament humà.
Sadin ens adverteix del canvi que des de finals del segle passat, es pot apreciar fàcilment en les tecnologies digitals. El canvi es produeix quan la computació deixa de ser una crossa que amplifica la capacitat de càlcul de la ment humana, per passar, amb l'aparició de l'algorisme com a sèrie mecànica d'instruccions executables, a pretendre millorar tècnicament l'existència humana, alhora que ens deslliga de tota altra relació amb el món i els seus problemes. La vocació de la informàtica a l'origen no seria més que la conservació i manipulació senzilla d'informació. Avui, no obstant això, les TIC es decanten menys per informar i més per orientar la nostra acció. Per a això, es valen de les dades. L'acumulació de dades, que està en l'origen d'empreses com IBM, permet l'obtenció de patrons de comportament, amb els quals predir conductes. Les dades no s'emmagatzemen perquè un individu actuï en funció d'aquestes, sinó a l'inrevés, s'emmagatzemen amb la pretensió de guiar a l'individu, sense que ell prengui realment cap decisió autònoma. Aquests patrons responen a la racionalització progressiva de la societat, d'acord amb l'auge de l'economia capitalista. S'accedeix a les dades, però s'encripten els processos. D'aquí es passa als sistemes experts, és a dir, els nous dispositius que descriuen estats i preveuen o diagnostiquen. Amb tal volum de dades, els sistemes informàtics avaluen les propietats de certes situacions. D’això se'n diu “mineria de dades”, i consisteix en l'aptitud per a distingir correlacions que permetin trobar vincles significatius entre diferents fets. S'aconsegueix entrar, així, en els fenòmens emmascarats en la consciència i motivar conductes. La capacitat predictiva a partir de les dades és el que es coneix com a “facultat cognitiva” de les noves tecnologies. D'aquesta manera, s'acaba corporitzant un nou model: les TIC aporten una posició de superioritat per a avaluar les coses. L'horitzó cap al qual tendeix aquesta transformació és antropomòrfic: la seva facultat per a avaluar i prendre decisions les capacita per a suplir-nos. Avaluaran i prendran decisions per nosaltres amb vistes a imprimir el millor curs suposat a l'ordre general del món. La màquina que, com a dispositiu, igual que un organisme viu, és capaç de resistir la tendència al desordre entròpic, genera, llavors, capacitat d'organització més eficaç fins i tot que la capacitat humana.
El desig humà de generar dobles artificials d'un mateix, amb les mateixes capacitats o fins i tot superiors, es fa realitat mitjançant les màquines. De fet, aspirem a crear una cosa més poderosa. La divinitat és concebuda per l'ésser humà a imatge i semblança seva. Tal operació responia a una doble avidesa contradictòria: l'autopercepció com a ésser en la cúspide jeràrquica dels éssers vius (antropocentrisme), i l'odi per la nostra condició finita. La contradicció es va resoldre mitjançant la creació d'una criatura similar, i inspirada en els nostres trets, però que fos capaç d'instaurar un ordenament més fiable de les coses en l'àmbit natural. La voluntat de crear aquest ésser, o màquina, es relacionava amb la idea de prevenir tot imponderable i tot mal que amenacés les nostres vides. La tècnica va demostrar la seva capacitat d'amplificar el poder destructor de la vida, fins a la seva extinció, experimentada ja en la 2a Guerra Mundial. El revers d'aquesta capacitat, també havia de ser possible. L'entropia, o tendència natural a l'augment del desordre, era la gran dificultat a superar, per la qual cosa s'associa a la nova forma del mal. Per a combatre l'entropia, Norbert Wiener va desenvolupar la cibernètica, que aspirava a la creació d'un ordre polític eficaç mitjançant l'ús de certs aparells. La creació d'aquests aparells tenia base cognitiva antropomòrfica, amb el cervell humà com a model reproduïble en una màquina. El desenvolupament en paral·lel de la ciència general del funcionament de la ment, havia de descompondre cadascuna de les funcions del cervell per a reproduir-lo artificialment. En el seu nucli, el designi cibernètic somiava amb el control virtuós, i a llarg termini infal·lible, de la marxa del món. L'homeòstasi, procés oposat a l'entropia, pel qual els éssers vius resisteixen el corrent general de corrupció i degeneració, s'aspirava a poder-lo aplicar també a les màquines, encara que el programa s'acabaria quedant merament en el camp teòric. En el seu lloc, es va expandir la informatització de la societat per a optimitzar-la. Les màquines de càlcul, que ajuden a ordenar millor els assumptes humans, van tenir el protagonisme, fins al 2010, moment en el qual torna a renéixer l'interès per la IA. Alhora, les tecnologies digitals també s'adapten al funcionament de l'economia ultraliberal, amb la intenció d'identificar, en temps real, tot el que succeeix, generant així els cicles de rotació del capital. Amb això, ens adonem que la IA no és només una tecnologia, sinó una tecnoideologia: permet confondre processos cerebrals i lògiques econòmiques i socials. La tècnica no és neutral, ni depèn del nostre ús, sinó del suport d'esquemes organitzatius cridats a regir la societat segons una eficàcia que pretén administrar millor els assumptes humans.
Els objectes tenen la funció d'estabilitzar la vida humana. La familiaritat amb les coses ens aporta quietud, sensació de durabilitat, que desmenteix, enganyosament, la seva mutabilitat. La IA se sostreu d'aquesta estabilitat. Li atribuïm capacitat d'aprenentatge, el que permet que les seves respostes millorin mitjançant algorismes. Les tecnologies d’IA es modifiquen amb les experiències acumulades. Si la modificació millora l'execució del sistema, es diu que el sistema aprèn. Aquest és l'axioma de la cibernètica. Un exemple és el programa AlphaGo, desenvolupat per a jugar al Go, que permet el millorament continu en la pràctica, capacitant-lo per a derrotar al millor jugador humà i a cada anterior versió, fins a generar tecnologies de la perfecció. Amb això, l’IA acabarà per convertir en marginal la intuïció humana, fins a deslegitimar-la. L'efecte que això provoca és el que coneixem com a distanciament: la IA es transforma en una entitat cada vegada més aliena. Entrem en l'era de la postprogramació, on la IA té llicència per a traçar el seu propi camí i diferenciar-se conforme a la seva pròpia experiència; se li atorga la facultat de crear. Avui tenim sistemes que s'instrueixen a si mateixos i augmenten la seva capacitat d’expertícia de manera constant, sense necessitat d'acumular noves dades. Els atorguem capacitat de decisió i els pensem dotats de “curiositat artificial”, complint el somni de la cibernètica. La conseqüència és que podran suplantar-nos en multitud de tasques. Alhora, la seva funció es tornarà més necessària que mai, donant lloc a una nova forma del real. Es converteix, la IA d'aquesta manera, en un assistent perpetu de les nostres vides.
Avui, ja estem en ple procés de subordinació de l'usuari a la màquina. Les tecnologies digitals influeixen en les nostres decisions i tenen poder incitatiu. Duen a terme la funció de consell i assistència de l'usuari. Es tracta de tecnologies destinades a revelar la veritat sobre múltiples fenòmens. L'intercanvi home-màquina té cada vegada més l'aspecte de l'estructura relacional: les màquines ens parlen i són sol·lícites a les nostres necessitats. Amb la multiplicació dels xatbots, veiem com un assistent expert es posa al nostre servei. Cada vegada més, els assistents digitals personals ocupen el terreny, intermediant en totes les nostres relacions amb el real. Ens ofereixen la interpretació adequada a cada situació i l'acció pertinent. Les seves respostes s'assemblen més a les de l'ésser humà, model al qual pretenen assimilar-se, però sota un poder superior. Paral·lelament, es desenvolupa l’“economia de l'atenció”, basada en el coneixement dels nostres interessos, que es monetitzen a canvi d'oferir-nos una bona gestió de la vida. La presència i el poder de la tecnologia sobre nosaltres es fa més subtil, però no desapareix. La seva familiaritat i presència constant les converteix en naturals.
El postmodernisme agreuja la situació emparant la posició central del subjecte en la interpretació dels fenòmens, que s'han d'ajustar a ell. Per tant, la veritat es defineix a partir d'un mateix. D'aquesta manera, emergeix un nou concepte de veritat. Gràcies als sistemes d’IA diferenciem entre exactitud i veritat. En la seva anàlisi, la IA presenta conclusions tancades que estableixen un nivell d'objectivitat i que reclamen una resposta per part nostra. D'aquesta manera, tota veritat oculta una dimensió performativa. El nou concepte de veritat, derivat del desenvolupament de la IA, es focalitza en la subsegüent acció humana i presenta aquestes característiques: 1) elimina el principi d'aprehensió plural de les coses; 2) es limita al temps real; 3) se li assigna un estatut d'autoritat basada en l'eficàcia; 4) es relaciona amb un esperit utilitarista. És fàcil desvincular aquesta concepció de les altres que, històricament, ha anat acumulant el saber humà al llarg dels temps: la veritat religiosa, la veritat platònica (que distingeix entre idea i aparença), l'aristotèlica (que estableix la relació lògica i la correspondència entre pensament i realitat, amb St. Tomàs), la cartesiana (que estableix la veritat a partir del mètode), la il·lustrada (que estableix la veritat com el resultat d'un procés crític, la qual cosa obre la porta a la multiplicitat de veritats), la nietzscheana (que qüestiona el valor absolut de la veritat) i la postmoderna (que interpreta la unicitat de la veritat com el gran error d'Occident). Fruit d'aquesta evolució, la veritat arriba al nostre temps sota sospita per la seva tendència a afavorir jocs de poder uniformadors.
Per la seva banda, la concepció de la veritat desenvolupada per la IA, enunciada per sistemes suposadament dotats d’expertícia, no dóna lloc a oposicions. No per imposició, sinó per evidència, atès que es tracta d'un sistema cognitiu revelador que promet exercir el seu enginy de forma continuada, com mai abans. Aquesta veritat suposadament absoluta i objectiva és just el que Nietzsche denunciava. Potser el que s’esdevé, així, és la fi hegeliana de la Història. Hauríem arribat a l'era del saber absolut enunciada per Hegel. La veritat de la IA suposaria el compliment absolut del positivisme científic, és a dir, suposar que hi ha una resposta correcta per a cada cosa que ens ocorre. Amb tot això, el temor que ha de provocar-nos la IA no és el que l'associa amb el Golem, un ésser creat per nosaltres i amb capacitat d'autodestruir-nos. És, més aviat, a l'inrevés: es tracta d'un poder que ens ordena i controla com si nosaltres fóssim el Golem. Transmet, aquesta imatge, l'exaltació i adoració de la IA com una divinitat superior a la que sotmetre'ns. L'error fonamental, en qualsevol cas, ja va ser enunciat per Simone Weil: “fer que les coses exerceixin el nostre rol i nosaltres exercir el rol de les coses”. Aquesta seria l'arrel del mal a parer de Sadin.
Si atenem l'impacte que ha generat el telèfon intel·ligent en les nostres vides, podem observar com l'experiència quotidiana s'ha vist governada per aquests aparells de manera subreptícia. Les apps apareixen per a facilitar la nostra experiència quotidiana. Alleugereixen la vida de les persones oferint-los informació correcta. Avui disposem d'una app per a qualsevol cosa, des de lligar a muntar un moble. El següent pas, en aquest desenvolupament, és l'aparició de l'assistent personalitzat. El machine learning i la IA ho fan possible. Però aquestes interfícies conversacionals pretenen obtenir tota la informació possible dels nostres gustos i preferències per a redirigir el nostre desig. Més que conversa real, es tracta d'una experiència comercial utilitarista. No obstant això, en el futur, l'aspiració consistirà a suprimir la noció mateixa de comerç, per a passar a dispensar serveis. Es tracta de controlar totes les nostres decisions sota el principi hedonista del benestar. La “cura de si” (o cura de l'ànima) grega, que apuntava a una vida correcta i sana, és substituïda per les tecnologies de la veritat, que dissenyen el marc propici per a la nostra expansió. La tecnologia es converteix en la nostra guia de consciència, en prescriure'ns les conductes adequades. La bona vida aristotèlica se’ns posa a l'abast d'un clic. La IA ens indica, com un Crist en majestat, el camí correcte. La seva funció és capturar estímuls vinculats al nostre desig per a reproduir-los i governar-los. Deixem, d'aquesta manera, de ser responsables.
Seguint l’autor, ens instal·lem en l'àmbit laboral utilitarista, on proliferen els protocols normativitzats per a evitar la indecisió paralitzant. L'objectiu és fer més precises les decisions i optimitzar la gestió empresarial, gràcies a les noves tecnologies. Per a això, les empreses d'informàtica han desenvolupar programes cognitius, en els quals els algorismes eviten la subjectivitat en la presa de decisions, per exemple, a l'hora de seleccionar al personal. Malgrat tot, l'algorisme també discrimina: es prioritza la joventut, cossos dòcils i desproveïts de tota aspror. En l'àmbit de la justícia, les aplicacions tracten de preveure, més que de sentenciar. La seguretat consisteix a prevenir tota amenaça futura. Per a això, es val de la classificació de tipologies de conducta i comportaments desviats. En una justícia digitalitzada, desapareix el benefici del dubte. Amb la tecnificació de la justícia fem un pas més cap a l'obtenció de veritats objectives i indubtables. En el camp educatiu, la IA té com a funció personalitzar l'ensenyament. Per a poder complir amb el principi que “cadascun es mereix el que té dret a esperar”, la IA duu a terme “diagnòstics cognitius” amb els quals és possible fer perseverar en les seves característiques a cada alumne. Més que d’obrir-se a l’alteritat, del que es tracta és d'individualitzar l'aprenentatge. Per a això, es deixa en mans privades, segons criteris opacs, de les companyies digitals totes les dades dels menors, entusiàsticament. Les tecnologies de la veritat erradiquen l'ambigüitat. Es tracta de normativitzar, evitant allò subjectiu i divers, i arribant fins a l'expulsió del distint. D'aquesta manera, es duu a terme la reconsideració de tota relació amb la norma. El qüestionament de la norma caracteritzà a la filosofia des de Nietzsche en endavant. Avui això ja no és possible. Les característiques de les normes en els dispositius són: 1) funcionen de manera automàtica, sense requerir el nostre permís. 2) Interfereixen en un nombre creixent d'activitats individuals i col·lectives. 3) Se'ls atorga un valor suposadament objectiu, desproveït de tota intenció per a reportar-nos únicament beneficis per la seva eficàcia. D'aquesta manera, es justifiquen totes les normes que presenten una sola manera de definir la veritat. Amb tot això, ens priven de la nostra llibertat de decisió i atempten contra tota herència humanista en imposar un ordre unilateral i infundat.
Per l’autor, la IA ens erradicarà simbòlicament i efectiva desposseint-nos de la nostra facultat de forjar una composició lliure amb el real. Sadin ens adverteix que s'equivoca qui pensi que la IA només s'aplicarà en camps limitats. Es desplegarà com a resultat de l'afany per aconseguir un món perfecte. El millor dels mons possibles leibnizià es consumaria gràcies als càlculs fets per màquines lliurades a l'exercici d'una veritat sistemàtica que, en paraules de Hannah Arendt, esdevé tirànica perquè: “les afirmacions, una vegada percebudes com a veritables i declarades com a tals, tenen en comú estar més enllà de l'acord, de la discussió, de l'opinió o del consentiment. Quan se la considera des del punt de vista de la política, la veritat té un caràcter despòtic”.
L’erradicació de l’ésser humà i la seva previsible substitució per la màquina en el món productiu deriva de la lògica de l’eficàcia. En la comparativa amb la màquina, l’home no és rival. El problema és que aquesta conclusió comporta un canvi en la finalitat que segueix el desenvolupament de la tècnica. Aquesta, deixa de ser el producte de la intel·ligència humana per convertir-se en l'instrument amb el qual el món industrial aconsegueix que l'home s'adapti a les seves exigències i respongui als seus interessos. La sentència de Simone Weil, esmentada anteriorment, és més a prop que mai de ser realitat, amb l’agreujant de la desaparició de l’alteritat, que motiva gran part de les nostres accions. Restem reduïts a mers engranatges d’una cadena impersonal, la baula feble i substituïble del sistema. La comparatologia, en el context de la lliure competència mercantilista, legitima l’intercanviabilitat de l’home per la màquina. Aquesta antropologia del comparatiu presenta el clímax de la relació utilitarista amb el real. La utilitat, que dona un valor a cada cosa i ésser segons el benefici optimitzador, preval sobre qualsevol altre principi, inclòs el de la dignitat humana. Aquesta nova racionalitat tecnoeconòmica liquida, així, el principi jurídic-polític de la singularitat irreductible de cada ésser. Ja no som ni únics, ni especials.
La màxima, que assumeix el marc mental del libertarisme polític, diu que si és possible i optimitza el rendiment econòmic, incrementant el benefici del capital, la innovació tecnològica es durà a la pràctica. El tecnoliberalisme s’allibera de totes les cotilles morals i de tots els mecanismes reguladors, fent saltar pels aires el món del comerç tradicional, donant total protagonisme al subjecte que esdevé empresari de sí mateix, el qual entra en relació d’intercanvi directe amb altres emprenedors, en una sort d'economia de productor-consumidor en la qual els objectes interconnectats per la IA es converteixen en actors de les transaccions. El somni del liberalisme econòmic es converteix en el malson tecnolibertari: és imperatiu que trobem i executem l'oportunitat més aprofitable indefinidament. En l'era del comparatiu i de la posada integral en relació de tot amb tot, on la totalitat s'ajusta i sincronitza per mitjà de mecanismes que actuen per si mateixos, es fa realitat el dogma de la mà invisible que ens condueix al millor dels mons possibles, encara que sigui en forma de paradís artificial. El problema és que, d’aquest paradís, també serem inevitablement expulsats.
Si cada època es defineix per un fenomen clau, l’època postmoderna ve marcada per la generalització de l’oci i l’esbarjo. Les possibilitats d’optimització de l’experiència per implementar aquest esbarjo que ens ofereix la IA, com a eina que coneix i interpreta el nostre desig millor que nosaltres mateixos, converteix el desenvolupament d’aquesta tecnologia en la pitjor amenaça de l’humanisme, mentre segueix emetent els seus cants de sirena del somni idealitzat de la societat feliç, on business i esbarjo confonen els seus límits. En aquesta confusió, l’entorn digital elimina tot allò humà que ens envolta, substituint-ho per sensacions impostades que prometen benestar. La indústria digital competeix entre si per a isolar-nos i allunyar-nos dels altres éssers humans. Ens convertim així en fantasmes, a la recerca de l’instant únic, el moment més òptim possible en la cadena d’esdeveniments, on les noves tecnologies que ens ofereixen tot tipus de serveis ocupen la totalitat del camp de batalla, afavorint la interconnexió total. Amb les noves tecnologies, es produeix un canvi d’estatut en la noció de poder: afavoreix un tipus de poder consistent a administrar-nos la vida i fer previsió. Passem del fetitxisme de la mercaderia al fetitxisme de l'instant millor governat. Això dóna lloc a una humanitat maternitzada, tele-guiada des de servidors que suposa una regressió civilitzatòria. Què apreciem en aquesta rendició? L'augment de la nostra sensació de confort i seguretat. Si les màquines ens l’atorguen, estem disposats a cedir-los el control de les nostres vides. Més que control, concedim influx a aquestes tecnologies, fins al punt de fer-les imprescindibles per a l'ordenament de les nostres vides. Ens ofereix a cadascú el millor al què tenim dret a esperar, harmonitzant les necessitats i desitjos personals amb el millor ordre comú possible. Fa, així, realitat l'Estat Universal de Kojève, on la vida col·lectiva coincideix amb la vida personal. L’anhel de la millor optimització possible modela la nostra existència sense la coacció de l'autoritat; ens tranquil·litza i afalaga mentre ens xucla la sang. Com un vampir benvolent, ens deixa la iniciativa al mateix temps que es presenta com el dispositiu que millor organitza la nostra experiència. D'aquesta manera, substituïm el temor, l'obligació i l'autoritat tradicional del poder per una figura quadrilògica que conjuga subtilesa suggestiva, poder interpretatiu, constatació de l'evidència i satisfacció. El seu influx és tal que mai està realment enfront de nosaltres per a saber de què es tracta.
L’optimització de l’experiència d’un mateix amb les eines digitals es tradueix en un domini creixent sobre el real, fins a la completa desaparició de la seva condició mistèrica. La tecnologia digital alimenta la nostra ambició per desplaçar tot límit. Els implants intercerebrals en els quals avui s'investiga, persegueixen la creació d'interfícies cervell-computadora, amb vista a augmentar la nostra capacitat cerebral, per a poder competir amb les IAs. Igualment, tals implants augmentarien la nostra capacitat de coneixement fins al punt de destruir el concepte d’alteritat, permetent-nos “sentir” el que és ‘ser un altre’. La intenció és la d'erradicar tota negativitat. Paral·lelament, es desenvolupen les tecnologies de la perfecció, és a dir, IAs amb capacitat d'aprenentatge, que generen una percepció superior que impliqui que la nostra percepció actual del real es pugui entendre com a mera simulació. Es persegueix, en qualsevol cas, l'abolició de tota distància amb el real. Així es podrà superar l'esforç meditatiu cartesià per fer-se amb les eines correctes per a la comprensió del real. La comprensió requereix distància. Però la IA no vol comprendre; vol el sotmetiment del real, il·luminar-ho tot, eliminant tota separació que ho impossibiliti. Nietzsche va criticar la voluntat racionalista de voler donar raó de tot, que conduïa, segons ell, a la negació de la complexitat irreductible del real, aquest fons instintiu i irracional que també ens defineix. En voler dotar-nos del domini sobre tot el real hauríem arribat a desfer-nos de nosaltres mateixos, de les nostres facultats. Si bé l'ús de la raó ens protegeix de l'atzar, ens incapacita, d'altra banda, per a donar compte de fenòmens com l'amor, l'amistat, etc. tal com li succeeix a Plató en els seus diàlegs. En l'horitzó de la racionalitat absoluta està la desaparició de totes les vulnerabilitats, la superació de la fragilitat humana. Però la nostra condició és el ser vulnerable, just el que ens fa actius, segons Aristòtil.
La superació de tots els límits ha governat els canvis que han caracteritzar la nostra relació amb les tecnologies digitals des del 2010 fins avui. Originàriament, el cercador Google -avui ja superat per les IAs- tenia la intenció de “organitzar tota la informació del món”. La seva ambició era totalitzadora. D'aquesta mateixa pulsió són fills les xarxes socials, que van normalitzar el narcisisme, i l'addicció a les pantalles, fins convertir-nos en tecnoadictes. Aquestes transformacions també van provocar l'ambició per erradicar la mort i l’aparició del transhumanisme, consistent a amplificar la capacitat cerebral mitjançant la seva connexió amb xips de silici, practicats pels magnats de Silicon Valley. La percepció, a escala planetària, es va veure alterada per la vigilància digital. Neix, així, la consciència de la seguretat i protecció de les dades personals i la preocupació per la privacitat. Es tracta, però, de salvaguardar la intimitat del subjecte, en ares a preservar la seva llibertat individual, seguint els preceptes del liberalisme. No preocupa pas, sinó que es veu com una concessió necessària, la reculada de la privacitat i la llibertat en l'àmbit social i empresarial. S'assumeix com a pagament per sostenir l'impuls de l'economia de les dades. Això és així perquè, des del seu origen, el liberalisme concep l'Estat de Dret com la garantia de la propietat privada i del lliure mercat. A la doxa liberal s'afegeix, ara, la iconoclàstia llibertària. Tots junts, compinxats amb l'economia de dades, treballen per a instaurar l’antihumanisme. Així, institucions que defensen suposadament la llibertat, col·laboren a instaurar un model econòmic i civilitzatori indigne, consistent a preservar la mesquina petita llibertat personal. La protecció exclusiva de la vida privada, mentre es renuncia als drets col·lectius, és un signe de l'egoisme generalitzat de l'època. A canvi de garantir la llibertat individual es renuncia al control sobre les formes d'organització social induïdes per sistemes automàtics, i a la vigilància sobre les seves lògiques de poder. D'aquesta manera, s'accepta l'alienació i l'existència d'una esfera estatal separada de la col·lectivitat, amb capacitat per imposar un major control d’acció sobre l’espai comú. Aquesta renúncia es sustenta sobre el principi que tot coneixement científic és bo, i tot progrés tècnic també. Ja no és possible esperar moviments de consciència i vigilància per part dels qui treballen en els desenvolupaments tècnics. Per part seva, els sociòlegs i altres científics socials s'han convertit en campions de la xarlataneria: els seus estudis són explotats per marques i agències de màrqueting. Més que l'anàlisi de l'ús de pàgines com Facebook, el que convé analitzar són les intencions dels qui les conceben, o quines són les motivacions reals dels influencers que les promouen. L’autor denuncia que aquests sociòlegs estan a sou de les grans empreses tecnològiques. Reclama, coherentment, una reflexió sobre la digitalització del món i les seves conseqüències. El nostre deure és captar la radicalitat de les mutacions que comporten canvis civilitzatoris, els engranatges dels quals ens costa detectar. El que està en joc és la preservació de la nostra autonomia de “judici” i el principi kantià del “sapere aude”. Més que l'ètica mesquina sobre el control de les dades, hem de promoure una ètica de la responsabilitat que ataqui la pèrdua d'humanitat i de civilització que representen la IA i la digitalització. És a Hans Jonas, i el seu principi de responsabilitat, a qui s'ha d'invocar.
La qüestió s'acostuma a presentar com un debat entre tecnofílics i tecnofòbics. Aquest antagonisme se centra en els objectes, les innovacions tecnològiques, quan el que hauríem de discutir és la relació que tenim amb ells i amb les intencions que els motiven. S'assumeix com a vàlida l’essencialització de la tècnica, sense entrar a valorar com la tècnica s'ha convertit en el punt de suport per a la implantació de les lògiques econòmiques, socials i polítiques. El desacord, per tant, no és respecte a les eines que s'usen, sinó respecte a l'esperit de la tècnica i a la racionalització instrumental que comporta, que sembla avui imperant i inqüestionable. Per l’autor, l'oposició a aquesta racionalitat ha de ser, doncs, un acte ètic i polític. L'objectiu ètic és construir un món comú que es basi en l'axioma cardinal de “no danyar a ningú”. Es tracta de passar d'una tècnica que fa de l'ésser humà un ésser superflu, a la d'un ésser amb infinitat de virtualitats i potencialitats. Passem, d'aquesta manera, de l'utilitarisme a l'humanisme, o de l'esclavitud d'una racionalitat instrumental que persegueix suplir-nos a la reposició de la dignitat de la condició humana kantiana. El que Sadin ja no és capaç de perfilar amb claredat, almenys en aquest assaig pioner del 2018, és l’actuació a seguir per restituir la responsabilitat i la dignitat en la nostra relació amb les tecnologies digitals. Més enllà de la crítica saludable a la utopia tecnològica, proposa el que anomena «transformacions silencioses», consistents en engendrar llaços vivents i irreversibles amb els quals auto-constituir la societat, en la línia reivindicada per Cornelius Castoriadis. Trasllada a cadascú el compromís de responsabilitzar-se sobre les regles que presideixen les nostres vides. Demana evitar accions estèrils, com els esclats d'indignació que van seguits de períodes d'apatia, on les elits aprofiten per a estendre l'aliança entre la indústria del digital, el món de la recerca i el poder polític. La transformació social comença per la resignificació del treball, reinstaurant la dignitat i la creativitat amb iniciatives basades en el principi de cooperació i la reivindicació de la feina artesanal, per oposar-se als processos de despersonalització vigents. Per afavorir el canvi, cal qüestionar els models pedagògics que denigren les humanitats en favor d’ensenyaments tecnològics i utilitaristes, mentre que a nivell polític, proposa una democràcia basada en el dret i el deure d'experimentar i construir ‘zones a defensar’, sense concretar-les . Amb tot això, es vol afavorir el desplegament de cadascun i el respecte a la pluralitat, tal com proposa l'humanisme, que ens crida a conrear les nostres capacitats per a esdevenir amos dels nostres destins. No sembla, però, a tenor de l’evolució que el poder de la IA ha assolit en els darrers anys, que aquesta crida a assumir el control sobre la pròpia capacitat d’acció de la persona hagi estat reeixida. A hores d’ara, seguim embarcats en la nau digital que navega cap al port on trobar el miratge de la rèplica omnipotent de nosaltres mateixos, menyspreant els corrents profunds que amenacen amb provocar el nostre naufragi civilitzatori. L’assaig de Sadin cartografia aquests corrents, però no ens ofereix una ruta alternativa prou segura. El que sí ens hauria de quedar clar, després de llegir-lo, és que no ens convé demanar-li a la IA aquest nou trajecte guaridor alternatiu.
1Éric Sadin, L’intelligence artificielle ou l’enjeu du siècle. Anatomie d’un antihumanisme radical, Éditions L’Échapée, París, 2018. Hi ha traducció al castellà: Éric Sadin, La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical. Ed. Caja Negra, Buenos Aires, 2020.
