El desenvolupament tecnològic no només condicionarà la nostra forma d’organització social sinó que també plantejarà dilemes ètics de difícil resolució. Els avenços de la intel·ligència artificial poden generar nous reptes globals difícils de resoldre.
Cada cop més, es parla i es practiquen noves tècniques que tindran grans conseqüències sobre les persones com són:
- El “tecnohumanisme” que consisteix en la superació dels límits biològics mitjançant la fusió del cos amb màquines.
- L’ús de màquines intel·ligents amb capacitat per a substituir a les persones i no només en treballs físics i repetitius.
- La possibilitat d’actuar genèticament sobre la salut de les persones o , fins i tot, per aturar l’envelliment.
No es tracte tan sols d’avenços que poden millorar la vida de l’home sinó que a més a més poden generar molts canvis socials (per exemple, més envelliment de la població) i fins i tot plantejar variats dilemes ètics (per exemple, el que es coneix com disparitat: costosos tractaments per a no envellir o per a no morir, només a l’abast d’uns pocs fins que es democratitzin).
Deixar la solució d’aquests dilemes a la mà invisible del mercat produiria una bretxa biològica important entre grups de persones i podria conduir-nos altre cop a idees que semblarien ja oblidades com la dels “superhomes” (Yuval Noah).
Quant a la intel·ligència artificial (IA), a més dels seus innegables avantatges, tampoc hauríem de menysprear els seus perills potencials atesa la possibilitat que a través de l’auto aprenentatge, els ordinadors arribin a crear algoritmes de decisió més potents que els dels humans (súper intel·ligència),el que podria, teòricament, conduir a que aquestes màquines arribessin inclús a tenir interessos contraposats als de les persones.
Quan l’Elon Musk, fundador de Paypal i Tesla, va dir que desenvolupar la IA era “invocar al diable” es referia al temor, compartit amb altres persones rellevants com Stephen Hawking o Bill Gates, dels riscos d’aquesta tecnologia sobre el futur de la raça humana.
El premi Nobel de física del 2006, John Mather, ha declarat recentment que “algunes persones creuen que podem controlar-los (els ordinadors), però és com voler controlar el temps. És quelcom que ens supera”.
El quid de la qüestió està, segons el meu parer, en la resposta a les següents qüestions:
- Qui controlarà a aquestes súper intel·ligències? Seran els governs, les empreses o els ciutadans. Per a que siguin aquests darrers és imprescindible que la IA es desenvolupi en un entorn democràtic i transparent.
- Quines relacions s’establirien entre els homes i aquestes súper intel·ligències? La resposta a aquesta pregunta està estretament relacionada amb el punt anterior i allò que fora desitjable serien relacions de col·laboració o complementarietat entre ambdós tipus d’intel·ligència, i sempre sota el control dels humans.
En resum, es produeixi o no la singularitat tecnològica (pronosticada per alguns científics al voltant del 2045), és evident que les noves tecnologies canviaran de forma important no només la nostra forma de vida sinó també les actuals estructures d’organització social, el que pot representar un repte global (mundial) de primera magnitud difícil de controlar per estructures de govern d’àmbit local.
