Per què hi ha una allau d'alertes i por a la intel·ligència artificial?

BarcelonaEls últims dies, fins i tot els principals representants de la intel·ligència artificial (IA), d'Open AI a Anthropic, Space X o Google, han alertat sobre els riscos d'una tecnologia que, adverteixen, pot acabar dominant els humans. "Hi ha una genuïna preocupació pels models que es fan comuns i no s’han pogut provar gaire i es poden fer barbaritats", afirma Esteve Almirall, professor d'Esade especialista en dades, analytics, tecnologia i IA. En aquest context, un cop Open AI, la creadora del ChatGPT, ha decidit retardar la seva sortida a borsa per fer una mena de pausa en el creixement, hi ha qui veu el temor a un càstig estratosfèric al mercat si alguna de les eines existents es veu immersa en alguna malifeta. Algunes d'aquestes companyies tenen valoracions que superen el producte interior brut (PIB) de països com Alemanya (més de cinc bilions) i una reacció negativa significaria una desfeta gairebé sense precedents donat que no hi ha hagut mai empreses amb aquests preus, adverteix Josep Soler, fundador i conseller executiu d'EFPA Espanya (Associació Espanyola d'Assessors i Planificadors Financers). "Les enormes valoracions que s'han fet d'aquestes companyies es desplomarien en cas que se'ls perdés la confiança", afegeix. Llegeix-lo tot El vessant dels riscos L'enginyer britànic d'Anthropic Jacob Coxon, que també havia treballat per a OpenAI, es va fer popular fa uns dies al presentar la seva dimissió mentre alertava que les dues companyies "no estan actuant amb responsabilitat" i estan "jugant amb les nostres vides". En un fil al seu compte d'X va advertir que les persones que estan darrere del desenvolupament exponencial de la IA "creuen que ens podrà matar a tots al final d'aquesta dècada". No van trigar a sumar-se a les alertes els principals representants de les companyies, entre ells, el conseller delegat d'Anthropic. Dario Amodei va demanar en una carta pública que es redueixi el ritme al qual s'estan millorant les capacitats dels models d'IA. Segons va dir, actualment la tecnologia s'està movent cap a una dinàmica d'autoperfeccionament recursiu" que amenaça amb causar catàstrofes de ciberseguretat a escala mundial. Tot i que actualment la IA necessita que l'ésser humà la dirigeixi amb bons propòsits o dolents, no es descarta que en un futur pugui prendre decisions i actuar autònomament. O que se'n faci un ús pervers. Anthropic, per exemple, va descobrir que els houthis del Iemen van fer servir la seva eina Claude –pagant amb targeta de crèdit, com qualsevol usuari– per dirigir els seus míssils contra drons. I hi ha eines barates i molt potents que es poden incloure en un mac de 1.000 euros com Qwen, del gegant xinès Alibaba, amb les quals es pot entrar en sistemes sanitaris o financers amb escletxes o forats d'entrada o fer-ne altres usos perversos, avisa Almirall. Existeix preocupació per aquests models oberts, molt potents, que qualsevol narco, terrorista o extorsionador es pot muntar a l'ordinador i es fa difícil trobar-los o aturar-los, afegeix. El vessant geopolític Els representants de l'oligopoli de la IA als EUA reclamen regular-la. És una cosa per la qual també aposta l'ala més esquerrana del Partit Demòcrata, amb Bernie Sanders al capdavant. I també es defensa la creació d'una mena d'organisme internacional per supervisar-ne l'activitat i donar una mena de segell de qualitat. Al juliol, 29 països van signar a Shanghai un acord per crear la World Artificial Intelligence Cooperation Organization, una organització intergovernamental destinada a impulsar la cooperació internacional i la governança de la IA. El president dels Estats Units, Donald Trump, s'hi oposa i prioritza barrar el pas a la Xina en la carrera de la IA i, per tant, que les grans tecnològiques dels EUA continuïn amb la seva carrera sense tenir en compte altres qüestions, com amb la cursa per dominar l'espai. A Pequín, en canvi, li interessa una iniciativa d'aquesta mena, que li permetria operar fins i tot als EUA, afirma Almirall. El ministre xinès de Seguretat de l’Estat, Chen Yixin, ha reclamat la creació d’una "barrera de seguretat" per a la IA i l'ha situada com un dels principals camps de la competició tecnològica global. Alhora ha advertit dels riscos que comporta el seu desenvolupament accelerat. La potència asiàtica, que està forjant una ruta de la seda tecnològica que passa per Àfrica i Sud-america, veu en la IA una altra oportunitat de consolidar-se com a potència, com va passar amb el 5G i el rol de Huawei. Als líders d'OpenAI o Anthropic, per la seva banda, el que els agradaria és que hi hagués barreres d'entrada al negoci, no només per als xinesos, sinó per a altres companyies i iniciatives dels mateixos EUA per mantenir el seu domini del mercat, afirmen els experts. Es tractaria de limitar la competitivitat dels nous entrants i de convertir en un oligopoli el negoci de la IA. El vessant dels diners La carrera de la IA és intensiva en consum de recursos financers. Almirall afirma que "aquesta hipercompetició minva molt els beneficis empresarials, i cal pagar-la. De fet, s'han de fer models cada sis mesos que ningú pot amortitzar". A més de la via de la borsa, que Open AI ja ha retardat a l'any que ve, les grans tecnològiques, conscients que calen recursos gegantins, estan encapçalant la captació de fons als mercats, amb més de 600.000 milions de dòlars, a través d'emissions de deute perquè no es volen quedar sense diners a la caixa. Aquest, de fet, no ha estat l'únic factor, però sí un dels que han contribuït a elevar la rendibilitat que els inversors exigeixen en els darrers temps als bons dels estats, que han de pagar més per captar finançament i fer perdre atractiu a les emissions de les grans tecnològiques. "Aquestes companyies, amb valoracions sense precedents basades en expectatives gairebé il·limitades, són les que estan dominant els mercats de capitals", avisa Soler. Aquests valors són els que, en cas de notícies negatives o que n'afectin la reputació, poden provocar un terratrèmol borsari.