Des dels salons acadèmics de Sciences Po a París, on el 16 de setembre de 2026 el reconegut expert en intel·ligència artificial Yann LeCun va evocar la figura de James Bond per il·lustrar un escenari de ciberatac massiu orquestrat per agents d’IA, fins a les seves reflexions en entrevistes globals, una visió persistent impregna el discurs sobre el futur de la IA: l’optimisme. LeCun, una de les veus més influents en el camp, sosté amb fermesa que, davant la creixent sofisticació dels agents d’intel·ligència artificial, la balança s’inclina a favor de la defensa. La seva confiança no resideix només en les capacitats tecnològiques superiors que, segons ell, els defensors ja posseeixen, sinó també en una fe profunda en la naturalesa humana i la capacitat de les organitzacions per gestionar els riscos.
Aquesta perspectiva, que atribueix als agents d’IA la capacitat d’enfortir les nostres defenses contra ciberamenaces cada cop més complexes, es manifesta també en la seva anàlisi del risc biològic. LeCun subratlla la magnitud dels recursos necessaris per fabricar un agent patogen i, més crucialment, les motivacions dels especialistes. Argumenta que els experts en la matèria tindrien perspectives professionals i ètiques molt més atractives que dedicar-se a la creació de virus letals. Aquesta visió, tan arrelada en la premissa de la bondat intrínseca de l’ésser humà, malgrat la seva solidesa tècnica en el camp de la seguretat dels sistemes, obre un debat fonamental sobre la fiabilitat de les decisions humanes i la resiliència de les organitzacions davant circumstàncies que, per la seva pròpia naturalesa, sovint són imprevistes o mal avaluades.
La Confiança en la Humanitat i les Solucions d’Enginyeria
L’optimisme de Yann LeCun no és merament teòric; es recolza en una convicció explícita i reiterada sobre la bondat fonamental de les persones. En una entrevista amb Lex Fridman, publicada el març de 2024, LeCun va afirmar creure que les persones són «fonamentalment bones«, vinculant el pessimisme sobre la IA amb una desconfiança subjacent cap als individus o les institucions. Ja el 2023, en una conversa amb The Hub, havia defensat que els actors benintencionats disposarien de més mitjans i que els usuaris rebutjarien naturalment les màquines perilloses. La seva lògica és directa: si la tecnologia prengués un mal rumb, «simplement parem», va explicar amb una simplicitat que, per a molts, sembla subestimar la inèrcia dels sistemes complexos.
Més enllà de la fe en la humanitat, LeCun proposa respostes d’enginyeria concretes per mitigar els riscos de la IA. Amb Lex Fridman, va descriure una IA guiada per objectius que integra salvaguardes robustes des del seu disseny. Reconeix que els comportaments imprevistos es produiran, però preveu una millora progressiva de les proteccions a mesura que els sistemes aprenguin i s’adaptin. Aquesta ambició va ser represa en la ressenya de la seva conversa a l’INSEAD, publicada el 14 de setembre de 2026, on es va destacar la importància d’anticipar les conseqüències de les accions mitjançant models del món i d’integrar restriccions en la presa de decisions. Posteriorment, a Fortune, the’1 d’octubre, va atribuir els incidents a defectes de disseny i de supervisió, que considera completament evitables. Aquestes investigacions proporcionen una base tècnica sòlida al seu optimisme, tot i que deixen obertes les condicions col·lectives per al seu èxit.
La Fragilitat Col·lectiva i les Lliçons de la Història Industrial
Malgrat la solvència tècnica de les propostes de LeCun, la història ens recorda que la fiabilitat dels sistemes no depèn únicament de la perfecció del seu disseny o de la bona voluntat dels seus operadors. La qüestió es torna més complexa quan s’analitzen les condicions col·lectives que poden conduir a fallades. Un usuari pot desitjar una eina útil sense ser plenament conscient dels seus perills inherents. Una direcció corporativa pot dubtar a interrompre una activitat lucrativa, fins i tot davant de senyals d’alerta. Diversos equips, operant de manera independent, poden compartir una hipòtesi errònia que es reforça mútuament. El problema, doncs, comença molt abans de la malícia; de vegades, n’hi ha prou amb que cadascú confiï en una protecció els límits de la qual ningú ha verificat col·lectivament. Aquesta dinàmica pot, en última instància, obrir un abisme democràtic en la gestió del risc, on la confiança cega substitueix l’escrutini crític.
La història industrial, amb la seva escala de gravetat diferent de l’extinció global, ofereix lliçons contundents. L’explosió de la fàbrica AZF a Toulouse on 2001 no només va afectar la instal·lació, sinó que va impactar profundament una ciutat sencera, molt més enllà del perímetre de la planta. Els estudis de salut pública han documentat àmpliament les seves devastadores conseqüències sobre la salut i la vida personal, familiar i professional dels habitants. Un accident local, per tant, pot causar danys duradors que superen amb escreix l’àmbit de l’organització on es va originar. Aquests precedents no mesuren directament el risc inherent a la IA, però serveixen com a recordatori punyent del cost d’una manca d’anticipació, fins i tot en sectors on treballen especialistes en seguretat altament qualificats.
Un exemple encara més il·lustratiu és l’accident de Fukushima on març de 2011. L’anàlisi dels factors humans i organitzatius realitzada per l’informe de l’OIEA va descriure com els actors implicats van reforçar mútuament les seves premisses de seguretat. Aquestes conviccions compartides, fruit d’una confiança excessiva en el sistema existent, van impedir una preparació adequada per a la catàstrofe. La pròpia confiança en la robustesa del sistema es va convertir en part del problema, il·lustrant la complexitat de la interacció entre la tecnologia, l’organització i la psicologia humana. A mesura que la intel·ligència artificial es difon de manera exponencial en tots els àmbits de la societat, cal partir del principi que es produiran accidents greus i que la nostra prioritat ha de ser reduir tant la seva probabilitat com el seu abast. La capacitat de corregir els errors a posteriori, per si sola, no respon a la qüestió dels danys irreparables soferts mentre tant, i ens obliga a una reflexió profunda sobre els pilars del diàleg polític i jurídic en l’era digital, com la memòria i la lectura de les lliçons del passat.
En definitiva, si bé l’optimisme de figures com Yann LeCun és vital per impulsar la innovació i el desenvolupament de la IA, és imperatiu complementar-lo amb una visió més matisada dels riscos sistèmics i humans. La fe en la bondat humana i la superioritat de la defensa tecnològica són pilars importants, però no poden eclipsar la necessitat d’abordar les complexitats de la decisió col·lectiva, les fallades organitzatives i la inercia institucional. La història ens ha mostrat repetidament que la catàstrofe pot emergir no de la malícia, sinó de la suma de petites confiances no verificades i d’una manca d’anticipació col·lectiva. El futur de la IA, per tant, no només dependrà de la brillantedat dels seus dissenyadors, sinó de la nostra capacitat col·lectiva per construir sistemes que siguin resilients no només tècnicament, sinó també humanament i organitzativament, acceptant que l’error és una possibilitat inherent i que la vigilància constant és el preu de la seguretat en un món cada cop més automatitzat.
