{"id":2588,"date":"2026-10-23T01:52:02","date_gmt":"2026-10-22T23:52:02","guid":{"rendered":"https:\/\/diarimataro.com\/?p=2588"},"modified":"2026-10-23T01:50:11","modified_gmt":"2026-10-22T23:50:11","slug":"loptimisme-tecnologic-de-lecun-davant-les-ombres-de-la-complexitat-collectiva-en-lera-de-la-ia","status":"publish","type":"post","link":"https:\/\/diarimataro.com\/en\/opinio\/loptimisme-tecnologic-de-lecun-davant-les-ombres-de-la-complexitat-collectiva-en-lera-de-la-ia\/","title":{"rendered":"LeCun's Technological Optimism Facing the Shadows of Collective Complexity in the Era of AI"},"content":{"rendered":"
\"L'Optimisme<\/figure>\n\n\n<\/p>

Des dels salons acad\u00e8mics de Sciences Po<\/strong> a Par\u00eds, on el 16 de setembre de 2026<\/strong> el reconegut expert en intel\u00b7lig\u00e8ncia artificial Yann LeCun<\/strong> va evocar la figura de James Bond<\/strong> per il\u00b7lustrar un escenari de ciberatac massiu orquestrat per agents d’IA, fins a les seves reflexions en entrevistes globals, una visi\u00f3 persistent impregna el discurs sobre el futur de la IA: l’optimisme. LeCun, una de les veus m\u00e9s influents en el camp, sost\u00e9 amb fermesa que, davant la creixent sofisticaci\u00f3 dels agents d’intel\u00b7lig\u00e8ncia artificial, la balan\u00e7a s’inclina a favor de la defensa. La seva confian\u00e7a no resideix nom\u00e9s en les capacitats tecnol\u00f2giques superiors que, segons ell, els defensors ja posseeixen, sin\u00f3 tamb\u00e9 en una fe profunda en la naturalesa humana i la capacitat de les organitzacions per gestionar els riscos.<\/p><\/p>

Aquesta perspectiva, que atribueix als agents d’IA la capacitat d’enfortir les nostres defenses contra ciberamenaces cada cop m\u00e9s complexes, es manifesta tamb\u00e9 en la seva an\u00e0lisi del risc biol\u00f2gic. LeCun subratlla la magnitud dels recursos necessaris per fabricar un agent patogen i, m\u00e9s crucialment, les motivacions dels especialistes. Argumenta que els experts en la mat\u00e8ria tindrien perspectives professionals i \u00e8tiques molt m\u00e9s atractives que dedicar-se a la creaci\u00f3 de virus letals. Aquesta visi\u00f3, tan arrelada en la premissa de la bondat intr\u00ednseca de l’\u00e9sser hum\u00e0, malgrat la seva solidesa t\u00e8cnica en el camp de la seguretat dels sistemes, obre un debat fonamental sobre la fiabilitat de les decisions humanes i la resili\u00e8ncia de les organitzacions davant circumst\u00e0ncies que, per la seva pr\u00f2pia naturalesa, sovint s\u00f3n imprevistes o mal avaluades.<\/p><\/p>

La Confian\u00e7a en la Humanitat i les Solucions d’Enginyeria<\/h3><\/p>

L’optimisme de Yann LeCun<\/strong> no \u00e9s merament te\u00f2ric; es recolza en una convicci\u00f3 expl\u00edcita i reiterada sobre la bondat fonamental de les persones. En una entrevista amb Lex Fridman<\/strong>, publicada el mar\u00e7 de 2024<\/strong>, LeCun va afirmar creure que les persones s\u00f3n \u00abfonamentalment bones<\/strong>\u00ab, vinculant el pessimisme sobre la IA amb una desconfian\u00e7a subjacent cap als individus o les institucions. Ja el 2023<\/strong>, en una conversa amb The Hub<\/strong>, havia defensat que els actors benintencionats disposarien de m\u00e9s mitjans i que els usuaris rebutjarien naturalment les m\u00e0quines perilloses. La seva l\u00f2gica \u00e9s directa: si la tecnologia prengu\u00e9s un mal rumb, \u00absimplement parem\u00bb, va explicar amb una simplicitat que, per a molts, sembla subestimar la in\u00e8rcia dels sistemes complexos.<\/p><\/p>

M\u00e9s enll\u00e0 de la fe en la humanitat, LeCun proposa respostes d’enginyeria concretes per mitigar els riscos de la IA. Amb Lex Fridman<\/strong>, va descriure una IA guiada per objectius que integra salvaguardes robustes des del seu disseny. Reconeix que els comportaments imprevistos es produiran, per\u00f2 preveu una millora progressiva de les proteccions a mesura que els sistemes aprenguin i s’adaptin. Aquesta ambici\u00f3 va ser represa en la ressenya de la seva conversa a l’INSEAD<\/strong>, publicada el 14 de setembre de 2026<\/strong>, on es va destacar la import\u00e0ncia d’anticipar les conseq\u00fc\u00e8ncies de les accions mitjan\u00e7ant models del m\u00f3n i d’integrar restriccions en la presa de decisions. Posteriorment, a Fortune<\/strong>, the\u20191 d’octubre<\/strong>, va atribuir els incidents a defectes de disseny i de supervisi\u00f3, que considera completament evitables. Aquestes investigacions proporcionen una base t\u00e8cnica s\u00f2lida al seu optimisme, tot i que deixen obertes les condicions col\u00b7lectives per al seu \u00e8xit.<\/p><\/p>

La Fragilitat Col\u00b7lectiva i les Lli\u00e7ons de la Hist\u00f2ria Industrial<\/h3><\/p>

Malgrat la solv\u00e8ncia t\u00e8cnica de les propostes de LeCun<\/strong>, la hist\u00f2ria ens recorda que la fiabilitat dels sistemes no dep\u00e8n \u00fanicament de la perfecci\u00f3 del seu disseny o de la bona voluntat dels seus operadors. La q\u00fcesti\u00f3 es torna m\u00e9s complexa quan s’analitzen les condicions col\u00b7lectives que poden conduir a fallades. Un usuari pot desitjar una eina \u00fatil sense ser plenament conscient dels seus perills inherents. Una direcci\u00f3 corporativa pot dubtar a interrompre una activitat lucrativa, fins i tot davant de senyals d’alerta. Diversos equips, operant de manera independent, poden compartir una hip\u00f2tesi err\u00f2nia que es refor\u00e7a m\u00fatuament. El problema, doncs, comen\u00e7a molt abans de la mal\u00edcia; de vegades, n’hi ha prou amb que cadasc\u00fa confi\u00ef en una protecci\u00f3 els l\u00edmits de la qual ning\u00fa ha verificat col\u00b7lectivament. Aquesta din\u00e0mica pot, en \u00faltima inst\u00e0ncia, obrir un abisme democr\u00e0tic en la gesti\u00f3 del risc<\/a>, on la confian\u00e7a cega substitueix l’escrutini cr\u00edtic.<\/p><\/p>

La hist\u00f2ria industrial, amb la seva escala de gravetat diferent de l’extinci\u00f3 global, ofereix lli\u00e7ons contundents. L’explosi\u00f3 de la f\u00e0brica AZF<\/strong> a Toulouse<\/strong> on 2001<\/strong> no nom\u00e9s va afectar la instal\u00b7laci\u00f3, sin\u00f3 que va impactar profundament una ciutat sencera, molt m\u00e9s enll\u00e0 del per\u00edmetre de la planta. Els estudis de salut p\u00fablica han documentat \u00e0mpliament les seves devastadores conseq\u00fc\u00e8ncies sobre la salut i la vida personal, familiar i professional dels habitants. Un accident local, per tant, pot causar danys duradors que superen amb escreix l’\u00e0mbit de l’organitzaci\u00f3 on es va originar. Aquests precedents no mesuren directament el risc inherent a la IA, per\u00f2 serveixen com a recordatori punyent del cost d’una manca d’anticipaci\u00f3, fins i tot en sectors on treballen especialistes en seguretat altament qualificats.<\/p><\/p>

Un exemple encara m\u00e9s il\u00b7lustratiu \u00e9s l’accident de Fukushima<\/strong> on mar\u00e7 de 2011<\/strong>. L’an\u00e0lisi dels factors humans i organitzatius realitzada per l’informe de l’OIEA<\/strong> va descriure com els actors implicats van refor\u00e7ar m\u00fatuament les seves premisses de seguretat. Aquestes conviccions compartides, fruit d’una confian\u00e7a excessiva en el sistema existent, van impedir una preparaci\u00f3 adequada per a la cat\u00e0strofe. La pr\u00f2pia confian\u00e7a en la robustesa del sistema es va convertir en part del problema, il\u00b7lustrant la complexitat de la interacci\u00f3 entre la tecnologia, l’organitzaci\u00f3 i la psicologia humana. A mesura que la intel\u00b7lig\u00e8ncia artificial es difon de manera exponencial en tots els \u00e0mbits de la societat, cal partir del principi que es produiran accidents greus i que la nostra prioritat ha de ser reduir tant la seva probabilitat com el seu abast. La capacitat de corregir els errors a posteriori, per si sola, no respon a la q\u00fcesti\u00f3 dels danys irreparables soferts mentre tant, i ens obliga a una reflexi\u00f3 profunda sobre els pilars del di\u00e0leg pol\u00edtic i jur\u00eddic en l’era digital, com la mem\u00f2ria i la lectura<\/a> de les lli\u00e7ons del passat.<\/p><\/p>

En definitiva, si b\u00e9 l’optimisme de figures com Yann LeCun<\/strong> \u00e9s vital per impulsar la innovaci\u00f3 i el desenvolupament de la IA, \u00e9s imperatiu complementar-lo amb una visi\u00f3 m\u00e9s matisada dels riscos sist\u00e8mics i humans. La fe en la bondat humana i la superioritat de la defensa tecnol\u00f2gica s\u00f3n pilars importants, per\u00f2 no poden eclipsar la necessitat d’abordar les complexitats de la decisi\u00f3 col\u00b7lectiva, les fallades organitzatives i la inercia institucional. La hist\u00f2ria ens ha mostrat repetidament que la cat\u00e0strofe pot emergir no de la mal\u00edcia, sin\u00f3 de la suma de petites confiances no verificades i d’una manca d’anticipaci\u00f3 col\u00b7lectiva. El futur de la IA, per tant, no nom\u00e9s dependr\u00e0 de la brillantedat dels seus dissenyadors, sin\u00f3 de la nostra capacitat col\u00b7lectiva per construir sistemes que siguin resilients no nom\u00e9s t\u00e8cnicament, sin\u00f3 tamb\u00e9 humanament i organitzativament, acceptant que l’error \u00e9s una possibilitat inherent i que la vigil\u00e0ncia constant \u00e9s el preu de la seguretat en un m\u00f3n cada cop m\u00e9s automatitzat.<\/p>","protected":false},"excerpt":{"rendered":"

Yann LeCun defensa un optimisme sobre la IA, confiant en la tecnologia i la bondat humana. L’article analitza aquesta visi\u00f3 davant les complexitats col\u00b7lectives i les lli\u00e7ons\u2026<\/p>","protected":false},"author":7,"featured_media":2589,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[75],"tags":[156,2026,2027,288,2024,2023,2025,2022],"class_list":["post-2588","post","type-post","status-publish","format-standard","has-post-thumbnail","category-opinio","tag-ciberseguretat","tag-fallades-organitzatives","tag-fukushima","tag-intelligencia-artificial","tag-optimisme-tecnologic","tag-riscos-ia","tag-seguretat-sistemes","tag-yann-lecun"],"_links":{"self":[{"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/posts\/2588","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/comments?post=2588"}],"version-history":[{"count":1,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/posts\/2588\/revisions"}],"predecessor-version":[{"id":2590,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/posts\/2588\/revisions\/2590"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/media\/2589"}],"wp:attachment":[{"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/media?parent=2588"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/categories?post=2588"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarimataro.com\/en\/wp-json\/wp\/v2\/tags?post=2588"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}