Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #107 — Governs, jutges i empreses redefineixen les regles de la IA
Transcript
- 0:07SPEAKER_01: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_01: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_01: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_01: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_01: Cada setmana, amb l'Òscar Junyent.
- 0:44Governs,
- 0:44jutges i empreses redefineixen les regles de la intel·ligència
- 0:48artificial.
- 0:49Aquesta setmana no parlem de models nous ni de benchmarks,
- 0:52parlem de poder.
- 0:54El govern dels Estats Units ha ordenat la suspensió de dos
- 0:57models d'antròpic
- 0:58SPEAKER_00: argumentant seguretat nacional.
- 1:00Un tribunal alemany ha dit que Google és responsable pels
- 1:03errors dels seus resums
- 1:04SPEAKER_00: d'intel·ligència artificial.
- 1:06SPEAKER_00: KPMG ha hagut de retirar un informe per al·lucinacions.
- 1:10SPEAKER_00: i BBVA ha desplegat ChatGPT a 100.000 empleats d'un cop.
- 1:15SPEAKER_00: Hi ha un fil que connecta totes quatre notícies.
- 1:18La intel·ligència artificial ha deixat de ser un experiment
- 1:20tecnològic per
- 1:21SPEAKER_00: convertir-se en infraestructura real,
- 1:24SPEAKER_00: amb conseqüències reals,
- 1:26SPEAKER_00: amb responsabilitats reals.
- 1:29SPEAKER_00: I ara què és infraestructura?
- 1:30SPEAKER_00: Els governs la volen controlar,
- 1:32els tribunals la volen regular i les empreses la volen
- 1:35desplegar ràpid abans que
- 1:37SPEAKER_00: ningú els pari els peus.
- 1:39SPEAKER_00: Benvinguts a la Píndola, sóc l'Òscar Junyent i aquesta és la número 107.
- 1:43SPEAKER_00: Notícia 1 Comencem amb la notícia més inquietant de la setmana,
- 1:48SPEAKER_00: probablement de les últimes mesos.
- 1:50El govern dels Estats Units ha ordenat a Anthropic la suspensió
- 1:53de l'accés a Claude
- 1:54SPEAKER_00: Feibel 5 i Claude Mythos 5 per a ciutadans estrangers.
- 1:58La directiva cita preocupacions de seguretat nacional i
- 2:01argumenta que els models
- 2:02SPEAKER_00: representen un risc potencial per a la defensa dels Estats Units.
- 2:06SPEAKER_00: Per entendre el pes d'aquesta decisió, cal recordar qui és Anthropic.
- 2:10SPEAKER_00: No és una empresa qualsevol.
- 2:12És la companyia que ha construït la seva identitat sobre la
- 2:15seguretat de la
- 2:15SPEAKER_00: intel·ligència artificial.
- 2:17Els seus fundadors van sortir d'OpenAI precisament per desacord
- 2:20sobre com desplegar
- 2:21SPEAKER_00: models potents de manera responsable.
- 2:24SPEAKER_00: Durant anys han publicat investigació oberta,
- 2:26SPEAKER_00: han defensat la transparència i han cridat a la regulació col·laborativa.
- 2:31SPEAKER_00: I ara,
- 2:31el govern del seu propi país els diu que els seus models
- 2:34representen un risc de
- 2:35SPEAKER_00: seguretat nacional.
- 2:37SPEAKER_00: Anthropic ha respost públicament manifestant la seva oposició.
- 2:41L'argument de la companyia és que un possible atac de seguretat
- 2:44no justifica
- 2:45retirar models comercials que centenars de milions d'usuaris ja
- 2:48fan servir.
- 2:49SPEAKER_00: I tenen raó en el raonament tècnic.
- 2:52SPEAKER_00: Un jailbreak potencial no és el mateix que un arma.
- 2:55SPEAKER_00: Però Washington ha decidit que el risc és suficient per actuar.
- 2:59El que hauria de preocupar qualsevol empresa europea o
- 3:01institució pública que
- 3:02depengui d'infraestructura d'intel·ligència artificial
- 3:04nord-americana és el
- 3:06SPEAKER_00: precedent.
- 3:07SPEAKER_00: No el cas concret, el precedent.
- 3:10Si el govern dels Estats Units pot suspendre l'accés a un model
- 3:12en 48 hores
- 3:14SPEAKER_00: argumentant Seguretat Nacional,
- 3:16quina garantia de continuïtat té qualsevol organització que
- 3:19hagi construït
- 3:19SPEAKER_00: processos crítics sobre CLOT,
- 3:21SPEAKER_00: GPT o GEMINI?
- 3:23SPEAKER_00: La sobirania digital europea,
- 3:25SPEAKER_00: que molts consideraven un debat abstracte,
- 3:27SPEAKER_00: acaba de tornar-se molt concreta.
- 3:30Els directors de tecnologia de les empreses catalanes i
- 3:32europees que escolten
- 3:34aquest podcast haurien de tenir aquesta conversa amb els seus
- 3:36equips aquesta
- 3:37SPEAKER_00: setmana.
- 3:38SPEAKER_00: No per entrar en pànic, per fer la pregunta correcta.
- 3:42Si demà ens tallen l'accés a la plataforma que fem servir,
- 3:44quant trigarem a recuperar-nos?
- 3:46Notícia 2 La segona notícia arriba des d'Alemanya i estableix
- 3:51un precedent legal
- 3:52SPEAKER_00: que canviarà la manera com les empreses tecnològiques despleguen sistemes
- 3:56SPEAKER_00: d'intrigència artificial a Europa.
- 3:59El Tribunal Regional de Múnich ha dictaminat que Google és
- 4:02responsable legalment
- 4:03SPEAKER_00: pels errors factuals dels seus AI Overviews.
- 4:07SPEAKER_00: Per als que no estiguin familiaritzats amb els AI Overviews,
- 4:10són els resums que Google genera automàticament a la part
- 4:13superior dels resultats
- 4:14SPEAKER_00: de cerca,
- 4:15sintetitzant informació de diverses fonts per respondre
- 4:18directament a la pregunta
- 4:19SPEAKER_00: de l'usuari sense que hagis de clicar en cap enllaç.
- 4:23SPEAKER_00: El raonament del tribunal és el que importa i val la pena entendre'l bé.
- 4:28SPEAKER_00: Quan un motor de cerca tradicional en mostra 10 enllaços,
- 4:31SPEAKER_00: la responsabilitat de la interpretació és teva.
- 4:35Tries on cliques,
- 4:36llegeixes les fonts i treus les teves pròpies conclusions.
- 4:40Però quan un sistema sintetitza aquelles fonts i et presenta
- 4:43una resposta directa
- 4:44SPEAKER_00: com si fos un fet contrastat,
- 4:46el sistema s'ha convertit en autor i els autors responen dels
- 4:51seus errors.
- 4:52SPEAKER_00: No és una sentència final, és la resolució preliminar d'una demanda.
- 4:57SPEAKER_00: Però la lògica que estableix és poderosa i és difícil de rebatre.
- 5:02SPEAKER_00: I a Europa,
- 5:03on el marc regulatori de la intel·ligència artificial ja és el
- 5:06més exigent del món,
- 5:07SPEAKER_00: aquesta lògica té terreny fèrtil per a expandir-se.
- 5:11Per a empreses que publiquen contingut que es basen en resums
- 5:14d'intel·ligència
- 5:14artificial per prendre decisions o que han integrat AI
- 5:18Overviews en els seus fluxos
- 5:19SPEAKER_00: de treball,
- 5:20SPEAKER_00: el missatge és clar.
- 5:22La jurisprudència europea us donarà de raó si demostreu que un
- 5:26sistema de síntesi
- 5:27SPEAKER_00: us ha perjudicat.
- 5:29La zona de confort per a la intel·ligència artificial
- 5:31generativa s'estreny.
- 5:33SPEAKER_00: I és bo que s'estreny.
- 5:35Notícia 3 La tercera notícia és la que hauria de fer
- 5:38reflexionar qualsevol
- 5:40professional que estigui usant intel·ligència artificial per
- 5:42generar documents,
- 5:43informes o anàlisis que a les persones llegiran i sobre els
- 5:47quals prendran
- 5:47SPEAKER_00: decisions.
- 5:49SPEAKER_00: KPMG,
- 5:50SPEAKER_00: una de les quatre consultories més grans del món,
- 5:53ha hagut de retirar públicament un informe sobre consum i
- 5:56implementació de sistemes
- 5:57SPEAKER_00: d'intel·ligència artificial perquè contenia al·lucinacions factuals.
- 6:02SPEAKER_00: No interpretacions discutibles,
- 6:04SPEAKER_00: no projeccions optimistes,
- 6:06SPEAKER_00: fets inventats,
- 6:08SPEAKER_00: xifres falses,
- 6:10SPEAKER_00: cites que no existeixen.
- 6:12SPEAKER_00: Aturem-nos un moment aquí.
- 6:14KPMG cobra milers d'euros per hora assessorant grans empreses
- 6:19sobre com implementar
- 6:20SPEAKER_00: la intel·ligència artificial de manera segura i responsable.
- 6:23I han publicat un informe sobre aquest tema concret que
- 6:26contenia informació falsa
- 6:28SPEAKER_00: generada per la mateixa tecnologia que analitzaven.
- 6:32SPEAKER_00: La ironia seria còmica si les conseqüències no fossin tan serioses,
- 6:36SPEAKER_00: però el problema de fons no és KPMG.
- 6:40SPEAKER_00: El problema és estructural.
- 6:42No tenim mètodes estàndard per detectar al·lucinacions en
- 6:46contextos professionals.
- 6:48Tenim models que funcionen perfectament en el 90% dels casos i
- 6:52que generen
- 6:53SPEAKER_00: resultats convincents i plausibles en el 10% restant,
- 6:57SPEAKER_00: fins i tot quan s'estan inventant les dades.
- 7:00SPEAKER_00: I la plausibilitat és exactament el que fa perilloses les al·lucinacions.
- 7:05SPEAKER_00: No semblen errors, semblen fets.
- 7:08Qualsevol empresa que estigui usant intel·ligència artificial
- 7:11per generar contingut
- 7:12SPEAKER_00: que després sortirà al món amb el seu nom hauria de tenir un protocol de
- 7:16SPEAKER_00: verificació.
- 7:17SPEAKER_00: No perquè la intel·ligència artificial sigui dolenta,
- 7:20sinó perquè tots els sistemes falen i els bons professionals
- 7:24saben exactament com i
- 7:26SPEAKER_00: quan fallen les seus eines.
- 7:30SPEAKER_00: La quarta notícia és la que demostra que,
- 7:32SPEAKER_00: malgrat tota la incertesa i tots els riscos que hem comentat,
- 7:36SPEAKER_00: les grans organitzacions ja han decidit cap on van.
- 7:39SPEAKER_00: BBBA ha desplegat ChatGPT Enterprise a 100.000 empleats europeus.
- 7:47SPEAKER_00: No és un pilot,
- 7:48SPEAKER_00: no és un grup de treball experimental,
- 7:50és transformació industrial a escala en un dels sectors més
- 7:54regulats del planeta.
- 7:55SPEAKER_00: Pensem-hi un moment.
- 7:57SPEAKER_00: La banca és el sector amb més regulació de dades,
- 8:00més obligacions de compliment normatiu i més exposició a
- 8:03sancions regulatories de
- 8:05SPEAKER_00: qualsevol indústria.
- 8:07SPEAKER_00: Si BBBA ha decidit que ChatGPT Enterprise és prou segur i prou fiable per
- 8:13desplegar-lo a 100.000 persones que gestionen dades financeres
- 8:17de milions de
- 8:18SPEAKER_00: clients,
- 8:19el llistó de confiança corporativa a la intel·ligència
- 8:21artificial ha pujat
- 8:23SPEAKER_00: significativament.
- 8:25SPEAKER_00: El desplegament demostra tres coses simultànies.
- 8:28Primera,
- 8:29que la intel·ligència artificial ja no és experimental per a
- 8:32les grans organitzacions.
- 8:33Segona,
- 8:34que els models existents es consideren prou madurs per a
- 8:37contextos altament regulats.
- 8:40SPEAKER_00: Tercera,
- 8:41SPEAKER_00: que la productivitat és l'argument que vens totes les altres cauteles,
- 8:45SPEAKER_00: incloses les de seguretat i regulació.
- 8:48SPEAKER_00: Però la implicació més important és per als competidors de BBB.
- 8:53SPEAKER_00: El prospecte
- 9:22SPEAKER_00: I ara, el prospecto de la setmana.
- 9:24SPEAKER_00: I aquesta setmana, l'elecció és evident.
- 9:27Mentre KPMG retira informes per al·lucinacions i Google
- 9:30enfronta sentències per
- 9:31SPEAKER_00: errors factuals,
- 9:33Perplexity ha llançat una actualització que sembla pensada
- 9:36específicament per
- 9:37SPEAKER_00: aquest moment.
- 9:38SPEAKER_00: Parlem de Perplexity Pro.
- 9:41SPEAKER_00: La proposta central és senzilla, transparència sobre les fonts.
- 9:45SPEAKER_00: Cada resposta inclou un indicador de confiabilitat per a cada paràgraf,
- 9:49cites explícites als documents originals i enllaços directes
- 9:52als orígens de la
- 9:53SPEAKER_00: informació.
- 9:54SPEAKER_00: No elimina les al·lucinacions, però les torna visibles.
- 9:58I en un context professional,
- 10:00la visibilitat és el primer pas per gestionar el risc.
- 10:03SPEAKER_00: Fins ara,
- 10:04SPEAKER_00: usar chat GPT o CLOT per a recerca professional significava acceptar les
- 10:08al·lucinacions com a cos del negoci i verificar manualment tot
- 10:12el que importava.
- 10:13Perplexity proposa una alternativa diferent,
- 10:16no eliminar el problema,
- 10:17sinó fer-lo transparent.
- 10:19SPEAKER_00: Cada afirmació té una font,
- 10:20cada font té un indicador de fiabilitat i tu decideixes fins on
- 10:24confies en cada
- 10:25SPEAKER_00: paràgraf.
- 10:27SPEAKER_00: El microexperiment d'aquesta setmana és aquest.
- 10:29Accedeix a Perplexity Pro i fes una consulta sobre un tema de
- 10:33recerca real del teu negoci.
- 10:35SPEAKER_00: Observes indicadors de confiabilitat de cada paràgraf.
- 10:38SPEAKER_00: Notaràs que alguns estan marcats com a fiables i d'altres com a molerats.
- 10:42SPEAKER_00: Fes clic en les fonts de dos paràgrafs,
- 10:44SPEAKER_00: un de cada categoria,
- 10:46SPEAKER_00: i compara la qualitat dels documents originals.
- 10:49SPEAKER_00: Després,
- 10:49SPEAKER_00: fes la mateixa pregunta a ChatGPT,
- 10:51SPEAKER_00: sense cites,
- 10:52SPEAKER_00: i compara la diferència de traçabilitat.
- 10:55El que descobriràs és que la transparència sobre les fonts
- 10:58canvia com prens
- 10:59SPEAKER_00: decisions,
- 11:00SPEAKER_00: fins i tot quan el contingut final és similar.
- 11:03I entendràs per què empreses com KPMG necessitaven exactament
- 11:07aquesta traçabilitat
- 11:09SPEAKER_00: abans de publicar el seu informe.
- 11:11SPEAKER_00: Perplexity Pro té un cost de 20 dòlars al mes.
- 11:14SPEAKER_00: La verificació de fons és exclusiva del pla de pagament.
- 11:18El trobaràs a perplexity.ai L'article I acabem amb l'article de
- 11:25la setmana,
- 11:25SPEAKER_00: que pots llegir sencer al blog de l'IM.cat.
- 11:28SPEAKER_00: El títol és Quan els vots naveguen més que les persones.
- 11:32SPEAKER_00: L'errada sembla anecdòtica a primera vista,
- 11:34però probablement és una de les més importants que hem vist amb
- 11:37molt de temps.
- 11:38Els bots i agents d'intel·ligència artificial ja generen més
- 11:42trànsit web que les persones.
- 11:45SPEAKER_00: Durant dècades,
- 11:46internet s'ha construït assumint que els humans seríem els
- 11:48principals consumidors
- 11:49SPEAKER_00: de contingut.
- 11:50SPEAKER_00: Tot el model de negoci dels mitjans digitals,
- 11:53del comerç electrònic i de la publicitat en línia s'ha
- 11:56dissenyat per a persones que
- 11:57SPEAKER_00: llegeixen,
- 11:57SPEAKER_00: cliquen i compren.
- 11:59SPEAKER_00: Ara comencem a veure un model diferent,
- 12:01SPEAKER_00: on les màquines busquen,
- 12:02SPEAKER_00: comparen,
- 12:03SPEAKER_00: sintetitzen i decideixen abans que nosaltres.
- 12:07SPEAKER_00: Les implicacions van molt més enllà de la tecnologia.
- 12:09SPEAKER_00: Si els principals consumidors de contingut web ja no són humans,
- 12:13SPEAKER_00: sinó agents,
- 12:14SPEAKER_00: qui paga la publicitat?
- 12:15SPEAKER_00: Per a qui escriuen els periodistes?
- 12:18Com funciona el SEO quan l'objectiu no és convèncer una
- 12:20persona,
- 12:21sinó un algoritme?
- 12:23Totes les assumpcions sobre les quals s'ha construït l'economia
- 12:25digital dels últims
- 12:26SPEAKER_00: 20 anys comencen a trontollar.
- 12:29Potser la gran pregunta dels pròxims anys no serà quina
- 12:32intel·ligència artificial
- 12:33SPEAKER_00: utilitzem,
- 12:34serà com serà un internet on els principals navegants ja no
- 12:37siguem nosaltres.
- 12:39I si estem preparats per a un món on les màquines consumeixen
- 12:42el contingut que les
- 12:43SPEAKER_00: persones produeixen?
- 12:45SPEAKER_00: L'article sencer al blog TheLink.cat
- 12:47SPEAKER_00: Fins aquí la píndola número 107.
- 12:50Si t'ha agradat,
- 12:51comparteix-la amb algú que creus que hauria de llegir-la.
- 12:53SPEAKER_00: I si vols rere-la cada setmana, subscriu-te a Sàxtac.
- 12:56SPEAKER_00: El trobaràs a oscarjunyent.sàxtac.com