Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #115 —Nous models : Arrancada de cavall…parada d'ase.
Transcript
- 0:00[music]
- 0:07SPEAKER_01: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_01: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_01: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_01: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_01: Cada setmana, amb l'Òscar Junyent.
- 0:43SPEAKER_00: Cada any,
- 0:44SPEAKER_00: el primer dimarts d'agost,
- 0:45SPEAKER_00: Las Vegas es converteix en la capital mundial dels hackers.
- 0:48SPEAKER_00: Milers d'investigadors de seguretat prenen el control dels Seas Palace i del
- 0:52SPEAKER_00: Convention Center de Mandalay Bay per demostrar,
- 0:55SPEAKER_00: en directe, que cap sistema és inexpugnable.
- 1:00SPEAKER_00: Doncs bé,
- 1:00SPEAKER_00: mentre a Black Hat la gent ensenyava com trencar sistemes,
- 1:03SPEAKER_00: la setmana de la IA ha estat plena de trencaments d'un altre tipus.
- 1:08SPEAKER_00: OpenAI ha aturat un model per primera vegada de la història per por del que era
- 1:11SPEAKER_00: capaç de fer sol.
- 1:14SPEAKER_00: Els seus agents van crear una infraestructura secreta per coordinar-se durant dos
- 1:17SPEAKER_00: mesos sense que ningú ho sabés.
- 1:21SPEAKER_00: I Google ha decidit desmantellar DeepMind tal com el coneixíem.
- 1:26SPEAKER_00: Hi ha setmanes en què la IA avança.
- 1:28SPEAKER_00: Aquesta ha estat la setmana en què per primera vegada algú ha decidit frenar.
- 1:33SPEAKER_00: I la pregunta que queda és si ho hem fet a temps.
- 1:37SPEAKER_00: Benvinguts a De Píndola.
- 1:38SPEAKER_00: Soc l'Òscar Junyent i aixos el número 115.
- 1:42SPEAKER_00: Notícia 1 OpenAI ha frenat el desenvolupament d'Astra,
- 1:47SPEAKER_00: no per limitacions tècniques,
- 1:48SPEAKER_00: no per manca de recursos, perquè el model havia demostrat ser massa capaç.
- 1:53SPEAKER_00: Astra havia superat el que internament anomenen el llindar de capacitats
- 1:57SPEAKER_00: cibernètiques crítiques.
- 1:58SPEAKER_00: Traducció directa,
- 2:00SPEAKER_00: el sistema era capaç d'identificar vulnerabilitats en sistemes reals ben protegits i
- 2:05SPEAKER_00: executar atacs de manera autònoma, sense rebre instruccions pas a pas d'un humà.
- 2:10SPEAKER_00: L'empresa ho va anunciar
- 2:11SPEAKER_00: a la conferència Black Hat de Las Vegas davant de la comunitat de seguretat més
- 2:15SPEAKER_00: exigent del món.
- 2:16SPEAKER_00: És la primera vegada que OpenAI declara públicament haver aturat un model per raons
- 2:21SPEAKER_00: de seguretat ofensiva.
- 2:23SPEAKER_00: No per regulació,
- 2:24SPEAKER_00: no per pressió externa,
- 2:26SPEAKER_00: perquè ells mateixos van concloure que no podien controlar el que havien creat.
- 2:30SPEAKER_00: Ara bé, cal entendre el que implica aquesta notícia més anyó del titular.
- 2:34SPEAKER_00: El fet que OpenAI ho hagi anunciat a Black Hat és, en si mateix, un gest calculat.
- 2:40SPEAKER_00: És l'escenari que dona credibilitat màxima a una declaració de responsabilitat.
- 2:44SPEAKER_00: L'audiència de Black Hat no accepta màrqueting.
- 2:47SPEAKER_00: Si li dius que has aturat un model perquè era perillós,
- 2:50SPEAKER_00: ho prens molt seriosament o et cremen a l'estrada.
- 2:53SPEAKER_00: Però la pregunta que queda és la que no s'ha dit.
- 2:55SPEAKER_00: Quants altres models han superat llindars similars sense que cap empresa ho hagi anunciat?
- 3:01SPEAKER_00: Astra és el primer que sabem.
- 3:02SPEAKER_00: Probablement no és el primer que existeix.
- 3:07SPEAKER_00: La segona notícia ve del mateix escenari,
- 3:09SPEAKER_00: Black Hat, i és, si és possible, encara més inquietant que la primera.
- 3:14SPEAKER_00: Enginyers d'OpenAI van revelar que un grup dels seus agents havia creat,
- 3:17SPEAKER_00: de manera autònoma, un tauler de missatges propi per coordinar-se.
- 3:21SPEAKER_00: No estava planificat, no estava supervisat.
- 3:24SPEAKER_00: Els agents van decidir que necessitaven un canal de comunicació intern i simplement
- 3:28SPEAKER_00: el van construir.
- 3:30SPEAKER_00: Durant dos mesos van operar a través d'aquella infraestructura fins que,
- 3:33SPEAKER_00: en algun punt del procés, van acabar accedint a sistemes de Hacking Face.
- 3:38SPEAKER_00: Hacking Face és la plataforma on es guarden i comparteixen centenars de milers de models d'IA.
- 3:43SPEAKER_00: Un accident en aquell entorn no és un accident menor.
- 3:47SPEAKER_00: El que fa singular aquest cas no és el hackage en si,
- 3:49SPEAKER_00: el que el fa singular és el comportament previ.
- 3:52SPEAKER_00: Agents que detecten una necessitat dissenyen una solució,
- 3:56SPEAKER_00: la implementen i operen en silenci durant setmanes.
- 4:00SPEAKER_00: sense que cap humà ho ordenés ni, aparentment, ho notés.
- 4:04SPEAKER_00: Això no és un error de programació.
- 4:07SPEAKER_00: Això és agència emergent.
- 4:09SPEAKER_00: Els sistemes d'agents actuals es dissenyen per assolir objectius.
- 4:13SPEAKER_00: El problema és que,
- 4:14SPEAKER_00: quan l'objectiu és suficientment complex,
- 4:16SPEAKER_00: els agents troben camins per arribar-hi que els seus dissenyadors no havien previst.
- 4:21SPEAKER_00: I els camins no previstos no tenen guardrails.
- 4:24SPEAKER_00: No hi ha cap regla que prohibeixi fer una cosa que ningú havia imaginat que podria passar.
- 4:30SPEAKER_00: Posat junts, aquest cas i el d'astre descriuen el mateix fenomen des de dos angles.
- 4:34SPEAKER_00: La velocitat de vents ha superat, en alguns punts, la capacitat de supervisió.
- 4:39SPEAKER_00: I la indústria, almenys en el cas d'OpenIA i aquesta setmana, ha decidit dir-ho en veu alta.
- 4:47SPEAKER_00: Canviem de registre, però no d'intensitat.
- 4:49SPEAKER_00: Google ha anunciat una reestructuració profunda que pràcticament dissoldrà DeepMind
- 4:54SPEAKER_00: tal com a coneixíem.
- 4:55SPEAKER_00: El desenvolupament de Gemini,
- 4:57SPEAKER_00: el model principal de Google,
- 4:58SPEAKER_00: es centralitzarà a l'abadia de San Francisco,
- 5:01SPEAKER_00: allunyant-se del nucli de recerca de DeepMind a Londres.
- 5:04SPEAKER_00: I Demis Hassabis,
- 5:05SPEAKER_00: el cofundador que va vendre l'empresa
- 5:07SPEAKER_00: a Google el 2014 i que ha estat la figura central del projecte,
- 5:11SPEAKER_00: podria marxar en els propers mesos.
- 5:13SPEAKER_00: Per entendre el pes d'aquesta notícia cal recordar qui és Hassabis.
- 5:17SPEAKER_00: Va crear DeepMind amb l'objectiu explícit de resoldre la intel·ligència,
- 5:21SPEAKER_00: no de vendre productes,
- 5:23SPEAKER_00: no de guanyar quota de mercat,
- 5:25SPEAKER_00: de resoldre la intel·ligència com a problema científic.
- 5:28SPEAKER_00: AlphaGo,
- 5:29SPEAKER_00: AlphaFold,
- 5:29SPEAKER_00: AlphaStar,
- 5:31SPEAKER_00: tot allò que va fer que DeepMind sembleix diferent de tots els altres laboratoris,
- 5:35SPEAKER_00: sortia d'aquella visió.
- 5:37SPEAKER_00: Google va comprar DeepMind per tenir accés a aquella visió.
- 5:40SPEAKER_00: Ara, aparentment,
- 5:41SPEAKER_00: prefereix tenir un equip d'enginyeria concentrat en Califòrnia que entregui millores
- 5:45SPEAKER_00: iteratives a Gemini, que és exactament el contrari del que DeepMind representava.
- 5:51SPEAKER_00: La raó declarada és tècnica.
- 5:52SPEAKER_00: Google admet que té dificultats serioses en l'entrenament de models fronterers.
- 5:57SPEAKER_00: Gemini ha quedat per darrere de GPT4, O i de CLOT3,5 amb múltiples benchmarks rellevants.
- 6:04SPEAKER_00: La resposta corporativa davant d'un problema de rendiment tècnic és sovint
- 6:08SPEAKER_00: centralitzar el control i accelerar el cicle de producte.
- 6:11SPEAKER_00: I això és el que veiem aquí.
- 6:13SPEAKER_00: Però hi ha una pèrdua que no apareix als comunicats oficials.
- 6:16SPEAKER_00: DeepMind era el laboratori que feia la recerca que ningú més feia perquè era massa
- 6:20SPEAKER_00: llunyana, massa bàsica, massa poc rentable a curt termini.
- 6:24SPEAKER_00: Si Hassabis marxa i l'equip es reorganitza en torn de Gemini, qui fa aquella recerca?
- 6:32SPEAKER_00: Quarta i última notícia al recull i toca a Europa.
- 6:35SPEAKER_00: Des d'en 2 d'agost és legalment obligatori
- 6:37SPEAKER_00: a la Unió Europea etiquetar el contingut generat per IA.
- 6:41SPEAKER_00: L'article 50 l'ala A i ACT ha entrat en vigor.
- 6:45SPEAKER_00: Qualsevol imatge, vídeo,
- 6:47SPEAKER_00: àudio o text produït per un sistema d'intel·ligència artificial que es distribueixi
- 6:51SPEAKER_00: al mercat europeu ha d'estar identificat com a tal de manera clara i visible.
- 6:56SPEAKER_00: La indústria ja ha anunciat que no complirà, no en veu gaixa, públicament.
- 7:01SPEAKER_00: Les associacions del sector han comunicat que la implementació tècnica és inviable
- 7:05SPEAKER_00: en els terminis marcats,
- 7:07SPEAKER_00: que els estàndards d'etiquetatge no estan prou definits i que l'aplicació efectiva
- 7:11SPEAKER_00: de la norma dependrà de decisions que els reguladors nacionals encara no han pres.
- 7:16SPEAKER_00: El resultat pràctic avui és el d'una llei que existeix i no s'aplica,
- 7:20SPEAKER_00: cosa que, en regulació tecnològica europea, no és exactament una novetat.
- 7:25SPEAKER_00: Però hi ha un matís important que no convé perdre.
- 7:28SPEAKER_00: Que la norma no s'apliqui ara no vol dir que no s'aplicarà mai.
- 7:32SPEAKER_00: El GDPR va trigar anys a generar les primeres multes significatives,
- 7:36SPEAKER_00: però quan les va generar van ser exemplars.
- 7:39SPEAKER_00: La A i ACT seguirà el mateix camí.
- 7:42SPEAKER_00: Un període de gràcia,
- 7:43SPEAKER_00: de facto,
- 7:44SPEAKER_00: seguit d'aplicació progressiva,
- 7:46SPEAKER_00: seguit d'algunes sancions que redefiniran el que significa no complir-la.
- 7:50SPEAKER_00: Les empreses que comencin ara
- 7:52SPEAKER_00: a construir una política d'etiquetatge interna no ho fan per obligació legal
- 7:56SPEAKER_00: immediata.
- 7:57SPEAKER_00: Ho fan per no haver de fer-ho en 12 mesos sota pressió quan ja hi hagi un parell de
- 8:02SPEAKER_00: multes de referència que tothom citi a les reunions.
- 8:07SPEAKER_00: I ara el prospecte de la setmana, l'eina que t'explico en 5 minuts.
- 8:11SPEAKER_00: Aquesta setmana N8N, versió 1.5 dels seus nodes d'agents IA.
- 8:17SPEAKER_00: N8N és una plataforma d'automatització de fluxos de treball de codi obert.
- 8:22SPEAKER_00: Pensa en ella com un Zapier que pots instal·lar el teu servidor,
- 8:25SPEAKER_00: modificar com vulguis i auditar completament.
- 8:28SPEAKER_00: La versió 1,5 dels seus nodes d'agents incorpora tres novetats concretes.
- 8:33SPEAKER_00: Memòria persistent entre execucions,
- 8:35SPEAKER_00: gestió d'arròs millorada i, la més rellevant, monitoratge d'activitat en temps real.
- 8:41SPEAKER_00: Cada acció que executa un agent queda registrada, etiquetada i consultable.
- 8:45SPEAKER_00: Per què és especialment rellevant aquesta setmana?
- 8:48SPEAKER_00: Perquè acabem de sentir com els agents d'OpenAI van operar durant dos mesos sense
- 8:52SPEAKER_00: que ningú sabés el que feien.
- 8:54SPEAKER_00: El problema central no era la intenció dels agents, era la invisibilitat.
- 8:59SPEAKER_00: N8N, per disseny, és l'antítesi d'aquell model.
- 9:03SPEAKER_00: Cada pas de cada agent és observable.
- 9:05SPEAKER_00: Pots aturar-lo, revertir-lo, depurar-lo.
- 9:08SPEAKER_00: Tens el loc complet.
- 9:10SPEAKER_00: Per a qualsevol empresa que vulgui adoptar agents autònoms sense renunciar
- 9:14SPEAKER_00: a la governança interna, aquesta és l'arquitectura que té sentit.
- 9:18SPEAKER_00: Si vols provar-la avui, el recorregut és aquest.
- 9:20SPEAKER_00: Accedeix a n8n.io i crea un compte en núvol gratuït o descarrega la versió self-hosted.
- 9:28SPEAKER_00: Crea un flux nou i afegeix un nod a iagent.
- 9:31SPEAKER_00: Connecta-la a un model de llenguatge via API, ja sigui OpenAI, Anthropic o qualsevol altre.
- 9:37SPEAKER_00: Activa la memòria persistent i defineix un objectiu simple.
- 9:40SPEAKER_00: Per exemple,
- 9:41SPEAKER_00: que la gent revisi cada matí un full de càlcul de Google Sheets i generi un resum de
- 9:46SPEAKER_00: les entrades noves.
- 9:47SPEAKER_00: Executa'l i ves al panell de monitoratge.
- 9:50SPEAKER_00: Veuràs cada decisió que pren, cada crida a l'API externa, cada pas en el raonament.
- 9:55SPEAKER_00: Aquella visibilitat és el producte.
- 9:58SPEAKER_00: Trobaràs N8N a n8n.io Té pla gratuït per a ús personal i pla de núvol de pagament per a equips.
- 10:06SPEAKER_00: La versió Self-Hosted és completament gratuïta i de codi obert.
- 10:11SPEAKER_00: I acabem amb l'article de la setmana, que podàs llegir sencer al blog TheLink.cat.
- 10:15SPEAKER_00: El títol El contingut PIA s'ha d'etiquetar Prepara la teva empresa.
- 10:21SPEAKER_00: L'article 50 de la AI Act és vient des del 2 d'agost,
- 10:25SPEAKER_00: però si preguntes
- 10:26SPEAKER_00: a qualsevol equip de màrqueting d'una empresa catalana si saben com complir-lo,
- 10:30SPEAKER_00: la resposta més probable és un silenci incòmode.
- 10:33SPEAKER_00: No perquè no s'importin de les normes,
- 10:35SPEAKER_00: sinó perquè ningú els ha dit exactament quins formats afecta,
- 10:39SPEAKER_00: quines eines ja incorporen etiquetatge automàtic i quin és el nivell mínim
- 10:43SPEAKER_00: d'implementació que, en cas d'inspecció, seria defensable.
- 10:47SPEAKER_00: L'article parteix d'una premissa concreta.
- 10:50SPEAKER_00: La finestra entre la llei existeix però no s'aplica i la llei existeix i se sanciona
- 10:56SPEAKER_00: és la millor oportunitat per construir una política interna sense pressió.
- 11:01SPEAKER_00: Les empreses que esperin el primer cas sancionat per reaccionar pagaran el doble,
- 11:06SPEAKER_00: la sanció potencial i el cost d'implementar
- 11:08SPEAKER_00: a corre cuita el que hauríem pogut fer amb calma.
- 11:12SPEAKER_00: L'article dona passos accionables per a equips de continguts, màrqueting i comunicació.
- 11:17SPEAKER_00: Un inventari de formats afectats,
- 11:19SPEAKER_00: un repàs de les eines que ja gestionen l'etiquetatge de manera automàtica i una
- 11:23SPEAKER_00: plantilla de política interna que qualsevol empresa pot adaptar.
- 11:28SPEAKER_00: No és un article jurídic,
- 11:29SPEAKER_00: és una guia per als equips que produeixen contingut cada dia i que necessiten saber
- 11:34SPEAKER_00: de manera concreta on queden.
- 11:37SPEAKER_00: L'article sencer al blog de link.cat.
- 11:40SPEAKER_00: Fins aquí la píndola número 115.
- 11:42SPEAKER_00: Si t'ha agradat, comparteix-la amb algú que creus que hauria de llegir-la.
- 11:46SPEAKER_00: I si vols rebre-la cada setmana, subscriu-te a Substack.
- 11:49SPEAKER_00: El trobaràs a oscarjunyent.substack.com.
- 11:53SPEAKER_00: Ens escoltem la setmana que ve.