Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #128 — Tokens a OpenAI, seguretat a Anthropic, editors protegits
Transcript
- 0:00[music]
- 0:07SPEAKER_01: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_01: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_01: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_01: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_01: Cada setmana, amb l'Òscar Junyent.
- 0:28[music]
- 0:39SPEAKER_00: Avui és Dia Mundial de la Ciència per la Pau i el Desenvolupament.
- 0:43SPEAKER_00: Nacions Unides el va instaurar l'any 2001 per recordar que el coneixement científic
- 0:48SPEAKER_00: només serveix si es posa al servei de la gent, no del poder.
- 0:53SPEAKER_00: Mentre això passa, la Setmana de l'AIA ha estat d'allò més moguda.
- 0:57SPEAKER_00: Jensen Huang podria perdre la cadira de invídia per un cas d'espionatge.
- 1:02SPEAKER_00: Un estudi acaba de confirmar que els agents de l'AIA fallen 3 de cada 4 vegades en
- 1:07SPEAKER_00: tasques reals sense ajuda humana.
- 1:09SPEAKER_00: I Carpaci ha muntat una plataforma de vídeo sencera en un cap de setmana amb cloud.
- 1:16SPEAKER_00: Coneixement al servei de qui, deia l'ONU.
- 1:19SPEAKER_00: Aquesta setmana la pregunta es torna urgent per la indústria que més coneixement
- 1:23SPEAKER_00: acumula ara mateix.
- 1:26SPEAKER_00: Benvinguts a la Píndola.
- 1:27SPEAKER_00: Soc l'Òscar Junyent i això és el número 128.
- 1:31SPEAKER_00: Notícia 1.
- 1:33SPEAKER_00: Comencem per una pregunta que molta gent es fa i poca sap respondre.
- 1:37SPEAKER_00: Què veu exactament MetaAI dels teus xats de WhatsApp?
- 1:41SPEAKER_00: La resposta curta és que MetaAI no llegeix les converses xifrades per defecte.
- 1:47SPEAKER_00: L'assistent només accedeix al contingut que li envies directament,
- 1:50SPEAKER_00: quan li demanes alguna cosa en un xat o quan l'invoques en un grup.
- 1:54SPEAKER_00: El matís important és un altre.
- 1:57SPEAKER_00: Qualsevol missatge que esmenti o reenviï a MetaAI surt del perímetre xifrat d'extrem a extrem.
- 2:03SPEAKER_00: A partir d'aquell moment,
- 2:04SPEAKER_00: aquella informació passa pels servidors de meta com qualsevol altra dada de
- 2:08SPEAKER_00: l'empresa.
- 2:09SPEAKER_00: Hi ha una opció per desactivar les funcions d'IAI al xat,
- 2:12SPEAKER_00: amagada dins de la configuració de privadesa.
- 2:15SPEAKER_00: Poca gent la coneix, i encara menys l'activa.
- 2:19SPEAKER_00: Per a una pime catalana que atén clients per WhatsApp, això no és un detall tècnic menor.
- 2:25SPEAKER_00: Si un empleat consulta meta AI sobre una conversa amb un client,
- 2:29SPEAKER_00: aquella dada ja no és privada en el sentit que els clients donen per fet.
- 2:34SPEAKER_00: El xifratge d'extrem a extrem va vendre's durant anys com una garantia absoluta.
- 2:39SPEAKER_00: Ara depèn de si algú, en algun moment, decideix preguntar-li alguna cosa a un assistent.
- 2:46SPEAKER_00: Notícia 2 La segona notícia sacseja al cor mateix del sector, el lideratge d'Invidia.
- 2:53SPEAKER_00: Jeffrey Sonnenfeld, catedràtic a Yale i veu habitual en crisis corporatives,
- 2:58SPEAKER_00: calcula una probabilitat del 50% que Jensen Huang deixi de ser CEO d'Invidia.
- 3:04SPEAKER_00: El motiu?
- 3:05SPEAKER_00: Una investigació sobre els seus vincles amb una suposada espia xinesa.
- 3:10SPEAKER_00: NVIDIA és, ara mateix, l'empresa més valuosa del planeta gràcies a la IA.
- 3:16SPEAKER_00: Huang n'és el rostre públic des de fa més de 30 anys.
- 3:20SPEAKER_00: Els detalls concrets de la investigació encara no són públics del tot.
- 3:24SPEAKER_00: El que sí és públic és l'efecte immediat,
- 3:27SPEAKER_00: incertesa en un moment en què Antropic i OpenAI acaben de tancar rondes
- 3:32SPEAKER_00: multimilionàries amb valoracions revisades a la baixa.
- 3:37SPEAKER_00: Aquí hi ha una coincidència que val la pena mirar de prop.
- 3:40SPEAKER_00: El sector sencer basa la seva confiança en un grapat de noms propis, Huang, Altman, Amodei...
- 3:47SPEAKER_00: Quan un d'aquests noms trontolla, no trontolla només una empresa.
- 3:51SPEAKER_00: Trontolla la narrativa que sosté valoracions sense precedents.
- 3:56SPEAKER_00: Si Invidia pot perdre el seu CEO fundador enmig de la cursa més important de la seva
- 4:01SPEAKER_00: història,
- 4:02SPEAKER_00: potser cal preguntar-se quan depèn realment aquesta indústria de la solidesa de les
- 4:07SPEAKER_00: persones i quan de la mera inèrcia del capital.
- 4:11SPEAKER_00: Notícia 3 Canviem de registre,
- 4:14SPEAKER_00: del drama corporatiu a un experiment que fa somriure i alhora fa pensar.
- 4:19SPEAKER_00: Andrei Carpazzi, ex-cap d'IA a Tesla i cofundador d'OpenAI,
- 4:23SPEAKER_00: s'ha passat un cap de setmana construint una plataforma de vídeo curada amb Cloud
- 4:27SPEAKER_00: Opus 5.5.
- 4:29SPEAKER_00: El resultat?
- 4:31SPEAKER_00: 6.454 vídeos seleccionats a partir de 43 milions de comentaris de Hacker News,
- 4:38SPEAKER_00: 20 anys de converses d'una comunitat tècnica exigent.
- 4:42SPEAKER_00: Carpazzi no ha fet servir cap equip.
- 4:44SPEAKER_00: Ha usat un model d'IA com a col·laborador directe de codi i decoració, iterant durant dos dies.
- 4:51SPEAKER_00: El resultat, segons qui l'ha provat,
- 4:53SPEAKER_00: supera en qualitat les recomanacions automàtiques de YouTube per
- 4:56SPEAKER_00: a aquest tipus de contingut específic.
- 4:59SPEAKER_00: L'angle interessant no és la plataforma en si, és la velocitat.
- 5:04SPEAKER_00: El que abans necessitava un equip de producte,
- 5:07SPEAKER_00: un altre de dades i setmanes de feina,
- 5:09SPEAKER_00: ara ho fa una persona amb criteri i un cap de setmana lliure.
- 5:15SPEAKER_00: Això no vol dir que qualsevol pugui replicar-ho demà.
- 5:18SPEAKER_00: Vol dir que el cos d'experimentar amb idees de producte ha caigut en picat i les
- 5:22SPEAKER_00: organitzacions que triguen mesos a validar una idea haurien de preguntar-se per què.
- 5:30SPEAKER_00: Notícia 4.
- 5:32SPEAKER_00: Quarta i última notícia del recull.
- 5:35SPEAKER_00: OpenAI ha presentat GPT-6 Cyber,
- 5:38SPEAKER_00: un model especialitzat
- 5:40SPEAKER_00: a trobar vulnerabilitats de seguretat i proposar correccions dins d'un abast
- 5:44SPEAKER_00: estrictament autoritzat.
- 5:46SPEAKER_00: És a dir, un model pensat per
- 5:48SPEAKER_00: a equips de seguretat que volen un agent capaç de fer pentesting i patching de
- 5:52SPEAKER_00: manera controlada.
- 5:54SPEAKER_00: L'empresa insisteix en la paraula alineat.
- 5:57SPEAKER_00: El model ve amb restriccions perquè només actui dins dels límits que li marca
- 6:02SPEAKER_00: l'organització que el fa servir i no s'escapi cap a territoris no autoritzats.
- 6:07SPEAKER_00: El llançament arriba just després que estudis independents de l'IBABA,
- 6:11SPEAKER_00: Anthropic i Valzaí hagin posat xifres fredes sobre la taula.
- 6:15SPEAKER_00: La bretxa entre models oberts i tancats en capacitats ofensives de ciberseguretat
- 6:20SPEAKER_00: s'escurça cada mes que passa.
- 6:23SPEAKER_00: Aquí hi ha una tensió real.
- 6:25SPEAKER_00: Com més potents es tornen aquests models per defensar sistemes,
- 6:29SPEAKER_00: més potents es tornen també per atacar-los.
- 6:31SPEAKER_00: La diferència entre un agent de ciberseguretat bo i un dolent cada cop depèn menys
- 6:37SPEAKER_00: del model i més de qui el controla.
- 6:40SPEAKER_00: Per a un equip de seguretat català que vulgui adoptar aquesta mena d'eines,
- 6:44SPEAKER_00: la pregunta no és si funcionen, és qui més hi té accés al mateix temps que tu.
- 6:49SPEAKER_00: El prospecte.
- 6:51SPEAKER_00: I ara, el prospecte de la setmana, l'eina que t'explico en 5 minuts.
- 6:56SPEAKER_00: Aquesta setmana, Personal Finance a Clot.
- 7:00SPEAKER_00: Imagina't obrir un xat i preguntar,
- 7:02SPEAKER_00: sense buscar cap extracte ni obrir cap aplicació del banc,
- 7:05SPEAKER_00: quant m'he gastat en subministraments aquest trimestre comparat amb l'anterior.
- 7:10SPEAKER_00: Això és el que promet aquesta funció nova d'Antropic, vincular comptes bancaris,
- 7:14SPEAKER_00: targetes i inversions a Clot i veure-ho tot en una sola pantalla conversacionada.
- 7:20SPEAKER_00: Antròpic l'ha començat a desplegar en beta pública aquesta mateixa setmana.
- 7:24SPEAKER_00: És un moviment significatiu.
- 7:26SPEAKER_00: Els assistents generalistes s'estan convertint, un per un,
- 7:30SPEAKER_00: en eines verticals de finances personals.
- 7:32SPEAKER_00: Primer ho va fer ChatGPT amb integracions puntuals.
- 7:36SPEAKER_00: Ara Claude ho fa de manera nativa i integrada.
- 7:39SPEAKER_00: Si ets autònom o gestiones una petita empresa, el microexperiment d'aquesta setmana és senzill.
- 7:45SPEAKER_00: Entra a Clot, busca la secció de Personal Finance
- 7:48SPEAKER_00: a la configuració i connecta un sol compte,
- 7:51SPEAKER_00: el que menys et preocupi en termes de sensibilitat.
- 7:54SPEAKER_00: Fes-li tres preguntes sobre despeses recurrents dels últims tres mesos.
- 7:58SPEAKER_00: Mira si les respostes coincideixen amb el que ja sabies i si t'estalvien temps real.
- 8:03SPEAKER_00: Abans de connectar res més, però, pensa-t'ho dues vegades.
- 8:06SPEAKER_00: Estàs cedint dades financeres
- 8:08SPEAKER_00: a un model de tercers i la privadesa d'aquesta informació mereix la mateixa cura que
- 8:13SPEAKER_00: la d'un client.
- 8:14SPEAKER_00: Trobaràs Personal Finance a cloud.ai.
- 8:17SPEAKER_00: És una funció en beta, disponible segons el pla de pagament que tinguis contractat.
- 8:22SPEAKER_00: L'article I acabem amb l'article de la setmana, que podràs llegir sencer al blog TheLink.cat.
- 8:29SPEAKER_00: El títol?
- 8:30SPEAKER_00: Un cap de setmana, una plataforma de vídeo amb clot.
- 8:34SPEAKER_00: L'article agafa el cas de Carpaci i el desmunta pas a pas.
- 8:38SPEAKER_00: Com va passar d'una idea a un prototip funcional filtrant 43 milions de comentaris?
- 8:44SPEAKER_00: Quines decisions va prendre amb la gent i quines va reservar per ell mateix?
- 8:49SPEAKER_00: La pregunta que planteja és pràctica i incòmode alhora.
- 8:53SPEAKER_00: Quantes tasques de curació de contingut dins de la teva organització es podrien
- 8:57SPEAKER_00: automatitzar avui mateix amb aquest mateix enfocament?
- 9:01SPEAKER_00: I quantes altres, tot i semblar mecàniques,
- 9:04SPEAKER_00: amaguen un criteri humà que cap agent hauria de substituir encara?
- 9:08SPEAKER_00: L'article no dona una resposta única.
- 9:11SPEAKER_00: Dóna un mètode per fer-te la pregunta correcta abans de llançar el primer experiment.
- 9:17SPEAKER_00: L'article sencer al blog TheLink.cat
- 9:23SPEAKER_00: Fins aquí la píndola número 127.
- 9:26SPEAKER_00: Si t'ha agradat, comparteix-la amb algú que creus que hauria de llegir-la.
- 9:30SPEAKER_00: I si vols rebre-la cada setmana, subscriu-te a Substack.
- 9:34SPEAKER_00: La trobaràs a lapíndola.substack.com.
- 9:38SPEAKER_00: Ens escoltem la setmana que ve.
- 9:40[music]