Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #112 — El nou Kimi 3 porta llums i ombres i els agents IA corren per casa sense seguretat
Transcript
- 0:00[music]
- 0:07SPEAKER_01: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_01: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_01: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_01: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_01: Cada setmana, amb l'Òscar Junyent.
- 0:44SPEAKER_00: La frontera de la intel·ligència artificial ja no és als Estats Units.
- 0:48SPEAKER_00: I el mercat ho ha notat.
- 0:50SPEAKER_00: Aquesta setmana,
- 0:50SPEAKER_00: Munchot AI ha llançat Química 3,
- 0:53SPEAKER_00: un model xinès que rivalitza directament amb GPT 5.6 i Cloud Fable 5.
- 0:59SPEAKER_00: La demanda va ser tan explosiva que van haver de tancar les noves subscripcions en
- 1:03SPEAKER_00: menys de 48 hores.
- 1:05SPEAKER_00: El Nasdaq va caure més d'un 1% el dia de llançament.
- 1:09SPEAKER_00: I mentre el sector celebrava o es lamentava del nou model xinès,
- 1:12SPEAKER_00: els agents d'intel·ligència artificial que ja tenim desplegats
- 1:15SPEAKER_00: a les nostres empreses continuaven creant problemes de seguretat que la majoria
- 1:20SPEAKER_00: d'organitzacions ni tan sols detecten.
- 1:23SPEAKER_00: Aquesta setmana té una tensió narrativa clara.
- 1:26SPEAKER_00: No és entre Orient i Occident,
- 1:28SPEAKER_00: és entre la velocitat de la innovació i la velocitat de la seguretat.
- 1:32SPEAKER_00: I de moment, la primera està guanyant.
- 1:34SPEAKER_00: Benvinguts a la Píndola, sóc l'Òscar Junyent i això és el número 112.
- 1:42SPEAKER_00: Comencem amb la notícia que ha sacsejat els mercats i ha redefinit el mapa de la
- 1:46SPEAKER_00: intel·ligència artificial global.
- 1:48SPEAKER_00: Química 3 va néixer dilluns.
- 1:50SPEAKER_00: Dimarts es va morir d'èxit.
- 1:53SPEAKER_00: No literalment,
- 1:54SPEAKER_00: però la demanda va ser tan explosiva que els servidors de Moonshot AI van col·lapsar
- 1:58SPEAKER_00: i la companyia va haver de tancar les noves subscripcions al moment.
- 2:02SPEAKER_00: En menys de 48 hores van consumir la capacitat de processament que havien planificat
- 2:07SPEAKER_00: per a mesos.
- 2:08SPEAKER_00: Però el que ha sacsejat el sector no és el col·lapse dels servidors,
- 2:12SPEAKER_00: és el que va provocar aquell col·lapse.
- 2:14SPEAKER_00: Química 3 funciona.
- 2:16SPEAKER_00: Funciona tan bé com GPT 5.6 i Claude Feibel 5 en test de rendiment pràctic.
- 2:23SPEAKER_00: Els benchmarks no menteixen i el que mostren és que la frontera tècnica ja no és
- 2:27SPEAKER_00: monopoli occidental.
- 2:29SPEAKER_00: Silicon Valley havia assumit que podia mantenir la intel·ligència artificial com el
- 2:33SPEAKER_00: seu jardí particular.
- 2:34SPEAKER_00: Química 3 acaba de despertar-los d'aquest somni.
- 2:38SPEAKER_00: I el Nasdaq ho va veure immediatament.
- 2:40SPEAKER_00: Va caure més d'un 1% el dia del llançament.
- 2:43SPEAKER_00: El timing, a més, no va ser casual.
- 2:46SPEAKER_00: Xi Jinping va fer un discurs el mateix dia anunciant una Organització Mundial de
- 2:50SPEAKER_00: Cooperació amb Intel·ligència Artificial que oferirà formació gratuïta
- 2:53SPEAKER_00: a 5.000 estudiants del Global South.
- 2:56SPEAKER_00: Un model, un discurs, una xarxa geopolítica.
- 3:00SPEAKER_00: Tres moviments que semblen coordinats perquè segurament ho estaven.
- 3:04SPEAKER_00: Per a les empreses europees i catalanes la implicació pràctica és aquesta.
- 3:08SPEAKER_00: Per primera vegada en anys hi ha una alternativa real al duopoli americà.
- 3:12SPEAKER_00: Però és una alternativa amb una pregunta incòmode anexa que resoldrem a la secció del prospecte.
- 3:21SPEAKER_00: La segona notícia explica per què Moonshot ahir va col·lapsar i és una lliçó
- 3:25SPEAKER_00: important per
- 3:26SPEAKER_00: a qualsevol empresa que vulgui entendre de la realitat de la intel·ligència
- 3:29SPEAKER_00: artificial moderna.
- 3:31SPEAKER_00: Construir models de frontera és absurdament car.
- 3:34SPEAKER_00: Escalar-los és un joc que es juga amb recursos que només les empreses més fortes poden guanyar.
- 3:40SPEAKER_00: Moonshot tenia GPU, tenia talent i tenia capital, però no tenia prou.
- 3:45SPEAKER_00: La realitat de la intel·ligència artificial moderna és que el capital no és un problema tècnic.
- 3:50SPEAKER_00: És el problema tècnic.
- 3:52SPEAKER_00: OpenAI va aprendre això fa anys.
- 3:54SPEAKER_00: Google també.
- 3:56SPEAKER_00: Moonshot acaba de descobrir-ho en públic,
- 3:58SPEAKER_00: en directe,
- 3:59SPEAKER_00: mentre tenia el model més important de la seva història penjat de quatre fils de
- 4:03SPEAKER_00: GPU.
- 4:04SPEAKER_00: Però aquí ve la part que fa reflexionar.
- 4:07SPEAKER_00: Quan una companyia xinesa aconsegueix un model tan bo com els occidentals i no pot
- 4:11SPEAKER_00: escalar-lo per manca de recursos de computació,
- 4:14SPEAKER_00: la guerra tècnica es transforma en guerra econòmica.
- 4:18SPEAKER_00: I en la guerra econòmica,
- 4:19SPEAKER_00: els controls d'exportació de semiconductors que Washington ha imposat
- 4:23SPEAKER_00: a la Xina passen de ser una mesura de política comercial
- 4:26SPEAKER_00: a ser una arma estratègica real.
- 4:29SPEAKER_00: Munchot ha demostrat que el talent i la recerca xinesa poden arribar a la frontera.
- 4:34SPEAKER_00: El que no poden comprar fàcilment, de moment, és la infraestructura per escalar-la.
- 4:41SPEAKER_00: La tercera notícia és la que hauria d'entrar al pla de seguretat de qualsevol
- 4:45SPEAKER_00: empresa que hagi desplegat agents d'intel·ligència artificial,
- 4:49SPEAKER_00: per petits que siguin.
- 4:51SPEAKER_00: Venturbip va encastar 107 empreses.
- 4:54SPEAKER_00: Més de la meitat ja ha tingut un incident confirmat o quasi accidental amb agents
- 4:58SPEAKER_00: d'intel·ligència artificial.
- 5:00SPEAKER_00: El número és colpidor.
- 5:02SPEAKER_00: Però el que revela la recerca en detall és més preocupant.
- 5:06SPEAKER_00: Només un 33% de les empreses proporciona una identitat aïllada per agents.
- 5:11SPEAKER_00: La majoria comparteix credencials entre agents.
- 5:15SPEAKER_00: Els controls de seguretat van molts quilòmetres per darrere de la velocitat de desplegament.
- 5:20SPEAKER_00: Pensem-hi un moment.
- 5:21SPEAKER_00: Un agent que comparteix credencials amb altres processos no és un agent independent.
- 5:27SPEAKER_00: És un vector d'atac que connecta tots els sistemes que toca.
- 5:31SPEAKER_00: Quan aquell agent comença a fallar, no compromet només la tasca per la qual va ser creat.
- 5:36SPEAKER_00: Compromet tota la infraestructura a la qual té accés.
- 5:40SPEAKER_00: I aquí hi ha una distinció important que cal fer.
- 5:43SPEAKER_00: Els equips de ciberseguretat van dissenyar les seves defenses per adversaris humans,
- 5:47SPEAKER_00: que cometen errors, que necessiten temps, que es cansen.
- 5:52SPEAKER_00: Els agents d'intel·ligència artificial no saben que són adversaris,
- 5:56SPEAKER_00: simplement fan el que els demanes.
- 5:58SPEAKER_00: I quan els demanes que automatitzin un procés,
- 6:01SPEAKER_00: ho fan amb tanta eficiència
- 6:03SPEAKER_00: a tanta velocitat que els danys col·laterals arriben abans que ningú pugui
- 6:07SPEAKER_00: reaccionar.
- 6:09SPEAKER_00: Els incidents no són pirateig, són errors que es mouen a la velocitat de la computació.
- 6:15SPEAKER_00: Si la teva empresa l'has plegat a gens, l'acció d'aquesta setmana és senzilla.
- 6:20SPEAKER_00: Pregunta al teu equip tècnic si cada gent té la seva pròpia identitat aïllada.
- 6:25SPEAKER_00: Si la resposta és no o no ho saben, teniu una conversa pendent.
- 6:33SPEAKER_00: La quarta notícia és la més curiosa de la setmana i mereix ser explicada en detall
- 6:38SPEAKER_00: perquè il·lustra perfectament com el sector de la intel·ligència artificial
- 6:41SPEAKER_00: s'enfronta als seus propis límits.
- 6:44SPEAKER_00: OpenAI ha creat GPT-RED.
- 6:48SPEAKER_00: No és un model que pots utilitzar,
- 6:50SPEAKER_00: és un model que OpenAI usa internament per entrenar els seus propis models
- 6:54SPEAKER_00: a resistir atacs.
- 6:56SPEAKER_00: En lloc de contractar equips humans que intentin trencar els sistemes,
- 7:00SPEAKER_00: OpenAI ha creat un model especialitzat en fer de superatacant automàtic.
- 7:05SPEAKER_00: Li donen una instrucció.
- 7:07SPEAKER_00: Prova de fer que GPT 5.6 ignori les seves directrius.
- 7:12SPEAKER_00: GPT Red ho intenta.
- 7:13SPEAKER_00: Ho aconsegueix.
- 7:15SPEAKER_00: OpenAI millora les defenses.
- 7:17SPEAKER_00: GPT Red ho torna a intentar i el cicle es repeteix infinitament.
- 7:22SPEAKER_00: És self-play per seguretat.
- 7:25SPEAKER_00: La mateixa lògica que AlphaGo va usar per aprendre
- 7:28SPEAKER_00: a jugar millor els escacs jugant contra si mateix aplicada a la ciberseguretat.
- 7:33SPEAKER_00: La lògica és potent.
- 7:34SPEAKER_00: El resultat és que GPT 5.6, segons OpenAI, és el model més robust que han creat fins ara.
- 7:42SPEAKER_00: Però aquí hi ha una advertència important.
- 7:44SPEAKER_00: Robustesa relativa no vol dir robustesa absoluta.
- 7:48SPEAKER_00: Els atacs de proms segueixen existint.
- 7:51SPEAKER_00: Ara simplement costa més de construir.
- 7:54SPEAKER_00: El prospecte.
- 8:18SPEAKER_00: I ara el prospecte de la setmana, que aquesta setmana és Quimi K3.
- 8:22SPEAKER_00: Però abans de parlar de l'eina,
- 8:23SPEAKER_00: cal posar sobre la taula la pregunta que tothom s'està fent i que ningú respon
- 8:26SPEAKER_00: directament.
- 8:27SPEAKER_00: Es pot usar Quimi K3 sense exposar les dades de la teva empresa als servidors xinesos?
- 8:33SPEAKER_00: La resposta honesta és... Depèn.
- 8:35SPEAKER_00: Si envies dades sensibles de clients,
- 8:37SPEAKER_00: informació financera o propietat intel·lectual,
- 8:40SPEAKER_00: les implicacions legals a Europa sota l'RGPD són serioses.
- 8:44SPEAKER_00: Les dades passaran per servidors
- 8:45SPEAKER_00: a la Xina i la legislació xinesa obliga les empreses
- 8:48SPEAKER_00: a donar accés al govern si aquest ho requereix.
- 8:51SPEAKER_00: No és una amenaça teòrica, és una obligació legal al país on estan els servidors.
- 8:55SPEAKER_00: Per tant, Química 3 és interessant per a casos durs on les dades no siguin sensibles.
- 9:00SPEAKER_00: Recerca pública,
- 9:01SPEAKER_00: anàlisi de documents publicats,
- 9:03SPEAKER_00: prototipatge de productes sense dades reals o exploració de capacitats del model.
- 9:07SPEAKER_00: Ara, per als que vulguin provar-ho,
- 9:09SPEAKER_00: Química 3 és un model multimodal amb finestres de context de 256.000 tokens.
- 9:14SPEAKER_00: Per posar-ho en perspectiva,
- 9:16SPEAKER_00: això és aproximadament 190.000 paraules, l'equivalent a un llibre sencer.
- 9:20SPEAKER_00: El processament de context llarg és on Química 3 brilla de veritat i
- 9:24SPEAKER_00: on es diferencia dels models occidentals en termes de velocitat i cost.
- 9:28SPEAKER_00: El microexperiment d'aquesta setmana és senzill.
- 9:31SPEAKER_00: Registra't a quimi.com,
- 9:33SPEAKER_00: crea un prom de test simple amb un document llarg,
- 9:36SPEAKER_00: un article científic de 5.000 paraules d'arxip funciona bé i demana un resum que
- 9:40SPEAKER_00: mantingui totes les dades estadístiques.
- 9:42SPEAKER_00: Compara de latència amb GPT-4 o CLOT 3,5.
- 9:46SPEAKER_00: Química 3 processa context llarg notablement més ràpid.
- 9:49SPEAKER_00: Prova també la multimodalitat, puja un gràfic o diagrama i demana que l'interpreti.
- 9:54SPEAKER_00: El cost és entre un 40 i un 70% més barat que GPT-4 o, depenent del volum.
- 10:00SPEAKER_00: Si els números i el cas d'ús t'encaixen,
- 10:02SPEAKER_00: pot ser una eina valuosa per a tasques específiques de baixa sensibilitat.
- 10:06SPEAKER_00: Trobaràs Quimica3 a quimi.com i la documentació de l'API a platform.quimi.ai.
- 10:13SPEAKER_00: I acabem amb l'article de la setmana que pots llegir sencer al blog delinc.cat.
- 10:17SPEAKER_00: El títol Quimi K3, multimodal i context extès.
- 10:21SPEAKER_00: Però qui pot pagar-la?
- 10:24SPEAKER_00: La mala notícia és que Munshot ja es va quedar sense GPU per a Quimi K3
- 10:28SPEAKER_00: a les 48 hores de llançament.
- 10:30SPEAKER_00: La bona notícia és que això no és accidental.
- 10:33SPEAKER_00: És un senyal que quan una cosa funciona prou bé, la gent ho vol usar.
- 10:37SPEAKER_00: Però la pregunta operativa és més interessant que la pregunta tècnica.
- 10:41SPEAKER_00: Si tens un model excel·lent però no pots escalar-lo, tothom ha perdut.
- 10:45SPEAKER_00: I si pots escalar-lo però les dades que necessites processar no poden sortir
- 10:49SPEAKER_00: d'Europa, el model és inaccessible per a tu.
- 10:52SPEAKER_00: La pregunta que hauries de fer-te aquesta setmana és aquesta.
- 10:55SPEAKER_00: Quins processos o la teva empresa necessitarien finestres de context de 200.000 tokens?
- 11:01SPEAKER_00: Si no tens resposta,
- 11:02SPEAKER_00: probablement els teus equips encara no han vist el problema com a prioritat.
- 11:06SPEAKER_00: I potser hauria de ser-ho.
- 11:09SPEAKER_00: L'article sencer al blog delinc.cat.
- 11:12SPEAKER_00: Fins aquí la píndola número 112.
- 11:14SPEAKER_00: Si t'ha agradat, comparteix-la amb algú que creus que hauria de llegir-la.
- 11:17SPEAKER_00: I si vols rebre-la cada setmana, subscriu-te a lapíndola.substack.com.
- 11:23SPEAKER_00: Ens escoltem la setmana que ve.