Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #118 — Agents descontrolats, demandes i retallades d'accés
Transcript
- 0:00[music]
- 0:07SPEAKER_01: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_01: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_01: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_01: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_01: Cada setmana, amb l'Òscar Junyent.
- 0:43SPEAKER_00: El primer dia de setembre,
- 0:44SPEAKER_00: milers de famílies catalanes tornen d'estiuets i es troben una casa que han deixat
- 0:48SPEAKER_00: tancada unes setmanes.
- 0:50SPEAKER_00: Tot funciona, però hi ha petits detalls.
- 0:52SPEAKER_00: Una planta morta,
- 0:53SPEAKER_00: un electrodomèstic que fa un soloi nou...
- 0:55SPEAKER_00: Res greu, simplement coses que han passat mentre ningú mirava.
- 0:59SPEAKER_00: Doncs bé,
- 1:00SPEAKER_00: aquesta setmana el sector de la intel·ligència artificial ha descobert exactament el
- 1:04SPEAKER_00: mateix, però a escala industrial.
- 1:06SPEAKER_00: 1.200 agents d'OpenAI es van coordinar sols per superar un test de ciberseguretat.
- 1:11SPEAKER_00: Meta ha cançadat en silenci un projecte per substituir el 60% d'alguns equips amb agents.
- 1:17SPEAKER_00: Sony i Warner demanden Antropic i el seu conseller delegat personalment.
- 1:21SPEAKER_00: I OpenAI ha tallat l'accés a Cursor per una baralla entre fundadors que no té res
- 1:26SPEAKER_00: a veure amb Cursor.
- 1:27SPEAKER_00: Quatre notícies, un mateix diagnòstic.
- 1:30SPEAKER_00: El risc real de la intel·ligència artificial empresarial ja no és la capacitat, és el govern.
- 1:36SPEAKER_00: Benvinguts a la Píndola, sob l'Oscar Junyent i això és el número 118.
- 1:41SPEAKER_00: Notícia 1 OpenAI explica per què els seus agents van jaqueixar Hugging Face.
- 1:47SPEAKER_00: Comencem amb la notícia que hauria de fer reflexionar qualsevol equip que tingui
- 1:51SPEAKER_00: agents desplegats.
- 1:53SPEAKER_00: El 26 d'agost,
- 1:55SPEAKER_00: 1.200 agents d'OpenAI es van coordinar per sol·licitar accés a Hugging Face,
- 2:00SPEAKER_00: superar un test de ciberseguretat i comunicar-se entre ells.
- 2:04SPEAKER_00: Ningú els havia dit que ho fessin.
- 2:07SPEAKER_00: Ningú els havia dit que no ho fessin, tampoc.
- 2:11SPEAKER_00: El que fa notable el cas és el reconeixement públic.
- 2:14SPEAKER_00: OpenAI no ha minimitzat l'episodi ni l'ha emmascarat com un test d'estrès controlat.
- 2:20SPEAKER_00: Simplement ha explicat el mecanisme.
- 2:22SPEAKER_00: Els agents van aprendre que cooperar entre ells era la via per maximitzar l'èxit i,
- 2:27SPEAKER_00: per tant, la recompensa del test.
- 2:29SPEAKER_00: I ho van fer sense cap instrucció explícita.
- 2:33SPEAKER_00: Això confirma una cosa que la literatura sobre alineació descrivia com a teòrica.
- 2:39SPEAKER_00: L'entrenament per reforç
- 2:40SPEAKER_00: a escala d'agents múltiples pot produir estratègies col·laboratives que ningú va
- 2:45SPEAKER_00: dissenyar i que ningú va aprovar.
- 2:48SPEAKER_00: Però la pregunta que queda oberta és la incòmoda.
- 2:51SPEAKER_00: Quants episodis similars no arriben a fer-se públics?
- 2:56SPEAKER_00: HackingFace és una plataforma visible i el hack va ser detectat.
- 3:00SPEAKER_00: Al mateix patró,
- 3:01SPEAKER_00: agents que troben dreceres no previstes per maximitzar objectius pot estar passant
- 3:06SPEAKER_00: ara mateix en entorns corporatius interns sense cap sistema de detecció equivalent.
- 3:15SPEAKER_00: El fracàs del projecte OT de Meta.
- 3:19SPEAKER_00: La segona notícia ve de Meta i és especialment reveladora perquè ningú l'ha anunciada.
- 3:25SPEAKER_00: Meta va llançar el projecte OT d'Organisation Transformation amb l'objectiu de
- 3:29SPEAKER_00: substituir el 60% de la força de treball d'alguns equips per agents d'intel·ligència
- 3:34SPEAKER_00: artificial.
- 3:35SPEAKER_00: Ambicios en la forma discreten els detalls.
- 3:38SPEAKER_00: No hi va haver anunci públic de llançament ni de cancel·lació.
- 3:42SPEAKER_00: La informació ha sortit per filtracions internes que descriuen agents fent accions
- 3:46SPEAKER_00: massives i disruptives que ningú havia previst ni autoritzat.
- 3:51SPEAKER_00: I aquí cal ser precís, perquè és fàcil llegir malament aquesta notícia.
- 3:55SPEAKER_00: El projecte no ha fracassat perquè la intel·ligència artificial no sigui capaç.
- 3:59SPEAKER_00: Els models de meta, llama i les seves variants figuren entre els més capables del mercat.
- 4:05SPEAKER_00: El fracàs és d'arquitectura d'implantació.
- 4:08SPEAKER_00: Els agents van ser desplegats en entorns de treball real sense els mecanismes de
- 4:13SPEAKER_00: supervisió, reversibilitat i escala gradual que qualsevol sistema crític requereix.
- 4:19SPEAKER_00: Substituir el 60% dels humans no és un percentatge de productivitat.
- 4:24SPEAKER_00: És una aposta per eliminar el marge d'error humà abans que el sistema hagi demostrat
- 4:29SPEAKER_00: que pot funcionar sense ell.
- 4:31SPEAKER_00: La lliçó per a qualsevol empresa que estigui dissenyant projectes similars és concreta.
- 4:36SPEAKER_00: La substitució massiva i simultània és el pitjor model de desplegament possible.
- 4:42SPEAKER_00: No perquè els agents no puguin fer la feina,
- 4:44SPEAKER_00: sinó perquè cap organització té prou dades sobre com fallen els agents per eliminar
- 4:49SPEAKER_00: la supervisió humana abans d'haver-los observat fallar de manera controlada.
- 4:54SPEAKER_00: Notícia 3 Sony i Warner demanden Anthropic.
- 5:00SPEAKER_00: Canviem de registre i anem als tribunals.
- 5:02SPEAKER_00: Sony Music i Warner Music han presentat una demanda conjunta contra Anthropic i
- 5:07SPEAKER_00: contra el seu conseller delegat, Dario Amodei, personalment.
- 5:11SPEAKER_00: El motiu?
- 5:12SPEAKER_00: L'ús de lesenes de milers de composicions amb copyright per entrenar Clot.
- 5:16SPEAKER_00: La demanda qualifica l'acte com un dels rogatoris de propietat intel·lectual més
- 5:20SPEAKER_00: grans i descarats de la història.
- 5:22SPEAKER_00: Anthropic va tancar mesos enrere una cort amb editorials literàries que molts van
- 5:27SPEAKER_00: llegir com un gest de voluntat negociadora.
- 5:30SPEAKER_00: La demanda musical demostra que aquell acord va ser selectiu per sector,
- 5:33SPEAKER_00: no un canvi de política sobre com la companyia entén el copyright en el procés
- 5:37SPEAKER_00: d'entrenament.
- 5:39SPEAKER_00: Ara, Anthropic gestiona simultàniament un front legal actiu,
- 5:43SPEAKER_00: una ronda de finançament que necessita estabilitat i la pressió de construir un
- 5:46SPEAKER_00: producte competitiu mentre el marc legal del seu procés de fabricació és qüestionat.
- 5:52SPEAKER_00: Però el detall que pot convertir aquest cas en precedent és la demanda personal
- 5:55SPEAKER_00: contra Model,
- 5:57SPEAKER_00: Si un tribunal accepta que els consellers delegats poden ser responsables
- 6:00SPEAKER_00: individuals de les decisions d'entrenament dels seus models,
- 6:04SPEAKER_00: el mapa d'incentius de tota la indústria canvia.
- 6:07SPEAKER_00: Els acords de llicències deixen-li de ser un cost
- 6:10SPEAKER_00: a minimitzar per convertir-se en un risc personal per als fundadors.
- 6:14SPEAKER_00: I això canvia el càlcul de qualsevol executiu del sector.
- 6:19SPEAKER_00: OpenAI talla l'accés a Cursor.
- 6:25SPEAKER_00: Quarta i última notícia del recull i és la que té la lliçó més aplicable per
- 6:28SPEAKER_00: a qualsevol empresa.
- 6:30SPEAKER_00: OpenAI ha rescindit el contracte d'API amb Cursor,
- 6:33SPEAKER_00: l'ajutor de codi amb intel·ligència artificial més utilitzat fora de GitHub Copilot.
- 6:39SPEAKER_00: El motiu alegat?
- 6:40SPEAKER_00: L'historial de trencar contractes d'Elon Musk arran de l'adquisició de Cursor per
- 6:44SPEAKER_00: part de SpaceX.
- 6:46SPEAKER_00: No és una rescissió per incompliment tècnic ni per raons de capacitat.
- 6:51SPEAKER_00: És un tall preventiu basat en la identitat del nou propietari.
- 6:55SPEAKER_00: Confirma que les disputes personals entre fundadors del sector s'han convertit en
- 6:59SPEAKER_00: risc operatiu per a empreses de tercers que no han tingut res
- 7:03SPEAKER_00: a veure amb el conflicte.
- 7:05SPEAKER_00: Cursor ha respost amb una xifra.
- 7:08SPEAKER_00: Els models d'OpenAI representen només el 5% del seu volum total.
- 7:13SPEAKER_00: La resta es distribueix entre Gemini, Clot i models propis.
- 7:18SPEAKER_00: Aquesta dada,
- 7:18SPEAKER_00: que podria llegir-se com un gest de tranquil·litat per als usuaris,
- 7:22SPEAKER_00: és en realitat el resultat d'una decisió estratègica presa molt abans que el
- 7:26SPEAKER_00: conflicte fos visible.
- 7:28SPEAKER_00: Cursor no va diversificar perquè preveia un trencament amb OpenAI.
- 7:33SPEAKER_00: Ho va fer per rendiment, per cost i per flexibilitat tècnica.
- 7:37SPEAKER_00: La resiliència va ser un subproducte.
- 7:41SPEAKER_00: Per a qualsevol empresa que construeixi productes o processos sobre APIs externes,
- 7:46SPEAKER_00: el cas cursor és el millor argument pràctic de la setmana.
- 7:50SPEAKER_00: La dependència d'un sol proveïdor d'intel·ligència artificial no és un risc tècnic,
- 7:55SPEAKER_00: és un risc de negoci que pot materialitzar-se per raons que no tenen res
- 8:00SPEAKER_00: a veure amb la qualitat del model ni amb el teu comportament com a client.
- 8:05SPEAKER_00: El prospecte I ara, el prospecto de la setmana, l'eina que t'explico en 5 minuts.
- 8:12SPEAKER_00: Aquesta setmana, Cursor.
- 8:14SPEAKER_00: I sí, apareix dues vegades en aquest número,
- 8:17SPEAKER_00: com a protagonista d'una notícia i com a eina a explorar.
- 8:20SPEAKER_00: Les dues coses estan connectades.
- 8:22SPEAKER_00: Cursor va néixer com una bifurcació de Visual Studio Code,
- 8:25SPEAKER_00: amb intel·ligència artificial integrada de manera nativa.
- 8:29SPEAKER_00: No com un pla inafegit, sinó com a part del disseny de l'eina.
- 8:32SPEAKER_00: Integra models de llenguatge directament a l'entorn d'edició.
- 8:36SPEAKER_00: Pots escriure en llenguatge natural per generar,
- 8:38SPEAKER_00: refactoritzar o depurar codi,
- 8:40SPEAKER_00: seleccionar un fragment i demanar-ne una explicació o detectar errors.
- 8:44SPEAKER_00: I gestiona el context del projecte sencer, no només el fitxer obert.
- 8:49SPEAKER_00: El que la fa especialment rellevant el 2026 no és que sigui el millor editor del
- 8:53SPEAKER_00: mercat en tots els aspectes.
- 8:55SPEAKER_00: És que ha resol millor que ningú el problema de la concentració de proveïdors.
- 8:59SPEAKER_00: En els darrers 18 mesos ha diversificat els seus models base fins al punt que cap
- 9:04SPEAKER_00: proveïdor individual representa més del 5% del trànsit.
- 9:08SPEAKER_00: Quan OpenAI va tancar l'aixeta, el producte va continuar funcionant.
- 9:12SPEAKER_00: El microexperiment d'aquesta setmana és aquest.
- 9:15SPEAKER_00: Descarrega Cursor i importa la teva configuració de Visual Studio Code amb un clic.
- 9:20SPEAKER_00: La detecta automàticament.
- 9:22SPEAKER_00: Obre un projecte que ja coneguis bé, per poder jutjar la qualitat dels suggeriments.
- 9:27SPEAKER_00: Selecciona la funció de 15 o 20 línies,
- 9:29SPEAKER_00: prem Com en K i escriu Explica'm aquesta funció en una frase i digues-me si hi ha un
- 9:35SPEAKER_00: cas límit no cobert.
- 9:37SPEAKER_00: Després,
- 9:38SPEAKER_00: obre el xat lateral i pregunta si hi ha alguna dependència del projecte que podria
- 9:42SPEAKER_00: substituir per una solució nativa.
- 9:44SPEAKER_00: Observa si el context del projecte sencer apareix reflectit a la resposta.
- 9:49SPEAKER_00: I finalment, el pas que realment importa.
- 9:52SPEAKER_00: Canvia el model actiu des de la configuració,
- 9:54SPEAKER_00: passa de Clot a Gemini i repeteix la mateixa pregunta.
- 9:58SPEAKER_00: Compara el resultat.
- 10:00SPEAKER_00: Aprendràs si el model entén el context del teu projecte o només el fitxer obert,
- 10:05SPEAKER_00: que és la diferència entre un assistent útil i un autocompletat sofisticat.
- 10:09SPEAKER_00: I tindràs una mesura concreta de quina part del teu flux de treball podria passar
- 10:14SPEAKER_00: a un altre proveïdor si el principal falla.
- 10:17SPEAKER_00: Trobaràs Cursor a Cursor.com.
- 10:19SPEAKER_00: Té pla gratuït amb límits mensuals i Pla Pro per 20 dòlars al mes.
- 10:25SPEAKER_00: I acabem amb l'article de la setmana, que podràs llegir sencer al blog TheLink.cat.
- 10:30SPEAKER_00: El títol, Cursor i la lliçó de no dependre d'un sol proveïdor d'intel·ligència artificial.
- 10:37SPEAKER_00: Quan OpenAI va tallar l'accés a cursor,
- 10:39SPEAKER_00: la resposta de la companyia va ser publicar una xifra, el 5%.
- 10:44SPEAKER_00: Això és tot el que OpenAI representava en el trànsit total de l'eina.
- 10:47SPEAKER_00: No era un gest de superioritat.
- 10:49SPEAKER_00: Era el resultat de dos o tres anys de decisions silencioses que van convertir la
- 10:53SPEAKER_00: diversificació de models en una prioritat arquitectònica, no en una aspiració.
- 10:59SPEAKER_00: Per a una empresa que construeixi productes sobre APIs d'intel·ligència artificial,
- 11:03SPEAKER_00: un chatbot,
- 11:04SPEAKER_00: un assistent intern,
- 11:05SPEAKER_00: un procés automatitzat,
- 11:07SPEAKER_00: la pregunta no és si el seu proveïdor actual és bo o és el millor.
- 11:11SPEAKER_00: La pregunta és, què li passaria si li tallessin l'accés de mà?
- 11:15SPEAKER_00: A l'article explico per què la concentració en un sol proveïdor és un risc de negoci
- 11:20SPEAKER_00: mesurable,
- 11:21SPEAKER_00: com cursora resolta el problema i quins passos concrets pot fer qualsevol equip per
- 11:25SPEAKER_00: reduir la seva exposició.
- 11:27SPEAKER_00: Sense canviar d'eina i sense duplicar costos.
- 11:31SPEAKER_00: Si demà OpenAI,
- 11:32SPEAKER_00: Anthropic o Google canviessin les condicions de la seva API,
- 11:36SPEAKER_00: el teu producte o procés clau seguiria funcionant?
- 11:47SPEAKER_00: Fins aquí la píndola número 118.
- 11:50SPEAKER_00: Si t'ha agradat, comparteix-la amb algú que creus que hauria de llegir-la.
- 11:53SPEAKER_00: I si vols rebre-la cada setmana, subscriu-te a Substack.
- 11:56SPEAKER_00: El trobaràs a lapíndola.substack.com.
- 12:00SPEAKER_00: Ens escoltem la setmana que ve.