Latest / Píndola de TecnologIA Podcast / 🎙️ Episodi #116 — La indústria que apaga el detector de fums mentre parla de seguretat
Transcript
- 0:00[music]
- 0:07SPEAKER_00: Això és la Píndola de Tecnologia.
- 0:10SPEAKER_00: Una a la setmana per estar al dia del que importa de la IA.
- 0:14SPEAKER_00: Quatre notícies, una eina i una reflexió.
- 0:19SPEAKER_00: Per entendre com la IA està canviant el món, el negoci i la teva feina.
- 0:25SPEAKER_00: Cada setmana, amb l'Òscar Junyent.
- 0:44SPEAKER_01: En Tròpic ha anunciat que tots els textos de Clot portaran una empremta invisible.
- 0:49SPEAKER_01: OpenAI ha disolt l'equip que tenia l'encàrrec de detectar si els seus models podien
- 0:53SPEAKER_01: causar un desastre catastròfic.
- 0:55SPEAKER_01: I els Estats Units preparen una carta per exigir
- 0:58SPEAKER_01: a 35 països que triïn bàndol en la cursa tecnològica amb la Xina.
- 1:03SPEAKER_01: Dues empreses,
- 1:04SPEAKER_01: dues apostes oposades sobre qui ha de controlar la intel·ligència artificial i des
- 1:08SPEAKER_01: d'on.
- 1:09SPEAKER_01: I al fons, una pregunta que ningú del sector acaba de respondre.
- 1:12SPEAKER_01: Per què no ens creieu?
- 1:14SPEAKER_01: Benvinguts a la Píndola, sóc l'Òscar Junyent i això és el número 116.
- 1:20SPEAKER_01: Notícia 1 Antròpic detalla el watermarking de Clot.
- 1:25SPEAKER_01: Comencem amb la notícia que ens explica com funcionarà l'atribució de contingut
- 1:29SPEAKER_01: generat per intel·ligència artificial.
- 1:31SPEAKER_01: Antròpic ha publicat els detalls tècnics del sistema de marques d'aigua invisibles
- 1:35SPEAKER_01: que incorporarà Clot.
- 1:36SPEAKER_01: No és una etiqueta afegida al final.
- 1:38SPEAKER_01: No és un pèl de pàgina.
- 1:40SPEAKER_01: És una empremta codificada dins l'estructura estadística del text,
- 1:44SPEAKER_01: imperceptible per un lector humà,
- 1:46SPEAKER_01: però detectable per un sistema entrenat per reconèixer-la.
- 1:49SPEAKER_01: El funcionament és més subtil del que sembla.
- 1:52SPEAKER_01: Quan Claude genera text,
- 1:53SPEAKER_01: tria constantment entre paraules i estructures estadísticament equivalents.
- 1:57SPEAKER_01: El watermarking orienta sistemàticament aquestes tries seguint un patró codificat.
- 2:03SPEAKER_01: El text que llegeixes és idèntic.
- 2:05SPEAKER_01: L'empremta que hi queda, no.
- 2:08SPEAKER_01: Hi ha tres detalls que val la pena entendre.
- 2:09SPEAKER_01: Primer, el codi generat per Clot no portarà marca d'aigua per raons de funcionalitat òbvies.
- 2:15SPEAKER_01: Segon, la detecció no és pública ni accessible a qualsevol.
- 2:20SPEAKER_01: És un mecanisme d'auditoria intern i per a plataformes associades.
- 2:24SPEAKER_01: I tercer, edicions i augeres no eliminen la marca, però una reescriptura substancial sí.
- 2:31SPEAKER_01: Això últim és important.
- 2:32SPEAKER_01: El watermarking no és un sistema antifrau perfecte.
- 2:35SPEAKER_01: És un sistema que eleva el cos balfrau fins a un punt en què deixa de ser pràctic.
- 2:40SPEAKER_01: I si s'estén, la pregunta deixarà de ser, això ho ha fet una intel·ligència artificial?
- 2:45SPEAKER_01: Per passar a ser, quin model, quan i amb quina instrucció?
- 2:50SPEAKER_01: Notícia 2 Amodei parla de crisi de confiança.
- 2:55SPEAKER_01: Darío Amudey,
- 2:56SPEAKER_01: conseller delegat d'Antropic,
- 2:57SPEAKER_01: ha escrit un article llarg,
- 2:59SPEAKER_01: que és el seu format favorit per dir coses importants,
- 3:01SPEAKER_01: on argumenta que el rebuig social
- 3:03SPEAKER_01: a la intel·ligència artificial no ve de les advertències dels experts sobre riscos
- 3:07SPEAKER_01: existencials.
- 3:08SPEAKER_01: Ve d'una desconfiança estructural envers les empreses tecnològiques,
- 3:12SPEAKER_01: acumulada durant 15 anys de promeses incomplertes,
- 3:15SPEAKER_01: escàndols de privadesa i opacitat corporativa.
- 3:18SPEAKER_01: I crec que no li falta raó.
- 3:20SPEAKER_01: El problema és el moment en què ho diu.
- 3:23SPEAKER_01: Antròpic gestiona ara mateix l'escàndol d'haver mantingut desactivat un filtre de
- 3:26SPEAKER_01: bioarmes durant quasi un any.
- 3:29SPEAKER_01: Antròpic ha fet més que moltes empreses del sector en transparència tècnica,
- 3:33SPEAKER_01: publica les seves polítiques d'ús,
- 3:35SPEAKER_01: té un procés d'avaluació de models relativament formalitzat,
- 3:38SPEAKER_01: ara implementa watermarking.
- 3:40SPEAKER_01: Però la confiança no es guanya amb documents, es guanya amb consistència.
- 3:45SPEAKER_01: I aquí no s'han fet els deures.
- 3:48SPEAKER_01: El que deixa clar l'article de Mudei és que el problema no es resol amb millor comunicació.
- 3:52SPEAKER_01: La indústria ha portat dos anys explicant que la intel·ligència artificial és segura
- 3:56SPEAKER_01: i útil i la societat no s'ho acaba de creure.
- 4:00SPEAKER_01: La bretxa entre el discurs del sector i la percepció pública s'eixampla i,
- 4:04SPEAKER_01: de moment, cap campanya de màrqueting ho està resolent.
- 4:12SPEAKER_01: L'equip Preparedness d'Open AI tenia una missió molt concreta.
- 4:18SPEAKER_01: Avaluar si els models de l'empresa podien causar danys a escala catastròfica.
- 4:22SPEAKER_01: Bioarmes, ciberatacs d'alt impacte, desestabilització d'infraestructures crítiques.
- 4:28SPEAKER_01: Era, en teoria,
- 4:29SPEAKER_01: el mecanisme intern que justificava que OpenAI es prengués la seguretat seriosament.
- 4:34SPEAKER_01: Aquesta setmana s'ha dissolt.
- 4:37SPEAKER_01: El treball es redistribueix entre kits existents i diverses persones responsables de
- 4:41SPEAKER_01: seguretat han marxat o estan en procés de sortir.
- 4:45SPEAKER_01: La resposta oficial és que integrar la seguretat als equips de producte és més
- 4:49SPEAKER_01: eficient que tenir-la en un silo separat.
- 4:51SPEAKER_01: Dit així, no sembla la mare idea.
- 4:53SPEAKER_01: El problema és que és exactament el tipus d'argument que s'usa per justificar
- 4:57SPEAKER_01: decisions que prioritzen velocitat sobre precaució.
- 5:01SPEAKER_01: Fons internes citades per
- 5:02SPEAKER_01: The Decoder parlen de malestar creixent sobre si la velocitat de llançament de
- 5:06SPEAKER_01: productes és compatible amb una avaluació de riscos rigorosa.
- 5:10SPEAKER_01: I el timing és difícil d'ignorar.
- 5:12SPEAKER_01: OpenAI dissol preparedness la mateixa setmana que introdueix publicitat
- 5:16SPEAKER_01: a ChatGPT i que Anthropic avança en watermarking.
- 5:20SPEAKER_01: La cursa per guanyar legitimitat i mercat no afluixa.
- 5:24SPEAKER_01: Simplement es corre en direccions oposades.
- 5:32SPEAKER_01: El passat mes de juny,
- 5:33SPEAKER_01: el Departament d'Estat nord-americà va aconseguir que 35 països signessin la AI
- 5:38SPEAKER_01: Opportunity Statement,
- 5:40SPEAKER_01: un document de principis sobre cooperació amb intel·ligència artificial amb
- 5:44SPEAKER_01: to obert i no excloent.
- 5:46SPEAKER_01: Dos mesos després,
- 5:48SPEAKER_01: la mateixa administració prepara una carta dirigida
- 5:50SPEAKER_01: a aquests mateixos signants per demanar-los un posicionament explícit al costat dels
- 5:54SPEAKER_01: Estats Units en la competició tecnològica amb la Xina.
- 5:58SPEAKER_01: El terme que circula internament és Pax Silica,
- 6:02SPEAKER_01: una nova doctrina de seguretat basada en el control de la cadena de subministrament
- 6:06SPEAKER_01: tecnològica, xips, models i infraestructura de núvol.
- 6:10SPEAKER_01: En lloc de bases militars o aliances formals, l'analogia amb la Guerra Freda és inevitable.
- 6:16SPEAKER_01: I probablement intencionada.
- 6:18SPEAKER_01: El missatge és clar.
- 6:19SPEAKER_01: El bàndol al qual jugues en la cursa de la intel·ligència artificial definirà les
- 6:23SPEAKER_01: teves relacions comercials,
- 6:25SPEAKER_01: el teu accés a tecnologia americana i la teva posició en futurs acords.
- 6:30SPEAKER_01: Per a Europa, les implicacions són molt concretes.
- 6:33SPEAKER_01: Si un proveïdor tecnològic europeu treballa amb infraestructura xinesa i americana
- 6:38SPEAKER_01: simultàniament, cosa que passa sovint, aviat podrà haver-hi pressions per triar.
- 6:43SPEAKER_01: La sobirania tecnològica europea deixa de ser un debat acadèmic i es converteix en
- 6:47SPEAKER_01: una qüestió operativa.
- 6:49SPEAKER_01: I per a qualsevol empresa que escolti això,
- 6:52SPEAKER_01: decisions que semblen intrascendents ara,
- 6:54SPEAKER_01: quins novoluses,
- 6:55SPEAKER_01: quins models íntegres,
- 6:57SPEAKER_01: quins proveïdors contractes, poden portar una connotació geopolítica molt aviat.
- 7:05SPEAKER_01: I ara el prospecto de la setmana, l'eina que t'explico en 5 minuts.
- 7:09SPEAKER_01: Aquesta setmana, el moda de veu de Clot.
- 7:12SPEAKER_01: Fa poques setmanes Antròpic va actualitzar el mode de veu sense fer gaire soroll.
- 7:16SPEAKER_01: Ara funciona amb els tres models, Haiku, Sonnet i Opus.
- 7:20SPEAKER_01: Suporta més de 14 idiomes i,
- 7:22SPEAKER_01: sobretot, es connecta directament amb Gmail, Google Calendar, Slack i Notion.
- 7:28SPEAKER_01: Pots demanar-li que resumeixi el teu correu del matí,
- 7:30SPEAKER_01: que creï una vena a l'agenda o que publiqui un missatge Slack.
- 7:33SPEAKER_01: Tot per veu i sense tocar el teclat.
- 7:36SPEAKER_01: Funciona per torns.
- 7:37SPEAKER_01: Tu parles, l'eina respon, tu tornes a parlar...
- 7:40SPEAKER_01: No és el mode continu de ChangePT.
- 7:43SPEAKER_01: Menys espectacular, però notablement més precís per a tasques amb instruccions complexes.
- 7:48SPEAKER_01: I quan estàs delegant accions reals sobre el teu correu i la teva agenda,
- 7:52SPEAKER_01: la precisió importa més que l'espectacle.
- 7:55SPEAKER_01: El microexperiment d'aquesta setmana és aquest.
- 7:58SPEAKER_01: Obre l'app de Plot al mòbil i activa el mode de veu des de la icona del micròfon.
- 8:03SPEAKER_01: Demana-li que et resumeixi els correus no llegits dels últims dos dies,
- 8:07SPEAKER_01: havent activat prèviament la integració en Gmail.
- 8:10SPEAKER_01: A partir del resum, demana-li, per veu, que redacti una resposta a un d'ells.
- 8:15SPEAKER_01: Després, prova una tasca d'agenda.
- 8:18SPEAKER_01: Crea una vent dijous a les 10 del matí per revisar un projecte concret.
- 8:22SPEAKER_01: I el pas que realment et donarà informació,
- 8:25SPEAKER_01: fes-lo servir durant un matí complet per
- 8:27SPEAKER_01: a totes les tasques de comunicació rutinàries i apunta quantes has pogut delegar
- 8:32SPEAKER_01: sense revisar i quantes has hagut de corregir.
- 8:35SPEAKER_01: La majoria d'usuaris descobreixen tal filtre crític que necessiten,
- 8:39SPEAKER_01: no és sobre si la intel·ligència artificial ho fa bé,
- 8:42SPEAKER_01: és sobre quines tasques no cal ni revisar abans d'enviar.
- 8:47SPEAKER_01: Trobaràs el mode de veu a l'app de Clot, a iOS i Android.
- 8:51SPEAKER_01: El mode bàsic funciona amb el pla gratuït.
- 8:53SPEAKER_01: Les integracions amb Gmail, Calenders, LAC i Notion requereixen el pla PRO, 20 dòlars al mes.
- 9:01SPEAKER_01: Watermarking.
- 9:02SPEAKER_01: El futur del contingut d'IA és traçable.
- 9:06SPEAKER_01: I acabem amb l'article de la setmana, que podràs llegir sencer al blog d'elink.cat.
- 9:10SPEAKER_01: El títol?
- 9:11SPEAKER_01: Watermarking.
- 9:12SPEAKER_01: El futur del contingut d'intel·ligència artificial és traçable.
- 9:17SPEAKER_01: Fins aquesta setmana,
- 9:18SPEAKER_01: saber si un text l'havia generat una màquina era una qüestió de probabilitats.
- 9:22SPEAKER_01: Detectors amb taxes d'error elevades,
- 9:24SPEAKER_01: intuïcions editorials i, sovint,
- 9:26SPEAKER_01: textos escrits per humans classificats erròniament com
- 9:29SPEAKER_01: a generats per intel·ligència artificial,
- 9:32SPEAKER_01: el watermarking invisible de Clot li dona la volta al problema.
- 9:36SPEAKER_01: Si l'empremta s'insereix durant la generació i no com a etiqueta externa,
- 9:40SPEAKER_01: i si persisteix,
- 9:41SPEAKER_01: tot i fer edicions lleugeres,
- 9:43SPEAKER_01: la traçabilitat es converteix en l'estat per defecte del contingut.
- 9:47SPEAKER_01: Però això obre preguntes noves.
- 9:49SPEAKER_01: Qui és l'autor d'un text parcialment generat per Clot i parcialment editat per un humà?
- 9:54SPEAKER_01: Quin percentatge d'edició elimina de marca?
- 9:57SPEAKER_01: I si la marca és invisible per als lectors,
- 9:59SPEAKER_01: però visible per a les plataformes,
- 10:01SPEAKER_01: qui controla realment la informació sobre l'origen del contingut?
- 10:05SPEAKER_01: A l'article parlo de les respostes que tenim ara,
- 10:08SPEAKER_01: les que encara no tenim i les decisions que caldrà prendre abans que la regulació
- 10:12SPEAKER_01: les imposi.
- 10:13SPEAKER_01: L'article sencer al blog delinc.cat.
- 10:17SPEAKER_01: Fins aquí la píndola número 116.
- 10:19SPEAKER_01: Si t'ha agradat, comparteix-la amb algú que creus que hauria de llegir-la.
- 10:23SPEAKER_01: I si vols rebre-la cada setmana, subscriu-te a Substack.
- 10:27SPEAKER_01: El trobaràs a lapíndola.substack.com.
- 10:30SPEAKER_01: Ens escoltem la setmana que ve.