Latest / Verbos: AI og Softwareudvikling / #87 - Vi gør status på AI Agenter 2025
Transcript
- 0:00Hej allesammen og velkommen til hvaber boost podcast afsnit
- 0:02nummer 87 i dag skal vi snakke om agenter.
- 0:06Det er ikke første gang vi snakker om agenter.
- 0:07Det er faktisk bestemt ikke første gang Vi har snakket om
- 0:10agenter, men Der er begyndt at ske en masse ting med agenter og
- 0:13de er faktisk begyndt at blive rigtig gode.
- 0:15Jeg tror faktisk Jonas, at vi kan spole tilbage til en af de
- 0:18første afsnit vi lavede sammen, hvor vi taler om air agenter.
- 0:21Det kunne være sjovt at høre den, faktisk fordi Der er godt
- 0:24nok sket meget siden. Ja.
- 0:27Det er der Det er der. Så men i dag skal vi ligesom
- 0:30jeg. Jeg har nogle.
- 0:31Jeg har nogle ting jeg brænder inde med i forhold til agenter,
- 0:34og Det har vi måske begge 2. Så vi tænker det kunne være fedt
- 0:36lige at tage en en status på og og en snak omkring blandt andet
- 0:41hvordan ja, Jeg har en masse tanker som jeg gerne vil ud med
- 0:44i hvert fald, og så har vi ugens revol lidt senere, som også er
- 0:49relateret til agenter, som vi også glæder os til at gå igennem
- 0:51som jer så. Ja skal vi ikke bare starte?
- 0:55Jo jo måske skal vi tage 1 1 1 tilbagekig på på det afsnit der
- 1:00lige kort hvad hvad hvad hvad snakkede vi om der tror du Jeg
- 1:03er helt sikker på vi snakkede om den her aurorg t.
- 1:09Og så rigtig helt sikkert også lang chain og hvordan at altså
- 1:14hvad definitionen af agenter altså det her med med toolio set
- 1:19og. Det som måske mange bare tager
- 1:23for givet i dag, hvad en agent er.
- 1:25Det kan også være vi lige skal recappe hvad en agenda er, altså
- 1:28hvordan vi definerer det, fordi Det er alligevel også blevet et
- 1:31lidt blird begreb på en eller 2 måde med tiden.
- 1:37Skal du ikke lige du giver lige en definition.
- 1:38Jo jeg giver lige en definition. Ja okay.
- 1:41Jamen hvad er der gent? Det er et godt spørgsmål.
- 1:43Altså jeg umiddelbart så ser jeg.
- 1:47Altså energigen er blevet ret vidt begreb.
- 1:49Nogle synes jeg faktisk bare bruger begrebet agent om en
- 1:54prompt faktisk. Men Jeg synes at en agent Det
- 1:58har noget at gøre med. 2 ting vil jeg sige umiddelbart Sådan
- 2:03lige on the tipper for my head i hvert fald og den ene.
- 2:06Det er tools altså at agenter bruger tools og Det er Sådan Det
- 2:12er måske Sådan lidt lidt lidt svært begreb hvis man ikke
- 2:15kender til det. Men men det som toolspace
- 2:17betyder Det er at agenter kan finde ud af at formulere API
- 2:20kald. De kan altså formulere
- 2:22struktureret data som de sender til et API.
- 2:26Og så kalder det API og får noget data tilbage.
- 2:29Det er Sådan den ene del af det. Det er tool calling den 2 del
- 2:33Det er den her det her wild loop de ligesom er i altså det her
- 2:37med at de konstant ligesom altså de kører i Sådan et loop og
- 2:40itererer henover deres egne tanker og handlinger og så
- 2:44videre i deres problemløsning. Det ser jeg som Sådan 2 ret
- 2:48væsentlige komponenter i en agent, og Det er også Sådan
- 2:51noget man ser. For eksempel i curser det her
- 2:53med at. Du sætter, så kan vi så i gang
- 2:56med noget, så kan den vælge at gøre ting den kan vælge at slå
- 2:58op i dit repository eller dit hvad hedder det dit kodeprojekt
- 3:01læse filer. Ændre i filer og køre ting i
- 3:05terminalen og så videre og så ind imellem så tænker den lige
- 3:09lidt. Nu vil jeg gerne gøre det her
- 3:10OK, nu læste jeg det her. Nu vil jeg gøre det her Sådan.
- 3:14Så den her Sådan iterative wild loop.
- 3:19Agtige tilgang og så kombineret med med toolius.
- 3:23OK så har jeg lige 2 ting til det.
- 3:26Men du sagde noget, som Jeg synes er den rigtige måde at
- 3:30definere det her abstraktionsniveau, vi kalder
- 3:33agenter, når vi ser elementerne som agenter eller have have
- 3:38agency det at de kan strukturere output.
- 3:43Det, at de kan tage ustruktureret?
- 3:47Naturligt sprog ind. Og et svarer tilbage med
- 3:50struktureret output. Det er Sådan set det jeg ser som
- 3:54kernen, fordi Det er den måde man kan mappe det naturlige
- 4:01sprog som input over til noget konkret og noget noget.
- 4:06Hvad kan man sige noget actionoble altså.
- 4:10Rimelig Sådan struktureret. De her data.
- 4:14Ind med det et eller andet sted ikke?
- 4:18Og så det andet der. Nu kommer vi jo til det senere,
- 4:21men så sagde du det der med at en form for en eller 2 while
- 4:23loop eller Sådan. Gør noget, indtil du opnår et
- 4:28eller andet, og så brug nogle. Nogle tules og Sådan nogle ting.
- 4:32Jeg ser faktisk ikke det som som en særlig væsentlig del af
- 4:37definitionen af en agent, men typisk så noget som man ser, at
- 4:42Det er den implementerings, så den arkitektur folk
- 4:46implementerer igenter i det her whirloop.
- 4:48Og så kan jeg huske det der ordug t, som Jeg er helt sikker
- 4:52på var at wire loop fordi Jeg kan huske det der.
- 4:56Prøv lige at se om Jeg kan finde den.
- 4:57Det kan jeg huske den der ornogy t hvis man spurgte den om et
- 5:01eller andet. Hvor kunne man bare sidde og
- 5:04vente i rigtig lang tid og og hvor havde den også nogle gange
- 5:09så kører den nemlig ned i Sådan nogle internet.
- 5:12Altså den kommer ingen vegne, og så havde den Sådan en timeout
- 5:15Sådan rigtig OK jeg endte et galt sted ikke og og Det var
- 5:20bare Jeg kan. Jeg kan tydeligt huske det bare
- 5:21jeg tænkte Sådan OK? First early state på på en
- 5:25agentarkitektur et wildloop med. Du ved.
- 5:32Rimelig Sådan råt rå ting. Vi skal helt sikkert ud af wild
- 5:38loop-tanken, hvis Vi skal ud i nogle agenter.
- 5:40Der er Sådan produktionsklar, hvis du spørger mig.
- 5:44Men men Sådan konceptuelt, så kan jeg godt forstå du siger
- 5:46det, fordi Det er ligesom. Du ved gør noget indtil en eller
- 5:512 kondition er mødt og så break ikke.
- 5:54Og så komme ud af den og så svar brugeren eller Sådan et eller
- 5:56andet. Sådan kan man godt se det som
- 5:58agenterne et eller andet sted gør.
- 6:02Men altså de kan jo være implementeret på forskellige
- 6:04måder og også uden vej. Look.
- 6:08Ja gør det. Den 2.
- 6:10Maj 2023 der lavede vi 1 1 1 podcast der hed om autogen, der
- 6:15hedder autogip t. Er det ren hype eller hvad er
- 6:17fremtiden for AR agenter? Jeg kan godt.
- 6:20Huske Det er altså 2 år siden. Ja Det er grineren.
- 6:23Det er fandme sjovt det. Det er virkelig noget af det jeg
- 6:25nyder allermest. Det der med at kigge tilbage på
- 6:27Sådan. Ja Jeg har en 2 fun fact siden
- 6:32det her kom ud og agenter og alt Sådan noget der så har jeg Sådan
- 6:35siddet lidt på. På siden og kiggede på det og
- 6:39både tænkt på hvornår kommer der igen frameworks?
- 6:41Jeg synes er noget værd. Hvornår er tankerne omkring det?
- 6:44Hvornår er jeg Sådan design og ting, abstraktionerne og alle de
- 6:47der ting på plads og jeg må sige Jeg synes ikke Der er sket vildt
- 6:51meget på 2 år. Men, men Jeg synes til gengæld,
- 6:55at Det er blevet lidt mere modent.
- 7:00Og Jeg har jo ja på intet tidspunkt er doblet.
- 7:02Det vil bare lige siges noget arbejde som jeg laver
- 7:04professionelt endnu. Men Det er virkelig sjovt, fordi
- 7:08Det er måske meget sjovt at prøve at kigge tilbage Sådan.
- 7:09Hvad er det Der er sket siden dengang?
- 7:11Altså hvad er det Der er sket på de 2 år?
- 7:12Hvilket der? Hvilket gør at der ligesom.
- 7:17Det er ligesom bare virker til at være altså tage fart
- 7:20efterhånden. Ikke fordi Det er jo ikke nye
- 7:22tanker og alt det der. Altså det der med at agenter.
- 7:25Det har været en ting længe og og det her med MCP servere altså
- 7:29Sådan jo. Altså jeg agenter kan kan hvad
- 7:34hedder Det kan lapier men altså det skulle Det har vi sgu også
- 7:37vidst længe. Ikke så hvorfor fanden er det?
- 7:39Hvorfor fanden er det egentlig at de er blevet så gode?
- 7:40Ikke altså Jeg tror måske personligt at Det har noget at
- 7:43gøre med at. Dels for det første så er Jeg
- 7:50tror for det første altså, så er modellerne bare blevet bedre til
- 7:53at output struktureret data og de er blevet også senest med
- 7:56over ree her kan man se også at det den er jo også.
- 8:00Det er jo trænet ind i den ind i dens reasing halløj at den
- 8:03kalder tools ikke så så på den måde, så bliver det bagt mere og
- 8:07mere ind i modellerne om du modellerne bliver mere og mere
- 8:10Sådan hvad skal man sige? Det bliver mere og mere bagt i
- 8:13ja bagt ind i modellerne at de de de kan faktisk opføre sig på
- 8:16en måde. Hvor Det er naturligt for dem at
- 8:18at kalde tools, ikke? Og så er de også modellerne
- 8:23altså i sig selv er blevet bedre til at overskue mange
- 8:25informationer i flere steps af en chat, og Det er også rimelig
- 8:29vigtigt, hvis man kigger på hvad Det er der sker i de der agents.
- 8:33Altså man bygger jo 1 1, 1 historik op af ting typisk man
- 8:39kan også du ved Det kan ja nu er vi allerede i gang med antagelse
- 8:42om at det gør man bare. Det kan man selvfølgelig gøre på
- 8:44mange måder. Men i hvert fald det der med, at
- 8:46Der er mange informationer i spil og at de de opgaver som.
- 8:52Man skal kunne stille dem med Sådan lidt mere lidt, måske lidt
- 8:56mere åben endtet, men også Sådan.
- 8:59Hvad kan man sige? Kræver måske længere tid at
- 9:01udføre. For mennesker også altså, og der
- 9:06hører jeg nemlig noget interessant for nylig.
- 9:08Jeg tror Det var. Computerfile den der youtube
- 9:11kanal der havde 1 1 1 1 inde fra et Institut hun havde.
- 9:18Det var Sådan et Institut, der evaluerede alle lemmer, de havde
- 9:21lavet Sådan noget, hvor de hvor de prøvede at evaluere.
- 9:25Hvor gode ellemmer var til opgaver, men så kan man sige, så
- 9:29delte de det op eller sammenlignede de det på baggrund
- 9:31af, hvor lang tid opgaven tager for mennesker?
- 9:36Så havde de Sådan en completion agressive versus hvor lang tid
- 9:39det tager for mennesker, og så kunne man ligesom se at de var
- 9:41blevet eksponentielt bedre. Modellerne til at løse opgaver,
- 9:45der tog længere tid. Formindskende og så havde de
- 9:48Sådan en eller 2. En eller 2 hallifagtig.
- 9:54Kurve eller Sådan et eller andet?
- 9:55Nå men ja så et track. Ja så Det er simpelthen altså
- 9:59Det er Sådan et. Det er nok også noget at gøre
- 10:01med at man er altså Jeg tror helt sikkert Det har noget at
- 10:03gøre med modellerne altså Sådan jeg ved ikke der i maj for 2 år
- 10:07siden. Det var jo.
- 10:11Det var jo ikke forfærdeligt længe efter vi se var kommet ud,
- 10:14som mon ikke var det ikke kun 3 gaby 3,5 turbo der var ude der
- 10:17nærmest. Det forestiller jeg mig altså
- 10:19Sådan. Jeg tror ikke engang kapitel 4
- 10:21var kommet på det tidspunkt, så så Sådan.
- 10:23Og Jeg kan da bare huske springet fra at vi gik fra GPT 4
- 10:26tallet. Til til hvad hedder det til
- 10:30eller fra til komma 5 turbo til 4 ikke altså.
- 10:32Det var bare som om at den den fattede bare meget bedre da det
- 10:35handlede om altså den havde bare mere Sådan.
- 10:38Den var bare mere stabil og robust på en eller 2 måde og
- 10:41kunne hørt mere efter hvad man sagde og Sådan noget ikke og Det
- 10:44er jo bare blevet bedre og bedre altså Jeg tror heller ikke man
- 10:46skal tage fejl af at de her modeller også bare er blevet
- 10:48bedre til at følge instruktioner altså Sådan ligesom bare at gøre
- 10:51hvad der bliver sagt fordi det ligesom er trænet til ikke?
- 10:54Og altså Sådan også bare det her med at de 100% reviable nu.
- 11:00Outputter struktureret json og du skal ikke Sådan hacke dig til
- 11:03det i prompteen og alt muligt altså det det det sker ligesom
- 11:06bare ikke. Ja, og så tror jeg måske også
- 11:10at. Så er der selvfølgelig også det
- 11:13her med at de her. Det ved jeg ikke om er.
- 11:15Sådan er det helt vildt nøglen til succesen endnu, men de her
- 11:18MCP servere Der er kommet en standard for hvordan man ER
- 11:23agenter kommunikerer med API er så det vil sige man kan
- 11:27understøtte det i cursor for eksempel.
- 11:29Og så kan man ligesom bare integrere vilkårligt vilkårlig
- 11:34AP er til det. Sådan så det gør jo, at det gør,
- 11:38at man kan begynde at bygge Sådan et økosystem op omkring
- 11:40det. Sådan en eller 2 form for
- 11:41appstore agtig ting ikke? Og så kan de her modeller on the
- 11:46fly interagere med med med a piger som de ikke Sådan på
- 11:50forhånd er blevet tænkt til at integrere med i en eller 2
- 11:54applikation. Det er jo det.
- 11:57Så er det jo klart, så så så udbreder tingene sig til det
- 12:01eller det bliver nemmere at udbrede agenter til i mange
- 12:05sammenhænge, fordi folk kan ligesom komme med deres egen
- 12:08backend med de tools som de forventer de agenter så bruger
- 12:12ikke. Jeg er faktisk lige i gang med
- 12:14at downloade Vores episoder, og så prøver jeg lige at
- 12:16transskribere den, og så prøver jeg lige at se om Jeg har ikke
- 12:18lige lavet summery bare lige for sjov for at se hvad vi snakkede
- 12:20om. Det kunne være sjovt lige at at
- 12:22kigge på. Det kunne være sjovt.
- 12:24Ja hvad hedder det? Men imens vi venter på det så
- 12:27synes jeg lige også at Jeg vil prøve at men det tager måske
- 12:30også videre til noget af det, som jeg kunne rigtig godt tænke
- 12:32mig at snakke om. Jamen altså det her med at.
- 12:35Det er jo også noget med, at Vi er blevet bedre til ligesom at
- 12:39finde. Det har.
- 12:41Det er også en produkt ting det her ikke.
- 12:43Det er også et. Hvad skal man sige en en
- 12:44produktting. At at man skal finde på en eller
- 12:482 brugbar måde at føre de her agenter ud i et produkt ikke og
- 12:52der føler jeg rigtig meget at at at cursor har gjort den for mig.
- 12:56Altså da jeg så persers e agent. Med med MCP server og så videre
- 13:02og hvordan den ligesom arbejder. Det synes jeg bare er.
- 13:06Det er virkelig Sådan den første Sådan agenda-plikation som jeg
- 13:09bruger rigtig meget. Så Jeg tror også Det har noget
- 13:15at gøre med, at Vi er blevet bedre til at få det integreret i
- 13:17produkterne, så Vi er blevet bedre til ligesom at gøre.
- 13:20Altså Vi har haft Der er Der er på en eller 2 måde noget product
- 13:23product market fit i forhold til curse agent der ikke.
- 13:29Ja. Og det tror jeg også.
- 13:31Nu ved jeg ikke hvordan altså kogpile har jeg hørt lidt.
- 13:34Det begynder at catche op på på på.
- 13:36Hvad kan man sige cursers design i hvordan de har løst det?
- 13:39Altså Sådan bare begynde at kopiere dem og og det Det kan
- 13:43man jo godt forstå, fordi de nailede det jo virkelig, så Det
- 13:45er jo spændende at se, men men noget af det, som som jeg også
- 13:49noget af de første agenter, som jeg også synes virkelig gør en
- 13:51forskel. Det er helt klart de her.
- 13:55At du kan slå agent mo til cursor og du er ligesom bare
- 13:59high level. Jeg har det her repository.
- 14:02Jeg leder efter et eller andet, der handler om det her.
- 14:05Jeg skal løse det her problem eller have et overblik over et
- 14:07eller andet, og Jeg er sgu ikke rigtig Sådan.
- 14:09Du ved jeg skal bruge en halv time på lige at sidde og læse
- 14:11kode, før jeg rigtig er inde i det her før kan kan hjælpe med
- 14:14problemet. Hjælp mig.
- 14:17Altså min min leat frontend developer er på ferie agtigt.
- 14:22Der er den her bug her. Du ved et eller andet i den dur
- 14:26der ikke. Så det her er altså bare der må
- 14:31man sige. Der kan man altså løse
- 14:32problemer, man ikke ellers ville være i stand til til dagligt
- 14:36fordi man ikke sidder 24. 7 med det programmeringssprog.
- 14:40Eller du ved et eller andet. Man kan godt læse alverdens
- 14:44programmeringssprog. Man kan også lige skrive lidt og
- 14:46Sådan nogle ting, men du ved det skal lige lidt mere til før man
- 14:50nælder den. Man skal lige have lidt hjælp og
- 14:52så får man altså bare den der guidance til ligesom at gøre
- 14:55noget og så ligner det man kan type squat pludselig ikke det.
- 15:01Er en dejlig gode venner med. Jeg indrømmer jeg kun kan finde
- 15:06ud af at skrive på efter Jeg kan ikke.
- 15:07Det tror jeg ikke engang finde ud af at skrive r mere, selvom
- 15:09Jeg har skrevet næsten lige så meget air som Jeg har skrevet på
- 15:12ihren nu. I min tid ikke, men glem det
- 15:16ikke så det Sådan nogle ting der men det Det er sgu bare altså
- 15:21det. Det er virkelig.
- 15:23Det er virkelig nice. Det er det, men også sjovt fordi
- 15:26Jeg tror jeg havde Sådan en. Jeg havde en snak med en kollega
- 15:29i dag omkring curser faktisk og den bruger oplevelse.
- 15:33Det ligesom er hvordan de ligesom har fået det ind i ind
- 15:35i, ligesom fordi de ligesom har lavet den der oplevelse ind i
- 15:39ind i appen der. Og Jeg synes Jeg tror personligt
- 15:42rigtig meget på at. Udviklingsværktøjer som for
- 15:45eksempel cursor er Sådan forgænger for, hvordan andet
- 15:50software kommer til at se ud. Andet at Jeg har baseret
- 15:52software kommer til at se ud i andre.
- 15:54Hvad skal man sige? Brancher og det, og det tror jeg
- 15:56fordi at udviklerne Det er dem der ligesom sjovt nok.
- 15:59Det er dem der udvikler det, og de starter altid med at løse
- 16:02deres egne problemer, og de er deres egne brugere, så de kan
- 16:05være rigtig hurtige over over løsningen.
- 16:10Fordi de er deres egen brugere, og de kan ligesom selv vurdere
- 16:11hvad. Det kan godt være godt, og hvad
- 16:13Der er skidt, ikke? Og de deres egne største
- 16:15kritikere lige præcis så, så hvad kan man sige feedbacken?
- 16:19Den er hård, når noget ikke virker og jeg nåede ikke er godt
- 16:23altså. De dock footer jo hele tiden i
- 16:27curser ikke de sidder jo og udvikler cursor i cursor.
- 16:29Det skulle ikke undre mig altså Sådan jo altså hvorfor skulle de
- 16:31ikke gøre det ikke og så du ved de sidder hver dag med det der
- 16:34udviklings tool og udvikler det og finder alle fejl ikke.
- 16:37Altså Det er på en eller 2 måde det altså når nu jeg tænker over
- 16:40det, Det er det korteste feedback loop du kan have til
- 16:42din bruger altså overhovedet. Ikke så jeg hurtigste i et
- 16:47iterativ proces. Lige præcis, så Jeg tror
- 16:49virkelig at der hvor der bliver innoveret og så er der det hele.
- 16:52Den her ting med at. ER er bare latterligt brugbart
- 16:57til kode altså Det er Sådan helt latterligt godt til kode.
- 17:00Ikke så du ved Der er rigtig mange grunde til at tro at Det
- 17:03er der Der er rigtig meget innovation og Det er der det
- 17:06sker først. Og så havde han en snak med en
- 17:09kollega i dag Sådan omkring. Sådan jamen kunne man egentlig
- 17:11forestille sig, hvad er det egentlig de gør i den her agent?
- 17:14Brugeroplevelser kunne man måske forestille sig at have Sådan en
- 17:16i dinero i virkeligheden ikke. Altså hvordan ville det se ud,
- 17:19hvis man tog den så det samme koncept bare ligesom.
- 17:21Og putte over i dinero, og så kom vi til at snakke om den
- 17:24selve user interface i cursor fordi eller i hvert fald i agent
- 17:30mode. For det virker som om at rigtig,
- 17:32rigtig meget af det Der er fedt ved brugeroplevelsen i curser.
- 17:35Det er at at altså Sådan en af nøglerne til at lave et fedt
- 17:42agent userinterface. Det er kontrol, tror jeg.
- 17:46Det her med at man skal på en eller 2 måde give brugeren en
- 17:49fornemmelse af, at de er i en eller 2 form for kontrol og at
- 17:52de har en eller 2 form for indsigt i hvad filan der
- 17:54foregår. Ikke fordi per definition når du
- 17:56når du arbejder med de her agenter eller Sådan, så nærmest
- 17:59per definition så uddelegerer du ting og det vil sige du afgiver
- 18:02kontrol og Det er en. Det er måske ikke alle Der er
- 18:06helt vilde med det, og det skal man også det hjalp.
- 18:08For mig er det også en ret vigtig del af workflowet det der
- 18:10med at kunne være i stand til at kunne holde øje med hvad den
- 18:13laver imens den laver det. Så man ligesom kan kontrollere
- 18:16det og også er i stand til at vurdere hov det kunne være jeg
- 18:19skulle skrive på en prom Der er anderledes eller det kunne være
- 18:21jeg skulle skrive mine projektbeskrivelse på en måde,
- 18:23så den forstår det bedre og så videre.
- 18:26Så Jeg tror rigtig meget. Det handler om med de her agent
- 18:29use interfaces at få transparens ind og få en fornemmelse af
- 18:33kontrol i curser der, når man sætter i gang, så fortæller den
- 18:39for eksempel når den læser filer, når den ændre fil og
- 18:41nogle gange så beder den om lov, hvis den skal.
- 18:43Slet en fil så kan man sætte den i ylow mode eller auto run mode
- 18:47som det hedder nu hvor man bare ikke skal godkende hele tiden og
- 18:50den vil lave en handling, men den bare gør det selv.
- 18:53Det er også 1 1 1 kontrol man kan vælge at give og når den har
- 18:57arbejdet i lang tid, man kan altid vælge Sådan at stoppe den
- 19:00og sige hey du er på vej ned ad en forkert tangent her hvis den
- 19:03har lavet noget Der er helt galt, så kan du altid gå op i
- 19:05starten af din promp og så kan du trykke restore til.
- 19:08Altså så kan man ligesom reversed til til der hvor man
- 19:11startede ikke? Jo så man får fornemmelsen af
- 19:13man man kan ligesom afbryde den inde i time.
- 19:16Man kan hele tiden følge med i hvad den hvad Det er den laver,
- 19:19og hvis den går helt helt af sporet, så kan man altid ligesom
- 19:23trykke reset ikke. Men det Det er netop det som som
- 19:27jeg også helt sikkert ser som altså den den.
- 19:32Hvad kan man sige? Grunden til at jeg hele tiden
- 19:35har sagt din din nailede den der og det så Det var det, der
- 19:39gjorde det for mig, at jeg begyndte at bruge det inde i min
- 19:41editor. Det var at at Det var jeg havde
- 19:45kontrollen følte jeg i hvert fald.
- 19:47Det var hvad det kunne godt være.
- 19:48Jeg nogle gange slipper kontrollen og bare lader den
- 19:50køre, men så bestemmer jeg også, at jeg slipper kontrollen.
- 19:54Hvis du kan følge, så er det ligesom jeg gør det bevidst
- 19:57eller et eller andet. Nu kender jeg ikke lige til den
- 19:59der du sagde med yo looth. Ja Sådan.
- 20:03Jeg tror Sådan batchajer på på git hublede batch er der bare
- 20:07kører derudaf men men hvad hedder det?
- 20:11Ja altså Det er den der brugeroplevelse og den er
- 20:14sindssyg vigtig og. Altså bare det der med at du har
- 20:19dine dif III rød grøn i git style som du altid kender det.
- 20:28Det er Det er super suite og Det er hvad kan man sige?
- 20:32Den kører jo en versionering ved siden af fuldstændig, så du kan
- 20:36køre frem og tilbage i de versioner.
- 20:39Og Det er også noget af det, som som jeg nyder meget.
- 20:41Det er det der med Sådan. Ah ved du hvad?
- 20:44Det var sgu faktisk ikke helt godt, og hvordan ser det
- 20:46egentlig? Uh, jeg glemte at glemte de her
- 20:48committe på et tidspunkt, hvor Jeg synes, at jeg var et godt
- 20:52sted, så nu har jeg lige mistet overblikket, men lavet en masse
- 20:54ting. No proppen jeg skruer scroller
- 20:57bare tilbage og så er det der cursor for det meste væk i min
- 21:02kode og så så er jeg glad igen, ikke?
- 21:06Så så jeg føler ikke, at jeg lige pludselig.
- 21:09Jeg føler ikke jeg mister kontrollen, og jeg tør godt
- 21:11ligesom bare lade den gå amok en gang i mellem bare sige Sådan.
- 21:14Kan du ikke bare nu? Nu vil jeg bare gerne have
- 21:15prøvet at løse det her. Så er jeg ligeglad med hvor
- 21:18hurtigt det der kode ser ud, for det gør det stadig til det ikke.
- 21:21Men anyways ja vi sidder bare her og pradser curser.
- 21:27Det skulle handle om agenter ikke, men Jeg synes virkelig.
- 21:29Nej, men Jeg synes virkelig Jeg synes grunden til Det er
- 21:31spændende at snakke om curse i den her sammenhæng.
- 21:33Det er fordi at curser er. En af de Sådan.
- 21:36Jeg ved ikke om altså Det er muligvis forkert det jeg siger
- 21:39nu, men for mig i hvert fald, så er det en af de første Sådan
- 21:41virkelig kælder apps som bruger agenter på den måde der så på på
- 21:46agent måden ikke. Og så er det bare Sådan den der
- 21:49agent måde vi snakker om, ikke? Nu har jeg endelig fået lavet et
- 21:52lille opsumering af Vores podcast for 2 år siden, hvor vi
- 21:54snakkede om agenter. Og.
- 21:59Og og så snakker vi. Vi snakker blandt andet om Sådan
- 22:01noget med at at en opgave for for for autogen kan det koste op
- 22:05til 14 dollar. Når den bruger GPT 4.
- 22:10Og GPT 3,5 turbo er billigere og ofte tilstrækkeligt, så Jeg tror
- 22:15lige på det her tidspunkt. Så giver det 4 kommet ud.
- 22:17Men altså den er fucking dyr ikke?
- 22:19Jo jo og så opleve altså Sådan så snakker vi om at de her
- 22:22agenter de tit kan sidde fast i Sådan nogle uendelige loops og
- 22:25Sådan ligesom liste tråden i længere tjeneste ikke og Det kan
- 22:29jeg også huske og det, men det tror jeg også som vi snakkede om
- 22:32det her med at de også er blevet bedre til at overskue længere
- 22:34samtaler og holde den røde tråd, ikke?
- 22:38Så Det er Sådan står de jo nok af de der multiagens netværks,
- 22:42hvor det ligesom er specialiseret.
- 22:46Hvad kan man sige? Agenter og så har man det her.
- 22:50Den her handof eller router eller hvad Vi skal kalde den her
- 22:53der ligesom siger, hvor skal jeg hen?
- 22:55Hvem skal jeg spørge om hjælp til et eller andet, så er
- 22:58toolkaldet en 2 agent ikke og Det er der det multiragent noget
- 23:03ikke, og der tror jeg også der tror jeg ikke rigtigt at ortog
- 23:06GBT var endnu. Men Det er jo en måde kan man
- 23:09sige, at ligesom at overføre noget relevant information, men
- 23:13ikke overføre alting og blotte sin kontekst og.
- 23:16De får ligesom. Det har jeg tænkt mig over det
- 23:19der med er det ikke. Er det ikke det Der er ideen bag
- 23:21muligens systemer altså det lyder meget fancy og uha så har
- 23:25du en hel virksomhed af agenter der snakker sammen og så videre.
- 23:28Men som jeg ser det så er det så tror jeg i virkeligheden at Det
- 23:31er Sådan en det det i virkeligheden er.
- 23:33Det er en effektiv. Hvad skal man sige rounding af
- 23:38hvad hedder det tool beskrivelser bundles og tools
- 23:41som giver mening sammen beskrivelser af dem og så.
- 23:45Kontekst simpelthen ikke altså Sådan en, så når en agent laver
- 23:48et handoff, så laver den kun en lille.
- 23:50Du ved et lille lille kontekst over til i stedet for Sådan helt
- 23:53chatsamtale, ikke? Og så er det måske også bare
- 23:56altså en en helt naturlig arkitektur at begynde at
- 23:59splitte? Altså det følger jo sebraation
- 24:01of consens principper, at du begynder at splitte ting op II
- 24:06delelementer for hvad Det er der skal ske nede.
- 24:10Altså hvad er det de enkelte? Agenter står for.
- 24:14Så jeg ser det egentlig som den helt naturlige vej, at når man
- 24:17vil have kvalitet ind både i sin kode, sin arkitektur og sit
- 24:21produkt. Jamen så gør man det der fordi
- 24:24at du kan specialisere. Du har mulighed for også at
- 24:28fintune altså fintune en model. Du kan arbejde modellært med det
- 24:33også. Fuldstændigt.
- 24:34Du kan fint en model til kun at være rigtig god til den ene
- 24:37opgave, og så kan du få kvaliteten op på det step eller
- 24:40den du ved. Hvis du for eksempel har noget
- 24:43der skal skrive noget noget secle til sidst ikke.
- 24:45Det skal bare sidde lige i skabet.
- 24:47Jeg ved godt at du sikkert kan tænke generelt model og Sådan
- 24:49noget. Lad os sige du har et eller
- 24:51andet specialiseret internt. Noget du du er nødt til at du
- 24:54have noget som er rigtig godt til, men du skal stadigvæk have
- 24:57alt muligt andet information fra kilder og kald og ting og sager
- 25:00og så i sidste ende er det ligesom den der skal opsummere
- 25:03noget eller gøre noget med med det.
- 25:06Så har du en en specialiseret model til det, eller du bare har
- 25:10bruger out of the box forskellige modeller.
- 25:13Hov Det er noget med noget front and kode.
- 25:15Det er noget med noget reactivt, så skal vi helt klart over til
- 25:17noget. Clut 5,7 sonn.
- 25:21Du ved ikke Sådan nogle ting der hvis Det er noget.
- 25:24Jeg ved ikke hvordan det går man python men.
- 25:27Jeg synes stadigvæk at gemme til 4 uger er bedre i partner til
- 25:30pitten og. Så hvad hedder det?
- 25:34Ja nu kan jeg ikke lige huske hvor jeg kom fra men men sorry
- 25:37og Det er også eller det. Det er var sikkert ikke så
- 25:39vigtigt bare lige hurtigt en en fordi Jeg har lige et par ekstra
- 25:41sjove pointer for Vores opsummering og Vores podcast om
- 25:44ER agenter for 2 år siden. Vi snakker også om det der med
- 25:47outputformatering, Det er svært at sikre konsistente outputs for
- 25:50eksempel Jason, hvilket stiller krav til fejlatering og retrice.
- 25:56Og Det er jo det der. Det er jo præcis som vi sagde
- 25:58før ikke altså Det er bare en kæmpe fucking game changer at at
- 26:01de fucking bare kan output struktureret json ikke?
- 26:05De begyndte, at de begyndte at blive trænet til det.
- 26:08Der var nogen altså igen. Det var den der historie med at
- 26:11lang-chain begyndte at lave de her output-parser som det hed.
- 26:14Hvor man ligesom forsøgte at instruere modellen i, at den
- 26:17skulle spytte det her ud, og der var også nogen, der lavede Sådan
- 26:21noget sjovt. Noget med forestil dig du er en
- 26:23database Der er laver sekul- ting og nu giver der en
- 26:26kommando, og så skal du svare tilbage, og folk var Sådan helt
- 26:29blå in the way hvor Det var også en form for struktureret syntax
- 26:32der kommer tilbage ikke og kun den bid Der er sekul og Sådan
- 26:36nogle ting altså Det er de jo blevet.
- 26:39Vanvittigt gode til nu at følge de instruktioner.
- 26:42Og Det er netop den her meget Sådan pisken du skal følge
- 26:48instruktionerne og en måde at validere det på er jo nemt i
- 26:52gåseøjne. Nemt fordi at Det kan godt være
- 26:55at Vi har haft human the loop i det her rawinforce min løn med
- 26:57humanit feedback ikke men. Om det der kommer ud kun er
- 27:02valid cultaks. Det kan du tjekke med en fucking
- 27:06passager og så ved du bare med sikkerhed om Det er det eller
- 27:10ej. Det samme med pythyton er det
- 27:11her kun python Der er kommet ud her.
- 27:13Det var det, og Det var derfor de kan gøre det.
- 27:15Tænker jeg ikke så så snakker de også om specialiseret AI
- 27:18agenter, altså det der vi snakkede om før os, hvis også
- 27:21potentiale i at du domainaspecifikke løsninger frem
- 27:25for universelle igenter agendaer altså Sådan.
- 27:27Du ved i stedet for at have et orakel agent, der ligesom bare
- 27:29ved alt så handler det om ligesom at rafaktorere systemet
- 27:33og altså på en eller 2 måde lave de her agenter, der tager sig af
- 27:37forskellige ting, ikke? Jo Jeg kan huske jeg ville sige
- 27:39før jeg Det var fordi jeg havde Sådan 1 1 1 interessant
- 27:42diskussion i min kollega David. Hvor vi lavede Sådan et tegn
- 27:45inspirerende, hvor vi Sådan OK. Jamen hvis du skal lave en agent
- 27:48der skal bruge dinero for eksempel er den rigtige løsning,
- 27:51så ligesom bare at sige OK, her er alle en point til dinero.
- 27:54Dem kan du bruge lige så tosset du har lyst til, ikke?
- 27:57Nej Det er det nok ikke fordi det vil tage en rigtig stor bid
- 28:00af kontekstvinduet ikke. Og tænk hvis vi også gerne vil
- 28:03have den til at interagere integrere med shopify eller med
- 28:06hopspot eller med et eller andet andet tool som det giver mening
- 28:09at bruge sammen med dine have, så er det Sådan du ved, så
- 28:12bliver det bare endnu mere blodet tool.
- 28:15Du ved, input, argumenter og beskrivelser og så videre, ikke?
- 28:18Og det og det Jeg tror Jeg har hørt det blive kaldt det tool
- 28:21confusion basically. Så du ved så så det det der det
- 28:26Der er højst sandsynligt vil være tilfældet.
- 28:28Det er at der kommer til at være nogle overordnede agenter, som
- 28:31tager sig af nogen Sådan de mest normale ting.
- 28:33Og så kan der være en agent der ligesom og så så kan man også
- 28:35forestille sig der kommer til at være Sådan et agentmarked hvor
- 28:38at man kan gå ud og Sådan sige hey Vi har brug for at integrere
- 28:40dem et eller andet er der nogen der kan hjælpe?
- 28:42OK så får man altså. Sådan ja altså man kan.
- 28:45Der er i hvert fald det her multiggen systemer.
- 28:48Det problem, som jeg hovedsagligt ser at de løser Det
- 28:50er det her med, at du kan ikke bare give alle en points til
- 28:54alle tools ever. Altså du bliver nødt til at have
- 28:56en eller 2 form for søgemaskine eller en eller 2 navigations
- 29:00mulighed i funktionalitet, ikke? Problemeting er stadigvæk en
- 29:04ting, ikke også. Det var jo også noget vi
- 29:07snakkede om meget for. For 2 år siden bliver vi alle
- 29:10sammen promc engineer os, men jeg ser faktisk en altså helt
- 29:15ærligt, så ser jeg lidt en Sådan en.
- 29:18Nå men de Jeg kan give dem meget high level og så er de super
- 29:22gode og så jeg behøver ikke ligesom at tyvene min prompt
- 29:25særlig meget Sådan det bare bare smide det ud og give dem mulige
- 29:28struktioner. Det er en kæmpe fejl.
- 29:30Altså det der med at du du skal du skal taks evaluere nu er min
- 29:34gode kollega Lukas der igen lige været frem med riven og Sådan.
- 29:39Hey Vi skal have generelt evaluering af dem, og så skal vi
- 29:42have det her taske ved du hvad big surprise?
- 29:45Og så skal vi fokusere rigtig meget på at når Vi skal bruge
- 29:48dem til en specifik opgave, så skal vi teste Vores prompt, så
- 29:52vi ved at de rammer den her opgave godt.
- 29:55Og Det er jo igen det der med at Det er domænet, så Jeg vil lige
- 29:58svare på det der dinero problematik du har der
- 30:02selvfølgelig, som du også selv siger.
- 30:03Nej, Vi skal ikke bare putte det hele ind i, men det det giver
- 30:05mening at dele det op i domæner. Hvor skal man være god til hvad
- 30:12dinero har? Et APDAPI indeholder forskellige
- 30:15domæner, som man arbejder i. Jeg kender ikke forretningen
- 30:22særlig godt. Men jeg forestiller mig i har
- 30:25Sådan en rimelig god konceptuel forståelse for, hvad Det er for
- 30:28nogle ting, man laver i dine niveau, og hvad Det er for nogle
- 30:30områder. Og selvfølgelig skal man lave et
- 30:32agent system, hvor man har specialiseret agenter til at
- 30:36gøre de ting. I dinero appen.
- 30:42Så du får. Lige en sidste ting vi snakkede
- 30:44om der for 2 år siden. Vi snakkede også om træning og
- 30:46nye modeller. I fremtiden kunne man træne
- 30:49modeller specifikt til agenter arbejde i stedet for at bygge
- 30:51komplekse promptans oven på eksisterende elever.
- 30:55Det er jo det vi ser med overy altså overree er jo trænet til
- 30:58at bruge tools i Sådan en agent fashion igen chinchain that ikke
- 31:04hold kæft hvor er genial Jonas. Undskyld jeg siger det fuck hvor
- 31:07har vi bare forudset fremtiden her.
- 31:10Altså hallo, men men Det er jo det der med.
- 31:12Her vil jeg totalt forestille mig, men Det er jo det der med
- 31:14at Det var. Det var bare så Det var så
- 31:17obvious og nemt en en case det der med.
- 31:20At at landchain begyndte at lave de her chain og de begyndte at
- 31:24lave de her output passing og så.
- 31:26Så åbnede jeg de her ting og Sådan det der.
- 31:29Det er sgu da Det er sgu da noget vi vi vi træner modellerne
- 31:33til at kunne og lige om lidt så er alt det der python kode jeg
- 31:36fuldstændig ligegyldig, fordi Det var jo alt muligt patch-
- 31:39agtigt noget der forsøgte og og og uha det der.
- 31:43Det er lidt Det er lidt ustabilt det der element lad os prøve at
- 31:46skrive en masse FLS tride this tri-in please tried one-mal
- 31:50time, altså alt Sådan noget der og Det var jo helt åbenlyst og
- 31:53Det var noget forfærdeligt kode der kom ud af det.
- 31:56Fordi det blev det ville aldrig blive godt.
- 31:58Det ville bare aldrig blive godt og hvilket som helst.
- 32:01Det er designtest der sad og kiggede på det der problem vil
- 32:03sige hvis jeg var ung a og i så løste jeg bare det der
- 32:05problemer. Nå.
- 32:08Anyway men men altså du ved Jeg synes bare Det er.
- 32:10Jeg tror måske den jeg ikke havde set komme.
- 32:12Det var det her de her reasoningmodeller.
- 32:13Jeg tror ikke jeg havde set komme at man kunne bruge
- 32:16rinfocement learning til at lave reasing med, og Det er så Det er
- 32:19også Sådan en sjov blanding af. At koble ting of proming.
- 32:26Med Sådan agent de der agent loops ikke på en eller 2 måde så
- 32:30det det hvis hvis vi kan kigge tilbage og sige Sådan den brik
- 32:33vi måske har manglet lidt så er det nok så er det nok så er det
- 32:37nok vising modeller ikke i virkeligheden som jeg også ser
- 32:40som en kæmpe. Jeg tror også Det er bare en
- 32:42kæmpe game changer også fordi. Jeg tror netop det der med at de
- 32:46kan. Du ved, der kan man træne dem
- 32:50hen mod et bestemt mål, og så kan man undervejs træne dem til
- 32:54at bruge bruge API er Sådan så de lærer at lave reasing omkring
- 32:58API og bruge API er rigtigt formulere sig ligesom få det
- 33:01bagt ind i modellen, at nu bruger vi altså a piger til at
- 33:03løse problemer med. Det er bare en kæmpe game
- 33:05changer e aq kan, og Jeg tror måske også det som er ja Jeg
- 33:09tror måske også det Der er med agenter.
- 33:11Det er også at det giver AI mulighed for at.
- 33:14Interagere med omverdenen på en eller 2 måde, ikke altså
- 33:16interagere med en eller 2 form for miljø.
- 33:19Og til at påvirke det? Ja.
- 33:24Yes. Og så er der selvfølgelig, så er
- 33:28der selvfølgelig agent framework.
- 33:32Som er et helt kapitel for sig selv.
- 33:35Det er måske lidt dybt at gå ned i, fordi Vi skal også nå til
- 33:37ugens trepol, for Vi skal bruge noget tid på og så vi glæder os
- 33:39til at præsentere for jer. Måske vi lige kan sige bare til
- 33:42det der igen framework at. Ja nej vi tager ugens rapler
- 33:47fordi så der vil jeg lige nævne noget der står i det republikum.
- 33:50Lad os lad os gøre det skal jeg lige 2 sekunder før vi går helt
- 33:54over i ugens, så har vi lige en. Sådan der, så er det tid til
- 34:02ugens repå. Hvad er det, Vi skal?
- 34:07Hvad er det for en ulv rebud Vi skal kigge på Jonas?
- 34:10Men bring-down Det er dig der har postet det på LinkedIn på et
- 34:14tidspunkt, og jeg var egentlig ret.
- 34:17Jeg synes Det var ret fedt. Det er ikke Sådan et repo man
- 34:20går ind og pipp installer. Det er et rapbo der hedder twell
- 34:23Factor agents og. Det er et reprodukt, der stiller
- 34:30spørgsmål, whatever Prince polls we can use 2 build a la
- 34:33lempoward software dotis actionly good and off put in the
- 34:36hands of production customiz. Det er i hvert fald det, der
- 34:40står i about. Må jeg.
- 34:42Må jeg give en lille smule kontekst.
- 34:43Ja. Det her twell Factor koncept,
- 34:48Det er kendt fra en en tidligere Sådan.
- 34:51Jeg ved ikke Sådan 1 1 1 koncept kender du det?
- 34:54The twell først han skriver her det det hedder træled park.
- 34:56Jeg kendte det ikke godt før jeg så det her og jeg.
- 35:00Jeg mener Det er ham der har Det er ham der startede heroico.
- 35:03Den hun har Sådan dukker one clicklick deployagtige ting.
- 35:10Han har lavet noget der hedder the twill faktor app, som
- 35:13ligesom Sådan er 11 11 12 12 de 12 bud nærmest for at lave en en
- 35:18app kan man sige som som er nice og Det er Sådan noget med du ved
- 35:22der skal være en config i environmental og kodebasen skal
- 35:28altså forskellige bash praksis ting ikke som som gør en i at
- 35:32bygge Sådan en trælfaktor app. Man kan sige det Sådan eller
- 35:35Sådan en god app altså Sådan 12 faktorer som ligesom er nogle
- 35:38parterance. Man ser super tit og så man
- 35:40ligesom. Kan kendetegne kendetegner
- 35:43velfungerende software apps agtigt.
- 35:46Ting. Og Der er nogen, der ligesom har
- 35:48givet begivet sig ud i at lave det for agenter.
- 35:51Ja, så Det er ligesom 12 observationer for parterance
- 35:56folk bruger når de udvikler agenter.
- 35:59Vi kan lige prøve at gå i overskrifter.
- 36:01Jeg synes den allerførste den har vi næsten lige siddet og
- 36:03snakket rigtig meget om. Ikke faktor one altså natural
- 36:07language tutol croqunes og det ligger faktisk bare i
- 36:10overskriften dybest set ikke Det er det her.
- 36:12Det er det det mest altså. Brugte patteren Det er det her
- 36:17med at du skal. Oversætte det her naturlige
- 36:20sprog til strukturelt struktureret data.
- 36:23Nu siger du tulekort, men dybest set er det.
- 36:26Jeg synes Det er rigtig abstraktionsniveauet er bare at
- 36:29sige struktureret data. Og det gør, at man ligesom kan.
- 36:36Man kan. Man kan ligesom få dem til at
- 36:40forholde sig til en opgave. Givet en eller 2 form for.
- 36:46Struktureret output som en som en måde ligesom at sige det OK
- 36:51du har det her problem. Du har mulighed for at løse det
- 36:54eller komme videre med dit problem.
- 36:56Vil ved at svare noget struktureret data tilbage og så
- 36:59komme next step i din idrætation, ikke?
- 37:04Og meget grundlæggende koncept III agent.
- 37:07Det er Sådan helt basic. Og Det er også derfor det vi
- 37:10snakker om, før Det er Sådan og det Jeg kan også huske.
- 37:12Jeg tror vi havde i en Sådan nytårsspecial, hvor vi kiggede
- 37:15tilbage, hvor vi så på nogle af de største highlights, og Jeg
- 37:17kan huske, vi snakkede om, at en af de største highlights, Det
- 37:19var function calling og Det er Sådan en super usexet ting som
- 37:22Sådan. Lidt ligesom du ved MCP
- 37:24standarden ikke. Altså Det er Sådan nogle lidt
- 37:25usexede ting, men Det er bare så grundlæggende komponent i at man
- 37:28kan bygge de her ting som kan snakke sammen de her ABAE
- 37:32agenter som kan snakke sammen med.
- 37:33Omverdenen det her med at de kan formulere strukturerede data.
- 37:37Super vigtigt super on the jubelliste hvis du spørger mig i
- 37:42alle mulige sammenhænge III promedinger function calling
- 37:46bare helt Sådan ned på jorden. OK så er det den næste bol- your
- 37:52proms. Don't out source you prom
- 37:55engineering tour framework. Og Det er så vidt Jeg kan
- 37:59forstå, så er tanken ligesom her at du skal være i kontrol over
- 38:03alle dine proms. Du skal ikke bruge et eller
- 38:05andet framework hvor at der ligger en eller 2 prompt system
- 38:08prompt gennem vægt inde et eller andet sted som du skal ind og
- 38:13lave om og så videre. Det er vigtigt at du ligesom
- 38:15har. Use lanching.
- 38:17Ja lige præcis. Altså, og Det er jo meget
- 38:20normalt Sådan ligesom Det er meget Sådan fristende ligesom at
- 38:22få de her frameworks lige at lave en eller 2 prompt som
- 38:24fungerer godt eller Sådan. Men men Der er tanken her og Jeg
- 38:27synes måske også det understreger lidt vigtigheden af
- 38:30fromt inineering og den her lidt undervurderede.
- 38:32Hvad skal man sige disciplin der ikke men, men der siger det
- 38:36ligesom at man skal ligesom prøve.
- 38:38Man skal ligesom best case have styr på på sin prompt Sådan så
- 38:41man ligesom kan versionere og. Litterære over dem og evaluere
- 38:45dem og Sådan noget. Ja der Der er nogle andre.
- 38:48Hvad kan man sige benefits som de highlighter?
- 38:51Sådan 5 forskellige punkter som er.
- 38:54De benefits man får, når man ligesom bare ejer hele hele.
- 38:59Sin prompt fuldstændig altså den den den kontrol man får.
- 39:03Behøver ikke at gå ned i dybden med dem, så kan du skal du lige
- 39:06tage de 2 næste treeren og pigerne.
- 39:09Det er en spændende en hvad hedder det en treer den hedder
- 39:11så oven your context window. Og den er Sådan lidt interessant
- 39:15den her fordi. Det Det er pointen ligesom her
- 39:19og her. Det er at.
- 39:21Man skal ligesom man behøver ligesom ikke at følge den her
- 39:23standard message baseret. Hvad skal man sige protokol som
- 39:28som som de her opininger ice API bruger og det synes Jeg er lidt
- 39:31spændende den her. Ja og Der er tanken ligesom bare
- 39:38at man kan ligesom man kan ligesom selv definere i samme
- 39:41tule calling. Hvordan skal min protokol se ud?
- 39:46For for for for den måde jeg ligesom ja Det er Sådan jeg
- 39:49læser den er det også Sådan du du ligesom forstår den altså
- 39:52Sådan du ved. Det behøver ikke at være en
- 39:54liste af du ved rulle EI og så en besked.
- 39:58Og som giver Sådan et eksempel på at man kan II.
- 40:01Altså man har jo den her struktur.
- 40:04Og det skal jo siges, at Der er jo noget teknisk i, hvordan de
- 40:07her elementer er trænet i, at de har nogle tokens, der siger nu
- 40:11er det brugerne. Og nu er det assistenden der
- 40:13eller agenten bare altså den der svarer tilbage.
- 40:16Nu er det brugeren, nu er det og så videre og så videre.
- 40:18Men det de siger Det er jamen Det kan man sige den beskrivelse
- 40:23af hvem der siger hvad og gør hvad og den historik kan man
- 40:25egentlig eje selv og putte ind i en user message, for eksempel i
- 40:30sin prompt. Dybest set så man kan selv eje
- 40:33den her beskrivelse af forløbet. Sådan så at man ikke bare har
- 40:39Sådan et chat format i virkeligheden og siger nu er
- 40:42svaret den her. Det har jeg så svaret den er.
- 40:43Det er Sådan nogle ting, men at man har hvad kan man sige?
- 40:46Man ejer lidt mere en måde at beskrive hvad hvad?
- 40:51Hvad er der sket indtil nu? Og Det kan Det kan man sige.
- 40:54Det kan. Det kan formuleres på mange
- 40:56måder kan man sige. Det kan være, at man måske man
- 41:00måske har man en template for ligesom at forestille sig.
- 41:04At Der er nogle nogle nogle åbne bokse der ikke er udfyldt endnu,
- 41:08og så kan man ligesom på den måde putte ting ind i det og på
- 41:11den måde bygge sit kontekst sin kontekst op og så efterhånden
- 41:15som man ligesom har de informationer man skal bruge, så
- 41:17fylder man den. Hvad kan man sige tabel ud eller
- 41:20Sådan et eller andet? Det kunne være en måde at
- 41:21fremvise det på, og det synes egentlig Det er ret interessant.
- 41:25Det er noget jeg ikke har tænkt over selv det her sammen.
- 41:27Om Jeg har tænkt, vi bruger bare det der format, Det er standard
- 41:30formatet, men Jeg kan egentlig godt se.
- 41:33Ideen i det her. Men Jeg er ikke sikker på
- 41:35effekten af det, fordi Der er Sådan nogle prump teknisk i det
- 41:37og Sådan nogle ting der, så Det er noget man lige skal forholde
- 41:39sig til. Jeg tror man skal teste det godt
- 41:41og grundigt hvad man skal bruge jeg.
- 41:42Tror måske hans pointe her er ligesom eller pointen.
- 41:45Her er ligesom at du ved den her message baseret protokol.
- 41:49Det er ikke. Det er ikke nødvendigvis Sådan
- 41:52Det er. Det er bare noget Sådan.
- 41:53Det er bare Sådan en standard man har fundet på.
- 41:55Altså man kan bruge den der. Det er bare tekst.
- 41:57Altså Sådan du ved. Så så man kan man kan ligesom
- 42:00lege. Man kan måske bare lege at.
- 42:03Og Det kan også blive. Ja vi kan lige prøve at læse
- 42:06Sådan bare lige man kan jo ikke læse Jason op, men lad mig lige
- 42:08prøve at sige hvad der står her ikke altså Vi har den her system
- 42:12og user rulle og så har vi content for system og så har vi
- 42:16content for user og så giver de et eksempel hvor de siger jamen
- 42:19Der er bare en system du er en health assistent, så er der arl
- 42:24user content og så her så står der så en overskrift huse
- 42:27everything that happen so far. Og så står der en lille Sådan
- 42:31tag hvor der står slack message start og slut togen list git tax
- 42:38startslut og så ligesom ned af der og Det er i den samme
- 42:42userbesked. Men Det er måske noget Der er
- 42:44sket hen over flere steps i et eller andet samtale eller en
- 42:49eller 2 idræt. Så er det bare lige Sådan du ved
- 42:52ikke. Man behøver ikke at pendle til
- 42:54den der roll system user assistent userstemt man kan bare
- 42:58du ved ej det der selv interessant.
- 43:03Yes og det næste bud nummer 4. Det er tools og just structure
- 43:08output. Og Det er.
- 43:11Lidt sjovt. Det var lige den første vi også
- 43:12lige sagde da vi læste. En gentagelse ikke altså.
- 43:15Jeg tror bare han eller jeg ved ikke om Det er ham der har
- 43:18skrevet det. Det er også lige meget, men
- 43:19pointen her. Det er ligesom at ja at tools.
- 43:22Det er altså det du det du ligesom det som med tool er det
- 43:25bare at strukturerede outputs og man skal måske i virkeligheden
- 43:28ikke gå så meget op i den der struktur med mindre du rent
- 43:31faktisk kan kalde noget i et API for eksempel.
- 43:35Du kan også godt hvis du har brug for en eller 2 at den skal
- 43:37ligesom skal forstå. Outputtet er et epi i eller et
- 43:42tool kald eller et eller andet, så kan du bare ligesom vise det
- 43:45II prompteen altså du behøver ikke at sørge for at Det er
- 43:47struktureret. Jason du kan også bare ligesom
- 43:49reindere det som tekst og få et element til at forstå det på den
- 43:53måde. Det er Sådan Det er ligesom det
- 43:54jeg tager tager væk fra det her ja, men lidt en gentagelse af
- 43:58nummer 2 vil jeg sige eller nummer et.
- 44:01Ja. Den næste den hedder unify
- 44:06execution, state business, state.
- 44:09Har du hvad? Hvad har du taget væk fra den,
- 44:14eller hvad skal man sige? Taget væk fra den executon state
- 44:17er jo det her. Hvad kan man sige?
- 44:21En historik over, hvad Der er sket indtil nu.
- 44:24Hvor hvor står man hvis man forestiller sig 1 1 1 execusing
- 44:29graph altså Det er Sådan Der er faktisk det kommer vi lidt til
- 44:32senere tror jeg Det er et punkt her.
- 44:33Altså at du Det er en graf det du er i gang med at eksekvere,
- 44:36så går du ned, så går du til højre eller går du til Venstre?
- 44:39Hvor står du henne i grafen? Jeg står her og hvad er så næste
- 44:43skridt og så videre og så videre?
- 44:47Og så siger de. At.
- 44:53At man kan ligesom tage det her business date altså der der
- 44:57business date beskriver ligesom Sådan en hvass altså whats
- 45:01happening ingen work flows so far altså hvad der hvad har hvad
- 45:06Der er sket indtil nu og jeg jeg når jeg læser det der execution
- 45:12date og business datas så ser det ligesom bare som Sådan en.
- 45:16Hvad kan man sige Sådan en append only datahistorik.
- 45:21Og så hvor man står henne nu og. Ja hvad hvad statet er for
- 45:26venter du på noget er du i gang? Er du retrie eller et eller
- 45:29andet? Du ved ikke.
- 45:31Ja, whatever men. De siger i hvert fald, at man
- 45:36kan simplificere sin arkitektur ved ligesom at at lægge det her
- 45:40sammen. Og Jeg har det Sådan lidt.
- 45:44Det her synes Jeg er meget kontekst afhængigt.
- 45:46Det er Sådan. Jeg er ikke sikker på at det
- 45:48altid vil gøre sig gældende. Det kommer lidt an på hvad Det
- 45:50er for en arkitektur man ellers har.
- 45:54For sine agenter hvis du spørger mig.
- 45:55Det er Sådan en meget kodespecifik teknisk ting om
- 45:58hvorvidt man skal have de her 2 koncepter blandet.
- 46:01Ja så men Det er i hvert fald nummer 5, så nummer 6 hedder
- 46:07launch pause en resume with simpel asian agent agents arch
- 46:13programs and we have things weeks spect from how 2 launch
- 46:17grey resume instab them. Effektiv beat for users apps
- 46:22pipeline other ages 2 launch and agen with the awes Beach too for
- 46:26easy for users apps pipeline other agents 2 launch and agent
- 46:29with the simple ABI agents and the okey strading det code 2
- 46:35babel 2 polson agent one long running orations is need.
- 46:39It. Ja, så Det er jo så på en eller
- 46:412 måde. Det virker også til at være den
- 46:43her Sådan lidt. Vi skal lige have mulighed for
- 46:46at stoppe den, hvis det går galt eller Sådan, eller hvis den
- 46:49kommer ned ad en forkert vej, ikke?
- 46:52Det er noget af det her er dybest set noget af det, som Jeg
- 46:55har savnet allermest i agent frameworks, at der var ikke der
- 46:59var ikke lagt op til man ligesom havde en mulighed for at
- 47:01interessætte forskellige steps. Det første sted Jeg har set det
- 47:07fungerer. Det er i danske gys i.
- 47:11Du kan basically. Du kan bare hjælpe det hvert
- 47:15step. Det kan du gøre i et i et API,
- 47:20og så kan du vente på et brugerinput der siger ja, nu må
- 47:22du godt gå videre eller eller pause.
- 47:28Det kan du for eksempel implementere i en websuccket,
- 47:30hvor Der er tovejskommunikation. Det tror Jeg er helt rigtigt, at
- 47:33Det er sindssygt vigtigt at gøre Sådan API wise.
- 47:38Fordi det giver. Mulighed for at implementere et
- 47:42flow II en i en brugergrænseflade med med
- 47:46brugerinteraktion meget bedre end hvis det bare var kør vent.
- 47:54Så. Ja.
- 47:57Næste, Det er nummer 7. Det er contact human contact
- 48:01humant with the tool calls. Ja og Det er det det virker til
- 48:09at være Sådan en en filosofi om, at Det kan være brugbart, fordi
- 48:13AR agenter ligesom at kunne. Bed om bede om appropulle eller
- 48:17ligesom bede et menneske om at tage stilling til til nogle
- 48:20ting, ikke? Og det tænker jeg også.
- 48:23Det er en Sådan rimelig rimelig god.
- 48:26God ting og have styr på. Ja det ligger jo lidt i den der
- 48:30nummer 6 altså jamen så kan man har man mulighed for når man har
- 48:34den arkitektur at man så kan. Ja ligesom bede om brugerens
- 48:40input. Du kan tage den næste.
- 48:48Ja. Univer control flow.
- 48:53Det kan jeg faktisk ikke engang huske, hvad jeg rigtig går ud
- 48:56på. Der står if you own you control
- 49:03flow, you can do lovefund fund things det.
- 49:06Det er nok en rigtig god ide. Det lyder ligesom om at man bare
- 49:08skal igen Det er det der med lad være med at outsource alt til et
- 49:13framework. Jeg tror i virkeligheden Det er
- 49:15det Der er. Det er det Der er er, hvad kan
- 49:18man sige kernen i det her? Og Jeg er langt hen ad vejen
- 49:23rigtig meget enig II de der ting der.
- 49:25Der er nogle ting jeg ikke har lyst til at implementere, selv
- 49:27hvis jeg skal være helt ærlig nu er det her det.
- 49:30Det er et eksempel på det her. Wild true.
- 49:35Så hvis du tager pydanter i og du siger nu kører jeg det her.
- 49:41Gem flow indtil det slutter, så ejer pas i dit control flow, men
- 49:47Det er til gengæld også noget at de nogle af de steder hvor Det
- 49:50er sindssygt svært at få et fornuftigt flow.
- 49:55Jeg tror faktisk ikke et par dage jeg bruger et bild loop de
- 49:59bruger en graf af en eller 2 art og har Sådan 1 1 1 mere
- 50:03avanceret måde at eksekvere det på og nå til enden i flåde.
- 50:08Og får på den måde også noget mere kvalitet ind af mit mit mit
- 50:12bud. Men så skulle jeg lave en.
- 50:15En grafdatastruktur og en en eksekveringsgraf, og Jeg vil
- 50:20bare lige sige Sådan. Hvor mange laver Sådan noget
- 50:24selv? Altså Det er der ikke særlig
- 50:25mange mennesker der der forstår sig på rent programmatisk at
- 50:28lave så at begive sig ud i det selv for ligesom at eje det her
- 50:33control flow. Ja hvis du bare laver et wild
- 50:35true kør videre, ligesom de har som eksempel her.
- 50:39Men det ved vi også ikke virker særlig godt.
- 50:45Så Det er faktisk også det de skriver.
- 50:47Er det ikke det at det ikke virker særlig godt?
- 50:49Jeg tror. Nå nummer 9, compact eros into
- 50:55context window. Og Det er Sådan Det er Sådan
- 50:59meget grineren en. Altså Det er Sådan at hvis der
- 51:01ligesom er noget der fejler. Jeg tænker Det er meget med det
- 51:05de virker som om til at være meget med kode ting det her.
- 51:09Men altså hvis der ligesom er noget der fejler så så tag den
- 51:12erra der kommer og bob den ind i ind i ind i Sådan kontrol eller
- 51:18Sådan ind i kontekst vinduet fordi så kan de her
- 51:21sprogmodeller de kan rent faktisk lave det der hedder self
- 51:24healing. Altså de kan ligesom heale sig
- 51:26selv og og og ja. Fik tager en egne problemer, og
- 51:29så kan man tage Sådan en maks. Du ved maks 3 er russ for
- 51:32eksempel. Og så kan den ligesom bare selv.
- 51:38Finde ud af det. Ja ja det Det er meget sjovt.
- 51:41Altså det der self healing agent.
- 51:44På en eller 2 måde oh, jeg fejlede selv.
- 51:48Hvad kan jeg så gøre? For Det er Sådan lidt lidt meta
- 51:52nå, så kan Vi skal vi gå videre til tieren, så kan jeg lige tage
- 51:55den small pokus agents den. Det er jo lige lige præcis noget
- 51:59af det, som jeg også sagde tidligere med at fornuften i at
- 52:03have. Delt det op de skriver det i 5
- 52:08benefits manager context altså. Mindre context og giver bedre LM
- 52:14performance. Det ved vi.
- 52:17Når Det er mere klart, hvad Det er.
- 52:18De skal i hvert fald i forhold til instruktioner.
- 52:21Man må godt have en masse kontekst til de instruktioner,
- 52:23men det der med mange instruktioner.
- 52:25Det er altid et problem. Clear responsibility
- 52:28batterweability easy testing på grund af clear responsibility og
- 52:33improved debugging igen. Det er Sådan.
- 52:37Det her det det her for mig. Det er bare god software praksis
- 52:41altså Det er bare. Husk det og det det skinner også
- 52:44igennem indtil når du bygger agenter.
- 52:48Som alt andet. Næste, Det er nummer 11.
- 52:54Det er tricker-film anyware meet users what they are og Det er
- 52:57ligesom Det er egentlig meget interessant Sådan koncept.
- 53:00Det er ligesom at prøve at gøre de her agenter tilgængelige, om
- 53:05Det er i slack på e mail på SMS ind i ting altså Sådan, så de
- 53:10ligesom altid kan Sådan så du ligesom altid kan tricke dem til
- 53:14at gøre forskellige ting. Det synes jeg bare er
- 53:17interessant. Sådan tanke i virkeligheden ikke
- 53:19fordi og Det er også noget af det der.
- 53:21Det er interessant ved ved hele det her chatformat, fordi Det er
- 53:24jo ikke nødvendigvis chat. Kan vi tage altså Det kan jo
- 53:26være Det kan jo bare være hvad som helst, der har noget en
- 53:28mulighed for at skrive noget tekst og sende.
- 53:32I virkeligheden ikke? Det synes jeg bare er det synes
- 53:36jeg bare er interessant Sådan. Ja en interessant approach.
- 53:43Den sidste ikke. Den er faktisk Sådan for fun på
- 53:47en eller 2 måde ikke agent of statements producer.
- 53:51Og så er der Sådan et. Statement producer Jeg kan ikke
- 53:56huske præcis hvad Det er. Men, men Der er Sådan en tegning
- 54:01over en arkitektur for. Et, et hvor man bare går i ring.
- 54:07Og så i en eller 2 dude II en Twitter tråd som kommenterer sig
- 54:14selv eller Sådan et eller andet er der nok nå Det var.
- 54:18Det var måske Det var måske det så tolderen den.
- 54:21Den er lidt en snyder. Men altså det vi kan sige også
- 54:24om det her repustory. Det kan jeg i hvert fald sige
- 54:25Det er. Det er faktisk under udvikling.
- 54:27Altså Det er. Der er Sådan løbende input til
- 54:31det, og Der er også noget med opfordring til ligesom.
- 54:36At at at country beaut på en måde altså Sådan.
- 54:41Der er nogle pulver quest i hvert.
- 54:42Fald ja Der er noget med noget. Du ved Sådan.
- 54:48Tænke de her koncepter med præcist, og Der er også nogle
- 54:52nogle forklaringer, nogle videoer og ting og sager.
- 54:55Det er. It's a blæst.
- 54:59Så gå endelig ind på det human lære du ikke ved det.
- 55:04Jeg ved ikke hvem de er. Twill faktor agents.
- 55:09Det er. Det er sikkert et godt sted at
- 55:10starte, hvis man vil begynde at designe eller bruge
- 55:14agentsbaseret arkitektur, som er en en AI arkitektur, kan man vel
- 55:20godt sige. Jeg tror virkeligheden de de Det
- 55:22var lidt reklame det der med Sådan meet users what the are
- 55:25altså Sådan de de laver Sådan et produkt Sådan så at agenter de
- 55:29ligesom er. Over det hele ja.
- 55:33Jeg har virkelig ting jeg gerne vil outsource og Det er det der
- 55:35control flow der og Det er faktisk egentlig det som som Jeg
- 55:41har set på et antik AI ligesom Sådan kan du ikke bare lave det
- 55:45der rigtig godt for mig og så og så give mig.
- 55:47Du ved Sådan alle byggeklodserne til i øvrigt at bygge agenter.
- 55:52Det vil jeg gerne bare du har. Du står for eksekveringen og
- 55:55giver mig kontrollen over hvornår jeg skal køre næste
- 55:58skridt og giver mig hvor er jeg i grafen og hele overblikket og
- 56:02alt det der lækre data der følger med og Sådan noget der
- 56:05stik på det, så skal jeg nok implementere de der ting der.
- 56:09Det er dybest set Sådan jeg ser agent frameworket skal reduceres
- 56:11til. Ja Det var bare det jeg lige
- 56:16ville. Hvad skal der ske om 2 år hvor
- 56:22hvor er vi om 2 år? Altså på agentområder eller bare
- 56:27generelt lærer på agenter på agenterområdet.
- 56:30Tror du vi snakker agenter om 2 år?
- 56:33Hvis vi ikke gør det, så vil vi gøre det billigt at gå i gang
- 56:35med det nu. Jeg tror hvis ikke vi snakker
- 56:38kendt om 2 år så er det fordi det bare er Sådan.
- 56:40Sådan er det bare. Agtigt ved du hvad jeg
- 56:41forudsiger ikke nogen agenter om 2 år og så eller ja ja ja lad os
- 56:46gå i gang med at gå hjem og lave nogle agenter.
- 56:48Ej jeg ved det ikke. Jeg tror vi Vi er jo vi ser jo
- 56:50allerede masser af agenter. Jeg ved ikke hvor Vi er, jeg
- 56:53aner det ikke jeg. Tror i hvert fald om et år og 2
- 56:55år, så har vi i hvert fald Sådan, så har vi meget mere
- 56:58Sådan mønstre på plads. Altså Sådan udviklingsmønstre og
- 57:02Sådan så er vi meget mere skarpere.
- 57:03Kommer mange flere freeworks til Sådan og.
- 57:06Tag noget af alt den her. Alle de her altså Sådan Sådan så
- 57:11alle ikke skal opfinde den dybe tallerken hele tiden ikke altså
- 57:13så der ligesom er nogle Sådan. Ja Det er Sådan rimelig battle
- 57:16testet måde at gøre det på skal. Måske bare godt vi.
- 57:22Vi gik jo fra at have nogle vi startede med at have nogle
- 57:25modeller GPT 3 som. Som kunne være lidt sværere at
- 57:32styre altså de de gik Sådan off track i deres tungen generering,
- 57:36ikke? Så gik de Sådan ud af en
- 57:38tangent, og de kunne ende i Sådan en hvor de bare
- 57:42repeatorede nogle tokens om igen og infinit fortsætter bare og så
- 57:48havde de Sådan en sjov timeout ikke, så endte vi med.
- 57:51Vi fik ligesom alene dem og tunede dem og de de blev bedre
- 57:54til ligesom at Sådan. Stop med at skrive nu, hvornår
- 57:57er du færdig med at at skulle skrive tobens nu har du ligesom
- 58:01skrevet noget slut. Så endte kom vi over til Sådan
- 58:06chatformatet og. Hvad kan man sige multiturn
- 58:13tuning? Og så blev vi gode til at tunne
- 58:15den til både altså instruktioner og alle de der ting der, men
- 58:18også at stoppe på det rigtige tidspunkter.
- 58:21OK så så gik vi over til fuck it.
- 58:24Lad os bare bede den om at bare producere sygt mange tungbens
- 58:26reasning reasning reasing wasing wasing og så først til sidst
- 58:30ligesom bare. Jeg tror det næste, det bliver.
- 58:33Vi skal tilbage. Jeg tror det næste bliver i til
- 58:38agenter, og for at det skal være Sådan rigtig brugbart, så skal
- 58:42vi være meget være meget mere interaktive med tungen
- 58:46generering altså modellen på ned på på på på jernet af modellens
- 58:51loop, hvor den ligesom næste tunge næste tunge næste tunge,
- 58:55der var Sådan et interessant prump framework fra micro på et
- 58:59tidspunkt, hvor jeg kunne huske det der hvor man ligesom
- 59:01interlevede, og så sagde man ligesom.
- 59:04Stop her, og så fortsatte man. Det gjorde jeg og.
- 59:06Mens du hopper og køre over på tidspunkt.
- 59:08Hvad fanden var det det? Hed ja Jeg kan ikke huske hvad
- 59:10det. Hedder Det var Det var garbray?
- 59:11Nej Det var ikke. Det, jeg ville gerne det det.
- 59:13Det var en video til noget andet ikke men men men Det er jo
- 59:17ligesom dybest set at overskriften i det framework Det
- 59:20var jamen ella lemmer fungerer jo ikke på den måde nede på
- 59:24modellen, så lad os lad os bruge dem som de er lavet til altså
- 59:28den måde de er lavet på. Altså vi flytter næste togen
- 59:31ind. Sammen med alle de andre, så får
- 59:34vi ligesom. Et tungt ad gangen, og vi beder
- 59:37dem om at stoppe på nogle bestemte tidspunkter, og så
- 59:40kommer vi måske med brugerinput eller programmatiske input, og
- 59:44så kører vi videre derfra, så man ligesom interviewe og sagde
- 59:48nu er du nået hertil. Og nu skal du så stoppe, og så
- 59:53kommer det næste ind. Det var.
- 59:57Der tror jeg at jeg kunne godt. Det er Sådan et avanceret brug
- 1:00:01af af de der elementer på en eller 2 måde.
- 1:00:04Jeg kunne godt forestille mig at nogen fandt ud af at gøre det.
- 1:00:08Brugervenligt at at bruge en ellem på den måde eventuelt
- 1:00:12bliver noget websocket lidt ligesom det her live.
- 1:00:17Hvad hedder det? Talefungerer fordi Det er jo
- 1:00:20Sådan set faktisk. Sådan som det fungerer, tror jeg
- 1:00:23ned nede ned under. Det er simpelthen at de de man
- 1:00:28stopper dem ligesom i deres tunge generering.
- 1:00:30Når du svarer tilbage til dem så og så er de rigtig hurtige til
- 1:00:34at respondere på. Hvad kan man sige lancy på
- 1:00:36første tågenerering er jo meget lav, så når du når du starter
- 1:00:40den på ny, så er de cachet og alt muligt fancy.
- 1:00:42Det gør også og og det vil Det er rigtigst der skal man bruge
- 1:00:46en websuccker til til at lave det der.
- 1:00:48Et rio show der og Det er ret svært at lave Det har jeg hørt
- 1:00:51fra mange der der udvikler med det.
- 1:00:53Man skal forstå websogitivt. Så det.
- 1:00:56Det er klart Det kan være. Det føles rigtig svært for
- 1:00:58mange, men Jeg tror at at det ville det ville være et API, som
- 1:01:03jeg godt kunne kunne forestille mig kunne være interessant
- 1:01:07bruge. Det er Sådan meget avanceret
- 1:01:08brug, men Det er også Sådan, når vi når til et punkt, hvor at at
- 1:01:11at use cases med agenter, så når vi ligesom Sådan, så capper vi
- 1:01:15på et eller andet punkt i forhold til den der interaktive
- 1:01:17oplevelse og alle de der ting der.
- 1:01:19Og så tror jeg at next level bliver ligesom at at bruge
- 1:01:23teknologien endnu mere avanceret, end Vi har gjort
- 1:01:25indtil nu. Og så kan jeg forestille mig,
- 1:01:27Der er nogen, der begynder at træne modellerne til at være
- 1:01:29bedre til det der interaktive agent noget.
- 1:01:32Og så bliver det Sådan et eller andet med, at modellerne næsten.
- 1:01:36Snakker med hinanden. Ja igennem Sådan nogle
- 1:01:40websygget. Sygt nok.
- 1:01:44OK altså Jeg tror jeg. Hørte dig.
- 1:01:46Hørte du lige min fantasi der bare ja.
- 1:01:50Godt der i 2 år. Det bliver vanvittigt.
- 1:01:52Jamen jeg tænker jeg tænker at. Om 2 år, så har vi Sådan en OK
- 1:01:56god sellet standard altså så er vi rimelig enige om OK Det er
- 1:01:59Sådan her vi kommunikerer DR igen til til tools og andre jeg
- 1:02:04agenter og altså Sådan Der er ligesom styr på de der ting og
- 1:02:07så er der på en eller 2 måde også kommet styr på.
- 1:02:11Sådan en eller 2 form for børs eller en eller 2 form for Sådan.
- 1:02:16Måde, hvorpå de her agenter ligesom kan få fat i hinanden og
- 1:02:18søge hinanden frem, og man kan ligesom de kan ligesom begynde
- 1:02:22at løse problemer, de ikke var lavet til at løse på forhånd,
- 1:02:25fordi hele den her, det her webagenter og løsninger og så
- 1:02:29videre er så godt på en eller 2 måde.
- 1:02:31Så forestiller jeg mig lidt. Det er Sådan en eller 2.
- 1:02:32Det er lidt Google for agenter. Vi mangler ikke altså Google
- 1:02:35for. Det er lidt ligesom jeg
- 1:02:38forestiller mig. Det var i gamle dage med du ved.
- 1:02:42Når man skulle finde altså internettet hedder det kom frem
- 1:02:44ikke Sådan. Der er en masse hjemmesider, men
- 1:02:45jeg ved ikke. Hvor de er eller?
- 1:02:48Sådan du ved, hvad fanden skal jeg gøre?
- 1:02:49Jeg kender ikke nogen hjemmesider.
- 1:02:50Jeg vil bare gerne ind og på nettet.
- 1:02:51Ikke altså. Vi Google er jo ikke mere altså
- 1:02:54dem der har opdaget chatkapacitet search.
- 1:02:57Men men, men hvad hedder det? Men dengang der var det Sådan
- 1:03:00lidt der. Hvordan får vi indekseret alle
- 1:03:01de her hjemmesider og Sådan så vi kan få fat i dem altså så vi
- 1:03:04kan opdage dem ikke? På en eller 2 måde, og Det var
- 1:03:07jo der, hvor Sådan i Danmark var det jubii der kom ikke og så
- 1:03:10yahoo og Google og Sådan nogle ting ikke på en eller 2 måde, så
- 1:03:15så forestiller jeg mig at der kommer til at være så meget
- 1:03:17funktionalitet i verden som bliver udstillet til alle.
- 1:03:20Lad mig at det skal Sådan. Der bliver blev nødt til at være
- 1:03:24en eller 2 form for Sådan ret central infrastruktur eller en
- 1:03:27eller 2 form for infrastruktur, der skal sørge for at de rigtige
- 1:03:31agenter bliver matchet med de altså andre rigtige agenter.
- 1:03:34Og ja. Men så tror jeg til gengæld
- 1:03:38også, det bliver vildt at at at bruge computere, fordi så er det
- 1:03:41lige pludselig Sådan. Så kan man sige, jeg kunne sgu
- 1:03:43egentlig godt tænke mig at gøre Sådan et eller andet sindssygt
- 1:03:46eller gøre et eller andet. Kan du ikke lige.
- 1:03:49Få det her til at ske eller Sådan noget ikke og så bliver
- 1:03:51den bare OK jo Det kan jeg godt og så.
- 1:03:53Kalder jeg bare 1000 forskellige sas produkter og løsninger, API
- 1:03:56og pis og lort som bare du ved henter data og.
- 1:04:00Gør et eller andet sindssygt altså.
- 1:04:03Ja ja men. Og så voice for fanden voice.
- 1:04:08Det er de allerede begyndt at snakke om EI opin AI aiens SDK
- 1:04:13supporterer voice agents det bliver også det bliver gigantisk
- 1:04:17Det er jeg sikker på altså det gør virkelig Det er jeg sikker
- 1:04:19på. Og der kan man jo så sige.
- 1:04:20At de banker bare kælder appen lidt måske om 2 år så har vi
- 1:04:23kælder appen til voice Sådan hvor man bare tænker hold da op
- 1:04:26Det er sindssygt det her det det Det er bare mindblowing.
- 1:04:29Agtigt men det det du siger Det er at de begynder jo at lave
- 1:04:32voice produktet altså som du kan plugge ind forskellige steder,
- 1:04:35ikke? Fordi at lige nu hvis du skal
- 1:04:38lave det Der er Det er det ret råt kan man sige så nu laver de
- 1:04:42bare OK ved du hvad vi laver STK et til dig så så det der når du
- 1:04:46skal implementere det. Så er det bare nemt for dig at
- 1:04:49gøre, men spørgsmålet er at du ved fordi at når når det sker
- 1:04:54ikke altså det der voice noget jamen så kommer så kommer
- 1:04:57leverpostejen altså ud til alle mennesker fordi de bruger det
- 1:04:59der SDK der og så hvis du så skal skille dig ud og virkelig
- 1:05:02innovere på et eller andet som jeg tænker der stadig er plads
- 1:05:05til når nogen har lavet det der SDK fordi man kan man kan tage
- 1:05:08det mange veje der. Jamen så skal du igen ned til
- 1:05:12som der står i den der troll Factor.
- 1:05:13Du skal eje alle de her ting selv og gøre noget for det der
- 1:05:16produkt bliver rigtig godt ikke? Fordi ellers så er det bare
- 1:05:19leverpostej du leverer. Men men altså selvfølgelig Vi
- 1:05:22skal starte et sted altså bare det at for voice ind altså live
- 1:05:26interaktiv voice altså vi lige i øjeblikket der sidder jeg bare
- 1:05:31med med det der med at Vi skal have læst artikler op ikke altså
- 1:05:35så. Det skal vi også lige have i hus
- 1:05:39ikke Der er lige mange ting Vi skal lige have fikset.
- 1:05:43Så før vi kommer til den her meget fancy brug af af af den
- 1:05:46her teknologi her. Vi er så fucking meget stenaljer
- 1:05:49og så. Vi.
- 1:05:52Skal bare have nogle flere udviklere.
- 1:05:53Man skal bare få en. Interessant ting ikke, og Jeg
- 1:05:55tror stadig Det er tilfældet. Det er det der med at.
- 1:06:00De typer udviklere, som er vant til at arbejde med EI.
- 1:06:04De er ikke dem, som er vant til at lave streaming af lyd for
- 1:06:09eksempel eller Sådan altså eller ikke.
- 1:06:10Det er dem, Der er vant til at bygge.
- 1:06:11Alle mulige ting og sager. Ved du hvad der sker nu?
- 1:06:14Der sker det, at det alle udviklere kommer til at skulle
- 1:06:17udvikle med AI. Alle udvikler alle frontend alle
- 1:06:21baggend alle sammen kommer til at skulle bruge AI.
- 1:06:24Det kommer ikke til at være noget som kun nogle få gør.
- 1:06:30Og det, det vil det det kommer til at ske.
- 1:06:33Jeg er helt 100 på det det her. Det er min min prediction til
- 1:06:38til dengang. Nytår 5 projektions.
- 1:06:40Der og og og og du sagde noget med 2 år lad os lad mig sige
- 1:06:44noget hvad der kommer til at ske om 2 år som Jeg er ret sikker på
- 1:06:47der kommer til at ske det at der kommer til at ske det at mange
- 1:06:52sidder derude med en organisering nu omkring det her
- 1:06:55med at AI er en specialiseret. Hvad kan man sige det at bruge
- 1:06:59AI det at forstå det at bygge AI Der er jo den praktiske
- 1:07:03anvendelse du du skal jo bare kalde a piger du skal bare
- 1:07:05forstå de her a piger og forstå hvad de gør.
- 1:07:08Fordi priderne er derude, så du kan jo bygge hvad som helst med
- 1:07:12dem. Det er ikke det kommer ikke til
- 1:07:13at være forbeholdt få udviklere det der det det gør det bare
- 1:07:17ikke det der kommer til at være udfordringen ved, at det ikke er
- 1:07:21forbeholdt nogle få udviklere. Det kommer til at være, at Der
- 1:07:23er stadig en form for test og det der med at ligesom at få et
- 1:07:27system til at makke ret i forhold til at at forstå hvad en
- 1:07:31LM er en propalistisk. Kæmpe klods klodsmajor ikke?
- 1:07:38At at ligesom at få den få den testet godt til de cases, fordi
- 1:07:42Der er en masse almindelige Sådan udviklere der sagtens kan
- 1:07:44binde de der tråde sammen og Sådan nogle ting, men de vil
- 1:07:47have svært ved at forstå. Og den evaluerer jeg det her og
- 1:07:51hvordan og og derfor evalueringen af Det er er
- 1:07:54ligesom bare. Det er det som day og
- 1:07:56sciencessen altid har haft et data og evaluering og fokus på
- 1:08:01på på evidens af den slags, der det kommer stadig til at være
- 1:08:04for dem, der sidder med det der område der.
- 1:08:09Tal og grafer og statistik og alt det der, men og det bliver
- 1:08:13man nødt til at bruge endnu mere nu.
- 1:08:15For ligesom at teste de her elementer.
- 1:08:17Fare for at at den her episode. Den går fuldstændig af sporet og
- 1:08:21kommer til at vare 3 timer. Jeg tror i virkeligheden det
- 1:08:25jeg. Det var en tanke jeg lige fik
- 1:08:27fordi i dinero der har vi altså i Vores supportteam, der har vi.
- 1:08:30Vi bruger vi vi bruger intercom og de har Sådan en
- 1:08:33chatbotløsning, support chatbotløsning som vi bruger og
- 1:08:37Det er ligesom support, altså Vores supportteam der ejer den
- 1:08:41og du ved der har man mulighed for at den laver rack nede i
- 1:08:45Vores support artikler, og så kan man give den nogle
- 1:08:47instruktioner og så videre. Altså man har Sådan nogle
- 1:08:48forskellige knapper man kan dreje på, for ligesom at.
- 1:08:51Få den til at for at få den optimeret den ikke.
- 1:08:55Og det synes jeg bare er super interessant fordi de har ligesom
- 1:08:57haft OK Vi har det her system det vi kan ændre Det er prompte
- 1:09:00og vi kan ændre de artikler som den søger i Sådan en eller 2
- 1:09:02form for seo for ER agenter ikke.
- 1:09:05Og de har virkelig altså. De har virkelig forbedret den
- 1:09:08der bot ved rent promgingering og det og det Jeg er så stolt af
- 1:09:12dem, fordi de har haft den fuldstændig rigtige proces for
- 1:09:15at gøre det altså de har de har kigget på det chats der kommer
- 1:09:18ud, så har de set dem der blev ratet dårligt, så har de
- 1:09:20simpelthen bare kigget på data og de er fucking det datasigntes
- 1:09:24job ikke kigget på data og så havde de set hvad er det der går
- 1:09:27galt her? Hvordan kan vi på en eller 2
- 1:09:28måde få enten ændret den supporterartikel den fik fat i?
- 1:09:31Eller hvordan kan vi ændre den systemprom så den opfører sig
- 1:09:34bedre næste gang? Køre eksperimenter.
- 1:09:36Hold øje med mattrix. Du ved Jeg synes bare Det er en
- 1:09:40en ret vild, så spørgsmålet er i virkeligheden det som day
- 1:09:44designs lavede før? Det er så nemt nu OK nu, nu
- 1:09:49dræber jeg lige alle sammen eller det det gør jeg ikke men
- 1:09:53men det det det Det er det sances lavet før.
- 1:09:56Det er så nemt nu, fordi interfacet er ikke python eller
- 1:10:00et eller andet. Det er sprog.
- 1:10:03Og hvis der ligesom er bygget noget software som laver en
- 1:10:06eller 2 form for evaluerings motor, ligesom laver en eller 2
- 1:10:09form for klar evalueringsproces. Så kan man komme rigtig langt
- 1:10:14med pumpenering, så i virkeligheden tror jeg rigtig
- 1:10:16meget at meget af det der iterative arbejde.
- 1:10:19Hvis man på en eller 2 måde laver noget tooling der kan få
- 1:10:22det væk fra koden Sådan så det kun er naturligt sprog der skal
- 1:10:25koncentrere sig om altså prompt og så bygger en eller 2 form for
- 1:10:29evalueringsflow ind i det Sådan så det gør det nemt for folk der
- 1:10:32ikke kan programmere at at gøre. Så tror jeg i virkeligheden, at
- 1:10:36lige så meget at domæne eksperter kan indtage den her
- 1:10:39rolle og blive god til frontedineering og den her
- 1:10:41itterative proces og forbedre de her systemer.
- 1:10:44Fordi de er jo. Så ikke nødvendigvis fordi
- 1:10:46rigtig meget er de datasigntest og machine learning engineer os
- 1:10:49måske mest datasegntestopgave er at kigge på data og litterære og
- 1:10:53lave modeller om og Sådan noget ikke nu er vi bare i et
- 1:10:55super-human eller super altså vi de er blevet så gode de her
- 1:10:59modeller så generelle. Og de har fået det her
- 1:11:02interface, så man kan ændre dem. Ikke med hyperparameter tuninger
- 1:11:05og python, men med fucking naturlige sprog, ikke?
- 1:11:09Og og det du siger Det er også at at altså tilbage til dit team
- 1:11:13der ikke dit team men men teamet.
- 1:11:17Skud ud til din support team i øvrigt.
- 1:11:19Fuck din del support team som jo bare har taget sunde principper
- 1:11:24også for almindelig softwareudvikling som jo også er
- 1:11:27de samme for machine learning. AI jamen Det er en iterativ
- 1:11:32proces at lære. Alt hvad der virker, hvad der
- 1:11:35ikke virker og have have nogle outcoms og mål på og så inspe
- 1:11:40and adapt og iterere henover det.
- 1:11:43Ligesom i øvrigt at jeg selv har lært.
- 1:11:46Fuldstændig den samme måde. Jeg har det lidt som om at jeg
- 1:11:49sidder og random noget jeg skal snakke om i morgen til til et
- 1:11:52fredagsmøde men men men Det er jo Sådan altså.
- 1:11:56Du ved derfor så er det det at at at få et godt produkt med
- 1:12:00den. Den her teknologi er
- 1:12:02fundamentalt set den samme som den har været.
- 1:12:04II alt andet software i rigtig lang tid, men det bliver bare.
- 1:12:10Hvad kan man sige? Ekstra understreget her at at
- 1:12:12det du er så nødt til, fordi at Der er det her propalistiske
- 1:12:16udfald IIII de her modeller og du skal tunne din from meget
- 1:12:22mere, og Det er ikke særlig åbenlyst at du ved hvad for
- 1:12:27noget naturlig tekst du skal skrive, givet et eller andet
- 1:12:30input og noget retrievel før du får et godt outcome.
- 1:12:33Ligesom det måske er du kan sgu godt lige hacke noget af og du
- 1:12:37ved det her. Det virker bare rimelig sikkert,
- 1:12:39også selvom jeg ikke har testet det.
- 1:12:41Det kan du altså ikke med eller det gør du bundet op på at du
- 1:12:44altid skal evaluere det på en eller 2 måde, fordi ellers så
- 1:12:47bliver det bare som vinden blæser.
- 1:12:50Og jeg havde set det first hand det der med. 200 brugere på.
- 1:12:58Plus 200 plus brugere på en intern app IIJP pol ikke hvor
- 1:13:03man pludselig lige switcher en en model model version og så går
- 1:13:09den bare amok i feedback kanalen.
- 1:13:11Skrive på LinkedIn, Sådan skrive på LinkedIn Sådan de siger alle
- 1:13:16sammen at OK. Det var ikke Sådan nu siger jeg
- 1:13:18det det han er ikke Sådan. Sådan lød han ikke.
- 1:13:21Men at den der o four hvorfor siger de allesammen at o four er
- 1:13:26så god over mini er så god nu har jeg lige prøvet den i curser
- 1:13:29og den går fuldstændig bananas og Jeg kan slet ikke finde ud af
- 1:13:32det og så tænkte jeg bare Sådan her.
- 1:13:34Jeg tror godt jeg ved hvad der sker cursor alle deres prompts
- 1:13:38fucker fuldstændig med den der o 4 minimodel og de altså Sådan
- 1:13:42hele deres celler er bare altså det det du ved folk tror du
- 1:13:46altså jeg forestiller mig at mange tror Sådan at OK men Det
- 1:13:48er bare en 2 lille Det er bare plug and play du ved Det er
- 1:13:50tekst in tekst ud ikke? Ja ja, men Jeg tror Jeg tror at.
- 1:13:55Ja. Jeg tror folk undervurderer
- 1:13:58Sådan, at det skal det skal den skal lige tunes ind til det, og
- 1:14:02spørgsmålet er også, Jeg er glad for at cloud sonnet 3,7 ikke
- 1:14:05spørgsmålet er i virkeligheden bare, er det ikke bare fordi den
- 1:14:07er optiv altså kører så optimeret til den ikke altså.
- 1:14:10Vil du vil du høre? Kan du huske Vores gamle snak
- 1:14:12du? Vi fortsætter godt nok rigtig
- 1:14:13meget her II podcasten men kan du huske Vores gamle snak om det
- 1:14:17der med? Gad vide om completion,
- 1:14:19parameter og model hører sammen med med den her prompteemplate?
- 1:14:24Hov Jeg tror det hører rigtig meget sammen, fordi at modellen
- 1:14:27er jo en del af den her compladsion parameter.
- 1:14:31Så OK, de er datamæssigt uadskillelige og Det er de bare.
- 1:14:35Det er en del af alt. Alt i det øjeblik, du sender
- 1:14:38noget til. Eller hvem det nu er alt det det
- 1:14:43skal lokkes ikke. Og som du selv siger det der med
- 1:14:46at cursor har sikkert ikke fint altså finjusteret og testet.
- 1:14:52Hvad kan man sige differentieret templatesing omkring?
- 1:14:57Hvis de overhovedet har. Jeg ved faktisk ikke engang hvad
- 1:14:59de laver, men de laver et eller andet i deres back inde.
- 1:15:01I hvert fald hvis man skal formentlig sende det til dem
- 1:15:04altid. Man kan ikke sende det direkte.
- 1:15:05Men Det er meget sjovt at prøve reversion.
- 1:15:08Men du ved altså. Gad vide om de så laver og måske
- 1:15:12laver de måske laver de ikke differentieret.
- 1:15:14Anyways, de burde i hvert fald når de puttede en ny model ind
- 1:15:17II skuffen. De har jo også Sådan en en auto
- 1:15:21at den selv kan vælge model og Sådan noget.
- 1:15:23Det er jo fornuftigt nok det synes jeg jo er next level men
- 1:15:26men altså. Ja du ved et eller andet?
- 1:15:33Det er vigtigt, det ser med prump hænger altså sammen med
- 1:15:38modellen. Man kan ikke forvente.
- 1:15:41At at Det er det samme, og Jeg synes faktisk og Det er noget af
- 1:15:44en nu nu fortsætter Det rand her ikke, men Det er noget andet.
- 1:15:47Det er de der Det er de der skide benchmarks.
- 1:15:51Undskyld jeg siger det de der skide skide benchmarks Der er
- 1:15:54derude som har et statisk datasæt.
- 1:15:59Det er et input og et forventet output og så kører de
- 1:16:02forskellige modeller op mod det. Altså prøv lige at forestille
- 1:16:06dig i god gammel machine learning one a one tanke at du
- 1:16:09havde den der hvor du skiftede input data ikke?
- 1:16:14Og og og Det var og og og undskyld at du havde det samme
- 1:16:19input data. Det jeg mener og du bare havde
- 1:16:21forskellige modeller, som i øvrigt var trænet på alt muligt
- 1:16:23andet data ikke også og så skulle forvente at de.
- 1:16:27Du ved Sådan Der er bare et eller andet i det der med Sådan.
- 1:16:30Hvis nu man vender den om, og så siger man i stedet for, og Det
- 1:16:35er faktisk tilbage til det der paper der jeg snakkede om
- 1:16:37tidligere, der hvor de har lavet evaluering, der siger de nemlig
- 1:16:40det vi gør. Det er vi siger.
- 1:16:43Vi giver modellen de bedste forudsætninger med med så meget
- 1:16:46problemteknik som muligt, for ligesom at løse den her task, og
- 1:16:50Det er på det niveau, vi vurderer dem.
- 1:16:52Det vil sige. De har forskellige inputs, de
- 1:16:54sammenligner dem på at løse den samme task med forskellige
- 1:16:57input. Og du skal jo ad helvede til Det
- 1:17:02kan man ikke automatisere. Men Det er jo det, Der er det
- 1:17:04rigtige. Fordi.
- 1:17:07De ved ikke. Hvordan man laver.
- 1:17:11Nu nu nu har jeg virkelig virkelig virkelig bare fået
- 1:17:13pulsen op her til sidst og ellers så skyggerne plejer at
- 1:17:16blive lange, som vi siger. Meget meget lange skygger
- 1:17:18dernede, så Det er. Vi Vi skal have danseotrup endnu
- 1:17:21engang ind og snakke om det her evaluering her og finde ud af
- 1:17:24hvad er det der foregår. Det er fandme for dårligt det
- 1:17:28her. Ja det synes du ikke også Det er
- 1:17:29for dårligt. Altså så det må vi alle sammen
- 1:17:321000 tak fordi i lyttede med. Nu skal vi nok spare jer for
- 1:17:35mere randing omkring ear agenter og model evaluering og pis og
- 1:17:39lort og så må vi vi glæder os til at se hvad der sker om 2 år.
- 1:17:42Måske er det et Jørgen 2 år wellows.
- 1:17:45Hvad tror i? Hav det rigtig godt til vi
- 1:17:48lyttes igen og husk at føle os på LinkedIn og subscribe der
- 1:17:50hvor du lytter podcast og Sådan noget og så ses vi igen
- 1:17:53forhåbentlig i næste uge. Vi er lidt Vi har.
- 1:17:55Vi har lidt travlt i øjeblikket, så vi kom ikke ud i sidste uge,
- 1:17:57men nu skal vi stoppe, så vi vi regner med at se i næste uge.
- 1:18:01Hey hey hey.