Latest / Verbos: AI og Softwareudvikling / #96 - Vibe Coding, Agent Skills og Lytterspørgsmål

Transcript

#96 - Vibe Coding, Agent Skills og Lytterspørgsmål · Verbos: AI og Softwareudvikling

0:00
Helt sammen og velkommen til hvad bo's podcast afsnit nummer
0:03
96 mig og Jonas Vi er nok. Vi er faktisk ikke helt sikker
0:07
på om Vi er live eller hvad Vi er så.
0:12
Så ja vi vi vi vi tester nu her. Jeg kan faktisk se på på youtube
0:18
at vi der står welcome 2 al liveshow inde på youtube.
0:24
Så vi burde faktisk være live nu.
0:27
Fedt mand. Det er vildt nok skærer jeg
0:29
bare. Skal jeg ikke bare lige prøve at
0:30
dele det her link og så sende det ud på på link i din.
0:33
Og så se om Der er nogen der kommer ind.
0:36
Hvor kan vi kan vi se en chat et sted eller?
0:39
Noget. Jeg ved det ikke.
0:41
Jeg ved det ikke. Jeg har en chat der hedder
0:43
wisper backstage. Fedt fedt fedt.
0:50
Jeg skriver Jonas og Jeg er live på.
0:54
Jeg kan høre noget hvad hedder det ekco nu her.
0:59
Med hver bås har du skruet op for din lyd lige nu her, Jonas?
1:05
Ja. OK Det er meget højt.
1:08
OK. Det er meget højt.
1:13
Hvad med nu? Det er meget bedre.
1:17
Wordkonto og live show hedder det hedder Vores live åbenbart.
1:21
Kan du se nogle kan du se nogen Sådan chat.
1:25
Vi har en live chat inde i studiet.
1:28
Og Jeg har lige skrevet et tur er der nogen derude fedt.
1:30
Mand Det er der o. K fordi Vi er lige startet live
1:32
chatten. OK super jamen skal vi så ikke
1:35
bare gå i gang med at. Jeg tror også jeg følger med på
1:39
en 2 youtube kanal. Jeg har supermeta men bare lige
1:43
for at se med II radio super lad os starte dagens program.
1:48
Hvad er det Vi skal lave i dag, Jonas?
1:51
Jamen, Vi skal gå igennem nogle lytterspørgsmål.
1:55
Lige præcis. Så skal vi snakke om.
1:59
Det som alle på en eller 2 måde snakker om og som folk har
2:03
ventet på tror jeg lidt det her med at de fleste AI providers
2:10
der store de store spillere derude.
2:11
De satser på en eller 2 måde på at de skal overtage browseren.
2:18
Og laver deres egen browser. Det er.
2:20
Der vidst ikke rigtig nogen tvivl om.
2:23
Og måske vil jeg også lige skal kort henover state of vibecoing.
2:29
I det her land som måske ja ikke bare i det her land, men i hele
2:32
verden. Hvordan går det?
2:35
Det går lynhurtigt, vil jeg sige.
2:38
Der sker noget hele tiden. Det gør det sgu og ingen.
2:46
End er bedre end den gode unge til at initiere.
2:50
Hvad er status of the art på hjem?
2:52
Der er sket lidt tid. Fordi Jeg kan ikke følge med.
2:55
Nej. Men Det er også bare helt
2:56
latterligt altså fuldstændig. Så jamen hvor hvor skal vi
3:00
starte? Skal vi starte med?
3:01
Skal vi starte med en hurtig state of vibecoing?
3:05
Lad os starte med hurtigt state ofing og så gå direkte over til
3:08
lytterspørgsmålet. Så kan det være Der er kommet
3:11
nogle på. Nej nej, lige præcis.
3:13
Men hvad hedder det bare lige for at sige at Vi har også nogle
3:16
nogle whitecoating episoder coming up her på det all seneste
3:21
næste stykke tid, så der kan man selvfølgelig følge med, men lad
3:24
os lige bare lige prøve at tage en en indflyvning her.
3:27
Det er jo faktisk Sådan at jeg hos dinero er gået fra at være
3:30
på hvad hedder det virtual CFO teamet til ligesom at komme over
3:33
i det team der hedder AI noblemteamet hvor at jeg
3:37
beskifter beskæftiger mig 100% altså 100% af min tid.
3:41
Bruger jeg på. Basically vibe coating altså det
3:44
her med at prøve at se hvordan vi kan få altså Sådan ligesom få
3:47
implementeret ER agenter til at kode i altså til at hjælpe med
3:51
med med at udvikle software ikke.
3:53
Og så har jeg så den her 4 dag eller den 5 dag om ugen hvor jeg
3:56
laver de her. Der har jeg fri fra dinero og så
3:58
laver jeg workshops for software teams i vibecoing, så jeg laver
4:03
ikke andet end vibecoing lige lige altså i øjeblikket, så Det
4:07
er virkelig virkelig meget. Yes vibe chief vibeoffer tror
4:13
jeg ej det ved jeg ikke det men Det er Sådan lidt 1 1 1 titel
4:15
Jeg har hørt det i hvert fald. Anyways, det der sker i
4:19
øjeblikket og det Der er sket her indenfor de sidste 1-2
4:21
måneder, synes jeg når jeg kigger derud og det jeg oplever
4:24
på med performance på agenterne, Det er at de begynder at blive
4:28
nøjer end gode. Altså virkelig Sådan den den
4:31
fuldstændig. Hvad skal man sige gennemgående
4:34
indvending som alle softwareudviklere har, når de
4:37
hører om bibecoding og ser hvordan man gør og så videre Det
4:42
er. Fint nok vi kan lave prototyper
4:44
fint nok vi kan gå fra 0-1 eller andet high fibe agtigt noget på
4:49
meget meget kort tid. Men hvad med Vores rigtige
4:52
arbejde? Fordi Det er nemlig ikke folks
4:56
rigtige arbejde at lave prototyper hele tiden.
4:58
Ofte hvis man er det skulle jo meget gerne være Sådan at man
5:02
arbejdede i en eller 2 virksomhed som havde noget
5:03
software som skab værdi for nogle i til en grad, hvor at de
5:07
rent faktisk havde betalt for det og det vil sige.
5:10
Så har man en typisk 1 1 1 1 eller flere store kodebaser som
5:13
er komplekse mange, mange mange linier kode.
5:17
Som som skal hvad hedder det vedligeholdes og ændres i og.
5:21
Ja Sådan simpelthen bare udvikles.
5:25
Og Der er de her ER agenter. Hvad skal man sige ret kendt for
5:29
ligesom at komme til kort fordi at ja Der er mange problemer med
5:33
dem ikke? Altså du kender det selv Jonas
5:34
de hvis man beder dem om noget, så så går de ind og så.
5:39
Bloader laver de bare en masse bload kode som slet ikke følger
5:41
standarderne og de er hallucinere og laver forkerte
5:43
ting og så videre og så videre og så videre.
5:46
Så Der er rigtig mange der har superdårlige oplevelser med det.
5:49
Men her indenfor de sidste 1-2 måneder, og så er der begyndt at
5:53
i takt med at modellerne bliver bedre og bedre.
5:56
Altså Der er noget med at model selvfølgelig.
5:58
Jeg ved ikke om de bliver større eller de altså.
6:00
De bliver jo hele tiden trænet og man går mere og mere over fra
6:03
at at man går mere og mere hen mod at træne på chat data og
6:08
agentdata. Som altså hvor det hvor det den
6:12
data man træner på er rent faktisk lavet af eksperter.
6:16
Og nu kan jeg høre mig selv i. Jeg tror Der er noget.
6:22
Fint. Kan du høre?
6:25
Har du skruet op? Jeg tror det.
6:29
Er Det er det? Meget oppe.
6:32
Ja, det skulle meget jeg. Prøver lige at skrue ned.
6:37
Det kan godt være man er implementeret med liveshow er er
6:41
er ikke altid helt godt. Åh ja nå anyways Det er bedre.
6:47
Det var bedre det der. Hvis vi ser om det, hjælper nu.
6:50
Super. Ja så hvad hedder det?
6:53
Hvor kom jeg fra? Snakken snakker snakker jo men
6:55
altså de begynder jo ligesom bare at træne de her modeller på
6:57
på bedre data. Simpelthen folk der rent faktisk
6:59
er domæneksperter Sådan så det ikke bare er random kode fra
7:01
githop, men rent faktisk nogle nogle dygtige dygtige
7:04
programmører som de ansætter til at til at lave træningsdata, så
7:07
de bliver bedre Sådan rent træningsdata og wise de har
7:10
agenter eller de har så bliver de også trænet til den her agent
7:16
måde at arbejde på, så de bliver trænet til at kalde tools og
7:19
ierer og. Reasende III og tænke på tools
7:23
og Sådan nogle ting og blive bedre til det på den måde.
7:25
Og så er så er det der alt det der sker efter.
7:30
Altså efter AP et det som man populært set kalder for kontekst
7:34
ingeniøring. Det er noget som Der er mange
7:38
Der er begyndt at tage meget meget seriøst og virkelig fordi
7:42
fordi Det er ikke fordi der ikke er nogen der har gjort det, men
7:44
Sådan der. Der bliver bare især også det
7:46
her vibecoing space. Der er virkelig mange Der er
7:49
begyndt at tage det helt utroligt seriøst det her med at
7:52
virkelig prøve at gøre meget ud af at kontekst manage få de her
7:57
ellemer. Så Det er Sådan begyndt at blive
8:00
Sådan en helt nærmest en helt programmeringssprog ovenpå på på
8:03
elle lever og adgentik. Hvad hedder det engins på en
8:07
måde synes jeg. Ja så hvad hedder det?
8:11
Og Der er der bare rigtig mange der har fundet ud af at eller
8:14
Der er flere og flere der begynder at finde ud af at.
8:17
Hvis man gør det her rigtigt, så så kan det rent faktisk.
8:21
Så kan de her elemmer faktisk gøre helt vildt meget i
8:24
eksisterende komplekse kodebaser.
8:28
Nærmest af sig selv. Selvfølgelig med human review og
8:32
Sådan nogle ting men men man kan virkelig få få dem til at at
8:35
lave meget II høj kvalitet uden at og hvor altså hvor man
8:39
virkelig misserer mange af de her uønskede effekter.
8:44
Mange har indvendinger omkring at de de ligesom har ikke hvis
8:49
man ligesom gør det. Hvis man ligesom bruger de her
8:53
Premier lefs som crowd code eller som androbic med crowd
8:56
code. Er klart førende indenfor at
9:00
introducere, hvis man bruger dem klogt.
9:02
Altså det her som MTP servere commands suppiens i den seneste
9:07
uge. Her er der kommet noget der
9:08
hedder skills, som også er super interessant.
9:10
Hvis man bruger dem klogt, så er man kan man virkelig virkelig
9:13
komme langt i forhold til at holde sit kontekstvindue rigtig
9:18
rigtig high segminal Sådan så der Sådan så der virkelig
9:22
hverken er mere eller mindre. I kontekst vinduet end lige
9:25
præcis det der skal til for at for at løse opgaven.
9:29
Og og det der der sker rigtig meget på det her felt.
9:33
Der er blandt andet Sådan noget som commands for eksempel
9:35
icloud, som er noget en et format, som folk er blevet enige
9:39
og som som de her forskellige editors er blevet enige om langt
9:41
hen ad vejen kan jo så også begynde at adapt, adopte det og
9:45
curser har ligesom også givet op.
9:46
Og nu pikker den også op på i commands.
9:49
Der er i Sådan en den der crowd dot crowd folder.
9:53
Og det gør Det er jo blandt andet Sådan et et prem it, som
9:56
gør at man. Som team det bliver.
9:59
Det bliver nemmere at arbejde sammen om promks som team og
10:03
ligesom ikke fordi Det er en kæmpe rookie.
10:05
Mistake det her med at smide sin promts væk, hver gang man har
10:09
brugt dem. De kan rigtigt.
10:10
Det er det man kan få rigtig meget ud af ligesom at investere
10:13
i de her prompt og det Der er interessant ved ved proms til
10:19
agenter. Det er altså jeg ved ikke om man
10:21
kan huske i gamle dage da de var kommet frem, der var det Sådan
10:24
OK, så havde man Sådan gode prompt til at lave Sådan en one
10:26
off ting. Men det Der er med prompte til
10:30
agenter. Det er at Det er basically en
10:34
eller 2 det man kan godt nærmest se det som en eller 2 form for
10:36
en turber eller compiler de her agenter fordi du skriver en
10:40
promt, og så kan du nærmest skrive Sådan noget pseudokode
10:42
som du giver til en agent og så fordi den har den har mulighed
10:46
for ligesom at idérere over sit eget output.
10:50
Så så hvad hedder det at planlægge og Sådan nogle ting så
10:53
kan den så kan det så begynder det faktisk mere og mere at
10:55
minde om Sådan en eller 2 form for program man kører.
10:58
Altså man skriver et script i form af en command i naturli
11:01
sprog. Giver det til en agent, som er
11:04
compileren eller en terber and, og så kører den ligesom det her
11:07
script, og det giver ingen mulighed for ligesom at hvad
11:10
skal man sige definere klare processer for de her agenter,
11:14
som de kan følge og og gøre brugbare ting.
11:18
Og jamen så er der også Sådan nogle ting som at hvis man har
11:21
det det man også gerne rigtig gerne vil sørge for.
11:23
Det er at der ikke er alt muligt mærkeligt irrelevant inde i det
11:26
her kontekstvindue. Man vil gerne holde det så clean
11:29
som overhovedet muligt, for fordi så undgår man det, der
11:32
hedder contextret altså at den begynder at.
11:34
Altså hvis man bare bare blæser data ind i den, så begynder den
11:37
at hallucinere og tage dårlige beslutninger og Sådan nogle
11:41
ting. Så selvom de her modeller har.
11:44
Kontekstsvinduer på en million eller Sådan et eller andet, så
11:46
så er det altså stadig rigtig vigtigt at prøve at ikke at
11:50
putte alt muligt mærkeligt støj ind i.
11:52
Det er ligesom om Vi har deja vu lige nu.
11:55
Ja fordi Det var Sådan snakkede vi ikke også om det her for 2 år
11:59
siden? Altså du ved Sådan transformeren
12:01
er den samme. Og så så altså Det er jo
12:06
selvfølgelig nyt det her med, at Det er blevet så meget bedre til
12:09
det. Men Det er også lidt som om at
12:11
at vi puttede jo de der agentslag ind Sådan så der
12:15
ligesom der der kunne ske noget mere intelligent, men så så bare
12:18
fundet ud af, at fordi vi så har det her flow, at vi så kan alle
12:22
mulige ting, så nu kan Vores prump faktisk være meget mere
12:26
kompliceret, så det at. Formulere fordi Det var jo
12:31
engang, hvor der kunne ikke formulere Sådan en kompliceret
12:33
prump med, så skal der det og så skal du det, og så skal du det.
12:36
Det fattede den jo ikke, altså den havde jo ingen chance for at
12:39
eksekvere på noget af det der, og der kom ikke noget særlig
12:42
fornuftigt ud af det. Nu er det der, hvor at Vi er
12:45
nået til et punkt, hvor Vores prump kan faktisk være ret
12:48
kompliceret, og det vil sige hvordan, hvordan ovenpå det der
12:53
meget komplicerede, meget generelt, at vi så kan med
12:55
agenterne. Hvordan får vi så lavet nogle
12:58
nogle Trumps som virker godt, og som vi ligesom kan?
13:02
Ja som så vi får den kontrol over den proces, vi gerne vil
13:05
have. Form for Det er en form, for Der
13:09
er nogen der bliver sure på mig, når jeg siger kompejlere.
13:10
Og Det kan også være Det er bedre at kalde det interpareser.
13:12
Men altså. Forstå mig ret.
13:14
Det er en form for du ved du har et high level sprog som så er
13:17
engelsk typisk og så giver du det til en eller 2 en turporter
13:21
Sådan så ligesom eksekverer det det begynder mere og mere og
13:24
minde og og om den type hvad hedder det altså det begynder
13:28
mere og mere og minde om det og så kan man være rigtig klog
13:31
omkring hvordan man ligesom strikker de her forskellige
13:33
Premier lefs sammen altså so- agents command og så videre,
13:36
fordi så for eksempel Sådan noget som at lave.
13:39
Typisk når man skal lave ændringer på en stor kodebase,
13:41
så er det godt at man beder agenten om at man giver den en
13:44
opgave det her. Det vil jeg gerne løse.
13:46
Så beder man den om ligesom at lave noget research nede i
13:48
kodebasen først. Sådan så det ligesom crawler
13:50
hele kodebasen og så videre. Når den gør det så åbner den en
13:53
masse filer og Sådan. Nå Det var ikke den fil og så du
13:56
ved og masse toolcols og en masse Jason og Sådan noget.
13:58
Det der kontekstuin du bliver bare fyldt op med mere og mere
14:01
og mere og mere og mere støj. Og og og det meget meget
14:05
støjende. Det er Sådan en proces, der
14:07
giver utrolig god mening at delegere til en sub agent.
14:11
Fordi så kan den ligesom bruge et sit eget kontekst vindue til
14:15
at støje rigtig meget og finde ud af nogle vigtige ting.
14:18
Nogle ting Der er brugbare for at løse opgaven, og når den så
14:21
er færdig, så kan den code ned til Sådan bouillonterningen og
14:24
sende videre til den den primære agent.
14:26
Og så får den primære agent lige præcis den den hvad hedder det
14:30
den kontekst Der er brug for for at for at løse problemet og ikke
14:35
mere og så så sørger man nemlig for at holde kontekst vinduet
14:39
clean. Og undgå det her kontekstrot.
14:43
Så og så, og nu er vi begyndt at få de her skills, som jeg også
14:45
synes Jeg er ret ekdet over. Og hvad er skills?
14:49
Altså basically skills Det er en.
14:54
Det er 1 1 1 mappe med en fil en macdown fil der hedder skill med
14:59
stort dot MD og Det er lidt ligesom Sådan en readme i filen
15:03
fra den her skills og Det kan faktisk bare være 1 1 1 1 1 helt
15:07
normal magtdown fil og så ikke andet og så installerer du
15:11
ligesom den i din cloud coat og så har den her skills sig 1 1 1
15:14
navn og en beskrivelse som du så ligesom kan hvad skal man sige
15:18
som crowd ligesom kan se på samme måde som de kan se de kan
15:21
se MCP servere og. Ting de kan gøre en MT pserver.
15:25
Og det der så er Det er at de laver det der hedder madskills
15:27
og så laver de det her der hedder prok eller.
15:29
De har det her koncept som de kalder for progressive
15:31
disclosure. Altså at du kan se altså en
15:35
skill har ligesom et navn og beskrivelse som cloud bruger til
15:38
at vurdere om den skal bruge den eller ej.
15:41
Hvis den så vurderer, at den skal bruge dem, så hiver den
15:43
ligesom den her skill dot MD fil ud og bliver briefet om hvad er
15:48
det den her skill kan det ved den jo allerede lidt for navn og
15:52
beskrivelsen, men så får den ligesom en lidt større briefe om
15:55
så pakkeren. Eller nej, Det er bare.
15:58
Sådan så du ved ligesom en MTP server ligesom en noteret i
16:01
kontekst vinduet, så er der også bare skills.
16:03
Noteret i hvad hedder det? Skills kommer ikke fra.
16:08
En MCP server Det er ikke Sådan 1 1 1 Det er bare den bare noget
16:12
man har liggende som ikke eller snakdown fil her står en eller 2
16:19
overskrift. Jeg har den her skill og så.
16:21
Og hvad gør den så? Siger du så jamen så så skill.
16:23
Er ligesom bare en mappe og så en skills dot MD fil og den her
16:27
skills dot MD fil den har Sådan det der hedder front font front
16:30
matter altså Sådan en du ved Sådan 1 1 1 top linje fra Sådan
16:34
en mcdown fil i Sådan et format magthun bruger hvor Der er et
16:37
navn og beskrivelse og det bruger Clara som jeg sagde før.
16:41
Så er der så også ligesom en body altså noget brødtekst i den
16:44
her skills og den den den uddyber sig ligesom hvad skal
16:48
man sige hvad den her skill kan og Der er ideen til ja og Det
16:53
kan være at den her skill den kan den kan alt muligt.
16:55
Det kan den kan have tilfældigt mange filer III sin mappe sine
16:59
skill mappe her, så Det kan være den har 10 markedfiler som
17:02
beskriver alle mulige processer eller alt muligt kompliceret.
17:05
Det kan også være den har script python script som den kan
17:07
eksekvere eller bash script som den kan eksekvere.
17:10
Som den kan blive instrueret til at eksekvere, hvis den har lyst,
17:13
og så er det ligesom ideen at crowd ligesom det her
17:17
progressive dislodser er, at den ligesom kan først ser den navn
17:22
og description, hvis den vurderer, at den gerne vil bruge
17:25
den her skill, så ser den skilled MD.
17:27
Så kan det være den bliver. Den bliver guidet hen til nogle
17:30
andre filer den kan åbne for altså Det er ligesom Sådan en
17:32
eller 2 form for bog den pakker ud Sådan indholdningstræk af det
17:36
Sådan en indholdsfortegnelse den langsomt pakker ud.
17:39
Ja og en, og det vil sige, at man kan være meget Sådan
17:41
dynamisk med hvad kontekst man hiver ind og ud på forskellige
17:44
tidspunkter, alt efter hvor man er i en eller 2 proces og hvad
17:47
Der er brug for og en 2 interessant ting bare lige for
17:50
at afslutte den. Det er at det ikke så du ved en
17:52
skill er en mappe med en skill dot ND fil i hvor Der er et navn
17:57
beskrivelse og så en body og så kan der så kan der simpelthen
18:00
være vilkårligt mange filer, magtdown filer og script og så
18:03
videre udenom Det er Sådan set lige meget.
18:05
Men 1 1 1 noget Der er nødvendigt for en skills.
18:09
Det er at. Den den en skill er ligesom
18:12
afhængig af, at den har et miljø, altså den har den kan
18:16
eksekvere kode altså den den er afhængig af en et fil system og
18:21
en noget altså en kommandline den kan risikere i.
18:23
Det er Sådan ligesom en dependens i den har.
18:27
Ja og altså eksempler på hvad man kunne bruge en skills til.
18:30
Altså man kunne forestille sig noget som toner of voice for
18:32
eksempel kunne være en skill ikke?
18:34
Jeg vil gerne du ved lave en skill Der er min skrivestil når
18:39
Claus skal skrive min skrivestil, så så vil jeg gerne
18:41
så vil jeg have den skal bruge den her skill så giver den et
18:44
navn og beskrivelse og så kan det være jeg laver en skill
18:48
magtdown fil som siger hvis du hvis Det er et LinkedIn opslag
18:51
jeg skal skrive så gå ned og kig i den her fil.
18:53
Der er en masse eksempler på hvordan jeg skriver LinkedIn
18:55
hvis Det er en mail jeg skal skrive så gå ned og kig i den
18:57
her macdown fil for Der er en masse eksempler på hvordan jeg
19:00
skriver. Og så kan det være man har måske
19:03
på mails har man måske en. Casual man har en professionel
19:07
eller så videre, ikke og så videre for mig.
19:10
Rigtig meget som som en måde at indeksere nogle nogle prumps.
19:14
Og hvad kan man sige i også i Sådan et beslutningstræ altså
19:18
Sådan Sådan en en form for. Jeg ved ikke om det.
19:23
Måske kan jeg ses lidt som et binor tree, altså hvor man du
19:27
siger. Den har ligesom en header, hvor
19:29
den ligesom lige tjekker skal jeg gå videre ned i den i den
19:32
her gren her, ikke? Nå, men det skulle jeg måske
19:36
ikke, så så tjekker den den næste var det relevant for for
19:39
det Jeg har gang i nu. Men hvordan gør den det her?
19:43
Fordi gør den det så via et tool call tjekker den det iterativt
19:47
smider den alle de der headers med i Sådan et. 1 1 1 struktur
19:52
altså Sådan kan du følge med der Der er et eller andet.
19:54
Det er ret interessant det der med hvordan den så finder ud af
19:56
det, er det stadigvæk igennem noget tule crawling den den
19:59
dispatger ned i det her 3. Det er det.
20:04
Det er spændende det der. Jeg tror jeg.
20:06
Tror altså det Det er Sådan du ved hvis du har en skill i
20:09
Claude, så står den ligesom registreret op der hvor MCP også
20:13
står i eller registreret for eksempel ikke.
20:17
Så kan den vælge at bruge den og det den gør, når den vælger at
20:19
bruge den ud fra en en navn og beskrivelse.
20:22
Det er at den loader den her skill dot MD fil ind og så har
20:26
den ligesom adgang, så så kan den ligesom få en briefe om.
20:29
Hvad kan den her skill? Og så kan den ligesom vælge at
20:32
at dø grave ned III dens funktionalitet.
20:36
Hvad hedder det ud fra det ikke. Det kan være, og Det kan være
20:41
den kører et script. Det kan være den læser en fil og
20:43
så videre. Så hvad?
20:45
Hedder det der sker meget. Og bare lige bare runde den af.
20:48
Nu skal han nok snakke. Jeg følger også snakker meget
20:50
men hvad hedder det? Det er fordi jeg ville.
20:52
Tale om Vores chat der skriver hende OK hvad hedder det?
20:56
Men, men Det er så ligesom noget, Der er vigtigt at forstå.
20:58
Det er at det her det begynder at blive Sådan lidt nærmest en
20:59
programmeringssprog, hvor at Der er nogle Premier lefs.
21:02
Der er nogle commands og nogle suppegions og nogle skills som
21:05
kan rose til forskellige ting. Ja og hvis man er god til at
21:07
forstå hvordan man bruger dem, så tror jeg også man kan blive
21:09
rigtig god til at bygge agenter og SMTP servere.
21:13
Og Det var. Faktisk noget af det.
21:14
Nu skal vi ikke gå videre i det, men noget af det, jeg ville
21:16
Sådan også lige sige noget eller bare spørge ind til det Sådan
21:19
lidt. Hvordan fungerer alt det her?
21:21
Altså reverse engineering alt det her og af hvor er det at
21:25
bygge agenter selv er det stadigvæk inden for reach kan
21:28
man bruge lanchjene stadigvæk er kan man komme frem til noget
21:31
kvalitet i den her. Ligesom Claude code og cursor
21:36
gør II de her kodebagesystemer. Men i nogle andre kontekster er
21:41
Det er det Sådan duible eller eller er det simpelthen bare
21:43
super komplekst engineering man skal ud i.
21:46
Der må være nogle trols derude, der må være et eller andet og
21:48
jeg tænker vi vil vi vil rigtig gerne altså jeg.
21:52
Altså Jeg er personligt ikke i agentbygningsfasen IIAI.
21:58
Nu ved jeg blankt indrømme, fordi at tror jeg simpelthen der
22:02
manglede use cases i det det space hvor jeg arbejder for
22:05
ligesom at smide agenter efter ting.
22:07
Men anyways, Det er rigtig spændende og Jeg tror man man
22:11
man kan lære rigtig meget af white-coating og coating tools i
22:15
det hele taget. Jeg tror Det er det Der er front
22:16
runner på alle. Mulige ting derude, og det kunne
22:19
være interessant at høre om Der er nogle mennesker der der der
22:22
drager inspiration ind i andre domæns.
22:24
Fra vibecoing det synes jeg personligt kunne være ekstremt
22:28
spændende. Topic at have have kørende i
22:31
podcasten på et eller andet tidspunkt, hvor der måske er
22:33
nogen der også har noget erfaring med det.
22:35
Måske nogen der rent faktisk har bygget noget med party GI eller
22:39
hvad for nogle nogle ting man bruger derude.
22:40
Jeg nævner det bare fordi jeg hele tiden har haft øje på det.
22:45
Fedt skal. Vi ikke gå over til nogle lytter
22:47
spørgsmål og lad os gøre det. Altså Jeg kan se at der har
22:51
været en Thomas ind i Vores chat her, som Vi har stukket hovedet
22:58
forbi og sagt Jeg er Jeg er der, men Jeg er ikke lige på.
23:03
Men Vi har fået nogle lytterspørgsmål forud for, at vi
23:06
prøvede det her gå live nu, så det kunne være meget fedt at
23:10
lige prøve at tage et af dem, og hvis der så er nogle derude.
23:16
Ser du med i chatten? Jeg kigger med i.
23:17
Chatten. Altså så du er med inde.
23:19
På livestregen. Jeg.
23:20
Jeg er chatten er jo inde i det her fine program.
23:23
Vi sidder med bare fordi Det er bare.
23:25
Fordi jeg sidder inde på på livestream nu her og Jeg kan se
23:29
Der er 3 der ser med så jeg tænker hvis den ene er mig ikke?
23:34
Ja og så er der ikke så det kunne være Det var Thomas der
23:38
var der stod 4 på et tidspunkt den.
23:41
Er lige kommet op på 4 igen. Wow ja super men altså smide.
23:44
Nogle smide noget ind, hvis man sidder derude og lytter med,
23:48
hvis Der er nogle spørgsmål. Vi begynder at tage nogle
23:50
lytterspørgsmål nu vi starter med nogle af dem, Vi har fået.
23:54
Fra tidligere, så må vi se, om vi.
23:57
Vi er i stand til at være kloge nok på det.
23:59
Hvad hedder det? Lad os starte fra toppen af
24:01
Bjarke grønberg. Apps.
24:05
Bliver det lige så hypet som agenter, eller lykkes det også
24:07
at holde benene på jorden? Apps kan give struktur til borde
24:10
brugen af sprogmodeller og understøtte både enterprise apps
24:12
og ellem navigation. Det skal lige siges det.
24:15
Det er lidt. Det er lidt tid siden Jeg tror
24:17
Det er et par uger siden Vi har fået de her spørgsmål, og Det
24:19
var jo Det er jo længe siden i æreland så det her det som det
24:22
som bjark han snakker om her Det er chat GPT apps kan du huske at
24:26
det kom frem? Det er bare 2.
24:29
Uger siden og Sådan noget. Det er så grineren.
24:32
Jo Jeg kan godt huske. Men er det altså.
24:36
Jeg har det Sådan lidt som om at Det er et forsøg på at vække de
24:40
her assistents. Og de her var det ikke det de
24:47
kaldte det der så hedder assistent Silas API altså det
24:50
her med at man ligesom bundler nogle tools og noget noget noget
24:55
noget prompinger vi hind the scenes og ligesom bundler det i
24:59
Sådan en. I Sådan et chat, og så kan man
25:02
ligesom gå ind i den og skrive et eller andet, og så kan den
25:06
nogle ting. Det kan også være at Der er
25:07
nogle agenter man har konfigureret i den og Der er
25:10
nogle agentflows og man ender med at sende en en slack besked
25:15
altid af en eller 2 årsag demoen at man så kan få den gemt den
25:20
til at sende en slags besked, men Det er ligesom den der gode
25:24
gammel hvor man åbner lommeregneren.
25:26
Når man har hacket nogen. Ja så er Det er det det vi
25:31
snakker om her? Nej, men nu skal jeg lige prøve
25:34
at høre på læser lige op her om ikke developer så OK hvad hedder
25:37
det? Apps Det er Sådan noget du ved
25:39
du kan integrere i chat GPT og så kan du tale med Canada
25:42
booking, dot com, cosser og figner og Sådan nogle ting.
25:47
Jeg bare lige bare lige hurtigt. Jeg sender lige skud ud til
25:49
excel DK som lige har lavet Sådan en vinke vinke emoji i
25:53
chatten der så Vi har med dig. Ja så du ved Det er basically
25:58
Sådan du kan integrere til til til apps du har ikke og der står
26:02
opening og jeg skriver her developing developers start
26:04
building and testing apps today with the new apps SDK preview
26:08
frit we are releasing altså en open standard build on the model
26:12
context protical MCP start building thisard dokumentation
26:16
for guidelines, eksempel apps and then testure apps-shosing
26:19
developmentote inchative. Så det her.
26:23
Det er MCP. Sådan en altså.
26:27
Og altså jeg det som jeg forstår det så er det MCPII taleg.
26:33
OK så Det er. Lidt noget andet end det der
26:36
assistenter jeg snakkede om, men men apps er jo så.
26:41
OK så Det er OK så er det MTP er så det vil sige Det er en form
26:45
for plugable back end til chatkapacitet som chat gabité så
26:51
hooker ind i og så og så kan du ligesom lad os sige.
26:59
OK Det er så fuldstændig noget helt andet og det der det det
27:02
ved jeg. Det kan jeg nemlig godt huske at
27:03
de lancerede. At det der det der marked, men
27:07
jeg var ikke Sådan helt sikker på hvad Det var bygget på.
27:09
Om det så var MTP er, men Det er jo Det er jo fedt nok.
27:12
Jeg tror generelt hvis jeg må have lov at lige svarer bare
27:14
lige lidt fornuftigt uden at Det er total skyder ved siden af
27:17
spørgsmålet her. Jeg tror den del der hedder at
27:21
der ligesom er en eller 2 form for marketplace hvor man kan
27:24
expose sit data. Til, hvad kan man sige til noget
27:30
AI, nogle agenter eller et eller andet Sådan så man kan blive
27:34
relevant for folk der bruger AI. Hvad kan man sige applikationer
27:41
altså host. Er bliver er ekstremt vigtigt og
27:45
bliver enormt relevant. Jeg tror, at vi med tiden kommer
27:49
til at se mere og mere af. Hvad kan man sige folk, Der er
27:54
ligesom har lavet API er til at man kan integrere med, så laver
27:58
folk nogle specialiserede ja kort et apps kallit MCP er nogle
28:04
specialiserede interface, som alle lemmer kan hooke ind i og
28:07
andre. Ting kan hoo ind, for Det er jo
28:09
dybest set det MCP er er gode til.
28:11
Det er jo at du kan distribuere en bac-gen til mange forskellige
28:16
host, når jeg siger host. Det er jo det som MTP
28:19
protokollen. Ligesom der har man det her
28:22
server client og host og hosten er ligesom den
28:26
brugergrænseflade, som som brugeren sidder i chat geb t.
28:33
Curser cloud coat whatever de kan jo allesammen booke op på de
28:36
samme MCPR og Det er det. Det er stærkt hvad man har Sådan
28:40
fælles. Hvad kan man sige protokol man
28:43
kan implementere på serversiden for ligesom at levere noget ind
28:45
i det? Og så kan så kan åbne jeg jo
28:48
såkaldte apps at man kan gå derind og og putte sine sine
28:53
mcp'er ind. Og så har man lavet en app hos
28:55
dem. Og på den måde ligesom og Det
28:59
var jo noget af det som som hvad kan man sige?
29:01
Apple prøvede lidt på med deres Apple intend kaldte de det.
29:07
Det bliver aldrig rigtigt til noget det der Apple Det er som
29:09
om, men Det er deres forsøg på ligesom at sige at når du laver
29:12
en app i app storen, så hvis du vil have ære i Kevin bilatis
29:15
ind, så kan du ligesom signalere nogle intens.
29:18
I din din applikationer den formulerer du i naturligt sprog,
29:21
og så kan deres. Hvad kan man sige?
29:24
LLM værktøj værktøj ligesom se ned i det og så kan du blive
29:29
exposet i. Hvad kan man sige i siri hvor du
29:32
så siger hey gå ind på min den her smarte app der har lavet den
29:36
her app intent og gør de her ting fordi du har fået dit
29:38
kapabilities. Det er jo Det er jo samme MCP at
29:41
gøre ikke altså Det er fuldstændig det MCPS så er der
29:43
Apple kom ud med det der Sådan den måde at tænke interface på.
29:46
Der var jeg helt sikker. On warder hedder Sådan yeah, Det
29:48
er lige præcis det der Vi har brug for, for ligesom at brede
29:51
det ud og kunne få et marked og et sted at være det på.
29:54
Men så kom men claord eller hvad hedder det?
29:57
Droppet kan jo ligesom lavede det her mtiper til cloud til
30:00
desktop og Sådan nogle ting og så var det bare ligesom det der
30:02
vandt så tror jeg lidt at Apple kan ikke rigtigt Sådan
30:05
konkurrere med det, så jeg ved ikke lige om apps hos hos hos
30:09
åbne i bliver stort, men Jeg er rimelig sikker på at MTP er
30:13
stort. Og Det er basically det som apps
30:16
så er kan man jo høre det virker.
30:19
Sådan ikke. Jeg var lidt.
30:20
Novice omkring hvad det lige præcis er det der marked de
30:24
forsøger at lave, men hvis de hvis de basically siger de
30:26
hooker ind IMTP en, så er det jo MTP en det handler om her, ikke?
30:30
Altså nu skriver Bjarke her bliver det ligeså hypet som
30:32
agenter eller lykkes det at holde, lykkes det også at holde
30:35
benene på jorden ikke. Og Jeg tror måske.
30:37
Det bliver det bliver en det bliver.
30:39
Det bliver en del. Af agenter tror jeg, hvis Det er
30:41
ikke. Og Jeg tror i virkeligheden
30:43
ikke. Spørgsmålet er om apps bliver
30:45
stort eller et eller andet bliver stort.
30:46
Det er mere Sådan. Hvornår bliver det Sådan
30:48
generelt? Stort altså hvornår bliver det
30:50
Sådan? Hvem?
30:51
Hvem er det der ligesom? Løber med med bordene ikke hvem
30:54
er det, der løber med den fede use case?
30:56
Det det det virker til at være være det der ligesom er tingene
31:00
ikke. Og Jeg synes eddermame at de de
31:04
skyder med spredehagl altså de kører virkelig altså de kyler
31:08
virkelig spaghetti på væggen, både antibiotika og opinay og
31:11
dem alle sammen ikke altså. De de releaser så så glemmer man
31:17
det lidt igen og så så måske dræber de det ud.
31:20
Man lægger mærke til det eller Sådan altså de har også releaset
31:22
palls og sketchill og hvad hedder det?
31:24
Gbiterer hvad Der er gbi tes var der også på et tidspunkt og nu
31:27
er der apps og nu kommer der det her adlass og der var computer i
31:31
og så det det de har en milliardprodukt teams der bare
31:35
laver alt muligt og Det er helt klart med.
31:37
Spredehagl, og Jeg tror jeg. Tror også Jeg tror måske også at
31:40
i alt altså. Det hele er lidt overophedet i
31:43
forhold til altså alle er jo forvirrede omkring hvad de skal
31:46
bruge og hvad de ikke skal bruge, ikke?
31:49
Så så det ja, det bliver nok stort, men om det lige bliver
31:54
appsene der bliver store det. Det er et godt spørgsmål.
31:56
Jeg tror Det er mere Sådan user adoption end end end.
32:02
Skal vi gå videre til? Næste spørgsmål.
32:04
Yes. Og lige et tag dig roen der har
32:07
skrevet i chatten. Altså shoutout.
32:11
Det er mega nice. Yes ej men fra nam droppet
32:15
droppet en masse af Vores lyttere.
32:16
Her kan jeg godt se det næste spørgsmål er fra Allan toft
32:20
Hedegaard Knudsen large concept models parentes la cool bliver
32:25
det til noget Sådan rigtigt skriver jeg large.
32:28
Context money conceptotcept kan du huske kan du huske?
32:33
Det. Nej hvad er Det kan du ikke
32:40
huske? Hvad hedder det meta meta der
32:43
release- paper om large content models?
32:46
Hvor at i stedet for at. Hvad skal man sige i stedet for
32:50
at lave sprogmodeller der eller modeller generative modeller som
32:54
som predictor på togen niveau? Så gør man det i en betting
32:58
space niveau. Nå, Det er jo.
33:03
Arkitektur lige præcis og så. Du ved så så prekter man IIII
33:07
hvad hedder det i laiten space på laiten space niveau og så når
33:12
man så så doroter man ligesom det op til tokens for eksempel
33:16
eller til video eller til billeder og så videre ikke?
33:20
Og Det er jo den den gode la communes fantasi omkring at Det
33:24
er fjollet at vi predicter og laver reasing på toget level.
33:28
Det Der er noget Der er noget ineffektivitet over det.
33:31
Der er noget, Der er noget som som.
33:33
Hvorfor skal vi der Der er på en eller 2 måde noget dobbling der
33:37
Der er noget kobling af mediet tekst og det her er at reasende
33:44
som som som Jeg tror al la courne.
33:46
Han synes Det er ikke altså Der er noget Der er noget.
33:48
Det er ikke så elegant. At at at den den kun kan tænke
33:52
ved at skrive tekster og Der er det jo fordi at jeg tænker hans
33:56
rease hans reasing Der er at du ved mennesker kan tænke og så
34:02
kan de vælge, at hvad skal man sige udtrykke det som tale?
34:06
De kan vælge at udtrykke det som tekst ved at skrive eller
34:09
tastatur de kan vælge at udtrykke det som handlinger med
34:14
deres krop og så videre, ikke? Hvor at?
34:19
Ja, der må foregå et eller andet Sådan latent.
34:23
Inde bagved som som er uafhængigt af, hvordan det
34:28
ligesom kommer til udtryk. Du bliver dybt.
34:31
Det kan du godt høre ikke ja. Jeg jeg ved det ikke jeg Jeg kan
34:38
ikke. Jeg kan ikke forudsige.
34:41
Jeg kan ikke forudsige. At det bliver stort eller ej.
34:43
Men, men Jeg vil sige Jeg synes Det er Der er fornuft II når jeg
34:47
hører i hvert fald og Jeg er jo slet slet ikke nok nede i Sådan
34:51
det matematiske, men Jeg synes at når man Sådan på på Sådan
34:54
high level-niveau. Ligesom siger hvad hvad, hvordan
34:57
kommer vi videre? Så Det er i hvert fald ikke
34:59
uinteressant. Det her.
35:03
Hvad kan man sige? Den her nye model arkitektur,
35:06
som som han er advokeret for. Men men jeg aner ikke om det,
35:11
men det bliver større end transformeren.
35:14
Det må jeg indrømme, Det har jeg ikke.
35:16
Det har jeg ikke en jordisk chance for at jeg kunne svare
35:18
på, men Det er jo Det er jo interessant uanset hvad.
35:22
Ja det det vil jeg sige. Jeg tror jeg.
35:25
Tror måske faktisk også. Allerede.
35:26
Det er lidt i brug i nogle sammenhænge altså.
35:29
Det er jo ikke fordi det ikke findes.
35:30
Det er jo ikke kun på. Og Jeg vil sige research niveau,
35:34
så så der findes jo nogle modeller der kører på på noget
35:37
af det derude. Men de er jo typisk nogle
35:39
imagebaserede modeller. Og ikke nødvendigvis Sådan.
35:45
Trænet til function calling, som vi ser alle steder og Sådan
35:48
noget der altså. Det er jo ikke Det er ikke det
35:49
vi, men han påstår jo at de bedre at de kan plante og han
35:53
mener lemmer ikke kan plante, selvom vi nu har en tab i curser
35:57
der står planning. Så ja Det er et godt.
36:03
Spørgsmål. Det er meget grundigt.
36:05
Grund. Grund researcher altså Vi har
36:08
nok et eller andet Sådan hva ide om hvad det her er og kan godt
36:12
forstå Sådan de grundlæggende koncepter bag hvis der skal.
36:15
Komme kalde det for large koncept model.
36:18
Jeg troede bare at at man kaldte det her.
36:25
Videopera og Sådan noget eller joine betting?
36:28
Prediction. Arkitekture altså hvor du har,
36:31
som du selv siger det her labels man prect der i stedet for for
36:34
next token, så så er det ligesom ikke det Der er prodigttion
36:38
tasken, så det vil sige Det er en fundamental set er trænet til
36:40
noget andet. End end at prect unicks tunge
36:44
ikke så Jeg kan. Sige Jeg kan sige, at den blev
36:47
udgivet den her artikel i. Det december den 11. december
36:51
2024 og siden da har er den blevet citeret 27 gange.
36:57
Hvad for en den her? Large concert models, det her
37:00
paper her. Men er Det er Det er det leicoom
37:04
der har? Ja Det er jo så ikke.
37:06
Leccoon Det er men det Det er jo hans lab kan man sige ikke.
37:09
Det kan godt være vi. Skulle prøve at lave et deep der
37:12
ned i det paper, så om lars content.
37:15
Det er lang tid siden Vi har gjort det.
37:18
For også at være lidt bedre kvalificeret til at kunne svare
37:20
på det. Det lyder også som om lytteren
37:21
der har skrevet det spørgsmål, måske rent faktisk ved noget om
37:24
det. Ja.
37:25
Vi. Gør ikke.
37:28
Men men hvad hedder det? Fedt nok ja så det Det er
37:31
spændende, men jeg må indrømme Jeg tror Der er ret stort tog
37:35
der kører lige nu. På på den på den gode toking
37:40
baserede vej der ikke og det virker til at virke så.
37:45
Mand ja. Så.
37:49
Lad og skulle videre. Til det næste spørgsmål.
37:52
Det næste spørgsmål, det kommer fra Nikolaj herford spørgsmålet.
37:57
Han har 2 spørgsmål spørgsmål nummer et opening-lice nocoat
38:00
agent framework skift ILLM agent tooling model model providers
38:05
vil have mere kagen. Og det tror jeg også gør det.
38:09
Det er også Sådan lidt et et produkt af det her Det var.
38:11
Det er jo længe siden det her, fordi Det var jo i samme.
38:15
Jeg tror Det var deap day hvor de her apps kom ud altså
38:18
opinyste hvor de her apps kom ud og der kom de her.
38:23
Der kom de også ud med Sådan en agent SDK tror jeg de har haft.
38:28
Noget tid til det der. Tid, men det de i hvert fald kom
38:31
ud med. Det var Sådan en no hot agent
38:33
SDK altså Sådan en agent note ting ikke.
38:36
Hvor der var rigtig fint. Det var de der flow.
38:37
Ja lige præcis det. Og der var rigtig mange der
38:39
snakkede om at det her NADN som det her open source.
38:44
No code locat tool som rigtig mange bruger sammen med lubable
38:49
at Det var nej nu var de døde og fordi nu kommer organerne og
38:52
Sådan noget. Jeg tror faktisk bare.
38:56
De havde taget det open source projekt og så ej og og Sådan.
38:59
Noget Det er sjovt og så du ved skifter løn med agent tool model
39:03
priders være mere cane. Jamen Det er jo den du ved den
39:05
samme gamle historie at du ved så prøver de laver også
39:08
produkter de her model providers.
39:11
Og så hvis det bliver en succes, så kan det være Der er 10
39:14
startups der dør ikke, men Jeg synes mere og mere.
39:16
Det begynder Sådan nu ved jeg kender jo ikke deres tal, men
39:19
også med de her apps og Sådan noget.
39:21
Det begynder mere og mere og lukke af at.
39:24
At at at du ved. De overopheder simpelthen bare
39:30
er markedet, fordi de har så mange ting de blæser ud hele
39:32
tiden. Så det det til at blive helt
39:34
rundtosset af og det gør alle de andre blæsere også ting ud og
39:36
Sådan noget ikke ser det som. Om de prøver ligesom at at at at
39:40
bare være alle steder og ligesom at catche op faktisk med alle
39:43
steder. Og Jeg tror måske i
39:45
virkeligheden ikke at Jeg synes Det er den bedste strategi for
39:48
dem. Men det det altså huar mig det
39:50
tal men men det får man jo at se, men men fordi Det er jo
39:53
ligesom at spille på på mange forskellige tangenter.
39:56
Nu skal vi også snakke om om om om det der.
39:59
Yes browser toucha i det hele taget det bagefter det her, men.
40:07
Vi har bare lyst til spørgsmålet.
40:08
Det var det her. Vi har mange spørgsmål, så Det
40:11
kan være Vi skal Vi skal. Komme.
40:12
Videre men altså ja altså endnu en ny måde no code tool at lave
40:17
agenter på. Jeg tror ikke det kommer til at.
40:20
Det kan jo godt. Jeg ved det ikke altså.
40:22
Jeg tror også Der er mange Der er glade for NADN for eksempel,
40:25
og der findes mange forskellige nocoat tools og Jeg tror.
40:29
Det virker som om året de har lidt for defokuseret lige nu til
40:32
at altså hvis de hvis de bare puttede alle deres midler ind på
40:35
det her, så kunne det godt være at det blev en succes men men
40:39
men Det er jo også det der med. Det er jo altså det der at se se
40:42
det der UI der. Vi har været vant til at vi bare
40:44
skriver noget tekst og så sker der noget ikke.
40:46
Det er så dejligt nemt ikke nu får vi fået Sådan et komplekst
40:48
UI hvor Vi skal sidde og gøre. Jeg ved ikke hvad altså.
40:52
Og så sidder man der og tænker Sådan er det ikke bare et skridt
40:54
tilbage til noget BPM og har vi ikke set de tools før og Sådan
40:57
noget? Det var min første reaktion på
40:58
det der ikke? Og så er det også Sådan lidt jo,
41:01
men Jeg kan jo egentlig også godt se fornuften i det.
41:03
Det er jo oplagt at have det, fordi jamen man vil gerne have
41:06
de her workflows. Men altså Jeg tror Sådan nogle
41:10
folk fra blueprissem eller et eller andet de er lige så snart
41:13
der kom AI tools ud, så var det først de ting der var Sådan fedt
41:16
mand. Lad os få det ind i blueprissem,
41:17
så vi kan lave robotter med med små kasser hvor der så sker
41:21
noget AI og så videre hvor de har allerede alle de der
41:24
værktøjer til det der. Så Det er ikke særlig
41:27
revolutionerende. Jeg synes Det er lidt ikke
41:29
særlig åbne jeg agtigt at fokusere på Sådan nogle
41:32
produkter for at være helt ærlig.
41:35
Men altså. Næste spørgsmål, Martin Hansen,
41:38
hvilken AR er model understøtter bedst omstillingen mod en mere
41:41
CO 2 neutral ejendomsektor? MLMCPML streg MCP er der fokus
41:49
på dette i branchen. Det ved jeg ikke helt rigtigt,
41:53
men jeg forstår spørgsmålet. Jeg forstod det indtil jeg læste
41:56
den der ejendomssektor. Jeg tror ikke, at hovedfokus for
42:04
de her eller m laps og AI dem der laver de her modeller.
42:08
Det er at klimaet altså at spare på CO 2 og så videre.
42:13
Jeg tror tværtimod at de de siger de er har rigtig travlt
42:16
med at sige at Der er alt for lidt energi i verden til alt det
42:19
GPU power de skal bruge. Så Vi skal se at komme i gang.
42:25
Ja de vil bare gerne have mere energi.
42:26
Kan man se energi og flere flere GPU er og mere officielt GPU er,
42:31
og Det er jo nok i virkeligheden der hvor innovationen skal ske.
42:33
Det er på hardware for at være helt ærlig.
42:36
Ja både hardware og Der er også kan også godt forestille sig, at
42:39
der var noget model arkitektur ikke for at vende tilbage til
42:42
concept modelles. Ikke altså.
42:44
Nogle? Breakfods igen ikke på på.
42:46
Hvad kan man sige? Der kommer noget der erstatter
42:48
transformeren, som bliver bare super meget mere essentielt.
42:52
Altså det skal jo siges at de er jo blevet mere effektive.
42:55
De her arkitektur med tiden og Det har været det brase, der
42:58
ligesom også har været samme performance og mere officielt.
43:01
Der er ingen tvivl om at Der er 100% bedre business case på de
43:06
modeller jeg åbner. Jeg kører i dag selv GBT 5 og
43:09
Sådan nogle ting end der var på den gamle GPT store GBT 4.
43:13
Den første version af den der kom ud.
43:14
Helt holly moses den er tung. Man kan bare se på toing
43:17
pricing. Så altså ingen tvivl om at de
43:20
allerede er blevet meget, meget, meget mere økonomiske og køre.
43:25
Og Der er lavet alle mulige tricks i bogen, men Det er også
43:27
ligesom om, at nu nu plateauer det også efterhånden, at man kan
43:31
ikke rigtig koge dem mere ned til at de stadigvæk har den
43:34
samme keability og og man er. Man er ikke rigtig interesseret
43:38
i at gå på kompromis med den kvalitet man har opnået, fordi
43:41
brugerne har jo vænnet sig til at de er så og så så gode.
43:44
Så lige så snart vi og det ved de også godt.
43:46
Det kan de se i deres matrikel lige så snart at der kommer en
43:50
god model mod en dårlig model, så bliver den god altid valgt
43:53
til den opgave. Alle modelslction orddral mode
43:57
ting går ud på at vælge den rigtige model til til den task
44:02
og så ligesom vælge lidt mindre performende model til noget som
44:06
ikke hvor du ikke behøver det, for eksempel for lige at spare
44:09
lidt, men Det er faktisk ikke rigtig nødvendigvis for at spare
44:12
dig. Noget jo måske lidt
44:14
inforløbstid, men sikkert også for at spare dem der rent
44:16
faktisk kører den her infrastruktur.
44:19
Så de er nok mest. Interesseret i det for et
44:21
økonomisk perspektiv. Det tror jeg også, tror jeg,
44:24
selvom de siger en sikker siger noget andet.
44:26
Men de ting kan jo gå hånd i hånd nogle gange det.
44:28
Det er jo faktisk ikke helt altså unormalt at det går hånd i
44:31
hånd her, så sagen er jo nok så. Nok bare den at der bliver hvis
44:36
det bliver billigere økonomisk og CO 2 mæssigt, så bliver der
44:40
nok bare skruet op for forbruget.
44:42
Ikke fordi Der er allerede en rimelig rimelig meget
44:45
efterspørgsel. Det tror jeg.
44:47
Også rigtigt kan man sige så men men Det er jo så også igen
44:51
økonomi. Danni drumis spørger, hvad
44:54
bliver det næste ARI bussworld efter at gentage?
44:56
Og Det kan jeg faktisk godt svare på.
44:58
Ja så. Hvad hedder det det her chat
45:01
atlas altså chat GBT atlas der da det blev udgivet så i hvad
45:07
hedder det præsentationen så var der en en kær medarbejder som
45:12
introducerede han mente at. Den her nye browser vil nærmest
45:18
blive gøre det samme for folks liv som vibecoing gjorde for
45:24
kodning, så derfor så kaldte han simpelthen for at vibe lifeing.
45:30
Så jeg tænker Det er det mest. Som Andrea cureparret dag
45:35
fuldstændig. Vibe lifeing Det er det nye
45:38
buzzwords altså når vi bliver vi bliver gamle så er det Sådan
45:42
noget, så er alle ungerne de unge ikke de de vibyfer og så vi
45:46
sidder bare der og tænker det gad og passe så.
45:49
Det var den bedste far var ung, ikke?
45:53
Jamen altså. Andreas lige præcis Astrup
45:56
spørger, hvordan burde vi kategorisere titler inden for AR
45:59
data? I dag kan man gennemskue folks
46:01
kompetencer ud fra titlen. Se et godt spørgsmål, hvad har
46:05
vi af titler Jonas, Vi har datasigntest Vi har appelsin
46:08
learning engineer, Vi har ERI engineer ikke Vi har.
46:13
Promdentier ja. Fuldstændig generet kontekst.
46:17
Ingeniør det bliver lidt sige at AR ingenier OK og.
46:22
Lead vibeco code cline Det er. Der også Det er der også.
46:28
Jeg ved ikke, Jeg tror. Der er jo den her ære engineer,
46:31
som som er blevet mere og mere populært ikke.
46:34
Og Jeg tror rigtig meget. Jeg ser det Der er spændt.
46:39
Det Der er spændende ved æreincier føler jeg, og som gør
46:42
det anderledes end de 2 andre. Det er at a og engineer er meget
46:48
post-api i og det altså Det er Sådan.
46:51
Det er ikke nødvendigvis Sådan noget med at træne lars language
46:54
model eller. Træne modeller og Sådan noget og
46:56
være meget Sådan nede i linje og algebra.
46:59
Tingene altså delen af det. Men mere det her med at sige.
47:03
Nu har vi det her LLMAP. Hvordan kan vi?
47:07
Putte alt det rigtige tekst ind i den her prompt.
47:09
Sådan så den performer så godt som muligt løser en opgave så
47:12
godt som muligt. Hvordan kan vi ikke mindst
47:14
evaluere det? Og det basically altså på rigtig
47:18
rigtig meget. Det der vil jeg mene at kontekst
47:20
engineering basically. Altså hvordan kan du ingenere
47:23
kontekst omkring den her det her lille MAP, så den performer
47:28
godt. Og hvordan kunne du måle hvordan
47:32
den performer ikke? Men hvad var?
47:34
Spørgsmålet gik mere på Sådan, hvad sammenhængen mellem de der
47:38
titler og og hvad Det var for nogle kompetencer man så havde
47:40
ikke. Og Jeg har lige Sådan ja den den
47:43
Jeg har det Sådan lidt. Fordi Jeg har Sådan en der Jeg
47:46
synes der går på tværs altså Jeg vil jo bare gerne have at folk
47:49
er gode til at kode. Altså Jeg synes jo alle de der
47:51
titler der Det er rigtig fint men men hvad kan man sige?
47:57
Noget af det Jeg tror, Der er ekstremt vigtigt, og det gælder
48:00
også, når du når du når du bruger vibecoing tools, som i
48:03
øvrigt jo 90% af alle udviklere gør.
48:08
Bruger a Jeg tror i er cool. Hvad siger du?
48:10
Det tror jeg. Det det skal du det.
48:12
Det tror jeg du bliver overrasket over at hvor at nå ja
48:16
nå det ved jeg. Jeg kender ikke tallet.
48:17
Jeg siger det kun. Fordi at stand up AI rapporten
48:22
på den største survey på 5000. Respondenter viser de tal, og
48:28
det gjorde den ikke for et år siden, og så Det er den eneste
48:31
grund til, at jeg siger det, og. Og 80% siger, at de får.
48:38
Får øget produktivitet ud af det.
48:40
Den sample er jo ikke nødvendigvis.
48:42
Helt korrekt kan man sige, og du var nok også bias at du bliver
48:46
inviteret ud til nogle steder hvor.
48:47
Hvor kan man sige hvor Det er et segment versus det der bliver
48:51
survet og Sådan nogle ting så det.
48:52
Det er lidt svært at sige det, Det er jeg med på.
48:54
Det er statistik og statistik, men men altså at Det er ligesom
48:58
Det er 90% der har prøvet at bruge det altså så man kan sige
49:02
og Det er mange der ligesom har brugt det eller bruger det lidt
49:05
og når nu de for eksempel får en ordre kunne blive sine de går
49:08
ind og spørger chat GPT bare om et eller andet i stedet for at
49:10
gå ind på. Stak overflow, så tror jeg
49:13
tallet er rigtigt indie anyways, men jeg kunne godt tænke mig
49:17
bare du ved de der titler der. Hvad for nogle kompetencer
49:21
dækker de over dem? De dækker jo stadig over at vi
49:23
vi alle sammen har det tilfælles, at vi vi skriver
49:25
kode. Og Det er det, der ligesom er
49:27
Vores Vores fællesnævner i det her, der Der er nogen der så.
49:33
Er bedre til at at skrive koden end andre, og Jeg tror at det
49:37
der sker lige nu. Det er at.
49:40
Dem som rent faktisk ved noget om hvordan ære fungerer.
49:44
Ære ingenieres og andre typer som bruger tid på at tænke over
49:48
hvordan altså har taget prompteinger seriøst fra dag et
49:52
da det kom ud og blev latterliggjort med at nu sidder
49:55
vi bare hønseyper allesammen sidder og skriver at naturlig
49:58
tekst. Dem, der rent faktisk har brugt
50:01
tid på det de sidste 2 år et eller andet Det er.
50:04
Det er digtkompetencer der der vil være efterspurgt sammen med
50:09
at folk stadigvæk ved hvordan man koder og ved noget om om
50:13
altså Sådan. Generelt om om software.
50:18
Fordi de 2 ting koblet gør at man ligesom.
50:22
Bliver bliver ekstremt værdifulde, hvorimod at hvis man
50:26
ikke har hverken den ene eller den 2 af dem.
50:28
Men men man måske kan finde ud af at træne en machine learning
50:32
model eller Sådan et eller andet.
50:34
Det bliver bare ikke ligeså altså det bliver bare ikke
50:36
ligeså vigtigt mere. Det gør det altså ikke.
50:38
Det er jeg nødt til at sige. Jeg er ked af at sige den gamle
50:40
machine learning ingeniærer rolle ikke absill lea Det er jo
50:44
Vores meget andet software engineer rundt omkring det, men
50:46
den hvor man kun sidder og fokuserer på at træne en lille
50:49
model. Og Det er ligesom det eneste,
50:51
man forholder sig til. Det er bare ikke nok altså mere.
50:54
Det er ikke det Der er. Det er ikke det Der er er det
50:57
det du leder efter? Nej Det var så Det var en random
51:01
og noget noget lidt andet men men hvad hedder det?
51:04
Jeg tror også. Meget Sådan det der kendetegner
51:07
dem alle sammen på tværs. Det er den her meget Sådan, og
51:10
det tror jeg uanset om du bruger el LMAPI er eller hvad du gør og
51:13
Sådan noget så det du laver når du er ingeniør.
51:16
Jamen ingeniør er da designtest Det er du har at gøre med med
51:20
Sådan meget fluffy data som som hvor Det er svært at sige at Det
51:24
er en det ene eller det andet altid.
51:26
Så det kræver ligesom at man har man har det her meget Sådan
51:28
statistisk eksperimentelle. Mindset når man udvikler ting.
51:33
Altså man tænker evaluering ind i tingene.
51:35
Altså man tænker på, hvordan kan jeg lave et eksperiment og bygge
51:38
det ind i noget software, samle noget data op løbende som som
51:42
gør at jeg ved om jeg gør det godt eller dårligt, og Det er
51:44
jo. Mindsettet for data science
51:46
siden som jeg ligesom jeg mener stadig datidens er en titel der
51:49
går på tværs af alt det her og og der har du den baggrund hvor
51:53
du du kender til det der du ved hvordan det hvad det vil sige at
51:55
modellere data. Du ved hvad det hvad statistik
51:57
er du ved hvad modelmudstillering er, at du
51:59
forstår Sådan en prediction. Ting og du forstår måske også
52:03
noget karrusalitet og så videre. Og så har du bare kode som dit
52:07
værktøj og de 2 ting koblet er. Det er jo ikke nødvendigvis den
52:12
den. Hvad kan man sige?
52:12
Den almindelige software engineer der har den baggrund
52:16
eller frontend eller backend udvikler at de ved noget om om
52:19
statistik på det niveau som de folk gør så statistik og Sådan
52:23
one a one indenfor det felt er stadigvæk ekstremt vigtigt og
52:26
det Det er også nogle kompetencer Jeg tror der går på
52:28
tværs af designs delen som ikke går på tværs af
52:31
softwareudviklingsdelen nødvendigvis.
52:34
Og dem skal man have styr på for at kunne evaluere ting.
52:36
Men hvis du har software og du kan altså du er dygtig til det
52:41
kompetencer er du god til at skrive kode og du du har.
52:45
God forståelse for datamållering, bare Sådan helt
52:48
grundlæggende. Det behøver ikke være forstå
52:50
pytalks eller noget som helst. Det er bare jamen, så kan du og
52:55
du så ved du hvordan du skal evaluere Sådan 1 1 1 dims der.
52:59
Og så kan du sætte dig ned og skrive noget kode.
53:02
II nærmest hvad som helst efterhånden og og og lave den
53:05
evaluering fordi at du har elemmer over det hele til at
53:08
hjælpe dig med den ene og den 2 og den 3 ting og du skal
53:11
egentlig bare forstå input output og hvad Det er du gerne
53:13
vil vil evaluere på og så så er du kørende.
53:18
Bare lige hvad hedder det? Jeg tror nemlig også bare det
53:22
her med Sådan noget agentudvikling også sygt sygt og
53:25
promdelt ingeniøring i virkeligheden også.
53:27
Kontekstingering er meget Sådan det kræver meget.
53:30
Man har et eksperimentelt eksperimenterelt tankesæt og
53:34
hvad hedder det også laver? Eksperimenter er god til at lave
53:37
eksperimenter. Et eksempel Det er, at nu har
53:39
vi, vi kører specdriven debabel upment og research plan
53:43
implement hvad skal man sige vibecoing teknikerne?
53:46
Mig og Christian og Vi er ude og lave workshops.
53:49
Det vil sige hver onsdag er det så typisk, der tager vi rundt i
53:52
landet og hvad hedder det? Laver øvelser med med
53:56
udviklingsteams, hvor Vi har 3 eller 4 prompte med alt efter
54:00
hvad for nogle øvelser Det er. Og så ser vi ligesom bare mellem
54:05
ja 5 og 10 grupper af 2 udviklere ligesom bruge de her
54:09
proms og gå igennem og bygge et eller andet med det.
54:11
Og Det er sjovt fordi hver eneste gang vi gør det, så
54:14
skriver vi ting ned som de oplever.
54:17
Vores hov Det kan vi lige forbedre til næste gang.
54:19
Og så forbedrer vi promsene til til næste uge, og så er de lige
54:22
blevet, så er de blevet altså så de bliver hele tiden bedre.
54:25
Iterativt de har prompt, fordi vi skriver dem, putter dem ud i
54:29
virkeligheden ser hvordan folk bruger dem, noterer hvor det går
54:33
galt, går tilbage lappet lige ændrer lidt, så det bliver det
54:37
bedre næste gang altså Sådan så den her iterative.
54:40
Hvad hedder det tilgang til? Det er sygt vigtigt III Sådan
54:44
noget i promingering og agentudvikling.
54:47
Det er det jo. Altid.
54:48
Det er jo det der med det iterative proces.
54:51
Det er at software har altid været en discovery-proces altid.
54:55
Det er altid et spørgsmål om at du itererer henover og finder
54:58
frem til hvad Det er du skal får en opgave du skal løse noget du
55:02
siger ikke fra starten. Jeg ved præcis hvordan jeg skal
55:05
skrive og løse det her. Det sker aldrig.
55:07
Det er bare Sådan udtalt i det her verden fordi Det er så
55:10
fluffy altså Det er så fluffy det du ved.
55:12
Det kan være forskellige resultater hver gang ikke så Det
55:14
er Sådan mere Sådan on average skal de have promshir gode
55:16
agtigt ikke så. Cool.
55:21
Nicolai vangsgaard hvordan skal man som almindelig dansker
55:25
implementere ARI hverdagen på jobbet og privat overvældet af
55:28
mulighederne og manglende inspiring?
55:32
Rigtig rigtig godt spørgsmål. Rigtig rigtig godt spørgsmål.
55:34
Det er et godt spørgsmål. Spørgsmål er vi?
55:36
Rigtige til at svare på det? Jeg vil prøve lige at trække
55:40
lidt væk fra teknifestationen kort øjeblik, fordi det tror jeg
55:43
Det er det man har brug for når man bliver overvældet af
55:46
teknologien. Så noget af det Der er, hvis du
55:52
spørger mig ekstremt vigtigt, fordi nu lyder det Sådan ret
55:55
meget som i Sådan. Hey her kommer bare her kommer
55:59
dødelige mennesker og skal bare få noget værdi ud af det her.
56:03
Hvor skal man starte? Man er nødt til at tænke i, hvad
56:07
Det er for nogle problemer, man gerne vil have løst.
56:10
Hvis man dykker, man kan sagtens bare dykke ind i tunet på chat g
56:15
bibliotek og begynde at skrive noget til den og prøve at lege
56:19
med teknologien og så opdage nogle nogle ting blive
56:22
inspireret af hvad Det kan. Og på den måde matche problemer
56:27
med teknologi, fordi nogle gange kan det være rigtig svært.
56:31
Plejer nogle gange at have den der med med hvad hedder det ford
56:34
da han kom med bilen at folk ville have en hurtigere hest og
56:37
så videre den gode gamle ikke. Der er lidt lidt det i det her
56:41
med med ære jo også at at at at folk kan godt have en tendens
56:46
til at spørge efter de ting som de ligesom lige ved nu og her
56:49
kender og så står der en og siger jamen Jeg har også det her
56:51
ære i tool kunne det være noget for dig?
56:54
Men de har ikke en fjerneste idé om, hvad Det er, Det kan hjælpe
56:56
dem med, og Det er dem, der har problemerne og vi andre står og
56:59
har det der skide tool herovre, så det handler rigtig meget om
57:02
at prøve at finde. Hvad kan man sige igen?
57:06
Den her Discovery process opdage hvad Det er for nogle problemer,
57:09
der matcher med teknologien, og Det er ikke Sådan en, at den
57:12
altid kun er problemet kommer først.
57:13
Kommer teknologien bagefter. Det er en iterativ proces der
57:16
kører Sådan lidt frem og tilbage, men Det er helt klart
57:19
vigtigt at man ikke kun kører i loopet herovre i teknologien og
57:21
bare Sådan øj Det er fedt. Har i set det der nye?
57:25
SDK nye software man kan installere, så nu kan vi også
57:28
lave agenter off fit, fordi hvis man gør det for at udvikle siden
57:32
og man slet ikke tænker over hvad Det er for nogle problemer
57:34
man skal løse, så ender man ikke et godt sted, så Jeg kan sige en
57:39
af grundene til at jeg for eksempel ikke selv er begyndt at
57:41
programmere med agenda eller noget som helst og prøver at
57:44
lave agent flows nu. Det er så fordi jeg simpelthen
57:46
ikke har har set et problem der krævede at jeg skulle bruge det
57:49
til det. I der hvor jeg ligesom arbejder
57:52
og og og der kan man så spørge hvorfor ikke bare lave det og så
57:56
give det til nogle brugere, så kan de selv opdage alle de
57:58
problemer de kan løse med det. Og Det er også et vatilit
58:01
argument for at man så skal have Sådan et agent system, men der
58:04
skal man også beslutte sig for i sin virksomhed eller hvor man nu
58:08
er at Det er det den tid værd at bygge det.
58:10
Eller skal man bare købe et tool derude til det og Sådan noget og
58:14
så slippe det løs. Og så og så er der jo så også
58:17
den der med adoption ikke og hvis du bare slipper det løs og
58:19
siger du kan gå ind på det her domæne nu som medarbejder i den
58:23
her virksomhed med 3000. Folk ansatte, og så kan det
58:28
hjælpe dig med alle mulige ting. Så kommer man ikke nogen vegne
58:31
fordi Det er lidt ligesom altså Det er for Det er for fremmed
58:33
for for folk. Hvad kan jeg bruge det til?
58:36
Hvordan gør jeg det Sådan noget man er nødt til at følge ting
58:40
meget mere til dørs, så Der er virkelig Sådan i privaten.
58:43
Der vil jeg sige leg med det, hvis man har tid med det på
58:46
arbejde, der vil jeg sige. Find find problemerne, man gerne
58:52
vil løse i organisationen. Find de problemer som som som
58:55
folk har derude som er vigtige og som er højt på deres
58:58
dagsorden. Og tag tage dem først ind og se
59:01
hvordan ære ikke kan hjælpe med det, fordi det giver noget
59:04
traction. Det giver noget hvor at folk
59:06
rent faktisk. Føler de får løstende problemer,
59:09
så får de øje på hov det der ære i løse det her problem helt
59:12
vildt godt. Det er sgu da spændende hvad
59:14
hvad for nogle andre problemer har vi til det?
59:16
Så ja det Det er mit fifty ting fifty sensit Det er godt.
59:22
Spørgsmål altså. Jeg tror sgu ikke Jeg er et
59:25
rigtigt at spørge hvis jeg skal være ærlig fordi jeg sidder og
59:27
og Jeg har lige installeret whist på flow på min computer og
59:30
sidder og og nu bruger jeg ikke bare crowd coat til alt hvad jeg
59:32
laver. Nu taler jeg også på crowd coat
59:35
altså jeg snakker bare til den og så gør den ting ikke altså.
59:39
Jeg ved ikke. Jeg tror bare Jeg er så langt
59:42
ude efterhånden at. Være for meget for for sent.
59:47
Jeg taler sgu ikke til den. Nej det gør jeg sgu.
59:49
Jeg er sgu begyndt at at hvad hedder det bare tale til den,
59:52
fordi jeg chatter så meget med med crowd code at det tager
59:56
simpelthen for lang tid. Altså Det er simpelthen meget
59:58
hurtigere bare at tale til den. Gør du det på engelsk eller?
1:00:01
Dansk så gør det pågelsk. Okay den er den er bedst på
1:00:04
engelsk. Den er western flow Det er og
1:00:05
det. West på fløde.
1:00:07
Nice ja jeg bliver altså nødt til at daafe om 5 10 minutter
1:00:11
eller Sådan noget, så Jeg tror vi bliver nødt til at runde af.
1:00:14
Og så nåede vi ikke at snakke om atlas, og Det er også bare, hvad
1:00:17
Det er. Så hvis man har hængt ud og og
1:00:20
hvad hedder det hængt ud på Vores liv?
1:00:24
Så så skal vi lige tage et sidste spørgsmål, inden vi inden
1:00:27
vi vågner af. Yes atlas til gode.
1:00:33
Ved du hvad? Du får et spørgsmål Det er dig.
1:00:35
Det er et spørgsmål til dig det her Jonas Michael lindahl vektor
1:00:39
database, hvor er vi i dag versus præ chat GBT hvilke
1:00:44
overvejelser ved valg prostcons hvordan ser fremtiden ud?
1:00:48
Take it away. Jeg er.
1:00:50
Jeg er bare samme sted som Jeg har altid været.
1:00:53
Jeg er simpelthen bare forelsket mig i de der drenge overfor
1:00:56
grottun der eller piger. Og hvordan er det man staver til
1:01:00
det, hvis man må tjekke det? DRANTS.
1:01:05
De er bare. De er bare for crazy derovre.
1:01:09
Det kører derud af for dem de har.
1:01:11
Man skal bruge en vektordatabase fordi det at lave quirus ned mod
1:01:15
vektorer II mange forskellige former og.
1:01:21
For data tilbage på forskellige måder, forskellig limits og re
1:01:25
ranking og vektor protization af sine vektor og alt det der.
1:01:31
Det gider man simpelthen ikke bruge tid på.
1:01:34
Og derfor så skal man bruge en database og fordi man man kan
1:01:37
skalere det og Det er hurtigt det lynhurtigt.
1:01:38
Og ja og. Så skal man selvfølgelig bruge
1:01:43
det til at rette det vigtigste, så man kan lave god context
1:01:47
engineering. Det er et, Det er et tooligt
1:01:49
værktøjskassen for kontekst ingenering.
1:01:52
Hent og brug kun det vigtigste kontekst til din prompte.
1:01:56
Og hjælp brugeren med det, uden at brugeren skal selv sidde og
1:01:59
koppe i pasta og fjerne ting i konteksten.
1:02:02
Altså Det er jo dybest set det Det er til for.
1:02:05
Så vi, vi bruger det til præcis det samme som Det var født til i
1:02:10
tanken med rack. Mere der var det mere tanken at
1:02:15
hov vi kan ikke have alle de kontekst vinduer, så derfor Vi
1:02:17
er nød til det senere. Altså kunne vi have alt muligt i
1:02:20
kontekst vinduet, så fandt vi ud af at Det var en rigtig dårlig
1:02:23
ide. Det vidste rigtig mange af os.
1:02:24
Godt Det var en dårlig ide fra start.
1:02:28
Men det blev alligevel hypet. Og så og så er vi der, hvor Vi
1:02:34
er i dag netop samme sted. Vi bruger bruger det til at
1:02:36
retreup til til til Vores kontekst, og det skal vi
1:02:39
fortsætte med at gøre. Men men Der er jo også mange
1:02:41
andre tools, som ikke er vektor retrebet baserede, men bare er
1:02:45
almindelig tekst på en eller 2 måde Der er kommet ind.
1:02:47
Jeg ser godt nok grip mange gange, når jeg når jeg promter
1:02:52
agenterne II curser. Ja, der blev jeg ikke gravet en
1:02:55
del Jeg kan. Huske første gang jeg hørte om
1:02:58
hvad hedder det vektordatabaser Det var Jesper rex fra
1:03:01
politikkens j butikkens hus din kollega der har fortalt mig om
1:03:05
det. Chefen Der er ja og Det var
1:03:08
faktisk som var et en open source vektordatabase som
1:03:13
Facebook dengang meta nu har været eller lavet og har stadig
1:03:17
Der er stadig kører og Jeg kan faktisk ikke en.
1:03:20
Vektordatabase Det er en vektor indekseringsfejl library.
1:03:26
Men Det er også lige meget Det er.
1:03:27
Ja Det var det første store som det Jeg kan.
1:03:31
Huske altså jeg det som jeg forestiller mig, at det mener
1:03:35
jeg også er rigtigt at. Grunden til at Facebook ligesom
1:03:38
lavede altså var interesseret i de her vektordatabaser var fordi
1:03:41
at de havde jo du ved en bruger og så havde de 1 mia. opslag
1:03:48
altså det Det er jo eller du ved youtube der har en bruger og så
1:03:51
1 mia. videoer repræsenteret som vektor ikke du ved der bliver
1:03:55
man bare nød til at få en eller 2 effektiv måde hvor man ligesom
1:03:58
kan kan søge ting frem i så meget altså.
1:04:02
Men det det skal jeg ad helvedes til hvis man bare tager du ved
1:04:04
det. En helt normal dot produkt over
1:04:07
så meget så meget så mange vektorer ikke?
1:04:11
Så det på på en eller 2 måde, så tror jeg altså.
1:04:13
Så er jeg ret overbevist om at Jeg har hørt i hvert fald at
1:04:16
vægter databaser. Grunden til de overhovedet
1:04:17
bliver opfundet. Det var fordi at på grund af
1:04:20
altså skilleringssues at Det var Det var Det var simpelthen
1:04:23
upraktisk at. Lave z emilarity og lave
1:04:27
retrievel over. Altså Det var for at muliggøre.
1:04:32
Ja, hvorfor kan jeg ikke tale? Det er hvorfor muliggøre
1:04:34
retrivet over rigtig, rigtig, rigtig, rigtig, rigtig, rigtig,
1:04:37
rigtig mange stykker data kan man sige ikke.
1:04:41
Det er der, hvor man indeksere. Det er også derfor man
1:04:44
indekserer en normal databaser. Det er at Det er jo 1 1 1 search
1:04:49
du leder efter noget, og hvordan finder du det rigtige og så du
1:04:52
har så det indekser? Du kan godt lave Sådan en
1:04:57
service ved tondor repræsentanter en bruger for
1:04:59
eksempel, og så har du nogle andre vektorer der repræsenterer
1:05:01
nogle videoer, som du skal have dottet sammen og målt som
1:05:04
milarity på for at ranke et eller andet.
1:05:07
Så kan du godt have du ved du kan godt have den her vektor og
1:05:09
så en matrix som ligesom bare er de her video vektor stacket
1:05:14
ovenpå hinanden og så laver Sådan et altså dot produkt i
1:05:17
hele den ikke og så få Sådan 1 1 1 lang altså du ved en serie af
1:05:21
af hvad hedder det scorer ikke sorterer hvis Der er en det det
1:05:25
går måske fint hvis Der er 100 vektorer ikke 100 videoer hvis
1:05:28
Der er 1 mia. eller 10 mia. eller et eller andet så så
1:05:31
bliver så kan det ikke altså så er det bare.
1:05:33
Det var faktisk ret fint. Helt op til. 10 10 20 tusinder
1:05:38
af det der bare faktisk også mere.
1:05:41
Hvis du bare bruger Sådan noget nonpy eller Sådan et eller andet
1:05:44
ikke noget problem. Men men altså at det begynder at
1:05:47
knive lidt, når man kommer op i det der millioner stykker.
1:05:51
Men ja Det er jo derfor at man har indeksering og man har
1:05:55
vektor databaser og det. Det er den den altså.
1:06:00
Den teknologi er bare blevet bedre og bedre og bedre, fordi
1:06:03
at Der er fokus på det her review og.
1:06:07
Vektorer er jo en stor ting indenfor EI, altså alt er
1:06:11
vektor, Det er bare. Det er sjovt, fordi grunden til
1:06:14
at man bruger vektor vektor database er i dag.
1:06:16
Det er jo ikke på grund af skalerings forestiller jeg mig,
1:06:19
fordi typisk så er det jo Sådan noget.
1:06:20
Og er det det? Typisk er det jo, du ved bare.
1:06:23
Sådan en ting Jeg har en en. En 7 8 mio. artikler samt jeg
1:06:31
godt kunne tænke mig at søge ned i og når Jeg har junket dem så
1:06:36
så er de blevet til. Det ved jeg ikke 25 mio.
1:06:41
Junks som Der er embedde. Det synes jeg da alligevel er er
1:06:47
en del, og så er det jo en form for en knowledge database, så så
1:06:51
det bliver jo meget hurtigt, fordi du jo deler det op på den
1:06:53
måde, så så bliver det jo hurtigt eskaleringsproblemer, så
1:06:56
du gerne vil have det indekseret så men men du har jo ret i at at
1:06:59
at man kan jo tit afgrænse sin crewy rimelig præcis hvis du kun
1:07:03
uploader et dokument på 100 sider, så er du ikke rigtig brug
1:07:06
for det i virkeligheden ikke men men men så kan det være du kan.
1:07:10
Uploade. Tankerne pludselig så så.
1:07:12
Søger du egentlig ikke ned i kun det du har oplevet i dag?
1:07:15
Men også det du gjorde i går, og i foregår også og så videre.
1:07:18
Det er bare tit. Du ved, så er det use casen for
1:07:20
Sådan en altså Sådan så er det bare på brugerniveau.
1:07:21
Så er det bare en bruger der skal kunne søge chat med en PDF
1:07:25
eller et eller andet ikke ja. Ay was skyr med at blive lange,
1:07:30
og Vi skal til at sige farvel, og vi vil have snakket hele
1:07:33
vejen igennem episoden om, at vi vil snakke om chat kippta atlas.
1:07:36
Det har vi jo. Ikke gjort, og det kommer vi.
1:07:38
Ikke til at gøre, fordi Vi har taget imod.
1:07:39
Et lytter spørgsmål, og Vi har prøvet Vores live chat af og Det
1:07:42
har der været super sjovt. Det bliver i hvert fald ikke
1:07:43
sidste gang vi gør det her. Der er også et par der har
1:07:46
kigget ind og skrevet, men jeg skal bare lidt tyndt, men vi Vi
1:07:51
skal være lidt bedre til at annoncere, når vi gør det næste
1:07:53
gang, så kan vi se. Men nu har vi prøvet det, så ved
1:07:56
vi hvordan vi gør, og ja, så må vi bare gøre det igen.
1:08:01
Det var første. Liveshow fra Amager bos podcast
1:08:04
Det var det nemlig. 1000 tak fordi du lyttede med.
1:08:06
Og hav det godt til politisk skind.
1:08:08
Hey.