Latest / Verbos: AI og Softwareudvikling / #110 - Byg en Second Brain med AI-agenter: Karpathy's LLM Wiki i praksis m. Andreas Vig Astrup

Transcript

#110 - Byg en Second Brain med AI-agenter: Karpathy's LLM Wiki i praksis m. Andreas Vig Astrup · Verbos: AI og Softwareudvikling

0:00
Hænger alle sammen og velkommen til hvad bos podcast afsnit
0:03
nummer 110. I dag.
0:05
Skal vi snakke om second brain med Inger har jeg glemt dig og
0:09
har den harnestingering omkring det som hvad hedder det?
0:12
Det ligesom kræver for at få Sådan en second brain i crowd
0:15
code eller hvilken ære Jeg har gemt du nu bruger til at virke
0:19
og det Vi skal tage udgangspunkt i.
0:20
Det er et republ som er lavet af den gæst Vi har med i dag, som
0:24
er inspireret af den gode on draki som Jonas og mig ofte
0:29
snakker om som har lavet 1 1 1. En gæst inde på get hop eller en
0:32
blok post som han som hedder LM wiki, så så hvis du er i gang
0:37
med at regne ud hvordan du kan bygge den vildeste second brain
0:41
i til til dit ER agent setup til at gøre dig max out i forhold
0:46
til produktivitet, så er det i dag du skal løbe med og til at
0:51
snakke om Det har vi Andreas vi Astrup med og velkommen til
0:54
Andreas 1000 tak 1000 tak jeg kommer hjem.
0:58
Ja og jeg tænker på, skal vi ikke bare starte med, at du
1:01
fortæller lidt om dig selv og så videre?
1:03
Så lad os lad os dykke ned IIII programmet efter det.
1:08
Ja men jeg hedder jeg hedder Andreas Jeg er.
1:13
Det er hvad Jeg vil kalde AI ingeniør tror jeg jeg jeg
1:15
anvender anvender a modeller og nondeteministisk software design
1:21
til at løse problemer nu. Her for tiden er det meget du
1:25
ved agenter workflows, men dermed løse opgaver autonormt
1:28
med agenter. Alt det der interesserer mig
1:30
allermest. Jeg arbejder for simple TV, som
1:34
faktisk er en dansk virksomhed som.
1:36
Servere metadata til alle de store streamingtjenester og TV
1:41
kanaler rundt omkring i verden, så Det er.
1:44
Et mega fedt altså megafedt simpelt data produkt så man får
1:48
en masse rodet metadat ind og så prøver vi at fylde en masse
1:51
agenter til at sortere det og prioritere hvad der ligesom er
1:56
det rigtige. Så eksempel er hvad vi vil
1:58
forbilledet. 100 forskellige beskrivelser beskrivelser på die
2:03
hard skal vi finde ud af nå, men hvad for nogle sprog er de på og
2:07
hvad for nogle er gode og så skal vi finde ud af hvad vi så
2:09
serverer videre til Vores kunder.
2:13
Mange 100 forskellige beskrivelser på dig har haft den
2:15
den. Det er et sjovt problem med
2:17
Sådan hvad fællesnævnere ligesom her ikke og ja cool.
2:21
Og så selvfølgelig lidt ligesom alle andre softwareudviklere og
2:26
ceremondere interesse indenfor AI, så er det her med at power
2:29
sig selv op med. Med white-coating eller
2:33
agentingering jeg foretrækker vibecoing.
2:35
Jeg synes Der er Det er lidt mere cowboys i det.
2:39
Så det det jeg holder fast i det.
2:41
Jeg kan godt se mig inde på LinkedIn, der Sådan Vi skal
2:43
bevæge os fra vibecoing til. A og enten ringass nej hold det
2:48
hold det bare ikke købt ind. Det er sjovt nok.
2:50
Det er sjovt. Og en af de ting?
2:56
En af de ting jeg ligesom er har opdaget når Jeg har lavet en
3:00
masse vi-coating. Alt det her med at den lærer
3:03
simpelthen ikke ordentligt over tid.
3:07
Det begår de samme fejl fra repo til repo, og Det er ofte Sådan
3:11
den. Det er Sådan det bedste eksempel
3:14
Jeg er kommet, og Det er Sådan, hver gang man beder den.
3:16
Hey prøv lige lav lige en agent som tager det her indput lav det
3:20
her output. Og så du ved, så kan jeg
3:22
bagefter Sådan hjælpe med at tunne prompte og så får den bare
3:26
valgt nå okay Vi skal generere billeder, så vi bruger dalllie 2
3:31
og Vi skal lave tekst så vi bruger gibit 3,5 turbo fedt og
3:35
så er det Sådan Det er 4 år gammelt altså men hvorfor
3:38
hvorfor har hvorfor kan du ikke vælge noget bedre og det handler
3:41
om trading kort off window og. Så det her med at få gemter til
3:48
at lære smart over tid. Er det?
3:52
Vi har også brugt meget tid på at empower mig selv med og så
3:54
kom caraffi med den her eller lam wiki som mere handler om det
3:58
her onder. Research dropin en masse hans
4:02
frie egne noter og nogle AI pbers og så vi ligesom få
4:08
struktureret det Sådan at man kan spørge smart ind til det.
4:11
Skal vi virkelig prøve? Skal vi ikke prøve at tale fordi
4:13
det Det er det som du har lavet dig inspireret af den her lille
4:15
m wiki med andre aparty. Måske lige hurtigt nævne hvad er
4:20
auto research og? Så efterfølgende kan vi prøve
4:23
lige at snakke om den her alle dem viki blockchaster som han
4:26
har skrevet. Ja vi Vi har jo også vi.
4:29
Vi er jo mig og Jonas også ret fascineret af det her auto
4:32
research setup som andre ikke kan parte Vi har lavet og
4:34
faktisk også været ude til nogle workshops hvor Vi har fået nogen
4:37
til at altså hvor de har fået det til at virke til workshoppen
4:40
ikke og fået nogle sinds sindssyge resultater altså så så
4:44
hvad hedder det? Ja men jeg ved ikke lad os prøve
4:47
lige at tale lidt om auto research til at starte med bare
4:49
som Sådan en primer til det til det andet måske ikke.
4:52
Ja, men grundlæggende handler order research show faktisk om
4:56
at opdage ny viden. Ved at blinke gammel research,
5:03
så det store lige nu handler om det her med open problems og
5:06
matematik. Hvor at at det med at vi det med
5:12
at et et åbent problem kan løses ved at tage.
5:18
Ved at ligesom læse. 1 4 5 forskellige papers der kan
5:22
relatere sig til området, og så kan vi faktisk lave det her nye
5:25
bevis for et nyt matematisk problem.
5:28
Det er Sådan hvordan auderresearch bliver brugt i
5:31
eller endemålet research for eksempel matematik, så det her
5:35
med at vi laver vi laver agent loots eller agent systemer der
5:40
bliver ved med at trævle research og forsøge sig at løse
5:44
og opdage nye ting. Så Det kan jo enten være
5:47
specifikt henrettet mod med et problem.
5:50
Eller Det kan være for en stor dansk virksomhed som skal lave
5:53
vindmøller. Okay her er alt Vores data for
5:56
alt nogensinde. Nu sætter vi bare 1000 agenter
5:59
og uendelig computer og en masse loops til at trevle det igennem
6:01
for at finde optimeringsmuligheder.
6:05
Men men carfisversion af det her er så OK hvad hvis vi bare får
6:09
en agent til at kategorisere læse og ligesom lave referencer
6:15
mellem en masse AI research AI pøs så ville han Sådan sammen
6:21
med den kunne. Bedre opdage nye teknikker eller
6:26
eller nye scoveres? Ja OK så han.
6:29
Han tager faktisk udgangspunkt fordi jeg som Jeg har læst den
6:32
første audre-research, så er det jo Sådan, at at den første han
6:35
kom ud med i hvert fald der. Det var at og Der er det her er
6:37
jo også en del af det, men at hvis man har prøvet at sidde det
6:40
her med at træne modeller og prøver at bobbe GPU en og skrue
6:43
lidt på learning raid og hvad hedder det ændre lidt i modeller
6:45
og arkitekturen og alt det her, så man har ligesom prøvet de der
6:48
integrationer der så det han ligesom gjorde med hans research
6:51
repå Det var ligesom få en agent til at gøre det i virkeligheden.
6:54
Og få den til at gøre det prøve et et eksperiment per kontekst,
6:59
vindue og så ligesom cleare efterfølgende og holde altså
7:02
holde. Hvad skal man sige en en form
7:04
for log i git på en eller 2 måde ikke men men men og så så det.
7:08
Det er ligesom Sådan et ret vildt Premier lef i forhold til
7:11
at eksperimentere over de her ting.
7:14
Og og der kan man jo sagtens forestille sig at at en af de
7:17
ting som en agent kan gøre i det her loop, er at læse
7:21
forskningsartikler. Er det rigtigt forstået, at den
7:24
her eller lemme viki, som man så har beskrevet Det er ligesom
7:26
Sådan en? Hvad skal man sige det?
7:30
Det er Sådan en en måde, at agenten effektivt kan læse mange
7:33
artikler og gemme viden Sådan effektivt på en eller 2 måde,
7:38
navigere det eller hvordan. Så Sådan det det.
7:42
Jeg tror at det normale mennesker har konkurreret om i
7:46
en del år efterhånden er vand mest effektive måde at.
7:50
Lave viden i vikir er det hotbased, så du ved min min
7:55
second brain har en hop Der er hvad hedder LL ms og så har den
7:58
2 subhops der hedder front seere og workors lilles Der er ligesom
8:02
du ved så får vi kategorisere hierarkisk forskellige ting, men
8:06
Der er også Sådan du ved referencer på tværs af den her
8:09
så vi også har linkingbase og Det er jo lidt det samme som som
8:13
han gør med hans. Lamiki i forhold til hans AR
8:17
research paper. Så det her med at ting har
8:19
referencer fede research papers er de nærmest af sig selv.
8:22
Har referencer til hinanden? Ja, men ellers så er det jo også
8:25
bare at den får lov til at læse. Og nu har jeg lige læst omkring
8:30
en transformarkarkitektur, så kan vi jo lave noget noget
8:34
surspace om det så er vektor eller om Det er graphing eller
8:37
Det er Sådan set lige meget, men vi prøver ligesom at connecte de
8:39
her viden Sådan at næste gang vi søger og finder det her frem.
8:43
Så har vi meget lettere ved at loade relevant kontekst rundt
8:46
omkring. Så forhåbentlig kan syntificere
8:51
sundhedssites og Sådan noget noget nyt eller noget noget
8:53
brugbar på tværs af de her learnings.
8:57
Jeg jeg kunne godt tænke mig lige at bare lige trække op i
8:59
helikopterperspektivet kort øjeblik i forhold til altså så
9:03
alle derude også. Ligesom hvad er det vi egentlig
9:06
taler om lige nu? Vi taler jo faktisk om nogle
9:08
gamle kendinge vi taler om. At Det har til hver en tid altid
9:14
været et problem for eleverne at.
9:17
Hvad kan man sige? Få ny information ind fra
9:19
omverdenen, som de ikke var trænet til.
9:22
Så Vi har det her rette problem og i agent sammenhæng har vi jo
9:26
Sådan set også det rette problem.
9:29
Fordi at det ender hos en LM på et eller andet tidspunkt, så Vi
9:32
skal ligesom finde relevant kontekst.
9:36
Og hvis man gerne vil lave research skal man jo så sige
9:38
eller man gerne altså den knowledge er ligesom et et
9:41
udefineret space altså hvor du. Du ved ikke rigtig hvor du.
9:45
Hvor du skal hen, så Det er ikke bare her er min kodebase det det
9:49
ligger hernede, men der kan også være nogle ting der ligger i
9:52
omgivelserne, som er relevant for det, som man arbejder med.
9:54
Og Det er det jo Sådan set også, når man koder og så videre.
9:57
Der er jo alt mulige omgivelserne, som er relevant,
9:59
som man så skal finde frem. Så Det er jo et retrieverproblem
10:03
og et memory problem, fordi vi gider ikke at retree det samme
10:06
hver gang når vi kan bygge en eller 2 form for hukommelse op
10:10
omkring hvad Det er der faktisk er vigtigt for det her projekt
10:12
vi arbejder i og så videre. Er det også Sådan det du så har
10:16
lavet Andreas er Det er det det samme gamle problem hvis jeg
10:19
skal være lidt fræk Sådan, men men løs på 1 1 1 1 nyere tilgang
10:24
end end det Vi har måske gjort tidligere.
10:28
Ja ja cirka altså det det Jeg har lavet har Sådan baghjernen
10:31
er jo slet ikke slet ikke noget Jeg har lavet.
10:34
Det er basically dar reløer man 100% på radis ide og just
10:39
omkring det der med at en gest en ny information og søge.
10:43
Igen nollisbads i din ella moyke det Jeg har det det Jeg har
10:47
prøvet at begrunde om og det Jeg vil også lige kigge rigtig meget
10:50
credit til min kammerat Anton som.
10:53
Har hjulpet mig rigtig meget med det her.
10:56
Er at at prøvede ligesom at skabe Sådan Daily driver loopet
11:01
rundt omkring. Det her så det her med at at at
11:07
at når når jeg ligesom beder min agent hov, nu skal vi til at
11:11
lave et eller andet med pide dancit agence så.
11:16
Er den ude og læse nogle docs, så er i det den læser de her
11:18
docs så en gester den også informationen Sådan at Vi har
11:21
det til næste gang, når den så er færdig med at implementere
11:24
det, og jeg ligesom har kommet med alt mit feedback og været
11:26
Sådan Det var satme den dumme hvalp du tog her og her, så får
11:30
vi jo det rettet ind. I det som en ny reference til
11:33
det. Ja Sådan at vi vi ligesom får
11:37
får lavet det her work loop rundt omkring.
11:41
Til at den hele tiden reevaluere hvad, hvad den gør og hvad vi
11:45
lærer, så Det er jo så så det hvis man skulle prøve at kunne
11:50
koge det ned til, hvad er det så min contusion eller min version
11:54
af Det er Det er at tage det her.
11:57
Statiske eller lem wiki og prøve at sætte det ind i en hjerne til
12:01
til din til din coding cards. Ja ja Jeg kan ikke lade være med
12:05
at tænke på fordi at retrival området altså rack den der kan
12:09
huske rack. Det er jo gode gamle du har en
12:11
masse. Jamen Det er jo allerede.
12:14
Ude af af hvad hedder det? Det er jo allerede ude af af af
12:17
mode kan man sige og Sådan bruge ordet rap, men Det er jo
12:20
stadigvæk bare noget retreval man har gang i.
12:23
Men men problemet med rack har jo har jo netop været det der
12:26
med at Sådan Vi har store dokumenter og Vi har mange ting
12:30
og vi måske rammer vi godt. Måske rammer vi ikke og hvis vi
12:33
rammer godt. Fremmed hvis vi ramte godt,
12:36
jamen, så ved vi ikke om vi rammer godt næste gang på den
12:38
samme problemstilling og Der er noget med det her.
12:42
Jeg ved for eksempel er pinecoagen de er i gang med, men
12:44
netop noget der lyder lidt af det som du nævner der Andreas
12:47
med at man den her knowled Det er simpelthen noget Der er en
12:51
levende størrelse. Og den er bliver skræddersyet,
12:56
når imens man bruger den så at sige til det man er i gang med
13:01
at arbejde hen mod Sådan så relevansen for.
13:04
Den kontekst, men reever har en baseline i den måde, data er
13:08
struktureret på, som faktisk bare er højt bare de får ikke.
13:12
Kan man ikke godt se det som Sådan en levende retreal motor
13:16
altså som hvor du hvis du destillerer vel også noget viden
13:20
ud af det der og koger det ned og ligesom lægger det pænt, så
13:23
det så der ikke er støj, så du får reduceret støjen og Sådan
13:26
nogle ting. Og og Det er jo det lyder bare
13:30
som om Det er Sådan next level på retrive ikke altså at bruge
13:33
det generative mere aktivt ind i.
13:36
Delen og ligesom bare få superpavret den del også.
13:41
Altså Det er Sådan naturligt step på en eller 2 måde, hvis
13:43
man lige tænker sig om selvom at det her det helt klart er
13:45
cutting edge tænkning på det her område.
13:49
Jeg tror Jeg tror Jeg tror det nemmeste Det er nu er det Sådan
13:51
et Jeg synes at at en bettingsmodeller er noget af det
13:55
sjoveste og især Sådan en multi molem betting, så jeg hader at
13:58
det skal være out of thete fordi Det har så mange fede ustres som
14:00
ikke bare ville true. Ej men.
14:02
Jeg er stadig, så havde jeg egentlig Det er.
14:03
Stadig Det er fucking sejt. Det er fucking sejt.
14:06
Det glemte. Men, men Det er jo det Der er
14:11
fedt ved de her second brands, som er modsætning til en rack
14:14
chatbot er jo at Jeg er fløjtende ligeglad med min tåben
14:17
gris. Rack løser et problem virkelig
14:22
effektivt, men hvis du bare er vrøvlet med hvor mange tokeste
14:25
bruger på og trawler din wiki igennem og vrøvlet glad med hvor
14:28
lang tid den bruger på at at at rense op i den, for Det er jo
14:32
også noget Vi skal snakke om. Noget af det Jeg har, Jeg har
14:35
bygget ind i den her den her workflow er jo at Vi har Sådan
14:38
det her dream element, slash dreams som vi kalder slash rim
14:42
sleep fordi at lige pludselig der var codex og crowd uenige
14:47
omkring om Det var et reservoende indslag det havde de
14:49
taget men men det her med at at fordi vi slikker at man ligger
14:53
og kører 1 4 5 sessioner på samme tid, måske laver nogle af
14:56
de samme learnings, så kan man enten få mange duplikater i ens
15:00
memorybase eller i ens second brain.
15:02
Eller du kan få mange Sådan uoptimeret links så så du kører
15:07
ligesom Sådan 1 1 1 loop som bare er spar en hulens masse
15:11
supp agents som med hver deres opgave om at gå igennem din din
15:16
chathistorikker finde ud af hvordan har vi ståret der
15:18
information er. Det ståret effektivt kunne vi
15:21
syntes nogle nye links? Nu har vi lige arbejdet med i
15:25
don't know en eller 2 ny. Betting model shirt vektor space
15:30
fra. Meta men Det kan vi jo lige både
15:34
link til meta, og vi kan sørge for at være den opdatering af af
15:39
af et eller andet. Det er interessant det her, hvor
15:44
at Det er ligesom et levende. Altså moving target det her.
15:49
Hvordan vi strukturerer Vores Vores, hvad kan man sige?
15:53
Ja kontekst relevante kontekst kan du ikke prøve at fortælle
15:58
lidt om Sådan rent teknisk og rent praktisk, hvis man gerne
16:02
vil bruge den her second brand hvad hvad gør man?
16:05
Og hvad kommer der pludselig en masse markedfiler rundt omkring
16:09
på ens altså hvad sker der? Når man ligesom begynder at sige
16:12
installere den her. Ja altså den den måde, den måde
16:17
Jeg har prøvet at sætte det op på og Det er bare en altså Det
16:20
er jo det. Det er lidt det Der er sjovt det
16:21
her. Det er jo virkelig software free
16:24
pind over Det er installationsfiler at
16:26
instruktioner altså. Så så når du når du downloader
16:31
det her repo eller selv begynder at sætte det selv op og for
16:34
vildere er det heller ikke bare hvis du har idéen om hvad du vil
16:37
lave det, så begynder man jo bare at skrive hey Vi skal gøre
16:40
det på den her måde. Så er det jo bare en en mappe du
16:43
giver crowd code eller codex eller workspace adgang til.
16:47
Det er jo total udefineret hvad hvad hvad for en agenttype det
16:51
det skal være. Og i den ligger der jo så nogle
16:55
skills som er de her OK Vi skal. Vi skal huske at have Sådan et
16:58
dream skill. Vi skal have Sådan en moarning
17:00
breeff skill alle de her ting som som Sådan nogle i ser word
17:04
ting som den så får sorteret rigtigt.
17:09
Eller så og så har den de her templates af OK så står vi
17:14
mapper på den her måde. Vi står memories på den her måde
17:18
og så kører den jo ellers bare med de her reelt meget simple.
17:23
Instruktioner i. I dens konstitution, som jo bare
17:29
er konstitutionen, er ligesom en prøv at generalisere Claude dot
17:32
d eller agent dot MD ned til noget som ligesom kan være.
17:37
Kan være hvad det skal være i forhold til hvad for en agent
17:39
frame du så bruger som så var instrueret OK når Vi har når Vi
17:43
har fundet noget nyt information for eksempel ved websearch, så
17:48
skal vi huske at lære det. Så Det er bare en instruktion om
17:53
hvordan den så får lagret det her information.
17:58
Og en foreslået struktur til, hvordan den lagrer det.
18:01
Yes og Det er alt sammen noget der ligger i nogle nogle skills
18:04
som man enten eksekverer manuelt eller som man ligesom håber at
18:08
efter bedste evne at agenten finder ud af hvornår den så skal
18:11
bruge. Og Det er jo selvfølgelig der
18:14
hvor tricket er ligesom at få de rigtige froms ind.
18:16
Sådan så at det der flow der det spiller Det er altid.
18:19
Det er så lækkert at sidde med hvad hedder det og og så virker
18:23
det jo så bare så Det er bare det følger ligesom bare man
18:27
kunne putte det her ind i hvilken som helst.
18:29
Agent der ligesom. Kan jeg forstå skills og og så
18:32
videre? Ja, så Det var Sådan regel is
18:35
of. Jeg kan godt lide at bruge
18:36
Claude fordi den er sub sadist helt vildt meget, så jeg betaler
18:41
ikke rigtigt for mit forbrug. Det er ret fedt, så kan jeg lige
18:43
have brug sublian fordi Jeg synes Det er vildt flot med den
18:46
der. Hvad hedder det flotte graf der
18:49
glemmer at vokse Det er Sådan en du ved gamification af second.
18:53
Ja. Men men du kunne jo bare lade
18:56
være med at bruge andet end en terminal og en og Det er fordi
19:00
du behøver aldrig at kigge så meget i de her filer.
19:05
Det er sjovt jeg jeg bliver. Jeg kommer bare til at tænke på
19:07
Sådan, hvorfor er man interesseret i at lave det her
19:10
memori halløj og den her måde at strukturere data på eller tekst
19:15
især på lokalt ikke. Og Der er selvfølgelig den her
19:18
use case bedre og de irriterende den den den siger giver t 4
19:21
eller giver tage 3,5. Og ikke har den opdaterede viden
19:24
og Sådan noget. Det er Sådan en du ved.
19:26
Come on ikke bare lige være up 2 date i forhold til hvad Det er
19:29
vi arbejder med, så er der også Sådan noget med at den den Det
19:33
er fedt at den kender en og kender ens historik og kan bruge
19:36
det i sin visning fremover til at.
19:40
Være brugbar i forskellige sammenhænge, men Jeg synes også
19:42
Det er interessant. Motivation for at gøre det her,
19:46
som måske er mere nært det som omrica party beskriver i den her
19:49
elementviki. At problemet når du vil der har
19:53
været meget diskussion omkring om de her ARIA agenter kan
19:57
opfinde ny viden på en eller 2 måde, ikke?
19:59
Og Der er jo samtidig også mange der siger jamen ny viden er jo
20:03
bare en bestemt syntes søndagsization er gamle ideer
20:07
ikke altså så så man kunne godt forestille sig, at hvis de
20:10
rigtige ideer den rigtige sekvens af ideer og de rigtige 5
20:15
10 ideer er kombineret i kontekst vinduet med en eller 2
20:19
retning, så ville den rent faktisk være i stand til at
20:21
kunne generere nye innovative ting, hvis den ligesom bare fik
20:24
fik det rigtige kontekst på det rigtige tidspunkt.
20:28
Og og det. Det er jo spændende og og Det er
20:30
jo Sådan videnskab og deroppe det hvor man tænker Der er højst
20:34
signal i forhold til at få ideer ind i det her kontekstfeltet.
20:37
Det er at læse videnskabelige artikler, og så kan du ligesom
20:40
gå ud på archives og lede efter en masse fed viden og Sådan
20:43
noget. Problemet er bare at Der er
20:45
latterligt meget. Indhold, som ikke kan være i
20:49
kontekstfeltet på en gang. Så derfor er man ligesom
20:53
afhængig af, at den kan. Pille ting altså ligesom kravle
20:58
det her igennem og med et eller andet objective og prøve ligesom
21:02
at finde brugbare ting hive de forskellige ting ned i et eller
21:05
andet workspace system. Den har til at notere ting på
21:09
tværs i dituationer. For lad os bare sige den bruger
21:11
et kontekst vindue på 10 artikler, så noterer den nogle
21:15
ting, så bliver den nødt til at cleare og så er den afhængig af
21:17
at den har noget kontekst II hvad hedder det i workshet for
21:21
at kunne effektivt arbejde videre med næste situation?
21:24
Så Det er også Sådan noget med, at Der er også noget i det med
21:27
at. Store opgaver hvis man har dem
21:31
til at lave store ting store opgaver.
21:33
Det er også derfor Royal club sand er interessant synes jeg,
21:35
men også lidt et hack, så bliver man nødt til at kunne gøre det
21:38
over flere kontekst vinduer og så har du brug for en eller 2
21:40
form for system lokalt som kan. Strukturere det her på en eller
21:46
2 måde, så den effektivt kan lave hand-off til sig selv, hver
21:49
gang det ligesom tager 1 1 1 runde ikke så så så det synes
21:53
jeg bare er. Det er lidt en 2 ting end memory
21:57
eller Sådan Der er Sådan. Det er lidt mere sjovt term
21:59
working memory memory på en eller 2 måde, ikke?
22:01
Og så er der det her long term hvem er jeg og hvem kender jeg
22:04
og hvad er min relation til dem og så videre ikke.
22:07
Og så er der det her med Sådan hvad med world knowledge?
22:09
Altså hvad er den seneste model indenfor hvad og hvad er den
22:11
seneste opdaterede dokumentation indenfor det og Sådan ikke så
22:15
jeg, Det er jo bare det. Det er også bare for at sige, at
22:18
det her er også bare er interessant som Sådan en form
22:20
for workspace til at løse store opgaver.
22:24
Der er man afhængig af at kunne kunne notere ting ned og og
22:27
behandle dem på tværs af kontektsvinduer, ikke?
22:30
Ja Det er jo også lidt Sådan en. Det Det er det der med selvom
22:34
jeg jeg en af de ting Jeg er mest optaget af i forhold til og
22:38
min egen udvikling. Det der med hele tiden at prøve
22:40
at tænke OK, hvordan bygger jeg faktisk noget, som jeg ikke skal
22:43
pille fra hinanden om 0,5 år, fordi Det er ikke lykkedes mig
22:46
endnu. Altså alt alt hvad man laver er
22:49
instillede i outdated. Og og jeg.
22:54
Det er jo lidt det her med, selvom second brain jo lidt er
22:56
en ide om at den skala med modeller og den scater med.
23:02
At at med kontekventet bliver større og at konteksthunde.
23:06
Problemet og middelalderen og hashtag ligesom bliver løst mere
23:09
og mere, så er det jo stadig Sådan en jo jo, men hvis
23:12
modellerne ægte varer var smarte på en eller 2 måde, så så så
23:17
behøvede det her ikke. Band.
23:19
Det er jo også det der med at rap raalpes er er jo også Sådan
23:24
en ja lidt keep it in the smartzone soy it dustin gå 2 the
23:27
donzone. Og Det er jo igen Sådan et ja
23:31
ærgerligt at vi overhovedet skal fikse det problem lige nu.
23:34
Ja, men Der er jo også og Det er jo du rammer ind i noget som
23:38
ligger mit hjerte enormt nært. Det er hvad kan man sige
23:41
abstraktioner, godt design at forstå hvilken sti er vi ude på
23:48
vej ud af II software. Omkring AI og agenter og så
23:52
videre. Så det Der er jo totalt en ting
23:56
og jeg Jeg har tit Sådan en en poster syndrom omkring det der
23:59
og tør ikke starte noget som helst oppe og smide det open
24:02
source fordi Det er. Det er absolut i morgen agtigt,
24:07
men men men Der er jo nogen der prøver det og det gør du.
24:09
Hvad hedder det Andreas og. Der der, Der er bare nogle ting
24:14
som altså Det er bare fedt at få nogle ideer på bordet fordi vi
24:18
finder jo aldrig ud af hvad de gode abstraktioner er omkring
24:21
det her problem, som måske lever længere tid end end end end i
24:25
morgen. Og det går sygt hurtigt.
24:29
Det er den her i den her udvikling.
24:32
Så Jeg synes Det er spændende at tænke i, men jeg ser også lidt
24:37
den der ideen i sig selv er er ret stærk.
24:40
Altså fordi jeg hører at vi vi vi taler om at den rigtige måde
24:45
at at vi som retrige og noget information det Det er
24:49
efterhånden Sådan mere eller mindre Sådan veletableret at Vi
24:53
skal bruge en eller 2 form for grafstruktur.
24:55
Det er så også typisk Sådan man man lægger en betting ned og
24:58
Sådan noget. Men Det er ikke nok, at vi
25:00
ligesom retriever hver gang fra den her store kæmpe knowle space
25:04
som bare vokser og vokser vokser.
25:08
Vi skal ligesom på en eller 2 måde efter behandle det altså
25:11
hele det her koncept omkring at drømme.
25:13
For en agent at Der er noget der Der er noget hukommelse, der
25:16
skal ligesom Sådan sorteres i hvad er det, Der er vigtigt?
25:19
Hvad er det, jeg skal smide ud? Og hvad er det jeg skal gemme?
25:22
Den ide tror jeg lever videre. Jeg tror den er stærk nok til at
25:27
at vi vil se mange forskellige implementeringer af det her, og
25:30
at vi vil nok på et tidspunkt få en standard.
25:33
Jeg har det lige omkring det der.
25:35
Så har jeg det ligesom function calling, da der var noget der
25:37
hedder outputs II lang tjeneing jeg lige snakkede om det
25:40
hinanden. At Vi har en eller 2 oldgammel
25:42
afsnit i hver Vores podcast. Engang imellem prompte dengang
25:45
man prompte modellerne til at sige please.
25:48
Please. Returnere struktureret jesserne
25:51
i det her format. Ingenting før.
25:54
Ingenting efter ingen kommentarer ingen kommentarer
25:57
bare bare. Ha det her.
26:01
I mellem 2 tokens måske hvis det nå men men men hvad hvad er det
26:06
jeg prøver at sige. Jeg prøver bare ligesom at sige
26:08
Sådan. Jeg tror Jeg tror Der er noget i
26:09
det her. Jeg tror ideen er er er stærk og
26:11
vi Vi har også haft andre bud også også i podcasten på det her
26:17
memori problem ikke altså at at at huske noget så så Det er en
26:21
ting der går igen. Personligt kan jeg ikke prøve at
26:25
installere og bruge et Sådan rigtigt memory løsning endnu.
26:30
Men jeg prøver ligesom lidt min egen instruktion omkring og
26:33
skrive ned i noget magt-down og Sådan nogle ting ikke, men må.
26:36
Jeg godt nævne bare lige at nævne det her.
26:37
Må Jeg synes at i de seneste par år er der har der været rigtig
26:40
mange der har snakket om det her rack du ved det der hvis du skal
26:43
have nevery til din agent så skal der så skal den have den
26:45
rap vektordatabase og Vi skal have et helt nyt stykke
26:48
infrastruktur for at kunne power det her og have avanceret en
26:51
betting model og jeg skal komme efter dig så Jeg kan søge ned i
26:54
en. Og jeg ved ikke på et tidspunkt.
26:56
Jeg ved ikke om et års tid siden 0,5 års tid siden eller Sådan
27:00
noget. Der gik det op for mig det her
27:01
med Sådan ja, men du kan også bare lave en magtdown fil den
27:04
kan slå op i og så lave nogle links til nogle andre
27:07
markedfiler som den kan crowd rundt i.
27:08
Ikke altså hvor Det er Sådan noget.
27:10
Wow Det er bare meget simplere ikke altså på en eller 2 måde,
27:13
ikke? Men, Der er så nok også en en
27:16
grænse for, hvor meget de skal lære, men Jeg tror sgu det
27:19
skalere ret meget, ikke? Og og hvad hedder det altså med?
27:24
Model intelligens, så Det er jo Sådan Det er ret let, hvis du
27:27
altid ligger der i. Hvis du altid ligger der i at
27:30
hej hvis modellerne bliver bedre og har et større kontekst vindue
27:33
og kan fungere i større kontekst vinduer, så så er din løsning
27:37
nok også god. Men, men Jeg synes også bare
27:40
også det her med Det er jo i virkeligheden det vi kalder det
27:42
som androbic er introduceret med skills.
27:45
Fordi den skill er jo også du ved et Index skilled md og så
27:48
kan den ligesom så kan man linke til andre magter og filer som
27:51
implementerer det her. Der er Sådan en graf på en eller
27:53
2 måde ikke, men de kalder det jo så progressive disclusure.
27:58
Det er jo i virkeligheden 1 1 1 fattigmandsrack, som måske i
28:00
virkeligheden på rigtig mange måder fungerer langt hen ad
28:04
vejen meget bedre end rap, fordi du ved ikke afhængig af at
28:07
embedte det på den helt rigtige måde og altså at der står de
28:10
helt rigtige teksten. Du kan faktisk prompingere dig
28:13
til at styre agenten. I retning af at finde det
28:17
rigtige information på det tidspunkt, og det patter noget.
28:21
Bare hvor det ikke virker. Altså hvad siger du du har?
28:23
Der er stadig ting hvor hvor det ikke virker når når du har et en
28:27
rapport en eller 2 økonomisk rapport på 250 sider eller Sådan
28:31
et eller andet, det vil du også se i dag.
28:33
Hvis du tager Sådan en og uploader den til til chat gb t
28:36
og du spørger hvor har du fundet ud af svaret på det her?
28:39
Jamen Det har jeg fundet i det her dokument, jamen hvor hvor
28:42
henne i det her dokument har du fundet?
28:43
Jamen Jeg har fundet det i dokumentet og så.
28:47
Kunne en preopgave jo der være for agenten og sige hey.
28:50
Før vi begynder at snakke om det her dokument, så skal du lige
28:52
indeksere det Sådan, så du effektivt kan navigere det, så
28:55
du skal lige lave indholdsfortegnelsen først, før
28:58
vi begynder at snakke om det her ikke?
29:01
Ja og det Der er mange veje til det, men men man kan også sige
29:03
at lige så snart som man kommer op i nogle nogle dokument
29:06
størrelser, hvor du bare Det er fuldstændig umuligt at lave det
29:10
der håndholdte med med web, så får du bare tusindvis af trule
29:15
kald hvis du skal ned i 5 mio. dokumenter så så det Det har
29:19
sine grænser jo ikke. Ja men Jonas der snakker vi også
29:22
om om om nuværende ting altså 5000 gryps er det træls om et
29:27
år? Det tror jeg ikke altså. 5000
29:29
grap Jeg vil sige problemet er at Der er en stiafhængighed i
29:33
nu. Nu bliver det teknisk det her
29:35
ikke men men. Kommer.
29:36
Så er det jo et algoritme, når man skal ned i Sådan et Sådan et
29:39
træfstruktur og et indexering, så skal man have en effektiv
29:42
algoritme til det. Det der sker, når man har en
29:45
lillem til at gribe og læse de der filer, som kan ligge nede i
29:48
en meget dyb træstruktur. Det er at man har en meget
29:51
langsom algoritme til at true ned igennem den straf
29:55
træstruktur. For hvert skridt er den
29:58
afhængige af, hvor den ligesom står og finder ud af hvad hvad
30:00
for noget data er der så her, så den er afhængig af at hele tiden
30:04
at at tage et skridt ad gangen. Den kan ikke ligesom gøre det
30:06
parallelt. Nogle nogle ting kan man så gøre
30:09
for at gøre det mere parallelt og Sådan noget, men så bliver
30:11
det specialiseret tools, og det betyder bare at du har en eller
30:14
2 grænse for hvor effektivt det der kan være, især når du har
30:17
ellem inde i loopet til at lave tulekaldet i hvert fald lige nu.
30:20
Du kan ikke engang bruge det som nogen vil kalde for programmet
30:25
true cording, hvor du jo basically kan en vugge en
30:28
pipeline af nogle tools i et tool kald for et m.
30:32
Det svarer lidt til basch toolet, hvor du bare piper en
30:34
masse ting ikke engang Det kan du bruge til effektiv og tropper
30:37
ned igennem det, så Der er en eller 2 barriere der stadigvæk
30:42
når det når vi snakker store ting, men når vi ligesom snakker
30:45
at. At vi Vi skal ned og finde noget
30:49
relevant, som er en relativt lille størrelse.
30:51
De fleste hovedbaser er et meget lille størrelse.
30:53
I forhold til data vil jeg bare lige sige, så fungerer det bare
30:57
pisse godt, og Det er det man lige skal være obs på.
31:00
Du er jo også ude når du danner den.
31:02
Der wiki der så er du ude at søge på det store net.
31:04
Der bruger du en search engine, den er altså ikke lavet med en
31:07
agend der sidder og gør det Der er blevet bag det.
31:13
Så OK rack har stadig sin berettigelse.
31:15
Hvis Der er du ved trilioner af dokumenter eller milliarder af
31:18
dokumenter, som dem skal virkelig søge værdig og måske
31:21
endda smide med spreder for finde.
31:24
Eller Sådan noget rap day rap delen er jo ligesom bare at det
31:26
her retreval og olcmentd at Der er noget generering inderack.
31:30
Det er Sådan set indeseringen af selve søgningen, så Det er ren
31:33
retriet jeg snakker om. Jeg er ligeglad om Det er en
31:35
rapsammenhæng eller hvordan det bliver brugt om.
31:38
Rent søgninger retrivet kan man ikke løse effektivt.
31:43
Med en med en agent, der bare kalder et tool, medmindre at du
31:48
du har de her cases, hvor at det du ligesom leder rundt i ikke er
31:52
særlig stort. Jeg tænker også bare lige for at
31:56
fordi nu har vi snakket vildt meget omkring memory delen af af
31:59
second brain, men der hvor jeg føler at Sådan styrken faktisk
32:03
kommer. Det er den der med at jeg åbner
32:07
her ikke i den sidste 3 uger åbnet cloud clock code eller
32:11
codex. Inde i et repope.
32:14
Jeg åbner det altid inde i min inde i min agentmappe, hvor at
32:20
som jeg så hedder den hedder marvel fordi at at jeg godt kan
32:22
lide pisse 2 the Galaxy. Og så inde i dens
32:29
workspace-mappe ligger der jo så alle mine cording rehows, at den
32:34
ligesom har adgang til alt på tværs, så Det er meget lettere
32:37
at referere til. Hey, vi implementerede den her i
32:40
mit. I mit hobby projekt, hvor jeg
32:43
prøver at få AI til at spille pokemon Der er privatiserede vi
32:46
den her struktur også bare lige kopierer den herover, så vi
32:49
bruger det samme. Også at den har adgang til min
32:52
kalender og adgang, så i morges på min morning reeves.
32:55
Der var det Sådan hård. Husk du lige har et møde med
32:58
Kasper junge og Jonas i dag skal vi lige sørge for at forberede
33:02
os på det møde, samtidig med at den fik læst alle mine alle de
33:06
nye sletter, så jeg ligesom subscriber til for at synpise
33:09
den viden. Den også lige har styr på mine
33:13
hvad hvad er mine mine mål i livet er og hvad er min min
33:17
største frygt Der er Sådan at den kan hjælpe mig.
33:20
Jeg har bedt den om altid at push back på at over ingeniære,
33:24
fordi at at Det er simpelthen som aer ingen generer dit dit
33:30
største. Din største fjende er at tænke,
33:33
det kunne godt fedte på en mindre model det her.
33:36
Og så skal jeg sidde og lave alt muligt workflow pis og lort.
33:39
Som er outdated om 0,5 år. Der er dipsig ligesom bare en
33:44
tredivedel af prisen for GBT 5 level.
33:49
Ide så det her med at, at den ligesom har.
33:52
At den kender mig på tværs. Af alting og Det er sjovt, fordi
33:57
Det er jo også det vi i dinero nu er det jo nærmest dinero mere
34:00
der var for en 2,5 måned siden eller Sådan noget, men der havde
34:02
vi jo også altså dinero revolutionen er jo II et
34:06
motorrepow Sådan at at historiske årsager, Det er jo
34:10
før alt det her atleticoing og så videre og vibecoing og så
34:13
videre men men det viste sig bare at være en giga fordel.
34:17
At have Sådan et morgen rap på fordi du har alt koden et sted.
34:20
Og det vil sige, når du har din agent, så kan den sgu.
34:22
Den kan bare forstå alt det kontekst og alt basically, hvor
34:25
at når vi kommer ud for eksempel og laver workshops og er ude og
34:28
snakke med virksomheder og Sådan noget, så er det jo Det er jo
34:30
ikke alle steder man har Sådan et mona rap på og det skal bare
34:32
lige siges her. Der er forskel på en monolit og
34:34
en monore på et monarpo, ikke en monolit.
34:36
Det er jo Sådan en en stor. Banditter ikke service ja og
34:41
hvad hedder det monarep på ligesom bare at alt koden Det
34:44
kan være mange micro services Det kan være mange tools og
34:46
pakker og alt muligt og Sådan noget er bare i e-roy ikke og
34:50
Det er bare en en kæmpe fordel af fuldstændig samme årsager som
34:54
du nævner her Andreas Det er jo også et computerlaft tech har vi
34:57
jo også lavet monora på, altså hvor alt er i ikke og Det er
35:01
ikke Det er faktisk ikke kun kode, Det er også.
35:03
Workshop hvad hedder det? Undervisningsmateriale og.
35:08
Hvad hedder det? Hvad bosting og Sådan noget ikke
35:10
altså alt er bare der Sådan så alt kan forstås i kontekst af
35:13
hinanden ikke, og Det er jo også bare Sådan et tegn på at en en
35:17
klar bundlinje for de her agenter er jo også ja hvad for
35:20
en hvad for noget kontekst har de adgang til ikke og hvad har
35:22
de adgang til af tools og systemer og Sådan noget ikke?
35:26
Altså hvis alle virksomheder bare puttede lavede Sådan en
35:29
monore på og bare fik folk til at committe en masse mark-down
35:31
med deres med deres indhold, så så var der slet ikke brug for
35:35
noget andet til at løse det så. Det gjorde det bare der.
35:38
Og Det er jo i øvrigt også derfor det.
35:39
Det synes jeg også. Der er mange Der er mange der
35:41
snakker om det her med er en af årsagerne til at hvad hedder det
35:47
de her kodeagenter virker så godt i, altså i
35:49
softudviklingsverdenen er det det her med at Vi har de her
35:53
rapposter, hvor alt konteksten er samlet på en gang.
35:57
Og det ligesom er lidt mere. Kontekst er bedre samlet i
36:01
softwareudvikling og og og samtidig så er det også meget
36:04
mere nøjagtigt beskrevet. Fordi altså kode er jo den mest
36:08
klare kontekst du overhovedet kan have den mest klare
36:11
specifikation du kan her i noget ikke?
36:14
Hvorimod at i andre domæner, så er det jo ikke.
36:16
For det første er data ikke ligeså tæt på hinanden og lige
36:20
så velstruktureret og lige så råt format.
36:22
Det ligger meget mere distribueret ud mellem alle
36:24
mulige mærkelige stykker software og alle mulige systemer
36:27
og alt muligt. Og og så er det heller ikke
36:32
skrevet i kode som er meget du ved Sådan der.
36:34
Det er Sådan her, Sådan her og Sådan her.
36:36
Det som der står i koden ikke, men Det er skrevet i alt muligt
36:39
andet alt muligt andet format ikke det synes jeg også bare er
36:42
en interessant interessant tanke ikke og Det er jo mere.
36:45
Det er også det man interesserede med Sådan en
36:46
second brain her ikke hvor det Der er det mere Sådan
36:48
ustruktureret data og så naturlige sprog ikke mere end
36:51
Det er bare en kode alt sammen. Ja nice.
36:56
Ja. Nå, hvad hedder det?
37:00
Hvad har vi ellers? Vi kan snakke om jo.
37:02
Vi har jamen jeg Sådan nogle punkter.
37:03
Kan vi ikke prøve fordi Jeg tror noget af det som mange der også
37:08
i altså Det er jo også begyndt at blive Sådan en en best
37:10
practice ish at have i sin. Du ved Claude dot DMD eller
37:14
agent dot DMD de her instruktionsfiler at have Sådan
37:17
en form for det her progressed disclusure parterne hvor du
37:20
linker til ting Sådan så du ikke skal lave en fyrretusindlinjer,
37:23
lang kode base og så videre eller en 40.000 linjer lang
37:28
instruksen fil man ligesom kan lave det her patent hvor du
37:31
linker ud til forskellige filer. Men så bliver spørgsmålet.
37:35
Altså ja ja, men så er spørgsmålet ofte, hvordan
37:39
strukturerer du det her? Altså hvordan strukturerer du de
37:42
der mapper og filer og macdon filer og hvad?
37:45
Altså Det er jo hele den her organisering af det data og den
37:49
dydox er jo det. Det synes det observerer hvor
37:52
mange struggler med hvordan. Hvad har din tænkning været
37:55
omkring at strukturere det i second brainstoffet her.
37:59
Jeg starter med at gå fuld graf på den.
38:03
Så så fuld graf så ingen ingen hops så bare en stor reference
38:08
mappe med artikler der refererede til hinanden.
38:11
Så re legire du ligesom på. Absalon har sin egen CLI som
38:17
laver Sådan noget hybrid søgning ned virker overraskende godt
38:21
også, især når det sikkert ikke er lidt ligesom Jonas.
38:23
Eksempel bliver milliarder af af tekstlinjer.
38:26
Men og så ud fra dem. Har du så at hov nu ramte du vi
38:31
søger efter billedmodeller så rammer du rammer du nogle
38:35
forskellige billedmodeller, så refererer de til hinanden, så
38:37
finder du rimelig hurtigt ud af OK og billedmodeller, så er der
38:41
nogle benchmarks vi kigger efter bum bum, så får vi valgt den
38:44
bedst. Men så kørte jeg et eksperiment,
38:49
som faktisk var baseret på, at Jeg synes, at jeg godt kunne
38:52
lide. Jeg kunne godt lide ideen om at
38:54
inde i mit grafview så havde jeg Sådan en LM knap jeg kunne
38:57
trykke på og så bang så var alle elemmer ligesom alle
38:59
underartiklerne. Så jeg prøvede at få den til at
39:01
lave en hops som jo bare er mappestruktur.
39:04
Du har en overmappe hvor du så siger nå men her har du et
39:07
dilemma. Her er alle referencerne til
39:08
alle undere-medlemmerne som ligger i en mappe under det, så
39:11
du faktisk får en en hybrid struktur med både krops
39:16
mappestruktur plus frie referencer og kørt nogle test på
39:21
den bad den om at at generere et datasæt på 100 spørgsmål, der
39:25
kunne være relevante for datasæt og c.
39:28
Hvordan den hurtigst kom frem til informationer placeret på de
39:30
2 arkitektur og det her med hybrid ind faktisk med at være.
39:35
Den være den bedste fordi Det er oftest så det her med at den
39:39
kunne gå ned igennem hopsen fordi at Det er så logisk og så
39:43
semantisk giver det mening at du går ned i min min workshop og så
39:46
går du ned i min lmhop eller ikke min modelshop så går du ned
39:49
i min image models hop og så ligger de ligesom der allerede
39:53
indekseret og sorteret. II den hop Sådan at den meget
39:57
hurtigere kan finde den bedste. Og så hvis den rammer det bedste
40:00
billedmodel GPT 2 lige nu, så kan den så finde referencerne
40:05
til nå OK den bruger den her den her arkitektur hvis den så skal
40:09
vide mere i de her frie referencer, så det her med
40:12
hybridstrukturen med både med både hop, bast, mapper og frie
40:17
referencer var det jeg fandt frem til i mine u cases slog
40:22
slog det. Så det der ikke.
40:24
Det er et klassisk et træindesering.
40:28
Hvis du spørger mig, hvis hvis jeg forstår dig rigtig så er din
40:32
hops Det er din folder og så. Nede i dem der ligger der så
40:36
basically en eller 2 form for beskrivelse af hvad er der på
40:40
det her branch her altså. Hvad ligger der ligesom indenfor
40:44
den her? Og hvis jeg skal videre ned af
40:46
træet. Hvordan gør kommer jeg så det
40:50
eventuelt for eksempel? II den næste kategori det der
40:54
Det er bare Det er bare et klassisk træn eksamen.
40:57
Hvis du tager Sådan en gammel postfibsdatabase og du kører
41:00
Sådan et et gin Index på på noget, så er det basically det
41:05
den gør. Det er den.
41:09
Den betaler. Ja hvordan du skrev min
41:12
institutioner om hvad hvad er et godt Index er?
41:15
Så. Hvordan så du du du sagde du
41:19
havde testet 2 forskellige approachues hvad hvad var din
41:22
Sådan appoach ja post til at teste approach.
41:26
Men altså Det var eller sneg jo ved at lave et syntetisk datasæt
41:31
af 100 spørgsmål man kunne stille ned i min knolling space.
41:37
Og så meld mig til altså med tilhørende svar altså Sådan
41:41
rigtige svar eller? Så en af dem her.
41:45
Det er du ved hvad hvad er den, hvad er den bedste image editing
41:50
model lige nu? Det er der jo Sådan et rimelig
41:53
konkret svar på, at vi kunne stille op.
41:54
Eller så er det hvilken hvilken content foretrækker Andreas
42:01
eller? Noget også noget ned i mit Sådan
42:04
personnal Jeg har lige haft. Ondt i andre, så havde jeg et
42:08
ankeltningsprogram, som den hjalp mig med at at minde mig
42:11
om. Jeg skulle lave altså Sådan
42:12
nogle af de her spørgsmål. Og så kunne den jo bare teste de
42:17
det her med, at når den så lavede, så prøvede den den her
42:19
nye struktur som var. De her 3 strukturer som jo er.
42:25
Hvad er det det hedder hopbbased?
42:29
Hvad hedder det? Referencebased og hybrid som jo
42:31
begge dele. Jamen så lad den, så er den bare
42:34
for at at at lave altså lave strukturerne om til de
42:39
forskellige 3 forskellige mapper og så lavede den den her test
42:43
med en så-agent som så skulle svare på de her 100 spørgsmål.
42:47
Børn det det synes jeg bare er interessant at prage.
42:50
Det er fandeme noget man glemmer tit.
42:52
Det der synes jeg det der med rent faktisk at.
42:54
Og det skammer jeg om og mig over.
42:56
Men altså det der med at lave rent faktisk evalueringen af det
42:59
man de der altså prøve at gå lidt netop fordi Det er så
43:03
fluffffy det her. Det er så Det er så fluffy det
43:06
her med Sådan. Hvordan virker det ene og det
43:07
andet og så er der nogen der synes noget og så er der nogen
43:09
der tænker amen vi tager bare Sådan en sworm agenter ikke de
43:12
fyrer bare 50 agenter mod det her ikke og brænder en masse
43:15
tokens af og så altså Det har man rent faktisk ikke finde ud
43:18
af. Hvordan kan man teste stik og
43:20
hvad hedder det der synes jeg bare at.
43:22
Det er total undervurderet, og Det er noget, man skal.
43:24
Noget Jeg synes Vi skal inspirere lytterne til og prøve
43:27
og tage det seriøst og lave de her tests.
43:32
Man kan også forestille sig det på kodebaser ikke altså hvis man
43:34
har et eller andet et eller andet.
43:38
System, hvor at agenten altid misforstår et eller andet ikke
43:42
eller altså Sådan samle på de der.
43:45
Det er jo i virkeligheden guld værd, og Det er jo det typisk
43:48
når når når folk når softudviklere lige bliver
43:50
introduceret til at bruge a og agenter, så bliver de pisse
43:53
irriterede, når Der er noget de ikke forstår ikke.
43:55
Eller når Der er et eller andet de fejler på eller et eller
43:57
andet ikke. Men dem Der er i det der at
43:59
gennemsnit engineering mindset. De bliver jo Sådan der.
44:02
Der er bare en Golden nuttet dér, fordi den skal jeg huske at
44:06
notere et eller andet sted, fordi det giver mig information
44:09
omkring. Hvad er den ikke forstår?
44:10
Og hvordan kan jeg gøre det bedre?
44:11
Ikke og Det er jo guld værd til Sådan nogle tage Sådan nogle.
44:14
Hvis man så har Sådan et evaluerings setup til ligesom at
44:16
sige. Ja du ved så kunne du så kunne
44:18
man lave en en q and a ud af det en q and a testet ud af det ikke
44:21
Sådan at nu prøver vi de her forskellige former for måde at
44:25
dokumentere Vores kodebase på for agenter.
44:28
Eller man kan også tage den videre og sige nu laver vi denne
44:32
her harmes så vi kan give a get nogle feedback loops.
44:36
Kan den løse de her opgaver og Sådan noget ikke?
44:39
Ja det. Er også Vi har lige.
44:41
Vi har lige hyret her i simpleli og en af de ting der var Sådan
44:45
fucking imponerende altid. Det var når nogen havde god
44:48
evalups. Jeg tror Det er et number one
44:51
skill man kommer til at kigge fremad fordi at selv airing selv
44:55
altså det her med at at kunne optimere en agent hen mod et
44:59
simpelt mål, altså lave en lave en agent som finder et giver
45:03
givet noget filmmed data finder et MDB link til den eller
45:07
predictor at der ikke findes et fordi Det er.
45:11
Lokal TV fra Polen. Så.
45:17
Så er det altså Sådan det vigtigste ved det problem er jo
45:20
faktisk ikke inchineering delen af det.
45:22
Det er super sjovt og jeg elsker det og Jeg er ked af at jeg
45:25
snart ikke skal gøre det mere, men Det er idræt opsen Det er jo
45:29
Det er jo hvordan vurderer jeg om om om mine ændringer var
45:33
bedre end før? Fordi at at at at det her Det er
45:37
jo et meget simpelt du har et Det er jo 1 1 1 altså ivan her
45:41
er jo et meget simpelt. Ja nej så du får en højere
45:43
præstation. Laver du record blind bum skrub
45:46
på nogle knapper? Det kommer af også til at løse
45:49
altså Sådan late sommer agtigt. For eksempel ved det her oder
45:53
research men og så lige sætte en stemme videre OK på et eller
45:58
andet, så skal vi have eval op med ela le lemos og judge.
46:01
Jeg skal die hart. Vi har 400 billeder på die hard.
46:06
Hvad er det bedste billede på dig hard hvad?
46:08
Hvad sender vi til Netflix? Altså det skal vi jo finde ud af
46:12
det der jo ikke et nødvendigvis et et rigtigt svar på, og så
46:16
skal vi jo til at have noget elever og judge.
46:19
Hvordan gør vi de her ting johnvalere vi.
46:21
Det er også bare for vildt at det der med i forvejen.
46:24
Det er i hvert fald det mig og Jonas oplever Christian, når Vi
46:27
er ude ikke? Altså i forvejen skal
46:28
softwareudviklere til at vænne sig til, at de ikke skal skrive
46:31
koden selv, men at de skal tage et skridt tilbage og så finde ud
46:34
af altså delegere det og så finde ud af.
46:36
Hvordan kan jeg ligesom lave miljøet ud omkring den her
46:38
glemt, så den er sat så godt op til succes som muligt?
46:42
Ikke så Det er et stort skridt i sig selv, men det der med at man
46:45
også skal vænne sig til. At rent faktisk at tænke de her
46:49
synes altså Det er jo bare systemtænkning på steroider,
46:52
ikke? I forhold til at få de her ting,
46:54
så så ja og det virker ja og det.
46:58
Det er lidt metamseta ikke på en eller 2 måde i forhold til til
47:02
hvordan man er vant til at tænke, så Jeg tror det.
47:03
Jeg tror ikke at Det er Jeg kan godt forstå hvis ikke det ligger
47:07
lige for for mange at tænke på den her måde.
47:10
Lad os sige det for Jeg kan. Ikke lade være med at lige og og
47:13
og lige Sådan nam drop nogen nogen gutter sikkert noget
47:17
Silicon Valley af en eller 2 art.
47:19
Som hedder rand drop AI. Vi har basically det man er
47:23
begyndt at kalde for agentmonitoring og observity,
47:27
som man kan sige, ligesom vi i gamle dage havde
47:31
brugergrænseflader, hvor at så ville vi gerne lige vide, hvad
47:33
brugerne klikkede på og vi kunne lave nogle AB test og ligesom
47:36
monitorerer om om dit det her brugerflow godt eller skidt og
47:40
så videre og så videre. Så er det jo nu et helt
47:42
formentligt nogle helt andre ting Vi skal monitorere eller
47:46
ikke, formentlig det ved vi Det er rimelig anderledes.
47:49
Og de har altså slået sig på det her med, at vi kan simpelthen
47:52
monitorere de her agenter for jer.
47:54
Hvornår går der noget galt? Kigger på tunkaldt der går galt.
47:58
Kigger på brugersentiment input som siger.
48:02
Brugeren siger her, at det blev ikke fikset, eller der var x
48:05
antal litterationer henover den her.
48:07
Den startede her den her det her agent flow og og så kan man,
48:12
hvis man også bygger agenter som man ligesom shipper til andre,
48:15
så kan man jo så få, hvis man ændrer i sin harnes, så kan man
48:18
jo så få en AB test af sin ændring i harnessen.
48:21
Så kan man se om nogle af de her matrikker går op eller ned
48:24
simpelthen. Ja og Der er jo selvfølgelig til
48:27
de her klassefejere, så er der selvfølgelig.
48:31
Antal hvad hedder det ARI slash micheal learning modeller der
48:34
ligger nede af af linjen og man kan sågar også med det her tool
48:38
faktisk lave. Du ved med en from see Jeg vil
48:41
gerne have en klassefejer til det her output fra en erkendt og
48:46
så så skal den selv ligesom sætte en træning i gang af en
48:49
optimeret klassevej til det, hvilket er super meta igen.
48:54
Men anyway, Det er bare for at sige, at det her det her tilbage
48:57
her ikke? Det er anja interesser.
48:59
Der er bare meta ikke det her space her, Det er bare.
49:04
Det er bare et rivende udvikling, og Jeg tror på, at
49:07
det her monitorering af agenter i produktion.
49:10
Det bliver en stor ting, fordi der lige om lidt er de over det
49:12
hele. Så men ja.
49:16
Fordi Vi har lige nogle i chatten her som som siger først
49:20
lige hoppet på, men ser frem til at lytte hele episoden.
49:23
Tænker Det er efter virkelighed live har for caparty eller
49:25
lemviki er også noget Jeg har udforsket, så er der IIII 69 som
49:31
skriver hvad bliver der talt om spørgsmålstegn og så spørger
49:34
vedkommende hvad er jeres mening om Trump?
49:38
Det, Det kan vi ikke udtale os om.
49:42
Så så jeg tænker Det er lidt off scope i at begynde at dykke ned
49:46
i det men men spændende hvad hedder det skyggerne overhovedet
49:51
ikke ved at blive lange, men Vi har en klokken er ved at være.
49:57
Er det hvad? Er det for en lyd?
49:58
Har du noget? Støj på linjerne.
50:00
Eller en måde ved mig? Nå nej, det ved bare
50:03
kompressoren, Der er i gang med at du.
50:05
Ved. Ja.
50:08
Der Der er lidt. Om i hvert fald.
50:12
Jeg tænker, at vi så småt skal til at runde af, fordi at
50:15
klokken er ved at blive. Vi har snart ved at være snakket
50:18
en time og Sådan noget så og det støjer virkelig meget er er det
50:21
kun mine jeg? Kan lige prøve at se om Jeg kan
50:23
finde en 2 mealbox. Jeg tror Det er den er opdaget
50:26
at der ikke var noget o 2 tilbage inde i min mailbox.
50:30
Du skal også helst overleve podcasten her Andreas og du må
50:33
hellere sende dig videre i livet uden CO 2 forgiftning.
50:39
Det det prioriterer meget højt. Vi prioriterer meget højt, og
50:41
Vores gæster overlever podcasten.
50:44
Altså mange. Gange Jeg har set komme igennem,
50:46
vil jeg sige. Ej Vi har et par gengangere,
50:50
men. Ja, men men heroppe på
50:55
falderebet er der et eller andet.
50:56
Det er jo det vi siger Andreas måske promote jeg vi snakkede om
50:59
før vi gik live og du havde en youtube kanal og du har også et
51:02
raphov hvor du har hvad hedder det lavet det her second
51:05
brain-setup kan du ikke lige. Lave nogle plugs det det bedste
51:10
plug. Det er nok min min min LinkedIn
51:12
kommer connect med mig. Jeg prøver at være aktiv.
51:16
Og og der deler jeg også alle mine youtube videoer, men ellers
51:19
så bliver Andreas Astrup. Er min youtube kanal Det er
51:22
stadig Jeg tror Jeg har 2 Jeg har også en der var Der er
51:25
sportsrelateret det dukker altid op så Det er Sådan noget men men
51:28
ellers så er det noget med noget.
51:29
Hvad er det for noget sport? Med en wickboard.
51:33
Hvad er det for en wikboard snoward på vand?
51:38
Nyt. Podcast afsnit, så tager vi
51:41
næste gang. Ellers så.
51:46
Hvis man synes at AI engineering altså en ting er vibecoating og
51:51
det skal alle jo til på en eller 2 måde, men hvis man synes det
51:54
med at løse et et autonomt problem med a regeringen, der
51:59
lyder sygt spændende, så tag fat i mig og blive leder jeg stadig
52:02
efter talenter i simple TV. Det er Det er det fedeste sted
52:06
at være. Det er locom pleance data.
52:09
Vi har ikke noget persondata, Det er på data ind data ud så.
52:13
Vi kan bare altså virkelig lave rigtig, rigtig meget autonomt
52:16
arbejde med agenter og prioritere meget, meget, meget
52:20
lidt human loop. Så hvis man har lyst til at
52:22
snakke om det, er jeg interesseret i det, så søger vi
52:24
aktivt altid efter talenter eller så.
52:28
Håber jeg at jo så skal man også.
52:29
Man skal huske at møde op til hvis man bor i København til.
52:34
Danish Det er design community ved brugs, og det skal vi.
52:37
Den er her uge eller Sådan noget er der ikke torsdag Det kan.
52:41
Godt være jo. Jeg har Bornholm.
52:43
Tror du stadig Det er Andreas? Er det Sådan?
52:45
Altid altid altid Sådan. Sindssygt godt man.
52:48
Jeg tror snart jeg skal afsted igen og have lidt lidt.
52:50
Lidt penge. Og så diskuterer Jeg kan altid
52:53
komme med et ret take om noget, og så kan vi diskutere om det.
52:57
Det er mega fedt. Jeg skulle lige til at spørge om
53:01
du havde et hot take her på på på falderebet, men Det er måske
53:04
en stor en lige at starte nu her.
53:07
Ja Jeg kan at at computer vision er død.
53:11
At generelle billedet redigeringsmodeller nu slår alle
53:16
kommer til at slå alle computervision task såke.
53:21
Fedt hot take hot take taken. Kan man sige så det Det er cool
53:27
1000 tak fordi du har med Andreas Det var en fornøjelse at
53:29
snakke med dig og spændende projekt gå ind og tjek det på
53:31
git hub vi linker til det i show notes og ja ellers må i bare
53:34
have en rigtig rigtig fed dag allesammen.
53:37
Hey hej.