Latest / Verbos: AI og Softwareudvikling / #37 - Tech Vi Skal Nørde I 2024

Transcript

#37 - Tech Vi Skal Nørde I 2024 · Verbos: AI og Softwareudvikling

0:00
Har alle sammen velkommen til Vores podcast afsnit nummer 37 i
0:04
dag skal ja godt nytår for det første alle sammen.
0:06
Det er jo Vores første afsnit her i 2024, og i dag skal det
0:10
handle om tech som mig og Jonas godt kunne tænke os at eller som
0:14
Vi skal nørde i 2024 og Vi har Jeg har 5 punkter og du har 4
0:19
punkter Sådan 3 4 s punkter ja så Vi skal simpelthen bare tænke
0:24
Det er Sådan en snak slags tech nytårsfortsæt kan man vist godt
0:28
sige. Og måske kan lige løfte sløret
0:32
en lille bitte smule for hvad Det er for noget Vi skal snakke
0:34
om. Vi skal snakke om noget, Vi skal
0:36
snakke noget rust, og det glæder jeg mig meget til at høre det
0:39
som så kan. I måske gætter Det er Jonas der
0:41
har har den hat på, så skal vi snakke om Sådan noget med Sådan
0:46
lidt mere Sådan noget brunt engineering Sådan noget mere LM
0:50
lokale LM var syntetisk datasæt generering prompt ups et prompte
0:57
engineering aps multi agent systemer jeg Det er bare mig der
1:02
dropper dropper buzzwords. Men og så kan vi snakke lidt the
1:05
consumer p ur og noget noget hardware også som ja kæmpe stor
1:10
pærevælling af ting og sager. Ja så i har en i kan glæde jer
1:15
til ende tilbage og finde popcornene frem og høre med på
1:17
den her. Sådan nok som nok kommer til den
1:19
OK nørdet session her i de første afsnit i år af Vores
1:24
podcast. Godt nytår Jonas godt nytår
1:27
Kasper 1000 tak er du kommet er du kommet godt ind i det nye år.
1:31
Jeg er frisk for en gangs skyld. Det er jo altid godt.
1:38
Så ej jeg glæder mig rigtig meget til til 24.
1:41
Jeg kommer til at ske en masse crazy ting også inde på
1:43
arbejdet, men alle de ting vi sidder eller alle de ting jeg
1:47
skal snakke om hvad jeg godt kunne tænke mig at gøre Det er
1:50
faktisk ikke en dyt at gøre med mit arbejde lidt, men Det er
1:54
meget Sådan hvad man selv har lyst til.
1:56
Det kan være i bliver implementeret i rust efter noget
2:00
ømme her. 100 måske. Så det så Det er mega fedt hvad
2:06
hedder det? Ja og.
2:07
Ja, og Det er jo i gang. Hvad hedder det på en eller
2:09
anden måde? Så har jeg ret mange
2:10
forventninger til 2024, fordi på en eller anden måde, så var det
2:13
ligesom. Jeg ser lidt 2023 som Sådan et
2:17
ER blow your mind året. Det var ligesom Det var der hvor
2:20
hele verden blev Sådan ligesom wow e vildt og Det er Det er
2:24
seriøst det her nu skal vi. Folk ligesom kommet sig over
2:27
chokket og har ligesom besluttet sig for nu skal vi til at lave
2:29
noget shit. Der var rigtig brugbart og lave
2:31
noget værdi med det her, ikke? Du skal måske have lidt mere ro
2:34
på. Ja så meget hype.
2:37
Nej lige præcis. Vi måske lidt over hype cycle
2:39
ikke? Og nu begynder vi at at komme
2:42
ind i det der med nu tager folk som så ligesom sammen og siger,
2:44
hvordan kan vi bygge nogle ting som er robuste og som ikke bare
2:47
demoer og som ligesom kommer ud og får lavet nogle sindssyge
2:50
ting ikke så altså bare Sådan noget Jeg tror vi kan forvente
2:53
og Sådan noget som siri på Vores iPhone bliver meget klogere
2:58
meget snart. Pludselig bliver den god giver
3:01
man. Det jo, den er jo i stenalderen
3:03
nu ikke. Altså det kommer.
3:04
Jeg tror det kommer også til at være lidt over hvor folk kommer
3:06
til at skulle. Vænne sig til det her language
3:08
interface på en eller anden måde.
3:10
Ikke fordi Vi har haft så lave forventninger til Sådan noget
3:13
stemme teknologi for det med Messi.
3:16
Blandt andet ikke altså hvor du har computere jo hvert fald
3:20
potentiale for et helt nyt niveau af sprogforståelse kan
3:23
man sige ikke så så det bliver spændende.
3:25
Og så bare lige bare lige hurtigt en en ting Jeg har Jeg
3:28
har der blev breaket her lige før nytår Anders beck som jeg
3:32
ved ikke om du kender Anders bech Jonas, men han er den ene
3:36
medvært i den Vores med r podcast som i danske podcast som
3:42
hedder e revolutionen som er Sådan en investerings AI podcast
3:47
Anders bech der han han er sgu lige blevet panel ekspert i
3:50
millionærklubben. Og det synes Jeg er interessant
3:55
af 2 årsager. For det første fordi at de får
3:57
en Sådan en tech. Han er uddannet ingeniør for det
3:59
første. Det synes Jeg er interessant og
4:01
ikke du ved nødvendigvis Sådan gammel OK nu skal jeg passe på
4:05
med at være fordomsfuld, men du ved.
4:07
Du er uddannet ingeniør. Han har ligesom tænker ã r som
4:10
primær Sådan interesse, og han har Sådan en lidt må man formode
4:13
Sådan lidt dybere forståelse for software i det og så er han.
4:17
Jeg tror han er 31, så Det er også Sådan lidt alders
4:19
diversitet ikke? Altså det også lidt.
4:22
Ja glæder mig bare til at få i millionærklubben, og jeg ser det
4:25
som en stor Sådan en stor ting for ja for for Vores generation
4:29
og også sikre for for RI investeringer og Sådan noget så
4:31
og ingeniører du ved i ja. I forretningsfolks ører og Sådan
4:37
noget, så det bliver mega fedt cool anyways Det var et lille
4:41
sidespor jeg tænker på Jonas vil du ikke vil du ikke bare starte
4:45
med fordi Vi har Sådan en Vi har en en. 7 ting også når Vi skal
4:50
igennem, så jeg tænker bare vil du ikke vil du ikke starte med
4:52
med dit første på listen at tænke ting du gerne vil nørde i
4:56
2024? Jo, først vil jeg sige at.
5:01
Hockey fase af skal man jo være stor fan af, og vi havde jo et
5:06
afsnit, hvor vi snakkede om at at det her candy.
5:12
Library som hocking kom ud med som dybest set handler om, at
5:19
høringsfase har ligesom indset at hey, Vi har brug for et sprog
5:24
der der ikke har de her bottlenecks, som Vi har i
5:26
python, som kører hurtigere og og og pixwords er ikke rigtig.
5:33
Det er rigtig godt nok til os, når Vi skal køre de her
5:35
løsninger LM og hvad det ellers måtte være anyways, så derfor så
5:41
har de ligesom valgt at gå. En anden vej og lave deres egen
5:46
package, og Det har de gjort i rust.
5:49
Og man ser faktisk at rust efterhånden begynder at blive
5:53
Sådan et et sprog, der bliver brugt rigtig meget indenfor for
5:57
det der sience og de burning og så videre.
6:01
Så så Det har ligesom catchet ret meget op, og Det er populært
6:04
alle mulige andre ting heri har eksisteret i lang tid rust, men
6:08
det begynder simpelthen at catche op på data science siden
6:10
også og ikke mindst også som en måde at at lave mere performance
6:16
kode der kan bruges inde i python i noget der hedder.
6:19
Jeg tror det hedder pyo 3 eller pige 3 ø eller et eller andet.
6:23
Det er Sådan et interface hvor man kan skrive en rust kode,
6:26
lave nogle binaries og pakke dem sammen med python og så skubbe
6:29
det op til sin til sin pakke og Sådan noget.
6:32
Ikke så så rust og vi snakker meget om mojo mojo overtager
6:38
python Sådan nej men Jeg tror rust bliver rigtig stort og det
6:42
der kommer til at ske nogle ting som.
6:45
Jeg tror det kommer til at ske nogle ting, som har altså
6:47
høringsfase relateret, som vi kommer til at se primært er
6:52
noget som sker inde i rust verdenen.
6:54
OK, så Det er et godt tidspunkt at lære rust på nu og til det
6:59
skal man jo have et projekt. Og så var det.
7:02
Jeg tænkte at her den anden dag. Nu har vi jo lige lanceret hvad
7:08
boss podcasts, hjemmesiden og den havde jeg.
7:11
I øvrigt en nyhed, som vi ikke har snakket om på podcasten nu
7:14
beboespodcast.dk er up and running og Det er Vores website.
7:18
Ja så gå ind og tjek det og bare spam det og læg det ned med ddos
7:22
angreb og. Derfor er det skrev vi ud i før
7:27
jul sad vi satte vi os sammen og skrev i python første PI gin jeg
7:35
lidt forskelligt. Det er jo Sådan set næsten bare
7:37
en statisk side, hvor Der er noget HMICS, så Det er jo ikke
7:41
fordi Der er brugt så meget python.
7:43
Men så var det jeg sad der og tænkte okay man skal jo have et
7:45
projekt hvis man skal lave noget rust, så nu skriver vi hvad
7:48
bruges podcast i rust så så så så det.
7:54
Det har jeg lige fået et kvarter siden.
7:57
Det pløjede. Trustbuddy nede på en lille
8:02
skide maskine og og den ja og hvad hvorfor hvorfor?
8:07
Altså Det er jo skørt og det synes.
8:10
Jeg bare inden du inden du starter ikke hvad hedder det nu?
8:13
Websitet kører i rust hvad betyder det helt konkret i
8:16
forhold til hvis det kørte i python?
8:18
Altså er Det er det hurtigere eller Sådan noget?
8:21
Man forventer det hurtigere. Helt helt sikkert out of box, og
8:24
Det er hurtigere, men du oplever nok ikke lavere latens sige på
8:28
websitet. Til noget du kan mærke
8:31
forskellen på på den måde, fordi Det er det Der er så lidt, men
8:36
Det kan tage mere trafik, for det går ned.
8:38
For eksempel så bruger det mindre hukommelse.
8:41
Det vil sige, Jeg kan bruge 4 dollars.
8:44
Og og og og så ikke få nogen alarm om, at nu er hukommelsen
8:48
ved at blive brugt op. Da jeg kørte python der fik jeg
8:50
Sådan en alarm. Og nej, nu er hukommelsen ved at
8:53
blive brugt. Nej vent lige lidt nu nick vil
8:55
jeg bruge det alligevel blive brugt og Det er fordi at Sådan
8:58
er piger han lidt sjovt ikke? Altså Der er lidt League og lidt
9:01
garbage collection og Sådan nogle ting og så.
9:04
Så kører det der memory forbrug Sådan lidt op og ned, så den lå
9:06
lige på grænsen der. Ikke.
9:08
Også selvom den ikke laver noget den der intervaller rust er.
9:13
Kommet ind prøv lige at komme ind på podcast.dk og Det kan jeg
9:17
ikke der kan man se. Sådan allerede i crash og altså
9:24
men men men men pointen i at gøre det.
9:27
Det er jo også altså hvad man siger.
9:29
Det her lærer det ikke. Og der skal du have et projekt.
9:33
Hvis du skal lære et nyt sprog, skal du have et andet projekt.
9:36
Så så Det har jeg begivet mig at se.
9:38
Må jeg spørge om noget? Hvordan forestiller du nu siger,
9:41
at det her rust det kommer til at blive vigtigt IAI frem.
9:46
Vi hørte, jeg føler, jeg hørte. Jeg føler, jeg hørte dig sige,
9:49
hvordan tror du det kommer til at udvide?
9:53
Tryk eller Sådan? Hvordan tror du man kommer til
9:54
at se det? Tror du at tror du det i form af
9:57
at der ikke er nogen der kommer til at bruge penge touch om 2 år
10:01
men så bør alle channel eller er det mere?
10:06
Bliver der skrevet nogle underliggende libraries i rust,
10:08
som for at modellerne til at køre hurtigt, og som bliver
10:11
observeret op til noget python. Og så kan vi bruge stille mig
10:14
igennem eller hvordan? Hvordan spørger du ligesom at
10:17
rust får betydning IEI økosystemet?
10:22
Men Jeg tror Det har det får stor betydning for for python
10:25
altså der. Der har jo været II en lang
10:28
periode en en måde at få noget c plus plus til ligesom at spille
10:33
sammen med python og og og hvad hedder det?
10:38
Python entreprenør har jo også de her c altså AP hvor man.
10:43
Ikke. Det Det er noget, Det er noget
10:46
andet, men men altså hvor man ligesom kan kan skrive noget
10:49
noget det blandt andet noget som bruger det AP, som ligger inde i
10:52
en torpedo, der ligesom kan interagere direkte med med CC
10:57
kode ikke og på den måde Det har været lidt besværligt, kan man
11:02
sige på den måde at skulle skrive noget der Sådan kunne
11:05
komme ind og køre II fra python? Og det tror jeg, Det er
11:12
væsentligt nemmere med rust med nogle af de løsninger, Der er
11:14
lavet der, Sådan som jeg forstår det.
11:16
Og Det er slet ikke noget det her.
11:18
Det er ikke sikkert det her. Det er sandheden overhovedet,
11:20
men men. Men Der er også et eller andet
11:23
med at at rust er ligesom blevet et sprog, der har fået ret meget
11:27
credit. Altså Det er ligesom c plus plus
11:31
programmører, som som bevæger sig over i rust.
11:34
Det er blevet en en del af, altså bondos har ligesom.
11:38
Også taget det ind i deres cornell, og Det er også en linux
11:43
kernel og og Microsoft har ligesom sagt, at der kommer til
11:46
at være meget mere rust i asher. Amazon har lavet deres SDK til
11:52
at køre altså. Ligesom interagere med Amazon
11:56
ting med med rust, hvor de ligesom siger nu mener de er
12:00
kommet ud for nylig, hvor de har sagt.
12:01
Nu har vi en rust client, så så rigtig rigtig mange af de store
12:06
spillere begynder ligesom at give os ind på at okay.
12:08
Der er altså nogle herovre i rust community og og dem skal
12:12
vi. Dem skal vi også tilfredsstille,
12:16
så de ligesom. Så de ligesom kan skrive ting II
12:20
rust der der interagerer med ved cloud eleverne direkte, ikke?
12:25
Interessant, i sig selv er fucking face vælger at lave
12:28
candle i rusting ja. Og så er det jo altså.
12:32
Det er jo et et sprog som. Nemt at skrive ikke altså
12:37
gåseøjne. Det er ikke Det er ikke nemt.
12:39
Du kan bare se hvor godt det går med med websitet lige nu ikke så
12:43
så der kan jo ske alt muligt som som er det man ikke ved en dyt
12:47
om blandt andet blandt andet i city crash og jeg ved hvorfor.
12:53
Ikke hul igennem. Det er da helt sikkert død. 2
12:59
branches. Ja og ikke slettet den gamle
13:02
kode nu rolig. Var det godt.
13:05
Så nej, men men men hvad hedder det?
13:10
Hvad var det vil sige? Jo altså det.
13:12
Det er nemmere at skrive. Noget fornuftigt kode i rust
13:18
endda at gøre det IC plus plus tror jeg og jeg.
13:21
Fatter stadig ikke helt, hvorfor Det er det, men Det er nok fordi
13:24
man ikke sidder og roder dernede på på det niveau der.
13:27
Ja ja og det ved jeg heller ikke om er rigtigt.
13:29
Det kommer også an på hvor god man er til de forskellige sprog.
13:31
Man kan jo ikke bare sige det. Det er nemmere generelt.
13:34
Jeg tror Det er nemmere at lære rust end Det er at lære at sige
13:36
plus. Der må være noget med det, ikke
13:38
siden folk er så oppe og køre over det, tænker jeg.
13:40
Jo, Det har jeg bare. Det har i hvert fald.
13:42
En. Høj traction jeg spørger lige.
13:46
Det er i øvrigt det til skyld at at det ikke virker det der
13:50
ruskede det her. Det er 100% mig der har spurgt
13:52
chat kan vi se hvordan man gør ikke og Det er jo Det er jo i
13:57
øvrigt den altså jeg Jeg har det Sådan lidt Det er jo den fedeste
13:59
måde at lære et nyt programmeringssprog på, Det er
14:04
jo at hvad kan man sige battle lidt med compileren og så så
14:07
spørger chat kapitel Det er jo gået enormt hurtigt 2 dage og
14:11
det virker supergodt ikke så så på den måde, så så kan man også
14:16
komme meget hurtigt. Ud over stepperne og ligesom få
14:18
noget, der virker og så. Ja, det virker så ikke, men det
14:24
bliver en stemning joke. Det der med at sitet ikke virker
14:26
nu. OK chain vi siger, at Det er i
14:30
høj grad begynder memory safety at rust er.
14:32
Det er rust største selling point i forhold til c plus plus
14:36
konkurrence i den har Sådan en robust currency support.
14:40
Det ved jeg ikke om man sige plus plus ikke har, så står der
14:43
også den her moderne Sådan tooling og eco økosystemet ikke,
14:46
så man kan også sige, Der er altså theologos er efterhånden
14:49
et rimeligt gammelt sprog, ikke så man kunne forestille sig at
14:51
Der er noget omkring tumling og ekosystem, som ligesom.
14:54
Er er. Brugerne er Sådan en ret
14:57
tænkning simpelthen ikke, og Det er jo heller ikke bestemt ikke
15:00
ligegyldigt, hvordan økosystemet og tooling og community og Sådan
15:04
noget ligesom fungerer. Slet ikke.
15:09
Mega fedt nå ja rust det bliver kæmpestort Det er jeg sikker på
15:12
Jonas og Vi skal nok få det op at stå i rust det 100% procent
15:17
overbevist om. At stå flot II rust.
15:22
I rust ja anyways hvad hedder det?
15:24
Jeg tænker på jeg skulle tage min første punkt her jeg kunne
15:28
rigtig. Jeg kunne rigtig godt tænke mig
15:30
Jeg har. Jeg har Sådan II løbet af det
15:32
sidste halvdel af 2024 er kommet op meget op at køre over hvad
15:37
skal man sige lokale larch models?
15:39
Altså det her med at kunne køre langs mødes lokalt og fordi hvis
15:45
man har nu har jeg jeg kører Sådan en macbook pro m 2 chip og
15:50
hvis man har den de her m 2 chips så kan man hente et end
15:54
noget software ned med open source software ned der hedder
15:56
øh lama på sin mac computer og så kan man hente og køre de her
16:01
open source 7 milliarder modeller især ret ret effektivt
16:07
altså i en form for hastighed og kvalitet som du vil.
16:11
Som det svarer til, eller i hvert fald hastighed, som som
16:14
svarer til 3,5 i chat VT basically og har måske ikke, men
16:18
i hvert fald Sådan chatt hastighed ish og det fede ved
16:23
Det er at du ligesom kan skrive du kan køre.
16:24
Du kan chatte med sprog modellerne i dit i din terminal,
16:28
men så kan du rent faktisk også sætte ind points op lokalt.
16:35
Til din til for eksempel mistral 7 b, så det vil sige du kan.
16:39
Altså du kan simpelthen bygge applikationer som, eller du kan
16:44
udvikle kode som bruger lars lægemiddels uden at have en open
16:49
air PI kiev i kiev. Og ligesom bekymre dig om at du
16:54
bruger penge hver eneste gang du kalder p 4 for eksempel, så så
16:57
kan du altså på den måde bare ligesom sætte et lokalt end
16:59
point op til en mistral 7 b for eksempel, som er de her soltørre
17:04
7 b range. Model så vidt Jeg er orienteret
17:08
lige nu i hvert fald som fungerer overraskende godt, så
17:11
kan man ligesom sætte det her endpoint op lokalt og så ligesom
17:13
bare og man kan der findes i light LM som er det her ret
17:19
svedige open source library, som ligesom er poppet op som faktisk
17:22
Sådan lidt combine der starter op her i den sidste halvdel af
17:26
eller i hvert fald i 2024. Der kan man med der kan man
17:31
ligesom køre spænde Sådan nogle proxyservere op som ligesom
17:35
laver et open NIP interface. Til til alle modeller, som du
17:41
ligesom kan få ned. Og det vil sige, du kan faktisk
17:44
bare Sådan drop in replace openai lars lynge mødes med med
17:49
din lokale mistral for eksempel, og Det er ret interessant fordi.
17:55
Så kan du lige pludselig begynde at hacke rigtig meget lokalt, og
18:00
Der er ikke noget der hedder raids.
18:01
Der er ikke noget der hedder Der er noget der hedder de her.
18:05
Politikker for hvad man må skrive til, hvad man ikke må og
18:08
så videre og så videre og så videre.
18:10
Og det synes Jeg er interessant, og Det kan jeg mærke, at Der er
18:13
flere og flere der synes Der er rigtig interessant.
18:16
Og Det er jo også det, som mange ligesom spar kommer til at blive
18:19
ret stort i 2024. Det her med at udvikle med
18:22
udvikle med lokale lars landbrugsmodels og så so far ser
18:26
vi simpelthen bare de bliver bedre og bedre og bedre, så det
18:29
vil sige, man kunne godt forestille sig, at vi havde.
18:31
Retsgode, lars Lewis models, 7 b lars Lewis mødes i slutningen af
18:36
2024. Og det synes jeg bare.
18:41
Er rigtig interessant, også fordi så kan man begynde at rode
18:44
med Sådan noget multi agent systemer lokalt, hvor du ikke
18:48
behøver at nervøs for at du bare høvler dollars afsted til
18:50
ordinary. Det skal problemet problemet.
18:55
Der er selvfølgelig problemer med de her.
18:57
Hvad hedder det lokale modeller? Det er at kvaliteten er Sådan
19:01
selvfølgelig stadig markant lavere end hvad du kan forvente
19:03
hos ordinere dig, så du skal passe på med ligesom at have
19:06
samme have ambitioner for at bygge noget.
19:09
Du som du kan bygge med b 4 men altså så kan man bare bygge
19:13
nogle mindre ting ikke og eksperimentere med nogle mindre
19:16
ting og ligesom. Prøve at være Sådan ligesom bare
19:19
prøve at se. Hvad kan man få ud af det her?
19:21
Ikke? Ligesom prøve at se om man kan
19:22
skubbe grænserne for hvad man kan bygge lokalt ja.
19:26
Men hvordan er det? Jeg har indtrykket af, at man
19:29
kan også videreudvikle med det. Altså Det er jo ikke bare en
19:31
løsning. Det er Sådan det det lavet af
19:34
nogle folk, som i øvrigt har været med til at lave dogger i
19:37
sin tid, så det baserer sig lidt på den samme form, for man har
19:42
de her images og og så de her modeller.
19:46
De bliver ligesom hentet ned som Sådan nogle images i flere lag
19:48
ikke? Og Det er så optimeret på en
19:51
eller anden måde, når du henter dem ned og.
19:53
Og Jeg er meget Sådan. Ja lightweight er de jo ikke.
19:56
De fylder jo en hulens masse, men men men de er ligesom
19:59
skrabet ind til det, Der er nødvendigt for at man kan køre
20:01
modellen. Ja altså.
20:04
Den her så vidt jeg ved så bruger de her larme larme dot
20:08
cp. Som er Sådan et c plus plus.
20:13
Hvad skal man sige library til at køre?
20:16
Lars lama larsenhvis models altså helt overdrevet optimeret
20:22
IC plus plus lokalt. Men Det er der jo altså.
20:25
Der er en del af arkitekturer der kan gøre brug af det der
20:29
netop fordi de er baseret på lama ikke så kan de køre lama
20:32
CTP, men Det er også altså. Selve serveren er jo skrevet i
20:38
go, så den er jo Sådan rimelig habil til hvis man ville altså
20:43
bruge den i produktion. Ikke så det tror jeg faktisk
20:46
også at den er. Jeg tror den er rimelig
20:50
produktionsklar, altså at man kan kalde.
20:53
Jeg er ikke. Jeg er ikke sikker faktisk.
20:56
Ret i det. Videre på de der modeller var
20:58
Sådan. Det var det, jeg ville sige,
20:59
hvis man har Sådan en fejl i dogger ikke hvor du skriver fra,
21:03
så har man en model file i det her ikke så de de inspirerede
21:07
meget af den måde at arbejde på som udvikler med med dokker og
21:10
det. Det tror jeg det.
21:12
Det er en fed fed kombi de har fået fat i det ikke?
21:15
Det er et interessant sted. De lægger sig i hvert fald ikke
21:17
Sådan rent infrastrukturmæssigt og det her med at Lars language
21:22
models lokale LLMM. Højst sandsynligt kommer til at
21:25
blive en ret stor ting i fremtiden, når.
21:29
Når hårdt. Det bliver mere normalt at alle
21:31
har hardware til det, og at der ligesom er noget der sker noget.
21:35
Du ved de her 7 BI ligesom hardware bliver bedre og bedre.
21:38
Man kan forvente at om et par år så er der nok mange flere
21:42
computere der kan køre de her altså som har de her en 2
21:45
lignende. I hvert fald capability i
21:48
forhold til at køre elever lokalt, så der ligesom hardware,
21:52
der ligesom bevæger sig opad. Og så er der ligesom model
21:54
performance versus. Vægte, som ligesom også bevæger
21:59
sig interessant retning, ikke hvor at det bliver.
22:02
De bliver mindre og mindre og bedre og bedre.
22:05
Så der kommer til at det Det er en interessant udvikling, der
22:08
synes jeg det. Ja.
22:11
Skal jeg lige tage den næste hurtigt, bare lige for at gøre
22:14
det med den her, fordi det næste jeg godt kunne tænke mig at du
22:17
rode med i 2024 især. Og det kommer nok også til at
22:20
være i forbindelse med. Jeg skal også finde mig et
22:22
arbejde. Jeg er jo faktisk.
22:25
Ja arbejdssøgende lige nu her, men Det er også det her med med
22:30
multi agent systemer, og der findes et et Microsoft open
22:35
source repository, der hedder autogen som som ligesom hvad
22:40
skal man sige implementerer de her multi agent systemer lidt
22:43
ligesom man kender dem fra for eksempel meta GBT det papir der
22:47
var der og og det igen. Grunden til Det er en
22:52
forlængelse af det her med lokale eller lad mig Det er at
22:54
Det er interessant at bruge de her lokale.
22:56
Lars længe smuttes til at køre de her multiple agent systemer,
23:01
fordi så kan man bekymre sig lidt mindre over den der regning
23:04
der bliver sendt til til open air og man kan gøre det lokalt
23:07
og det. Det er bare spændende ikke.
23:10
Jeg skal lige hurtigt for at forklare lidt en smule om hvad
23:14
de her multi agent systemer er, så er det basically alle et
23:19
altså hvad skal man sige man kan forestille os og det som en chat
23:22
mellem LM agenter som kan specielle ting specifikke ting.
23:28
Man kan forestille sig, at man har en.
23:30
Du har 1 1 1 1 software udvikler agent så har du en product
23:35
manager, udvikler agent og så har du dig som bruger og så kan
23:39
du ligesom sige Jeg vil gerne lave det her.
23:42
Og så kan de ligesom så er der Sådan en agent chat.
23:46
Som som de her agenter ligesom kan interagere med og løse
23:50
opgaver for hinanden, og så giver man den Sådan en helt
23:53
klassisk Sådan en. Du ved, du er en
23:55
softwareudvikler der med speciale i det her, og du har de
23:57
her funktioner, funktionskald til rådighed og så videre og så
24:02
videre. Ikke og så kan de ligesom
24:03
arbejde sammen omkring at få løst problemer Sådan mere
24:09
komplekse problemer, ikke? Og det, det synes jeg.
24:13
Det er lidt spændende synes jeg. Hvad hvad, hvad det, Det er jo
24:16
en man kan sige. Jeg har ikke hørt om særlig
24:19
mange der Sådan får det der hvor det bare virker super godt, men
24:22
jeg føler også Der er mange der har jo været nej, men jeg føler
24:25
også Der er mange der har. Der er mange, der har sat nogle
24:29
visioner op for, hvad der kan lade sig gøre med det her.
24:32
Der er mange, der har sagt. Og hvad så?
24:33
Du ved, så kan man bare lave 10 startups på en gang, og så kan
24:37
man bare sætte de der agenter til at lave startup, så bygge og
24:39
du ved laver jeg det så ved folk er meget ambitiøse.
24:43
De har ret så høje forventninger, og nogle er Sådan
24:45
ret open ended opgaver. De giver de her agenter de
24:48
retter ambitiøse på deres vegne og og der tror jeg, at man skal
24:53
lige tage et par skridt tilbage og sige.
24:56
Det kan faktisk også være ret brugbart det her, selvom Det er
24:59
nogle mindre komplekse opgaver, som man sætter de her genter til
25:03
at løse. Og det her med, og Det er også
25:06
noget, der bliver mere, synes jeg hører mere og mere om på på
25:10
nettet og flere og flere der skriver om og laver content om.
25:13
I takt med, at det bliver mere og mere tilgængeligt for folk at
25:16
sidde og udvikle med multi agent systemer lokalt med de her 7 b
25:19
modeller og med de her over til john frameworks og så videre.
25:24
Så kommer folk altså til at blive, fordi tilgængeligheden
25:27
bliver øget, så bliver opfindsomheden derude.
25:30
Og eksperimentering også øget tilsvarende tror jeg, så derfor
25:35
tror jeg, at vi kommer til, at der kommer til at poppe nogle
25:38
ting frem, som er ret bruge kommer til at være brugbare med
25:42
de her muligens systemer måske i løbet af 2024 så det, og Det kan
25:46
være rigtig gerne kigge nærmere ind i og på en eller anden måde
25:49
forstå. Hvad er abstraktioner inden for
25:51
det her? Hvordan?
25:52
Hvad bygger folk med det? Og er der rent faktisk nogen,
25:55
som har lavet noget, Der er brugbart endnu, især med de her
25:58
7 b modeller så. Interesting.
26:02
Yes så multiair. Systemer det bliver det bliver
26:06
spændende. Hvad lyder spændende.
26:09
Hvad hvad? Hvad er dit næste punkt Jonas?
26:13
Jamen igen, Jeg har valgt noget, som er langt væk fra arbejdet,
26:18
så. Jeg kunne godt tænke mig at lære
26:23
at fikse ødelagte iPhones, så her den anden dag så gik jeg
26:31
lige i skuffen og så så jeg bare gud der ligger jo flere af mine
26:36
gamle iPhones så nå men Der er bare en skærm Der er gået i
26:39
stykker og Sådan noget, så kunne jeg ikke og så til jul så ønsker
26:43
jeg mig Sådan 1 1 1 1 ifixit kit vil se Det er der sikkert nogen
26:48
der kender derude og. Nej men men men Det er faktisk,
26:54
Det er faktisk relativt nemt i gåseøjne.
26:56
Det er lige så nemt som det der rust jeg snakkede om, og Jeg har
26:59
ødelagt den 1 ledning der sad derinde og og og så kan man
27:04
ligesom skifte skærmen selv hvis den er gået helt i stykker, så
27:07
det gjorde jeg på på på en af telefonerne og nu ser den helt
27:10
ny og pæn ud og så Det er altså ikke en dyr hobby fordi at man
27:16
tænker ej det må være dyrt, men de der skærme der til de gamle
27:19
telefoner koster Sådan noget 150 kroner at købe Sådan en ikke så
27:22
hvis du ødelægger den undervejs så er Sådan okay.
27:24
Det er nok jeg køber et par stykker bare fordi at Det er en
27:27
dyr heroppe kan man så godt lidt kalde det alligevel ikke.
27:29
Altså Det er stadig mange penge for noget, men men okay så slemt
27:33
er det ikke vel så man kan godt tåle at at ødelægge Sådan en
27:37
skærm og ikke blive totalt ked af det over at Der er gået vildt
27:40
meget til spild ikke så på den måde er det Sådan man tør godt
27:43
kaste sig ud i det ikke så det så det bliver lidt sværere når
27:47
man går over og gerne vil skifte en en ipad skærm så jeg mit
27:50
næste projekt den koster trods alt lige 600 kroner eller Sådan
27:53
et eller andet for Sådan en skærm det synes man er ikke så
27:55
sjovt undervejs. Det er en stor.
27:57
Stor men, der skal en masse mad i forvejen på den ipad, der ikke
28:00
så. Nej og så så så har jeg bare
28:05
Sådan 1 1 1 trang til at gøre andre ting end det jeg laver på
28:08
arbejdet. Ikke fordi tit så bliver man på
28:11
en eller anden måde søbet helt ind i alt det handler om
28:14
arbejdet også i ens fritid og det her.
28:17
Det har jeg været rigtig god til i 2023 at blande at blande de 2
28:21
ting rigtig meget sammen, så jeg tænkte, at nu er det på tide
28:24
ligesom at lige lave et afbræk og prøve at fokusere på nogle
28:27
andre ting som ikke handler overhovedet om det jeg laver til
28:30
dagligt. Men Det er jo også hvis man
28:34
lærer Sådan noget med at skifte skærme på iPhones.
28:36
Så får du mange venner, tror jeg altså.
28:40
En venner Jeg vil have fordi så jeg kender godt det altså hvem
28:43
er hvem er er Vores lyttere? Har ikke prøvet det der med at
28:46
være fiks lige min computer personen i familien ikke også
28:50
altså når men du kan vel et eller andet med og så jo jo jeg
28:55
trækker det frem til endnu Windows og Sådan lidt ikke det
28:58
skal nok gå og Sådan noget der ikke det Det kan jeg også huske
29:00
fra de gamle dage men jeg jeg kommer altså ud af det der igen
29:05
på et tidspunkt hvor jeg sagde nej ved du hvad?
29:08
Det er ikke mig der fikser alle jeres problemer, fordi jeg fik
29:10
jo for meget arbejde så og jeg fik jo ingen penge for det altså
29:14
hvad fanden er det for noget? Come out fikser alle jeres
29:17
computere. Jeg er tømrer, kan jeg sige godt
29:22
forestille mig kan du ikke lige. Jeg har lige tømrer.
29:25
Jeg skal lige. Jeg har lige talt og skal
29:27
skiftes. Er det bare lige ét tag?
29:30
Kom nu. Altså hallo.
29:32
Så slem jeg ja nå ej så det det det bliver Sådan min ting og og
29:39
så oveni det Jeg kan jo lige jeg fortsætter lige vi sikre segway
29:43
jeg lige ind til til næste, Der er jo Sådan også det.
29:47
Det kan jeg ikke bruge det der effects of kids så meget til,
29:49
men Der er også lidt med at jeg går lidt og samler på p ur.
29:56
For nu har jeg 3 stykker ligger derhjemme, men de skal ligesom
30:00
også lige sættes til og Sådan noget ikke?
30:01
Jeg har en ret stor bilfri maskine som som godt kan tage et
30:06
par GPUR ned i nogle PCE Slots og.
30:11
Og de, de skal jo også gøre gavn på en eller anden måde, så jeg
30:15
skal lige have sat noget vandkøling på og der skal lige
30:19
fitness det og de skal sikkert lige tune så.
30:23
At der der der altid alt muligt i vejen for at at man kan køre
30:26
det og bare skrive hvad ja. Touch cuda Det var og så spiller
30:34
det. Men har du fået 3 3 grafikkort
30:37
sidst vi snakkede sammen har du kun et eller?
30:40
Hvad? Nej Jeg har 2 lige nu og jeg
30:44
skal have jeg skal have et til men men men hvad hedder det?
30:48
Du sagde på et tidspunkt at købe det du ville købe på den blå
30:51
avis Det har du købt det ikke? Jo og så, men så skal jeg have
30:55
det skal jo ligesom skal have mere ram ikke det hele.
30:57
Det handler om ram som man skal have have mange ram og og de
31:00
skal også være relativt hurtige. Og Det er de, Det er de på GPU
31:05
erne, så Det er jo en af de bottlenecks Der er i for nogle
31:10
arkitekturer III hvad hedder det l mine?
31:13
Og rigtig tit faktisk. Det er noget andet, at når man
31:15
optimerer på LM arkitektur, så er det jo typisk et spørgsmål om
31:19
at. At at at hvad kan man sige
31:24
udnytte vægtene mere effektivt og flytte dem mellem GPU,
31:30
kernerne og og rammen? Ikke hurtigere, man har en
31:35
bottle, man kan kun gøre det så hurtigt, men måske flytte færre
31:38
og måske genbrug dem man har flyttet i en cash og Sådan nogle
31:42
ting så anyways men men ram og hastighed på ram er jo er jo er
31:48
jo Sådan en LM ting og der kan man få de der.
31:53
Hvad hedder det 30 90 atx endvidere rekord der som er
31:57
Sådan nogle consumer kort. 30 90 siger du?
32:01
Og så er der dem der 40 90 til de nye ikke, men de har 24
32:04
gippert ram og Det kan vi godt lide.
32:05
Det er meget ramt eller i hvert fald mere end du skal bruge når
32:08
du skal spille spil. Men du kan bruge det til noget
32:12
andet. Og og hvis ikke du har marineret
32:18
til i sin tid og har Sådan nogle liggende som så har du kun
32:24
liggende, hvis du laver Sådan noget her eller du bare er du
32:27
gerne vil have det bedste af det bedste til at spille på og Det
32:30
er stort set lige meget om du har det fordi det du kan ikke se
32:33
forskel. Du skal alligevel slippe Sådan 1
32:35
5 6 7000 eller Sådan noget hvis du hvis du skal af eller hvis
32:38
du. Skal have på din blog lige 10
32:40
15.000 investeringer i for at få Sådan noget til at køre
32:43
ordentligt, ikke? Jo.
32:44
Men nu er det ikke noget du har haft Sådan en lamel kørende på
32:47
din. Computer jo jo tosset.
32:53
Ja jamen altså 13 13 b og. Og og der var Sådan en eller
32:58
anden jeg havde kørende, men Det er jo det, Der er med.
33:00
Det er det der øl og det. Det er ret sjovt.
33:03
Det, Det kan vi faktisk godt finde ud af.
33:05
Og ja. Skal vi lave et startup hvor vi
33:08
bare laver Sådan du ved gpu kloster i vanløse?
33:13
Så bare. Køre alt LM arkitekt altså
33:16
infrastruktur i Danmark på på gamle grafikkort avis.
33:22
Nej, men men Jeg vil sige noget andet.
33:24
Jeg vil sige noget andet faktisk at.
33:27
Hvis man er en lille virksomhed, og Det er et lille tip til til
33:31
til folk derude, hvis man er en lille virksomhed og man tænker
33:34
Det er fuldstændig uoverskueligt det der gpu show der i skyen og
33:37
Det er også rocker dyrt og. Og de der ã 100 af dem kan jo
33:42
ikke have stående og køre i 24 7 uden at jeg skal bøn totalt ud
33:45
i. Så så er det altså.
33:50
Det er altså rimeligt medgørligt at købe Sådan et workstation der
33:55
kan holde 4 af de der kort der og sætte den op for for under
34:02
100.000. Og overvejer lige det altså du
34:06
har hurtigt brugt 100.000 i skyen hvis du mener hvis du
34:09
mener det her seriøst når du skal når du skal lege med Sådan
34:13
nogle modeller også de små og du skal jo du skal jo fintune og du
34:16
skal prøve lidt af hvert og du kører måske også noget i
34:19
inferens og Sådan noget ikke? Så Det kan godt svare sig at
34:24
købe Sådan en bifil workstation at have stående på kontoret af
34:27
sit not, så kan i skrue ned for radiatorerne.
34:29
Den skal nok producere lidt varme og Sådan nogle ting ikke?
34:32
Altså det, Det kan man altså godt, så det behøver det tror
34:36
jeg ikke man behøver at være Sådan bange for.
34:38
Jeg ved godt Der er nogle chefer derude med budgetterne der
34:41
tænker ej nej nej nej, det går ikke, men hvis nu man lige er
34:43
lidt Sådan. Prøv lige.
34:46
Godt Det er bare 100.000. Det er sgu da ingenting.
34:49
Når du lige får lavet det der setup ikke så kunne du godt lave
34:52
Sådan en lille en lille forretning i at Sådan ligesom
34:55
bare altså folk kunne ringe til dig og så kunne du ligesom sætte
34:57
det der kids sammen og sætte det, installere det og sørge for
35:00
at pixwords kører på det og de altså du ved.
35:04
For meget ansvar er for meget ansvar support i Sådan noget
35:07
der. Det kan man jo.
35:07
Ikke bare noget der holder folk tilbage.
35:10
Det er jo det der med Sådan. Men hvordan fanden sætter man
35:12
lige Sådan en maskine sammen? Og hvad skal man installere
35:14
software på den og Sådan noget når du har opskriften og bare
35:16
kan. Igen, du ved gør det igen og
35:18
igen, så kunne man da godt lide. Du ved hjælpe nogen med det her
35:22
og så lige. Jo men altså det.
35:25
Er sat op og så. Ja, det vigtigste er faktisk, at
35:28
Jeg vil sige, det vigtigste er at at køle dem fornuftigt, fordi
35:32
de der consumer grade der. Hvis du strækker Sådan 4 ved
35:35
siden af hinanden ikke, så sidder de bare og blæser varm
35:37
luft ind i hinanden og det og det.
35:40
Det er ikke super smart og hvis du så sætter Sådan en træning
35:44
over at der kører lige et par uger.
35:47
Så brænder det sammen lortet ikke og det.
35:51
Det er faktisk det vigtigste er at have god curling.
35:54
Og hvad kan man sige god monitorering på på på lige
35:57
præcis de ting, men Det er der jo masser af af hvad kan man
36:01
sige smarte tricks til? Men vandkøling er er nok det
36:04
bedste man kan gøre, men så skal man lige Det er også Det har jeg
36:08
faktisk ikke selv begivet mig ud, ikke, men hvis nu man havde
36:11
et lille serverrum, så kunne man også lige sætte noget ordentligt
36:13
køling ind foran det larmer lidt ikke og så kunne man lige lukke
36:17
det af. Det gider man ikke have på
36:18
kontoret, så så man skal nok have et sted der hvor det ikke
36:21
larmer. Men hvis nu man havde et gammelt
36:23
serverrum der engang blev brugt fordi at man nu havde man rykket
36:26
altid ens skyen, så sæt Sådan en lille workstation der ind.
36:30
Det er sgu ikke altså kom op. Det kan man sgu godt gøre det.
36:35
Så. Jeg er vild med det der projekt.
36:39
Jeg er sikker på vi det der starter op.
36:40
Vi laver det om lidt eller Jonas.
36:43
Det nye er ved at dø. Ja måske.
36:49
Så det Vi skal gå videre til til min nu.
36:52
Nu kommer jeg til at køre 3 rap men OK det næste jeg gør som jeg
36:57
godt kunne tænke mig at rode med.
36:59
Eller i hvert fald forstå Det er, hvad skal man sige open yes
37:03
nye hvad skal man sige? Research retning, som de her
37:06
annoncerede som de kalder for super alignement, hvor de
37:10
arbejder med Sådan noget week 2 strong généralisation og det her
37:15
den her gennemgang kommer til at bære præg af, at jeg ikke helt
37:17
fatter det endnu. Men Det er en af de ting der
37:19
skal på 2 do listen ja, men Sådan kort fortalt så er det
37:24
Open i som ligesom. Jeg må indrømme Jeg er ved at
37:28
være lidt. Jeg er ved at være lidt træt af
37:29
retorikken for at åbne i, og Jeg synes jeg var altså langt mere
37:33
fan af sam altman i starten af 2023 end jeg var i slutningen,
37:37
må jeg nok sige. Jeg synes det der med aspire
37:42
prepare for AGI og du ved den her with.
37:47
Coming og altså. Åh, Jeg synes Jeg synes han.
37:52
Jeg synes han hyrer det meget ikke og den der den der
37:55
ledelsesstil hvor man Sådan. Er helt sikkert agtig og Sådan
37:59
noget ved jeg under. Det er en helt anden diskussion,
38:03
men men jeg men anyways, men Jeg synes alligevel Det er
38:05
interessant at Sådan lige lytte til deres research hvor det går
38:08
hen og hvad de forestiller sig og så videre.
38:09
Men om ikke andet og hvad man kan mene om deres retorik
38:13
omkring alt det her. Så så mener de i hvert fald, at
38:17
det kommer til at blive relevant at være i stand til at kunne
38:20
alene ã r systemer, som er meget mere Sådan meget mere powerfood
38:26
end mennesker er og hvor meget mere Sådan.
38:29
Capable Jeg kan ikke snakke dansk nu.
38:32
Altså Sådan meget mere. Ja mennesker ikke, og det kalder
38:36
de så for super element det her med at hvordan alle liner man
38:40
systemer som er meget klogere end en selv til at at lege med
38:45
ens egne interesser. Sådan så man ikke bliver smittet
38:48
eller man skal sige af af r ikke.
38:52
Og der har de og der der indrømmer.
38:54
De så dog at Der er vi ikke helt endnu.
38:56
Det er ikke fordi Vi har Sådan nogle kraftfulde systemer, Der
38:58
er behov for at at at udføre det endnu.
39:02
Men de. Tager de her preparedness ser
39:06
meget seriøst, og så siger vi, ligesom Vi skal forberede os på
39:09
det og Sådan noget, ikke? Så det de de prøver, ligesom at
39:13
simulere det her ved at prøve at se om man kan få, og man kan
39:16
alene en en stor model. Lad os for eksempel bare sige
39:20
giv p 4 eller et eller andet med en mindre model, for eksempel g
39:24
2 eller g 2 g 3 whatever, men alt sammen man kan få et eller
39:28
andet interessant ud af, at. Forsøge at lære.
39:36
Ja, det må så være den store model en stor model.
39:40
At supervisere den med en med en lille model og Jeg har ikke helt
39:44
noget jeg ikke helt har forstået noget.
39:45
Det er jeg. Hvem er det der lærer noget her?
39:47
Er det den store model eller er den lille model?
39:50
Det er ikke helt. Det er ikke helt fattet endnu,
39:52
fordi jeg tænker, hvis Det er menneske super AI situationen,
39:56
så er det vel super j der skal lines til at.
39:59
Gøre, hvad mennesket siger og ikke finde på alt muligt
40:01
ubehageligt. Det synes jeg det.
40:05
Det er meget mere interessant det her med hvis man kan få.
40:10
Ja, men Det er måske også det. Det er jo Det er i hvert fald
40:12
interessant i sig selv, hvis man kan forske i.
40:17
Noget, hvor man kan få større modeller til at lære noget for
40:20
mindre modeller, fordi så har du ligesom skabt noget ud af
40:23
ingenting, kan man sige ikke, og det føler jeg i virkeligheden
40:25
rigtig meget af det her. Machine learning e research
40:28
handler om at lave en masse hacks til at lære en masse.
40:33
Uden altså hvor Det er gratis i forhold til human intervention
40:37
eller Sådan menneske input, ikke?
40:40
Det er også på mange måder ser jeg også det, som du ved det her
40:42
selv supervised learning hvor du laver language modeling, hvor du
40:44
bare ligesom har en masse ikke er noteret tekst, hvor det bare
40:47
forsøger at forudsige næste ord. Det er også Sådan lidt et.
40:51
Det er en freelance på en anden måde, ikke?
40:53
Fordi jamen er det det fordi at det at det at Der er noget der
40:56
hedder et menneskeligt altså tekst og syntaks.
41:02
Så er det jo annoteret implicit mennesker.
41:06
Så skrevet kan man sige. Ikke så så hvad kan man sige
41:09
kommer kommer forståelsen og og viden ikke i igennem at det
41:15
mennesker der har produceret det her tekst, det tænker jeg.
41:18
Det gør jeg, fordi Det er Sådan rimelig åbenlys observation, at
41:21
det gør det. Men men jeg.
41:24
Jeg synes jo Det er Jeg synes Det er mærkeligt det der åbne
41:28
jeg laver fordi at. Altså det.
41:32
Det forudsætter jo det siger de jo så sætter de har ikke det
41:35
her. Jamen, det forudsætter en eller
41:36
anden form for autonomi at at hvad kan man sige at at en eller
41:40
anden form for intelligens eller agent kan udvikles sig selv og
41:46
og og hvad kan man sige lærer? Autonomi altså autonomt, lærer
41:52
ikke. Det skal jo være autodidakt i
41:55
virkeligheden ikke? Altså den skal kunne lære selv,
41:58
og den skal selv kunne sætte mål for hvad den vil lære, fordi når
42:02
den så kan det ligesom mennesker, så er den farlig
42:05
ikke, og mennesker er jo farlige af helvede til.
42:07
I øvrigt fordi at de slår jo en masse andre mennesker ihjel så
42:11
så så det vil den sikkert også på et eller andet tidspunkt
42:16
gøre, hvis den har viljen til magt, så vil jeg så måske er det
42:21
som Vi skal frygte. Men, men Det er ikke bare
42:24
stadigvæk science fiction det her, fordi Jeg har det så lidt.
42:26
Jeg kan godt lide de der film der, men Jeg synes det Det er
42:29
noget noget volapyk. Sige det Sådan her.
42:32
Jeg har heller ikke, så Jeg er grunden til det.
42:34
Altså grunden til Jeg er gjorde det, og Jeg synes Det er
42:35
interessant og gerne vil vide hvad der sker.
42:37
Det er ikke så meget fordi det her med uha jeg og du ved større
42:41
modeller og mindre model er mennesker og Sådan.
42:44
Jeg er interesseret i det her, fordi jeg tænker om Det kan være
42:47
den lidt jeg tænker, kan det være den nye Sådan?
42:51
Cell supervised learning. På en eller anden måde, hvis det
42:54
giver mening altså. Jeg kan godt se at jeg.
42:57
Tænker kan det. Kan det være det her nye hack
42:59
til at. For de her open altså de her
43:04
modeller AR modeller til at skubbe skubbe den et nøk mere i
43:08
retning af. Free lounge viden et eller
43:12
andet. Men altså Jeg har Sådan lidt mit
43:16
mit take på det Der er at det tror jeg ikke vil lykkes og Det
43:19
er fordi at. At de er jo begrænset, så den
43:23
store lille model er begrænset af de data, den er trænet på,
43:27
eller de er trænet på. Og selvom at de godt kan
43:30
udforske, hvad kan man sige det? Det vector space af boundaries
43:35
de har? Inde i sig, så har de en grænse
43:38
et eller andet sted. Og og og den grænse vil de vil
43:43
de møde altså den mur, så den lille har en grænse, og den
43:47
store har en grænse og og. Så kan det godt være, at den
43:51
lille har nogle andre grænser end den store, og derfor kan den
43:54
store lære noget af de grænser den lille har, men de er
43:57
stadigvæk samlet set begrænset. I at kunne være kreative så at
44:03
sige altså. Du har problemet helt klart helt
44:06
konkret har Det er at den distribution.
44:10
De outer med kommer ikke ud fra det de er blevet trænet på.
44:15
Det kan den aldrig. Gøre og og så de vil aldrig lære
44:17
noget nyt, noget Der er ude for den distribution, de er trænet
44:20
på. Det kan den ikke, men det altså.
44:24
Og Der er vist også lavet noget relativt ny forskning på det
44:27
der, hvor man ligesom Jeg tror Det er Google der der der også
44:31
viser det. Altså intuitivt giver det jo
44:33
mening det der ikke og og og man kan også vise det eksperimentelt
44:39
ikke man kan tage en en hulens masse.
44:43
Altså billedet for eksempel trænede billeder ikke og så
44:46
fjerne fjerne hundene på på alle alle billederne ikke altså og så
44:51
bede den om at at generere en hund, altså det glem det.
44:55
Det kommer aldrig en hund ud. Den har aldrig set en hund, men
44:59
kan ikke finde en hund. Så skal det være fordi den har
45:02
fundet en hund eller andet sted. Og så altså Der er ikke nogen
45:05
hund, så kan den ikke have en hund.
45:06
Jeg synes er interessant. Du siger det der med at sprog er
45:10
jo ikke free lunch. Det er ikke en free lunch at de
45:12
har bare kan hakke igennem en masse sprog og så få noget viden
45:15
ud af det, fordi Der er jo også nogle der har lavet sproget
45:18
altså Der er nogen der har genereret teksten.
45:20
Nogle mennesker der har genereret teksten og så videre.
45:22
Så Det er jo ikke Sådan information, der bare opstod ud
45:25
af ingenting. Det er bare tilfældigvis en
45:27
masse information, vi bare har liggende på nettet.
45:29
Ikke, og det føles som om at at de lærer sig selv nu, fordi Vi
45:32
har ligesom bootstrapped på en måde ikke det hedder det også
45:36
dengang man skulle lave en compiler.
45:38
Den skulle man skrive kode til ikke så skulle man først op så
45:40
finde sproget. Hvordan compiler du sproget uden
45:43
en compiler? Hvad for et sprog skriver
45:46
compileren nå jamen så du ved så skulle man bootstrap så skulle
45:51
sproget selv skrive sin egen compiler ikke og Det er lidt det
45:55
samme der sker her. Men det betyder jo ikke at at
45:58
Det er blevet, hvad kan man sige mere?
46:02
På en eller anden måde altså. Det, det betyder jo ikke at den
46:06
er kommet ud over sin sin begrænsninger, fordi den kan.
46:09
Det egentlig heller ikke at abonnere ved det ved med det,
46:12
men en ting der bare lige jeg fik Sådan et lille filosofisk
46:15
moment her for nogle dage siden, hvor at jeg kom til at tænke på
46:17
Sådan noget med at. Altså du ved alt det her ER.
46:21
Det kan jo faktisk kun lade sig gøre på grund af internettet og
46:23
på grund af Der er kommet computer altså Der er data på
46:25
grund af internettet, fordi Der er så meget tæt på internettet
46:28
og Der er computer eller så meget digital tekst og Der er
46:31
computer er blevet så altså godt at du ved det ikke kan lade sig
46:34
gøre og giver mening Sådan rent økonomisk at træne de her
46:37
modeller ikke på en eller anden måde så kan man sige så er.
46:42
På mange måder er teknologisk udvikling også infrastruktur,
46:45
ikke fordi øh infrastruktur grunden til alt det her kan lade
46:49
sig gøre det de store language models.
46:52
Det er på grund af, at Vi har noget Intel og Sådan noget
46:54
digital infrastruktur, der gør, at Der er en masse data, Der er
46:56
tilgængeligt, så Det kan blive samlet op og trænet nogle
46:58
virksomheder. Vi har skabt noget infrastruktur
47:01
på chip niveau, der gør, at Det har udviklet sig over længere
47:03
tid, og den infrastruktur kan knuse en masse tal, og Det er
47:07
blevet meget billigt og så videre, så Der er noget
47:08
instruktør struktur, der gør det muligt, men i virkeligheden så
47:13
er det, at Det er jo Sådan en meget gammel infrastruktur, men
47:16
det her med, at Vi har sprog. Vi har et skriftsprog, Der er
47:19
opfundet, og du ved, Vi er nogenlunde enige om, hvordan
47:21
fungerer. Vi taler et sprog, og Det er Der
47:24
er skrevet bøger, og Der er lavet grammatik, og Der er en
47:26
anden form for ensartethed omkring det her ikke.
47:28
Det er jo på en eller anden måde også infrastruktur, som bare er
47:31
meget gammel infrastruktur, ikke?
47:35
Og jeg kommer til at tænke på nu nu nu er det ikke fordi Vi skal
47:37
blive en helt filosofisk snak det her, men i virkeligheden er
47:41
rigtig mange af de her ting jo bare infrastruktur.
47:43
De tingene kan lade sig gøre, fordi Der er en infrastruktur.
47:46
Det er jo også i min. Jeg har 1, 1, 1 1 ven som er
47:50
Sådan arbejder med Sådan noget klimaforandringer oppe i Arktis,
47:53
Sådan noget co 2 udledning og Sådan noget, og de har Sådan en
47:55
base oppe på på Grønland, som er bare ude i ingenting og hvis de
47:59
bare skal have en fucking skrue maskine til at skrue og nogle
48:02
skruer til at hænge et eller andet på væggen og de ikke har
48:04
det, så tager det altså bare. Måneder, fordi skibet skal komme
48:09
fra Danmark og ind til det. Og du ved, Der er ikke nogen
48:12
veje, så det skal flyves ind og Sådan noget.
48:15
Det er det der med, at tingene bliver rigtig svære at arbejde
48:17
med. Det er rigtig svært at opleve
48:19
fremgang, hvis ikke Der er infrastruktur til at facilitere
48:21
det, ikke? Men Det er jo også Det er jo det
48:24
Der er som du siger teknologisk udvikling.
48:26
Det er jo altså Vi har jo robotter i dag som laver
48:29
robotter. Til at altså du ved.
48:34
CNC skal jeg metal så bliver til en robot som så bliver til en
48:38
til en c robot der så sker noget mere metal og altså linealen
48:44
blev lavet med hvad ved jeg hvordan fik vi en en lige lineal
48:47
til at starte med? Måske startede vi med at spænde
48:50
1 1 1 1 snor ud imellem 2 pinde ikke også og så lavede vi en
48:54
lige linje der og så okay den er nogenlunde lige så brugte vi den
48:56
til at lave en mere lige linje ikke også og så fortsætter vi
48:58
ligesom på den måde og til sidst har vi fået høj præcision lige
49:02
linjer. I metal og kan lave en en
49:08
forbrændingsmotor, ikke som kræver enormt høj præcision IIII
49:13
stempler og så videre altså det. Det er jo Det er jo bare
49:16
teknologisk udvikling. Det lyder det lyder.
49:19
Men det slår mig bare. Det slår mig bare at en høj en
49:22
stor del af forklaringen på at iii på det niveau vi ser det nu
49:26
her kan lade sig gøre det på grund af infrastruktur.
49:28
Altså Det er simpelthen bare fordi infrastrukturen er så
49:31
udviklet, at vi kan tillade os, at vi kan lade sig gøre at få.
49:36
Det er blevet så tilgængeligt det her data.
49:38
De har været der hele tiden. Det har bare været gemt i bøger
49:41
du ved, og Det har været bøvlet at tage dem op alle sammen, og
49:43
du ved læse dem og. Putte dem.
49:46
I. Og du ved.
49:47
Altså Det er jo engang det bedste data vi bruger.
49:49
Altså tekst. Data vi bruger til at træne
49:52
Vores modeller lige nu. Det gemmer sig jo II alle
49:55
bøgerne, som ikke er digitaliseret.
49:57
Altså helt ærligt. Og så kan man sige, så kan man
50:00
spørge sig selv i forhold til det her.
50:01
Week 2 strong motel généralisation anvender altså
50:05
udnytter det en eller anden form for ny infrastruktur, som er
50:07
opstået? Nej.
50:09
Næ. Ikke rigtig.
50:12
Så måske ja, måske har jeg lige talt mig selv ud af at skulle
50:15
nørde det her i 2024, men. Nu var det også, at jeg kender,
50:18
da jeg var djævelens advokat giver dig kamp til stregen, men
50:20
Jeg synes stadigvæk, at Det er, at det Det er da et fedt emne
50:23
fordi altså uanset hvad så er det jo fedt at følge med i de
50:27
der ting der. Men men altså Jeg er jo.
50:29
Jeg er jo lidt på på hjerneugen siden ikke i den her debat, så
50:33
derfor så er jeg også lidt barsk.
50:36
Jeg tror måske noget af det nye infrastruktur, vi kommer til at
50:39
se inden for den nærmeste fremtid.
50:40
Det er, Jeg tror rigtig meget på det her fucking calling.
50:44
Det her two usage med last language models ikke
50:47
nødvendigvis total open ended autonome agenter på det, som
50:51
mange forestiller det, som Jeg tror Vi skal. 10 skridt tilbage
50:54
og så bare sige hvordan kan vi lave nogle brugbare ting med
50:57
noget sprog der kommer ind og nogle funktioner der bliver
50:59
kaldt altså værdifuld ikke og der og der.
51:04
Jeg tror internt i mange virksomheder er der noget
51:06
infrastruktur, der skal bygges op, der ikke ved hvad kan.
51:09
Hvad er alle de ã i og der kan kaldes i Vores software?
51:12
For eksempel har vi overblik over det.
51:14
Kunne man forestille sig, at man indekserede det på en eller
51:16
anden måde og lavede en agent for hver Sådan, så hver agent
51:18
vidste, hvornår de skulle byde ind, når der var et andet
51:20
problem, skulle løses eller et eller andet.
51:23
Jeg tror, Det er deres svært, hvis man vil nørde ting.
51:25
Det er at nørde gode use cases for for de her teknologier,
51:30
fordi jeg. Jeg føler lidt, at Der er en
51:35
langt større hammer end Der er er som til at slå II brættet
51:39
med. Ikke altså der Der er der Der er
51:43
for få problemer der kræver 1 1 1 1 agent arkitektur synes jeg
51:49
Jeg har svært ved at se dem nogle af de gode og måske Det er
51:54
Sådan lidt sjove. Det er Sådan lidt analyse
51:56
legetøjs. Applikationer hvor at du kan
52:00
skrive gå lige ned i alle Vores data og lav en lille analyse og
52:06
find det her til mig og vise det på en flot måde.
52:08
Og værsgo nu er der noget ledelsesinformation ikke?
52:11
Og så var det lige pludselig meget nemt at være være
52:14
analytiker der lavede den slags små ad hoc opgaver, men men
52:18
Sådan er hverdagen bare heller ikke rigtig for Sådan nogle
52:22
folk, og Der er ikke nok af den slags er hockey opgaver til at
52:26
den dyre udvikling der skal til for at lave den.
52:28
Arkitektur er overhovedet det værd, så jeg Jeg har jeg, Jeg
52:33
har. Jeg har stadig svært ved at se.
52:34
Jeg synes Der er meget legetøj derude i øjeblikket, og Jeg har
52:38
svært ved at se kæmpe værdiskabelse af nogle af de der
52:41
arkitekturer der. Og det ser sikkert fordi at der.
52:45
Der mangler nogle use cases som er kan man sige, hvis du kan,
52:49
hvis du kan løse den her med en agent arkitektur, jamen så har
52:54
du lavet x antal millioner af besparelser for en virksomhed.
52:57
Fint let steward Det er altså de færreste virksomheder, der har
53:02
den form for problemer II den størrelsesorden det offentlige
53:07
har helt sikkert masser af. Skal lige hilse og sige er
53:09
effektiviseringer, der har med den slags at gøre, men i små
53:13
mellemstore virksomheder, Der er det edderbankeme svært at se.
53:16
Hvor at det der det skal blive Sådan rigtig vigtigt ikke så
53:20
jeg. Jeg synes det.
53:24
Ja, Jeg er ikke på agenterne endnu.
53:27
Du kan se. Det er i hvert fald det Jeg
53:29
synes Det er interessant. Jeg kan godt se nogle ting i
53:32
horisonten i hvert fald, som kan jo ja, hvis man tænker på det på
53:35
en bestemt måde, og hvis man har de her den rette infrastruktur i
53:38
virkeligheden også. Nå, jeg skal ud til næste punkt,
53:41
vi efterhånden ved at have snakket længe, så Jeg vil prøve
53:43
at gøre det hurtigt nu har. Næste jeg kunne tænke mig at
53:46
kigge på Det er Sådan noget som altså syntetisk generering af
53:49
datasæt til instruction og chat. Fine tuning af alle lemmer og
53:53
Det er faktisk i et helt konkret projekt.
53:55
Jeg har her i januar, jeg hvor jeg skal være med til at jeg
53:58
skal arbejde på skolegade t som nogle af dem måske har hørt om
54:01
sammen med sammen med Danny. Jeg skal lige hjælpe til der, og
54:05
Der er planen vi gerne vil ligesom prøve at få altså lavet
54:08
et fintuning datasæt. Til instruction tuning tror jeg,
54:12
det bliver til at starte med på dansk, Sådan så den ligesom
54:16
lærer at tale dansk lidt eller dansk it eller altså en en.
54:21
Et åbent et et åbent dansk datasæt, som kan gøre man kan
54:25
tune mistral, for eksempel til at tale mere dansk.
54:30
Og Det er faktisk et ret interessant område at dykke ned
54:34
i. Der er mange interessante
54:35
metoder til at syntetisk at generere datasæt, så så Det er
54:40
faktisk, og det tror jeg faktisk også bliver mere og mere
54:42
relevant i form af. At ja der bliver bare flere og
54:47
flere use cases for at træne fintune også de har opnået IP et
54:51
til at finde tun eller til at gøre dem bedre til at løse en
54:55
bestemt opgave og gøre dem mere Sådan styrbare i forhold til at
54:58
opføre sig på den måde, man ligesom gerne vil have.
55:02
Og hvad skal man gøre, hvis man vil blive god til det der?
55:06
Altså hvad? Hvad for nogle ressourcer og
55:08
kigger man ned i? Men, men for det første synes
55:11
jeg Det er meget interessant det her, men nu skal vi også, fordi
55:13
Vi skal passe på ikke at snakke for længe og Sådan, men hvad
55:15
hedder det, Der er interessant? Det er at med du ved lars
55:18
language models præ træning steppet.
55:21
Der tager man alt det tekst, man overhovedet kan få fat i, og så
55:24
forudsiger man det næste toppen altså ad libitum ikke rigtig
55:28
meget. Og det du får ud af det.
55:30
Det er en stor model, som har en masse viden og rigtig dygtige
55:35
til at flygte. Next token.
55:37
Problemet er bare at hvis du Jeg tror Der er jo en der gav meget
55:40
godt, hvad skal man sige? Hvad skal man sige?
55:43
Eksempel, hvis man skriver hvad er?
55:46
Frankrig. Okay, Det var Det var et lort,
55:48
eksempel, men hvad er Frankrig for eksempel?
55:52
Så vil 1 1 1 1 lang model som er tunet på ravl og krat.
55:57
Den vil måske tro at Det er en quiz den skal generere.
56:00
Du ved så siger den svar af lige med det her svar b lige med det
56:04
her og så videre. Det kan være den begynder og Det
56:06
kan være den tolker det som en overskrift til en til en artikel
56:10
og begynder at skrive om hvad Frankrig er og så videre.
56:13
Det kan være den den den den kan opføre sig alle mulige
56:15
interessante måder fordi Der er så meget i dens træningsdata.
56:19
Der er så mange mulige udfald af det her hvad hvad der skal komme
56:22
næste gang i den. Ingen data.
56:26
Det er irriterende når man arbejder med dem, og det gør den
56:28
Sådan rigtig uforudsigelig arbejde med det man så har
56:31
fundet ud af. Det er, at hvis man hvis man
56:33
ligesom får en tuner dem på til at opføre sig på en bestemt
56:37
måde, så bliver de meget mere reliable i forhold til at når du
56:41
så spørger hvad er Frankrig så forstår den godt.
56:44
Okay du er en du er en dude der prompter mig vil gerne videre
56:48
Frankrig og så alle liner jeg ligesom alt min viden til at
56:51
servicere dine dit spørgsmål din instruktion.
56:56
Og. Og Det er dermed, for hvor
56:58
følelsen af, at Det er en assistent.
57:01
Lige at man ligner ligesom den her model med.
57:03
Okay jeg skal ikke lave en quiz. Jeg skal ikke skrive en artikel
57:06
jeg skal ikke. Jeg skal faktisk bare besvare
57:09
det her, som om Det var en bruger der ligesom svarede mig
57:12
ikke, og det kræver at man der der kræver det selvfølgelig at
57:18
man man enten laver de her instruktion datasæt som er du
57:23
ved Det er typisk, så vil det være en instruktion, så vil det
57:26
måske være Sådan en tjener. Flot redning, og så vil det være
57:29
svar. Man ligesom giver træner på, for
57:34
ligesom at få den her alignement ind.
57:35
Sådan så ligesom er med på det instruktion tuning vi vi vi
57:39
beskæftiger os med ikke og så lærer den ligesom at bruge alt
57:42
det viden den har ned i. Hvad hedder det i det her format
57:47
kan man sige ikke det man skal det man skal nyde, når man skal
57:50
gøre det her. Det er, at fordi man højst
57:53
sandsynligt ikke har ressourcerne og ikke gider at
57:55
lave det her datasæt manuelt. Fordi Det er Sådan rimelig
57:59
komplekst og rimelig ressourcekrævende at lave.
58:01
Så prøver man at finde ud af nogle metoder, hvorpå man kan
58:04
gøre det Sådan rent rent. Hvad skal man sige?
58:08
Syntetisk i stedet for, og Der er forskellige metoder Der er,
58:12
hvis man vil gøre det på dansk. For eksempel så den mest lovende
58:15
metode, Jeg har fundet lige nu. Det lyder måske simpelt, men Det
58:18
er at oversætte nogle af de åbne datasæt, Der er derude for en
58:22
eneste dansk med Sådan noget som p 4, altså med en model, Der er
58:26
meget større Sådan, ligesom man ligesom kan låne dens dansk.
58:30
Hvad skal man sige kunstfærdighed ikke?
58:34
Ellers kan det være Sådan noget med, at du ligesom har noget
58:37
noget dansk data, hvor du ligesom hvor du ligesom bare det
58:41
kunne være det engelske ord hvor du samler data random og så
58:45
beder den om og sige Jeg har det her stykke tekst stille et
58:48
spørgsmål til det her stykke tekst.
58:53
Have det ind som kontekst og så give et svar for eksempel Sådan
58:58
så man ligesom. Og Det er igen det her med med
59:01
fordelingen. Det man vil gerne ud af du.
59:04
Hvis du bare samler modellen, så får du bare 100% den fordeling
59:07
den ligesom har har selv. Men hvis du får noget eksternt
59:09
tekst ind, så kan du ligesom stimulere den her fordeling og
59:12
ligesom sætte den i nogle andre retninger i hvert fald Sådan
59:14
teorien. Og så er der forskellige måder
59:17
med at man kan. Altså det man kan sige.
59:21
Der er også nogen der har fået det her med, hvis man ligesom
59:23
giver en instruktion. Til g 4.
59:27
Og så instruerer den i at tænke det igennem step by step på en
59:31
eller anden måde. Så får du en instruktion, en
59:34
theo flot redning og så et svar. Hvis du, hvis du så ligesom
59:39
tager. Instruktionen og svaret bare ud
59:44
og så træner små modeller på det.
59:46
Sådan så du ligesom du får tjener GP 4 til at lave tjener
59:49
stort, men det fjerner du ligesom når du træner de små
59:52
modeller så kan det give nogle rigtig interessante ting fordi
59:55
så bliver givet til 4 bedre. Altså Der er alle mulige
59:59
forskellige metoder til ligesom at gøre det her i så høj
1:00:02
kvalitet som muligt. Og Det er et helt
1:00:04
forskningsfelt, og Det er en ret stor del af årsagen til, at de
1:00:08
her mindre modeller bliver bedre og bedre.
1:00:11
Det er fordi de bliver trænet på højere kvalitetsdata, som er
1:00:14
mere alene med den måde, man gerne vil have til at opføre sig
1:00:17
på. Så.
1:00:21
Så ja, Det er et forskningsområde, så nu må vi
1:00:23
se, hvad det bliver til. Men det kommer helt sikkert til
1:00:25
at kigge meget mere ned i her inden for de næste par dage i
1:00:27
virkeligheden, fordi der skal laves laves noget data, så vi
1:00:30
kan få nogle danske sprog modeller.
1:00:32
Det lyder rigtig spændende. Yes.
1:00:35
Så har du et sidste punkt, kan vi nå.
1:00:37
Det punkt, Det kan vi godt, og Vi har på en eller anden måde
1:00:42
lidt snakket om det, men noget jeg godt kunne tænke mig at
1:00:44
kigge ind i også. Det er Sådan bare Sådan
1:00:47
generelle metoder til at arbejde med den her prompt engineering
1:00:53
del altså ikke nødvendigvis model niveauet, fordi Det er i
1:00:57
virkeligheden 2 meget forskellige verdener opererer i
1:01:00
ikke du kan sidde og køre pige touch med Lars language models,
1:01:05
model, arkitektur og så videre kører på p og Sådan noget.
1:01:08
Eller du kan bygge på det her language model output founding
1:01:13
interface og der skal jeg også en hel masse der.
1:01:16
Jeg kunne godt tænke mig at dykke ned i hvad?
1:01:19
For nogle bud. Der er derude på, hvordan man
1:01:24
ligesom hvad for nogle abstraktioner man laver, når man
1:01:26
vil lave de her. For eksempel de her multi agent
1:01:29
systemer. Hvordan tænker man
1:01:31
attraktionerne ind, når man gør det?
1:01:33
Hvordan, hvordan, hvad, hvad? Hvad kommer der til at opstå af
1:01:38
de her forskellige ting? Fordi Jeg er ikke sikker på, at
1:01:40
multi agent systemerne bliver. Det det der kommer til at være
1:01:45
brugbart på kort sigt. Jeg tror mere det bliver Sådan
1:01:48
noget med. Hvordan kan vi ligesom på en
1:01:51
anden måde? Give de her elever de bedste
1:01:55
forudsætninger for at navigere rundt i.
1:01:59
Den funktionalitet Vi har til rådighed, og så behøver vi ikke
1:02:02
nødvendigvis at kalde det fra for en softwareudvikler agent og
1:02:05
en dit og dat agent, men ligesom bare.
1:02:08
Have noget nogle bremser liggende forskellige steder og
1:02:11
så vide hvornår man skal hive de rigtige og forkerte frem og ikke
1:02:15
mindst ikke de forkerte frem. Så kommer der også til at blive
1:02:18
Sådan noget med, hvordan evaluerer med de her ting.
1:02:20
Der kommer man også til at skulle tænke på nogle helt andre
1:02:22
metoder, fordi Der er ikke noget effekt accuracy recall på samme
1:02:28
måde som der var i gamle dage. Der skal nogle nye.
1:02:30
Hvad skal man sige metoder til? Og en af de mest en af de mere
1:02:35
elegante metoder Jeg har hørt Det er det her med med hvor den
1:02:39
den kjær Johan rosenkilde fra github copilot.
1:02:43
Hvor en af de måder de evaluerer github copilot på.
1:02:47
Det er, at de samler ligesom repos fra github.
1:02:51
Tager unit testene fjerner, så kan man sige, indmaden er de
1:02:55
forskellige unit unit tests for at give dig kopier til at
1:02:59
generere unittests givet et report.
1:03:03
Og så kører de ligesom alle de her unittests, og så måler de
1:03:07
ligesom hvor mange af dem der succesfuldt kører igennem.
1:03:11
Og Det er Sådan en eller anden form for proxy for hvor god har
1:03:13
copyrightet været til at forstå det her projekt til en Sådan
1:03:17
grad, at den kan skrive unittests som.
1:03:21
Går igennem agtigt. Og selvfølgelig tjekker de for
1:03:24
at United ikke bare er true og Sådan noget altså.
1:03:29
Men Sådan de her måder at tænke evaluering ind i.
1:03:33
De her meget meget komplekse outputs, som vi kommer til at
1:03:37
arbejde med. I 2024 er jeg ret overbevist om.
1:03:40
Det. Det tror jeg bliver rigtig
1:03:43
spændende. Det kommer til at stille høje
1:03:45
krav til Sådan noget som machine m up for eksempel og hele.
1:03:49
Jeg tror det kommer til at sætte højere krav til hvor seriøst man
1:03:53
skal tage Sådan noget som date. Lineage, logging af data og
1:03:58
monitorering og. Alt Sådan noget her?
1:04:03
Hvad? Hvad med annotering?
1:04:05
At jeg notering, ikke? Nej, men det kommer også til at
1:04:08
sætte høje. Hvad skal man sige kommer til at
1:04:10
sætte høje krav også til Sådan noget med human the loop er
1:04:13
notering altså Sådan noget med. Hvordan kan vi integrere de her
1:04:16
outputs? Steder hvor det giver mening,
1:04:19
hvor at Der er en høj. Alignement mellem en et rigtigt
1:04:24
menneske, som skal udføre sin opgave, og som kan få værdi ud
1:04:27
af det her output. Og så den evaluering vi gerne
1:04:31
vil lave lidt ligesom Midtjylland.
1:04:32
Du ved du får præsenteret 4 billeder.
1:04:34
Du vil gerne have det bedste. Du vælger det bedste.
1:04:38
Det skal jeg tænker at hvordan? Kan du?
1:04:41
Hvordan kan du få den reneste feedback den det bedste feedback
1:04:44
loops ind som er så retvisende i forhold til det du gerne vil
1:04:47
måle som muligt. Det tror jeg bliver.
1:04:49
Det tror jeg, hvis man vil rigtig noget med det her, så
1:04:52
skal man tage det her seriøst. Det er nogle helt nye helt nye
1:04:56
krav. Det kommer til at stille til til
1:04:58
hvad hedder det til til Vores ML obs tankegang som jeg ser det
1:05:03
det her? Ja godt.
1:05:07
Fuck jeg føler bare Jeg har wall of text snakket i 20 minutter
1:05:11
nu. Det er godt Der er masser af
1:05:13
tekster kommer ud af den her transskribering, så Det kan vi
1:05:17
jo donere til til nogen der gerne vil lave et eller andet.
1:05:20
Der er både video og Der er. Med en masse tekst.
1:05:25
Det vil vi fandme gerne. Den er også.
1:05:27
Transkriberet Vi er noget machine learning, så nej.
1:05:32
Yes jamen Det var hvad Vi skal nørde i 2024 og så skal det
1:05:37
siges at Vi skal jo selvfølgelig også have en masse nye
1:05:40
interessante gæster. Nogle har vi rakt ud til.
1:05:44
Nogle kommer vi til at række ud til start II.
1:05:48
Ved måske ikke hvem Jeg er. Nogle ved måske lidt hvem Jeg
1:05:51
er. Og og det glæder vi os rigtig
1:05:55
meget til, fordi en ting er, at jünger er, at vi sidder og
1:05:58
snakker, men Det er bare sjovere, når Der er andre med.
1:06:02
Det er lidt ligesom at træne sproget modeller ikke.
1:06:03
Det er syntetisk data, ikke det der med at diversiteten II det
1:06:07
der kommer ud. Det skal ligesom udfordres lidt
1:06:09
ikke? Junge af den store medalje er
1:06:11
den lille model og vektor space vektorbaseret er simpelthen ikke
1:06:15
stort nok det det samlede areal eller rum, og vi nok heller ikke
1:06:20
kalde. Det er ikke er ikke godt nok, så
1:06:24
Vi skal have, Vi skal have nogen ind som kan.
1:06:26
Udvide Vores vektor space. Godt.
1:06:32
Så mega fedt. Det var den 1 episode i 2024 og
1:06:38
ja Vi er bare glade for at lytte med og gå ind og tjekke Vores
1:06:40
website hvis det ellers er. Når når vi kommer ud, så så
1:06:44
kører det igen. Bare rolig.
1:06:46
Det kører ikke nu her så, men det håber vi håber vi det gør.
1:06:50
Og. Rigtig godt nytår til jer alle.
1:06:52
Sammen et rigtig godt nytår alle sammen, og vi ses i næste uge.
1:06:55
Tak fordi i lyttede.