Latest / Verbos: AI og Softwareudvikling / #52 - Llama 3, Dansk Sprogmodel Konsortium

Transcript

#52 - Llama 3, Dansk Sprogmodel Konsortium · Verbos: AI og Softwareudvikling

0:00
Har i alle sammen og velkommen til bebos podcast afsnit nummer
0:03
52. I den her uge har vi en omgang r
0:07
nyheder, som Jonas og jeg skal diskutere.
0:10
Vi skal snakke om lama 3, som vi efterhånden ikke er en nyhed
0:14
mere kan man måske diskutere. Så skal vi også snakke om en en
0:19
til gengæld en dugfrisk nyhed som lige er udkommet tirsdag den
0:24
7. Maj, hvor vi optager, og Det er,
0:26
at Der er en hel masse organisationer, danske
0:30
organisationer som er gået sammen om at lave Sådan et dansk
0:34
sprog models konsortium consort. De unge tror det hedder.
0:39
Og så er der en lille skæg nyhed til sidst eller jeg ved ikke om
0:41
Det er skæg, men Der er i hvert fald en nyhed om at operere
0:45
laver et partnerskab med Stack overflow, og det skal vi også
0:49
lige kigge nærmere på, hvad Det er for noget.
0:52
En ny gang, så vil jeg bare præsenteres 2 værter mit navn er
0:55
Casper i unge og. Jeg hedder Jonas hos Anders.
1:01
Så er vi i gang. Det er vi mangler stadig en
1:03
single. Det gør vi ja.
1:05
Ja kom og. Snart så vi så vidt Jeg kan
1:07
huske eller så vidt Jeg har hørt det så er der bliver der brygget
1:09
på noget i hjemme hos dig er det rigtig Jonas ja noget ved når.
1:13
Single Vi har Vi har lidt single bryggeri så.
1:18
Lad mig se, hvornår vi vil klart med noget.
1:21
Der er ølbryggere, og så er der jungle.
1:23
Men men jingle er vigtigt, så ja.
1:26
Det er lige før vi kunne bruge, vi kunne tage hjem til dig, og
1:29
så kan vi optage noget med dine trommer og noget med min bas.
1:32
Ja. Så laver drawback.
1:33
Jeg har haft masser af gæster, der også er meget
1:37
musikinteresseret, så det kunne være vi skulle samle nogle
1:42
tidligere gæster og lave et lille hvad boss band.
1:46
Ja, hvad var det vi i den forrige bestyrelse i dansk data
1:49
science community? Var det ikke noget med, at
1:53
nærmest halvdelen af bestyrelsen var trommeslager?
1:56
Jo der var. Det var nok den bedste tror jeg,
2:00
men det. Ved jeg ikke, Jeg er ikke blevet
2:02
vurderet endnu. Men du du du virker rimelig hård
2:07
så vidt det du har fortalt mig det Jeg har hørt så så så ja.
2:12
Nå, Vi skal heller ikke sidde og hyggesnakke hele aftenen.
2:15
Vi skal i gang med noget, noget noget interessant måde, og jeg
2:19
ved ikke. Skal vi lige holde på metas lama
2:23
3. Ja udkommet.
2:25
Det er jo old news Vi har simpelthen vi havde.
2:27
Vi havde snakket om nogle andre ting imens lama 3 kom ud, så lad
2:31
os lige tage fat i den. Ja hvornår kom du overhovedet
2:33
ud? Altså Det er jo.
2:36
Er det ikke 3 2 3 uger siden nu snart?
2:39
Ja. Og Jeg tror ikke på at kigge her
2:42
2 3 uger siden ikke den 18. April 2024 Det var for 3 uger.
2:47
Første uge husker jeg. Så var Det var det city åben fra
2:53
hocking face der skrev ud at. Nu var der allerede. 1000,
2:58
modeller. På hocking face som var
3:02
varianter af lema 3 altså som i løbet af ingen tid.
3:10
Og den var jo nærmest dag et på på Amager, som er det her open
3:16
source serving slash repository dogger stil hent en model og
3:23
kører den bare med det samme og leg med den på din mac.
3:28
Ja et stykke software og og de her.
3:31
De sprang jo også bare ud i den havde den med det samme.
3:34
Værsgo kom og kom og kører det. Så altså Der er altså et eller
3:39
andet det der meta meta kan et eller andet med at at ligesom at
3:43
få alle til at gøre det der. Fordi Jeg synes ikke Google
3:46
havde ikke samme succes da de prøvede det.
3:49
Det var ligesom om. Ja så der.
3:53
Er et eller andet der Jeg har hørt at Der er mange der snakker
3:55
om at meta har en fordel fordi de stadig er founder.
3:59
Altså topchefen er stadig faunaen.
4:03
Så de har mere Sådan, og han har majoriteten af altså han har en
4:06
ret stor stemme i hvert fald i Sådan med hvad.
4:09
Altså hvad der skal gøres selvfølgelig vil sige o mark
4:12
Zuckerberg, men også fordi han er en af hovedaktionærerne i
4:15
Facebook, så han kan ligesom bare være Sådan lidt mere
4:18
diktatorisk omkring nu gør vi sgu det her, hvor jeg
4:21
forestiller mig at i Google, Der er der mere Sådan.
4:25
Ja politik ikke intern og måske også godt lide det.
4:30
Det er jo også tydeligt på deres releases at de går meget op i at
4:33
det skal være sikkert og vug og. Alt det der så.
4:38
Ja det Det er der der kan det godt være Der er et eller andet
4:42
der som gør at de bare kan ikke køre hurtigere på det.
4:45
Men, Der er også en interessant ved ved ved ved bare Sådan.
4:47
Hvis man tænker Sådan lidt. Øh strategisk fra Facebook side
4:52
det som det som Facebook gør Det er at de bruger en masse
4:55
ressourcer på at træne nogle relativt gode sprog modeller som
4:59
de bruger i deres produkter, men fordi det ikke er deres.
5:02
Det er jo ikke deres Sådan core business at sælge adgang til
5:06
LMLM. Ja Sådan sælger adgang til LMAPI
5:10
og for eksempel så på den måde, så så mister de jo ikke noget
5:14
Sådan rent business voice ved at bare ligesom at.
5:16
Udgive de her modeller open source, men til gengæld så
5:21
sætter de jo så det det. Det Det er valuarer de jo
5:24
ligesom for eksempel service som abonnerer og alle de her
5:28
forskellige powers er l. Her men Det kan jo netop også
5:34
være en strategi for ligesom at bare at gøre deres business
5:36
model dårligere ved at at gøre det tilgængeligt og og også
5:42
altså open source der, men også en måde at ligesom at at bare
5:46
sige vi vil bare gerne have innovation.
5:49
Hvordan får vi mest innovation? Ja, Sådan så vi som virksomhed.
5:54
Kan få noget ud af det. Det gør vi ved at bare at sprede
5:57
det, fordi at innovationen går meget hurtigere, hvis vi spreder
6:02
den på den her måde ud i open source verdenen, for der sidder
6:06
en masse sultne derude, der gerne vil vide, hvad kan man
6:09
sige innovere på det næste skridt og Sådan nogle ting?
6:14
Så får man alle jer andre til at arbejde på Facebook problemer.
6:18
Lige præcis lige præcis ja ja så så Der er jo også et eller andet
6:22
i det der med at at man har Sådan en power opensource
6:26
community til at hjælpe sig med. Innovere på noget som som bare
6:32
går endnu altså hurtigere af den årsag.
6:34
Og hvis man bare har interesse i at innovere så.
6:37
Tror bare man skal forstå at Facebook har bare en skala.
6:40
Som er helt ufattelig altså, og de kan jo være med til at sætte
6:45
industristandarder. Det har de jo allerede gjort med
6:47
med lama arkitekturen og og så videre.
6:49
Ikke helt klart, men man skal også huske på, at Det er jo også
6:52
altså react frameworket i javascript frontend frameworket
6:56
react kom også på Facebook. Det er dem der har open sourcet
7:00
det pige touch lige præcis dit touch som jo er må man nok sige
7:04
at det mest anvendte. De er blanding framework
7:07
overhovedet kommer også på Facebook så så Det er jo et
7:11
interessant tech gigant move på en eller anden måde, så Det er
7:16
Sådan Det er Sådan lidt hvis man kigger på den det det hvad skal
7:20
man sige luftlag? Så er der nogle interessante
7:22
som. Tanker man kan gøre sig hvorfor
7:24
meta gør som de gør. Det er selvfølgelig nok også for
7:26
at tiltrække dygtige udviklere og du ved de bedste udviklere og
7:31
og forskere vil gerne open source deres ting, og Det er en
7:35
god måde at vise hvad de arbejder på og Sådan noget og
7:37
skabe ja PR er det i virkeligheden ikke?
7:41
Der er jo også en kamp om. Altså Der er Sådan både den her
7:45
brands sucking ting ikke hvor de jo også kæmper om folk der kan
7:48
finde ud af at udvikle de blødning.
7:52
Og forske i det og så videre ikke så ja, Det er noget værre
7:56
noget. Men skal vi ikke lige Sådan,
7:59
hvad er det egentlig de? Hvad er det egentlig de kom ud
8:02
med, fordi at og det Det er jo lidt af det samme, som man har
8:08
været tidligere, men Der er alligevel noget på vej også, som
8:11
ikke helt er kommet ud endnu, men som de annoncerede.
8:14
Altså vi havde de her helt klassiske små store sprog
8:18
modeller i 7 milliarder størrelsen og så den her 70
8:22
milliarder, som vi også har vænnet os til.
8:24
En sjov fast størrelse og. Og så så annoncerer de at der
8:33
kommer en stor. Omkring 400 milliarder. 400
8:38
milliarder meter og Det har faktisk gjort noget.
8:40
De har faktisk gjort noget noget kontroversielt, fordi de har
8:44
lavet en 8 milliarder par meter model.
8:47
Og Det er Det er den 8. Jeg har set flere omtaler som 7
8:53
milliarder, fordi jeg det ligesom det.
8:57
Stå inde i mit hoved også, ikke? Men Det er simpelthen 8
9:00
milliarder par meter og så en 70 milliarder par meter.
9:04
Som som performer ja det performer pisse godt altså for
9:09
deres model klasse eller for deres størrelsesklasse kan man
9:13
sige og så har de så den her model som ikke er færdig med at
9:17
træne endnu, men som efter sigende skulle være en dans 400
9:22
milliarder parametre model altså ikke noget mister of experts
9:25
eller noget bare dens milliarder parametre.
9:30
Ja så må jeg indrømme, men jeg var indrømme og Det er jo
9:34
selvfølgelig state of the art og de Det var de i hvert fald for 3
9:37
uger siden, men ikke Der er nogen der har gjort et eller
9:39
andet med dem, så de bliver lidt.
9:40
Altså de allerede har slået Facebook selv eller et eller
9:43
andet ikke, men hvad hedder det? Men hvad hedder det?
9:48
Ja hvad fanden var det vil sige altså altså det begynder jo bare
9:50
ligesom at være fordi at vi altså jeg begynder at miste
9:54
overblik over alle de her elementer der blev udgivet, det
9:57
gør jeg virkelig, og Jeg synes nu har vi altså nu har vi lavet
10:00
den her podcast i. I lang tid efterhånden, hvor Vi
10:03
har været meget Sådan år, så kom den LM og så kom den LM og så
10:06
kom den, men Det er jo et rimelig forudsigeligt mønster
10:10
synes jeg efterhånden vi ser ikke.
10:13
Altså Der er begyndt at komme en sidste år var det meget de her 7
10:17
b modeller de her små modeller som blev bedre og bedre og.
10:21
Folk kunne køre på deres computere og så videre, og så
10:24
begynder at komme op til speed og forbedre sig rigtig meget.
10:27
Nu ser man også, at nu er det ligesom at de har store modeller
10:30
har også stået og trænet i et halvt års tid nu her og begynder
10:33
at komme ud, så vi begynder at se nogle modeller som er åbne
10:37
modeller som kan. Konkurrerer med, og Sådan noget
10:40
giver vi til 4 niveau agtigt. Men Det er jo.
10:43
Det er jo virkeligheden. I virkeligheden er det jo
10:45
forudsigeligt, at det det, Det er jo lidt det, man har set.
10:49
Det har jo stået i. III hvad skal vi sige Det har
10:54
Det har jo. Det er jo ikke nogen
10:55
overraskelse at Det er der Vi er nu.
10:58
Men man kan. Sige Vi har Sådan lidt Vi har
10:59
Sådan. Vi har vi 2 har Sådan ligesom
11:01
skulle hidse os op. Vi har haft svært ved at hidse
11:03
os op over de her Sådan nå en ny LM ikke.
11:06
Jo altså det man kan sige Det er at.
11:10
At for lang tid siden. Der snakkede vi jo meget om det
11:13
der med at Det var bare et spørgsmål om tid, så i
11:15
konkurrencen for de her open source modeller vi vinde over.
11:20
Over åbne jeg. Jeg synes jeg ved ikke om man
11:23
kan sige at det Vi er ved at være der, men men Vi har Vi har
11:26
nok lige om lidt gode chancer for at der kommer en open source
11:30
model Der er en størrelse. Som altså som som kan måle sig
11:35
med give til 4 ja på nogle punkter det det tror jeg godt vi
11:40
kan regne med, men når det så er sagt, så er noget af det der jo
11:44
måske også er interessant, men det her Det er jo at mange af de
11:48
her cloud providers, altså Google og Microsoft og på asier
11:53
og alle de der steder. Det begynder ligesom at tage de
11:55
her modeller til sig og udbyde dem og sige jamen nu kan du
12:01
komme ind i Vores api. Og og kalde.
12:05
Tema 3 modellerne for eksempel, og Det er meget nemt at skifte
12:09
over fra en model til en anden med med den klient man har som
12:15
dybest set stadigvæk er åbne jeres pis.
12:19
Client library som sjovt nok alle bare bruger fordi de bare
12:25
laver et api Der er ligesom compliant med det interface og
12:30
så virker den client fordi man kan bare pege hen på et andet
12:33
endpoint hvor der så er det api der fungerer på samme måde.
12:36
Og og så er man kørende. Det er jo super sjovt fordi hvis
12:41
alle bare leverer p er med alle mulige modeller II det samme med
12:46
til den samme klint. Jamen så tager konkurrencen
12:50
altså virkelig hård altså så du har ligesom skabt et marked nu
12:55
på det der interface, hvor konkurrencen er så kæmpe kæmpe
12:58
hård ikke. Og det tror jeg at det Det kan
13:02
man godt sige at Det er. Det er der, at måske der kommer
13:06
noget. Øh altså at at åbne jeg vinder
13:12
noget eller taber noget af markedet på en eller anden måde,
13:14
ikke? Ja.
13:17
Det er rigtigt. Men altså jeg jeg kunne
13:19
forestille mig at appen r stadig er en ret stor.
13:21
Altså de Det er stadig de får de foretrukne eller improviseres
13:25
fra rigtig mange ikke, men de får kamp til stregen, må man
13:28
sige antrop er også lige kommet op med den her klode 3 opus
13:32
mener jeg den hedder sig med den den største af deres modeller og
13:36
den den er jo oppe og konkurrere med gt 4 nu her.
13:39
Nu kigger jeg lige på chatbot Arena og men og den er nummer 3
13:42
i første, den er lige i røven på tur giver til 4 hvor jeg så er
13:47
lama 3. 70 b instruct den her på på 1 2 3 4 5 sjette pladsen ikke
13:55
ja så Det er Det er Sådan. Øh ja, Det er Sådan.
14:02
Ja det begynder at blive spændende nu her, og Det er jo
14:04
ikke kun det. Det er jo ikke kun de her
14:06
anthropogenic og mistral og de her LM prioritere dem der
14:10
producerer elementer, der kan udbyde dem.
14:12
Det begynder også at være virksomheder som den her krock,
14:14
for eksempel som vi hørte om med med Jørgen Kragh Jacobsen, som
14:19
fortæller microchip udvikling. De her krav ligesom udviklede
14:22
nogle mikrochips, som som er De hurtigste i verden til at serve
14:27
l ommer, og de tager jo de her open source lemmer til sig og
14:32
levere, og deres selling point er jo så ligesom at de.
14:34
De hurtigste til at. Tidligere var det hurtigste til
14:38
at lave inferens, og Det er jo også det, vi lærte sidst og
14:41
snakkede om. Det er jo, at de byggede kun til
14:43
en Frans. Altså de er skræddersyet til det
14:46
og ikke til noget træning, hvorimod at invitere os.
14:52
Chips og ting og sager er er typisk ligesom lavet til at
14:55
træne på, og du kan også søge på dem.
14:58
Eller Det er. Sådan allround på en måde.
15:03
Ja det Det er super interessant det der, men men hvad tænker du.
15:11
Det er ikke så sensationelt mere alligevel, at Der er kommet de
15:14
her modeller men men men tænker du at Der er tænker du Der er
15:17
mange virksomheder derude der vil tænke eller overveje at
15:21
skifte over? Altså er der måske nogen derude
15:24
der sidder og har noget kost som lavet med en låge med 2 70 b og
15:29
så kommer der en treer og så tænker de nu vi prøver at gøre
15:34
det samme med træerne er det fine tune den og så ser han den
15:38
performer bedre altså der skal ret meget til før man begynder
15:42
at beslutte ligesom at opgradere på den måde.
15:44
Der tænker jeg hvis man har allerede har.
15:46
Har investeret i en løsning, og hvordan finder man ud af om, om
15:51
den nu er så meget bedre, at man kan jo ikke kigge på de der
15:53
benchmarks, Der er offentlige, fordi man har jo lavet den til
15:56
en bestemt case og Sådan nogle ting.
16:00
Altså Jeg tror virksomheder, som altså internationale
16:03
virksomheder som perplekse City og jeg for eksempel de virker
16:06
Sådan de. De er Sådan lidt mere end
16:09
average all in på lemmer, og de tror også de kører deres egne
16:12
lemmer og Sådan noget som fint dot com som er Sådan en kode
16:17
search engine. En ting som også er faktisk et
16:19
ret fedt produkt. Sådan nogle virksomheder, som
16:23
som er meget meget centreret omkring den her oplevelse
16:26
omkring og altså l og så videre det det tror jeg Jeg tror Sådan
16:30
nogle kunne godt finde på at investere i.
16:32
Træne og virkelig arbejde. Systematisk med at træne eller
16:36
lave mig selv, og der kan jeg forestille mig at.
16:39
Der handler det for dem om at lave nogle datasæt som er i høj
16:43
kvalitet. Og så hvis når dilemma 2 var ude
16:46
så træner de så bruger de den som basismodel og træner videre
16:49
på. Og så når jeg laver 3 kommer ud
16:50
så 3 og så bruger de den som base model eller træner videre
16:52
på. Altså Jeg tror Det er Sådan det
16:55
virker bare som om Det er så store ryk meta kan komme ud med
16:59
her ikke og spørgsmålet er om Det er det Det er det jo lidt,
17:03
men Det er et godt spørgsmål om Det er om Det er investeringen
17:06
værd. Det er sgu.
17:09
Så har vi jo det, det gamle travere.
17:12
Spørgsmålet, hvordan klarer den sig på dansk?
17:16
Og det det? Godt spørgsmål altså den gode.
17:19
Jeg har faktisk ikke selv prøvet den, Det har jeg ikke.
17:21
Jeg har ikke totale LM skal prøve den nyeste fanboy og Jeg
17:25
har ikke den der suite attest som jeg skal bruge til at
17:30
overbevise mig selv om om den er god på dansk eller ej, så skulle
17:33
det lige være Sådan noget. Hvad er opskriften på rødgrød
17:36
med fløde, for eksempel den her grå man?
17:40
Kender pølsevognen. Ja lige præcis, men hvad siger i
17:45
rummet ski har prøvet det og han siger den kan Assad finde ud af
17:48
dansk men men man kan godt mærke på den at det ikke er dens.
17:53
Det er ikke dens dens. Hvad skal man sige?
17:56
Dens primære. Sprog.
17:59
Men er det ikke noget med, at den den er blevet evalueret på
18:02
scannet valg, ikke? Det ved jeg faktisk ikke engang.
18:06
70 Jeg tror altså Jeg tror 70 b modellen er evalueret på
18:12
scanningen. Ja ja ikke.
18:15
Jeg tager jo jo Det er bare gået totalt over mit hoved.
18:18
Der kan vi bare se her. Jeg fiskede lidt efter at vi
18:21
skulle snakke om om om den om den del nu.
18:27
Der er ikke noget at snakke om. Den ligger der på den ligger
18:31
lige runde kan vi til 4 og den er bedre end g 3,5 turbo.
18:35
Ja Det var jeg. Jeg bed mærke i, at Det var
18:38
alligevel. Det var jo alligevel noget at
18:42
sige om om det. Og Det er jo igen at Det er
18:45
nogle nogle Det er det bedste benchmarks.
18:48
Det siger jeg bare nu. Det er det Det er de eneste
18:50
benchmarks Vi har Der er offentlige i.
18:53
I Danmark ikke på på det danske, hvor Vi har noget, vi kan veje.
19:00
Alle deler Der er mulige at kalde.
19:04
Hoppe imod det. OK så den er den er god og den
19:09
er også god på dansk og Det er så den her 70 b model ikke som
19:13
ligesom er som er stor. Det er jo det.
19:18
Ja. Ja, men men den er nok.
19:22
Jeg ved ikke altså den er nok ikke kontrast den den der så er
19:25
blevet testet eller det ved jeg ikke noget om, men jeg ved ikke
19:27
eller står derinde, men dem man måske kan prøve af af træneren.
19:32
Gennem al og Sådan nogle ting de er, jo mindre så har de kontis
19:35
nogle ting. Det kræver, at de.
19:39
De er ikke lige er til til til dansk.
19:41
Ja. Ja, Der er nok en forskel.
19:44
Der Det er der nok ja. Yes men lama 3 er ude i de open
19:50
source eller bliver ved med at buldre derudaf som som forudset.
19:55
Det er selvfølgelig spændende og lige snakke om det, men men Jeg
19:59
kan også godt mærke at Sådan. Det begynder at bare at blive
20:01
Sådan lidt. Nå ja ja, Det kan godt blive
20:05
Sådan lidt hver dag ikke. Det begynder at blive Sådan.
20:08
Og Det er vildt, at vi ikke synes, at det bliver begyndt at
20:10
blive det før, men men det begynder at blive Sådan lidt i
20:12
tredie, og nu skal vi sammenligne Sådan meget små
20:15
detaljer, og man kan alligevel ikke køre de der modeller og.
20:19
Med mindre man virkelig har all in og så videre.
20:21
Så ja. Sådan er det.
20:24
Men hey, Det er i hvert fald noget der.
20:27
Skal man sige tager os hen imod en verden, hvor at det ikke kun
20:31
er online i for eksempel der sidder på på adgang til de her
20:34
den her teknologi. Og Det er jo Det er jo godt, kan
20:36
man sige yes, næste nyhed som ikke er 3 uger gammel, men som
20:43
er dugfrisk fra i dag den 7. maj.
20:45
Det er at der i dag er blevet lavet et dansk sprog models
20:52
konsortium. Først og fremmest.
20:56
Jonas så du jo statskundskab uddannet kan du ikke forklare
21:02
mig hvad fanden er konsortium er?
21:05
Det må jeg sgu bare indrømme det.
21:07
Det er ikke helt sikker på at Jeg tror Det er en eller anden
21:10
form for sammenslutning af nogle organisationer.
21:14
Men hvad med vi spørger chat kan vi tage?
21:17
Et konsortium er. Jeg har lige spurgt Google et
21:20
konsortium. Så samarbejdet kan være mere
21:23
eller mindre formelt lige fra mundtlige aftaler til dannelse
21:26
af fællesskaber. Yes så Det er spændende.
21:31
Sagde jeg var det jeg sagde. Eller hvad?
21:34
Totalt det du sagde altså okay fandme jeg kunne da bare lytte
21:37
til dig. Og Det er Det er simpelthen
21:41
Sådan et konsortium. Her er virksomheder
21:43
organisationer i Danmark, som er gået sammen om at slå et slag
21:48
for danske sprog modeller og arbejde med med dansk
21:50
sprogteknologi. Og Jeg kan lige nævne op eller
21:54
remse op her, hvem der ligesom er med i det her.
21:57
Det er Århus Kommune att p Bagger Sørensen, Group sex brain
22:01
falk hofor j en data Kommunernes Landsforening que KL tror jeg
22:06
kombit nordlys ordbogen ASDLA piper.
22:10
Salling Group, SDC topdanmark og enterprise.
22:15
Bum. Yes.
22:17
Enterprise simpelthen også. Ja Det er lige smage.
22:21
Vi smager squattet der fra. Ja som jeg i øvrigt også
22:26
repræsenterer. På på en måde.
22:29
På en måde, så hvad vil det? Hvad vil det betyde for jeg?
22:33
Jeg kan jo afsløre, at jeg. Jeg spurgte jo det lyder som en
22:36
rigtig fin ide, er det jo det? Det kommer nok helt sikkert til
22:42
at ske, eftersom så mange har samlet sig om det.
22:47
Alex Alexander instituttet IBM, Danmark og dansk Erhverv står i
22:51
spidsen for det, så de nok også med.
22:52
Det vil jeg bare lige nævne. Og der kan man høre et
22:57
ekspertise 2 computere. Så Det er der siden testene har
23:04
fundet noget computer og en masse organisationer med data.
23:07
Det er smart at lade fordi det det hvis vi lige går ned i det
23:11
der jeg jeg stillede samme spørgsmål.
23:12
Det lyder rigtig godt, men hvor skal data så komme fra?
23:15
Og det viser sig jo så at hvis man skal tro på den lille chat
23:20
Jeg har frem og tilbage på på LinkedIn, så skal data komme fra
23:24
organisationerne selv ikke og min umiddelbare reaktion som man
23:28
også kan læse det her hvis man finder det.
23:30
Det var jo så jamen Det er jo også rigtig fint, men så får vi
23:33
jo så. Nogle modeller, Der er
23:35
formentlig rigtig gode til domæne data på de områder, som
23:40
de organisationer, Der er med og leverer data ind til det.
23:45
Og det. Det siger jeg mest ud fra Sådan
23:47
et koncept om, at når man tager Sådan en model.
23:51
Og begynder ligesom at tune den. Den ved jeg jo ikke hvad deres
23:55
plan er helt ærlig, men så vil man jo næsten uundgåeligt få.
24:01
Tabte lidt af det gamle, den vidste noget om og få den gearet
24:05
ret meget ned mod. Den nye man viser den, hvis man
24:10
tuner videre eller hvis man træner den fra bunden, så vil
24:14
den bare være begrænset af det data, den selvfølgelig har
24:16
spist. Så hvis man.
24:19
Hvis man så ikke er en organisation der kommer ind med
24:22
sit data, og nu kunne man bare forestille sig for eksempel.
24:27
At man godt kunne tænke sig at den var god til til noget noget
24:31
journalistisk der hvor jeg kommer fra for eksempel så.
24:36
Når man ikke har vist noget journalistisk materiale, så vil
24:38
den være rigtig dårlig til det. Så så hvad hvad kan man sige?
24:45
Er det så en generel dansk model?
24:47
For vi repræsenteret nok forskellige use cases i den
24:52
model? Det synes Jeg er lidt spændende.
24:55
Ja Det er et godt spørgsmål altså der.
24:57
Står ingen tvivl om at Det er da en super god ide at samle som at
25:00
at at få data til Sådan et projekt.
25:03
Ja altså man kan sige Det har jo lidt været.
25:06
Vi har jo været. I berøring med træning af danske
25:10
sprog modeller II del år efterhånden også også før det
25:14
blev sejt eller for alle Snapchat skibe.
25:17
Der var der jo også snak om, at der var mange der gerne ville
25:20
træne de her. Det var jo også danish
25:21
foundation models projektet, som i øvrigt er centralt for det her
25:25
samarbejde. Kan jeg forstå, Det er de her,
25:28
hvilket vi Vi har også haft danish foundation models 40. med
25:32
i hvad bruges podcast, så det vil jeg bare sige et kæmpe skud
25:35
ud til jer for det gode stykke arbejde og er det fedt at Der er
25:38
nogle der ligesom samles og siger at Det er noget fucking
25:40
fedt i laver det vil vi gerne støtte.
25:42
Det under jeg dem utrolig meget fordi de har fandme knoklet på.
25:47
For at for at træne danske sprog modeller, men Det var jo noget
25:51
der startede helt tilbage, for det lyder virkelig ikke Sådan
25:55
noget 2 3 år siden ikke det lyder helt skørt at sige, men
25:59
altså Det er jo hvor dengang så handlede det jo bare om at lave
26:04
også ligesom skabe danske datasæt til at træne.
26:07
Dengang var det ikke nær så meget generativ modeller.
26:10
Der var det mere de her encoder modeller altså hvad skal man
26:14
sige? Tekst 2 væk modeller kan man
26:16
sige som man bruger til at indberette tekster og træne
26:19
tekst classifier og så teksten betting og Sådan noget.
26:22
Og de har jo bare altså. Danish foundation models har jo
26:24
bare fået kæmpe meget vind i sejlene, efter at Lars løchtes
26:29
er blevet så stor en ting og der har de ligesom været.
26:32
Projektet, der ligesom var det mest formaliserede.
26:38
Øh, hvad skal man sige samlede den mest formaterede samlede
26:42
indsats for at for at gøre noget for dansk sprogteknologi ikke,
26:46
så det giver sig god mening at at de bliver nævnt i det her
26:49
samarbejde, og det virker som om, at de her organisationer
26:52
skal ligesom sørge for, at data til danish foundation models.
26:55
Så jeg håber virkelig, at der kommer nogle.
26:58
Altså fordi også fordi Jeg synes bare Vi har set her.
27:01
Også i dansk data science community og som sprogteknologi
27:05
interesseret i Danmark. Alle de her initiativer har
27:08
været drevet af Sådan noget frivilligt arbejde i
27:11
virkeligheden ikke langt hen ad vejen op ildsjæle og Sådan
27:13
noget, der ligesom har prøvet at træne de her sprogmoduler og
27:16
har. Fået fat i noget computer, på en
27:18
eller anden måde. Og det virker bare så fjollet at
27:22
at. At Det er at Det har altså der
27:26
har mange der har tænkt længe længe Sådan at der må være nogen
27:29
der ligesom. Der var en fælles interesse for,
27:32
at det her, det bliver lavet i Danmark.
27:35
Så hvorfor er der ikke nogen der ligesom gør et eller andet og og
27:37
sætter ind og går sammen om et eller andet ikke?
27:41
Og så var det Sådan lidt hvem hvem skulle gøre det?
27:44
Er det staten? Det har vi haft oppe at vende
27:46
ikke, eller er det det private eller hvem er det ikke?
27:51
Man kan sige det her, så synes jeg det her det virker som
27:54
rigtig fornuftig bud på nogen måde.
27:57
Et, et hvad kan man sige? Det er vel kalde os et privat
28:00
offentligt samarbejde ikke altså altså det der vil jeg altså
28:03
sige, hvis jeg lige tager min statskundskabs hat på igen.
28:07
Men så så er det faktisk noget, som hvis man kigger Sådan lidt
28:13
rundt omkring i det danske land, så de der privat offentlige
28:16
samarbejder. Dem findes der ret mange af, og
28:18
de er egentlig ret succesfulde på på mange forskellige måder.
28:22
Og Det er ikke nødvendigvis noget, man ser.
28:26
Altid i andre lande mig bekendt. Det kan være, at Det er Sådan en
28:30
gammel fortælling om, at Vi er helt speciel i Danmark, og vi
28:33
kan nogle særlige ting og Sådan noget der.
28:35
Men så er det også en god historie, og så vi fortæller det
28:39
lige igen her, men der altså der.
28:42
Der er bare et eller andet over det der med, at vi kan altså
28:45
godt finde ud af at at lave nogle gode samarbejder.
28:48
Og på tværs og og Vores ja Vores regeringer og det offentlige i
28:55
det hele taget også god til at. Se hvornår hvad?
28:59
Hvad for en hvad for en del skal det offentlige stå for, og hvad
29:03
skal det privat stå for? Hvor kan vi mødes her og få
29:06
noget Der er få lavet noget Der er til The greater good på en
29:09
eller anden måde, så det synes jeg da bare Det er fedt at se.
29:17
Og så siger de selvfølgelig, at Der er ligesom nogle principper,
29:21
der skal gælde for det her arbejde, og at danish foundation
29:25
mødes, ligesom vi udvikle danske sprogs modeller, som forpligter
29:28
sig til at udvikle, altså til at følge følgende principper, åben
29:33
og gratis. Altså de skal være åbne og
29:35
gratis tilgængelige. De skal over altså træningen af
29:39
dem og udviklingen af dem skal overholde lovgivningen.
29:41
Det vil sige det skal være. Du ved fuld git per compliant og
29:45
det ene og det andet, altså modellerne skal ligesom trænes
29:48
på datasæt. Med kun til formålet at oprette
29:51
haverne. Der skal være transparens etik
29:54
og selvfølgelig sikkerhed. Så Det er jo hele hele, hvad
29:58
skal man sige? Etik Der er fuld plade på etik
30:01
og sikkerhed og ansvarlighed og alt det her som alle snakker om
30:07
ikke og som er den meget europæiske måde at udvikle nogle
30:10
ting på. Jo selvfølgelig godt og det ved
30:13
det. Vil jeg sige også for tiden.
30:17
Jeg har helt sikkert været endnu mere forsigtighed, synes jeg,
30:20
når man kigger i det danske, det ikke nødvendigvis skidt, men
30:23
nogen skal jo løse, at noget kan lykkes, trods at man har alle de
30:27
her constraints. Og og der synes Jeg er bare det.
30:31
Det er fedt at se at. At det også står Det er ud fra
30:36
de her principper. Og hvor at principperne er
30:40
rigtig meget om hvordan og ikke så meget med fokus på
30:46
resultatet. Nej.
30:48
Og så så bliver det jo spændende om man man med de principper
30:53
også kan opnå et godt resultat. Det er nemlig også en meget
30:57
interessant diskussion du bringer op der Jonas fordi.
31:01
Det er nemlig rigtigt. Ikke lige præcis.
31:03
Det bliver det bliver rigtig spændende at se og lad os nu.
31:09
Lad os nu følge det her tæt fordi.
31:12
Ja det vi må. Vi må have nogle iterationer i
31:15
podcasten, hvor vi får inviteret nogle af interessenterne ind og
31:19
fortalt lidt om, hvordan det går med det der undervejs.
31:22
Og det synes jeg da det kunne være spændende at følge lidt tæt
31:26
i podcast. Kunne det ikke det?
31:28
Jo det kunne det kunne det helt sikkert.
31:31
En spændende udvikling det her og måske også den, når man
31:35
tænker på, hvad skal vi egentlig bruge en dansksproget model selv
31:37
ikke altså en dansk model til. Og Det er jo selvfølgelig for at
31:42
gøre os uafhængige af tech giganterne og samtidig få nogle
31:47
åbne modeller, som ikke er totalt gebrokkent til dansk.
31:52
Så man også kunne håbe på var i en størrelse som det offentlige
31:58
kunne tage ind og køre på deres beskedne hardware de har rundt
32:03
omkring og creme og ting og sager som ikke var i skyen og
32:06
alle de der ting som også er en del af selve det at serve
32:10
modellen. Den bekymring slipper man også
32:12
fra fra. Det er jo Det er jo også en ting
32:16
Der er ved at man har produceret noget, som man giver åbent ud
32:19
til alle. Der så sidder derude og arbejder
32:22
og kunne anvende Sådan en model. Det er jo real altså Det er jo
32:26
reel ting for rigtig mange virksomheder ikke.
32:29
De kan ikke anvende organers SP og for eksempel eller eksterne p
32:33
og de bliver nødt til at lave det en House.
32:35
Ikke hvis de skal være med så og der Der er det Der er det Der er
32:40
står det sløjt til med med dansk dansk open source eller selvom
32:45
de bliver bedre og bedre også de nej lige præcis og selvom de er
32:50
gode de her lema modeller, så er de.
32:52
Så er de stadig. Det er stadig ikke hovedet
32:55
formålet med dem. Det er jo også sjovt.
32:57
Ikke fordi at at på en eller anden måde, så så er det jo
33:01
også. Jeg synes i virkeligheden også
33:02
bare det her med at investere i evalueringen, at at danske altså
33:07
af sprogmoduler og deres evner på dansk er en interessant ting.
33:09
Ikke Sådan så man ligesom har føling med det her for indsigt i
33:12
det. Hvad, hvor de klarer sig godt og
33:15
hvor de klarer sig dårligt. De her elever på dansk ikke.
33:18
Så Det er også en vigtig ting i sig selv igen det her med du
33:21
bliver nødt til at måle hvad Der er galt for at du kan løse det
33:23
Der er galt, ikke eller ligesom ligesom vide hvad Der er galt
33:26
før du kan læse hvad Der er galt.
33:29
Og en anden ting. Det er sjovt det der med også at
33:31
snakke om Sådan. Hvad er Sådan?
33:35
Være behovet i virkeligheden for?
33:38
For for modeller, som har en særlig dansk, skal man sige
33:41
Kultur og en særlig dansk forståelse og så videre inde
33:45
indkodet i dem. Og Jeg tror i virkeligheden
33:48
bliver mere og mere bevidst om at.
33:50
Noget af det, som kommer til at blive ret imponerende og ret
33:54
Sådan banebrydende med de her LM teknologier.
33:57
Det er at de kan være i stand til ligesom at indsamle og
34:02
forstå brugere af software. På en ret intim måde.
34:08
At skæve. Og man kommer til at kunne.
34:12
For software er, der opfører sig overraskende meget.
34:17
Som du gerne vil have det, fordi at software faktisk forstår dig
34:21
ikke og og jo mere og mere intime beskrivelser for
34:25
eksempel. Altså nu lyder det rigtigt.
34:26
Gribe det her, hvis Facebook gør det.
34:28
Jamen det kunne også godt være at en et stykke software et
34:31
stykke dansk software som virkelig alt de ønskede var
34:34
ligesom bare at hjælpe dig med at drive din forretning bedre
34:39
eller en virksomhed altså Sådan Der er jo også
34:42
softwarevirksomheder, som rent faktisk ikke vil vise deres
34:46
brugere reklamer, men rent faktisk gerne vil hjælpe dem.
34:48
Og løse dit problem for dem? Ja, jo det kunne man godt
34:52
forestille sig, at måden de kan blive bedre og bedre til det.
34:54
Det er ved at indsamle mere og mere detaljeret information
34:58
omkring brugerne. Sådan så de virkelig i dybden
35:02
med en meget høj. Hvad skal man sige opløsning
35:05
forstår brugerne og kan træffe beslutninger på baggrund af det.
35:09
Og når man kommer ned, og hvad skal man sige har?
35:13
Hvad skal man sige sprog modeller som skal beskrive så
35:17
finkornet og nuanceret ting omkring en eller anden given
35:20
situation eller en given bruger eller virksomhed eller whatever?
35:25
Så tror jeg, at Sådan nogle af de der kulturelle ting.
35:28
Begynder også at blive vigtig i der ikke der der tror jeg man
35:31
for eksempel. Lad os sige at.
35:37
Du er en tømrervirksomhed i Danmark, og du bruger et stykke
35:40
software som gerne vil, og du sælger software til danske
35:43
tømrervirksomheder i Danmark, og det skal du vil gerne bruge
35:47
noget en lars language model men og Der er det vigtigt at din LM
35:51
ved rigtig meget, men jeg selv tømmer ud og så videre ikke så
35:54
er det videre er det vigtigt at en LM ved rigtig meget om dansk
35:58
byggetradition og hvad for nogle materialer man plejer at bruge,
36:01
og hvad de danske byggemarkeder hedder og du ved håndværker
36:05
Kultur og jargon og. Ting og sager ikke, ikke?
36:10
Ja hvis du vil personalisere den helt ned til håndværkeren og om
36:15
du er en jysk håndværker eller en, er det det du siger.
36:19
Eller. Sådan 2 får fitch måske.
36:23
Men du ved Der er bare nogle ting i Danmark i dansk
36:25
byggetradition, hvor at der adskiller sig fra amerikansk
36:28
byggetradition for eksempel. Altså du ved, vi bruger mange
36:32
røde tegl i Danmark, og Vi har mange Sådan traditionelle murer,
36:36
murermester, villa, huse og. Altså Der er Sådan nogle ting
36:40
hvor at der kan man godt forestille sig hvis man skulle.
36:45
At at man at det der amerikanske biers vil være irriterende.
36:48
Det vil være en irriterende ting helt.
36:50
Den tror jeg hele tiden, at der altså et eller andet det.
36:54
Det er svært for mig helt at forklare, men Jeg kan godt
36:56
forestille mig. Jeg kan godt lide takt med, at
36:58
jo mere intimt fordi Det er jo i virkeligheden det, som de her
37:00
lemmer muliggøre ret meget. Ikke det der med at blive meget
37:04
intime detaljeret awareness på en eller anden måde for brugerne
37:08
at skabe. Og i takt med at det bliver så
37:13
intimt, når man får de muligheder der.
37:15
Så kommer det også til at betyde mere de her detaljer.
37:19
Som man kan forestille sig, at amerikanske elever ligesom
37:23
kommer til kort møde. Ja.
37:26
Det er der ingen tvivl om altså. Det er jo noget af det som som.
37:33
Vi har snakket om Det er. Det er svært at få de
37:38
proprietære modeller, som også selv åbner åbner i ice modeller
37:42
at få dem til at være meget danske.
37:44
Det ikke umuligt, men det kræver 1 1 1 1 vis mængde af af
37:49
prompting, hvor man kommer helt ned i det der space der.
37:53
Så. Det det kunne være rart med en
37:57
en god god open source dansk model der kunne bruges til helt
38:03
almindelige danske ting. Så eller i hvert fald noget
38:08
data, som kan bruges til at træne de de åbne store modeller
38:11
der kommer ud af nu er der ikke. Det kunne være fedt.
38:15
Skal vi gå videre til det næste nyhed?
38:18
Lad os lad os gå videre. Det bliver nok ikke det sidste
38:21
vi snakker om konsortiet, men men altså.
38:26
Lad os tage, hvad vi ellers har. Yes og Det er jo en nyhed der
38:30
handler om at Stack overflow og og det bliver den sidste nyhed
38:33
af men og Det er rent faktisk en nyhed ash er det?
38:36
Ikke. Ja lige lidt sjov.
38:39
Nyhed mere end Det er så meget. Ja, og Det er et partnerskab
38:44
mellem Stack overflow og open air, som samarbejder omkring et
38:49
nyt api. Så vidt Jeg kan se, og Der er jo
38:52
et eller andet komisk over det her, fordi at hvis Der er nogen
38:57
applikation som har gjort Stack overflow.
39:02
Mere irrelevant end de var før, så er det chewie altså.
39:07
I relevante de var, før de var ret relevante, for de bliver
39:10
gjort lidt til. For når nogle gange i udvikler
39:14
og termer, men Det var mest de udviklere der fik at vide at hov
39:17
hov du kopierer jo bare fra Stack overflow og så editerer du
39:21
lidt i det her så er det så er det klaret.
39:24
Men Det er jo så det som mange udviklere gøre med med chat
39:27
kapitel i dag og det fungerer stadigvæk også rigtig fint så
39:31
længe man husker sin sine dyder i sin programmering.
39:35
Men nu har de så lavet et AP og hvad er det de skal med?
39:38
Det åbner Jeg er det åbner jeg der skal bruge Stack overflow a
39:42
piet. Skal det kunne retrieve når folk
39:46
stiller kødet spørgsmål, skal det så kunne retrieve issues for
39:50
stærk overflod og måske besvare deres deres problem?
39:54
Sådan så ja hvad er det? Ja altså Det er ikke et godt
40:01
spørgsmål. Jeg Jeg tror nemlig det det jeg
40:03
siger, men jeg ved det ikke. Altså Det er jo noget med at
40:07
abonnere. Altså de har jo et overflow
40:11
papir Der er overflow og det vil abonnere så ligesom.
40:19
Hvad skal man sige? Johnny falls smed på en eller
40:22
anden måde, og. Bruge det som en nordlige
40:25
nordlige base for. Alle ja det tror jeg Det er lidt
40:30
virker som om Det er lidt af det de Sådan prøver på ikke og så
40:33
hvad skal man sige og og og så jeg ved ikke om Sådan om det
40:37
også er en del af det åbner jeg får lov at træne på deres data
40:40
som om de ikke allerede har gjort det.
40:43
Og sige at det, Det er vist allerede gjort.
40:45
Ja det tror jeg nok ikke det der interessen ligger for dem.
40:49
Nej så. Øh.
40:52
Men jeg kunne godt forestille mig at der var noget fedt i det
40:55
der med at at nu, men jeg udvikler Det er du jo også unge,
41:00
så vi ved jo hvordan vi bruger chat kapitel i dag.
41:05
Jamen så har man en tendens til ligesom at.
41:09
Stadigvæk engang imellem, når man leder efter et eller andet
41:12
meget konkret. Altså, lad os nu sige.
41:15
Jeg har. En helt dugfrisk version af et
41:19
eller andet Jeg har installeret, fordi jeg tænker det der.
41:22
Det vil jeg gerne bruge, og så er jeg måske lidt for tidligere
41:25
doktor på det, og så kommer der et eller andet.
41:28
En eller anden fejl, hvor jeg tænker hvad filen er det der og
41:32
Sådan noget og så eller også så ja jeg finder et eller andet II
41:36
en pakke jeg bruger eller Sådan et eller andet og så tænker jeg
41:38
okay det der Det var der ikke i går.
41:40
Hvorfor er det der i dag eller Sådan et eller andet og så
41:42
tænker jeg okay Der er sket et eller andet siden sidst eller
41:44
andet release Der er sket noget og jeg ved bare at hvis jeg går
41:48
ind og spørger chat VT om noget som helst, der har med lige
41:51
præcis det problem Jeg har står med der, så har den ikke en
41:54
fløjtende ide om hvad Det er det handler om, men jeg ved til
41:58
gengæld at udvikler masserne derude der bruger den samme
42:00
løsning så meget de har helt sikkert allerede postet både
42:03
issues på github. Hvor stærk overflow og alt
42:06
mulig. Der har relateret til det her,
42:09
fordi lad os nu bare sige Det var en meget, meget kendt clint
42:13
park eller et eller andet jeg brugte i python så er der ikke
42:16
100% 1000. Så brohovedet derude med det
42:19
samme, når der kommer Sådan nogle fejl der.
42:22
Så jeg ved hvor jeg skal gå hen, hvis jeg gerne vil høre den
42:25
nyeste brok omkring en blok i et eller andet jeg bruger.
42:29
Men Det kan være en stort set aldrig nogensinde spørge chat
42:32
kan bytte om, så derfor så er github diskussioner.
42:38
Stack overflow issues og Sådan noget, men Det er stadig super
42:41
relevant det Det kan chat give pt ikke erstatte Sådan som jeg
42:46
ser det hvis Jeg vil ned i de der natty greatness og finde ud
42:49
af hvad er det Der er op og ned i det her og det vil man jo
42:53
gerne nogle gange og især vil man gerne finde ud af at det her
42:55
Sådan ongoing issue kommer det tilbage eller?
42:58
Skal jeg til at fjerne den her dependency, fordi det stoler jeg
43:01
ikke på mere og Sådan nogle ting.
43:04
Jamen Det er jo bare. Så kan man så kan man måske i
43:08
fremtiden få det der igennem alligevel eller et eller andet
43:13
er det det vi nu. Læser jeg om det her overflow PI
43:16
apollo ja overflow p altså subscription based api service
43:21
that provides continues access 2 Stack overflows public dataset 2
43:26
train and fine tune last language models.
43:29
OK så Det var overhovedet ikke det jeg.
43:33
Så. Så de de partner op, altså åbner
43:36
jeg partner op med, hvis Det er overflows de kan træne med deres
43:39
data, men altså for fanden de har de jo trænet på i forvejen
43:42
altså altså, men så har de nok lavet en mere foretaget.
43:45
Omtale ja. Ja så Det er.
43:47
Sådan lidt. Lidt Sådan eller New York Times
43:49
agtig eller Sådan axel spray springer Financial Times agtige
43:54
lignende aftale i virkeligheden bare med stærk overflow og.
43:59
Hvad ligger der i Sådan en aftale?
44:00
Det det det andet end altså hvad koster det?
44:03
Hvad er det, der ikke nogen der siger noget om?
44:07
Det synes Jeg er lidt. At betale for det.
44:11
Det er nok meget på individuelt. Eller hvad kan man sige?
44:16
Og fra organisation til organisation, hvad man synes Det
44:18
er en data, skal koste ja på en. Eller anden måde, så føler jeg.
44:22
Der var ligesom opening jeg de Sådan de samarbejder bare med en
44:25
masse for ligesom at få lidt goodwill og sige hey Vi har
44:28
venner og Sådan noget det ja Det er ikke andre synes Vi er nogle
44:31
sviner altså Sådan. Der går.
44:34
Særlig mange penge imellem dem i den der aftale der.
44:36
Det kan også bare være Stack overflow, får lov at bruge af
44:39
pid eller Sådan et eller andet. Ja og og putte en en generativ
44:45
løsning ind i deres site, for eksempel.
44:48
Kom nu bare jo og hentede det fint kan.
44:52
Ikke lade være med at skrabe Vores site.
44:53
Det gider vi altså ikke. Kan ikke bare hente det i det
44:55
her api her. Det går meget hurtigere.
44:57
Hvis i skraber det, så er det super langsomt.
45:01
Stackoverflow er kendt for den her.
45:03
Det er et sidespring sidespring som det hedder.
45:06
Dicaprio er kendt for den her mom.
45:09
Nu monolit arkitektur, hvor det bare er en stor fed webserver og
45:16
så er alt bare en stor relish kloster og de de serverer jo
45:21
helt vildt meget trafik eller faktisk ret meget og det står
45:25
bare et sted i verden og Der er ikke noget distribueret.
45:29
Med fancy ud på mange regioner alt muligt Sådan lidt tror det
45:33
jeg gik helt præcist, men Det er noget med Det er bare en stor
45:35
fed maskine der kører det der ikke.
45:39
Ikke så meget pis altså. Hvis der ikke overflow maskinen.
45:44
Det er bare Stack overflow. Maskinen det tror jeg Det er
45:46
Sådan en enkelt server. Det koster dem ingenting vel i
45:49
forhold til hvor meget trafik de server fordi de bare gør det på
45:51
den måde der. Så de er jo altid nævnt når når
45:54
folk snakker om de der distribuerede fancy
45:58
mikroarkitektur, hvor alt er skalerbare og kan flytte. 2
46:02
meter afstand når Det er noget der sker noget herovre, så kan
46:07
de flytte tættere på netværksmæssigt og Sådan nogle
46:09
ting så griner de er altid. De kommer altid med Sådan en
46:13
debatten der. Ja de kan bare se hvordan man
46:15
skal gøre det herovre. Vi kører bare på Sådan en stor
46:17
en stor fed maskine der klarer det hele for os.
46:20
Ikke alt det andet fis der. Det er faktisk ikke.
46:24
Debatteres ja nå men okay. Så Stack overflow.
46:29
Det vil have træningsdata. Det åbner jeg.
46:31
Det var Sådan lidt et antiklimaks, synes jeg.
46:33
Den nyhed der jeg troede det ville være noget der var.
46:37
Men man kan sige, hvis Det er Sådan.
46:38
Continues man kan sige i virkeligheden så så det som den
46:43
værdi som abonnerer ikke kan få ud af at samle samarbejde med
46:46
axel springer for eksempel og eller springer eller hvad det
46:49
hedder så med det her tyske medie.
46:53
Kan man sige koncern og så for eksempel Financial Times i
46:56
England og de vist også lige begyndt at gå samarbejde med.
46:59
Og Det er vel i virkeligheden, at de kan få adgang til Real
47:02
time nyheder ikke Sådan for træningsdata, Der er nyheder jo
47:05
ikke super interessante, men Det er jo det Der er.
47:08
Det hvad er det egentlig for et samarbejde, Der er indgået der
47:11
og har man solgt og altså fordi lige præcis det der ikke nu nu
47:16
nu det Der er jo ikke nogen der skal lægge skjul på, at jeg
47:19
kommer fra et et sted med nyheder, men Der er jo virkelig
47:21
2 forskellige måder at at hvad kan man sige at samarbejde på
47:25
her? Skal du have mulighed for
47:27
ligesom at bygge det ind i en applikation, at du ligesom som
47:30
er en generativ at vikan eller skal du skal du have mulighed
47:34
for at ligesom bare at træne på en masse historiske.
47:38
Data som måske? Ikke har så meget nyhedsværdi
47:42
faktisk i virkeligheden lige nu, fordi at Det er gamle nyheder.
47:46
Altså Det er jo ikke en hemmelighed, eller at der ligger
47:48
helt sikkert masser af artikler derude som som som ikke er super
47:52
interessante i dag. Det gør jo ikke at Det er mindre
47:56
oppe. Idrætsmæssigt beskyttet, men man
47:59
kan sige, Det er nok heller ikke af den årsag noget som åbner.
48:05
Jeg synes er særlig interessant at putte ind i en en live
48:09
generativ løsning. Du ved altså Sådan, men det, Det
48:12
er det sikkert fint at træne lidt på.
48:14
Men har de brug for det og Sådan nogle ting, så hvad betaler de
48:17
overhovedet for det der? Og Jeg er ikke sikker på at Det
48:21
har. Det er lidt særligt stor
48:23
interesse hos dem, og Jeg tror også at samme ord man har været
48:27
ude og sige. Et eller andet omkring det der
48:30
med at. Det Det er så lidt data at Det
48:34
er ikke så vigtigt og Sådan nogle ting altså sagde målmand.
48:37
Han er jo. Den han er jo mester i han er jo
48:40
mester diplomaten ikke han er jo han er jo altid Sådan.
48:44
Ja, men Det kan vi godt se og altså han er jo meget Sådan du
48:47
ved. Han er jo glad til mål ikke
48:50
altså skal nok. Han har altid VI ærmet.
48:54
Der apropos nu nu. Nu synes jeg lige vi vi.
48:59
Vi kan jo godt tillade os lige at gå ud og shoppe lidt her til
49:02
sidst. Ikke fordi Vi har jo Sådan
49:04
officielt 9 minutter tilbage før Vi har ramt Vores team i times
49:08
mark der, men der bliver jo snakket lidt om selv den gode
49:12
sag Morten og hans GBT 5 ikke og og Der er altså der skal jo være
49:18
lidt lidt gang II hype. Opvarmning hos opnå i.
49:24
Nødvendighed. Det er super.
49:27
Det er super vigtigt at lige holde lidt gang i den og hver
49:30
gang der ligesom kommer lidt. Jamen nu kommer den der fra meta
49:33
den den store der så så skal han lige ud og sige lidt og alle
49:38
står lidt og venter på at der skulle komme en GP 5 og er du
49:41
lige så uimponeret over det som som lægmand modellerne junge men
49:47
det. Det er sjovt fordi.
49:51
Jeg tror at klippe til Jeg tror for nu af så tror jeg det kommer
49:55
til og det eller det ved jeg ikke og Det kan også godt være
49:58
Jeg har det, men lige nu har jeg bare lyst til at sige at Jeg
50:01
tror jeg giver det til 5 kommer til at blive.
50:05
Altså Sådan man kommer til at føles bedre end v 4, men også
50:08
langsommere. Tror du det vil være
50:10
langsommere? Det tror jeg.
50:13
Fordi jeg havde det Sådan. Helt ind til hjertet ikke også,
50:16
så Der er rigtig mange der battler med med langsomt adgang
50:20
til give op til 4 for tiden. Det er også igen stor brok kør
50:24
ude på diverse fora. Og så hedder det jo, at hvis
50:30
hvis femmeren den kommer ud nu. Og den bare er.
50:36
Eksponentielt langsommere og måske ligne jer.
50:42
Ja lige nu er jeg klogere. Du ved den bruger eksponentielt
50:44
mere computerkraft, men jeg kun ligner en krukke og Det var ikke
50:47
kun ligner klogere. Så har jeg det Sådan lidt sov.
50:52
Fik en vold altså det. Så jeg.
50:56
Tror ligeglad. Jeg kommer aldrig til at bruge
50:57
den i en applikation, sammenhæng eller min bror, og de ville
51:01
hurtigt synes Der er et eller andet Der er noget.
51:03
Vi begynder altså. Nu skal jeg ikke snakke som om
51:06
at jeg ved hvordan Det er at træne Sådan nogle gigantiske
51:10
modeller og noget som helst. Overhovedet, men Jeg synes bare
51:13
det virker som om man er ved at være lidt et sted hvor at.
51:16
Nu begynder de også bare at blive forlovet store ikke og
51:19
Sådan fjollede upraktisk store hvor man sammen.
51:24
Jamen Det er de jo i forvejen ikke, men man har jo fandme fået
51:26
en eller anden en eller anden måde og og hvad hedder det?
51:30
Fik det på, men det Jeg tror dem det virker som om at at.
51:35
Det er den den tredje, altså det det den kurs Vi er på nu her.
51:38
Den er på en eller anden måde meget forudsigelig, og jeg
51:40
forestiller mig at give til 5 er eller give til 4 1 halv eller
51:43
hvad det kommer til at hedde er bare en bedre version af kapitel
51:46
4, hvilket var så fedt og imponerende, men Det er nok ikke
51:50
Sådan en. Wow Det er nok mere bare Sådan
51:53
en wow den er langsom ikke og så når man får nosset sig sammen
51:56
til at gide at vente på den så kan man sige okay den handler
51:59
siger nærmest ikke og. Den kan nogle ting som
52:03
geografier ikke kunne. Jeg tror, måske åbner jeg de har
52:08
de kommer til at at levere et stort ryk i forhold til nogle af
52:12
de andre. Ikke det tror jeg de andre.
52:14
De andre er jo ved at catche op nu og abonnere har jo været der.
52:18
De har været der et år over et år, ikke så de de har helt
52:22
sikkert også et kæmpe stort ryk i kortene.
52:24
Der er ingen tvivl om at give til. 4 af forældet set fra deres
52:28
side men men Jeg vil også vove at påstå at den er også forældet
52:33
set for mange af de åben source modellers side.
52:37
Dybest set hvis man hvis man bare var et land der var
52:42
engelsksproget, så var der altså mange alternativer til at give
52:46
til 4 derude nu. Er virkelig mange så til den
52:52
case man nu måtte bygge en applikation til som kan være
52:56
meget specifik jo og ikke behøver at være komme og komme
52:59
og kunne alt med et chat interface.
53:03
Det der Der er der virkelig meget andet du kan bruge end
53:06
gift til 4 så så den er jo et eller andet sted forældet.
53:13
Den er også et væsentligt langsommere end mange andre
53:15
løsninger derude der kan noget af.
53:18
Det samme ikke? Så det bliver spændende at se.
53:22
Hvis og hvornår og Sådan nogle ting det kommer.
53:24
Men jeg føler bare der sker noget.
53:26
Andet til ikke der sker noget. Jeg jeg føler Sådan
53:28
transformerer paradigmet og alt det der den der token på diction
53:33
ting. Og Det er ligesom om Der er.
53:35
Et eller andet. Altså ligesom ligesåvel som
53:39
supervised learning skal være dårligt fordi det kræver Der er
53:44
en buttle lake bottleneck der hedder Manuel.
53:46
Hvad skal man sige annoteringer manuelt arbejde Det er der hvor
53:50
selv supervise learning skal være godt fordi.
53:53
Der skal du bare have masser af data, så lever det så selv.
53:57
Så jeg ved ikke. Jeg føler også bare at Der er et
53:59
eller andet med transformer arkitekturen.
54:02
Der ikke skalerer godt nok og Det er ikke og og her tænker jeg
54:06
ikke kontekst længde, fordi Jeg synes Jeg synes Det er lidt
54:09
fjollet. Alt det der kontekst længde og
54:10
hvor meget folk går op i det jeg jeg tænker mere Sådan
54:15
intelligens per parameter agtigt altså jeg ville være utrolig
54:19
imponeret hvis jeg så en p 4 som var på størrelse med en altså
54:22
med 7 milliarder par meter for eksempel.
54:25
Det kunne være sindssygt altså eller 2 milliarder par meter
54:28
eller et eller andet, altså fordi det vil det vil i
54:30
virkeligheden være det store gennembrud.
54:33
Synes jeg. Fordi så ville du få markant
54:40
mere. Intelligens for det computer
54:44
ligesom kastede det ikke, og Jeg kan ikke finde ud af hvad Det er
54:46
der skal. Jeg kan ikke finde ud af hvad
54:48
Det er der skal løse det her problem, fordi jeg føler både at
54:51
Det er en hardware ting. Altså Der er nogle mikrochips
54:53
designere der skal lave nogle bedre chips nummer 2 Der er
54:58
nogle. Algoritmer og modeller
55:00
arkitektur, som ligesom skal gøre os mere effektive.
55:05
Og hvad er det sidste jeg tænkte på?
55:06
Men så er der også noget. Der er noget.
55:09
Hvordan laver vi data i høj kvalitet?
55:12
Altså hvordan producerer vi data som skalerer bedre?
55:18
På en eller anden måde ikke, altså som.
55:20
Fordi lige nu har vi en i en bottleneck, der hedder at Vi
55:22
skal manuelt. Producerer data for, at de kan
55:27
blive så gode her i forhold til min formodning om min feedback.
55:30
Ikke. Der var nogle problemer som
55:31
virker som om, at de ikke bliver de ikke er bliver løst med med
55:35
den proces Vi har nu. Hvad nu hvis at?
55:38
Hvad nu hvis at det de altså det de har trænet den til altså hvor
55:43
at vi havde og har det her råd completion versus instruct
55:48
versus chat. Og så det her funktion calling
55:51
som jo er, hvad kan man sige prompt interfaces og.
55:55
Og også. Altså trænede interfaces.
55:59
Det er dybest set det Det er. Man kan godt kalde det.
56:01
Det er en form for trænet interface til en model.
56:04
Hvad nu hvis de har spottet et eller andet vi andre ikke har
56:07
set derude i prompt internettet land.
56:10
Og og trænede en anden måde end tidligere med den på.
56:15
Som måske har en eller anden form for forbindelse i de her
56:19
mange modaliteter. Noget af det Vi har snakket om
56:21
med den her planning, modalitet og Sådan nogle ting der.
56:24
Hvad hvis de kommer ud med Sådan et eller andet?
56:27
Der er Der er. Ja på en eller anden måde,
56:32
selvfølgelig. Nyt.
56:33
Innovativt skridt i den. Retning Det er stadigvæk en
56:36
bølge i transformer nedenunder, men de har bare.
56:39
På en eller anden måde fået trænet den til noget.
56:42
Der er endnu mere brugbart. Interface wise.
56:46
Altså man kunne forestille sig at de.
56:47
Træner Sådan altså man kunne forestille sig at de ville der
56:50
kunne de godt innovere lidt og gøre dem mere.
56:52
Sådan interessante effektive at man.
56:54
Men altså hvis de ligesom man kunne forestille, og Det kan man
56:56
sagtens forestille sig at arbejdet med, men altså hvis de
56:58
ligesom i fintællingen og eller i Sådan træning af modellerne
57:03
træner dem til at være gode til at være agenter for eksempel og
57:06
til at agere som agenter. Sådan så de er med på at de er
57:10
agenter. Og de er med på den.
57:13
Konvention og og den måde at. Generere tokens på ikke ja, der
57:19
kunne man godt forestille sig. Man kunne se nogle nogle
57:21
spændende ting, som man kan forestille sig at de en en hvor.
57:26
Man ser agenten som en dispatcher til tools, for
57:31
eksempel som Det er nu med fucking calling eller tools call
57:33
eller hvad Det er twitch, hvor at den beslutter hvad for et
57:38
tool den kan bruge. Hvor det måske er anderledes
57:42
eller endnu mere anderledes altså.
57:45
Ja. Det Det er jo.
57:46
Men man kunne godt forestille sig at måske at.
57:48
Den den ville blive fintunet til at.
57:51
Generere agent steps giver det mening?
57:54
Altså hvis man i stedet for at fintuner til og Det er det jeg
57:58
mener der ligger rigtig meget også i fintuning framing ikke
58:01
altså det tror jeg man bliver overrasket over hvor meget der i
58:04
virkeligheden ligger i det data du producerer og hvordan det
58:08
altså den er. Den bliver trænet på et eller
58:10
andet, ikke så ekstrapolerer den.
58:13
Ja og så, men man kan forestille sig.
58:14
Nu laver man jo det der hedder multi turn chat eller samtale
58:19
eller hvad skal jeg sige hvor at man ligesom har Der er en bruger
58:22
der skriver noget, så er der en sort nattøj der svarer så er der
58:25
en der skriver noget altså chatsamtaler træner man på ikke
58:28
man kunne godt forestille sig at man ville begynde at træne på
58:31
agent flows giver det mening altså Sådan så at det ikke er en
58:35
samtale, men Det er en instruktion og så.
58:38
Øh, en agent der laver presenning og så videre ikke?
58:42
Jo det giver totalt mening. At man så Sådan.
58:48
Modermælken at den er den skal være agent.
58:52
Som ikke. Bare er er det her funktion
58:55
calling selvom at man kan bygge et agent flow der kunne ligne
58:59
det der med funktion calling, men hvor du har.
59:02
Som du siger iterative chats, og hvad kan man sige flere
59:05
forskellige prompts statement, så arbejder op mod hinanden.
59:10
Så ja så kunne man så. Træne modellen specifikt til at
59:15
agere i Sådan en form for interaktivt agent miljø.
59:19
Det lyder meget. Spændende.
59:21
Men, men får vi så meget mere end det, vi allerede har i dag
59:24
ud af den? Og betyder det så at den?
59:28
Er blevet smartere. Men jeg ved ikke, så kunne man.
59:31
Forestille sig, at den ville blive bedre til at.
59:34
Altså hvis man ligesom laver et datasæt med agent du du bygger
59:38
en agent, og så sætter du så løse alle mulige problemer, og
59:42
så vil den på et tidspunkt, så vil den blive stærk eller den
59:46
vil lave en fejl Sådan så den kom ud af en forkert tangent
59:48
eller gør et eller andet. Så kan man godt forestille sig,
59:50
at ligesom tage alle de eksempler, hvor den fejler og så
59:52
ligesom gøre det rigtigt i stedet for og så træner dem, så
59:56
laver det til 1 1 trænings eksempel.
59:58
Altså hvis du bare gør det metodisk altså laver et cetera
1:00:02
eller til at lave noget indtil de laver en fejl og så når de
1:00:05
laver en fejl så. Retter du den fejl og træner på
1:00:09
det? Ja, altså giver det mening så du
1:00:11
litteratur bygger det Sådan? Så du træner dem til at.
1:00:18
Altså som ligesom bare slår de her fejl ned en for en.
1:00:21
Og så laver jeg Sådan en eller anden form for belønning med
1:00:23
det, ikke? Det må godt forestille sig, så
1:00:25
har de. Produceret en en hulens masse
1:00:28
syntetiske data på baggrund af gt 4 til det der og så og så har
1:00:34
de så trænet oven på det igen bagefter.
1:00:37
For ligesom at tage alle de succesfulde agent ud og ligesom
1:00:44
tune dem på dem. Ja eller også tager.
1:00:47
Eller måske i virkeligheden var dårligere og også.
1:00:49
Selvfølgelig tune på dem, og så rette dem ikke.
1:00:53
Ja præcis tyven. Det er mine.
1:00:56
Langt væk i baset, så der kan man godt forestille sig, at der
1:01:00
var noget. At handle ikke, men Det er jo
1:01:01
igen ikke en banebrydende ny teknologi.
1:01:03
Det er mere bare en kuratering af det samme en innovativ måde
1:01:09
at lave fremtoning data på. Ikke så Det er jo stadig
1:01:12
transformeren ikke transformeren ja.
1:01:15
Hvis Det er det. Ja nå spekulationen her til
1:01:19
sidst. Det kan vi godt lide.
1:01:22
Nu er vi jo gået over tid. Det er jo ikke så godt.
1:01:24
Det er, at vi blev lige grebet af.
1:01:25
Stemningen? Det må man sige.
1:01:28
Måske kan jeg bare lidt til en afsluttende afslutningsvis sige,
1:01:31
at vi oplever PT. Eva bros podcast at.
1:01:36
De 5 sidste afsnit Vi har lavet har fået flere views end eller
1:01:40
lytninger på dagen end det forrige, og vi oplever generelt
1:01:45
også at Der er kommet et ret stort hop i antallet af lyttere
1:01:49
efter påske, hvor vi jo topper på top 6 tror jeg på tech
1:01:54
podcast i Danmark, så så Det er jo rigtig spændende at se den
1:01:58
her udvikling og følge med i at se at folk lytter med derude.
1:02:02
Det er vi selvfølgelig glade for.
1:02:05
Podcast. Helt egnet business
1:02:07
intelligence. Manager.
1:02:10
Ja, men Det er jo. En gammel zombie virkelig nørdet
1:02:14
meget analytics med Sådan noget der så det Det er totalt fan af.
1:02:19
Det er vi jo glade for, fordi Vi er glade for at have mange.
1:02:21
Lyttere fra nær og fjernt så. Der er folk fra USA der lytter
1:02:27
med. Jeg kan lige prøve at læse lidt
1:02:29
analytisk høre det her. Vi har en procent af Vores
1:02:32
lyttere er fra USA. En procent er fra Norge.
1:02:36
Der er Spanien, Tyskland, Sverige, Italien.
1:02:41
Aldrig op men men men 93% af Vores lyttere fra Danmark, så er
1:02:45
sgu til at sige hvorfor. Der er nogen af dem, der forstår
1:02:48
hvad vi snakker om. Og så har vi flest. 37,8% af
1:02:52
Vores lyttere er mellem 28 og 34 år. 21,6% af Vores lyttere er
1:02:58
mellem 45 og 59 år. 18,2% af Vores lyttere er mellem 35 og
1:03:02
44. Og 14,6% af Vores lyttere er
1:03:06
mellem 23 og 27 år. Så vi henvender os allermest til
1:03:11
dem mellem 28 og 34 næstmest til dem mellem 45 59.
1:03:18
Og så ja. Der var.
1:03:21
Fuld. Gennemsigtighed.
1:03:22
Sigtighed i Vores dat, og Vi har jo selvfølgelig selv samlet de
1:03:26
der allerede data ind og køn og Sådan nogle ting og ej.
1:03:32
Eller software hvor og så har vi, og Det er så lidt
1:03:34
nedtrykkende det her, men Vi har cirka 10% kvindelige lyttere, så
1:03:40
det det kunne godt være, Det kan vi.
1:03:44
Godt arbejde med. Vi mangler også flere kvindelige
1:03:47
gæster. Og måske en kvindelig vært en
1:03:51
dag? Måske måske.
1:03:53
Det kunne godt være. Det må vi jo desværre bare
1:03:57
erkende. At.
1:03:59
De går ikke så. Godt i Vores branche.
1:04:01
Med det der så ja og Det var nedslående tone her i slut.
1:04:07
Nej, men nu skal vi også hvad? Hedder det.
1:04:09
Nu skal vi også til at slukke af hvad hedder det du er klokken
1:04:13
mange og måske og i øvrigt i går.
1:04:17
Jeg har lige fået en ny rulleskøjter og så var jeg ude
1:04:20
og prøve mine rulleskøjter i går og så her i der hvor jeg bor.
1:04:23
Der er rigtig mange bakker. Og så kom jeg til at køre ned af
1:04:27
en bakke. Det tænkte jeg, Det er ikke
1:04:29
noget problem, Det kan jeg sagtens.
1:04:31
Så kommer til at køre ned ad en en retsregel bakke med mine
1:04:33
rulleskøjter. Og så gik det simpelthen så
1:04:36
hurtigt, at jeg mistede kontrollen og for at undgå
1:04:39
ligesom at skøjte ned i en i en a der var for enden den der
1:04:45
bakke der. Så styrtede jeg simpelthen livet
1:04:48
på asfalten ind i græsset og og fik et ret stort åbent sår på
1:04:54
min albue med hvor der var. Det var ligesom om der var
1:04:57
blevet mast jord endnu at Casper junge.
1:05:01
Henviser sin albue på skærmen her.
1:05:04
Det ser ikke rart ud det der. Hvordan har du overhovedet klare
1:05:07
dig igennem en times podcast for mig?
1:05:09
Det ved jeg heller ikke jeg men. Jeg var lige en tur på
1:05:11
skadestuen og så videre, så så jeg lige få det renset og få en
1:05:14
stivkrampevaccination og så videre.
1:05:16
Så du må lige tage dig en slapper i kristi.
1:05:18
Himmelfartsferien her så. Ja, det må hellere gøre så.
1:05:21
Det yes. Godt.
1:05:25
Det. Er ved at være slutningen for
1:05:27
den her podcast 1000 tak fordi i lyttede med.
1:05:31
Vi er rigtig glade for at se der flere og flere der lytter med.
1:05:33
I skal have velkommen til at gå ind og følge os på Apple podcast
1:05:37
inde på Spotify eller der hvor i lytter podcast.
1:05:39
Man kan også høres på youtube, og på podimo fandt vi ud af her
1:05:42
i sidste uge, og man kan jo også anmelde Vores podcast, så det må
1:05:48
man også gerne, så man har lyst til det.
1:05:49
Og hvis man vil efterlade en kommentar man også gerne det.
1:05:52
Og tænk hvis man er nået hertil, så må være må man være die hard
1:05:56
fan af at være os podcast, så men indtil vi ses igen næste
1:06:01
uge. Så eller indtil vi ses igen
1:06:03
næste uge, så må i have det rigtig godt.
1:06:04
Du ved vi ses.