Latest / Verbos: AI og Softwareudvikling / #27 - Roman Jurowetzki: Bør Staten Overveje en Dansk Chatbot?

Transcript

#27 - Roman Jurowetzki: Bør Staten Overveje en Dansk Chatbot? · Verbos: AI og Softwareudvikling

20:04
Og ja, Jeg tror Jeg har også følt det der meget med at jamen
20:07
Der er nuancer vi glemmer, når vi bare siger skal vi træne.
20:10
Altså for nogen kan godt forstå det der med at man træner den
20:13
til at blive god til et eller andet, ikke den der store sprog
20:16
model, men en træning er jo ikke bare en træning altså Der er jo
20:20
altså ja som siger præg træning, fine tuning og de der ting.
20:24
Så Det kan godt være Vi skal oppe os lidt på det der
20:26
kommunikation. Og Jeg kan også huske for at
20:28
chatte PT. Der har jeg godt nok også brugt
20:30
meget tid på at kommunikere ud, at Vi skal have danske børn
20:33
modeller. Vi skal have de her lidt mere
20:36
Sådan en scooter agtige modeller, og Det er godt nok
20:40
svært at få folk til at altså Det er jo og de selvfølgelig er
20:43
det. Det er jo mega nørdet, ikke?
20:44
Men Det er svært at kommunikere, hvorfor Det er smart, og fordi
20:48
Det er super svært at forstå, og Jeg tror Vi er nået grunden til
20:51
at Der er så altså. Det Det er på en måde blevet så
20:54
nemt at forstå, fordi nu er det en chatbot nu.
20:57
Det forstår man man forstår chat giver man forstår hvordan den
21:00
virker man forstår Det er jeg ikke så så Det er ligesom den
21:04
relation ikke super nørd der har til det og Der er det nok
21:08
rigtigt at som du siger roman at der ligger der 1 1 1
21:11
formidlingsopgave i at i at. Fortæl den hele historie.
21:17
Nå ja. Nå men lad os nu.
21:22
Jeg tror efterhånden så vi vi startede lidt i tidernes morgen
21:26
med spørgsmålet om vi skulle de her modeller.
21:29
Men Jeg tror, at vi ikke Sådan ved at være der, hvor det skal
21:32
vi altså. Det er Sådan et rungende ja,
21:33
ikke vi, Vi skal gøre et eller andet, men Jeg kan ikke lade
21:37
være med at tænke på, at der hele tiden er den der elefant i
21:40
rummet, ikke altså det der juridiske problem med med
21:43
teksten og og. Der er også noget kommunikation,
21:47
vi mangler. Det er ikke så, men så har vi
21:49
trænet den. Og hvor blev teksten så af den?
21:51
Kom så ind i den her model der, men hvad så, når jeg så er open
21:54
source modellen? Jamen så så er det jo noget.
21:58
Det tekst kan jo ikke komme ud til offentligheden og det den
22:01
den der Sådan det connect Der er der i kommunikationen også.
22:05
Nej, nej, Det er ikke teksten vi Vi har åbnet.
22:07
Source. Det er modellen, eller er det
22:11
teksten, vi ligger offentligt tilgængeligt og så kan folk tage
22:14
koden og selv gentræne altså du ved.
22:18
Der er også noget der, og jeg tænker bare det der juridiske
22:20
aspekt der Der er virkelig, virkelig, virkelig mange
22:24
juridiske barrierer, og Der er ikke særlig mange derude.
22:28
Der har en ben i begge lejre. Den der stærke juridiske og den
22:32
tekniske. Jeg har næsten ikke mødt nogen.
22:35
Der kan jeg begge dele godt nok tror jeg.
22:39
Det er hvad gør meget tricky. Jamen Det er Det er umuligt
22:43
ikke? Altså altså nu tænker jeg prøver
22:45
lige at Google det det her lige om lidt fordi altså jeg en side.
22:50
Vi har jo de der lige nu nogle triptæller der siger.
22:55
Det skal stoppe. Det skal ikke have mine bøger i
22:57
det der. Ja og ja der samtidig kom der en
23:00
papir ud sidste uge som jeg syntes var skide sjovt at at man
23:05
faktisk med lidt fintuning kan få.
23:08
Eller lade mig til at glemme ting.
23:11
Og så kan du sige, okay, Jeg vil gerne du glemmer altså og det
23:15
det de har lavet er den paper var at sige nå hver gang altså
23:20
Sådan hvis du bliver spurgt Sådan en god bog for unge der
23:23
havde noget Sådan magic og Sådan noget og gør og som bare lad
23:26
være med at sige Det er Harry potter.
23:31
Ikke også og så hvis det gør det nok i filten.
23:33
Det er åbenbart det fine timingen bagefter, så glemmer
23:36
man at Harry potter fitness så siger den bare et eller andet
23:39
ligegyldigt. Så kommer hogwarts spare op i
23:42
stedet for, og Det er ikke Harry potter.
23:44
Men det kommer heller ikke op, altså når de får det til at
23:46
altså det forsvinde, så Det er Sådan lidt som du ved som brand
23:49
sorry og det synes Jeg er fantastisk Det Hvide snit og så
23:57
så bliver jeg spørgsmålet, er det det, Vi har lyst til at
24:00
sige? Okay jamen du du gider ikke have
24:02
at. Mine tekster er i modellen, så
24:06
er de bare væk. Men altså så så så bliver du jo
24:09
heller ikke anbefaler altså hvis Der er nogen der spørger hey
24:11
hvad er en god? Et eller andet indenfor.
24:15
Så ved modellen ingenting. Ved han ikke noget om din
24:18
værker, så den kan ikke foreslå nogle gode bøger for eksempel.
24:21
Nej. Det minder mig om mellem Black
24:26
er Det er det ikke men in Black hvor de har Sådan en bevilling.
24:28
Sådan en stang med lys i som Weber deres hukommelse.
24:32
Det kunne have været en virkelig god titel for den paper.
24:34
Jeg prøver lige at se hvad den hedder, så kan vi linke til den.
24:36
Jeg synes den var fantastisk. Det må du meget gerne også til
24:40
lytterne derude, så kan vi lige putte den på i kommentarfeltet,
24:45
eller hvor vi nu hvor vi nu er ude.
24:48
Det er interessant, ja, men det men er det så kunne det være en
24:52
vej frem. Ja spændende.
24:55
Men hvad tænker i Sådan? Altså har i den der fary eller
25:01
eller hvad hedder den fra Microsoft der kommer ud for et
25:03
par uger siden? Der var der en fuldstændig
25:05
koncentriske data og de der tekstboks.
25:08
Det tror jeg altså meget og Jeg synes det det der hvor jeg
25:12
tænkte ej det Der er meget smart så det de gør bare.
25:18
De sagde det, det handler om kvalitet og ikke som om
25:20
kvantitet. 100% op mod kvalitet. Minimal data så lidt som muligt,
25:26
men høj kvalitetsdata og men de der dage havde de brugt.
25:29
Det var jo Sådan etisk genererede.
25:32
Textbook tekster Jeg tror de brugte faktisk p 4 til at
25:35
generere teksterne og så har de trænet med Sådan noget.
25:40
Jeg tænkte at det kunne jeg være.
25:42
Mit eller. Ja, Jeg tror det kommer der
25:45
altså der. Har da været ude i noget tid,
25:48
har den ikke det, men Det er også lige meget.
25:50
Men men ja ja. Jeg mødte også en del af den
25:54
trend med at gøre mere med mindre ikke altså hvad nu sit
25:57
booster kvaliteten helt op og så modellerne ned i størrelse kan
26:00
vi så få mere ud af mindre, og Jeg tror i virkeligheden også
26:03
altså jeg de de siger også i det paper.
26:06
Jeg kan ikke huske ham der både en tekstboks og all in i et et
26:09
og 2 og Jeg kan ikke huske om idet et eller 2 af de siger det,
26:12
men de foreslår i hvert fald at. De mener i hvert fald, at
26:16
syntetisk datagenerering til træningen er for eksempel
26:19
sprogmoduler kommer til at blive ret stort.
26:22
Ja, men der kan du også have virkelig meget kontrol med det
26:26
træningsdata du du anvender, og Det er jo i virkeligheden noget
26:29
af det, som har været problemet i de der store scraping
26:33
fænomener der. Det er jo, Der er jo ikke en
26:36
undskyld udtrykket. En kæft der der ved hvad Det er
26:38
den egentlig er trænet på Sådan og kan overskue.
26:42
Hvad kan man sige den fordeling af af tekst, altså i en eller
26:46
anden abstrakte term. Og den kan jo komme ud i alle
26:52
mulige afkroge, ikke så. Men hvis man så laver det
26:54
syntetisk, så kan man have fuldstændig hvis man laver det
26:56
syntetisk, så kan man have 100% kontrol med distributionen af
27:00
emner og topics og lige dele science lige dele kunst og
27:05
Kultur og Sådan nogle ting, ikke?
27:06
Men Det er jo Sådan en form for lm bootstrapping.
27:09
Ikke fordi du du skal jo ligesom have den der GT 4 til at lave
27:13
god kvalitet først og den er jo så trænet på et eller andet
27:16
ikke? Men men hvis vi gjorde det med
27:18
dansk tekst og det kom fra p 4 jamen så ender vi jo i de samme
27:21
juridiske problemer. At vi kan ikke open source den
27:24
vel fordi Det er det der med at den anvender op til 4 tekst.
27:28
Og det åbner. Jeg har nogle klausuler Der er
27:31
et eller. Andet, de har nogle klausuler,
27:32
så de putter nogle ekstra ekstra ovenpå det og ikke.
27:36
Og så er vi igen låst og så så er der ikke særlig meget
27:38
offentligt gode, så vi vi. Vi ryger lidt på den igen, ikke?
27:43
Det bliver Sådan et eller andet projekt.
27:44
Vi tager altså Sådan lidt Sådan det som mads faktisk har lavet,
27:48
at man siger okay, Der er en privat Strand model, og så laver
27:52
man den der. Så var det ikke Sådan det der
27:54
natural. En instructions approaching
27:58
havde til at generere de der instructions sats ud fra en præ
28:02
trends, altså completion model. Ting tror jeg.
28:07
Det er nemlig, Det er lige præcis det som han gjorde, men
28:09
Det er jo så kun en struck delen han han genererer syntetisk.
28:14
Man overveje at sige altså Sådan for meget kan man bruge for
28:17
eksempel noget. Engelsk tekst vil sige okay du
28:21
er nu så super god til dansk, at vi faktisk vi giver dig en ny
28:25
information og så oversætter du eller du genererer noget der
28:29
minder om det her. Men det bliver bare på dansk.
28:34
Fordi Det er det ikke, og Det er jo, men så er der bare mere
28:36
viden eller mere viden ind eller noget andet.
28:39
Som man bruger den sproglige forståelse altså af dansk til at
28:43
oversætte, og så tager man viden ud af det engelske.
28:46
Det er faktisk en man. Virkelig meget ud af vinduet og
28:49
siger Sådan nogle ting som jeg ikke.
28:52
Gjorde det. Men altså de giver nogenlunde
28:55
mening fra Sådan et hvordan de der ting fungerer.
28:57
Forståelse. Ja helt enig det Det er der
29:01
kunne være mange sjove kombinationer af det der jeg.
29:05
Jeg er heller ikke sikker på hvor langt man kan nå med den
29:07
slags tricks, men Jeg har lidt på fornemmelsen at.
29:11
At. At, hvis præge træningen ikke
29:13
indeholder tilstrækkelig meget dansk tekst.
29:16
Fordi den der prægning den er virkelig altså.
29:19
Det er næsten Sådan en overflytning af en syntaks ikke
29:21
der kommer så ligesom Sådan en den den er den laver jeg altså
29:24
ikke. Grammatisk forkert dansk når den
29:28
er trænet rigtig godt i prægningen.
29:29
Det gør den bare ikke, og det kommer aldrig nogensinde ud af
29:32
det der du skal lave virkelig mærkelig fintuning, hvis du skal
29:35
få den til at at at blive dårlig på det.
29:38
Til gengæld så er den fulde fintuning på en model.
29:42
Der ikke er præget trænet på dansk, så godt at den ikke laver
29:46
danske grammatiske fejl. Det tror jeg ikke er et lige så
29:50
nemt. Jeg har på fornemmelsen, at
29:52
danske grammatiske fejl og og decideret syntaksfejl på dansk
29:57
kan man ikke få udvasket lige så godt i fintuning.
30:01
Altså Jeg har prøvet det og det det Det er kun.
30:05
Og og jeg mener også altså al respekt til det mads har har
30:09
lavet med hans fulde fintuning på den model.
30:12
Jeg tror ikke, at Det er modellens størrelse.
30:14
Vi kan skyde skylden på her. Jeg tror simpelthen Det er det
30:16
faktum, at at Det er en fintuning, fuld fintuning og og
30:22
med. Baggrunden for Det er det jeg
30:25
siger. Det er jo så at at hvis man går
30:27
ind og prøver dansk bibliotek, så er den rigtig nok meget
30:30
dansk, især med dronning Margrethe og så videre og så
30:32
videre. Men den laver altså dansk
30:35
syntaksfejl altså den skriver Sådan en halv pludret dansk II
30:39
ny og næ ikke og der skal der alligevel gået ret meget ind i
30:45
at få den lavet ikke og så der skal bare mere til kan man jo
30:48
bare fornemme ikke mere data og mere træningstid.
30:54
For ligesom at få det der. For det der udvisket de der
30:59
syntaks ting Jeg tror. Det man skal også huske.
31:01
Man skal også lige huske bare det.
31:02
Det bliver ved med at sige tallet.
31:04
Det er en mand one man army du ved der har lavet det der og han
31:09
har hacket du ved siden december da da jeg kom ud.
31:14
Det er helt crazy. Det er også bare respekt til
31:16
mads og og gå endelig ind og høre podcasten, hvor han
31:20
fortæller om om hvordan han er gået igennem det der.
31:22
Det er simpelthen jeg var helt oppe at ringe.
31:23
Jeg synes Det var så spændende, og Vi har brug for Sådan nogle
31:27
som os til at at løfte den opgave Vi skal ud i senere.
31:30
Og Jeg tror Jeg tror, uanset hvad Jeg tror, uanset hvad, så
31:33
er det her et et case game ikke? Altså det, Det er en uendelig
31:38
det. Det er trænede model.
31:40
Se hvordan den opfører sig og observerer.
31:43
Måder den opfører sig uhensigtsmæssigt på at forsøge
31:47
at ændre det på en eller anden måde være ret i data.
31:50
Træn igen ser om det hjælper. Okay, måske hjælper det finde en
31:53
ny etiket eller finde nye uhensigtsmæssige?
31:55
Altså det bliver. Det er bare Sådan en kamp, en
31:57
uendelig kamp mod mod alle mulige forskellige cases, og det
32:01
tror jeg i virkeligheden også. Giver det det tror jeg virkelig
32:05
også, det som er gældende for gevinst i 3,25 til 4.
32:09
Det er bare sprog modeller som har fået virkelig, virkelig,
32:13
virkelig meget kærlighed og virkelig er blevet monitoreret
32:16
og testet i hoved og røv, og man har virkelig taget de der
32:20
mikrofon, ting og sager hele tiden iterere over og gøre den
32:23
bedre og bedre seriøst ikke så Jeg tror også og det tror jeg
32:27
bare man skal huske at når man har en mand.
32:30
Der sidder og bruger. Ud af egen lomme alle tricks han
32:35
overhovedet kan på quantify og bruge gpu er i som står hjemme
32:39
hos private mennesker i alle mulige forskellige, alle mulige
32:41
steder i hele verden og og så videre så er det så er det.
32:45
Du ved, så kan man få det op at køre men.
32:49
Det er langt fra ressourcer nok til at til ligesom at lave den
32:52
der iterative proces ordentligt, ikke?
32:57
Jamen Det er altså det derfor det Jeg synes det bliver super
33:01
weird, altså at at Det er det der sker.
33:05
Altså det ved jeg et sted at at jeg ikke altså Det kan være Der
33:09
er nogle virksomheder nogle danske virksomheder der har
33:12
noget korn nu har trænet i et eller andet som de bruger til
33:14
andre ikke siger til nogen men. Det er der, og ellers så er de
33:19
lige på randen til at altså prøve at få noget at gøre.
33:23
Men måske er de heller ikke kun dansk tekst virksomhed.
33:26
Måske er de også lidt internationalt.
33:28
Jeg kan godt bruge de engelske, ikke?
33:29
Så Det er jo meget hurtigere oppe at køre.
33:31
Det er det altså. Det kan jo sagtens være at den
33:33
næste uge, så er det fuldstændig ligegyldigt, fordi mistral har
33:36
sagt vi laver et eller andet EU. Ja så.
33:41
Det kunne være det kunne jo også være apropos EU kunne godt det
33:45
kunne godt være Det var et EU projekt det her.
33:49
Det, det tager lang tid. Har i set nogle EU
33:53
forskningsansøgninger det? Har du har du prøvet?
33:57
Har du prøvet Sådan noget? Roman Jeg har prøvet.
33:58
Jeg har lidt prøvet at være med på Sådan noget uha.
34:03
Det er nok nok Sådan Det er tungt.
34:06
Det er tungt administrativt. Jamen altså Det er atom fordi du
34:09
ved man prøver at undgå korruption man skal gøre det så
34:11
transparent og man skal dokumentere alt og.
34:15
Men Det er tungt. Men Jeg synes bare lige hurtigt,
34:17
bare lige inden vi går videre. Jeg tror også bare det man ikke
34:20
må glemme, hvis man går i gang med et projekt om at lave en
34:23
dansk livslang, hvis model er en eller anden art.
34:25
Det er den der med. Det er ikke bare lige at samle
34:27
datasættet trykke på fintune og så er vi færdige.
34:30
Du ved Det er den der benhårde ida.
34:36
Aktive proces om at hele tiden opgør den bedre og bedre og
34:40
altså det. Det tror jeg.
34:42
Jeg ved ikke er enige i det, at man skal være opmærksom på, at
34:45
hvis man gerne vil have noget, Der er på højde med opening its
34:48
teknologi, så er det. Så er det ongoing.
34:51
Der er lang vej. Ja, Jeg synes det Der er vigtigt
34:55
altså for mig. Jeg tror ikke Der er en mulighed
34:57
simpelthen i hvert fald ikke med din dyrl.
35:00
Vi har, at Der er pludselig noget Der er ligeså godt eller
35:03
bedre. Altså prøv lige at se Der er Der
35:05
er nogen der hedder Microsoft og macromedia og Det er nok nogle
35:09
der hedder mistral men de folk de har.
35:11
Og de penge de har, og de træner noget jo og de slå 3 på punktum
35:18
5 på nogle parameter nogle gange som vi alle sammen siger.
35:23
Ja Det er jo den gratis p Det er ikke den gode.
35:25
Det gode er den PT. Altså, men Jeg tror ikke heller
35:30
ikke det handler om det. Jeg tror ikke det handler så
35:32
meget om det handler mest om, hvor er vi henne?
35:35
Altså i forhold til hvad indeb game på en eller anden måde, at
35:39
i forhold til at have nogle strukturer og nogle folk og bare
35:42
et samt de her data og få styr på det juridiske og starte måske
35:46
en diskussion omkring anvendelse og de juridiske der går lidt
35:50
længere end nogle gange. Den diskussion Vi har et eller
35:53
andet der bliver asiatiske træne, chatbot baby men.
36:00
Altså. Jeg synes ikke det handler om
36:01
det. Jeg synes det det handler om at.
36:04
Der er for eksempel nogle modeller i vallerød til
36:06
Skattestyrelsen, at de kan begynde at sige, hey, hvordan
36:10
kan vi hjælpe folk og rydde op eller gøre op i noget af det
36:14
kaos, Der er derinde nogle gange?
36:15
Måske nu har jeg sagt noget, jeg måske.
36:19
Af eller at vi får det? Offentlige til gengæld viden det
36:22
du siger der hvor man så. Men altså du ved det.
36:26
Jeg synes ikke det handler så meget om det der performance.
36:28
Det handlede mere om, at man får lov til at lege med de her ting
36:32
på de samme præmisser som nogle folk i USA.
36:36
Lige nu. Det er, og det synes Jeg er.
36:38
Vi er der ikke, og det ender selvfølgelig det juridiske, og
36:41
Det er noget er bare, at jamen, de performer bare ikke så godt
36:45
på dansk, og Det kan være vi ikke kommer, ikke?
36:47
Så länge. Som Sådan en p 4, men vi kan
36:51
prøve og Det er og Det er ikke Sådan at Det er super dyrt.
36:55
Nej, vi snakker jo ikke Sådan nogle.
36:58
Bombefly et eller andet indkøbspriser.
37:01
Det er rigtigt. Det er faktisk billigere.
37:04
Og Det er jo aldrig spildt, kan man sige, fordi det der så vil
37:08
jeg også sige lidt antyder det at at.
37:11
Der er bare det, vi prøver at gøre.
37:13
Vi bygger nogle erfaringer op og nogle kompetencer, og vi får
37:16
også noget viden omkring og altså hvordan de fungerer.
37:23
Og ja, alle de der ting der som alle de der eksperter, som som
37:27
vi skulle have, der skulle hjælpe os med alt det her.
37:30
Måske er vi i virkeligheden færre, end vi tror.
37:33
Et af de grupper, der mon ikke som som måske kunne ved noget
37:38
om, hvordan vi sætter os ned og gøre det her.
37:42
Ja det kunne være Det var rart at være nogle flere.
37:45
Kunne ja så må jeg lige prøve at at at lige lave et lille
37:50
tankeeksperiment her. Så lad os nu sige at der ikke
37:55
var nogen som helst juridiske problemer, der stod til hinder
37:59
for at man bare høstede alt det data man overhovedet kan få fat
38:02
i. Der var ikke noget der hed PR
38:03
der var ingenting. Der den barriere var bare ikke
38:07
eksisterende. Hvad så?
38:11
At det her så et offentligt projekt, man skal sætte i gang
38:16
og og det det jeg kommer totalt til kort her er det de 2
38:19
statskundskabere, der sidder her, som Vi skal hjælpe mig ikke
38:22
er Det er det offentlige, er det staten der skal gå hen og gøre.
38:26
Det er det staten og det private er det.
38:30
Den ene eller ja, hjælpe mig. Hvad?
38:34
Hvad er mulighederne? Det stod det, stod der også lidt
38:36
om i rapporten der fra implementere SP cl nogle
38:41
forskellige udfaldsrum men, men. Hvordan Sådan et projekt her?
38:44
Hvem skal for det første beslutte det?
38:47
Og hvordan kommer det til at leve?
38:49
Hvem kommer til at ansætte de mennesker, der skal?
38:52
Rent faktisk gøre det Sådan nogle lavpraktiske ting.
38:58
Men er det ikke Sådan en ting altså før du lige skal blive
39:01
Sådan lidt enig med dig selv om hvad er det du ville have ud af
39:04
det fordi Jeg tror hvis Det er bare Vi skal have en dansk model
39:07
der kan alt muligt så er det jo bare at betale Sådan nogle som
39:10
mistral sige hey kan jeg lige lave den for os og det motiverer
39:14
os snart og ikke Sådan som ic 4 togene og Sådan noget.
39:19
Ja altså så er det jo bare spørge nogen der faktisk kan
39:23
finde ud af at gøre det og har adgang til de ressourcer og de
39:27
GPO der skal til det engineering og give den moderne virkelig den
39:30
kærlighed den fortjener, eller faktisk det samme som Island med
39:35
open air og ringe og sige hey, vi vil også være med på den der
39:38
altså. Vil gerne have have islandsk
39:43
virker. Ja men men okay så så så lille
39:50
så lille en stat at Danmark så heldigvis ikke så vi.
39:53
Vi har jo repræsentation II nogle af de der modeller.
39:58
Og og så det vil sige vi vi. Vi har nok tekst, som nogen har
40:01
haft det. Jeg tænker, Det er jo dybest set
40:03
handler om at sige, her er Vores tekst.
40:06
Det er de her danske tekster og også de her danske værdier,
40:10
fordi Det var jo det der oprindelige ophav vi opdrager.
40:13
Vi havde til den 1 snak ikke Det var hov Vi skal gøre det fordi
40:17
at så bestemmer vi også hvad Det er for nogle danske værdier der
40:20
kommer med ind. Ja må vi jo så se hvor unikke de
40:25
værdier er ikke, men men er altså det der skal være noget
40:30
noget holberg der skal være noget.
40:33
Et eller andet ja. Dansk.
40:38
Men altså vi Vi skal. Vi skal have noget noget dansk
40:42
tekst, som vi vælger det, det det det den skal være god til.
40:46
Det er det, Der er dansk. Og så hvis vi giver det til
40:49
omverdenen, men så når de så. Træner de der open source
40:53
modeller, så er chancen for, at de lige inkluderer det det der
40:56
danske tekst Det er sgu meget godt og Der er noget Det er
40:59
fornuftigt. Den er jo også større.
41:02
Tænker jeg. Altså jeg tænker i sidste ende
41:04
er de de private aktører. Det må jeg have en god ven,
41:07
altså en stor interesse faktisk som de er.
41:10
Alt det gode, inden det giver mening og.
41:14
Der har nu kommer det an på selvfølgelig hvilket lande de er
41:18
fra. Måske er der nogle lande der
41:20
ikke vil have nogen lande så så Der er Sådan nogle ting, men er
41:23
er altså hvis man antager alle er glade for hinanden og alt er
41:27
godt ikke også så så er det jo bare en god ting for Sådan nogle
41:30
som open air ministry. Om du nu er at faktisk få adgang
41:33
til som Sådan nogle data, så henter de jo mere på mit
41:36
indsamle og strukturere og finde ud af hvad er det Vi skal have i
41:39
den her boks? Men det andet er altså som du
41:42
spørger Kasper Det er Sådan er det nogle andre er det staten
41:46
eller er det altså? Det kan jo være som også
41:49
implementerer og kompagni skriver at Det er Sådan et
41:52
public private. Er bragt en sort, der går ind at
41:55
man siger. Ja Det er simpelthen Sådan nogle
42:00
netværk og samarbejder. Så man opdyrker og siger, at Der
42:04
er nogle netværk og Der er folk går sammen og så folk donerer
42:06
data og Der er nogen der donerer regnekraft og Der er nogle noget
42:11
fra staten der kommer ind i det her og at man bare bruger det
42:14
aktivitet, opbygge kapacitet, men også viden omkring det her
42:19
og det. Det er jo Sådan en tilgang der
42:21
har været meget fin i Danmark og har fungeret rigtig mange gange
42:25
til at komme med noget innovation.
42:28
Er der nogen ting om det så? Og der har vi virkelig en lang
42:32
traditionel gård de her ting. Faktisk ret godt.
42:34
Så Det kan også være en mulighed.
42:36
Jeg synes ikke Sådan helt staten.
42:38
Ja Sådan efter ejendomsvurderinger.
42:40
Jeg ved ikke om Det er. Hvad import laver Sådan en
42:45
episode? Hvad er det der gik galt med
42:47
ejendomsret? Det er det jeg spiller det bedre
42:51
til. Eller har de prøvet altså hvad
42:53
hvad? Hvad skete der så og så prøve at
42:54
lave Sådan. Vi skal have ham med, har lavet
42:57
modellen, eller? Den går bare ikke rigtig at Jeg
43:00
er med, fordi jeg ved jo faktisk lidt om det.
43:05
OK, men hvis vi tager væk fra ejendomsvurderingen, så.
43:11
Okay, så staten er måske ikke den bedste aktør roman, altså
43:18
det det Det kan jeg godt lide, men kunne staten ikke være med
43:21
til at facilitere det der juridiske?
43:23
Altså du ved ligesom at få lagt af altså en eller anden form for
43:27
Sådan hvad skal der være op og ned af det her hvis Vi skal,
43:30
hvis Vi skal have mulighed for at samle noget dansk tekst, der
43:33
skal måske være nogen der har lyst til at sige hey Jeg vil
43:35
gerne give eller Jeg vil gerne sælge det her danske tekst til
43:39
staten. Så til det her projekt, altså
43:44
med formålet at at lave en en dansk sproget model, ikke?
43:49
Og så kan kan de private aktører, der så måtte stå for
43:54
ligesom at gøre det, de kan komme ind og anvende det her
43:56
tekst og lave den her, og de kan også open source den og.
44:01
Og så kan man måske have forskellige.
44:04
Hvad kan man sige licens former hvor man?
44:07
Måske har noget af det der glemme teknik, hvor man siger
44:12
nogen kan få lov at blive glemt, fordi Der er jo også Det er det
44:15
der. Der er også det der gdpr show
44:16
med retten til at blive glemt og alle de der ting.
44:18
Det er jo også noget som som folk er Sådan lidt.
44:20
Jamen Det kan slet ikke. Man kan ikke være compliant med
44:23
Sådan et eller andet, fordi retten til at blive glemt.
44:26
At den husker jo ting internt og den husker navne den husker det
44:31
ene og det andet Sådan. Men jeg Jeg vil ikke have mit
44:33
navn i den der LM Jeg vil ikke have nogen kan spørge om hvem
44:36
bor på den her adresse, så popper det måske op ikke?
44:41
Altså du ved Sådan nogle ting. Ej det altså Jeg synes det.
44:46
Det er måske og igen. Det er meget Sådan en.
44:49
Det ved jeg måske ikke når jeg komme, men det føltes som om.
44:53
Det er ikke helt så galt med de juridiske, altså som man nogle
44:57
gange tror Det er. Ja, hvis i ved hvad jeg mener,
45:01
altså der følger nogle gange er der nogen Der er lidt
45:05
overfortolker hvad det egentlig betyder hvor meget man må.
45:07
Altså Jeg har jo faktisk sidst hørt Sådan noget Sådan.
45:09
Nej du må da ikke og Mette Frederiksen navne Det er jo et
45:13
navn, Det er jo de beskyder og det må de jo ikke og nu skal jeg
45:16
sagde på et eller andet nej Det har vi grupperet fra avisen og
45:19
nå nej nej nej Det er jo og Vi skal lige og Det er et eller
45:22
andet og så så bliver det helt crazy æg, men staten kunne jo
45:28
være med tænker jeg i at. Fremme Sådan lidt det der
45:32
narrativ hvad er det det handler om eller faktisk går fra os som
45:36
du siger og siger OK jamen vi laver et projekt, altså ligesom
45:39
det her projekt vi nu, der gør på de samler danske stemmer og
45:42
speech. Gør Sådan lidt nogenlunde det
45:47
samme sige. Hey, Det er faktisk super
45:49
vigtigt at Vi har dansk tekst og og prøv at kommunikere hvad Det
45:54
er det betyder nej, det handler ikke om, at Der er nogen der
45:57
kopierer din tekst, så det handler om at faktisk få det
46:00
inkorporeret af det her. Og Det er Sådan en slags her
46:03
samling er. Alt hvad vi ved om landet og
46:06
ting og sager. I den og du gør hjælper med at
46:10
gøre det bedre og. Altså Sådan at ja Sådan en slags
46:14
arkiv. Tankegang.
46:17
Og det kunne man jo godt tænke sig at være det der staten er
46:19
med tæt for, så Det er Sådan et projekt måske sammen med
46:22
nationalbiblioteket er Sådan nogle spillere.
46:25
Ja helt sikkert. Lige et spørgsmål her, fordi nu
46:32
nu snakker vi var lidt inde på det før også det her med at et
46:35
et problem der der bliver snakket om ved at altså en af
46:39
årsagerne til nogen mener Vi skal have en dansk.
46:42
Det er fordi at Der er Der er nogen der oplever man oplever
46:46
trykker man kan sige at. Giv mig til XYZ ikke fungerer
46:51
særligt godt på dansk. Der er ligesom man kan fornemme
46:54
en eller anden form for amerikansk bias en eller anden
46:56
form for at de ikke forstår vendinger og holdberg og Dansk
47:01
Kultur og kontekst og så videre. Og Det er en af argumenterne
47:06
for, at det kunne være en god ide at træne en dansk sprognævn.
47:09
For en skala på en skala fra et til 10, hvor fluffy er det
47:13
statement? I.
47:16
Altså. Det spørgsmål.
47:18
Ja ikke. Puha nej det ved jeg sgu ikke
47:22
det. Jeg synes virkelig Det er svært
47:25
at snakke om. Det er svært at snakke om, fordi
47:28
det bliver meget føle føle ikke og meget Sådan.
47:29
Det synes jeg det. Er.
47:32
Ja. Der har vi også lavet.
47:33
En stor argument Jeg har fordi Jeg synes GP 4 altså jeg plejer
47:38
at arbejde på at sige lad være med at skrive det så cringe og
47:41
så bliver det bedre på dansk, ikke?
47:43
Nå Vi skal lave det Sådan lidt med mindre ost og mindre så nu
47:48
og så blev det bedre og lærer man sgu ikke.
47:52
Nej men. Altså især når man skriver på
47:55
dansk. Så blev det bedre som med dansk,
47:59
altså i mine øjne som tysker. Der er Sådan lidt havnet her
48:03
her. Nej, men du har fuldstændig ret
48:05
altså Jeg tror det det ene argument i hvert fald lige nu
48:08
Jeg har det ville være at Der er noget Der er open source der
48:13
giver muligheder at lige glemme noget af det juridiske måske.
48:18
På en eller anden måde, hvis Det er ligger ude på hak i en fase i
48:22
et eller andet eller hvad ved jeg eller din egen kælder på det
48:25
på hjernen. Og så, men Jeg tror det andet er
48:29
bare det der kunne samle den her erfaring og opdyrke erfaring
48:33
omkring. Hvad er altså begynde at sige
48:35
det rette tidspunkt? Hvad er det egentlig Vi skal
48:36
have med, og hvad er det for tekst, Vi skal have med og være
48:39
det der sprog, og vi på en eller anden måde skal have i de der
48:43
modeller? Og hvad betyder det faktisk at
48:46
skrive på dansk? Og hvad er det for værdier der
48:49
for for af den Sådan lidt amerikaniserede p 4, men der Der
48:54
er jo selvfølgelig noget med, at de har også slået mig Sådan
48:56
lidt. Og på det sidste måske?
48:59
Ja Jeg har hørt lidt at vi bruger den jo inde på ekstra
49:03
Bladet kan jeg godt afsløre og og Det er jo noget med, at den
49:06
har ændret sin måde at at skrive på, især når man bruger den til
49:10
Sådan noget journalistik. Så men.
49:14
Men men en en ting er jo at bestemme, hvad der kommer ind i
49:17
den den der model ikke noget andet er at vurdere Det er den
49:20
så genererer på den anden side og Jeg tror hvis ikke jeg tager
49:23
fejl i unge, så var det måske lidt det du antydede til også at
49:26
dit spørgsmål, altså hvordan vurderer vi den også det du
49:28
sagde der hvor man altså hvordan vurderer vi den så?
49:32
Hvad er Det har den så levet op til det den forventning?
49:36
Jeg tror jeg savner. Jeg tror jeg savner danskheds
49:39
evaluerings datasættet på. Dansk åh nej det må du ikke sige
49:42
fordi Det er slet ikke så kommer der en eller anden nedsat
49:45
arbejdsgruppe i staten der skal finde ud af hvad Der er danskhed
49:47
ikke og det. Bliver meget.
49:50
Og de finder altså ikke et datasæt til dig.
49:52
Du kan bruge til at teste. Det bliver slet ikke så konkret
49:55
der. Jeg tror.
49:56
Man kunne tro det gør at man kunne pitche.
49:58
Tror ikke godt man kunne pitche den over for nye borgerlige og
50:00
d. Så skal man.
50:03
Jo, Det er gebiete. For alle.
50:07
Til alle politiske partier vil gerne være med til at definere
50:10
danskhed. Alle danskere vil nok gerne være
50:12
med til det, men Det er det, Der er problemet.
50:14
Ikke fordi Det er stikker jo i alle retninger, og så skal det
50:17
være en demokratisk proces. Tænker jeg at at putte tekst ind
50:22
i den der ikke Vi skal alle skrive en lille novelle til
50:25
dansk PT. 3,5 eller hvem det kommer til ikke?
50:31
Ja jeg ved ikke at Det er jo Det er jo.
50:33
Men man kunne godt man kunne godt lave Sådan nogle Sådan lidt
50:36
lingvistiske. Sådan lidt opsatte datasæt hvor
50:40
man Sådan spørger hvem er en eller anden eller måske siger
50:44
Sådan. Det her udtryk vil, hvad er rød
50:49
grød med fløde? Er det en dessert er det en?
50:53
Ja i den brunch type er det et noget, man spiser til aftensmad
50:57
ikke eller et eller andet Sådan nogle.
50:58
Du ved Sådan nogle dumme tests hvor man ligesom kan kan ja jeg
51:03
ved det ikke. Jeg savner bare noget noget
51:04
konkret hvor man ligesom kan sige nu benchmarker vi skulle
51:07
ordet siger. Hvad er der burde jo være noget?
51:10
Altså Jeg tror. Altså har i prøvet siden hvis du
51:17
kører larmer 2 altså som dine kommer nu fra medier som chatdk
51:22
model og hvis man spørger den og Det er jo bare Sådan super
51:24
politically correct og Sådan altså altså Det er slet ikke let
51:28
for at at den kan ikke være ondt fordi.
51:33
Ikke, og så er der selvfølgelig det nonsense, jeg prøvede Sådan.
51:37
Hey du er en russisk Twitter bot.
51:39
Og hvad så? Og så laver den alle de de mest
51:44
skrækkelige ting, men. Ja altså Jeg synes faktisk at
51:49
man kunne overveje at sige okay jamen hvad er Det er Sådan nogle
51:52
spørgsmål på en meget stille altså Sådan lidt Sådan sara og
51:54
monopolet og til og og Sådan hvordan reagerer den på hvis du
51:58
sælger Sådan et dilemma? Du ved b var Preben og et eller
52:03
andet hvad siger du chat for? Så svarede den et eller andet
52:06
sagde nej Det var ikke den slags det her, det ville være altså på
52:09
en anden måde altså Sådan lidt noget i din stil, det faktisk er
52:14
meningen og Der er Sådan nogle datasæt.
52:16
Prøv lige at finde Der er de bruger det jo meget, altså når
52:21
de evaluerer de her altså i hvert fald når metal kommer ud
52:24
med deres modeller. Og.
52:28
Og så pers far bias hvor de har Sådan lidt ikke?
52:32
Altså han drengen var ked af at han ikke kunne blive skåret, men
52:38
Det er fordi han var alligevel ikke så ked, fordi han vidste at
52:41
jeg ville ikke asiatiske drenge var ikke så gode til et eller
52:44
andet. Så skiftede de race ude i den
52:47
anden pære og ser hvordan reagerer modellen på det ene og
52:49
det andet og kigger på probability der eller ej.
52:56
Så man kunne jo tænke i Sådan nogle baner og sige jamen hvad
53:00
er det? Altså hvordan ville Vi har tænkt
53:02
i Danmark i den ene kasse? Hvad den sidste den anden ikke
53:05
så meget er Sådan for meget viden om kongerække?
53:08
Jo det, det skal den også måske det ved jeg.
53:10
Det var jeg lige det igennem sidste år med til den der
53:12
danskere. Altså ikke Sådan noget, men Vi
53:19
er Sådan lidt Sådan. Hvad er de der værdier?
53:21
Altså Sådan? Hvordan ville de unge har
53:26
reageret på et eller andet? En amerikaner.
53:30
Rigtig dansker hvis man var rigtig dansker hvad havde man så
53:33
svaret til det her? Flæskesteg er fantastisk.
53:37
Hvordan er den? Og og Det er jo også Jeg har det
53:40
jo. Det er jo en meget nobel ting at
53:42
prøve at arbejde ind i de der modeller ikke.
53:44
Men men så kommer det ligesom med at.
53:47
Ja, så er der en anden menneskelig annotering af det
53:49
der ikke, og det menneske er sjovt nok typisk meget homogent.
53:56
Jeg tror der kommer noget gruppe.
53:58
Jeg tror at man kunne lave noget.
53:59
Hele Danmark ikke? Jeg tror godt man kunne lave
54:01
noget. Noget syntetisk data på den her.
54:03
Man kunne godt sætte den til at bare sample snippets fra holberg
54:07
komedier for eksempel, og så sige sige det her.
54:12
Den her snuppede stil et spørgsmål, som bliver besvaret i
54:14
den her snit. Og så samle de Paris på den måde
54:18
og så ligesom bare lave data altså syntetisk datasæt Sådan
54:21
noget jeronimus hvem er han? En gammel mand, en ung mand en,
54:26
et eller andet 4 muligheder ikke og så teste den.
54:30
Så Jeg tror faktisk det kunne godt være vi bare lige skulle ja
54:33
skulle gøre det. Men men nogle ting kunne man jo
54:36
godt tænke i, altså Sådan noget med at lave de der nogle lidt
54:38
Sådan generative syntetiske hacks der.
54:41
Ja, men Det er rigtigt nok at Der er nok noget, men men Det er
54:44
igen det der med at Det er data Vi skal have lagt til grund for
54:48
at kunne arbejde med det her på dansk.
54:49
Ikke som mangler altså du ved det.
54:52
Det er ligesom det der data data i alle mulige afskygninger, og
54:56
der mener jeg ikke Det er også vigtigt lige for alle lyttere
54:58
derude, også dem der ikke er tekniske data science folk når
55:02
vi snakker om data, så mener vi de her.
55:05
Forestil dig et excel ark med kolonner, hvor Der er
55:09
tekststumper, der står på samme række over for hinanden som hvor
55:15
den relation imellem de 2 kolonner de 2 stykker tekst har
55:18
en eller anden form for semantisk værdi eller en
55:21
betydning. Det er den slags data vi snakker
55:24
om. Altså Det er det, Der er vigtigt
55:26
for os at have, når Vi skal struktureret data strukturerede
55:29
data af tekst i virkeligheden. Men også stor ustruktureret.
55:34
Det kan man også se også. Ustruktureret Det kan også være
55:36
den, der når vi snakker præ træning, ikke?
55:38
Altså giv mig alt fra internettet.
55:40
Jeg skal bare lære. Tekstforståelse og Sådan nogle
55:43
ting der, men det Det er den der sidste del der og som.
55:47
Har som en del af fintune processer og så videre, og det
55:50
det? Det er noget særligt data der
55:51
Der er med til ligesom at få få modellerne ind på.
55:56
Hvordan skal de svare på på 1 1 1 menneskelig med en menneskelig
55:59
præference? Det er den Der er svær ikke Det
56:02
er den den er svær at få fat i også.
56:04
Men det altså. Det er jo et kæmpe altså at Jeg
56:07
tror Det er jo aldrig græder lidt for Sådan et en area.
56:11
Det er hvor folk gik rigtig meget Sådan.
56:13
Hvordan får vi de her strukturerede?
56:16
Af infractions ud fra ustruktureret data ikke altså
56:20
som du siger Kasper Sådan lidt okay?
56:22
Tager her holberg eller krumme eller hvad Vi er, og så kan vi
56:26
også lige prøve at bruge en større model til at ekstrahere
56:29
de her peres sige, hvad er det? Og Jeg kan?
56:33
Som sagt jeg kunne sagtens tænke mig Sådan en sund både for alle
56:35
transcript ud og så sige jamen før den har de reageret på det
56:39
der dilemma. Altså deres svaret på et eller
56:42
andet. Som ender på lidt mere mindre
56:46
niveau altså Sådan lidt ja mindre stumper nu tænker jeg
56:51
bare det Det kan være. Jeg tror man kan lave alle
56:54
mulige interessante ting på den måde der så det kunne være
56:58
interessant. At komme til.
56:59
Jeg tror Jeg tror ikke det eller jeg ved ikke om Det kan lade sig
57:02
gøre at få nogle folk og siger okay.
57:04
Nu skriver vi nogle instructions i hånden, altså der.
57:06
Der har jo været der forsøg i løbet af de første 2 3 måneder
57:11
23 hvor de lavede den over på nazistene.
57:14
Ja Det er rigtigt. Ja altså prøv ved de.
57:17
Det er jo der skete det der, men altså det Der er crowd tosset
57:20
Sådan noget. Jeg ved ikke hvor meget altså
57:22
hvor langt de er kommet. Det er i hvert fald ikke de
57:24
opnåede assistent data du ser i dag.
57:26
Der er meget populære til at fintune.
57:29
Ja, men Det er rigtigt nok altså Der er en hvis det bliver
57:32
frivilligt crowdsourcet og Sådan noget, så er det jo så har jeg
57:35
fået det også en kvalitet derefter ikke tror jeg man må
57:38
regne med desværre. Det er rigtig svært at.
57:42
Og oppe ved kvaliteten på på Sådan noget crowd.
57:45
Tosset data, selvom at den der åbnede sidst app, der jo
57:50
egentlig var skruet ret smart sammen.
57:51
Ikke? Altså der var ligesom et
57:54
nøglehul man skulle igennem, for hendes data blev udvalgt og Det
57:58
var ligesom via nogle menneskelige processer og Sådan
58:02
noget der så det. Men ja det.
58:05
Det er svært. Det er svært.
58:08
Ja, men Vi er vel også ved at være nået til til vejs ende af
58:12
videøns. Nu har jeg min min min timer her
58:14
oppe i hjørnet. Den er gået i stå, så jeg ved
58:15
ikke hvor længe Vi har optaget, men Jeg er vi ikke ved at være
58:18
på en time. Vi har været i gang i en time,
58:20
som vi plejer, og Vi er kommet godt omkring i dag, synes jeg.
58:24
Og vi, Det er nok ikke sidste gang vi snakker i podcasten om
58:29
det her emne det. Det er jo trods alt dansk
58:31
podcast om. Især dansk sprogteknologi.
58:35
Snart ja, det må man sige. Der gælder også andre ting.
58:37
Det gør vi snart skal have noget bare rå python snak.
58:40
Det kan godt nok. Der er så meget el.
58:44
Men Det er. Jo en nærmere over det hele.
58:46
Det er jo det. Det er sindssygt.
58:47
Det er jo et populært emne i øjeblikket, men jeg ved ikke
58:50
roman her på falderebet er der et eller andet du kunne tænke
58:53
dig at lave en afslutning på skærmen.
58:55
Revolution. Nej Jeg synes Det er bare super
59:00
vigtigt at få den her tanke ud at Det er infrastruktur det her
59:04
og. Det er og Der er det der public
59:10
good problem, altså bare for at komme tilbage til Sådan den der
59:13
økonomi og samfundsøkonomi tankegang i Paris godt er jo at
59:16
altså Det har vi slet ikke snakket om hvad Det er, men Det
59:18
er jo at du kan ikke udelukke folk fra at bruge det her, og
59:22
det bliver ikke værre hvis Der er flere der bruger det ikke
59:24
altså, men fordi Det har de egenskaber, så er der ikke nogen
59:29
der ser sig forpligtede til at være den der investerer i
59:32
udviklingen af det, og Det er derfor også en klassiske
59:34
økonomer vil sige, så har du Sådan et marked fall.
59:37
Fordi Der er ingen der gider investere penge i noget, som de
59:41
ikke kan udelukke andre fra at bruge og.
59:45
Og og Jeg tror Det er, Det er et dilemma.
59:48
Vi er Sådan lidt en endnu fordi altså så snart du går ind altså
59:51
med mindre du kan kapitalisere helt vildt meget, men at Det er
59:54
for dyrt, maske fordreje læggene, så Det er en god ting
59:57
at gå sammen på en eller anden måde, men et koordineret Det er
1:00:00
super svært, så Det er faktisk være på en anden måde, måske nok
1:00:04
med statens involvering. Altså Det er jo Det er den
1:00:06
klassiske måde vi styrer Sådan noget som militær og eller bygge
1:00:09
nogle veje og eller så eller gøre energiforsyning, at du ikke
1:00:13
skal have din brændeovne til et eller andet, at der vil være
1:00:17
jeg. Ikke altså Vi har Sådan noget
1:00:18
som fjernvarme. Så det vil jeg sige, Det er, at
1:00:24
Der er det danske tanke skal måske lidt mere ud, at Det er
1:00:27
måske noget problem, kunst og noget infrastruktur.
1:00:30
Vi snakker om her når vi snakker de language models, og så kan
1:00:33
det tage forskellige afskygninger, hvordan man så
1:00:36
bygger det og implementerer det til sidst.
1:00:39
Sikke en punchline og slutte af med.
1:00:41
Det var rigtig økonomi land og derefter skab public cloud.
1:00:47
Det er et godt argument. Klassiske klassiske argument for
1:00:52
offentligt gode. Lad os da sende den ud som det?
1:00:55
Sidste ja hvad hedder det roman 1000?
1:00:58
Tak fordi du var med Det var Det er altid en fornøjelse at starte
1:01:00
med ja helt sikkert og så heller ikke tv ses igen og til alle
1:01:05
Vores lyttere. Tak fordi i lyttede med husk at
1:01:07
følge os inde på Apple podcast på Spotify og på youtube og på
1:01:12
LinkedIn og så var der vist ikke flere have det rigtig godt til
1:01:16
vi ses igen hej. Hej.