Latest / Verbos: AI og Softwareudvikling / #62 - Lytterspørgsmål om LLM’er og Bias med Sine Zambach

Transcript

#62 - Lytterspørgsmål om LLM’er og Bias med Sine Zambach · Verbos: AI og Softwareudvikling

0:01
Hej allesammen og velkommen til balbos podcast afsnit nummer 62.
0:04
I dag har vi en gæst med i studiet Vi har, som jeg kommer
0:08
til at præsentere lige om lidt og som kommer til at præsentere
0:10
sig selv lige om lidt. Og i dag skal vi snakke om et et
0:14
par lytterspørgsmål, som vi faktisk har fået ind fra Mikkel
0:18
bækgaard, som er som er underviser på kea og har haft
0:24
nogle altså ligesom skulle undervise i de her lars
0:27
langudles og ligesom hvad skal man sige?
0:29
Har nogle spørgsmål i forhold til, hvordan man kan få afdækket
0:32
nogle af de her spørgsmål, der kan være omkring teknologi inden
0:35
for at give en bedre teknologiforståelse.
0:37
Og så tænkte han, at det kunne måske være det kunne være
0:40
brugbart, hvis vi, hvis vi tog nogle af de spørgsmål op, så så
0:43
Det er det, Vi skal gøre i dag. Og det kommer til at dreje sig
0:46
Sådan lidt om eller det kommer til at dreje sig om lars
0:48
language models, og det kommer til at dreje sig også om om bias
0:52
så så det glæder vi os rigtig meget til.
0:54
Og i dag har vi fået en samtalemakker med, og Det er ja.
0:59
Jonas er med selvfølgelig som som altid, og Det er
1:01
selvfølgelig også. Og så har vi fået Signe sambach
1:03
med velkommen til Signe. Tak skal du have.
1:08
Hvad hedder det? Jamen jeg tænker egentlig bare
1:10
om vi ikke lige bare skulle om du ikke ville prøve at
1:12
præsentere dig selv og fortælle lidt om dig selv.
1:15
Vi går i gang. Jamen ja jeg hedder Signe
1:18
sambach og hvad hedder det? Jeg er adjunkt på CBS, og Jeg er
1:24
særligt tilknyttet data. Synes uddannelsen, hvis i tænker
1:27
hvorfor har jens CBS er med i dag men men ja jeg arbejder
1:32
rigtig meget med med data science.
1:35
Jeg har også en skummel fortid som bio informatiker.
1:39
Hvor man kan sige der har jeg også arbejdet rigtig meget med
1:41
data på mange forskellige måder, så.
1:44
Lad os lave min PHD blev jeg lidt mere interesseret i det her
1:47
kunstig intelligens. Det var en mega sær lille niche
1:49
kan jeg love for det her i 2007, men jeg fandt faktisk et sted
1:53
ude på RUC hvor de arbejdede med det.
1:58
Sted i den der lille niche, som de kalder kunstig intelligens.
2:02
Og Det var Det var så symbolsk kunstig intelligens altså Sådan
2:06
meget regelbaseret kunstig intelligens.
2:08
Vi arbejdede med åndsologier inden for biomedicin.
2:13
Og da jeg så var færdig der, der gik jeg lidt tilbage i
2:15
virkeligheden til noget bioinformatik og arbejdede med
2:17
det igen og har arbejdet lidt med at lave tekniske bøger,
2:22
altså som som foreligger eller som redaktør.
2:26
Og så har jeg så kom jeg tilbage igen og begyndte at arbejde med
2:30
data. Og Det var mega fedt.
2:34
Altså egentlig som analytiker var det på Sådan et forholdsvist
2:36
simpelt niveau, men hvor hvor de virkelig mere handlede om.
2:40
Og hvordan kan man informere ledelsen om, hvad der foregår i
2:42
de her data? Og nogle gange skulle man
2:44
selvfølgelig lave nogle lidt mere avancerede ting teknikker
2:46
ikke? Så Det var Sådan en rimelig
2:50
lang. Intro hense det men men da da da
2:55
der så kom. Hvad hedder det?
2:59
De der sprogmodeller, der bare begyndte at virke ret godt.
3:02
Her i 2023 nej 22 var det. Jo i slutningen af 22.
3:08
Og 22 så tænkte jeg, at måske kunne jeg Sådan udnytte noget af
3:13
den viden jeg havde fra fra. Mit arbejde med kunstig
3:17
intelligens i gamle dage og og så lidt med machine learning i
3:21
nyere tid også og så bruge det til.
3:23
Altså simpelthen at prøve at skrive en bog om hvad er det?
3:26
Hvad handler det om? Og Jeg har altid syntes det
3:29
egentlig meget sjovt at prøve at formulere og formidle ting på et
3:32
niveau, så ikke teknikere kan forstå det.
3:35
Jeg tænkte der må være mange, ikke tekniske gymnasielærere
3:37
derude, der har et problem lige nu.
3:43
Ja ja også på alle mulige andre steder, så jeg tænkte.
3:48
At at der måske kunne bruges Sådan en bog til gymnasielærere
3:50
og. Og så brugte jeg nogle af de
3:52
kanaler jeg havde indtil forlagsverdenen og spurgte,
3:54
skulle jeg ikke lave en bog til jer om det her?
3:58
Og og i første omgang lavede jeg så en webbog, og det gav bedst
4:01
mening, synes jeg fordi det Det er jo også en bog altså der sker
4:05
jo noget hele tiden. Utaknemmeligt tidspunkt tid og
4:10
lave en eg i bog i. Men men men gymnasielærerne
4:13
ville bare virkelig gerne have en papirbog og altså man kunne
4:18
sidde og læse i et eller andet lydbog kunne Det kan være Det er
4:20
det næste, men så så så så jeg gik i gang med at skrive den og
4:25
og har så også i den. Anledning være ude og interviewe
4:28
rigtig mange praktikere. Ja vi beklager meget.
4:32
Vi har lige haft et lille teknisk problem, hvor at vi røg
4:35
ud af podcasten alle sammen, så vi spoler lidt tilbage og så Jeg
4:39
tror nogenlunde vi var nået dertil hvor at sige du skal til
4:42
at tale om den bog, som du lige har udgivet.
4:46
Du har i så vidt Jeg kan forstå, så havde i release party nærmest
4:49
i går. Ikke ja.
4:52
Ja Det var Sådan en en helt lille fest.
4:57
Jeg udgav denne her eller forlaget.
4:59
Uddannelsen hvor Jeg har skrevet.
5:02
Om AI gymnasiet og Det er jo en bog som hvor jeg både har fået
5:08
lov til at få beskrevet lidt om både kunstig intelligens
5:12
historie, men også lidt om hvad. Hvad er det for noget
5:15
overhovedet? Og så har jeg interviewet rigtig
5:18
meget gymnasielærere om, hvordan har de egentlig opereret i det
5:22
her? Hvordan har de kunnet?
5:25
Og finde nogle øvelser, hvor man rent faktisk kunne bruge kunstig
5:28
intelligens til at lære noget, fordi de kunne jo godt se
5:31
allerede der, at der var rigtig mange elever der brugte det
5:33
altså. Jeg lavede nogle små surveys.
5:37
I sommeren 2023, der og der var der måske. 58% af eleverne Der
5:43
er indrømmede de brugte, og Det var altså rektor ud. 58 der
5:48
indrømmede de her prøver at bruge det og nu her når jeg
5:52
laver survey så er det så er det op mod 80 der indrømmer det
5:55
ikke. Så så så det, og det tror jeg
5:59
egentlig Det er jo meget. Det er nogle lidt mere anonyme
6:01
surveys. Jeg måske laver nu, så Jeg tror
6:03
det. Det er måske lidt mere
6:06
retvisende, fordi Der er også en gruppe som simpelthen slet ikke
6:09
tør gå i gang med det og er bange for at.
6:11
At komme til at snyde og Sådan ikke.
6:15
Men kan du ikke lige jeg vi så før vi gik i gang.
6:17
Der holdt du den lige op foran kameraet, så kan du ikke lige
6:19
gøre det igen, fordi vi fandt ud af det ikke var spejlvendt den
6:21
der så hvis man ser med på video så kan man altså se nu her at
6:25
bogen hedder AI gymnasiet og er skrevet af af dig Signe sambach
6:29
så hvad hedder det? Jeg tror nogle gange at i hvert
6:32
fald jeg personligt undervurderer lidt hvor hvor
6:35
virkelig meget Det har disropet altså Sådan noget som gymnasiet.
6:39
Hele chatten bølgen der ikke fordi.
6:43
Wow du kan jo bare generere og hele opgaver simpelthen med med
6:48
jeg nu ikke og så jeg ved ikke altså hvad er status egentlig
6:52
bare Sådan kort at at altså. Eksaminerer man på en 2 måde
6:58
eller det der Jeg kan huske. Nej, Jeg kan huske på mit
7:02
tidligere arbejde, der byggede vi Sådan en AI arkitekter som
7:05
var altså fik flere millioner requests og da man kiggede dem
7:09
igennem, så kunne man se at Det var.
7:11
Dels studerende, der prøvede at se om de forskellige detekter ud
7:15
på nettet kunne dette, at deres opgaver var skrevet af EI, og så
7:19
var det også lærere, som prøvede at at detektere skoleopgaver
7:23
altså. Det var ligesom Sådan en kamp.
7:26
Hvad skal man sige? Ja.
7:30
Det minder jo lidt om den der krypteringskamp der konstant er
7:32
ikke med kodebryderne mod kodeskaberne.
7:36
Så så men men men der tror jeg også at man skal se sig lidt for
7:43
og så tænke både selvfølgelig i eksamensformer.
7:47
Altså hvad er det for nogle eksamensformer man så skal have
7:49
og og derudover også hvordan? Hvordan kan vi klæde eleverne på
7:53
til det her? Jeg havde i forbindelse med
7:56
lanceringen i går en en elev med i panelet også, og dem glemmer
7:59
man lidt nogle gange at snakke med.
8:01
Og han sagde at, at han oplevede.
8:04
Specielt i starten. Der brugte han det bare til at
8:07
lave sine opgaver. Synes Det var skidefedt.
8:08
Så kom han til at lave en stil og Sådan noget og ja men det gik
8:12
rimeligt hurtigt så indså han at nå ja Det er når jeg skal sidde
8:15
til eksamen om 1,5 år, så har jeg den jo ikke med, så måske
8:20
skulle jeg prøve at finde ud af hvordan den kunne understøtte
8:23
min læring i stedet for at han brugte ikke lige det ord vel,
8:25
men altså Det var det han mente. Så han gik i gang med at
8:29
undersøge. Jamen hvordan kan det her være
8:31
med til at understøtte ens læring?
8:34
Hvordan kan det hjælpe mig på vej til at skrive stile og og og
8:40
opgaver og kunne ligesom hjælpe ham med at give feedback på det
8:44
han havde skrevet stille ham spørgsmål og Sådan så han fik
8:47
ligesom vendt 1 1 1 ret ukonstruktiv brug hvor man jo
8:51
ikke lærer noget til noget, hvor han faktisk lærte rigtig meget.
8:56
Hans underviser var rimelig meget udenfor, for hele hvad
9:01
hedder det altså hele det her ikke.
9:03
Det var noget han selv. Måtte finde frem til ikke, og
9:06
han er så altså han han mente så ikke.
9:08
Han var et specielt stærkt liv i starten at han lå Sådan nede ved
9:11
4 7 stykker og og og fik brugte ligesom det her til som en krog
9:15
til at komme komme op af, ikke? Og der ved vi jo ikke, om han
9:20
ville have gjort det alligevel. Så så men men men fordi han var
9:24
jo ret reflekterende og det her med at han gik i gang med at
9:27
undersøge hvordan han kunne bruge det og Sådan Det var.
9:29
Det er jo ret modent, men Det er jo slet ikke Sådan, at alle
9:31
elever går til det, og når det ligesom er Sådan en elefant i
9:34
rummet, som man ikke rigtig. Nærmest tør snakke om lærer.
9:38
Ikke fordi man heller ikke helst, måske ikke helt selv
9:41
forstår det. Jamen så.
9:44
Så skaber det. En ret dårlig stemning er der
9:46
mange der har sagt altså mellem læreren også mellem eleverne i
9:49
øvrigt ikke fordi så er der nogen der snyder nogen der ikke
9:52
gør og. Nå men hvad hedder det super
9:57
spændende og jeg tænker Det er Det er en interessant bog også
10:02
fordi jeg tænker Der er nye nye købere.
10:05
Der rykker lige en ny Sådan. Salgsmæssigt er det rimelig godt
10:08
også Sådan lige at at der kommer en ny årgang hvert år ikke så ja
10:11
og Det er mega fedt og tænker at det det igen.
10:16
Jeg har også været lidt med til at udvikle skolebibliotek, og
10:18
Det er jo bare undervisningssammenhæng der.
10:22
Det er jo bare den helt store helt store diskussion med alt
10:26
det her så. Yes men jeg tænker på om Vi skal
10:30
gå i gang med at prøve at snakke lidt om de her forskellige
10:32
spørgsmål, som Vi har fået Der er 5 i alt som som egentlig.
10:37
Er man kunne forestille sig at man kunne rappe hole rimelig
10:41
meget på rapbit hole. Jeg ved ikke om det.
10:43
Det er et udtryk tryk. Overhovedet fint.
10:46
Ditte rimelig meget på, så jeg tænker Vi skal.
10:48
Vi skal have disciplin og prøver at være Sådan OK, Sådan
10:52
kortfattet, men omkring de forskellige, men men også med.
10:56
Bos ja. Men lad os lad os bare starte
11:00
her og man skal huske det her. Det er skrevet af en ikke
11:02
teknisk person i os som som er underviser og.
11:07
Så Det er ligesom hele. Hvad skal man sige det?
11:09
Vinklen Der er fra ikke så ja. Det første spørgsmål er, hvilke
11:14
metaforer og sprogmodeller for eksempel this the castic parret
11:18
den universelle ekspert spejlet den kloge onkel the prediction
11:22
engine, synes i er misvisende baseret på jeres tekniske viden.
11:26
Jeg kendte godt hvis the castic parret.
11:28
Jeg kendte ikke den universelle ekspert spejlet den kloge onkel.
11:31
Jeg tror jeg kendte den den fulde onkel vist nok, men men
11:37
værreste tanke om det Sådan fordi det Det er jo en man kan
11:40
sige Det er jo en måde de har. Hvad skal man sige metaforer for
11:45
sprogmodeller er en måde at. Det viser noget om, hvordan folk
11:49
forstår det, og også hvordan man kan kommunikere det til til
11:53
folk, der ikke er nødvendigvis superteknisk.
11:54
Hvad tænker i om? Om om det.
11:58
Skal jeg starte Jonas eller? Vil du give the go?
12:02
Altså altså nu har jeg jo også Sådan en lidt matematisk
12:06
baggrund, så Jeg kan jo rigtig godt lide den der stokastiske
12:09
papegøje. Jeg synes Det er.
12:12
En fin. Metafor Der er noget altså det
12:16
her med en papegøje gentager jo, men det gentager jo ikke bare
12:19
det man siger den gentager jo. Baseret på sandsynlighed og og
12:25
og lidt tilfældigheder. Man kan også sige propolistisk
12:28
papegøje. Det er næsten det samme, men så
12:29
er det Sådan mere sandsynligt. Man fungerer på ikke så så så
12:34
den synes Jeg er helt fin, men det kræver også måske nogle
12:38
elever der forstår hvis du stokastisk eller propertisk
12:40
baseret er ikke? Så er der hvad hedder det den
12:46
kloge onkel. Jeg er Sådan lidt eller den
12:49
kloge eller den fulde onkel eller den larmende onkel.
12:52
Den prostituerende onkel kunne man også sige ikke ja.
12:55
På en måde er den jo et OK billede fordi den.
12:59
Den rør ved noget i os ikke men men den er også og og og det der
13:03
med at den nogle gange hallucinerer ikke Sådan
13:05
postulerende onkel der mener han er.
13:09
Det er jo rigtigt rigtigt nok ikke men men.
13:12
Men Jeg synes også samtidig at denne her fulde onkel.
13:14
Han har jo en intention. Han har en social interaktion
13:18
med rummet. Han har en position der og så
13:21
videre som som hvad hedder det? Man måske ikke.
13:27
Helt kan tillægge de her chatbots.
13:33
Så så derfor så så ved jeg faktisk ikke helt om Jeg synes
13:35
den er så god bortset fra at den har den er sjov ikke så er der
13:39
Sådan noget som sproglig kalejdoskop og tænk Jeg er lidt
13:43
ja Det var Det var noget som altså ligesom man tager
13:46
virkeligheden, og så ændrer man lidt på den.
13:47
Altså man tager alt den der tekst som der ligger inde i
13:49
sprogmodellerne og så spytter man det ud Sådan lige let
13:54
forvrænget eller let. En lille smule anderledes fordi
13:59
fordi Det er jo lidt det der med et spejl.
14:00
Altså lyder det som om det nærmest er et spejlbillede.
14:02
Ikke så skal det. Være.
14:04
Jo, Det er jo stokastisk spejl. Nå Jeg tror og så lige står ja
14:09
og en sidste ting den er prediction engine.
14:11
Den kan jeg faktisk ikke særlig godt lide, fordi Jeg synes den
14:13
kommer til at blive blandet lidt sammen med de her Sådan lidt
14:16
mere klassiske klassifikation som algoritmer og Sådan noget
14:21
frafaldsanalyse prediction er om man bliver langtidsledig eller
14:25
ej og Sådan så så ja Det var bare.
14:28
Det var min holdning til til de her.
14:30
Jeg kom til at tænke på, bare lige Sådan kommer man bare lige
14:32
hurtigt til at tænke på Sådan en.
14:33
Jeg tror en af de. Bedste Sådan hvad skal man sige
14:38
metaforer som Jeg synes formidler godt hvad Det er det
14:42
egentlig er teknisk, måske i virkeligheden Det er.
14:45
Jeg tænker Der er mange der kender ordet orto complet ikke
14:47
altså Sådan autocomplet altså Sådan OK så foreslår den hvad er
14:50
det næste historie? Ikke altså, og Det er jo i
14:52
virkeligheden bare der. Jeg har hørt mange sige at Det
14:55
er en avanceret eller en forkromet eller en avanceret og
14:58
autocomplet. Det synes jeg.
15:02
Egentlig er bare ordet ved den autocamper en helt afsnit altså
15:05
en helt lille SA ikke. Ja lige præcis, men Det er jo re
15:08
kursus autokomplet kan man sige ikke så.
15:11
Den gør det et år ad gangen eller et tåkken ad gangen.
15:14
Jo. Men Det er jo også.
15:16
Det er jo også igen med de her metaformer man formidler, vil
15:18
man formidle, hvordan de virker Sådan rent teknisk.
15:21
Eller hvad er det mere Sådan? Hvordan skal man tænke på dem?
15:26
Ja Det er godt spørgsmål. Jeg synes Der er en vi sprang.
15:28
Jeg tror vi sprang den over den universelle ekspert.
15:31
Den må jeg nok sige den synes jeg falder helt ved siden af
15:33
altså. Jeg tror ikke der altså de
15:38
virker jo meget generelle, men universelt ligefrem ikke og
15:41
ekspert altså. Hvis man er ekspert på alting,
15:46
er man ekspert på ingenting. Er det ikke Sådan man plejer at
15:49
sige, så er det jo. Hvis den altså en ekspert model
15:54
set fra et udviklersperspektiv er jo en model, Der er toptunet
15:58
til at løse en specifik opgave, og så har man netop ikke brug
16:01
for Sådan en stor forkrummet sprogmodel med en masse
16:04
parametre, så har man brug for. Den helt Sådan ja så så så slik
16:10
den kan blive som man siger for ligesom at og den bliver jo også
16:14
mere. Tolkbar end når den kommer
16:18
derned i den størrelse og alle de der ting, der skal vi jo
16:20
komme ind på senere. Så Jeg synes Sådan noget
16:23
symbolsk jeg ikke. Jamen så synes jeg den
16:26
universelle ekspert. Det er nok den Der er allermest
16:29
forkert. Ja men ja det tror jeg også
16:34
altså the perdiction engine. Den er jo heller ikke Sådan
16:36
rigtig forkert. Det er mere bare det der med.
16:38
Så begynder man at blande den sammen med med de der
16:40
klassifikations algoritmer, som som vi også arbejder med.
16:44
Ja og det kommer også lidt an på.
16:45
Hvordan definerer man det her? Redaktion, hvad vil det sige at
16:48
forudsige noget? Altså altså at skatte skal en
16:52
forudsigelse være noget Der er tidsligt for eksempel ikke.
16:54
Der er jo ikke så meget tidslindt i at forudsige det
16:58
næste ord i. En sætning kan man sige altså
17:01
Det er jo. Det er jo noget andet end hvis
17:04
du prøver at forudsige økonomien, for eksempel i et
17:06
samfund. Bare for at tage et sjovt
17:08
eksempel. Altså Der er jo en en rigtig
17:10
forudsigelse i fremtiden, hvor du skal ligesom hvad hvad?
17:14
Hvad kommer der så faktisk til at ske du?
17:16
Du kommer til at kunne sige, forudsagde jeg noget korrekt
17:19
eller ikke korrekt? Det er der ikke rigtig noget der
17:22
hedder her, så Jeg kan godt. Jeg kan godt se det der med
17:24
Sådan. Det er jo ikke Sådan afhængig af
17:26
hvordan man definerer prædikation, så er det jo nok
17:28
ikke Sådan rigtig en prædikation.
17:31
Men Det er jo en form for modellering, ligesom når man
17:33
modellerer noget, som kan bruges til at prædiktere med.
17:38
Ja, men Jeg kan godt lide det der med at man også altså det
17:41
bruger de jo faktisk selv det her 18 18 mekanisme altså det
17:45
her med at den kan have fokus altså den.
17:48
Det er jo i hvert fald det som som hvad hedder det.
17:50
EI sprogmodelsforsker har sukket efter i mange år, og Det er jo
17:55
netop det der med. Hvordan får vi kontekst med ikke
17:57
at det blev løst med det her? Stort set ikke.
18:03
Løst intelligensen har løst. Og dens fætter kusiner.
18:09
Så så så så men det det ved jeg ikke om Der er nogen af dem der
18:12
lige har med det der med at vi at der faktisk at den har den
18:16
forstår kontekst. Altså Det er jo Det er jo det
18:19
Der er så vildt ved den og så. Det er sjovt.
18:24
Hvad hedder det når man tænker altså Det kan være vi snart skal
18:26
gå videre til næste spørgsmål, men jeg tænker tit på i gamle
18:28
dage da man lavede. Der man har jo rodet på
18:30
sprogmodeller længe, og engang var det jo Sådan helt.
18:33
Altså der var det jo bare sandsynlighedsberegning.
18:35
Altså du ved givet det forrige ord.
18:38
Hvad er det næste så ikke? Og så har vi måske et wocap
18:40
milary på, altså de ord vi kan arbejde med.
18:44
Der har vi måske 10.000 ord, og så har vi trænet henover et
18:48
korset af tekst for at beregne for hvert ord.
18:50
Hvad er sandsynligheden for det næste ord?
18:53
Hvis vi så har, så finder man meget hurtigt ud af at det ja.
18:59
Altså hvis du skal kigge på et ord og så et ord frem, så er det
19:02
selvfølgelig så ved 10.000 parametre i alt hvad det så.
19:07
Ja Det er jo 10.000 x 10.000 ikke 10.000 sandsynlighed for
19:10
hvert ord. Men hvis man har et ord der
19:14
hedder eller en sætning der hedder.
19:17
Hovedstaden i Frankrig er. Forudsige det næste år ikke, og
19:22
man kun har et. Et ord tilbage, så har man r
19:27
også forudsigelige historie. Ikke så du ved, man bliver nødt
19:30
til at kunne kigge længere tilbage for at forstå konteksten
19:32
for at kunne forudsige det. Ikke problemet er bare hvis du
19:34
så putter bare Sådan helt sandsynlighedsvis altså bare
19:37
mapper sandsynligheder og kigger antal ord ud bagud, så skalerer
19:42
det bare rigtig rigtig dårligt. Fordi så skal du have 10.000 x
19:47
10.000 x 10.010 1000 x 10 gange og så ja.
19:50
Og Det er jo i virkeligheden rigtig meget det som de her
19:52
sprogmodeller har løst eller et neuralt netværk og så videre
19:55
acten så. Det ville være fint, hvis vi
19:58
bare kunne have uendelig computer, og vi definerede alt i
20:02
lineær termer og så bare gik fuld on på på blotforce.
20:07
Så løste vi så løste vi masser af problemer i den her verden.
20:11
Folk interesserer jer lige nu modeller kan vi ikke bare
20:13
opfinde ud af computere, så er det sgu da for dårligt.
20:17
Men Jeg synes i forvejen Det er tungt med med med med noget, som
20:20
skulle være optimeret med den kontraktmængde, Vi skal bruge.
20:25
Nå skal vi gå videre til spørgsmål nummer 2.
20:28
Føre større modeller og datasæt automatisk til mere sandfærdige
20:31
og mindre biast resultater eller Sådan modeller.
20:35
Det var næsten i forlængelse af det, jeg lige sagde det.
20:38
Var det faktisk. Hvad?
20:41
Hvad er Sådan? Hvad er jeres intuition der?
20:45
Jeg kunne godt tænke mig at sige noget om det.
20:48
Altså så. Starter jeg.
20:52
Jeg læser lidt det der med. Altså større modeller og større
20:57
datasæt. Hvad kan man sige, hvis man øger
21:01
antallet af parametre II sin modeller, men man ikke har
21:05
variation nok til? Altså i sit data, så har man
21:09
ikke nogen grund til at øge antallet af parametre, fordi Der
21:10
er ikke noget nyt at indfange. Og hvis man øger mængden af
21:16
data, så kan man indfange flere ting i sin model.
21:20
Men Det har faktisk ingenting med bayers at gøre, Sådan som
21:22
jeg ser det. Bias er jo noget som.
21:27
Man kan sige, vi definerer lidt mere abstrakt.
21:30
Det er jo 1 1 1 hvad kan man sige en systematisk eller en
21:33
ikke systematisk afvigelse fra et eller andet ideal som vi
21:37
kalder for ikke bare. Der skal vi ligesom kunne.
21:40
Vi er nødt til at have et eller andet reference punkt, når Vi
21:42
skal måle det, så Det er Sådan. Det er en rigtig, rigtig svær
21:46
øvelse det der med bias og. Der er jo mange, mange, mange
21:51
forskellige definitioner af bias afhængig af hvad man arbejder i
21:55
for en type kontekst socialt bias.
21:58
Kommunikative bias. Systematisk statistisk bias.
22:05
Altså og kan man estimere bias? Det kan man faktisk godt i nogle
22:08
sammenhænge og har masser af metoder til det og Sådan nogle
22:11
ting. Så det det jeg ser det faktisk
22:14
som som noget der ikke har noget med hinanden at gøre.
22:16
Men Jeg kan godt se at man kan få den opfattelse af, at hvis nu
22:20
hvis nu man får mere viden ind i den og den bliver klogere i
22:24
gåseøjne klogere. Så så er den måske mindre biost,
22:29
men hvis den er trænet på menneskelig data, så producerer
22:33
mennesker og mennesker er byeste i den retning, så vil den også
22:36
være biased i den retning som mennesker er.
22:39
Det er så Det er faktisk så simpelt, Sådan som jeg ser det.
22:41
Og så kan man tale om alle mulige.
22:43
Sådan nu taler jeg tit om debating strategier.
22:47
Jeg har selv skrevet mit speciale II diskrimination.
22:52
Og der taler man selvfølgelig sjovt nok også rigtig meget om
22:55
bias og social bias og så videre.
22:57
Og der taler man også om Sådan de biasing strategier i
23:00
samfundet til. Til den til at løse nogle af de
23:04
problemer, der opstår i Sådan diskriminative sammenhæng, og
23:07
det samme vil man kunne prøve at tænke ind her.
23:09
Men Det er Det er virkelig svært.
23:11
Altså Det er ikke bare noget man lige gør.
23:13
Man kan prøve at se på det der kommer ud fra fra Google, ikke
23:16
med deres hvor de forsøgte ligesom at at på en eller 2 måde
23:19
gøre den mere. Ja, hvad skal man kalde det?
23:23
Diversiteten forsøgte i at øge diversiteten, men for mange så
23:27
blev det jo meget hurtigt opfattet som total barrest ikke.
23:31
Altså hvad har du gang i det der?
23:32
Det er jo Det er jo klart bias i en eller 2 retning, som virker
23:35
helt helt forkert, ikke for eksempel er den historisk
23:39
ukorrekt i den måde den lavede billeder på for eksempel ikke.
23:43
Sådan nogle nogle meget mystiske ting eller i hvert fald ukorrekt
23:46
i forhold til hvordan vi forstår historien ikke så Det er.
23:49
Det er en svær ting. Det er ikke noget man bare lige.
23:51
Gør Jeg har Jeg har også den der med bias og netop det der med
23:54
Det er jo en eller 2 form for man kan sige Det er jo nogle
23:57
gange så er det en forstærkning af menneskelig baras altså det
23:59
Det kan jo faktisk næsten noget af det Jeg synes kan være meget
24:01
fedt. Det er at det bliver udstillet i
24:03
den grad ikke at og det her. Det er da fuldstændig
24:05
uretfærdigt og så er der ikke en eller 2.
24:08
Politimase altså en eller 2 person som man kan sige Det var
24:12
ham der tog fejl af hende der. Det er ligesom.
24:14
Gud det her. Det er jo algoritme der tager
24:15
fejl, og så kan man så kigge nå Det er jo fordi al den data der
24:18
bliver hældt ind den den hælder derhen af så ja, men til gengæld
24:23
synes jeg også at at at der kan være altså man kan måske arbejde
24:27
hen mod at få mere Sådan minoritetsdata ind.
24:32
Altså Der er mange der snakker om specielt de her
24:35
engelsklærere, som Jeg har interviewet ikke siger også at
24:38
at at de oplever når man har Sådan en Kultur og diskussion
24:41
af. Af sprogmodellerne, at man ser
24:44
det ekstremt amerikansk og ikke engang bare amerikansk vel men
24:47
vestkyst amerikansk. Rigtig meget den data, som som
24:52
de må være blevet trænet på. Ikke så så så kan man kan man
24:57
arbejde med at balancere det lidt i al fald ikke.
25:03
Og og få mere ind, men Det er rigtigt nok.
25:04
Jeg synes Det var Sådan en sjov eksempel du nævnte der fra
25:07
Google hvor de så havde. End når de så skulle have
25:10
amerikas fauning for alvor, så havde de en flok.
25:14
Hvad hedder det indianere i koloniherretøj ikke?
25:18
Ja de var jo ikke amerikas founding kvartner, så kan man
25:21
sige og alligevel. De har faktisk 9 halføjer på,
25:24
vel man kunne jo godt sige at at det så så så der var Sådan
25:28
nogle. Jeg synes Jeg synes Det var
25:30
Sådan næsten en kunstnerisk værdi meget hjemmelege.
25:33
Jeg lavede ikke fordi jamen er det hvis vi siger bias det på en
25:37
eller 2 måde er noget hvor det ikke passer med virkeligheden.
25:39
Der er jo den der klassiske. Målskive, hvor man så siger
25:42
jamen det hvor de ligesom er dag altså hvad hedder det?
25:46
Data er endt eller algoritmen eller kombination af algoritmen.
25:49
Data er ligesom endt herude, men hvad er altså hvad er egentlig
25:53
centrum man skal det du sagde Jonas ikke det synes Jeg er en
25:57
god pointe. Jeg synes Det er en god pointe
26:00
du siger Signe at at en måde at debitere sig på altså fordi de
26:05
bias er jo altså verden er nok bias på rigtig mange måder ikke
26:09
altså. Det alt er jo nok i
26:11
virkeligheden lidt bias, ellers så falder det hele sammen, så er
26:15
det bare du ved atomer og partikler, der bare ligger lige
26:18
langt fra hinanden i et stort eller Sådan.
26:20
Altså hvis man går helt ud, ikke?
26:23
Men altså, men Jeg synes Det er en god pointe.
26:27
Hvis man gerne vil gøre det mindre bæreste mod amerikansk,
26:31
for eksempel Kultur og så videre, så kunne man jo prøve at
26:35
få minoritetstyperne altså få få mere Sådan bredt.
26:38
Hvad skal man sige repræsenteret data ikke, og så er det måske i
26:41
virkeligheden, så er det måske i virkeligheden ikke så meget med,
26:44
hvad skal man sige, hvor stor sprogmodellen er selvfølgelig.
26:47
Det har et eller andet med der. Der er selvfølgelig noget
26:49
kapacitets, Det har noget med kapaciteten af sprogmodellen at
26:52
gøre går jeg ud fra. Men Det er måske i virkeligheden
26:55
mere og og Det er måske heller ikke så meget med at gøre med,
26:57
hvor stort datasættet er, men mere hvor hvad er fordelingen af
27:02
typer af data Der er? I hvis man bare går på jagt
27:06
efter at få et så stort datasæt som muligt, så begynder det jo
27:09
også at være AI genererede data. Og så ser man jo det der decline
27:13
lidt så ja så men men udover data så Der er jo også nogle
27:18
ting man kan gøre bagefter ikke med at.
27:20
Min struction og reward modelling alt det der med man
27:25
har en. En masse data rykker os til at
27:27
sidde og gøre faktisk i hånden bagefter ikke?
27:31
Det at at der ligger jo også nogle ting.
27:33
Det har jeg også hørt nogen, der i hvert fald vurderede, at Det
27:36
var muligvis det der skete med med Jimmy nice.
27:42
Pudsige måde at lave billeder. På.
27:45
Ja. Det Det er sjovt fordi Jeg har
27:49
Jeg har arbejdet en hel del med cleod her på det sidste og og
27:52
det Jeg tror i virkeligheden at det på samme måde, men der har
27:55
jeg der har Der er 1 1 1 bias Der er tydelig i hvert fald
28:00
crowd og sikkert også tjek det bibliotek.
28:02
Det er den her det her pleaser bias som Jeg tror blev
28:04
introduceret i den her reward modeling altså det her
28:08
preference tuning hvor at de er helt klart biased mod at ville
28:13
give en ret. Så nogle gange, når jeg virkelig
28:17
gerne vil have den dens holdning til et eller andet altså Sådan
28:20
eller Sådan høre dens bud på en holdning til noget, så så bliver
28:24
jeg nødt til at sige Sådan. Du skal svare helt ærligt, og
28:25
det skal ikke være for at blive til mig og vi kan være din egen
28:28
holdning og Sådan noget og nogle gange Sådan så oplever jeg
28:30
nærmest at man skal når man godt ved at den den giver en den bare
28:34
taler en efter munden, så skal man nærmest formulere sit
28:37
spørgsmål eller sin instruktion på en måde som.
28:40
Som er Sådan en lidt eksamens agtig altså Sådan.
28:43
Hvor man ikke giver det rigtige svar, men som.
28:48
Får den til at tænke sig, når en metode jeg også er begyndt at
28:50
gøre at bruge. Det er Sådan give mig 5
28:53
approaches til at kode det her for eksempel.
28:57
Fordi så ryster man posen lidt og så bliver den tvunget til
28:59
ligesom at at divergere lidt for for den der.
29:04
Ja du nævner noget meget vigtigt også der at at at pumping altså
29:09
Det er vigtigt at man kan nu sagde jeg jo jeg indledte med at
29:12
sige at. Jamen, det nytter ikke noget ved
29:15
det her bias hvis du bare putter mere data og så videre men men
29:18
men Der er jo alligevel noget i at hvis Vi skal indfange det her
29:22
minoritetsdata som du også nævner sine og så kan modellen
29:26
måske indfange det og og det det vægter måske ikke så meget i
29:30
data, men den har trods alt ligesom lært den her flig herude
29:33
i periferien. Hvis vi så skal aktivere den del
29:36
af modellen, hvor vi får fat i noget af det der som er ikke.
29:40
Gennemsnitlige. Westcoast det amerikanske
29:44
skrivestil så skal vi promdingineres derhen, og det
29:47
vil sige, at bias hedder jo opstår som du så siger der unge
29:50
i, at jamen med med med mindre effet altså med med lav eft i
29:55
forhold til promoting, så vil jeg få den her type svar.
29:59
Men jeg men jeg jeg skal bruge mit interrekost for at komme ned
30:03
i det der som den har af kapabiliteten til den er højere
30:06
fordi jeg skal jeg skal promble mig længere ned i det, så Det er
30:08
jo en klar, kan man sige. Brugsmæssigt, hvad kan man sige
30:13
effekt? Det har.
30:15
Så der ser jeg det helt klart også noget når man når man når
30:19
man kigger på Sådan noget med. Hvordan bias virker i den
30:22
virkelige verden II samfundet. Det er i hvert fald det, som jeg
30:25
husker fra fra mit eget. Så kigger man jo også på det der
30:28
med jamen, hvad er den omkostningsbyrde jeg skal over
30:31
som individ for at komme ned i det som ikke er?
30:34
Hvad kan man sige det? Det jeg gerne vil have som ikke
30:37
er er. Jeg vil sige den.
30:40
Ja den den default svaret på en eller 2 måde ikke altså hvis det
30:43
giver mening. Og Det er jo også det jeg hvor
30:45
læreren har en rolle, for eksempel hvis Det er en
30:47
skolesammenhæng at at de netop kan kan hjælpe eleverne til at
30:52
indse de her ting. Ikke at Der er nogle ting.
30:54
Dem må i simpelthen promble dybere for at at komme ind til,
30:57
ikke? Ja det.
30:58
Er sjovt Jeg har Sådan lidt Jeg har Sådan et.
31:00
Jeg kan godt lide at lave Sådan nogle promoting parterance eller
31:02
i hvert fald tænke Sådan nogle prumping parterings og der har
31:04
jeg i lang tid haft Sådan et promoting pattern i mit i
31:08
baghovedet der hedder destellation parterne.
31:11
Altså hvor man destiller et svar ikke og det kunne.
31:12
Det er Sådan en sjov et sjovt eksempel, Det er Jeg har det her
31:15
kode gør det hurtigere og så siger den ja men så kan du lige
31:17
lave de her optimeringer og Sådan noget, så siger jeg jamen
31:19
Det er fint nok nu gør jeg det endnu hurtigere og så laver det
31:21
lidt mere og Sådan noget og så siger man Sådan det skal være
31:23
meget, meget hurtigere og så du ved til sidst så gør jeg det
31:25
bare fuldstændig bananas og du ved det ender jeg så Skørt noget
31:29
ikke, og Det har jeg også nogle gange gjort, når jeg Sådan har
31:32
sagt. Jeg skal løse det her machine
31:33
League, så kommer den op med du ved det der jern, så skal du
31:35
lave data repræstesing og så skal du lave hele den der smøre
31:39
der som altid kommer med når du spørger om et eller andet med
31:41
machine learning, så siger jeg Sådan jamen det skal jeg bare
31:43
meget mere. Hvad hedder Sådan en on Office
31:45
så Det er Sådan on- Office destination ikke nå, men så
31:48
tænker den Sådan der OK, men så prøver jeg noget andet og Sådan
31:51
og Jeg kan huske nogle gange har jeg bare kørt de der iterationer
31:53
og så får jeg Sådan en helt latterlig Sådan noget hvor den
31:55
prøver at bruge kaos teori til at lave en eller 2.
31:58
Classiceren eller et eller andet?
32:00
Blandt andet så man kan godt, hvis man virkelig vil tvinge den
32:05
ud, hvor den Sådan fordi den gør det jo med glæde den den gør.
32:08
Den går jo med glæde ud, der hvor den overhovedet ikke kan
32:11
bunde. Den fulde onkel det det Der er
32:15
vi tilbage til den fulde åbne. Det må man sige.
32:17
Ja altså jeg tænker det virker som om Vi har fået talt om
32:20
svaret frem til at svaret nødvendigvis ikke modelstørrelse
32:23
eller datasæt størrelse, men mere ja, hvad er fordelingen?
32:27
Altså hvad er det Der er i datasættet?
32:30
Ja. Og jeg tænker også noget netop
32:33
noget med med en struction tuning og de der reward modellen
32:39
i forhold til align man når man sidder bag altså, men Det er jo
32:43
Sådan meget for fint chatbotten og ikke så meget selve
32:45
sprogmodel. Nej, og det kunne egentlig være
32:48
spændende Sådan at at blive lidt klogere på.
32:50
Hvad er det for nogle bias der kommer ind?
32:53
Hvor ikke fordi jeg kunne forestille mig, at i Sådan hele
32:56
den der store prætræningsdel, så er det Sådan viden og Der er
33:01
det. Ja hvad ved jeg så er det en
33:03
bestemt type bias der kommer ind der hvor i Sådan noget
33:06
preference-twing Der er det måske mere Sådan noget, Der er
33:08
det der hvor det der den der Det er Sådan mere opførsel på en
33:11
eller 2 måde altså Sådan hvordan den opfører sig.
33:15
Er det Sådan adfærd ikke så er der så er det Sådan social
33:18
intelligens som man træner den i når man tuner den.
33:21
Og så er det Sådan mere rå viden man hælder ind i den ikke når
33:25
man når man når man træner den med altså grundmodellen ikke?
33:30
Det er faktisk også Jeg har hørt at at at hele det her preference
33:33
troling med reenforce learning from human feedback som hedder
33:37
art nul HF som. Også er rimelig teknisk, men
33:41
altså det her hvor den man optimerer hen mod.
33:43
Hvad mennesker? Hvad skal man sige?
33:45
Foretrækker. Jeg kan ikke huske hvor jeg
33:48
hørte det, men Jeg kan huske Jeg har hørt at det rent faktisk
33:50
startede i opening. Jeg tror jeg som Sådan en.
33:55
D byer seng eller i hvert fald en.
33:58
Safety ting altså Sådan lær dem at afvise.
34:06
Hvad skal man sige toxic sprog? Og du må ikke give opskrifter på
34:10
bomber og så videre så. Folk har jo ikke gjort andet
34:13
siden end. At.
34:15
Nej men Sådan kan. Trailitybreaker.
34:20
Nå, men lad os gå videre til den næste nummer 3 spørgsmål numre,
34:23
hvad mener i om fremskridtene indenfor interpert ability af
34:27
sprogmodeller og. Ja.
34:31
Han nævner en artikel fra androbic, som er rimelig teknisk
34:36
og som handler om lidt Sådan noget noget.
34:39
Med at prøve. Koge input slash output til de
34:45
her sprogmodeller ned til Sådan nogle lidt mere Sådan space
34:50
features, så man kan nærmest nogle kategoriagtige features,
34:54
som man skal kunne interberte. Men Jeg synes i virkeligheden
34:58
Det er sjovt, fordi jeg tænker nogle gange på at.
35:01
Man man siger altid at de mest en turberdable altså eller
35:04
fortolknings hvad fanden hedder det egentlig på dansk?
35:08
Fortolknings bare, Det kan vi godt kalde Det kan vi ikke det?
35:11
Fortolkbar. Fortolkningsbare OK men men
35:17
forklaringen forklar bare. Intelligens.
35:21
Kom bare. Men altså der der Jeg synes den
35:27
klassiske er jo at de har Sådan. Du ved den gode gamle logistiske
35:29
regression du ved den Det er bare du ved nemt fordi så kan
35:33
man se hvad for nogle features Der er vigtige og har
35:37
indflydelse på udfaldet af af outputtet.
35:41
Og så er der ligesom kommet de her deep learning, som gør at
35:44
det bliver meget mere Sådan. Hvad fanden er det egentlig, der
35:47
foregår inde i de der neurale netværk?
35:49
Og hvordan skal vi egentlig helt forklare de her output, vi får i
35:52
Vores? Klassifikationsmodeller eller
35:54
ranking modeller til mindre system, for eksempel.
36:00
Mens jeg og Det er noget værre snavs.
36:01
Ikke fordi det ændrer sig jo. Så så så du får et svar i dag og
36:07
Der er forklaringen en og Sådan 3 dage jamen så så kan du få
36:11
måske det samme svar, men med en 2 forklaring.
36:14
Ikke fuldstændig. Men jeg tænker nogle gange på
36:18
Sådan med de her eller Det er i hvert fald noget Jeg har tænkt
36:20
over. Om.
36:22
Efter Vi har fået de her lars language models om den i
36:24
virkeligheden har flippet lidt. Altså fordi nu er det ikke bare
36:27
Sådan et neuralt netværk som hvor det bare er vektorer der
36:30
kommer ud og eller klasser eller arrangerede posts på Facebook
36:34
eller et eller andet. Men nu er det rent faktisk
36:36
tekst, og man kan faktisk bede dem om at forklare sig selv.
36:40
På en eller 2 måde ikke så på en eller 2 måde så er.
36:43
Det vi mener ja. Men Det er jo Sådan lidt.
36:46
Det er det vi mener. Fordi Jeg har da i hvert fald
36:49
også oplevet at at nogle gange så siger man jamen så skal du
36:52
lige huske at hver eneste gang du giver en en prediction eller
36:55
en et output, så skal du lige forklare hvorfor du gør det.
36:58
Og nogle gange de her forklaringer der, de er bare
37:00
Sådan hænger. Der er ingen sammenhæng i
37:02
outputtet og så de der forklaringer.
37:05
Nej, Det er klart den har ikke en meta kognitognitiv.
37:08
Hvad kan man sige forståelse af sin egen kognition?
37:12
Så Det var kan den jo ikke forklare sig selv.
37:14
Det har jo ikke. Den har jo ikke noget af det der
37:15
som man tror man beder den om, vel?
37:18
Altså ja ja fordi man kan jo godt netop komme med nogle
37:21
forklaringer. Ikke altså Det var det der med
37:23
de kan godt skifte lidt fra gang til gang, men så er det så er
37:26
det så problemet hvis man så kører det rent linje og så har
37:28
man det problem at ikke linjeritet det.
37:31
Det forsvinder ligesom så. Så Det er jo også Sådan en, så
37:34
er der jo selvfølgelig også nogle.
37:36
Det er jo meget Sådan klassifikationsmodel, og der
37:38
bruger man jo Sådan noget random forest, fordi der der har man
37:40
stadig en eller 2 form for forklaringsmodel, ikke?
37:44
Men det men. Jeg kunne godt tænke mig at
37:46
udfordre lidt den der Sådan opfattelse af engang.
37:50
Havde vi noget, som var meget forklarbar til at nu er det
37:52
blevet så uoverskueligt altså. Hvad altså hvad vil det egentlig
37:58
sige, at Der er noget Der er forklaret?
37:59
Altså hvis Jeg har en linje af regressionen en god gammel.
38:03
Ud og læse og Jeg har 4 variable.
38:07
Hvad siger de variable så noget om i den virkelige verden for
38:10
eksempel ikke. Og så kan jeg se at nå, men den
38:12
her den forklarer så og så meget af den her forklarer så og så
38:15
meget. Det er noget med noget RI 2 og
38:16
så kan vi ligesom sige at det skyldes så og så mange procent
38:20
det her og så mange procent det her.
38:22
Det er typisk. Altså hvis man kigger på at man
38:26
gerne vil sige noget om det, er Sådan en kausal for eksempel, så
38:29
er det typisk hammer, Der er forkert.
38:31
Uanset hvornår man vender og drejer det der, fordi Der er
38:33
altid spiritiøse variable og man ved ikke helt hvordan det hænger
38:36
sammen bagvedliggende ting og Sådan noget, så Det kan man
38:38
egentlig kun eksperimentielt prøve at.
38:41
Og og slejse op og sige jamen nu estimerer jeg den her bid.
38:44
Nu estimerer jeg den her bid, og det gør man jo så isoleret, hvis
38:47
man vil vide noget om hvad har effekt på hvad Det kan man sjovt
38:50
ikke med mange milliarder parametre af af teste hver ene
38:54
af dem eksperimentelt. Måske er der faktisk nogle der
38:58
har prøvet det. I don't know, det skal man godt
39:00
nok gå i gang igennem mange ting sidde og prøve at justere de der
39:03
ting og se hvad kommer der så ud og hvad forklarer det så og måle
39:06
det på den 2 side ejer du? Men Jeg synes bare Der er et
39:10
eller andet det der med at vi engang havde noget der var så
39:12
nemt at forklare til, at vi nu er det rigtig svært.
39:15
Det tror jeg faktisk lidt er en illusion jeg Jeg tror bare Vi
39:18
har. Vi har brugt de der lineære
39:20
regressioner som Sådan en en forklaringsillusion, fordi Det
39:24
var overskueligt for os at kigge på, men men Vi har aldrig rigtig
39:26
helt vidst om det nu også sagde det.
39:28
Vi troede vi sagde det tror. Jeg verden er jo ikke lineær vel
39:32
altså Der er meget ting der faktisk er så Sådan.
39:35
Den har jeg jo lige kunne forklare de ting og så alt det
39:37
andet Det har. Ja Det har bare ligget og mudret
39:41
og sænket af i 2 og. Og der og man ved jo ikke om Det
39:46
er så Sådan, at Det har jo ikke noget med kausalitet at gøre
39:48
bare fordi man man har en en lineær regression hvor man kan
39:52
se overskue de der variabler man har inkluderet.
39:56
Fordi at man skal egentlig jo ned og kontrollere de der
40:00
variable ret præcist hvad Det er, og det betyder, og de skal
40:04
helst gerne være. Hvad kan man sige randomiseret
40:08
og og udefrakommende justeret? Og jeg ved, jeg ved ikke hvad
40:12
før alt det der. Matematik skal gå op, og den der
40:15
regression rent faktisk er forklarlig.
40:19
Ja. Og det Det er Det er den jo bare
40:21
nærmest aldrig så alt, alt forskning for nogle i hvert
40:25
falde. Når da jeg stoppede på studiet,
40:27
der var den nye, selvfølgelig felte eksperimenter, som jeg
40:29
også selv lavede, hvor at der Der er der lidt mere
40:32
eksperimentel metode som som som påstår selvfølgelig at at at så
40:36
er det nemmere at lave kausal inferens, men meget forskning
40:40
før det. Jamen, Det var jo Sådan noget,
40:42
Jeg har den her reaktion, og så diskuterer man en masse om gad
40:46
nu vide om den her variabel nu også hænger sammen med det her,
40:49
og så er der en masse diskussion.
40:50
Hvorvidt det den model overhovedet siger noget om
40:53
virkeligheden. Og Sådan.
40:57
Det er jo bare en lang diskussion, og Det kan man blive
40:59
ved med at diskutere, for man kan aldrig finde ud af det med
41:01
sikkerhed vel? Så Jeg tror at Det er en lidt en
41:04
illusion. Altså at man Sådan bare lige er
41:07
gået fra noget der var meget forklarende til Det er slet ikke
41:10
forklarerigt nu. Jeg tror ikke man har rykket sig
41:12
særlig meget. Der er Sådan lidt hvis man vil
41:14
ud Sådan lidt langhåret diskussion, så kan man også
41:17
spørge Sådan, hvad er det? Vi hvad er det der gør at?
41:20
Vi anser mennesker for forklarbare altså Sådan.
41:25
Hvorfor er min kollega på dinero?
41:27
Hvorfor anser jeg vedkommende som nå men det eller Sådan altså
41:32
giver det mening Sådan? Ja, fordi jeg underviser jo
41:37
faktisk også nogle gange ude rundt omkring på skolerne og der
41:41
går jeg også og snakker om. Jamen en ny skills her.
41:44
Det er jo også. Der er Der er jo nogle helt nye
41:48
Sådan kommunikation skills altså næsten.
41:50
Man skal jo forstå samfundet for at kunne forstå outputtet af
41:53
egen altså så Det er jo ikke Sådan matematiske forklaring man
41:56
man skal have nogle gange, så skal man jo faktisk for at kunne
41:59
forstå hvad den spytter ud, så skal man jo vide noget om verden
42:02
i virkeligheden ikke. Det var det der de hele tiden
42:04
snakker om med den kritiske sans i forhold til hvad Det er den
42:06
den giver en. Så ja så så expinaity bliver
42:11
måske lige pludselig noget andet.
42:14
Altså noget som ja nå. Det var i min grund.
42:19
Ja endnu cnoise. Det kan godt være Vi skal gå
42:20
videre til den næste, fordi spørgsmålet er nummer 4.
42:22
Det er nemlig også rigtig rigtig fedt spørgsmål.
42:24
For kaninhuller der ja. Det er dybt.
42:26
Det er dybt det her der. Skal vi virkelig prøve at holde
42:29
os selv i? Ja, hvad hedder det?
42:33
Spørgsmålet nummer 4. Hvor kommer sprogmodellernes
42:35
viden og intelligens fra? Kan det spores tilbage til
42:39
mennesker gennem data? Ja, så hvad skal man sige?
42:41
Hvor kommer sprogmodellernes viden og intelligens fra?
42:47
Ja hvad de umiddelbare tanker om det sig.
42:50
Ja tak. Jeg Jeg synes Det er mega
42:53
spændende og Det er jo også fordi nu ved jeg faktisk heller
42:55
ikke rigtigt hvad intelligens er, altså det ved biologisk
42:58
neuro psykologerne heller ikke så.
43:02
Det er bare så dejligt valent turing og hans turingtest.
43:05
Det var at han faktisk ikke snakkede om intelligens og han
43:07
snakkede om. Hvis hvis hvis maskinen altså
43:10
hvis mennesket ikke kunne kende forskel på maskinen og et andet
43:13
menneske, jamen så havde den bestået suring testen, og så
43:16
nåede han jo så desværre at at dø inden kunstige intelligens.
43:20
Fyldt, rigtigt blomstret ikke. Det var dem trist.
43:26
Men. Så så derfor Sådan så så så bare
43:29
lige for at starte med intelligens, så er det lidt
43:31
svært ikke altså fordi hvis det nu bare er IQ test så det vil
43:34
sige de fleste IQ test de kan jo løses med Sådan nogle i den
43:37
betingelser som vi normalt ikke ser som kunstig intelligens.
43:41
Så så så så men måske jo mere kigge på det på en eller 2 måde
43:45
som en form for viden eller visdom eller noget ikke?
43:49
Og og Der er det jo hvad hedder det og Det er jo data og og Jeg
43:53
synes nemlig Det er lidt sjovt det her med at at sammenligne
43:55
det lidt med med den måde små børn lærer.
43:57
Jeg ved ikke har i små børn eller Jeg har store børn.
44:02
Men Jeg kan stadig huske det, fordi jeg arbejder med
44:04
kontingent dengang. Og det der med Sådan, hvordan er
44:07
det de lærer? Er det med regler.
44:08
Altså er det regelbaseret AI eller er det data er Det er det
44:13
Sådan at man bare hælder data ind?
44:15
Du ved hvis man sætter den foran en skærm skærm og så lytter de
44:19
og så på et eller andet tidspunkt, så har de lært det.
44:23
Regeringer med dem ikke og det hele.
44:24
Det er Sådan du ved er det databaseret.
44:26
Er det regelbaseret, er det en eller 2 form for reenforcement
44:29
eller behøver de overhovedet de der rein?
44:31
Altså skal de bare loades med det og og ja så så Jeg tror Der
44:37
er altså jeg. Jeg kan faktisk godt lide ideen
44:40
om at tænke på læring, lidt ligesom altså når mennesker
44:44
lærer, men Det er der så også nogle der synes er ret
44:46
forfærdeligt at at lære den sammenligning ikke.
44:51
Så så så Det er det. Det kommer jo også lidt an på,
44:54
hvordan man selvfølgelig så lige har det med det men men Det er
44:58
jo det man prøver at efterligne lidt når man træner er mit
45:01
indtryk når man har designet de her algoritmer.
45:04
Så er det jo Sådan der forskellige måder.
45:05
Altså man kan lære at man ikke må gå over vejen for rødt.
45:08
Det er jo Sådan en regelbaseret ting ikke.
45:10
Og så har man måske lært hvad en kat er i forhold til en hund er
45:15
fordi man har spurgt så mange, er det en kat?
45:17
Nej. Ja nej altså Det er.
45:20
En mund. Og som regel lidt hurtigere end
45:24
end eger gammeldags klassifikation, så Jeg er i al
45:27
fald så hvad hedder det så? Så Jeg synes egentlig Jeg synes
45:31
Der er mange paralleller, men man skal selvfølgelig passe på
45:33
med, at man ikke bare Sådan fuldstændig kopierer.
45:35
Der er jo ikke intentioner bag os.
45:36
Det jeg tænker der ligger noget bag mennesker, som ikke ligger
45:40
bag bag maskinerne, men ja hvad tænker i?
45:44
Jeg tænker. Hvad hedder det jeg?
45:46
Tænker meget på det som om at når fordi Jeg tror at de her
45:51
neurale netværk og ja især neurale netværk, de lærer kun
45:55
det de bliver nødt til for at løse den opgave de bliver trænet
45:58
til. Og for at.
46:02
For at blive så god som muligt for at forudsige så mange ord,
46:06
så nøjagtigt. Så bliver de simpelthen nødt
46:09
til, at hvad skal man sige? Komprimere noget viden ind i
46:13
sine parametre for at være i stand til?
46:16
Altså for at kunne få lavt los, når de laver de her
46:21
forudsigelser. Det er Sådan på en eller 2 måde
46:26
den mest clean måde for mig at tænke på det på.
46:28
Altså i selve selve opgaven. Der bliver de bare nødt til at
46:33
blive gode til det der for at for at for at kunne løse den
46:36
godt for at være god til at forudsige det næste ord.
46:41
Og på en eller 2. Måde intelligen kan man bare
46:43
læring og og den der loss function.
46:45
Det er bare. Det er bare udtryk for.
46:48
Altså på. Og Der er jo også mange.
46:49
Og Det er jo i virkeligheden også det Der er med neuralen
46:51
netværk. I virkeligheden er det jo bare
46:52
komprimering og tekst. Altså Det er jo Det er jo kom ja
46:57
det altså. Det er jo i virkeligheden bare
46:59
kombinering af tekst, altså tage det her tekst pres det ned i kun
47:03
i. 400 mia. Parametre.
47:06
Og så er der ordentlig meget tekst til gengæld.
47:09
Og så genskabe det altså pak det ind og komprimer det og så
47:13
genskab det igen. Også det vi gør nu her ikke når
47:16
vi sidder og snakker sammen altså det hvad hedder det?
47:19
Ja, Vi har jo alle mulige stress på og så virkede teknikken ikke
47:22
lige og Sådan noget og alligevel lykkedes det os at formulere
47:25
sætninger, uden at vi Sådan skal sidde og tænke fra ord til ord
47:28
ikke åh nej. Nu begynder vi måske at gøre
47:30
det, men men altså. Men men men men.
47:37
Gletsj er bare helt. Så Det er jo Sådan lidt altså
47:40
noget af det mekaniske det her med at vi bare kan kan sige
47:43
sætninger der giver mening. Omkring et emne ikke altså der
47:49
Der er der jo måske noget parallelt ikke.
47:51
Altså Vi har jo også tingene komprimeret lidt inde i hjernen.
47:55
Vi vi havde. Jeg har lige været på kursus her
47:58
forleden, og der havde vi Sådan et eksempel på en lille
48:00
historie. Vi fik fortalt alle, der var med
48:02
til kurset, og så skulle alle ligesom kunne gengive den den
48:06
historie der. Og Det var sjovt, fordi den var
48:09
fortalt på Sådan en måde, så Det var Sådan lidt der var nogle
48:11
ting der var Sådan lidt tvetydigt formuleret og så
48:13
videre. Men så var det meget tydeligt,
48:16
at alle ligesom huskede den der historie forskelligt.
48:21
Og nogle af de informationer vi blev bedt om, ligesom at sige at
48:25
Det er rigtig interessant, sandt eller falsk eller var
48:28
informationen der ikke i teksten til at kunne svare på det her
48:31
spørgsmål. Det var Sådan helt forskelligt
48:32
hvad folk synes, og og i virkeligheden hvordan de Sådan
48:35
havde. Taget den der historie ind og
48:37
komprimeret den i virkeligheden, eller hvordan de ligesom havde
48:39
kombineret den, og så havde gemt den i deres korttidshukommelse,
48:42
og så ligesom havde fået den tilbage igen.
48:44
Ikke fordi der var en masse huller som var fyldt ud, og
48:48
nogle troede de havde hørt noget.
48:50
Det havde de ikke, og så var der nogle andre der ikke altså så
48:53
folk kom det. Jeg syntes bare Det var et ret
48:54
interessant eksempel på at folk komprimerer sprog forskelligt.
49:01
Og så tror jeg vi kan. Har i set metadon?
49:04
Ja for lang tid siden. Jamen er der rigtig mange der
49:08
mener de har set en scene, hvor lærer Andersen han står udenfor
49:12
og banker på på altandøren og vil ind.
49:16
Og den. Findes ikke.
49:17
Den har aldrig fandtes, men folk synes det ja er det ikke sjovt?
49:21
Det er jo lidt den samme også. Fordi man har historien i sit
49:26
hoved, så man har komprimeret hele matador storylinen ind i
49:29
hjernen og så. Ja så tænker man bare Det har
49:34
man set fordi Det var en en væsentlig del af historien, og
49:37
det gjorde indtryk og. Hende der misse.
49:39
Hun fortæller det så levende altså grammer sig.
49:43
Nå Jeg vil lige komme ind i disclaimer og jeg ved faktisk
49:46
ikke super meget om Sådan noget neuro psykologi og Sådan, så jeg
49:48
sidder her det det Det er lidt. Og det ved vi ikke helt vildt
49:52
meget om, ikke? Hvad hedder det?
49:56
Jeg vil lige prøve at give et lille input til det der
49:58
spørgsmål også fordi Jeg synes at Der er noget II spørgsmålene
50:01
som det der med kan det spores tilbage til mennesker gennem det
50:04
gennem data, og der kunne jeg godt tænke mig fordi du nævnte
50:07
noget jo med det der med at at den ligesom er nødt til at
50:10
justere sine vægte til ligesom at kunne kapere den her.
50:16
Hvad kan man sige tekstverden? Og så er spørgsmålet om
50:20
tekstverdenen på en eller 2 måde repræsenterer noget.
50:24
Noget, hvad kan man sige Sådan en eller 2 form for forståelse
50:29
for ja, for for verden er Det er Det er det tilstrækkeligt med
50:34
tekst og der har man jo der har man i hvert fald diskuteret det
50:37
her kan jeg huske i flere sammenhænge om om om tekst
50:40
overhovedet er den rigtige modtalitet til at opnå.
50:44
Hvad kan man sige? Noget som er tættere på Vores
50:47
intelligens og yan leko har jo meget den der med at jamen vi vi
50:52
processerer meget mere billeddata som mennesker end vi
50:55
producerer tekst. Ikke altså.
50:58
Lem har har læst i gåseøjne mere tekst end et menneske
51:01
overhovedet kommer til i sin livstid.
51:05
Så er det ikke lidt fjollet at prøve at få den til at fange
51:08
det, og det synes jeg jo er meget, meget interessant.
51:12
Men der kan man jo så sige og nu nu.
51:14
Jeg tror Jeg kan næsten fornemme de unge han kommer med et
51:17
aberbai, men man kan jo sige at er teksten så ikke allerede
51:20
komprimeret eller viden om om om om verden så sige og det Det er
51:26
nemt fordi Det kan jeg huske du har sagt på et tidspunkt at Det
51:28
kan jeg nemlig også godt. Den den pointe kan jeg nemlig
51:31
også rigtig godt. Forstå.
51:34
Og så er det ligesom forskellige.
51:35
Hvad kan man sige? Niveauer af komprimering ja og
51:40
så ved jeg ikke om Der er noget der går tabt undervejs.
51:42
Og kan man så sige at man alligevel er prangende det hele?
51:46
Jeg tror i virkeligheden, at sprog er en utrolig effektiv
51:50
komprimering af koncepter fra verdenen, som er brugbar for
51:55
mennesker at kommunikere mellem hinanden.
51:58
Så Jeg tror personligt at der ligger sindssygt meget viden om
52:02
verdenen II sprog og Jeg tror der ligger altså latterligt
52:07
meget og Jeg tror man kan få. Jeg tror man kan lave en
52:09
latterlig god world model ud fra sprog.
52:13
Det synes jeg i virkeligheden alle lever at repræsentere dig
52:15
ret godt. Selvfølgelig er det ikke helt
52:16
historien, og Der er helt klart åbenlyse ting, som man ikke kan
52:20
erkende og modellere og så videre.
52:23
Fordi hvis man ikke har arme og ben og visuel og alle Sådan
52:27
nogle ting. Men jeg.
52:29
Jeg tror Jeg tror helt Jeg tror i virkeligheden det der sker med
52:32
elever og den viden de har. Det er at de bliver nødt til at
52:35
lære noget viden om verdenen for at for at minimere los
52:39
simpelthen så koldt og kynisk kan det vise.
52:45
Men, men Det er selvfølgelig rigtigt nok man mangler noget,
52:48
men altså noget af sansningen ikke altså det her med det koldt
52:51
varmt altså Det kan de jo også godt nærmest.
52:54
Altså de kunne jo sagtens skrive lidt om hvordan Det er at at at
52:59
føle sig kold eller varm eller en.
53:01
Jeg har for eksempel ikke fået en lille kat dejlig blød lille
53:04
kat faktisk det lige er og så lidt irriterende.
53:07
Og så er han begynder at rive i. Så så så den del er
53:14
selvfølgelig. Den den den mangler.
53:18
Jeg tror du har ret i at at Der er rigtig meget.
53:23
Der bliver beskrevet i teksten måske netop også fordi mennesker
53:25
har behov for at udtrykke sig. Sprogligt og kunstnerisk og alt
53:29
det her. Og på en måde, så kan man også
53:32
sige, at i som jeg ser det i hvert fald, så er tekster og et
53:35
sprog er i virkeligheden en komprimeret verdensmund eller
53:39
komprimeret. En en samling af af en
53:44
komprimeret samling af alle de koncepter fra den virkelige
53:47
verden, som mennesker finder brugbare at at kommunikere med
53:52
om og i virkeligheden, så er der jo det der med.
53:54
I virkeligheden er der også rigtig meget bias bare i det
53:56
ikke fordi så er der Sådan noget klassikeren jeg altid hører.
53:59
Det er at på Grønland der har man vildt meget brug for at
54:03
snakke om forskellige typer sne ikke, så er der Sådan noget.
54:05
Hvad ved jeg 2030 ord for forskellige typer snestilstande
54:09
sne kan være i for eksempel ikke.
54:12
Og Det er jo. Det er jo fordi de har brug for
54:14
en finkornet koncepter at eller Sådan koncepter inden for sne i
54:18
hvert fald ikke. Og Det er jo Sådan helt klart
54:21
bias til den verden de lever i. Ikke hvor at de i Vesten her der
54:26
har man brug for nogle helt andre ting og.
54:31
Ja altså de der verdensmodeller der bliver lavet i sprog er nok
54:35
også forskellige fra hvad man har brug for.
54:37
Ja nu ved jeg ikke hvorfor jeg. Læse mig selv ud en eller?
54:41
2 jamen Jeg kan godt. Jeg kan godt forstå det du siger
54:44
der det det. Sproget afspejler også en
54:48
virkelig verden. Altså den er ikke.
54:50
Afkobret. For eksempel at den er ikke
54:53
afkoblet fra, at Der er meget sne der hvor sproget også er
54:56
opstået. Det det synes jeg, giver super
54:58
god mening, så på en eller 2 måde så ja så så konsekter
55:01
indfangels sproget. Så folk folk på Grønland vil
55:04
opdage at de synes at var superbiast, fordi at den mod
55:09
vestlig Kultur fordi at den havde en super prima.
55:13
Langsomt. Ja ja Det er bare Der er sludder
55:15
og. Ja slud slud eller et eller
55:17
andet frost is. Ær, Det har det faktisk noget
55:24
med min svigermor forsker i. Hvor er kulturmødestudier, som
55:29
bruger et sprog og Kultur? Altså hvor man netop at det
55:33
hænger at at at at Det er rigtigt der det hænger sammen,
55:37
men man. Men det behøver ikke at hænge
55:38
Sådan fuldstændig notorisk sammen altså.
55:41
Man kan godt lære et nyt sprog ud fra sin egen Kultur også.
55:46
Det er jo det der der. Der er også meget fedt ved sprog
55:50
og at at at man at Det er også kan koblet frem og tilbage.
55:54
Det er jo også det i øvrigt transformer modellerne ikke har
55:57
har vist sig så gode som til oversættelser.
56:00
Altså det det som man jo allerede fra 18 19 af ikke at
56:03
de. Første Sådan.
56:07
Ja Det er det, Det er de jo gode til.
56:10
Ja. Skal vi lige nappe den sidste?
56:11
Her fangede den rigtigt til svigermor.
56:14
Ja hvis du har din svigermor med.
56:18
Spørgsmål tilbage, skal vi tage et sidste spørgsmål, fordi Vi er
56:20
ved at være godt inde i den? Sidste.
56:25
Brugs, der syntetisk data i træning og sprogmodeller og i
56:27
hvilket omfang. Jeg vil måske lige starte ud med
56:31
at sige at Det er. Det er jo selvfølgelig svært at
56:33
vide helt præcist fordi at de er jo blevet mere og mere lukket de
56:37
gode eller lem producenter, så så Det er jo svært at vide.
56:42
Men men umiddelbart så tænker jeg at syntetisk data er en en
56:47
ret stor ting og især syntetisk data i forbindelse med de her
56:53
altså instruction datasæt og preference-tyvene og så videre
56:58
og så videre. Ja, men hvad ved ikke hvad er
57:00
det? Har i nogle?
57:02
Jamen jeg læste faktisk spørgsmålet anderledes.
57:03
Jeg læste det som om der bliver brugt syntetisk data, for
57:06
eksempel skabt af sprogmodeller ude i verden.
57:10
Men det ved jeg ikke om Jeg er det lige var en misforståelse.
57:14
Det kan da godt være ja. Jeg har brugt det i min
57:16
undervisning for eksempel, og Det er meget fint, fordi lige
57:18
pludselig så slipper man for altså så kan man få skabt en hel
57:21
masse individer som ikke findes. Altså så hele det her GDPR.
57:27
Den GPR problematik man kan have den den ligesom.
57:31
Den kan man komme udenom. Jeg har også.
57:35
Der var en PHD. Afhandling, hvor publikationen
57:38
på den det handlede om hvidvask. At der der publicerede de
57:41
faktisk syntetisk data, som man selv kunne sidde og arbejde med
57:45
og forbedre hvidvask. Algoritmer, Det er jo meget
57:47
fedt, at det. Men, men Der er Sådan en
57:51
underbeskrivelse til spørgsmålet.
57:53
Jeg tænker lige vi vil prøve at læse op, fordi syntetisk data
57:56
kan teoretisk set skabe problemer med deminsion returns.
58:00
Og der tænker jeg at det der ligesom er at eller det jeg
58:04
hører i det. Det er ligesom at hvis nu at vi
58:06
bruger store sprogmodeller til at lave mere data og så træner
58:11
nogle modeller ovenpå det. Har vi så ikke ligesom udtømt
58:16
det sprog? Den fordeling af data vi kan
58:21
producere med den, og får vi så ikke bare mindre og mindre ud af
58:25
det data altså Sådan med tiden. Det synes Jeg er en er en super
58:30
faktisk pointe og og det svare lidt på spørgsmålet med jo det
58:35
synes jeg da vi godt kan konkludere fordi medmindre man
58:39
er er en af dem der argumenterer for at at at 1 + 1 det giver 3.
58:46
For de her sprogmodeller at de er i stand til at komme ud over
58:49
det. Data de ligesom har er trænet
58:52
på, og Der er jeg Sådan. Jeg er den helt klare holdning,
58:55
at Det kan de ikke fordi Det kan giver simpelthen matematisk
58:58
mening. Men til gengæld så kan de, så
59:02
kan de sagtens producere noget data der ligger imellem nogle
59:06
punkter. Den II et land vægter space
59:09
ikke. Og altså.
59:12
Det ved man jo når man tager en en cirkel og man tager punkterne
59:15
på cirklen, så har man gennemsnit, så får man midten
59:17
ikke alle punkterne, så kommer det hele.
59:20
Det er jo den korteste gennemsnit og den korteste
59:22
afstand mellem alle punkter. Og så.
59:27
Og så har man jo på en eller 2 måde er man et sted hvor der
59:31
ikke var noget data før, men men men Det er en kombination af
59:34
datapunkter. Så Jeg tror bare det man gør,
59:36
når man producerer data fra en eller lem.
59:40
Det er at man ligesom udforsker det det det det space der måtte
59:45
være altså vektor space, og så kan man så kan man på en måde
59:50
bruge det konstruktivt til ligesom at sige.
59:52
Jamen man kunne godt tænke sig at have noget noget styring på
59:55
hvorhenne. Ens model ligesom var ja gearet
59:59
til det, og Det er typisk også derfor de bliver brugt i, som du
1:00:02
siger yge i de her instrukt eller chat.
1:00:06
Find tuning ikke altså hvor man simpelthen har den interesse at
1:00:09
at prøve ligesom at rette den mere ind til at at at opføre sig
1:00:14
på en bestemt måde, alene den og så videre.
1:00:16
Alt det der vi snakker om, ikke? Men Jeg er da helt sikker på at
1:00:21
at altså Det har helt klart Sådan en kurve der flader ud, så
1:00:25
er der altså ikke mere at komme efter nu.
1:00:27
Nu er den presset citronen ikke. Det tror jeg godt vi kan sige.
1:00:32
Med rimelig sikkerhed. Så blev der stille.
1:00:38
Ja jamen jeg tænkte. Det er jo i virkeligheden at vi
1:00:40
snakkede lidt om det før også i forhold til det med skal vi
1:00:43
altså. Hvis hvis man hele tiden går
1:00:45
efter at at få en større og større sprogmodel, så på et
1:00:48
eller andet tidspunkt, så begynder den jo at træne.
1:00:50
Altså med sit eget syntetiseret data.
1:00:54
Nej, men det ja, Det er nogle måske.
1:00:57
Jo, men Det er jo Det er jo altså Det kan jo have nogle
1:01:00
uheld. Altså uintenderede konsekvenser
1:01:02
af noget man ikke kan ligesom forudsige.
1:01:04
Og ja altså ja, kan man overhovedet få noget ud af Sådan
1:01:08
en proces, der der der vender ind på sig selv, og hvis man
1:01:11
pludselig scripper nettet igen og og halvdelen af nettet nu er
1:01:14
genereret for en lille m? Kommer man så overhovedet nogen
1:01:16
vegne, så man bare jogger ned i kviksdet?
1:01:19
Jeg tænker en ting, hvad hedder det?
1:01:21
Jeg tror at. En af de rigtig værdifulde ting,
1:01:24
som for eksempel en service som chat GPT.
1:01:27
Ud af at ligesom udstille chatkabilitet til så mange
1:01:31
brugere. Det er at brugerne de injex, der
1:01:35
ligesom out of institution outfition data ind III chat
1:01:42
kapitel ikke altså de stimulerer ligesom chat kapacitet på højre
1:01:45
og Venstre med med alle mulige prompt som som.
1:01:51
Som som ikke nødvendigvis ligner det som der den er blevet trænet
1:01:55
på, eller i hvert fald det man kunne forestille sig den.
1:01:57
Den er ved at nå en en afmatning nu her, men i hvert fald til at
1:02:00
starte med. Så forestiller jeg mig, da der
1:02:02
var helt vildt mange nye prompt som de kunne.
1:02:05
Hvad skal man sige putte ind i? Hvad skal man sige i kaldte og
1:02:10
så få et et stimulerende den anderledes?
1:02:14
Sådan. Du ved skabt noget mere
1:02:17
interessant, eller Jeg tror i virkeligheden bare hvis man kan.
1:02:20
Hvis man kan på en eller 2 måde få.
1:02:24
Hvad skal man sige? Data tilegne sig data på en
1:02:26
eller 2 måde som er ud fra cirklen og så brug det til at
1:02:30
stimulere en sprogmodel til at generere noget noget andet, så
1:02:34
tror jeg godt, man kan Sådan arbejde sig ud af.
1:02:36
Giver det mening eller Sådan? Tænker jeg.
1:02:39
Det giver fint, men Det er meget Sådan spekulant.
1:02:43
Ja, Det har været sent på aftenen siger.
1:02:44
Jeg ja ja. Fuck mig.
1:02:48
Det kan man bedst bare se at Det er blevet mørkt, ikke?
1:02:51
Jeg bliver nødt til at lyse op. Der der der der går simpelthen
1:02:57
filosofisk forum i den nu også. Man må lige gribe det fordi Der
1:03:01
er faktisk en ting jeg kom til at tænke på, så Det var egentlig
1:03:03
et spørgsmål vi lidt har sprunget over med det her med
1:03:06
hvad hedder det? Diskutere hvilke modeller er
1:03:09
mere etiske at bruge end andre? Det ved jeg ikke.
1:03:13
Kan vi tage den? Prøv lige at give ja, hvad kan
1:03:17
man sige? Også hurtigere tage den, fordi
1:03:18
Det er faktisk noget. Det var egentlig en ting jeg kom
1:03:20
til at tænke lidt over. Vi snakkede lidt om det også med
1:03:24
bias og og Sådan nogle som hjeminje, der havde den der lidt
1:03:27
guidede bias med med med den var blevet walk.
1:03:33
Nå men, men Der er en 2 ting Jeg har.
1:03:35
Jeg har syntes lidt jeg jeg jeg mærker ude i skolerne at Det er
1:03:39
at altså at der at det bliver nærmest der kommer lidt
1:03:42
skræmmekampagne over det her med at få op og bruge kunstig
1:03:46
intelligens i det hele taget. Men for eksempel det her race
1:03:50
køn, og Der er også klimaspørgsmålet.
1:03:53
Hvis alle bruger det her vildt meget, så så begynder det jo
1:03:56
også at blive et problem, ligesom hvis alle havde en bil
1:03:59
og Sådan ikke. Hvad hedder det?
1:04:02
Og Der er en ting som som jeg tænker man man så også lige skal
1:04:04
passe på når man er i forhold til det etiske.
1:04:07
Det er at hvis man har skræmmekampagner, så skræmmer
1:04:10
man jo faktisk lidt måske dem væk som kunne bruge det til at
1:04:14
gøre noget godt. Altså med EI og og i stedet for
1:04:18
hvis man med de her skræmmekampagner, så så ender
1:04:21
man lidt med bare at have dem der måske er meget risikovillige
1:04:23
og og og og ikke nødvendigvis har det gode for øje.
1:04:27
Så jeg tænker Det er faktisk rigtig fedt at at tage fat i de
1:04:32
her spørgsmål fra den underviser og og diskutere det og give
1:04:36
nogle redskaber til at at at man kan snakke med det om det i
1:04:39
klassen. Altså så det netop.
1:04:41
Og så går den lidt større diversitet i forhold til.
1:04:45
Til brugen af det ikke selvfølgelig nogen gange.
1:04:47
Så kan det jo godt starte med at man bruger de her sprogmodeller
1:04:50
meget fjollet og så senere hen. Så kan man.
1:04:54
Bruge dem måske lidt mere fornuftigt, men altså Det er de
1:04:56
færreste der gider sidde og lave bruge hele dagen på at prompte
1:05:00
dem med alt muligt. Fold ikke.
1:05:03
Altså. Jamen Det er da.
1:05:04
Det er da helt naturligt. Altså vi finder da en pind, og
1:05:06
så prikker vi til det. Vi synes der ligner noget Der er
1:05:08
farligt altså det og så og så når Vi har fundet ud af.
1:05:12
Derfor har jeg det jo altså. Der er jo nej nej.
1:05:13
Nej men men men men og du ved og og Der er forskellige tilgange
1:05:17
til det og så på et tidspunkt så bliver vi meget mere Sådan.
1:05:20
Jamen altså det her teknologi er jo også en del af naturen og og
1:05:24
det lærer vi at omgås på en eller 2 måde så så det det tror
1:05:27
jeg helt sikkert er det det det kunne være den positive node vi
1:05:31
lige ender på her altså da vi vi vi Vi er med til at prøve at
1:05:34
komme komme videre med den teknologi der nok er kommet for
1:05:37
at blive. Ja, det gør vi ved ligesom at
1:05:41
tale om den og prøve at forstå den så godt muligt, så.
1:05:46
Helt sikkert. Det er specielt netop altså hvis
1:05:49
man har et ønske om at gøre det gode for verden, og Det er der
1:05:51
rigtig mange unge mennesker der faktisk har.
1:05:54
Så er det jo faktisk, så er det jo vigtigt også at forstå, at at
1:05:57
man kan bruge nogle nogle af de her modeller til det.
1:06:00
Ja, jeg ved ikke om det passer til slutningen eller hvad nu
1:06:03
havde. Jeg faktisk det gør helt.
1:06:04
Ned i nogle andre? Det er.
1:06:07
Noget af af snakken men men jeg tænkte den her.
1:06:10
Den vil altså utrolig gerne lige af med, fordi fordi jeg møder
1:06:13
den igen og igen. Og det synes Jeg er en super god
1:06:16
pointe at Der er mange etiske spørgsmål omkring hvordan man
1:06:21
bruger det her klima, Messi aftryk og så videre.
1:06:24
Men man skal også huske det her med, at Det er altså også et
1:06:26
redskab, som kan kan gøre at man kan gøre nogle altså som kan
1:06:30
ikke gøre ens stand til at gøre nogle ting man ikke ville kunne
1:06:32
gøre eller i hvert fald ville gøre det hurtigere.
1:06:33
Måske også ville ikke ville kunne gøre før.
1:06:36
Ja, du fortalte for eksempel om at du kunne optimere din kode.
1:06:39
Ikke så du har jo allerede altså på den kode skal vi køre rigtig
1:06:42
mange gange. Ja så.
1:06:44
Så man kan godt tænke om Sådan OK så kan det godt være at det
1:06:47
kostede noget CO 2 udledning at lave den prompt ikke men.
1:06:52
Og få det svar men men hvad hedder det?
1:06:54
Men hvis det så ligesom oplever oversat til noget kode som som
1:06:59
som som kører 1000 gange i sekundet på en eller 2 server.
1:07:03
Som forurener halvt så meget, så er regnskabet måske ind i
1:07:07
øjeblikket ja. Ja så er det måske uetisk at
1:07:11
lade være med at prøve at optimere dine guder ikke du
1:07:13
faktisk har. Hvordan sker man til det?
1:07:15
Ej OK, det bliver selvfølgelig Sådan en snak.
1:07:18
Det Det er en ny episode som vi plejer at sige, når vi slutter,
1:07:21
så Der er altid en ny episode der kommer ud af og man slutter
1:07:25
en. Ja hvad hedder det Det har?
1:07:28
Det har bestemt været 1 1 1 super jeg tænker vi nu skygger
1:07:31
det ved at blive lange som vi plejer at sige her i vor bods
1:07:33
podcast og hvad hedder det? Jeg tænker Vi har været Det har
1:07:37
været en dyb episode det her det her, men Jeg synes også Vi har
1:07:40
holdt os Vi har ikke Vi har ikke Sådan været helt nede i at vinde
1:07:43
fuldstændig uhæmmet i hvert fald så så så det det Det er rigtig
1:07:46
fedt. Men jeg tænker, Vi er ved at
1:07:50
slutte af. Har du et eller andet her på på
1:07:51
falderebet? Du kunne tænke dig at slutte af
1:07:55
med udover den fine det fine budskab her til Signe.
1:08:02
Nej, det skulle lige være nej. Jeg skal nok sige det.
1:08:04
Jeg kan godt sige jeg skal nok sige det lige om lidt.
1:08:08
I skal selvfølgelig huske at købe sine sambaks bog af i
1:08:12
gymnasiet. Så vil jeg gerne tilføje noget
1:08:15
andet, fordi vi snakkede lige om temmelig reception igår.
1:08:18
Der var en lille noget af det der var meget festligt, var
1:08:20
faktisk også at jeg havde besøg af noget der hedder teater
1:08:24
fantast der har lavet et teaterstykke om computerens
1:08:26
historie, og Det kan man få på skolerne det meste udskolingen,
1:08:31
men voksne synes tit også Det er lidt sjovt, og Der er simpelthen
1:08:35
vi starter i stenalderen, og så går vi frem til til
1:08:39
plantecomputeren. Så det lyder da megtødt.
1:08:42
Gerne lige slå et. Slag og jeg og jeg mener
1:08:45
virkelig når jeg siger folk Jeg synes at folk skal købe din
1:08:48
busine fordi Jeg synes Det er 1 1 1 ret fed mission eller Sådan
1:08:51
en ret fed opgave du har taget på dig her med ligesom at få.
1:08:55
Skrevet noget til 1 1 et område eller en hvad skal man sige?
1:09:00
Ja Det er jo et område, altså Sådan hele uddannelsesområdet
1:09:03
som virkelig har brug for at få noget noget dannelse og noget
1:09:07
hvad hedder det viden omkring det her så det synes jeg.
1:09:11
Er en det synes jeg det her teater er fantastisk, men jeg
1:09:13
lige snakkede om før der har jeg så faktisk også skrevet deres
1:09:16
eller der har i samarbejde med dem skrevet noget
1:09:19
undervisningsmateriale netop der der knytter sig op til det her.
1:09:22
Stykke så. Så der ligger faktisk også noget
1:09:24
til udskolingen. Jeg ved ikke hvornår det bliver
1:09:29
Sådan helt officielt online, men.
1:09:31
Jeg ved, Der er nogle skolelærer, der lytter med til
1:09:32
det her, så det. Er der nemlig.
1:09:35
Ja. Det skal nok nå ud.
1:09:38
Ja 1000 tak fordi du ville være med Signe, Det var en fornøjelse
1:09:41
at at have dig som samtalepartner her i denne dette
1:09:44
afsnit. Det er det toogtristende.
1:09:46
Et afsnit af Vores podcast tror 62. 20. afsnit eller bruges
1:09:51
podcast Vi er selvfølgelig stærkt tilbage igen i næste uge,
1:09:55
onsdag eller torsdag. Det ved man aldrig helt i
1:09:57
øjeblikket, men man ved i hvert fald, at Det er kl. 05:00.
1:10:00
Vi kommer ud, så Det er i morgen tidlig, Vi er ude med den her
1:10:04
podcast, så. Ja Det er jo så nu nej 1000 tak
1:10:09
fordi du ville være med Signe og tak fordi du lyttede med vi ses
1:10:11
i næste uge eller vi lytter senestue hey.