Latest / Verbos: AI og Softwareudvikling / #71 - Har OpenAI svært ved at udvikle mere avanceret AI?

Transcript

#71 - Har OpenAI svært ved at udvikle mere avanceret AI? · Verbos: AI og Softwareudvikling

0:00
Halløj allesammen og velkommen til hvad bos podcast afsnit
0:03
nummer 71 har du det godt Jonas? Jeg har det sindssygt godt.
0:07
Hvad med dig? Hvad hedder det i dag skal vi
0:10
også snakke om nogle fede nyheder fra fra den gode ERI
0:11
verden, fordi Vi skal snakke en lille bitte smule om om Sådan
0:15
den her hele den her udvikling er ved at gå i stå altså om de
0:18
gode gamle tricks med at skalere de her store fede AR modeller op
0:23
at det begynder at se se ud som om at det giver lidt deminsion
0:26
returns. Det er det eneste Vi skal snakke
0:27
om, så skal vi også prøve at snakke om, eller så skal vi
0:30
snakke om om en evne altså en metode som man har fundet ud af
0:33
kan. Forbedre performance på de her
0:36
meget Sådan omdiskuterede ark benchmark.
0:39
Som bliver kaldt for ATI benchmarked, og som Der er
0:42
udelukket en dusør på en million dollars, hvis Der er nogen der.
0:46
Hvad hedder det løser og Der er blevet lavet ret stort
0:49
fremskridt på det, som har noget at gøre med at blande.
0:52
Hvad skal man sige det her med at bruge?
0:54
Ja den de bruger noget der hedder train nej, hvad fanden er
0:57
det jeg bruger? Det er noget der hedder test
0:59
time training ja så det og det skal vi snakke mere om, men det
1:02
kunne være en mulig løsning for at komme videre når nu at de her
1:06
forbandede skaling lows har så meget demincio trans.
1:09
Vi vil jo gerne lave AJI. Og det sidste Vi skal snakke om,
1:12
Det er. Garak nej og det må jeg ikke
1:16
sige. Det må jeg ikke sige hvad Det
1:17
er, fordi den er nemlig uden større på, og Det er en
1:19
hemmelighed til til til senere i programmet.
1:22
Så så har vi lige en til ting som det.
1:25
Det er også lidt. Det skal vi heller ikke afsløre,
1:26
men Det har noget at gøre med. Overskriften er Google og givet
1:31
sig til åbenager, men. Skal vi ikke bare tage den nu
1:33
egentlig? Skal vi ikke bare trække sig?
1:34
Og ja, nå, men så kan du ikke brække det ned.
1:37
Den er rimelig simpel. Google har simpelthen for nyligt
1:42
sagt, nu kan du tilgå hjem ej med åbne y's plante SDK.
1:50
Og ja det vil sige vi kan putte. Du kan putte en en url ind til
1:56
til hjemmelinien og så er deres api kompatibelt med med openy,
2:00
så de har nogle definitivt overgivet sig.
2:04
Og ja nu tror jeg at dominansen på på interface og API.
2:08
Standarden den har jeg vundet. Og Jeg har købt den.
2:13
Ikke lige om. Lidt, så kommer jeg og så.
2:19
Og så siger de ved du hvad det gør vi sku også bare vi laver
2:22
også bare et kompatibelt AP med det der, og så betyder det jo
2:27
også at alle de der. Sjove librarise derude, som
2:32
prøvede ligesom at rappe adgang og og gateway ud til alle mulige
2:36
lemmer og Sådan noget. Det bliver bare lige meget fordi
2:38
du kan bare. Det er helt klart til at være.
2:40
I de har overgivet sig Sådan af LLM providerne har overgivet sig
2:44
til til opening og i, og man så jo også altså Sådan nogle.
2:46
Der er jo også. Der er jo også kommet en ret
2:48
stor Sådan om blomstring af hvad skal man sige?
2:51
Virksomheder som ikke decideret er LLM providers, men de hoster
2:55
l mmer Der er blandt andet groggs som er kendt for at have
2:58
lavet den her meget de her meget hurtige hardware til at altså
3:02
custom hardware til at surfe eller også lynging smoothles.
3:06
Så vidt Jeg kan se, så kan man også bruge groks API er ligesom
3:09
bare ved at sætte en 2 url på opbehos klient.
3:14
A ja Det er også åbne jeg kompatibelt så så du kan bare
3:19
bruge åbne jeg's klient til at kalde olama serveren.
3:25
Jeg tror alle alle går ind på det der, og det betyder også, at
3:29
nu nu nu får vi Sådan en en situation, hvor at det der
3:33
library som hedder som alt kline library nu til DA.
3:38
PI stall opening. Det hedder jo open air og lige
3:42
om lidt så så kommer der Sådan et lille board open source board
3:47
henover og i community så siger de.
3:50
Nu skal vi adskille det her open source.
3:54
Planen show helt fra åben AI så nu nu kommer det til at at hedde
3:58
et eller andet andet, og så bygger man simpelthen videre på
4:02
den der klient som som var det nu bare en standard som man
4:08
ville op op imod og og det det kommer til at betyde rigtig
4:11
meget, fordi Jeg tror nu nu får åben source verdenen.
4:17
Standarden og det vil sige det bliver open source verdenen, der
4:20
kommer til at være med til at definere, hvordan vi interagerer
4:23
med med eller lemmerne set fra et AP perspektiv og.
4:28
Det det synes de fleste udviklere er fedt.
4:33
Man får nogle nogle standardinterface.
4:35
Men er det open source, der kommer til at definere det.
4:36
Er det ikke mere open-sys, fordi Det er dem, der ejer det der?
4:39
Nej, Det er jo open source library.
4:42
Åben øjnene SDK. Ja det det Det er mit indtryk
4:46
har vi. Har vi været?
4:47
Styret og Det er fuldstændig ud, at det ikke er open source.
4:50
Men Det er jo en open source men men Det er jo altså jeg tænker
4:53
Det er openay der der kontrollerer hvad der sker ikke?
4:56
Jeg siger bare at lige om lidt så så har Google også en
5:03
interesse og mon ikke allerede Der er country bebuders Der er
5:06
fra forskellige steder til det library.
5:08
Jeg tænker også Microsoft har jo Sådan en særlig klasse der
5:11
hedder. Asier tror jeg nok et eller
5:14
andet. Åbne AI klint ikke altså.
5:20
Altså du ved ikke også så er der en der hedder jamina åbner jeg
5:24
kline. Det er super fjollet men.
5:27
Altså. Det giver forretningsmæssig god
5:29
mening for for Google tænker jeg, fordi de er jo interesseret
5:32
i at få udbredt deres API så meget som nogle.
5:34
Altså de vil jo bare have brugere på det af folk der
5:37
køber. Tunge sande ikke at at den
5:40
standard bliver udbredt, så så folk kan bruge den, og Det er
5:42
ligesom at sige Vi skal konkurrere på på på de samme
5:46
veje. Med de biler vi sælger.
5:49
Og og Det er man ved at finde en en fælles infrastruktur for for
5:54
det altså det her interface. Men det må have taget lidt på
5:56
stoltheden for Google, og jeg tænker de må godt nok.
6:00
I er ikke meget for det, men men nu gør vi sgu tænker jeg altså.
6:03
Det må have været. Sikkert stadigvæk det andet API,
6:07
man kan kalde det med en 2 klients Sådan nogle ting og Det
6:10
kan også godt være det ikke er alt funktionalitet der Der er
6:12
inde i den standard, men at de at de udbyder det det API som
6:17
interface til det. Det synes Jeg er meget sigende.
6:19
Og Det har ligesom på eller 2 måde noget på sig i forhold til
6:25
hvor hvor det bevæger sig hen. Open sourcewise tror jeg, men
6:28
det Det er jo Det kan vi jo følge lidt med i.
6:30
Og Der er jo også der har været den her whitekombinat at starte
6:33
op der hedder light eller lem, som har lavet Sådan et open
6:35
source. Bibliotek hvor Sådan hovedet
6:38
hvad skal man sige value proposition i forhold til?
6:41
Det er ligesom at de var lavet der ligesom gjorde lavet
6:44
standarden for for hvad hedder det?
6:46
Ja Sådan så du ikke behøvede at skrive kode om hver eneste gang
6:49
du skulle bruge en ny eller movider.
6:51
Og jeg tænker de de får desværre og sværre.
6:55
Umiddelbart kunne jeg forestille mig fordi.
6:57
At Det er en enmandsvirksomhed til at starte med.
6:59
Anyways Jeg kan afsløre jeg brugte en periode og.
7:05
Fortråde det meget hurtigt? Ja ja det lyder smart.
7:08
Men ja men det. Lyder men Det var det ikke.
7:11
De har fundet noget andet at at tjene penge på, så.
7:15
Yes hvad hedder det? Men lad os så komme videre i
7:17
programmet. Hvad hedder det?
7:18
Der er jo Der er jo rygter der Der er rygter omkring
7:22
udviklingen i forhold til AI er gået i stå og amen Det er.
7:25
Det er nok hvert dag kan man sige men men sagen er sagen er
7:29
den at. At sagen er den, at Der er en
7:33
medie, der hedder Bloomberg, som har lavet en artikel der hedder.
7:37
Opening og i Google antropic astralling 2 build more advanced
7:41
AI og Det er simpelthen en artikel der beskriver at at hvad
7:46
hedder det Der er kilder man har Der er anonyme kilder indenfor
7:50
ovenay ai som siger at at åbinya har været i gang med at træne
7:54
den her ordrijon model som skulle være kæmpe stor.
8:00
Og men og de her kilder. De siger så lige at den ikke.
8:05
Den her det her markante hvad skal man sige nuch up oppe II
8:08
skala II form af tænker jeg størrelse på modeller og.
8:13
Datamængde ikke helt har givet den den den det performance
8:17
boost, som man for eksempel så fra da man gik for at give dem
8:20
de 3,5 til GPT 4. Og Det er jo selvfølgelig lidt
8:25
en bommer, når man selvfølgelig man har nok har smittet et par
8:28
par milliarder II computerkraft og en masse straffet en masse
8:32
GPU er og. Trænet på en masse dejlige
8:35
nyhedsartikler fra JP politikkens hus.
8:38
Som man jo ikke må. Men det skal selvfølgelig også
8:42
siges, at det her Det er totalrygter.
8:44
Det er det virkelig, men man kan sige Det har jo alle dage været
8:47
common knowledge at neurale netværk.
8:49
De bliver altså bare bedre, jo jo større de bliver, jo mere
8:52
data de får, og Det er jo også en af de her strategier bag
8:56
openey. Altså de så det her de kaldte
8:59
for scaling loss, altså de så at modellerne bliver forudsigeligt
9:03
bedre. Jo mere data og jo mere
9:05
computer, jo større modeller bliver.
9:09
Så derfor var det ligesom Sådan rimelig sikre på, da de 2
9:12
bettede fra GPT 2 til gbit 3, som var en ret stor i ret stor
9:17
sats for dem. Spørgsmålet er jo så bare.
9:23
At de her scaling loss som de har defineret gælder er de
9:27
altså. Det er heller ikke nogen
9:29
overraskelse, at Sådan nogle ting de flader ud altså Der er
9:31
det minim returns ikke det ser man altid med Sådan nogle kurver
9:35
der, men spørgsmålet er om de altså de her demition returns er
9:38
begyndt at blive så. Små at at det Det kan betale sig
9:44
at det ikke kan at man ligesom ikke rigtig kan forsvare at
9:47
kaste så meget computerkraft efter de her modeller.
9:51
Det er et stort spørgsmål. En en idé som er.
9:55
Måske i virkeligheden bare groundet i ganske almindelig god
9:57
gammeldags machine learning logik og noget statistik.
10:02
Den måde skalingloves bliver tegnet på nu.
10:04
Det er jo ligesom mere data og mere computer og større netværk.
10:10
Kan man så sige ikke for ligesom at indfange.
10:14
Den læring Der er mulig i det data, man man nu måtte fodre den
10:19
med, men hvis nu jeg tager. Rigtig meget mere af det samme
10:25
data, så er variationen i det data jeg tilføjer mere jo ikke
10:30
så altså. Anderledes særlig meget
10:32
anderledes end Det var før, og så er der jo ikke noget mere at
10:35
lære. Kan man sige fordi du skal jo
10:37
lære den variation, Der er i data så.
10:42
Mængden af data er ikke, og det tror jeg også vi godt ved og kan
10:45
se fra alle mulige andre, der viser at.
10:48
Nå, men det handler om kvaliteten af data.
10:50
Hvad er kvaliteten af data? Det handler om, at man har
10:53
sorteret i skrald og man har 1 1 1 god fordeling af det man rent
10:57
faktisk gerne vil have modellen til.
11:01
Men det bliver jo talt om på Sådan en måde i Sådan nogle
11:03
overordnede termer fordi det ikke er den samme kvantificerbar
11:09
form for data, så derfor kan man ikke Sådan på samme måde få en
11:12
fornemmelse af hvad. Hvad er variationen?
11:16
Du kan ikke Sådan plotte en eller 2 fordeling af af nogle
11:20
ting og så sige nå men den Der er god variation på den her
11:23
variabel her og Sådan nogle ting som man man kan i Sådan noget
11:26
mere traditionel data. Og derfor så så kan det være
11:31
lidt svært at finde ud af. Hvad er det egentlig der der?
11:33
Hvad er variationen i det her data man man bruger?
11:37
Hvor stor en model skal jeg have til til at lære den variation og
11:41
og få noget ud af det og Sådan nogle ting der?
11:43
Og det tror jeg Det er det der. Der på en eller 2 måde forvirrer
11:46
så. Så er det sikkert rigtigt til et
11:49
hvis at man bare kan putte mere data ind i det.
11:53
Indtil at at at marginalt set mere data ikke giver mere
11:57
variation i data. Og så er man nødt til at finde
12:02
på noget andet, og Jeg tror også Det er det, der står i den der
12:05
artikel af også at at kilden til data ligesom er tømt ud nu.
12:10
Lige præcis nu er der ikke mere. Hvad kan man sige?
12:13
Er noget af den der variation af data som vi ikke har set før,
12:16
men som vi godt kunne tænke os at Vores modeller kunne.
12:20
Eller var i stand til den. Den variation findes ikke i
12:22
store mængder. Den skal vi ligesom producere på
12:25
en eller 2 måde først. Det er simpelthen data der ikke
12:28
findes. Der er ikke tekstuel
12:30
repræsentation af de her ting, som mennesker kan og ved at
12:33
gøre, og vil gerne vil have modellerne til, og derfor kan vi
12:36
ikke få dem til at lære det, fordi det findes ikke i data.
12:39
Ja og man kan sige og Det er jo en meget god pointe ikke altså
12:41
der har jo ligesom været et et hvad skal man sige den ligesom
12:44
initielle. Fremgang i den her teknologi,
12:48
altså at man kan jo træne de her store modeller, har jo også
12:50
ligesom kunne lade sig gøre, fordi Det har været datagrundlag
12:53
som jo basically er internettet ikke som ligesom har været
12:55
tilgængeligt for at kunne lave de her modeller ikke og der står
12:59
der og i artiklen her, at Der er nogle teknisk.
13:00
Der er dels nogle tekniske barrierer, dels det her med at
13:04
det virker som om Der er det mining retrænns i takt med at
13:07
man laver større modeller altså. Træner du på mere data?
13:09
Det virker som om Der er en eller 2 form for teoretisk.
13:13
Og hvad skal man sige gap? Og altså et teorien er ikke det
13:18
man ser i praksis med de her altså forbedringer.
13:23
Og så er der det hele det her data problem ikke.
13:24
Altså Der er ved at vi skulle ved at have trænet på det data
13:29
Der er og hvad hedder det? Det er svært at få fat i mere
13:35
data og det man måske i virkeligheden.
13:38
Mere har brug for efterhånden er mere Sådan noget altså
13:42
ekspertproduceret data. Altså det altså hvor det ikke
13:45
længere bare er noget man scraber fra internettet eller
13:47
noget. Man læser fra nogle bøger og så
13:49
videre. Men altså noget data hvor man
13:51
rent faktisk har eksperter der sætter sig ned og løser rigtige
13:54
problemer til det formål at træne.
13:58
Man kan sige lønningmodeller på det, ikke?
14:00
Men det tror jeg også de har i fine tuning fasen.
14:02
Jeg tror åben og Jeg har gjort meget ud af at at få.
14:05
Hvad kan man sige? Router svar personerne til det
14:10
der. Preference- tuning.
14:14
Altså hen til de rigtige eksperter, der skal svare på
14:17
det. Det det indsamlingen af den den
14:20
data tror jeg de har har ret godt styr på og og få mere
14:25
kvalitet ind i det. Gad vide om de kan det altså gad
14:29
vide om det simpelthen er mere at hente fra det.
14:32
Så også bare der kommer også nogle Sådan rent praktiske
14:34
begrænsninger på hvor altså hvor altså når du kan have mennesker.
14:40
Til at producere det her data aktivt til at løse det problem,
14:43
så tror jeg også bare der kommer nogle naturlige begrænsninger,
14:46
som gør det bøvlet at arbejde med, og som gør at altså fordi
14:49
Det er kedeligt at arbejde og så videre.
14:51
Så gør det også at datakvaliteten bliver dårligere,
14:53
fordi Det er altså kedeligt at arbejde simpelthen og så videre,
14:57
ikke? Hvem var det?
14:59
Hvad var det nu, de hed dem, der havde lavet det der hvor at at
15:02
de havde indsamlet? Hvad kan man sige ja?
15:07
Noget noget noget, ikke set data før, hvor de havde bedt
15:11
annontører om at at det ville sige det sige, hvad Det var de
15:14
så. Det var ret interessant case
15:17
faktisk. Det var og og hvad fanden hedder
15:19
det? Ja.
15:20
Hvad er det de hedder Det var? Allan i ary som havde lavet den
15:22
her open source. De havde lavet Sådan en fuld
15:24
open source. Eller hvad hedder det lille m
15:27
med billedegenkendelser eller billede?
15:30
Hvad skal man sige? Visual language model kan man
15:33
sige ikke, og der havde de og og til at lave det der skal man jo
15:37
ligesom bruge dels sprog, men man skal også bruge sprog og
15:40
billedpar. Altså hvad skal man sige?
15:42
Billeder som er peget op med noget sprog som ligesom.
15:46
Som man kan træne den her sprog, visuelle, visuelle
15:49
sprogforståelse på, og der havde de lagt mærke til, at Der er den
15:54
traditionelle metode og det traditionelle datagrundlag.
15:57
For Det har jo ligesom været, at man har kunne finde de her.
16:00
Capriens online på billeder altså da man kunne scrake nogle
16:04
billeder, så har der været nogle caption som har beskrevet det og
16:07
så har man kunne træne dem til at ligge tæt et eller andet in
16:10
betting space. Og dermed lavet de du har fået
16:12
nogle til bare at skrive ned hvad Det var de så på billedet.
16:15
Men det der med at få folk til at notere og skrive det.
16:18
Det går meget langsomt. Og Det var det utroligt kedelig
16:21
opgave, og det gør også altså når når du sætter mennesker til
16:23
at lave noget Der er så kedeligt og så meningsløst.
16:27
Og man skal bruge så meget data. Så så ryger datakvaliteten også,
16:32
så i virkeligheden så er der også meget.
16:34
Jeg tror i virkeligheden, og det virker Sådan lidt fjollet.
16:36
Eller jeg ved ikke om Vi har fjollet, men Sådan Det er måske
16:38
ikke helt indlysende at noget af det, som måske også kan være en
16:42
del af løsningen på problemet er en mere.
16:44
Hvad skal man sige? Altså innovation indenfor
16:47
datanotering og data produktion, som kan bruges til at træne
16:51
modeller med for det de havde gjort hos almo.
16:53
Det var at i stedet for at sætte mennesker ned foran billeder og
16:56
beskrive dem på. Tage taster på keyboard.
16:59
Så havde de sat mennesker foran et billede og så bedt dem om at
17:04
beskrive det med ord, og så havde de transkriberet de ord.
17:08
Tale eller? Fortælle om det, og Det er meget
17:11
mindre. Det er meget mere.
17:12
Det går hurtigere, og Det er mere Sådan, du får data og
17:15
højere kvalitet er det simpelthen, fordi folk de er
17:18
mere naturligt for folk at tale end deres skrive ikke, og der
17:21
kunne man godt forestille sig, at hvis man rigtig skal skalere
17:24
det her, så så kræver det at man får lavet nogle.
17:30
Nogle setups, hvor at det her data man gerne vil træne
17:34
modellerne på de bliver genereret i Sådan en lidt mere.
17:37
Hvad skal man sige real life setting?
17:39
Altså for eksempel hvis Det var eksperter, som rent faktisk
17:43
hjalp nogen som en del af deres arbejde, at Det var
17:45
meningsfuldt, og at man så loggede det og trænede modeller
17:48
på det. Giver det mening Sådan?
17:51
Ja ja men Det kan også være at det bare er som jeg aldrig
17:54
kunne. Han er jo lidt ude og og og
17:57
hovere en lille smule på det der og og har vist nok nævnt noget
18:02
med at hey du sagde og tony social LinkedIn eller Sådan et
18:06
eller andet og og han ville jo også bare sige jamen.
18:10
Han ville jo også bare. Sige at at mennesker altså vi
18:13
processerer jo meget mere billede data, end vi producerer
18:17
tekst. Altså.
18:18
Og og kan man sige. Når vi bare går rundt Sådan.
18:22
Jeg kan ikke huske hvor mange han har lavet Sådan et eller
18:25
andet obskurt rens stykke på på hvor meget tekst man læser III
18:31
løbet af et liv og hvor meget. Meget billede indtryk man
18:36
egentlig får, og Det er jo bare fuldstændig overhovedet ikke.
18:39
Altså i nærheden af hinanden, billeder eller visuelt indtryk
18:42
er jo bare maks dominerende og det det giver jo sig selv ikke.
18:47
Men ja så han mener jo at Det er bare den forkerte kilde vi også
18:50
kigger i og at Vi skal. Vi skal have nogle andre kilder
18:52
og Sådan nogle ting der så nå spændende spændende altså.
18:55
Og så står der også altså Sådan i artiklen, så nævner de også
18:57
nogle Sådan økonomiske. Altså Der er jo nogle tekniske
19:01
barrierer det her med at Der er datagrunde Der er problemer med
19:03
at få høj kvalitetsdata og nok af det så er der problemer med
19:07
de her dem manageming turns. I forhold til skelling loss.
19:10
Men Der er også nogle, og det giver anledning til nogle
19:12
økonomiske udfordringer, og der skriver de, at de lige nu de
19:16
Sådan cutting edge-modeller Vi har lige nu de koster, siger de
19:20
i omegnen af Sådan 100 mio. Dollars per styk at træne.
19:24
Men man processerer ligesom ud i fremtiden, at man godt kunne
19:27
tænke sig at altså det modeller man planlægger at at træne de
19:31
koster mere i omegnen af Sådan noget 100 mia.
19:33
Dollars i indenfor de næste par år.
19:37
Og Der er det altså her hvor at hvor hvis man ser de her meget
19:40
deminching returns så får på på den mængde performance man får
19:44
per dollar brugt. Så kan man begynde at stille
19:48
spørgsmålstegn ved returnold investments.
19:51
Simpelthen altså kan de her. Hvad skal man sige marginale
19:54
forbedringer rent faktisk også retfærdiggøre den mængde den de
19:58
midler der bliver proppet ind i det.
20:01
Og så er der simpelthen også altså Der er ting Der er også
20:03
Sådan noget med altså strømme begrænsninger.
20:06
Altså Sådan noget med at det det det kræver så meget strøm det
20:08
her at du ved Der er noget lovgivning der gør at man ikke
20:12
data. Altså du skal have
20:13
specialtilladelse til at trække så meget strøm og Sådan noget
20:16
ikke. Altså så.
20:18
Ja Det er Det er lidt voldsomt. Det er voldsomt tænke over og
20:22
Det er voldsomt. Og Jeg vil også sige lige præcis
20:25
den der med turn on investment altså den har jo et eller andet
20:28
sted allerede nu er den Sådan lidt Sådan ah, hvor er det
20:32
egentlig den der værdiskabelse den den sker, og nu er der
20:36
priskrig også og Sådan lidt og åbne jeg og de har jo brugt
20:39
mange penge på det her, og selvfølgelig betaler folk for
20:41
deres API og Sådan nogle ting, ikke?
20:44
Men ja Der er lige Der er lige nogle ting der.
20:47
Så man man som investor nok tænker at næste altså når nogen
20:52
siger GPT 5 eller GBT 6 på et eller andet tidspunkt.
20:55
Nu starter vi træningen af GPT 6 og Vi er ikke færdig med GBT 5
20:58
endnu og Vi har ikke vist resultater på den, så tror jeg
21:01
nok Der er nogen der lige Sådan sidder og tænker.
21:05
Skal i nu også have lov at brænde brænde penge af på det,
21:08
hvis ikke hvis ikke vi ligesom får noget ud af det ikke og.
21:12
Og der skal altså ikke mange gange af de der forfejlede
21:15
projekter. En en stor økonomisk skala til
21:20
at investorerne hurtigt siger, Vi skal altså ikke være med på
21:23
næste runde. Jeg har spillet på rød nok.
21:27
Vi smutter og så. Ja så så sker der bare noget
21:32
fordi så så ændrer dynamikken sig meget meget hurtigt på det
21:35
der marked ikke og Vores hvad kan man sige Vores forventning
21:39
tror jeg også og hype. Jeg tror på det tidspunkt når
21:42
den der skalering af næste model ikke viser sig at være noget
21:46
særligt. Så så vil hypen meget hurtigt
21:50
ryge ned på jeg. Jeg får næsten Sådan en nostalgi
21:53
jeg føler, så skal vi tilbage til før hype.
21:55
Altså så skal vi tilbage til før at der var noget der hed.
22:00
GBT 3,5 og så så skal vi bare Sådan nå men OK så den gode
22:06
gamle one og one em-verden hvor at det nå ja Det er stadigvæk
22:11
Det er stadigvæk bare. Data, variation og statistik og.
22:18
Og Sådan noget. Det er Sådan noget dejligt
22:19
noget. Start ved at være 2 år siden den
22:22
kom ud chat GBT og Jeg kan bare tydeligt huske da vi sad på
22:25
ekstra Bladet og. At den var kommet ud, og hvis
22:29
jeg Sådan ah prøv lige her. Prøv lige at lave en første PR
22:32
service der lige server en en bird Sådan simpelthen klasse 4
22:36
eller et eller andet og så bare det bare Sådan det gjorde den
22:38
bare ikke altså. Ja så.
22:42
Det er jo. Ja nå men i hvert fald Der er.
22:48
Der er rygter som siger at at. Det begynder ikke helt at give
22:53
økonomisk mening at proppe så mange penge ind i bare at lave
22:56
større modeller. Men Det er måske en meget god
22:58
transition over til det næste Vi skal snakke om, fordi man kan
23:02
sige en af løsningerne på det her, hvis og det skal siges.
23:06
Det er rygter og så videre, så Det er jo.
23:08
Det er jo bare også for at have noget at tale om, og Det kan
23:10
være at det Det er rigtigt. Det kan være at det ikke er
23:12
rigtigt altså who knows mand, Det er sikkert kun.
23:16
Jeg er lige en gang ihjel jeg mere, men Det er jo sam allman
23:18
og dem der sidder derovre ikke jo elias ved selvfølgelig også
23:21
sikkert et eller andet fordi han trods alt 60 hold trods alt også
23:24
har været med. Ikke anyways, men det man kan
23:26
forestille sig at når den her bruoforce opskalering af af
23:32
altså af generelle netværk de datamængder man træner på ikke
23:37
virker, så må man jo til at ligesom tingene kreativt altså
23:41
tænke på, hvordan kan vi så? Gør de her modeller bedre og der
23:46
har jo hvad skal man sige? Der har man jo lang tid vidst
23:49
det her med at og der Der er nemlig kommet et et nyt paper
23:52
her, som jeg i hvert fald har fået oplevet opmærksom på, som
23:54
Jeg synes er spændende og som virkeligheden.
23:58
Det ville overraske mig i virkeligheden lidt, at det
23:59
første nu man er begyndt at at tale om det.
24:02
Ellers er det bare først nu jeg lægger mærke til det.
24:03
Det kan selvfølgelig også godt være, men.
24:06
Det er i hvert fald et koncept, som som jeg lige skal finde ud
24:10
af, hvordan jeg skal starte med at forklare.
24:12
Man har altid vidst hvad de har lars language models eller i
24:14
hvert fald de sidste 2 år har man godt været klar over, at det
24:19
virker til, at hvis man ligesom beder dem om at tænke tænke sig
24:22
om, altså beder dem om at tænke tingene igennem step by step det
24:26
man også kalder for chanut of though promting, så så bliver de
24:29
bedre til at løse problemer, så kan man se at deres performance
24:32
på forskellige benchmarks stiger.
24:34
Og Det er jo Sådan en interessant, skal man sige.
24:37
En interessant finding der ligesom kan anlede til at tro at
24:41
de her modeller de ligesom laver rasining fordi de de skal bare
24:45
have tid til at tænke og lave reasing igennem problemerne og
24:48
så bliver de bedre. Det har man så fundet nogle
24:51
begrænsninger med. Altså det her med.
24:53
Det er ikke altid at det giver mening.
24:55
De her reasning steps de laver og Det kan være det giver
24:58
mening. Men svaret er forkert og så
24:59
videre, så Det er Sådan lidt. Det det.
25:02
Det er ikke Sådan rigtig risning.
25:03
Det er mere man har mere tænkt på det som spil for galleriet,
25:08
men så har man så ligesom prøvet at at senest med opinay IO one's
25:15
eller overnays nyeste model o one, som man også kan prøve i en
25:19
prev uversion i eller i chat grib der har opening eye
25:23
ligesom. Prøvede at bage det her tjene of
25:26
thut ind i selve modellen og lavede noget renforcement
25:29
learning setup, hvor at modellen bliver så vidt man ved belønnet
25:34
for at have 1, 1, 1 fornuftig tankerække for at løse et
25:38
problem. Så man man blander lidt ligesom
25:42
det virker som om man både blander lidt det her change of
25:44
promoting ind II selve. Når modellen skal give et svar,
25:49
men også de her Sådan lidt det her lidt Sådan iterative hvad
25:51
skal man sige flow som vi ser fra agenter?
25:54
Som mange har været. Hvad skal man sige fascineret af
25:57
II noget tid nu efterhånden og det man ligesom det man ligesom
26:01
Sådan Sådan for et teknisk perspektiv prøver at gøre her.
26:06
Det er nemlig at man netop måske også fordi man er begyndt at
26:09
indse, at det begynder at være der, begynder at være en lav
26:15
return of investment på at øge mængden af computer man kaster
26:19
efter de her modeller. Under træningen.
26:22
Altså under præg træning og brugstræning.
26:26
Der begynder man ligesom at have vredet det juice ud af af af
26:28
performance. Man kan der så det man så
26:31
ligesom prøver at gøre her med med det her nye over on over on
26:35
agtige. Hvad skal man sige tiltag?
26:37
Det er at man prøver i stedet for at bruge comput.
26:42
Under test time altså det her med altså når de modellerne
26:45
Sådan aktivt er i gang med at løse problemer for en bruger for
26:47
eksempel. Og Det har man så set, at Det
26:49
kan jeg øge performance også. Hvis du hvis du for eksempel
26:55
laver Sådan en decideret influence og løsning af et
26:59
problem ved test time, hvordan back propagater du så det ind?
27:06
Altså fordi der jo der skal vel stadigvæk propagades noget ind i
27:09
træningen eller hvad? Eller er det Sådan?
27:11
Træning bare slut eller? Det er et godt spørgsmål altså.
27:14
Der er jo nogen der mener at man kører lidt Sådan en irrelay f
27:18
tilgang til det reenforst reen form learning tilgang bare på
27:21
change of thats. Hvis det giver mening eller
27:24
Sådan en tage tanke skridt i. Iterativ hvad kan man sige?
27:28
Først producerer du tones hertil og så stop togen agtigt, og nu
27:34
er det slut, og så går du simpelthen i gang igen med at
27:39
gøre det en gang til for at se om du kan nå frem til.
27:42
Til det andet resultat, eller? Så man træner altså de Der er jo
27:46
ikke rigtig nogen der ved det her, men det virker som om at
27:48
Det er noget Det har noget at gøre med at man træner en reward
27:50
model for for de her tankemønstre eller tanke
27:53
reasingmønstre kan man sige ikke.
27:55
Og så jeg ved ikke, og Der er også nogen der tænker Der er
27:57
nogen der har spekuleret i, at de her modeller ligesom
27:59
genererer Sådan 1 3 af tankerækker og så bliver de
28:03
scoret og så tager den den vej som ligesom er.
28:06
Men Det er jo ikke så spor højest ikke det det synes jeg
28:08
Jeg har. Altså Jeg har tror jeg det
28:12
hedder det der ikke. Altså Det er jo det Det har Jeg
28:14
har. Smagt ind i modellen, og Der er
28:16
kørt Sådan lidt blive en forcement learning setup på det
28:18
man kan, så man kan. Ligesom man optimerer modellerne
28:23
til at møde menneskelige præferencer, så træner man nu i
28:28
retning af, at. Hr, præference, for, 1 1 1 1,
28:33
tankerække, som kan løse et eller andet konkret problem, og
28:36
det interessante er jo, at de her problemer, som vi gerne
28:39
gerne vil have dem til at løse, og det de især er blevet gode
28:41
til. Det er Sådan en
28:42
softwareudvikling, matematik og så videre.
28:44
Altså problemer hvor det ligesom er et et rigtig og forkert.
28:49
Output og som kan validere os, og så derfor har som derfor
28:52
ligesom har et stærkt signal. Ikke yes.
28:54
Jamen Det er jo det altså. Og når du har noget Der er
28:56
rimelig, hvad kan man sige kan valideres på en eller 2 ret fast
29:00
måde? Men så har du jo netop 1 1 1 1
29:04
stærk lodsberegning og det gør jo at du du propagter bedre.
29:10
Og det altså det. Det kan også godt være det ikke
29:12
er Sådan her jeg siger, men Det er det bedste Jeg har den bedste
29:15
forklaring har på hvad der sker, og der sker i hvert fald et
29:18
eller andet der og Der er altså Det er.
29:20
Det er måske også et godt eksempel på at man er begyndt at
29:23
sige OK nu prøver vi lige at slappe lidt af med bare at prøve
29:27
at skal lave modellerne op. Nu prøver vi ligesom at se om vi
29:28
kan. Gøre noget som noget lidt andet
29:31
som ikke bare er at blæse modelstørrelserne op.
29:34
Og Der er det her måske et eksempel på en en metode man er
29:37
gået i gang med, men så er der for nyligt kommet et paper, som
29:40
Jeg er blevet opmærksom på. Der hedder leo surprising,
29:43
effective test time training for abstract reasing, og Det er
29:48
nogle gutter, som har eller nogle forske.
29:50
Jeg ved ikke om Det er nogle gutter, men Det er nogle
29:51
forskere fra massage Institut of Technology, den her berømte.
29:56
Ingeniørskole i massage usex i Boston tror jeg Det er.
30:01
Det er forskerholdet derfra, som har fundet ud af at yes hvad
30:05
hedder det? Vi kan øge performance på, at de
30:09
har taget udgangspunkt i et meget specielt datasæt, der
30:12
hedder ark datasættet som er, hvad skal man sige udgivet i,
30:16
altså Der er udgivet i forbindelse med Sådan en ark
30:19
prise, man kan gå ind og tjekke det på nettet, som udlover en
30:22
million dollars til til dem, der ligesom løser det datasæt.
30:25
Og så siger de at. Dem, der løser det datasæt det
30:29
altså. Det er Sådan et age jeg datasæt
30:32
reklamerer de for det som ikke som som ligesom skulle være et
30:35
datasæt, hvor at man skal være hvor man skal Sådan være jeg jeg
30:41
mener de ligesom har gået op i de her datasæt med ligesom at
30:45
eliminere alt hvad der hedder memoriization, altså at at de
30:51
har prøvet at eliminere alt der hedder.
30:53
At en sprogmodel skal har en fordel.
30:56
Folk ved at løse det her data, fordi den kan huske noget.
31:01
Det har de prøvet at eliminere helt konkret hvordan de har det
31:03
ved jeg ikke. Men altså de har ligesom det.
31:05
Det skulle være Sådan nogle meget Sådan visuelle opgaver som
31:08
flyt de her firkanter Sådan så at du løser et eller andet Sådan
31:11
så du ender med den her stab det her stadie for eksempel ikke, og
31:16
det skulle være nogle nogle typer problemer som gør at man
31:19
skal. Lager fra sine fejl og vær god
31:22
til at adapte til problemer og så videre anyway.
31:27
Der har det her paper de har fundet ud af at hvis de bruger
31:31
en eller 2 som ligesom bruger det her princip om at bruge
31:36
comput ved testtiden, som man har fundet ud af virker godt og
31:39
man kan øge performance ved, men også træner sig selv.
31:45
For det for et problem, det skal løse.
31:47
Mens du løser problemet? Så kan de så har de faktisk der
31:51
har de faktisk sat ny state of the art og de har faktisk de har
31:54
Sådan ret markant løftet state of youtart op til en og 1 1 1
31:58
62%, som er et gennemsnitligt menneskelig performance.
32:04
Hvad hedder det på? Altså når mennesker bliver sat
32:06
til at løse det her datasæt, så er det en en 62% er den
32:10
menneskelige, det menneskelige gennemsnit og Jeg tror max er
32:14
Sådan noget. 99 98 eller Sådan noget.
32:20
Ja så Det er bare og og der var en der var.
32:24
Jeg delte det her på LinkedIn og der var.
32:26
Jeg skal lige prøve at finde nu bliver vi sgu lige nu nu.
32:30
Nu bliver der sgu lige nameroppet lidt her Det kan vi
32:32
godt lige hvad bruges podcast. Der var nemlig en der gjorde mig
32:37
opmærksom på at. Nu kunne det i hvert fald, hvis
32:41
jeg lige kunne finde det. At.
32:44
At MIT Det er var Thomas cupper panum.
32:47
Han sagde han skrev en kommentar med at MIT de er berømte for
32:51
ligesom at tage allerede kendte velkendte koncepter og ligesom
32:55
kalde dem noget andet og så ligesom få æren for at opfinde
32:58
det ikke og der mente han at. Et det udtryk der hed online
33:02
learning. Som er et velkendt begreb i
33:06
virkeligheden. Bare det de mener med det her
33:07
test time training. Altså det her med at modellen
33:11
træner sig selv, mens den den forudsiger ting ikke.
33:15
Ja, men Jeg synes bare at Det er interessant.
33:17
Giver det mening? Det har Jonas bare lige.
33:21
Jeg prøver at læse abstract også her imens ikke og og jeg noget
33:25
af det, som jeg også lidt undrer mig over.
33:27
Det er det der med Sådan jamen hvad er hvad er det så der sker?
33:31
Der skal jo laves en eller 2 form for lossberegning?
33:34
Ja, Jeg har jo ikke læst det her paper, men men altså, Det er jo
33:37
heller ikke nok at læse abstrakte, men men de de siger
33:40
at de her parametre i app strix står der de opdaterer
33:43
parametrene. Midlertidigt under en
33:46
forretnings vil brug af en altså man laver jo en eller 2 form for
33:50
inferens undervejs når man træner fordi man skal have.
33:55
Man skal jo kunne beregne noget lods og man er nødt til at have
33:58
en prediction, men og og afhængigt af hvor man er i
34:02
faserne, hvad Det er for en type model og hvad for en task man
34:05
man er i gang med at træne op mod, så har man jo forskellige
34:07
los. Beregninger.
34:10
Så vidt Jeg kan forstå så. Det er et godt spørgsmål.
34:15
Det er et godt spørgsmål helt konkret hvordan de gør det her.
34:18
Altså så vidt Jeg kan forstå, så er det altså det der sker.
34:22
Det er at den den den her model når ligesom til et sted i
34:27
datasættet og skal løse et problem i en af de her opgaver,
34:30
så så og og der der træner den, så bliver den genereret noget
34:36
træningsdata til sig selv i guess jeg ved ikke om den bare
34:39
er blodforce. Laver løsninger, så træner den
34:43
sig selv på det og mon ikke Det er Sådan en laur du ved Sådan en
34:46
midlertidig lawrer hvad skal man sige den træner og så bruger den
34:51
den nye version af sig selv til at løse problemet.
34:56
Det er Sådan. Jeg forstår det og og.
34:57
Og så når den skal skal videre til næste problem, så smider den
35:00
ligesom den der lauer væk og træner en.
35:02
Ny og så kan gøres. Og Det kan gøres ret effektivt.
35:05
Det kan gøres ret effektivt for stats.
35:07
Ja og fordi batches kun er en og så du ved det.
35:09
Du skal bare træne en gang eller Sådan så så det ikke
35:12
superkrævende. Så den den.
35:15
Den lyder meget tungt computermæssigt, men det du
35:18
siger Det er Det er det egentlig ikke fordi Det er dels Det er
35:20
lovers, og Der er ikke så mange vægte der skal opdateres.
35:24
Og Det er en en badges izer, så er vi videre.
35:28
Ja, det plejer jo at være Sådan at man bare skal maxse sine
35:31
bachelors og. Lige.
35:34
Nå, men så paralleliserer man måske på en 2 måde anyways og så
35:37
siger du. Over fedter så så overfitteren
35:40
ligesom lige lidt til det her. Lille til det her.
35:43
Og så så har den så så ser det så skulle det så være fordi at
35:47
den sørger når den så skal. Når den så skal finde ud af hvad
35:52
hvad er dens los, så gør den det som 1 1 1 difference imellem 1 2
35:58
forskellige states af modellen, altså den den hvor den den ene
36:01
den. Jeg ved ikke om jeg.
36:03
Altså Jeg tror bare Jeg tror bare den giver.
36:06
Jeg tror at det Det har jeg ikke lige sat mig Sådan helt konkret
36:10
ind i, men jeg forestiller mig bare at den ligesom genererer.
36:13
Måske 5 10 eksempler på en løsning.
36:16
Den sambler ligesom 5 10 eksempler for eksempel.
36:18
Og så træner den ligesom bare på de 5 10 eksempler på at
36:22
forudsige næste tågen, og så genererer den sig en løsning.
36:26
Og så er det så den løsning der der får rigtig god performance.
36:30
Ikke, men Jeg synes bare det. Det Jeg synes bare Det er Sådan
36:34
en interessant approach til at. Og Jeg synes, Jeg synes for det
36:40
første. Det er interessant at det det
36:41
løfter performance på det her ark benchmark, fordi Det er et
36:45
Sådan notorisk svært benchmark og performe godt på, så det Der
36:49
er et eller andet der i hvert fald.
36:52
Og så synes jeg også bare Det er en interessant tanke omkring det
36:55
her med jamen, og Det er også bare et kendt problem med.
36:57
Eller lever mig ikke det her med at de forstår ikke din kontekst
36:59
og de er ikke specifikke til dig hvis de bare ligesom.
37:02
Forstå dejligt bedre og så vil de være have de bedre
37:04
forudsætninger for at performe bedre, ikke?
37:07
Jeg ved ikke, jeg forestiller mig bare Sådan et en, at en
37:10
løsning på at vi ser deminition returns med skalering skaling
37:15
loss en løsning kunne være Sådan at OK jamen så i stedet for så
37:20
så satser vi bare på ligesom at gøre modellerne meget mere
37:25
specifikke og træne dem til. Altså så kan man næsten
37:29
forestille sig at man distribuerer Sådan nogle de her
37:30
lovers ud. Lokalt hos folk rundt omkring,
37:33
så fylder de ikke særlig meget, men så bliver de ligesom mikset
37:35
ind II prediction og ja. Men Det er sjovt fordi Jeg har
37:39
Jeg har længe. Synes altså den der mixed expid
37:43
synes jeg jo var en var en var en sjov og en sjov tankegang og
37:47
det kunne man godt prøve at tage ud til nogle ekstremer hvor man
37:50
har har mange mange eksperts til som er meget, meget eksperter i
37:55
nogle områder eller at Det er i form af de her laurence der
37:57
ligesom er er tunespecifikt til nogle problemer.
38:01
Og så ligesom bare fokusere på at den skal jo altså nogle
38:05
gange, så når folk tager Sådan et element der og putter ind i
38:08
en eller 2 produktionssammenhæng, så har de
38:10
alligevel defineret et eller andet meget konkret problem de
38:12
gerne vil have den løser. Det er typisk ikke, at den skal
38:15
løse alle de problemer, den rent faktisk kan så, så hvad er det?
38:19
Hvad er det vi vi gør, når vi når vi stikker folk Sådan en
38:22
stor model? I hånden.
38:25
Jamen Det er smart fordi at alle kan bruge den samme model til
38:28
mange forskellige problemer og. Der er noget optimering i Det
38:31
kan man sige, men Det er jo også, hvis man så vil have de
38:35
der ekstra 20% oveni III performance og nu en rigtig god
38:40
til til lige præcis det her problem, så er man jo nødt til
38:43
at gøre et eller andet der alligevel altså.
38:47
Presser den op i et hjørne, så den æder bukken og opfører sig
38:50
ordentligt. Ja Jeg synes bare Det er en
38:52
interessant retning og. Jeg ved ikke.
38:56
Jeg synes også bare Det er en det giver mening at snakke om i
38:58
forhold til det her med at der ikke er lige så store returns på
39:03
på hvad hedder det bare skalere op, men at man kan begynde at
39:07
bruge nogle lidt mere snede altså Sådan.
39:08
Det er også på en eller 2 måde det her opbinering har jo også
39:10
altid Det er jo både det der gør dem geniale, men også det de har
39:13
været kritiseret meget for ikke det her med at.
39:17
Jeg mener faktisk først afsnit er hvad boost podcast kan det næ
39:20
Det var ingeniør. Ingeniør ære og ingeniørpodcast
39:24
den 2. Jeg lavede forgænger for at
39:27
bost, men der snakkede jeg med med en om at give mig til 3 Det
39:31
var dengang gibbe 3 lige var kommet ud og der snakkede vi med
39:33
giver vi t 3 Det er bare Sådan lidt lidt Sådan.
39:35
Det var ikke Sådan rigtig forskning, vel fordi at det bare
39:38
var opskalering. Det er meget sjovt.
39:40
Ja. Men så kunne man godt forestille
39:44
sig, at nu skal vi til at være lidt mere mere kreativ, ikke?
39:48
Jo jo så. Yes, nå skal vi gå videre til
39:52
til ugens travel. Vi skal videre til ugens raple 2
39:55
sekunder. Ugens revolut revolus podcast,
40:00
afsnit nummer 71. Og i den her uge.
40:04
Der skal vi snakke om et specielt repub, som har været
40:07
lidt i vælten her på det seneste.
40:09
Men Det er ikke fordi Det er Sådan set nyt.
40:12
Det er et projekt, der har været længe undervejs og, men Det er
40:15
ikke fordi Det er Sådan set nyt, men Det har været.
40:17
Det har trendet på på hacker news blandt andet og.
40:21
Ja blevet delt på Twitter og Sådan noget, og før vi Sådan
40:24
lige går i gang med at at hvad hedder det?
40:28
At snakke om det, så tror jeg så vil jeg godt lige sige, at hvad
40:31
skal man sige? En hovedet en af hovedudviklerne
40:33
bag det her. Hvad skal man sige?
40:35
Library er en berømt skikkelse i dansk det danske LOP verden,
40:40
nemlig leon decentsky. Jeg har aldrig helt fundet ud
40:44
af, hvordan man udtaler hans efternavn, men for leon
40:46
decentski for fra, hvad hedder det IT Universitetet som er som
40:50
du siger professor der og som for nyligt er jo også joinet.
40:54
Invilia for ligesom at arbejde med eller m security så vidt Jeg
41:00
kan forstå og du må nogen må rette mig, hvis hvis jeg ligesom
41:05
tager fejl. Men hvad hedder det?
41:07
Leon leon har arbejdet projektet har garak GARAK.
41:15
Og Det er et og det. Det er et repo, der for nylig er
41:19
blevet flyttet over på invias. Hvad skal man sige git
41:22
huborg-organisation. Og det bliver solgt som værende.
41:26
Hvad skal man sige? Ja, nu skal jeg lige finde det.
41:29
Det bliver solgt på at være. Hvad skal man sige endmap for
41:33
elliber? Og jeg ved ikke kender du
41:36
n-mapper. Jeg ved ingen 2.
41:37
Jeg ved ikke hvad noget noget. Men n-map Det er Sådan et.
41:41
Det er Sådan et hacker tool man bruger, når man skal analysere
41:44
netværk for at se om Der er nogle voller rebilities så vidt
41:48
Jeg kan forstå. Nogle igen retninger, hvis jeg
41:51
tager fejl, men. Der er sygt mange netværks
41:55
util-ty er derude. Man kan få afhængig af hvad for
41:58
en distribution af linux man er på at jeg skal komme efter dig.
42:01
Ja men sikkert. Har det mærke Det er der står
42:04
her Det er nu har jeg lige søger lidt på det.
42:05
Det er en en network mapper, så du ved når du er her og Det er
42:09
Sådan Jeg har. Jeg har altid kendt det som
42:11
Sådan et hacker tool altså hvis du skal hvis du ligesom skal
42:14
kortlægge et netværk og finde ud af hvor Der er potentiale for at
42:17
for at komme ind. Selvom du ikke må, så kan du
42:20
bruge en mappe. Jeg har så også hørt at en map
42:22
det skulle støje ret meget, så hvis du gerne vil være gå stille
42:26
med dørene som hacker. Der er lige nogle hacker tips
42:27
her og så er der pose podcast. Ej Sådan on blive en hackard.
42:31
Den bliver overhovedet ikke men, men hvad hedder det?
42:33
Det skulle også støje lidt, så hvis du gerne vil lade være med
42:36
at efterlade dig for mange spor, så brug noget andet end en
42:38
mærkelig. Jeg ved ikke hvad Det er.
42:40
Men spørg teknikken. Jeg hører et tool, hvor du
42:42
sætter det i gang, og så begynder det bare at afprøve en
42:45
masse porte og finde ud af hvor Der er ting Der er på netværket
42:49
og penge, det ene og det andet og 3 og det 4 og prøve at lave
42:52
main checks i øst og vest og. Det larmer lidt, ja.
42:56
Ja så Det er det skal man lige gå lidt stille med døren med
43:00
hvis man eller. Også.
43:01
Skal man bare lade være, medmindre man er white heart.
43:05
Hvad har det med nu? Må du lige fortælle om altså
43:07
hvad har det med? Med LLM ting og børn.
43:13
Fordi Der er jo også nogle. Hvad skal man sige nogle
43:16
problemer i forhold til? Hvad skal man sige?
43:18
LM security Vi har jo en del problemer med ting og sager som
43:23
Sådan noget som prompt injektion og promund attacks.
43:28
Jeg kan ikke helt huske hvad forskellen er på de 2, men Der
43:31
er noget med at et promant. Prompt at tag og nu må i ikke
43:36
lige hænge mig på det, men men det ene er i hvert fald det her
43:38
med at man prøver ligesom at det.
43:42
Eller provencaction promter tack.
43:44
Jeg ved ikke om måske er det proment Jackson og promant
43:47
ja-breaking. Det er de 2 ting jeg jeg snakker
43:49
om her Der er promed jalebreaking.
43:52
Det er ligesom at du gerne vil have den til at sige noget
43:55
uetisk eller have den til at sige noget element som opinerer
43:59
eller en tropic ikke vil have at den skulle til at sige.
44:00
Altså hvordan laver du en, hvordan laver du et eller
44:04
andetisk eller gør noget uetisk eller et eller andet ikke?
44:09
Det er Sådan den ene ting priunger breaking og promant
44:12
injektion som også er en 2 security willabibility.
44:15
Det er at hvis du begynder at have de her LLM applikationer
44:18
som kører ude på internettet for eksempel og scraber data, så kan
44:22
du injective prompt i det tekst, den ligesom scraber som
44:25
instruerer den i at gøre noget andet end det, den rent faktisk
44:28
kunne gøre. Giver det mening?
44:30
Klart. Så Det er Sådan nogle ting.
44:35
Og så er der også bare Sådan nogle nogle altså Sådan noget
44:38
med scrabers derude. Ja ja lige præcis.
44:43
Og så er der Sådan noget med at. Altså hallucinationer, data
44:48
League og misinformationer og taksisity og Sådan nogle ting
44:51
ikke? Der er mange problemer, og Der
44:54
er tanken bag det her Liberal ligesom garak ellement rebility
44:58
scanner at man ligesom kan køre Sådan 1 1 1 analyse Sådan et
45:02
sweet over NLM for at se hvordan den den ligesom reagerer på på
45:06
på forskellige ting og. Så er der en form for tryktest
45:11
ja elementen. Lige præcis som forstår jeg det
45:16
og der har der kommer altså. Det er simpelthen et library man
45:19
kalder pep-install peop instal, og så får man Sådan et CL.
45:23
Pool hvor man ligesom kan skrive garak og så en eller 2 kommando
45:27
og det ser ud som om at man skal lave garrak, så skriver man så
45:31
giver man et argument der hedder modeltype og man giver model et
45:35
navn der hedder modellen og så kan man definere nogle probes
45:40
kalder de det og Der er en hvad skal man sige Sådan en probe
45:43
her? Det er ligesom Sådan en en test
45:46
man kan udsætte den her LLEM for.
45:50
Og der kan være forskellige. Protok-typer der kan være en
45:54
probe, der hedder en en blank prompt.
45:56
Altså hvad sker der, når du ligesom sender ingenting til
45:58
hende? Hvad sker der når du sidder
46:02
eller altså Sådan nogle Sådan nogle usædvanlige characters
46:06
afsted? Det kan være altså Der er jo
46:08
mange Sådan. Hvad skal man sige eksotiske
46:11
askik characters Jeg har det ved jeg ikke en skid om, men Der er
46:14
en masse forskellige typer som nogle altså som er super dauders
46:18
dision for for for nogle modeller som de kan være Sådan
46:21
helt. Man kan bare trykke holde af
46:24
nede på sit tastatur inde i chatbitter og prøve det og se
46:27
hvad der sker. Ja altså hvad sker der ligesom
46:30
når man putter støj ind i de her modeller altså forskellige
46:32
random sekvenser af mærkelige ting og sager ikke?
46:36
Ja og så så er det Sådan noget som.
46:40
Altså prominjektions og system priund, disruptions test og
46:45
melisuescoach generation test altså.
46:47
Altså du ved en lang serie af af tests som ligesom tester for for
46:53
alle mulige forskellige af de her forskellige problemer der
46:56
kan være medlemmer. Og en ting jeg var den nysgerrig
47:00
på. Det var Sådan fedt nok det
47:02
virker som om der ligesom er en masse Sådan foruddefinerede pros
47:06
som ligesom tester de her elemmer.
47:07
Og så kan man ligesom vælge en eller 2.
47:10
Costa model enten en proprietær eller en en eller 2 hacking
47:15
flest model og så videre og teste de her lave de her
47:18
standardst men Det er det virker også som om at man rent faktisk
47:20
kan definere sine egne. Hvad skal man sige proops?
47:25
Sådan så hvis man har nogle, hvad skal man sige interne, hvad
47:28
skal man sige? Test man gerne vil lave for
47:30
ligesom at sørge for at de er. De opfører sig Sådan relativt
47:34
pænt de her alle elemenmer et eller andet element man har.
47:36
Måske så kan man selv definere de her proops.
47:41
Men hvordan skal det forstås som at man tester altså modellen
47:45
rott så at sige så hvad nu hvis altså de fleste af de der
47:50
systemer der ligesom prøver at gøre noget?
47:53
Rundt om l ellem Sådan for eksempel inviter selv har
47:56
promoveret det her gadrads og hvad der ellers er derude af
47:59
sjove ting og sager. Det er jo Sådan et forsøg på at
48:02
efter the fact at du har trænet en model og du også har tunet
48:06
den struck tunet den og og bedt om at opføre sig pænt, så er der
48:10
alligevel nogle nogle ting du gerne vil begrænse den til.
48:12
For eksempel den må kun snakke om om, hvad kan man sige?
48:19
Produkt support i produktsupport chatten.
48:22
For eksempel, og Det er jo det. Det er jo klart, at Der er jo
48:25
ikke nogen, medmindre at du selvfølgelig har lavet en fin
48:28
tuning selv, men så er der jo ikke nogen out of the box,
48:31
åbnede jeg modeller der kun er lavet til at snakke produkt
48:34
support for din virksomhed. Men du har ikke lyst til at de
48:36
skal kunne bruge den til alt muligt andet, for eksempel at
48:39
der kommer coach-naps ud og ting og sager og Sådan nogle ting
48:41
ikke og den måde man gart railer imod de ting der.
48:44
Det vil jo typisk være noget noget almindelig logik og noget
48:47
back-end og også en masse andre tricks for ligesom at prøve at
48:50
begrænse det der. Så jeg forestiller mig Sådan en
48:53
tool skal jo ligesom være i stand til at teste en helt
48:55
løsning. Sådan en intro end løsning på en
48:57
måde, ligesom han ville gøre. Hvis man havde noget sikkerhed,
49:00
så har man altid alle mulige crap foran for at gøre ting
49:03
sikkert og så inde bagved, så så er det blødt som som 1 1 1 rå
49:08
musling. Det ved jeg ikke, hvad jeg
49:10
stiller mig. Jeg får.
49:13
Jeg forestiller mig måske også, at det her mere er til.
49:19
Ikke så meget til applikationsudviklerne, men mere
49:20
til foundation model udviklerne. Giver det mening?
49:25
Så så er det eddermame ambitiøst vil jeg sige fordi at så er du
49:29
jo egentlig ude i, at du fortæller hvad Det er for noget
49:32
data de de bør indsamle. Og så skal du med de proops du
49:37
så skriver der. Det er jo nogle nogle form for
49:39
nogle nogle testdata som er. Usædvanlig og lidt udenfor.
49:46
Noget som som man så lige hvad som man selv synes, eller som
49:50
som library synes. At man skal teste mod.
49:57
Det ved jeg ikke rigtig om i hvert fald.
49:59
Sådan en en form for. Kirkehatten på kan du godt høre
50:01
ikke men men men. Værdien af det, at man har Sådan
50:06
nogle foruddefinerede Trumps til at teste noget til rent faktisk
50:11
Sådan. Både altså realforce mellem
50:15
healing, feedback træning og og Sådan foundation model træning.
50:21
Jamen så skal du jo ind i træningsklubben altså kan du
50:23
følge mig altså du ved Det er Sådan.
50:24
Det er jo ikke noget du så skal putte på modellen når den er
50:27
færdig altså det giver jo slet slet ikke mening.
50:30
Det skal du jo på en eller 2 måde have ind i træningsluppet,
50:33
så fair nok at du vil teste den når den er færdig men altså.
50:37
Der Det er sgu Det er fair partout hvis du spørger mig så
50:45
du skal fail very fast på det der og så rette ind og det gør
50:49
man jo i en træning. Det er jo det træningen går ud
50:51
på. Så, og det gør man jo ved ved
50:54
ved at samle det rigtige data ind til det, man gerne vil.
50:57
Så jeg. Hørte det andet model.
50:59
Når du så har trænet model, skal du jo stadig være interesseret
51:01
i, eller så hører du stadig interesseret i ligesom at
51:04
sweepe. Ja formoder at trule bruges på
51:07
Sådan på fladen, altså interfacet til din LLM
51:12
applikation din a applikation frem for hvad kan man sige nede
51:16
på den rå model? Fordi det det ville virkelig,
51:19
virkelig, virkelig meget sjældent give mening at Det var
51:21
tool, der ligesom prøvede at gøre det.
51:22
Når nu er jeg færdig med med min med min.
51:27
Fine tuning, så nu tester jeg lige at den ikke gør de ting,
51:30
som jeg ikke har tunet at det gør nogle andre nogle ting den
51:33
ikke har været tuning. Jeg tror du havde.
51:35
Tror ikke bare de eksempler med i dine fine tuninger.
51:37
Jeg tror jeg skal. Jeg tror du skal sætte dig mere
51:39
i foundation model udviklernes sted altså du ved dem der.
51:45
Eller, der sidder man jo med et andet sæt af problemer, ikke?
51:48
Der sidder man jo Sådan det her. Det skal jeg altså bare virke
51:50
Sådan crossed board og skal bare opføre sig generelt pænt og så
51:54
videre, ikke? Altså ville du jo ikke.
51:57
Ville du ikke selv som day science løse det der?
52:01
Alignment problem ved rent faktisk at at.
52:05
Vise noget data smide ind i træningsdata.
52:08
Her er en masse ager Jeg har holdt a knappen nede.
52:12
Hvad skal du men? Jeg ville jo stadig være, når
52:14
jeg så har trænet min model, så ville jeg stadig være
52:15
interesseret i at testen om den rent faktisk så havde lært det
52:20
jeg havde. Klart det det Det er Sådan set
52:25
Det har du da også ret i, men. Men hvis den ikke har det, at
52:31
hvis den ikke har lært at altså lige præcis på den integration
52:35
hvor den har de. Med, hvis den ikke har lært
52:37
noget, jamen så. Så har lodset.
52:41
Så er den learning-køb, den ser jo bare dårlig ud, så den den du
52:44
må formode at hvis den hvis den når et et godt optimum i sin sit
52:48
træningsklubben, så lærer den også de ting du instruerer den
52:51
til. Ellers så er det jo en
52:53
failtraing. Nej jeg ved det ikke Det er
52:57
bare, men de er jo så komplekse de her elementer så du ved.
53:01
Det er jo svært at. Det er jo svært at.
53:03
Garantere noget, ikke at garantere noget.
53:06
Det det Det kan. Du jo heller ikke selvom.
53:08
Du altså du bliver ved med at. Altså de er jo stadig
53:10
propabilistiske, så du kan ikke garantere noget som helst, og du
53:13
vil også godt bagefter kunne opfinde nogle data, hvor du kan
53:16
komme ind bag dem, og så kan man trykteste dem på en eller 2
53:19
måde. Men Jeg synes det ville være
53:21
mindst lige så værdifuldt. Og måske ikke også lidt mere
53:25
værdifuldt, at ligesom tænke det lidt mere som set udefra, når
53:29
man har et eller andet system, hvordan tester jeg så de her
53:31
forskellige cases og så et tool til det?
53:33
Men i don't know. Det er forskellige lag, kan man
53:37
sige. Ikke.
53:37
Jeg forstår sikkert ikke det. Jeg har heller ikke været inde
53:39
og kigge. På det og nu lyder bare som en
53:41
der synes Det er noget værre værre.
53:44
Og hvad hedder det? Jeg håber ikke, Vi har
53:46
fuldstændig misforstået pointene med de på leon heroppe.
53:49
Men altså Jeg synes Det er sikkert ja.
53:52
Ja men. Men.
53:53
Altså Det er det lyder som et super spændende projekt og det
53:56
Det er jo også sidet som du siger og så har du bare sat en.
54:00
Sur podcast med vært her der har siddet siddet og skal alligevel.
54:05
Læse. Beskrivelsen op bare Sådan er
54:07
jeg sikker på. Jamen.
54:10
Ja garag. Lm boller rebility.
54:13
Scanner generelt AR red timing in access kit.
54:17
Så Det er Sådan en red teaming tool.
54:18
Altså du ved Det er Sådan der. OK nu skal vi bare fucking teste
54:21
den her hoved og røv for at se om den er klar til at vi shipper
54:24
den ud til til folk der altså endt APIN users ikke gardchiex
54:30
FNNLM kany mate 2 fail in away with don't want garac proops for
54:35
helsin asian dater Leagues promlinction misinformation,
54:38
taksity generation gale breaks and medty many other weeknes.
54:42
If you know endmap, it's endmap end end et endmap for alle lams
54:47
grack-polises onways of making and a lum dialog system fail et
54:53
compine, static, dynamic and adapt of pros 2.
54:56
Explore this garag is a freetool relatervel it and a always
55:00
intrusted in thing functionality's support
55:02
applications anyway. Altså Jeg synes også bare Det er
55:04
interessant måde Sådan ja det ved jeg ikke men altså.
55:08
Det er også en interessant måde, Sådan at crowd source.
55:10
Proops ikke altså tests som et eller andet skal gå imod, men
55:15
Det er sjovt fordi det det tangerer jo lidt til evaluering
55:18
ikke, men Det er jo så bare security evaluering og ikke
55:21
Sådan intelligens evaluering. Nu gik jeg lige ind.
55:25
Jeg skulle lige sikre. Mig at Det var.
55:27
Det var rigtig forstået, at jeg endte med at Det var Sådan en
55:30
portscanning ting. Jo jo altså.
55:36
Det der endmap tool der Det var fordi det nu kom den igen og Det
55:39
var Det var en ja så så Det er jo og Det kan man jo godt forstå
55:43
så så siger man jo hvis Det er ligesom det så siger man OK hvad
55:47
for nogle porte vil vi gerne scanne efter hvad for nogle
55:50
proops hvad for nogle ting vil du gerne prøve at teste den
55:54
efter så definerer du det og så kører du skete og så prøver den.
55:59
Så prøver den at se om den kan finde noget.
56:01
For dig, og så kommer der et eller andet resultat tilbage og
56:05
forhåbentlig Sådan et lille nice test output, så vi alle sammen
56:08
bliver glade når alt er grønt og så.
56:12
Ja, og så er det jo populistisk og ikke deterministiske.
56:15
Tjek når man laver de der ting der nu er jeg tilbage til at
56:17
lyde som den sure, og man skal jo bare altså definere en
56:22
million forskellige cases for at have dækket alle de der kreative
56:25
input, som nogen kan komme med for at hjælpe break det før at
56:27
det der grønne flag man så får ud.
56:30
Rent faktisk er korrekt. Internobal nobel task vil jeg
56:35
bare lige sige det der. Nok svært.
56:38
Jeg stiller meget spørgsmålstegn ved hvordan.
56:40
Man, Sådan kvanteitative. Evaluer de her ting ikke altså
56:45
så har man de her probe, som man ligesom injekter, men de skal jo
56:49
også evaluere os, tænker jeg altså det der skal vel på et
56:51
eller andet tidspunkt træffes en eller 2 true falls beslutning
56:54
som beslutter om den er gået igennem den her test eller ej?
56:57
Lige præcis det på den måde eller Jeg synes.
57:00
Det er Sådan lidt. Det er Sådan et eller andet
57:01
ting, og der ved vi jo bare at. Hvis du skal køre den der
57:04
tilgang så skal du. Så skal du også evaluere din
57:08
evaluerings, eller så skal du tunge din evaluerings du skal du
57:13
skal undersøge hvor godt din evalueringssmetode er hvor god
57:16
den er, ikke hvor høj performance den har og regn det
57:18
med ind og det Der er super super svært ved det.
57:22
Det er også at det. Den den her.
57:24
Evalueringsmetode er jo givetvis forskellig fra model til model.
57:28
Altså du ved du kan ikke regne med at den ene super fed
57:31
evalueringspromed fungerer nej, men Det er jo det lige så godt
57:35
fra den ene model. Som 2 model ikke så der.
57:37
Har du jo den samme problematik med at man?
57:39
Man og det gør man jo også i mange af de her benchmarks,
57:42
hvilket jo også er. Altså undskyld totalt tåbeligt
57:47
altså fordi vi ved jo at god gammel one.
57:52
Jamen, hvis du træner noget til at.
57:55
At blive god til en ting. Så hvis du så tester den på på
57:59
noget fuldstændig andet data der transformeret på en helt 2 måde
58:04
eller et eller andet, jamen så vil den jo bare per definition
58:08
ikke fatte en brik af det. Og og Det er jo fordi du har.
58:14
Du har trænet den på entedyrs nu kommer du med floats.
58:18
Det virker ikke. Det går fint igennem modellen.
58:20
Du får et eller andet ud, men Det er ikke korrekt.
58:23
Altså du ved, Det er lidt det samme her på en eller 2 måde og
58:26
når man laver benchmarks med hvor man tager en form for prump
58:30
måske få tokens. Den er altid trænet med med
58:33
mange flere tokens, for eksempel som input eller et eller andet,
58:35
så får man bare nogle andre ting man lyder som om two igen.
58:39
Jeg ved det godt, men Det er bare.
58:41
Det er bare slet ikke uproblematisk de der ting.
58:43
Jeg synes bare ikke vi roste ikke vi rykker os på de der
58:45
evalueringsting der. Jeg synes bare det står i
58:47
stampe. Og der bare der der kommer ikke
58:49
noget Sådan god håndfast konsensus for hvad, hvad Det er
58:53
Der er det rigtige at gøre i de her sammenhænge, og Jeg har det
58:55
lidt på fornemmelsen. Det er det samme Sådan tool her.
58:57
Det bliver sgu det bliver sgu svært at finde.
59:01
Finde noget, hvor jeg virkelig nu stoler jeg på at det der det
59:04
bare Det er total håndfast. Det kører for os.
59:08
Den er evaluering. Den sagde bare smagt mand.
59:10
Ja man kan sige Det er jo et. Forsøg i hvert fald på at
59:13
strukturere de her ting og gøre et en eller 2 form for at give
59:16
en eller 2 form en indikation. Ikke og fuld respekt for det og
59:18
så et forsøg. Fordi at alle forsøg er er
59:22
kærkommelige lige nu, hvor Vi har nærmest ingenting jo.
59:27
Det er hårdt. Det er hårdt at være i al
59:29
engineer og men og Det er det simpelthen.
59:33
Og hvad hedder det? Ja Sådan er det.
59:36
Skyggerne ved at blive lange klokken.
59:37
Vi har podcastet i en time, og Det er lang tid.
59:40
Vi siger lige vi. Er vi nærmer os altså en kold
59:43
tid. Jeg vil bare lige sige.
59:44
Rigtig nok ja Det er koldt udenfor du.
59:46
Det er snart jul også for fanden mand kort.
59:50
Ja det. Gør de?
59:52
Hvad hedder det 1000. Tak fordi i lyttede med.
59:54
Derude alle sammen. Og ja.
59:58
Er der med Jonas. Ja undskyld fordi Jeg er så.
1:00:02
Sur Det er fint. Det er vildt vi.
1:00:03
Ved godt du er så glad inderst inde er du glad?
1:00:06
Det ved vi godt alle sammen. Men 1000 tak fordi du med og
1:00:12
husk at husk at følg os på der hvor du lytter podcast husk at
1:00:16
følge os inde på LinkedIn og connections derinde mig og Jonas
1:00:20
hvis der har følt Vores side hvor hvad hedder det?
1:00:23
Pointen den er også Det er der hvor Vi har informationer ude
1:00:27
hvis. Hvis vi det sker jo ind imellem,
1:00:30
at vi bliver nødt til at skippe en uge, fordi Vi har travlt
1:00:33
eller et eller andet, og Det er derinde, vi skriver.
1:00:36
Hvis det hvis Det er, så så halløj derinde, men ellers så
1:00:40
guldkommer vi jo hver onsdag. Næ hvad?
1:00:42
Hvad nu bliver det hver torsdag hver torsdag?
1:00:46
Hver torsdag kl. 05. Er planen, at vi udkommer.
1:00:51
Så ja vi lyttes. Det gør vi næste.
1:00:55
Torsdag kl. 05. Der regner, vi skulle være med i
1:00:58
hjerter. Altså det gør vi.
1:01:01
Så vi ses hej.