Latest / Verbos: AI og Softwareudvikling / #53 - Første Reaktion på GPT-4o og ChatGPT Stemme Assistent

Transcript

#53 - Første Reaktion på GPT-4o og ChatGPT Stemme Assistent · Verbos: AI og Softwareudvikling

0:00
Er du alle sammen og velkommen til Vores podcast afsnit nummer
0:03
53 i dette. I denne uges afsnit af Vores
0:07
podcast skal vi snakke om det her nye open air release de har.
0:12
Den 13. maj altså mandag den 13. Maj, hvilket jo er et par dage
0:17
siden. Når de har kommet ud, har de
0:19
udgivet Sådan en, hvad skal man sige produkt update Sådan
0:23
livestream demo ting og Det er for det første.
0:29
Det er et produkt update til til chat købe produktet altså chatdk
0:33
som de fleste nok kender og det der ligesom ligger bagved.
0:37
Det er en ny model som de har releaset både i produktet, men
0:41
også som app i og Det er den her model der hedder g 4 GBT for oo
0:45
GBT 4 o kalder man det vel så på dansk og for omnis og Det er dem
0:53
Vi skal snakke om i dag og den er lige kommet ud her for meget
0:55
kort tid siden så det bliver Sådan lidt reaction first
0:58
impressions. Et eller andet yes.
1:04
Ja. Yes godt selv Jonas.
1:07
Lige måde. Og så er det spørgsmål, kan vi
1:09
virkelig bruge en hel time på at snakke om openai?
1:12
Selvfølgelig igen igen. Jeg synes de har gjort det her
1:15
før, jo. Skal lige starte med.
1:18
Måske skal vi starte med altså Jeg har jo set den der produkt
1:21
update ting demo de lavede. Så skal vi lige prøve at starte
1:25
med den man kan sige. Det er jo ikke fordi at chat kan
1:28
blive ikke har kunnet modtage stemme for det her og har kunnet
1:33
se billeder for det her og så videre.
1:36
Men det der ligesom er sket nu her.
1:37
Det er at de har de med den her nye gear p 4 o model.
1:42
Gad vide om folk kommer til at sige det?
1:45
Det var dansk eller engelsk. Det glæder mig at give op til 4
1:48
o eller p foro news men det Der er forskellen Det er at den her
1:52
nye type t 4 o model. Giver det på en eller anden måde
1:57
1 1 1 ret meget mere Sådan seamless oplevelse.
2:01
Og det gør den blandt andet ved, at når man taler med med p 4
2:05
eller med chatt gennem gennem p 4 o.
2:08
Så kan man afbryde chaque Sådan rimelig brat og så.
2:15
Sedlen ligesom bare om og og lytter.
2:16
Hvor for der var det meget Sådan.
2:19
Så taler jeg så svarer du så taler jeg så svarer du så de har
2:23
altså ligesom. Gået efter at få en Sådan lidt
2:25
mere naturlig oplevelse, når man taler med chalki.
2:30
Det er den ene ting den anden ting.
2:32
Det er at man også kan køre live video nu.
2:36
Altså du kan simpelthen tænde for trykke på Sådan et kamera
2:39
mens du taler med skype og så kan du live vise chatt ting som
2:45
den så ligesom kan bruge til at. Lave sin reasoning eller hvad
2:50
man skal sige til og ligesom at give dig et et bedre svar med.
2:55
Så Det er jo ligesom. Det er jo i virkeligheden bare
2:57
det. Altså.
2:58
Det er Sådan lidt mere velsmurt oplevelse i forhold til det her
3:01
speech. Jeg tror at opening i de tror
3:03
ret meget på det her med tale til til EI stil og tale til
3:09
computeren. Type a eje.
3:12
En anden ting, som jeg også lagde mærke til, som Jeg synes
3:14
var ret cool. Det var at det ser ud som om at
3:16
de har lavet en desktop app. Til chat GT som man ligesom bare
3:21
kan ja lige præcis. Jeg ved ikke om Det er både til
3:23
mac, Windows eller whatever men, men i hvert fald til mac så ud
3:26
til og den installerer man ligesom på sin computer og så
3:28
kan man tale med chat gt og det sjove er at man også kan, så kan
3:32
man også dele skærm med chat kan vi se?
3:35
Ligesom hvis Det var et remote call og det det blev jeg
3:39
interessant. Altså Det er jo.
3:41
Det det det det det Det er lidt fjollet i virkeligheden, fordi
3:43
Det er jo ikke så meget nyt og så videre, fordi Det har man
3:46
også godt kunne gøre for hvor meget han bare skulle skrive det
3:48
og copy paste billeder med kode ind og så videre.
3:52
Men Det er ligesom de går. Har ligesom gået efter at få
3:54
hele den her oplevelse med. Sådan gør hele den her.
3:58
Hvad skal vi sige helhedsoplevelsen af at du taler
4:00
med? En æg eller en nærmest få det
4:04
til at føles som om du taler med én anden person.
4:06
Den har de fået ret ligesom prøvet at dyrke lidt.
4:09
Her virker det til og Det var ret sejt det her med fordi så
4:13
var der en der sad og kodede med den her chatjubii i desktop
4:17
kørende. Så talte de ligesom bare sammen,
4:20
og man kunne bare afbryde anytime og man kunne dele skærm
4:22
hvis der var noget kode man godt kunne tænke sig at vise chat kan
4:25
be. Og hvis der var nogle plots
4:28
eller et eller andet der var også et eksempel.
4:30
Jeg har set her efterfølgende, hvor Der er en en Sådan en
4:34
gymnasieelev, vel nok svarende til en gymnasieelev der sidder
4:36
og skal lære noget trigonometri, og så sidder det Sådan med Sådan
4:41
en skærm, hvor de kan tegne på med Sådan en.
4:45
Hvad skal man sige en en? Ja Sådan en skærm du kan tegne
4:48
på med Sådan en virtuel blyant eller Sådan et eller andet og
4:51
bare sidder og snakker med chat qui te og snakker om den her
4:53
trekant og hvad Der er hypotenusen og du ved de her
4:57
forskellige ting og sager. Og så så lavede de også Sådan en
5:01
demo hvor at de lavede Sådan live translation mellem en og
5:05
talte italiensk og en der talte engelsk.
5:08
Sådan så at de sagde ligesom til den nu skal du bare være en tolk
5:11
og når der bliver sagt noget på italiensk, så skal du sige det
5:14
på engelsk. Så skal du gengive det på
5:16
engelsk når det bliver sagt noget på engelsk, så skal du
5:18
gengive det på italiensk og det klarede den også så.
5:22
Så ja. II virkeligheden ikke noget der
5:28
Sådan det. I virkeligheden er det meget
5:29
Sådan finpudsning af oplevelsen, produkt, oplevelsen og hvordan
5:32
man ligesom interagerer med chat kan vi tage?
5:36
Det virker som om, at Det er meget det der, de har gjort,
5:38
men. Ja også få det til at virke som
5:41
Sådan lidt magi, ikke? Jo Det er jo det altså den 1
5:45
gang vi vi skrev i den der chat promp og vi følte eller ligesom
5:49
kom. En eller anden form for
5:51
fornuftige. 1 1 1 relevant og kontekst af aware svar tilbage,
5:58
så bliver vi jo alle sammen lidt og nu er det jo Sådan.
6:01
Hvad kan man sige meget normalt at Det kan vi finde ud af at
6:05
modellere kontekst og sekvenser og modaliteter forskellige
6:10
modaliteter, og Det er jo så det hvor at.
6:13
Den gamle GT 4 den er jo gammel. Den den er jo gammel Det er jo
6:20
Det er jo helt skørt cirka ikke og den den var jo meget hurtigt
6:24
uddateret. Set i åbne jeres egne øjne også
6:28
ikke, og en af de ting, som den i hvert fald er uddateret på.
6:32
Det er også Det er også det her med, at den er meget stor tung
6:34
og. Og ligesom var den den 1.
6:37
Forsøg på at lave noget noget der havde et niveau.
6:42
Den havde jo så de forskellige modaliteter som de fleste måske
6:46
kan huske. Så kom åbner jeg med.
6:50
Gennemse 4 og sagde det Det er kun til teksten nu, men Det har
6:54
den har trænet på noget med nogle billeder, men det får i
6:57
ikke lige adgang til, så er det Sådan lidt.
6:59
Hvad er det for noget? Og så kom der jo det her Der er
7:02
lige som de her defuse modeller som er.
7:06
Tekst til billede ikke altså genererer billede.
7:09
Men men. Folk glemte så lidt at gennemse
7:13
4 Det er måske faktisk var billedet til tekst.
7:16
Ikke så der kunne du give der kan du give den Det kan du i dag
7:21
stadigvæk give den et billede og så kan den jo forklare det her
7:24
og Der er det jo bare i gåseøjne her bare Det er ikke nemt, men
7:28
den er trænet på. Her er et billede og Der er en
7:32
tekst der beskriver hvad Der er altså dybest set.
7:35
Det er den model den model sitet i form af data og så ligesom den
7:39
opgave, altså den taske der ligger i det.
7:42
Og og så når man så III chat appen museer.
7:48
Giv mig lav et billede. Så så er det den gør.
7:52
Det er den bruger faktisk et tool ikke så så den den er
7:56
ligesom den forstår hvad Det er du vil eller Der er noget
7:59
ingeniørerne bag. Der er mange måder at gøre det
8:00
på ikke og så går den i gang med at generere et billede med den
8:04
her prompt, men Det er så at en diffusion diffusion model
8:08
nedenunder der hedder dejlige der gør det for dig og ikke.
8:11
Den sender til. Den den sender en drøm til
8:14
dårlige, og den laver alt muligt rundt omkring den berømte, der
8:18
begynder at lave noget tekst generering også for ligesom at.
8:21
Give en en den den forstår at give en god grund til Der er
8:25
lige så så der ligesom mange ting at spille der.
8:28
Men nu er det åbner jeg og siger Det er en helt ny model.
8:33
Vi tager bare igen alle lønnings fra alle de her engineering
8:37
prompt engineering ting og Sådan noget der så putter vi dem bare
8:40
ind i modellen. Rimelig meget som man ville
8:43
forvente det i virkeligheden, at hvis hvis hvis nu Det var rigtig
8:48
nemt at ignorere henover. At træne Sådan en model der,
8:52
hvilket det ikke er. Og at man bare havde ny data
8:56
Sådan nogle ting, så når man fik nogle lønnings på hvordan man
8:59
kunne bruge dem. Så ville man bare instinktivt
9:01
tænke det skal træne den til at den kan i stedet for ikke
9:05
ligesom vi snakkede om de der fucking ej lad os da træne den
9:09
til at den kan finde ud af det der i stedet for at Vi skal
9:11
bruge alle mulige tricks nede bagved, for ligesom at give en
9:15
model i den rigtige retning. Det er så besværligt.
9:17
Lad os bare træne den til den kan finde ud af det, så
9:20
efterhånden så finder man ud af hvad er hvad er de der
9:23
brugsscenarier? Hvad er det for en måde vi
9:26
interagerer med de her modeller på?
9:28
Og så skræddersyr man den jo til at Det er den interaktion, som
9:33
de er trænet til. Med de forskellige model liter
9:36
der kommer, så Jeg vil jo sige Det er det mest forventelige
9:40
skridt man kunne se. Åbner jeg et tag.
9:43
Med fokus på det her produkt chat gt bare gør det mere som du
9:48
ville interagere med det. Det var dybest set også det der
9:50
var deres succes, hvis man spørger mig dengang vi lancerede
9:55
chat delen. Det var ligesom det her en fast
9:57
løn med human feedback, at man fik noget fornuftigt chat
10:01
interaktion med den ja. Ja så hvad hedder det så før i
10:07
tiden var det mere Sådan du ved der var givet til 4 som så ud
10:13
til at kunne selvfølgelig tekst ind tekst ud, men også kunne
10:15
tage billede ind og tekst ud. Billede ind i billedet og tekst
10:20
ind og så. Tekst ud.
10:23
Og hvis det så skulle tage tekst ind og billedet ud, så skulle
10:27
den bruge det. Så skulle den kalde 1 1 1
10:30
ekstern model ikke og så bruge så det ville så være der lige 3
10:34
for eksempel hvilken så kalde og så giver jeg et billede og sende
10:36
det med tilbage, så man fik en oplevelse af Det var chatty der
10:40
gjorde det, men Det var det selvfølgelig, men Det var
10:42
ligesom 1 1 1 gaffatape trick mellem flere modeller, så har vi
10:46
også den her tale hvor at i gamle chat kampe og gamle g 4
10:52
der var det. 111111 speech testmodel der kører det som
10:56
ligesom lavede tale om til tekst og så kom det tekst så ind IP 4
11:01
og så kom der så 1 1 1 1 testsvar output tilbage og så
11:04
blev det ligesom lavet om til stemme og så blev det.
11:08
Hvad hedder det sendt ud gennem højtalerne.
11:10
Jeg kunne godt tænke Jeg er i tvivl om jo, men Jeg er i tvivl
11:16
om er det så bare ned med den nye geforce 4 o her er det så
11:19
bare hvad en? Audio der kommer ind, der blev
11:24
tegnet og kommer ind i kvt 4 og ren audio der kommer ud igen.
11:28
Eller er der stadig det her? Speed 2 tekst intermediate deb
11:33
Det er jeg Det er lidt nysgerrig på, men det tænker jeg det må
11:36
man jo kunne finde ud af. Altså hvis hvis de ligesom gør
11:39
apiet tilgængeligt. Så må man jo finde ud af det.
11:43
Ja, Det er der jo interessant, hvis vi lige går et skridt
11:46
tilbage. Vi formoder jo stadig.
11:48
Det er en transformer det det skulle være meget mærkeligt,
11:53
hvis der var sket noget revolutionerende der.
11:56
Hvad ved vi jo ikke gjorde hvad som helst.
11:59
Altså man kan sige. Så så er det step.
12:03
Det er det nok fordi den jo også er hurtigere, så er det jo nok
12:06
en den mest opdaterede version af en arkitektur med alle de
12:09
nyeste tricks for en hvordan man implementerer en transformer.
12:14
Ja. Og men.
12:17
Det Jeg synes Det er spændende Det er og Det er noget jeg ikke
12:19
helt Sådan nødvendigvis har selv forstået så godt det nu du
12:23
nævner det også lidt det der med.
12:26
Når vi genererer noget, så de koder vi jo, men.
12:31
Er der egentlig ikke flere forskellige dekoder modeller
12:34
her? Eller Sådan løsninger, fordi
12:37
nogle gange skal vi måske disse cookies direkte til noget, noget
12:41
lyd og nogle gange direkte til noget tekst og så nogle gange
12:43
direkte til noget billede. Hvis Det er det den kan.
12:46
Det er ikke sikker på. Nå så det.
12:50
Ja. Der er stadig lidt usikkerhed
12:52
omkring helt konkret hvad der sker ikke altså.
12:55
Drømmescenariet ville jo være at man bare ligesom tog.
12:58
Altså fordi jeg forestiller mig at hvis du har den her sal true
13:02
multi model model. Som tager du?
13:05
Det er jo den du hælder bare video og tekst og billeder og
13:10
lyd og hvad fanden du har lyst til i den time Series whatever
13:13
et eller andet bare ned med det ikke ind med det du.
13:18
Data. Der kunne man jo forestille sig,
13:21
at Det er Sådan en model har brug for.
13:22
Det er der kommer ligesom noget data mod dem.
13:24
Hvis Det er lyd, så så har man en tunge nisser.
13:27
Der er trænet til at sukke nice lyd og servere det til modellen.
13:31
Hvis du har tekst så har du en anden tone.
13:33
Når jeg så er Der er trænet til at trække nice tekst og så giver
13:36
det til modellen. Hvis du har billeder, så har du
13:38
en tredje tonic og tonic billeder.
13:41
Jeg mener vist nok i de her vision transformers der.
13:45
Der er der, Der er faktisk der bliver der kommer der Sådan en
13:48
patch ind og så bliver der genereret og så bliver det
13:50
ligesom. Så kommer det ind i et andet
13:53
forlag, og så bliver der genereret.
13:55
Eller man skal sige embedded en en separat token for det patch.
14:02
Hvordan det hele det der mekanik.
14:04
Hele den der mekanik sker aner jeg ikke, men Jeg er ret
14:06
nysgerrig på at finde ud af om Der er speeds 2 tekst altså om
14:10
Der er en separat speed tekst model involveret i det som
14:14
operere har vist her eller om Det er simpelthen bare er lyd du
14:17
bare maser ind i den her nye BT 4 år, for der står nemlig altså
14:20
sagde målmand havde lavet Sådan en live dækning af det eventet
14:25
på eller på streamen eller livestream der på på Twitter.
14:30
Og han skriver at RNU model GBT for øu's best model eller et
14:37
smart et fast et natfly multimodal, og så skal de jo
14:43
også lige siges. Den bliver også gjort
14:44
tilgængelig for til til gratis brugerne så men det her natfly
14:49
multi model det det tyder jo på at du bare smider data ind i den
14:55
og så falder den det. Jeg sidder lige og læser lidt,
14:59
imens fordi at Det er nemlig også lidt Sådan spekulativt.
15:02
Lige nu for for Vores vedkommende, og Jeg kan jo
15:05
faktisk se at de skriver at. Øh for GT 4 o der kunne man
15:13
bruge det her voice møde til chat kampe der var en Nancy på
15:17
de der 2,8. Blåbær og for at man kunne det
15:22
det der voice mod så skulle man igennem den her pipeline at 3
15:24
modeller ikke ind til simpel. Hvad kan man sige audiovisuelle
15:31
scion fra audio til tekst ikke og så skulle det her give til 4
15:36
ligesom tage den og tekst og output noget tekst og Det er nok
15:40
Jeg tror Jeg har de har lavet hvad kan man sige de har lavet
15:44
den del hvor man ligesom prompter selve.
15:52
Ja. Tekstdelen og så og så skulle
15:57
det der tekst så tilbage til til audio.
16:02
Og. Jeg ved ikke lige det sidste
16:05
step. Det forekommer som om der må
16:07
være et eller andet engineering imellem det også fordi man
16:09
ligesom. Når du har noget oplæsning, så
16:13
skal du enten have trænet den, der oplæser til at være meget
16:17
Sådan den forstår ligesom det der output format som gives til
16:20
4 producerer, eller også så skal den ligesom præg produceres på
16:24
en eller anden måde, så så ja så så Det er en eller anden Der er
16:28
et eller andet præcisering der formoder jeg eller også er den
16:30
bare trænet rimelig hardcore på på p 4 outputs ja anyways og det
16:36
Det er så det. Det er så det de skriver at med
16:42
den her gt 4 o så har de trænet en enkelt model til at lave det
16:46
her antog end. Det burde være lyd en lyd.
16:52
Hent across tekst vision audio ikke altså.
16:55
Det er sindssygt. Jo Det er jo.
16:57
Det er jo nyt. Det er jo meget nyt.
16:59
Så alle modeller er produceret af det samme netværk, ikke?
17:03
Men Det er også derfor Jeg er så så og Det er jo og det kommer
17:06
det. Det kan måske også forklare det
17:08
der med at den den den lærer mere og det virker som om den
17:10
er. Det er den bedste model jeg var
17:12
nu her ikke den slår i hvert fald det ud til den slår de
17:15
andre, og Det kan også da Det kan også forklare med, at den
17:18
ligesom får flere modaliteter i samme pærevælling.
17:22
Ikke at den ligesom lærer forskellige modaliteter.
17:24
Noget vi også lagde mærke til i deres demo der II hvad hedder
17:28
det RI åbnings demo Det var at man kunne bede den om at altså
17:31
den kunne også ligesom reagere på tonefaldet en stemme hvad
17:35
skal man sige om man var ked af det og sur eller hvis man råbte
17:40
eller altså give feedback på, hvad skal man sige hvordan man
17:44
taler og ikke bare de hardcore de tokens man man taler med bare
17:50
lige hurtigt i øvrigt den der står de en anden ting man skal
17:54
vide hvis man kommer til at bruge api'et, Det er at den er 2
17:57
gange hurtigere den her p 4 o. Eller 2 gange hurtigere end det
18:01
forrige kapitel 4. Den er 50% billigere og så den 5
18:05
gange højere rate limits siger de også.
18:09
Ja Det var bare lige et. Tidspunkt ikke bare tro på at.
18:13
GBT 4 som vi kender det nu bliver deprecated rimelig hårdt
18:17
snart. Jo altså fordi når du siger 50
18:21
gange billigere. En af de ting, som man jo ved,
18:26
hvis man skal være provider og leverandører af de her ting, Der
18:29
er, at man skal kunne levere høj kvalitet.
18:32
Man skal kunne levere det hurtigt.
18:34
Om man skal gøre det med så lave omkostninger som muligt, så har
18:37
man den bedste business model og.
18:41
Altså. Det må man bare sige hvis det
18:45
passer at den kan det samme som turbo defekt 4 turbo.
18:49
Har lige så høj kvalitet. Er der ikke nogen grund til at
18:52
den ikke at den ikke bare skal få det?
18:55
Og og det skal jo siges bare lige for os lige hurtigt Sådan
18:59
gosse wise. Den er jo blevet testet på det
19:01
her LM sys chatbot Arena hvor de får Sådan en hvor folk ligesom
19:07
raider chatbots svar og Der er blevet Der er blevet testet før
19:12
den er blevet releaset under navnet IM also er god GPT
19:16
chatbot. Hvilket er lidt fjollet.
19:20
Det er Sådan en lille essay eller andet de har lavet, og der
19:23
kan man også bare se at der altså den den den den er markant
19:26
bedre end. En de andre eller virkelig og
19:31
især på på kode delen, skriver Samuelsen.
19:36
Han deler nogle charts, hvor så hvis man skal tro jamen, så er
19:38
den. Okay så det.
19:44
Ja. De er bare foran, ikke Det er de
19:47
sku. Så.
19:48
Jeg kan huske lige. Kom og Sådan siger hey Vi har
19:52
lavet en bedre og de open source begynder at catche op, så
19:54
dropper de lige den der siger de har mere.
19:57
Det Det er nemlig det og og det et eller andet sted, så var det
20:00
også forventeligt. Kan man sige fordi de har jo
20:02
mens de andre har catchet op, så har de haft muligheden for at
20:05
kigge på på hvad hvad gør vi så? Men noget af det som vil sige er
20:09
ret forudsigeligt. Det er det her med med de her
20:15
modaliteter, at man ligesom smider tingene sammen ikke og og
20:20
Det har hele tiden jo været et spørgsmål om.
20:21
Har man nu data til alle de her modaliteter til at man gider at
20:25
putte dem i? Jeg tror hvis de havde haft alle
20:26
de der data fra start. Så havde de puttet dem med
20:30
Indien ikke, men nu har det måske så fundet ud af at få
20:33
noget mere data til de der ting. Men en anden ting, som jeg bed
20:37
mærke i, Jeg synes var. Var interessant med det.
20:40
Det er det her. Sagde Morten sagde det også
20:44
engang, at tiden for store modeller er allerede slut.
20:49
Det sagde han for. Lang tid siden altså med det
20:52
mener han store tunge mange parametre modeller som Jeg tror.
21:00
Piger med kapitel 4 den gamle agtigt ikke for dem.
21:05
Simpelthen fordi at de sagtens kan se det der computerproblem.
21:10
Og det som de jo også går efter her.
21:11
Det er den her de de de highlighter og den har ligesom
21:15
lav latency. Det tager ikke lang tid før at
21:17
den reagerer på at du snakker. Vi snakker ikke Sådan den har
21:21
det her unaturlige 3 sekunders. Ventetid for den ligesom kommer
21:27
tilbage med noget. Det er Sådan integrerer vi jo
21:29
ikke med mennesker. Vi vi vi.
21:31
Så nu her, ikke? Jamen Det er det.
21:33
Vi er jo langt hurtigere til at at hele tiden at have Sådan en
21:35
en reaktion, når vi når vi samtaler.
21:37
Og Det er klart, det bliver aldrig nogensinde en naturlig
21:40
samtale, hvis ikke man kan få den der latency ned.
21:45
Lad os nu forestille os at den var vildt lav at den bare var
21:49
super snappe til at svare meget meget hurtigt tilbage.
21:52
De siger i øvrigt 320 millisekunder on average er
21:55
responstiden, hvilket er Sådan timer til youmen sige
21:58
interaction. Ja lige præcis, så så de rammer
22:02
ligesom sweet spot der og lad os nu forestille os at de kunne
22:05
gøre den endnu hurtigere. Altså.
22:06
Den var rigtig hurtigt, så ville de formentlig med vilje skrue
22:10
latency lidt op for at få den til at virke mere naturlige
22:12
integrere med det. Det er jo bare sjovt at tænke
22:15
på, ikke? Men.
22:18
Jeg tror lige hurtigt. Jamen det præcis, så bliver det
22:20
unaturligt hurtigt så. Og Det er lidt ligesom du ved
22:23
når den ja altså det. Det er bare meget morsomt synes
22:27
jeg tænker over. Det skal Det er lige før tit den
22:32
den skal virke som menneskelig som muligt og lige om lidt så
22:34
kalder vi den for. For marius eller hvad hed den
22:38
der giraf der II 7 blev slået ihjel og den skulle aldrig haft
22:43
et navn og Sådan nogle ting. Ja anyway.
22:47
Men altså. Det virker også som om at der
22:49
ligger noget, altså de har i hvert fald det virker til.
22:52
Jeg synes vi taler frem til at læse os frem til mere og mere,
22:55
at det bare er Sådan en influent multi model model, så Der er
22:59
altså ikke noget at spise tekst. Der er ikke noget noget som
23:01
helst, Det er bare tekst. Det er bare tale ind tale ud
23:05
eller tekst ud eller hvad man har lyst til.
23:09
Men hvordan fungerer det? Skal vi prøve lige og fordi vi
23:12
vi kunne godt kan vi dykke lidt ned i det ved vi noget om Det er
23:16
vi kloge nok? Noget om det.
23:20
Ja ved vi noget om det. Det er jo et godt spørgsmål.
23:23
Altså Det er jo Det er et godt spørgsmål.
23:26
Altså jeg tænker at. Er vi ikke enige om at at den
23:31
normale måde inkludere en ny modalitet af data på Det er
23:35
ligesom sige. Lad os nu sige, Vi har Vores
23:37
Vores input lag som er lad os bare få for for eksempel det det
23:43
den er 1000 vektor ikke så er de første 500 Det er til Det er til
23:50
billedet og de næste 500 Det er til tekst ikke.
23:55
Og så og så putter man den bare sammen koncerter det og så
23:59
sender man det der igennem. Det er jo nogenlunde Sådan, det
24:03
fungerer. Men Det er også lige før man
24:05
bare kan forestille sig at den bare har 4 forskellige spor, for
24:09
eksempel hvis nu det her tekst billede.
24:12
Video audio. Men den har vel?
24:15
Så har man bare forskellige togspor, 4 specielle togsporet
24:18
og hele tiden kører. Og så hvis ikke Der er noget
24:21
video så er det bare 0 0 0 0 altså bare Sådan 0 2 der bliver
24:24
sendt ind hele tiden ikke vi starter video så så er der Sådan
24:27
nogle video tokens eller et eller andet og så får den bare
24:30
hele tiden alle 4 spor ind. Og så sikkert ret hurtigt til
24:35
ligesom at nå der står nul i det her input her, så den aktiveres
24:39
slet ikke de her lag så computer tiden på dem.
24:44
Er er nærmest ingenting, fordi allerede i første lag så siger
24:47
den bare ingenting, men Der er også noget med, at hvis den så,
24:51
skal de koge det til til noget. En modalitet for eksempel, som
24:56
den ikke har fået ind, hvor du så.
24:59
Hvad hvad sker der så? Og Det er især særligt det der
25:01
DK der lag da jeg Sådan lidt. Det synes Jeg er.
25:04
Sandt. Det virker til at det går d code
25:06
til tale og teksten nu ikke. Altså det virker ikke som om Det
25:10
kan generere billeder. Det synes jeg ikke.
25:12
Vi har set noget om der virker det.
25:14
Som om at det stadig er eller hvad katten.
25:18
Det kan sgu godt være den kan. Er det noget med, at der så som
25:21
der må være et eller andet lag der til sidst hvor at når den så
25:23
dekoder, så lad os nu sige de her 500.
25:28
Og så så DK er den måske til et eller andet dens?
25:33
Normalt lige der til slut ikke og så hov Det var en masse
25:36
nuller så. Det var altså ikke noget.
25:39
Det var ikke noget billede der kom ud af det her.
25:41
Det var bare noget tekst, så er det.
25:44
Men du ved, Det er jo Sådan noget med.
25:46
Så er der en eller anden form for threshold eller Der er ikke
25:49
noget til sidst. Er der en eller anden form for
25:52
orkestrering i hvert fald. Hvornår skal jeg outputte
25:54
billedet? Hvornår skal jeg putte lyd?
25:56
Hvornår skal jeg putte det ene og det andet?
25:57
Det tredje ikke? Og hvad nu, hvis man både får
26:00
video og lyd på samme tid og altså Sådan Det var Sådan helt?
26:06
Flere aktiverings funktioner jo ikke det her til sidst, og som
26:08
som bare er med til at styre det.
26:11
Der er i hvert fald en nogle nogle ting og sager, der ligesom
26:13
bliver mikset sammen der ikke. Men jeg tænker lidt hvordan de
26:16
har fået lavet koblingen mellem lyd.
26:19
Og. Nu lyder svar ikke eller Sådan
26:23
jeg. Jeg ved ikke.
26:25
Har de så bare taget samtaler og så bare trykke nassede.
26:31
Så er det Sådan en eller anden, så er det Sådan en eller anden
26:34
matic token ikke hvor du har Sådan et eller andet særligt
26:38
prompt, så for eksempel hvis nogen trykker på knappen.
26:40
Jeg vil gerne have have have hvad hedder det audio tilbage?
26:44
Ikke jamen så så hvad hedder det så får den det her magic toppen
26:50
med i inputtet og det gør bare fordi at den er hårdt trænet til
26:53
at hov der kom det her specielt tungen så skal jeg bare
26:56
aktivere. Alt det her lyder genererende
26:58
show så stort set altid ovre i det lyde generende på grund af
27:02
de tabende, ikke? Man kan sige den den afgør måske
27:05
ikke altid selv. Den afgør måske ikke selv
27:08
hvornår den taler, og hvornår den skriver.
27:10
Det er det jeg tænker det fra. Den gør den ud fra prompten,
27:15
ikke? Den den gør man skal bedt om men
27:17
men men hvordan styrer du Sådan en?
27:19
Det gør du ved at have det her prompt template rundt om, så jeg
27:23
forestiller mig at Det er den samme måde som i dag med chat
27:25
formatet jo også har et system prompt og en Sådan en en user og
27:29
en assistent og bla bla bla ikke så Det har en template, men det
27:33
template er bare gearet til hvad kan man sige model liter?
27:36
På en eller anden måde, ikke? Giver mening at snakke om
27:38
templates med lyd, for eksempel hvis det bare er lyd.
27:41
Ja. Så prompten Patrick rigtig en
27:43
ting mere vel så er det jo. Bare godt men, men Det er jo
27:46
bare prompt template er jo også bare nogle special tokens som
27:50
som bliver toke nisted og altså du ved det.
27:53
Det ville det så også være billigere, så Det er jo bare et
27:56
et spørgsmål som bare er en integrere jo et sted, men så
28:01
holder du ligesom den her injekt.
28:02
Det er Sådan et specielt 1 9 9 1 eller andet ikke og så så kører
28:07
den bare derudad. Jeg tænker.
28:09
Jeg godt. Jeg sidder og bla bla.
28:12
Jeg glæder mig til at se. Jeg glæder mig til at se
28:15
dokumentationen for det her. P altså hvordan man.
28:18
Hvordan man. Ja altså så sender du bare lyd
28:22
til den og så får du noget lyd tilbage eller hvordan og jeg
28:25
kommer til at tænke på. Jeg kom lige pludselig tænkte nu
28:27
har vi haft den her dansk sprog models konsortium debat og hvad
28:31
hedder det alt det her snak der har været om det både positivt
28:35
og negativt. Det begynder også at det
28:38
begynder at blive mere og mere intimt på en eller anden måde
28:40
det her ikke. Altså det her med at nu skal vi
28:42
også tale med dem og de skal svare på dansk og nu bliver det
28:46
ikke engang rigtigt oversat til tekst mere ser det ud til nu er
28:49
det bare ligesom. Lyden bliver direkte tog nisset
28:52
en eller anden magisk model ind indeni, og så får man noget
28:56
tilbage og så videre, så det virker som om, at det kunne
29:01
umiddelbart det bliver på en måde bliver mere og mere Sådan.
29:04
En time til Sådan rigtig menneskelig interaktion ikke og
29:10
jeg min umiddelbare intuitive tanke er, at kulturforskelle
29:16
bliver mere mere vigtige der også fordi man kunne høre på på
29:20
hvad hedder det den her. Demo stemme demo at den her
29:26
stemme de havde brugt til at svare var meget altså meget
29:29
amerikansk i sin fremtoning og Sådan hey hvor gottes i word
29:33
Sådan altså hvor og Det er selvfølgelig ikke fordi Det er
29:36
et kæmpe problem, men det ville man bare synes var lidt
29:39
mærkeligt ikke at at hvis den også bare.
29:41
Sådan fordi det skal jo være Sådan lidt your friendly nabot i
29:45
ting ikke men men men hvad hedder det?
29:48
Det er sjovt du siger Det er kom lige til at tænke på noget når
29:51
du siger det der med Kultur at at det bliver endnu vigtigere
29:55
her og det det det tror jeg du har meget ret i.
30:00
Der er jo mange subtile kulturelle ting i at interagere
30:04
med et menneske som som man kan sige man ikke fanger
30:08
nødvendigvis. Og hvis vi begynder at integrere
30:12
meget med med den slags, jamen, så kan det også være.
30:14
Det påvirker Vores Kultur og Vores måde, at adfærd og Vores
30:17
måde at være på det tror jeg, er enormt vigtigt at tænke på.
30:20
Og så lige for at binde det til det der med konsortiet.
30:23
Jeg husker ikke, at vi hørte noget særligt meget om, at et af
30:28
formålene med det her konsortium og det danske tekst, at det
30:31
havde særlig meget med Kultur at gøre i virkeligheden at at vi
30:34
ligesom skulle bevare noget ligesom debatten startede meget
30:38
på det der med danske sprog modeller som noget med dansk
30:41
Kultur. Og Vi skal have indlejre det i
30:43
de her modeller, fordi de er jo ikke særlig gode til at forstå
30:46
dansk rigtig dansk, så Det er nok.
30:50
Det er ikke det Der er formålet, tror jeg med det der konsortium.
30:53
Det kunne i øvrigt være interessant at snakke med nogen,
30:55
som kan sige lidt mere korrekte om hvad deres formål er.
30:59
Lidt en spøjs snak vi fik om den der sidste sidste uge der, men
31:03
Det var Sådan Det var lige det vi havde overskud til.
31:05
Det må vi lige gøre. Ligesom at vi lige scratcher det
31:08
service af hvad der ligger i gb til 4 o nu men men ikke desto
31:12
mindre. Ja Det var bare lige Sådan sit
31:15
sit note. Jeg kommer til at tænke på Sådan
31:18
hvad. Hvordan ser træningsdata ud?
31:21
Altså fordi træningsdata med Sådan en tekst tekst.
31:24
Og nu taler vi som om at den bare tager data ind, altså at
31:28
den er natfly multimodal. Det virker fordi det virker som
31:32
om at den her det umiddelbart på det evidens Vi har nu her ikke
31:34
Det har meget Sådan sparsomme research vi lige har lavet men
31:38
vi bare snakker og tænker stikker tilfældet så hele den
31:42
her podcast bare på Sådan en falsk grundlag.
31:45
Så er det en god spekulativ suppe.
31:49
Men hvad hedder det? Hvad fanden var det vil sige jo.
31:54
Så jeg tænker Sådan på hvordan er hvordan ser træningsdata ud?
31:58
Ikke fordi tekst og tekst. Det var så dejligt nemt.
32:01
Du ved Det er bare tekst og så hvis du vil have den til at
32:04
opføre sig lidt mere instruktion agtig og lidt mere præference
32:07
agtig, så laver du lige nogle tricks segment.
32:10
Det er stadig bare tekst tekst og det første skridt der du ved
32:14
der bruger vi bare random tekst næste skridt der hånden tuner vi
32:18
lidt mere Sådan du ved laver nogle manuelle nogle manuelle
32:22
datasæt og så videre. Altså kører vi ikke?
32:24
Hvad er processen her? Fordi.
32:29
Jeg tænker lidt. Tror du ikke Det er Det er det
32:32
samme som den løsning der kom fra ryan første løn med
32:35
feedback. Det er hvad nu hvis Vi er liner
32:39
data til at repræsentere menneskelige præferencer?
32:43
I tekst. Hvad hvis vi så gør det for alle
32:47
andre modaliteter, så vi gør det til your friendly nabot aii til
32:53
til lyd tale interaktion snakke. Billede video hey har jeg jeg se
33:01
lige det her. Og og og jeg.
33:04
Jeg sidder og tænker åh gud Der er meget data at den form for
33:09
meget private interaktioner, som i virkeligheden repræsenterer
33:13
den måde at interagere med folk på, som man skal have samlet op.
33:17
Og hvor i alverden har de fået det data fra de simulerede?
33:21
Det har de genereret det syntetisk hår de.
33:25
Der er nogen, der må være noget syntetisk data og noget noget
33:28
kuvertering og ret hård. Altså jeg tænker Sådan gad vide
33:32
om de bare tager tale? Altså tale dialog, så tager de
33:38
den ene den ene siger prøver at generere dernede.
33:41
Det er den anden. Siger Det er den ene ting igen
33:43
prøve at gøre alt det andet eller Sådan.
33:45
Du ved er det Sådan. Nu har vi også længe brugt den.
33:48
Der har jo været tale capability chat capite længe i
33:52
virkeligheden, og der virker det Sådan, at man taler, så bliver
33:57
det oversat til tekst. Og så bliver det sendt til dvb t
34:00
og så får man tilbage eller Sådan, så kører det Sådan ikke
34:04
ved at man bruger det, så har de selvfølgelig også fået rigtig
34:06
mange tale tekst. Query tale tekst svar tale
34:14
tekst, svar tale tekst svar altså Sådan du ved, så har de
34:17
fået nogle i og med de har brugt deres egen speech til tekst
34:21
model har de fået talen konverteret om til tekst, og så
34:24
har de ligesom genereret noget tekst som svar og lavede
34:28
syntetisk stemme tilbage og så videre.
34:30
Det har de. Jo masser af data på altså de
34:31
har meget Sådan de har meget. Men det vil jo aldrig blive
34:36
bedre end deres bedste. Tekst til speech model kan man
34:40
sige Det er ligesom butleren, fordi hvis det hvis de træner
34:43
på. Ja jeg ved det ikke.
34:46
Jeg ved det ikke. Jeg synes det.
34:47
Jeg synes Det er jeg glæder mig til lige at læse lidt op på
34:49
hvad. Hvad fanden setuppet her er
34:53
fordi det ikke Sådan helt. Det kan du egentlig have ret i,
34:58
at vil det nogensinde blive bedre end det, hvis Det er det
35:01
samme data. Men der må være et eller andet
35:04
nyt i det alligevel ikke. Altså på en eller anden måde.
35:07
Det er jo trods alt menneskeligt input fra en mange forskellige
35:11
mennesker, og jeg forestiller mig alligevel at.
35:15
Tag bare så noget mærkeligt som at du sætter dig ned og begynder
35:18
at snakke til den og så. Hey hold din kæft mand jeg gider
35:21
ikke høre på det der. Så kommer du med Sådan nogle
35:23
mærkelige ting og sager oveni ikke også altså er ret sikker på
35:27
det bliver optaget og gemt et eller andet sted det der du
35:29
sidder og og og whiskey afsted og og så kan man jo forestille
35:36
sig at man har noget rimelig hård kuratering af det data.
35:41
Noget noget simpelthen noget præcisering, ikke hvor man kan
35:44
finde ud af Sådan. Hvad er kvaliteten af det?
35:46
Hvad er det for nogle typer interaktioner, vi godt kunne
35:48
tænke os, at at modellen skulle repræsentere det tror jeg, Der
35:51
er ret meget data i Vi skal. Vi skal huske, at den her app
35:55
den har simpelthen så mange brugere.
35:57
Og vi vi fodrer den bare vi fodrer den bare så.
36:03
Så det må det må være det de har data fra.
36:05
Jeg kan ikke forestille mig andet end at der må komme noget
36:07
derfra. Nej de 2 fordi Det er jo Det er
36:11
jo det første. Det er det første.
36:12
Nej det gør det sgu ikke, så har vi hellere indsamlet.
36:15
Nu med det vej til g 4, så nu kan de generere stort set alt
36:20
hvad den er trænet på bare ud fra den.
36:22
Så nu lige rører ikke jeres data med jer.
36:24
Nej de har kigget på det en gang, ikke?
36:27
Jeg så spørgsmålet er, har de trænet det her?
36:29
Stemmekøb komponent. Har de trænet det med data Der
36:33
er indsamlet fra chatdk bruger Det har de jo 100% altså
36:36
hvorfor? Altså de fortæller dig det nok
36:41
ikke fordi der står bare et eller andet sted nede i din
36:43
agreement, når du når du signer på at at vi må bruge det så.
36:51
Det er jo. Det er jo hvad Det er.
36:54
Altså jeg tænker meget Sådan hvad med Sådan med Sådan noget
36:57
med speech 2 testmodeller er det bare noget man ikke får brug for
37:01
i fremtiden? Jeg vil jo sige det Sådan, at at
37:06
hvis du har en app hvor du har et special case, skal du så igen
37:10
gå ud og hvor du kun handler om det.
37:12
Du skal spise til tekst for eksempel eller du har en eller
37:16
anden særlig data. En opgave eller et eller andet
37:20
til noget applikation? Skal du så gå ud og bruge den
37:24
her nye model? Det afhænger jo helt af, hvad
37:27
koster det og hvad koster det, og hvor hurtigt er den og kan du
37:33
med en open source variant få bedre kvalitet ved at tune den
37:38
lille smule versus bare bruge den her løsning?
37:41
Altså Jeg kan huske for det her kom ud hvor vi havde siddet og
37:45
spekuleret lidt i krogene over hvis der kommer Sådan en gipsy 5
37:48
agtige model der bare er endnu større og endnu tungere og trods
37:53
havde nævnt Det er nogle sammenhænge hvis den er.
37:56
Lineært mere smart på alle mulige måder, men eksponentielt
38:00
til langsommere. Så nej tak ikke, men Det er jo
38:03
ikke det der lader til at være tilfældet her.
38:06
Og Det er jo det der for mig at se er det mest interessante.
38:10
Dobbelt så hurtigt eller 2 gange eller 2 1 halvt eller hvad Det
38:12
var og så 50 gange så billig. Ja.
38:17
Det Det er det der batter og det tror jeg også godt de ved.
38:21
Det giver både på den her deres egen chat app.
38:25
Men det giver også på på dem der der bruger det.
38:29
Folk vil ret hurtigt. Tilbage til tilbage til til til
38:36
til vinderen, hvad vi bruger bare den dag derovre og
38:39
pludselig der kommer til at ske price drop alle mulige steder
38:43
alle mulige piger der. Eller også kan de slet ikke
38:46
følge med, fordi de har måske nogle gamle gamle kongelige
38:49
modeller som bare koster det rene computer mæssigt kan ikke
38:51
putte prisen længere ned. Det kan også være tilfældet.
38:56
Man tænker Sådan debugging wes ikke hvordan fanden skal man så
39:01
gøre det her? Fordi.
39:02
Hvad så hvis du gerne vil lave en en tale applikation på dansk?
39:08
Og du ligesom taler til et eller andet og du skal bruge.
39:11
Du skal sige et eller andet egennavn, altså en eller anden
39:14
identity. Det er jo et klassisk problem de
39:18
har spiste testmodeller har fordi at.
39:21
Du ved det. De altså egenavne er jo ikke en
39:25
del af. Du ved af alle sprog og kan være
39:30
stavet på usandsynlige måder og så videre ikke og hvordan jeg
39:32
tænker Sådan jamen jeg ved ikke Det var der også mange
39:35
praktikaliteter du ved Det er sgu meget rart det der med at
39:37
man kan se hvad stemmen bliver lavet om til i tekst.
39:41
For man ligesom giver det til en model, for det skal man ligesom
39:44
forstå. Okay nå du fattede det ikke
39:46
fordi at det der ord Det var total håbløst oversat ikke hvor
39:50
det blev ligesom hvis det bare er ren lyd ind.
39:54
Så bliver det ligesom usynligt ikke.
39:56
Og så kan du er der et eller andet ved det der virker svært
39:59
at give bock, ikke? Og så kan det blive endnu mindre
40:03
transparent. Hvorfor de her?
40:06
Applikationer ikke fungerer godt på Sådan noget som dansk, for
40:08
eksempel, men helt fint på amerikansk.
40:12
Apropos bare lige for for geners skyld.
40:14
Jeg var lige på hacker news for, og den var simpelthen lagt ned
40:17
fordi at alle andre har tjekket op for at give mig til 4 år, og
40:21
den er jo selvfølgelig allerede. Den er jo lukket helt ned.
40:26
Ja, det må du nok spørge. Det var i hvert fald, men det
40:29
grineren er at jeg ved ikke om i kan huske falcon modellerne.
40:35
Falcon 2. Er lige kommet ud.
40:38
Er det rigtigt? Og den der står den er bedre end
40:41
lama 3. Og hvordan kan man tale om
40:44
dårligere timing? Ja Det er dårlig timing.
40:46
Det er jeg slet ikke hørt om og de.
40:48
Og de vidste, og de har endda vidst, at det her land her
40:50
livestream ville komme ud. Og Det er en, Det er en fun.
40:55
Det er Sådan. Regel nummer et i
40:59
grønspættebogen fra LM marketing.
41:01
Men kan du ikke lige fortælle mig hvordan Det er falcon tog
41:03
så? Er det den der 180 hvor etteren
41:06
var det ikke Sådan? Jo jo Det er den der folkenet
41:09
der var et den største åben source eller dem på et tidspunkt
41:12
da den kom ud ikke og hvad hedder det?
41:15
Og Det er så Technology innovation Institute, der har
41:19
udgivet den, og de siger at den den er bedre end lama 3 ja, Det
41:26
var lige et sidespor her, ikke? Men lige om lidt så kommer den
41:30
der 400. Milliarder parametre fra og så
41:35
lama 3 fra fra meta og den er der bare ingen der husker nu.
41:38
Fordi folk bare have true multi model.
41:43
Men den har også 2 model iteter i sig lige så vidt jeg husker
41:49
ja. Det er sgu ikke nok.
41:51
Det er sgu ikke nok. Nej men okay spøg til side åbner
41:56
jeg gør det igen er det det at kan man?
42:00
Skal vi bare heppe på dem igen eller hvad?
42:03
Hvad tænker du jo. Jamen Jeg synes de de viser jo
42:07
vejen. Det er jo helt sikkert altså de.
42:09
De viser jo vejen for alle. Andre er det det du siger det?
42:11
Her jamen det gør de jo altså og de det virker altså bare som om
42:15
de er længst fremme. De er bare længst fremme.
42:18
Det virker det heller ikke, fordi de er bare lige det der
42:21
halve hele år foran rigtig mange andre.
42:23
Ikke så så mens de andre bruger tid på at træne deres modeller,
42:27
det skal man også huske. Der er Sådan en latency i det
42:29
her ikke når man begynder at træne Sådan en GP 4 størrelse
42:33
model, så så tager det lige altså mon ikke det tager det
42:37
altså ideelt set kunne de jo bare blive ved med at træne og
42:39
blive bedre og bedre og bedre ikke så Det er ligesom en
42:41
strategisk beslutning hvornår man åbner op og releaser de her
42:45
modeller ikke, og der tracker man jo hele tiden de der ved
42:48
hvordan det performer og benchmark.
42:49
Op mod de her MU og alle de her forskellige benchmarks.
42:52
Ikke fordi så lige når den har fået et lille en lille my mere
42:56
end den state of the art Der er nu, så ville vi såmænd ikke.
43:01
Mens alle de andre bruger tid på det, så vi laver Open i deres
43:07
produkt. Bedre udnytter al den data de
43:10
får ind på checkmate og. Går altså nørder den her
43:14
oplevelse og den her. Tale oplevelse med i og ligesom
43:21
har fikset prøver at fikse de ting der var galt med det helt
43:24
Sådan de der helt hvad skal man sige Sådan meget Sådan diskrete
43:28
ting som var galt med det det her med at latency var klokken
43:31
10 og så videre og så prøver de at fikse det og i og med at de
43:35
prøver at gøre det mere tiltalende at bruge mere
43:37
brugbart og så videre. Så finder de ud af, altså
43:40
innoverer de løbende, ikke? Jo altså.
43:44
Og jeg tænker også. At lige præcis det der med
43:47
indsamling af data der har de på en eller anden måde.
43:50
Altså der har de en en forhånd ikke og.
43:54
Og så kan man også sige at Jeg tror timingen i forhold til
43:57
hvornår man sætter den her store træning i gang med de data, så
44:01
det det bliver Sådan lidt et spørgsmål om er der sket nok på?
44:07
Hvad kan man sige på udviklingen af transfer?
44:12
I forhold til at tweake arkitekturen, fordi Det er jo
44:15
det der sker her også med. Men har man du ved har de der
44:21
lønninger omkring hvor mange parametre skal man bruge for at
44:24
få det her niveau af retning man gerne vil have?
44:28
Og hvor mange skal der til at holde de forskellige modaliteter
44:32
og Sådan nogle ting og ligesom få Sådan?
44:34
Stykket noget sammen ikke altså vi.
44:36
Vi skal jo tænke på at når man beslutter sig for Sådan en
44:38
arkitektur, som de har besluttet sig for.
44:41
Så er der så er der alle mulige små tricks i spil indimellem.
44:47
Der er nogle bestemte tension låge Der er nogle bestemte måder
44:51
at præge producere nogle bestemte toke nisser, så Der er
44:54
alle mulige små detaljer som er vigtige for det.
44:56
Det er ligesom spiller rigtig godt ikke og det det suger de jo
44:59
ligesom til sig derinde, også fra forskerverdenen som jo går
45:03
meget meget hurtigt på det her punkt her og tager jo alle de
45:06
her små lønnings med ind ikke. Og jeg tænker også, den er nok
45:12
ikke trænet med reel forskning med feedback.
45:15
Jeg tror det ikke. Jeg tror de har brugt en nyere
45:19
metode nu ikke end det, for den var meget tung.
45:23
Og så videre og så videre. Så videre.
45:25
Der når der når Der er sket tilstrækkeligt på det, så vælger
45:28
man jo at sætte en ny træning i gang.
45:30
Altså en model det Det er Sådan jeg ser det.
45:36
Ja. Altså nu kigger lige her.
45:38
Ja nu er jeg lige på dokumentationen og kigger på p 4
45:41
o og der står at GP 4 o at at det står for omni.
45:46
De får jo SRN most advanced model et måltid model accepterer
45:52
parentes accepting tekst og image inputs and out putting
45:55
tekst. Er det haster samme har
45:58
intelligens er steppie for turbo but it is much more efficient it
46:03
generates text 2 times faster annas fifty procent cheever.
46:07
Additionally, dvd for foo has the best vision and performance
46:12
across non english languages of any of our models.
46:15
Dvd for oibl on the open AIP til pink customers.
46:21
Okay så men så det kunne godt tyde på at alt det vi lige har
46:24
snakket om at Det er Sådan lidt west fordi at det virker ikke
46:27
som om den tager stemmen ind som direkte.
46:31
Eller hvad det det? Det tror jeg ikke, at det læser
46:35
du det Sådan. Der står 1 1 1 multimodal
46:39
parentes accepting tekst og image inputs and outputs en
46:42
tekst. Der står ikke noget med med med
46:45
med lyd ind. Men hvorfor?
46:51
Hvorfor kan den så? Ikke.
46:53
De skriver jo det andet der. Nate fordi Sådan er det jo hele
46:57
tiden. Været altså alle.
46:59
Det forstår jeg alle inputs outputs at brussels by the same
47:02
network. Ja det forstår jeg bare ikke
47:04
fordi det det Sådan har givet til 4 er jo også været der står
47:09
så nu læser jeg PT 4 turbo dokumentationen i beskrivelsen
47:12
af den dybe de får altså large multi modal model parentes
47:17
accepting tekst og image inputs and outputs tekst altså du ved
47:22
så det der står bare det samme. Så hvorfor er?
47:27
Det er lidt interesseret i, hvorfor den lige hvad Der er
47:29
anderledes der om den tager lyd ind eller om den ikke gør og
47:33
hvis ikke den gør, hvorfor er den så speciel meget mere
47:36
multimodal end end de andre? Altså den har en audio model til
47:43
ifølge det når man går ind og kigger på deres deres release
47:47
hvor de har de der videoer og Sådan nogle ting og sager og
47:50
Sådan noget så. Ja så står det der, men Det kan
47:53
jo godt være de ikke altså IP ikke har åbnet op for den model
47:56
sitet lidt ligesom med gb til. P 4 til at starte med og Det er
48:01
derfor du læser det der inden. I dont know.
48:06
Og Der er mange spørgsmål. Vi er bare ikke kender helt
48:09
præcist svaret på, men det bliver da interessant at sidde
48:13
og lege med det på et tidspunkt i det der p der når man får
48:16
adgang til det. Ja.
48:21
Så ja. Jeg synes Jeg synes Der er
48:24
stadig nogle nogle nogle spørgsmål.
48:25
Ikke som ligesom lige. Mangler at blive besvaret for
48:30
mit vedkommende, og som ikke er helt.
48:33
Hvad skal man sige indlysende? Endnu.
48:39
Nu må jeg lige nævne en anden ting, fordi Det er Sådan noget
48:42
der står her i det her Sådan. Model safety and limitations,
48:47
hvor de påpeger nemlig det der med, at Der er nogle risiko
48:50
forbundet med det her audio modalitet og Sådan noget.
48:53
Jamen, så skriver de nemlig der at at de ligesom har de har
48:57
noget extenze, en external red teaming med 70 plus eksperter på
49:04
forskellige domains som society, cody bias, fairness,
49:09
misinformation og så videre og så videre.
49:11
Og. Det er jo.
49:15
Jeg vil sige Det er jo igen. Det ved jeg ikke om de.
49:18
Det tror jeg ikke de gjorde på den anden, men der har de jo en
49:21
eller anden måde ligesom at. Ja og sikkert at lable noget
49:26
data. For ligesom ikke at være fedt
49:29
for. For fight som man siger, og som
49:32
måske bruge den labeling til ligesom at identificere noget
49:36
andet data. Som man så har sorteret fra.
49:41
Som mon ikke at der også er et vis element af at ligesom er
49:44
Sådan rimelig hårdt til den på præcisering her, for ligesom at
49:48
sikre sig at man bare har det bedste af det bedst med.
49:54
Det er jo også noget med, at hvis man bare har mange vægte og
49:57
bare træner i lang tid på alt for meget data, så skal man nok
50:01
indfange alle de her. De gode ting, men man får også
50:06
indfanget alt muligt. Man slet ikke kan bruge til
50:08
noget, men hvis nu man så sorterer alt det fra man slet
50:10
ikke skal bruge til noget i data, så så behøver man ikke en
50:14
lige så stor model og så. Så bliver en mindre Sådan mere
50:18
effektive og alle Sådan nogle ting der tror du ikke det også
50:20
er noget af det der ligger i den her optimering.
50:23
Nu tænker jeg bare højt i forhold til hvad der kunne ligge
50:25
til grund for deres. At den den bliver hurtigere og
50:29
billigere at køre. Jo det tror jeg det tror jeg
50:32
helt sikkert. Igen.
50:37
Spekulation spekulation Der er mange spekulationer i den her
50:40
episode, og Vi har indtil videre snakket som om at den ligesom
50:45
bare spiser lyd lige såvel som tekst, men inde på
50:49
dokumentationen virker det ikke så som om at den den.
50:52
Det er det Der er tilfældet, men så undrer vi os over hvorfor den
50:56
så er natfly multimodal og hedder oo for omni når den ikke
51:04
også tager. Lyd ind for eksempel.
51:08
Hvor? Der det læser en på det læser en
51:14
på platform åbner jeg dot com skråstreg dogs slash models
51:18
slash WT for oo kan lige prøve at sende det til dig.
51:23
Men altså ja Det kan jo være at Det kan jo være at det
51:27
simpelthen bare er 1 1 1 1 manglende.
51:34
Det er inde på AP dokumentationen.
51:36
Ja Det kan jo også være at Det er simpelthen bare at.
51:40
At som vi snakkede om lige tidligere, der ikke er åbnet op
51:43
for for den modernitet IP endnu ligesom.
51:46
Det bare var fedt hvis de lige havde det.
51:47
Hvis de lige havde sagt Det var lidt mere Sådan, men man kan
51:50
sige ja, men man kan også sige det her.
51:51
Det var jo heller ikke en développer live stream, Det var
51:54
jo en produkt live stream. Giver det mening at så Det var
51:57
ikke så meget det handler ikke så meget om papirerne bagved.
52:01
Det handlede mere om produktet ikke, men Jeg er nysgerrig på
52:04
hvor meget hvad skal man sige hokus pokus der forestår foregår
52:08
i produktet udover det det rene. Fra g til 4 OAPI altså foregår
52:14
der noget spiste tekst. Foregår der nogle ting og sager
52:19
der som. Som man lige selv skal ingeniøre
52:23
sammen også det der med at den den måde tager billeder men ikke
52:26
video. Så det kunne godt tyde på at den
52:28
ligesom. Laver Sådan en video redning ud
52:33
fra snapshots af videoer ikke? Ja så Det er spændende, men
52:41
måske bare lige for at tage et et skridt tilbage, så tror jeg
52:43
at og Jeg synes Det er det Jeg har kunnet fornemme i
52:46
virkeligheden i noget tid at åbne jeg de.
52:51
Prøver ligesom at. Tage det her i en retning?
52:55
Af at man skal tale mere til sin egen.
52:58
Man skal tale mere til sin computer, og Det er det, der i
53:00
høj grad kommer til at. Gør e rigtig brugbart i
53:05
fremtiden, fordi tale har trods alt mindre friktion end at sidde
53:12
og taste på tastatur. Det er en mere naturlig form for
53:15
kommunikation og. Det er noget du kan gøre?
53:20
Jeg har tænkt meget over det her med, at hvis du i stedet for at
53:23
styre din computer via dine altså at kigge på en skærm og
53:26
taste på en et tastatur og køre rundt med en mus.
53:30
Hvis du så i stedet for bare kan tale til en computer, så kan du
53:33
ligesom unlocke din dine øjne og dine hænder og lave andre ting,
53:40
mens du betjener din computer. Og det kunne være du kørte kørte
53:44
bil. Det kunne være du var håndværker
53:46
der gik og lagt tag. Det kan være at du lavede alle
53:50
mulige vaskede op eller gjorde et eller andet ikke?
53:55
Og det virker som om at. Det tror det virker som om at
53:59
åbning. Jeg giver nogle hendes her de
54:01
prøver ligesom at vise vejen i forhold til at det tror de altså
54:03
rigtig meget på, og det synes Det er noget man ligesom.
54:07
Skal. Det er den vej, Vi skal agtigt
54:10
ikke, og Jeg tror bare, at der synes jeg måske.
54:14
Især det bliver super relevant at begynde at tale om danske
54:18
sprog, dansk sprogteknologi og danske modeller og multimode
54:22
multilingual sport modeller og så videre.
54:26
Fordi så begynder det. Det er ligesom om tale,
54:30
indeholder bare så meget mere information og har så meget
54:33
højere båndbredde end tekster, ikke?
54:37
Og dermed virker det så som om Det er sværere at modellere.
54:41
Og Det er der dermed også, at det ligesom fungerer dårligere
54:44
på. På sprog, Der er mindre
54:48
repræsenteret end end engelsk, for eksempel.
54:52
Så jeg kunne godt forestille mig at.
54:55
Det bliver mere om eller mere og mere eller vandt jo mere
54:58
menneskeligt og jo mere intim den her bro er ER bliver.
55:02
At det bliver mere og mere relevant at tale om, at Vi skal
55:06
huske at arbejde for dansk sprogteknologi.
55:10
Det er det, har det. Det har altid været relevant,
55:14
tror jeg i det hele taget. Men endnu mere.
55:17
Men endnu mere ja, og der taler vi jo om sprog i andet end
55:20
tekstform, som du jo også påpeger det her.
55:23
Og ja billeder, Det er jo. Det er jo så den her gode gamle.
55:30
Jeg tror min min min gode chef kan Kasper lindskov han.
55:33
Han lavede den, der kan den generere en dansk pølsevogn der.
55:36
Lige pølsevogn. Pølsevogne attesten, det synes
55:38
Jeg er altid er fantastisk god. Det er godt nok nogle mærkelige
55:42
pølsevogne, det laver, og Det er det.
55:44
Er det stadigvæk ikke, og Det er der ikke rigtig sket noget på.
55:47
Det er sgu heller ikke rigtig nogens interesse her.
55:49
Det kan generere en pølsevogn. Ikke så Det er.
55:54
Nej, men Det kan godt virke. Det kan godt virke ligegyldigt
55:57
ikke. Altså Det kan godt virke Sådan
55:58
lidt. Ah cars agtig.
56:00
Men, men Jeg tror. At jo mere.
56:06
Brugbart og jo mere. Jo mere jo mere nede i
56:13
detaljerne. Man kommer med de her ting og jo
56:14
mere alt muligt. Ja jo mere det kommer ind i
56:18
folks hverdag, jo mere vil man ligesom bare.
56:21
Stod inde i problemer, hvor den bare ikke fatter det fordi at
56:23
den. Er simpelthen at altså jeg.
56:28
Jeg er helt enig i det der hvis Vi skal ud til det der nu bliver
56:31
det. Det er for sent at starte iis
56:33
her, men men hvis Vi skal helt ned i de der 9 greeting.
56:37
Vi har 3 minutter tilbage. Hvad er det vil sige at noget er
56:42
artificial shell general intelligence.
56:45
Så er den her kontekst awareness.
56:48
Altså at du ligesom du forstår den setting du er II Sådan en
56:53
rimelig rimelig høj opløsning, hvis du tænker over det som
56:56
menneske. Jamen så så kan du sætte en en
57:01
person i Sådan en rimelig ny kontekst lige pludselig fra det
57:06
ene sted til det andet sted. Og så vil man.
57:11
Men, med mindre man selvfølgelig.
57:15
Er, et hvad kan man sige hæmmet menneske i form af
57:19
udviklingshæmning eller en eller anden form for hjerne
57:21
dysfunktionalitet eller noget? Jamen, så ville man være i stand
57:25
til at. At forstå den kontekst man er i
57:28
Sådan rimelig snabbt og ligesom være klar til at.
57:34
Sige eller gøre noget meningsfuldt i den kontekst.
57:37
Jeg ved ikke om man nogensinde har prøvet det men, men nogle
57:39
gange så kan man jo opleve at være i nogle sammenhænge hvor?
57:43
Nogen har en eller anden adfærd at gøre et eller andet som.
57:48
Virker gør andre omkring dem helt paf fordi det den person
57:52
gør er fuldstændig ude af kontekst i forhold til den
57:55
stilling man af og og man bliver Sådan helt som menneske
57:58
fuldstændig. Hvordan kan du da overhovedet
58:01
finde på at gøre noget så er du kan din kan din krop og hjerne
58:04
overhovedet finde ud af at gøre noget så absurd i den kontekst
58:07
der, og Det er Sådan en særlig ting vi bare.
58:10
Vi kan ikke lade være med at forholde os til Vores
58:12
omgivelser, så præcis som vi gør hele tiden.
58:15
Det tror jeg personligt på. Og Der er, at der må man bare
58:19
sige at. Der oplever man stadigvæk de her
58:22
løsninger at være Sådan helt off.
58:25
II forskellige sammenhænge ikke. Altså hvor det bare Sådan en
58:28
gang tæt på, men bare Sådan helt ved siden af.
58:33
Ballot og ja det tror jeg. Vi vil fortsætte med at opleve
58:37
et godt stykke tid, også selvom den her model lige er kommet og
58:41
og helt sikkert er super smart. Ja, og så tror jeg Jeg vil lige.
58:47
Før vi afslutter, fordi Vi har spekuleret meget og nogle gange
58:50
så kan der ryge nogle ord ud af ens mund, som ikke er
58:54
nødvendigvis er korrekt. Og Jeg tror, hvis jeg fik sagt
58:57
50 gange billigere på et tidspunkt, at det altså 50%.
59:03
Billigere, og Det var lige før mig lige stå på et teksten og
59:09
ikke bare Sådan jeg hørte vist noget med, så får man lige så
59:12
Det er bare lige for at. Og så også bare lige en
59:16
disclaimer om at Det er så nyt for os at vi vi sikkert har sagt
59:20
noget Der er dybt forkert. Og Vi har brugt en del tid på at
59:23
tale om, at det nok bare Det er nok bare spiser lyd ligesom den
59:26
spiser tekst og det ser det ikke ud som det gør.
59:28
Nu ved vi det ikke. Ja pigede der står Sådan lidt
59:31
jeg står bare den er multimodal parentes hvad for nogle
59:34
modaliteter den så kan tage ind, men det giver ikke rigtig mening
59:38
fordi et andet sted så skriver de noget helt andet.
59:40
Vi må man også fordi den anden den er ligesom multimodal som
59:43
den forrige ikke Sådan så hvorfor hvorfor er det specielt
59:46
nu her ikke? Altså Jeg synes den skulle jeg
59:48
håber på den den de har glemt at skrive et eller andet og den
59:50
godt kan spise. Direkte fordi det ville være det
59:54
ville være en interessant interessant skridt.
59:56
Men Jeg tror Det er den der klassiker med p ikke lige er
59:59
klar til det endnu og at modellen bagved.
1:00:02
Måske er det ikke, men ja enjoys.
1:00:06
Bare lige for at summere op. Vi har fået en ny state of the
1:00:10
art model, ser det ud til som er blevet billigere abonnere, de fx
1:00:13
ikke med at slå de andre modeller på de der små bitte
1:00:18
0,01% eller et eller andet de flekser det ved at der i.
1:00:22
Villa med mange procent og så sætte prisen ned og så ligesom
1:00:26
gøre det tilgængeligt for mange flere ikke så Vi har fået en ny
1:00:29
model som er skulle være ret god.
1:00:32
Det er lidt uvist den den skulle være natfly multimodale, men Det
1:00:36
er lidt uvist i hvor høj grad multimodale den er har vi ikke
1:00:40
brug for at spise tekst mere eller har vi stadig brug for
1:00:43
det, og det vides ikke helt rigtigt.
1:00:46
Og hvad med det der videoer og billede altså katten spise
1:00:48
videoer eller er det billeder? Altså det Der er mange ting vi
1:00:51
ikke helt ved nu, men i hvert fald chat PT som produkt har
1:00:55
også fået en ret interessant tale.
1:00:58
Assistent med video hvor det virker som om der hvor hvad skal
1:01:04
man sige latens i er kommet ret meget ned Sådan så at en kan man
1:01:08
sige samtale virker meget mere. Hvad skal man sige?
1:01:10
Naturlig. Med charteret, den kan blive
1:01:12
afbrudt at anytime så er det ligesom er real time.
1:01:15
Man kan også vise den video og ligesom bede dem om at svare på
1:01:19
baggrund af video så så de har givet en ordentlig opdatering
1:01:23
til de har givet udviklerne adgang til BT 4 o og så har de
1:01:28
givet en ordentlig. Hvad skal man sige opdatering
1:01:31
til assist til assistenten II chat appen de har lavet en chat
1:01:36
dvd the desktop app, som man kan dele skærmen med, hvilket Jeg
1:01:39
tror bliver en game change den Det er en lille ting.
1:01:42
Og Det er de der små diskrete ting, som Jeg tror kommer til at
1:01:46
betyde meget der synes jeg de har.
1:01:47
Det virker som om de har tænkt meget over det og har prøvet at
1:01:50
ramme hovedet på sømmet her ikke?
1:01:51
Det er ikke nødvendigvis breakthroughs, Det er bare lige
1:01:54
nogle små justeringer der gør at Det er.
1:01:56
Tennis mere brugbart ikke, og så synes jeg at abonnere de viser
1:02:00
vejen her. For industrien ser det ud til
1:02:04
for det første, men man ved ikke, hvad der foregår hos de
1:02:06
andre, men hvis virker det Sådan, og så tror jeg at det
1:02:10
her. Det er et kæmpe stort fed
1:02:11
understregelse af, at voice bliver kæmpestort, og det kommer
1:02:15
til at være Sådan. Vi interagerer med Vores
1:02:17
computere. I fremtiden.
1:02:20
Selvfølgelig vil der være nogle ting, hvor Det er brugbart at
1:02:23
have billede på, hvis du skal se et graf eller Der er altså der.
1:02:27
Man kan se mange forskellige mange eller usa, hvor Det er
1:02:30
vigtigt at have det billedlige med, og du er nødt til at se på
1:02:33
din computer, men. Du kommer til at styre.
1:02:36
Du kommer til at tale med din computer i fremtiden, og den
1:02:38
kommer til at kunne hjælpe dig med mange flere ting end den
1:02:40
kandidat. Det er ikke ikke det.
1:02:43
Det er ret overbevist om i hvert fald.
1:02:46
Lige en sidste ting omkring det ved pris, så jeg bare lige for
1:02:49
at sætte det der procent der II sammenligning.
1:02:53
Så skriver de selv at vi tæller jo de her pris per million
1:02:57
tokens nu input og output, og der hedder den gamle ture på GT
1:03:01
4 turbo 10 dollar per million tungs input og 30 dollar.
1:03:09
Per million tokens output. Og og Det er så halveret både på
1:03:14
input og output, så det hedder så input er 5 dollar og 15
1:03:18
dollar på output. Og så bare lige for at
1:03:21
sammenligne det med turbo. Ikke fordi Det er altså stadig
1:03:24
en en relativ dyr og klunke model Vi har med at gøre med
1:03:27
fingrene. Ikke så 3,5 turbo jamen den
1:03:30
koster 0,5 dollar per per hvad? Hedder det million?
1:03:37
Tokens og 1,5 på output ikke. Der er Sådan noget med kontekst
1:03:42
mængder og hvis ens case ikke passer til det og Sådan nogle
1:03:45
ting. Men Det er altså stadigvæk bare
1:03:46
og den er meget hurtigere. Turbo 3,5 ikke?
1:03:53
Hvis man kan fintune den til sin opgave.
1:03:57
Så er man altså stadig meget bedre stillet end.
1:04:01
Lige præcis. Det var der også lidt debat om
1:04:03
her IIII weekenden ikke altså lige nu.
1:04:05
Så vil man gerne bruge de allerbedste flagship modeller
1:04:08
til alt fordi Vi er så lige på teknologien ikke, men i fremover
1:04:13
kommer man også til at ville ville optimere på det her, ikke
1:04:16
på en eller anden måde enten træne nogle af sin egen open
1:04:18
source modeller eller bruge nogle billigere nogle ikke som
1:04:21
er fintunet. Forstå din case fintune Det er
1:04:24
stadig kemi altså Det er det sgu.
1:04:27
Nå. Det var vist det for i dag
1:04:32
spændende tider. Vi lever af mad meget let.
1:04:36
Fumlende episode her føler jeg, men jeg håber i fik noget ud af
1:04:39
det derude. Nej, Det har jeg gjort, for Vi
1:04:43
har jo bare det som mål, at Vi skal ud en gang om ugen og hvis
1:04:48
ikke. Altså så igennem ild og vand.
1:04:51
Du ved whatever it takes og slud skal vi bare ud.
1:04:57
Fordi de ikke nej. Lige præcis.
1:05:00
Men tak for det Jonas. Selv tak.
1:05:03
Det var hyggeligt og 1000 tak fordi du var med og vi ses
1:05:05
selvfølgelig i næste uge. Ses.