Latest / Verbos: AI og Softwareudvikling / #35 - AI Nyheder: Gemini, Mixtral, AI Alliance, Hugging Face Candle

Transcript

#35 - AI Nyheder: Gemini, Mixtral, AI Alliance, Hugging Face Candle · Verbos: AI og Softwareudvikling

0:00
Hej allesammen og velkommen til afsnit 35 af babos podcast i
0:04
denne her uge. Der skal vi tale om nogle af
0:06
nyheder, og det bliver det bliver stille og roligt og det
0:09
bliver super spændende. Der sker rigtig meget på den her
0:11
EI scene, så så så det glæder vi os super meget til hvad hedder
0:15
det vi kan snakke om først og fremmest vi snakke om Jimmy den
0:18
her nye store sprog model for Google eller den her serie nye
0:22
store sprogmoduler for Google så skal vi snakke om campbell som
0:26
er et hocking face rust library som ligesom er en eller anden
0:30
form for hvad skal man sige? Rust pendant til python så vidt
0:34
jeg forstår. Så kan vi snakke om en ny øh.
0:37
Hvad hedder det model fra en ny open source, lars language model
0:40
fra mistral, som hedder mixed grill, som er Sådan en mixture
0:44
of experts model, som er Sådan rimelig oppe i tiden eller
0:47
rimelig hypet lige i øjeblikket. Og til sidst skal vi snakke om
0:50
med i Alliance, som er en. Det skal vi finde ud af hvad Det
0:54
er, at ligesom snakke om det, så Sådan er det og.
0:59
Ja vi glæder os. Ja Det er også.
1:02
Det går godt, vi vi blev snydt for et afsnit i sidste uge,
1:06
fordi vi var lidt syre og rustende, så nu kommer vi med
1:10
rustne stemmer til jer alle sammen derude.
1:13
Lige præcis. Jeg tror virkelig at alle jeg
1:15
kender nærmest er har været syge inden for de sidste 2 uger, så
1:20
det ligesom. Vi også med noget af r.
1:21
Bare roligt. Finde op med nogle drags eller
1:25
et eller andet der kan der kan jeg løse det problem så så ja,
1:29
så vi bliver nødt til at springe en episode over II sidste uge
1:32
fordi at. Ja fordi vi var syge, og jeg
1:35
skulle være i Stockholm og. Ja, der var simpelthen bare lige
1:39
kaos så, men nu er vi stærkt tilbage, og Det er den 12.
1:42
December i dag, når vi optager i morgen, når den kommer ud, så er
1:44
det den 13. December og ja lad os snakke om
1:47
r nyheder Jonas. Og chemi giv mig jeg vidste ikke
1:52
hvad jeg skulle kalde den da den kom ud, indtil jeg hørte nogen
1:54
sige Jimmy OK, Jeg synes bare den hedder gemini.
1:59
Lad mig spørge Jonas hvad er din?
2:00
Hvad er din Sådan first impressions af af?
2:04
Jimmy. Altså Jeg tror Jeg er ved at
2:06
være lidt mæt på de der Sådan breaking på en eller anden måde
2:10
så så jeg var ikke rigtig særlig meget op at køre over det, men
2:13
men jeg jeg bed mærke i at der var rigtig mange andre der
2:18
heller ikke var særlig meget op at køre over det i virkeligheden
2:21
og især den gode janniche han han havde lavet Sådan en youtube
2:27
video hvor han. Var Sådan lidt.
2:30
Jeg er ikke så imponeret over den der video fordi at Det var
2:34
det første han tænkte Det var og Det var da flot klippet og så
2:38
blev alle skuffede over at den var faket og Sådan et eller
2:42
andet og. Altså folk tog sig til hovedet
2:45
over den der Google lancering af Jimmy og og så så så.
2:49
Fortalte han så også, at når han så gik ned i de der benchmarkes
2:52
tal der, så var det også bare. Lige til stregen på den måde de
2:58
havde lavet. Det var Sådan vi sammenligner
3:01
med en prompt teknik overfor en anden prompt teknik imellem, og
3:06
så det ikke engang er det Der er konstant og Sådan nogle ting og.
3:09
Hvordan er det? Hele bare æbler og pærer og
3:12
bananer og passionsfrugter og alt muligt blandet sammen med
3:15
det der bange mark der. Det giver ingen mening.
3:18
Hvad de måler, hvordan er det, de måler Jimmy op på MU
3:23
datasættet som er Sådan rimelig legendariske NP benchmark
3:27
datasæt. Var det Sådan, at de målte Jimmy
3:30
ultra op mod gt 4, men i Jimmy ultra brugte i chain of the art
3:35
funding og II hvad hedder det? Evt. 4 brugt i five shot?
3:40
Var det ikke Sådan? Det var et, Det var en af
3:44
kritikpunkterne, noget i den dur der ikke, og Jeg er ikke.
3:47
Jeg havde bare hørt hvad de andre har sagt derude, men når
3:51
nogen kommer og siger, at at man har varieret pumpen og man Sådan
3:55
stiller 2 resultatmål over for hinanden med en med en Sådan. 2
3:59
vidt forskellige prompt teknikker.
4:00
Man ved bare har en kæmpe effekt på det der, at man så ude i at
4:03
vurdere modellen eller er man ude i at vurdere prompt
4:06
teknikken? Jeg synes Det er sgu er lidt
4:09
lorent, så Jeg har det Sådan lidt jeg helt ærlig.
4:12
Jeg tror ikke rigtig Google mener det der lille slankes
4:14
models for Real. Jeg tror simpelthen bare at de
4:16
er Sådan lidt. Det er sgu ikke så spændende i
4:18
det der lars lynges mødtes, men hvis bare vi kan få nogen over
4:20
på Vores cloud service ved at flage lidt med vi også kaster
4:24
ned af der herovre, så er der fint nok, så gør vi det, men Jeg
4:28
tror sgu ikke de synes at Det er det det hotte altså de de eller
4:31
andet sted, så tror jeg bare de er Sådan.
4:33
Ja, Det er et momentært øjeblik i menneskets ære historie, og vi
4:38
prøver at arbejde videre mod noget, Der er har noget mere
4:41
impact. Og på den måde, så har jeg sgu
4:43
lidt respekt for Google faktisk. Altså de de minds tilgang til du
4:50
ved Sådan noget. De har Sådan nogle modeller til
4:52
at. Altså udvikle forskellige typer
4:56
af materialer, altså Sådan til til til fysik og lave kæmpe
5:00
databaser for. Ting af alt muligt altså og alle
5:05
Det er jo og alt det der meget mere fokus på industri og
5:11
forskning og udvikling af den slags og Sådan noget.
5:14
Og ikke så meget på at skrive tekst på en skærm, ikke?
5:18
Det, det tror jeg bare det det der det det de har valgt at det
5:21
ikke det Der er spændende for dem.
5:23
Nej, så det synes Jeg er. Fint generelt bare lige for at
5:28
vende tilbage til det der med at male dem op mod hinanden med 2
5:31
forskellige prompting teknikker. I virkeligheden tror jeg at Der
5:34
er mange Der er enige om i hvert fald at Det er svært også bare
5:37
selv hvis man brugte den samme pumpe teknik, er det svært at
5:40
sammenligne modeller på den måde, fordi du vil højst
5:42
sandsynligt kunne tune hver sin model.
5:45
En eller anden drøm altså man kunne godt forestille sig at der
5:48
ville være noget bias i en af modellerne.
5:51
Til at være til at have bedre forudsætninger for at klare sig
5:53
godt på den givende prompt end den anden, så kan man godt
5:56
forestille sig man kunne pumpe tune hver modellerne til at være
5:59
bedre. Ikke så.
6:01
Og Det er også derfor det der nogle gange altså det.
6:05
Det er virkelig svært at man sige.
6:10
Jeg tænker som udgangspunkt må man vel vurdere dem ud fra hvad
6:13
du input der altså med samme input, så kan det være at du som
6:17
du siger at de så trænet og 20. forskelligt.
6:19
Men det vil. Det er vel en del af modellen,
6:22
altså Det er jo en del af hvor hvor god den er blevet til til
6:24
et eller andet ikke? Ja, jeg ved det ikke, men.
6:30
Men Det var. Ikke godt nok.
6:32
Det virker som om at at Google har været lidt træt af at GP 4
6:36
har været den bedste model. Længe altså Sådan så har de
6:39
Sådan de ville gerne lige have den der pom 2 den var den var på
6:43
højde med g 4 og så havde de. Det har de ligesom ikke rigtig
6:47
kunne leve med, og især når man ligesom den der historie om at
6:51
de er bagud. IAI kapløbet på en eller anden
6:55
måde, så ser jeg lidt det her som deres måde ligesom at sige
6:58
hallo vi altså ikke bagud. Vi kan også godt finde ud af
7:01
noget og og så har de ligesom droppet deres form for at give p
7:04
4. Og så har de virkelig pakket, og
7:07
de har også udgivet en technical report, ligesom p 4 skriver med
7:12
gt 4 og Det var jo lidt v 4 der gjorde den der technical report
7:15
til en ting så vidt Jeg kan huske i hvert fald fordi man
7:18
ikke rigtig man vil du med ud. Vi vil ikke udgive paperet fordi
7:21
Det er bare så hemmeligt ikke og så.
7:23
Hvilket også er totalt fjollet. Og der har jeg det Sådan.
7:26
Lidt. Report hvis nu at at Google ikke
7:30
rigtig mener det der med at de at de gerne vil have folk over
7:33
på de der løsninger. Og det, ja, det tror jeg altså.
7:38
Jeg tror jeg jeg tvivler på de virkelig mener det, selvom at de
7:41
jo selvfølgelig en masse og snakker så så jeg tænker bare
7:46
man ville gøre noget andet, for ligesom at konkurrere med åbne.
7:49
Jeg for eksempel ville man nok prøve et eller andet, hvor du
7:52
var konkurreret på, at du så var mere transparent, mere åben og
7:56
mere gennemsigtighed og. Alle de der ting, som folk
8:00
efterspørger i forhold til ligesom at stole på.
8:03
På modellerne, og det gør de jo ikke.
8:04
Altså de går ikke den vej heller, så jeg ved ikke rigtig
8:07
hvad deres strategi er her. Jeg synes også bare på en anden
8:10
måde den måde de Sådan Jeg synes virkelig Der er meget marketing
8:13
bullshit i den måde de lancerer på altså den der masser ham der
8:18
nu kan huske hvad hedder demitri eller ham der de mindre founders
8:22
yen der og sige Google seo og Sådan står og snakker men og
8:27
forklarer bullshit både sit budget ikke Det kan godt være
8:31
man vinder nogle nogle. Nogle hjerter for folk der ikke
8:35
Sådan forstår det, men men Det er ligesom om at Jeg tror, Der
8:38
er rigtig mange udviklere, som er lynhurtigt til at kalde det
8:40
der bullshit eller Sådan det der med at nå i sammenligner den
8:44
ikke helt på den samme måde og så videre.
8:47
Så på en eller anden måde, så tænker jeg Sådan lidt hvem er
8:50
det de kommunikerer til her ikke er det?
8:52
Det er ikke udviklende. Det er helt.
8:53
Sikkert, Det er nemlig ikke udviklerne.
8:55
De heller ikke de heller ikke givet udviklerne et fedt api.
8:58
Det er heller ikke Sådan gå ned i hvad kan Vores api?
9:01
Hvad er jeres p hej i overhovedet er pige altså det.
9:04
Det er ikke engang Sådan. Hvad interfacet, hvad hvad?
9:07
Hvad er det nye smarte på den tekniske front, der Det har
9:11
ingenting? Altså Det er bare.
9:14
Det er bare kommunikeret til nogle andre.
9:16
Og der tror jeg altså de er lidt.
9:17
De er lidt læge til den der hype fest der nu er det et år siden
9:20
at chippe kom ud ikke og og så kommer de et år efter med med en
9:25
model Der er computer. Det er jo super flot, men de kan
9:28
jo ikke køre på en lancering der der lever af den hype fordi den
9:32
der ligesom. Den er flad nu.
9:35
Men det kunne godt underbygge ja, fordi Vi har set en aha den
9:38
kan læse billeder og generere tekst.
9:39
Det har vi set ikke. Det er jo ikke så vildt, men Jeg
9:42
synes, men Jeg synes det der med at den virkelig ikke er den her
9:46
lancering virkelig ikke er lavet til udviklere, men er mere Sådan
9:50
lidt marketing bullshit agtigt. Det kunne godt tale til Det har
9:53
været som du også siger med, at de faktisk ikke de satser ikke
9:56
på at udvikle og skal ind i deres cloud løsning og bruge
9:59
deres p og Sådan noget. De satser på Det er andre som
10:02
ikke er udviklet eller måske kommer ind og får.
10:05
Hvad kan man sige en anden pakke hos dem?
10:07
Og Det er derfor, jeg siger det der med, at hvis de kan vinde
10:09
nogle folk over på deres cloud platforme og ligesom give dem
10:13
give dem pakken, og vi kan også nå lige Jeg har hørt om rack,
10:17
men Det kan vi også høre. Jeg har hørt om det der, men Det
10:19
kan vi også herovre, og så i får bare hele den her pakke her, så
10:22
er det lidt ligesom Sådan Microsoft måde at sælge powerbi
10:25
og den slags på ikke og så skal du bare være i det kun så og så
10:30
så så skal du være glad, ikke? Altså og og Det er jo fint nok.
10:35
Det er bare ikke. Hvad kan man sige det ikke til
10:36
udviklere? Det er ikke til til nogen, der
10:38
gerne vil bruge et stykke teknologi til at innovere videre
10:42
med. Det er ligesom Sådan fast punkt
10:45
og så. Er du så afhængig af Google
10:48
innoverer videre for dig, ligesom i gode gamle dage, hvor
10:51
man sad fast på en løsning hos Google ikke.
10:53
Og når Google så siger jamen nu det der ikke det nye mere, men
10:55
du må gerne stadig blive ved med at købe det, men Vi er herovre i
10:57
stedet for ikke. Så skal du sortere, migrere det
11:01
hele eller slukke for det. Og Det er sgu ikke særlig
11:04
attraktivt for mange. I dag vil jeg sige, så Jeg er
11:07
spændt på at se, hvad det bliver til.
11:09
Ja jeg Jeg har måske forstået på det som om at at Google også
11:12
satser på at. Integreret ind i mange af deres
11:16
produkter, Sådan du ved Google docs og Sådan noget.
11:21
Det er jo fint nok kan man sige Det er jo bare noget ekstra.
11:24
Jazz til til noget af det de har ligesom Microsoft.
11:27
Vil de måske ikke gerne have deres egne, deres egne modeller,
11:30
som kan måle som at give til 4, ikke?
11:32
Så er det selvfølgelig. Så kan man den så fordi de
11:35
markedsfører den her så dem der bruger Google docs og dem der
11:39
investerer i Google og du ved forstår den del af af det ikke
11:42
de er Sådan de er Sådan hvad de har også Jimmy er Sådan Det er
11:48
Sådan en markedsføring af deres flagship model 4.
11:53
Lige indtil at der så kommer en open source løsning, og at det
11:59
ikke bliver nødvendigt at alting kører i skyen.
12:02
Og hos nogle i nogle store p og Sådan nogle ting og det kommer
12:05
en eller anden dag det der det gør.
12:07
Det kan vi snakke lidt mere om senere også med en lille.
12:09
Smule. Ja, ja, skal vi gå videre til
12:13
det gode nye eller jamen Det er jo nyt og hacking eller library.
12:17
Hvad hedder cancel? Som skulle være en form for
12:22
rust. Implementering eller rust
12:25
pendant til pige touch. Jeg tænker Jonas, Jeg er helt
12:29
sikker på at du har noget at sige om det her kan du ikke
12:31
starte med at forklare mig. For det første er Sådan måske
12:33
hvad er rust er et programmeringssprog, det ved
12:36
jeg, men hvad er rust og hvorfor er det altid fedt, når ting er
12:39
skrevet i rust? Det er ligesom Der er mange Der
12:41
er mange Sådan python pakker som som du ved Det er ligesom
12:46
pandas. Men Det er bare skrevet i rust
12:48
og så er det meget hurtigere, og så kalder vi det for polars
12:50
eller Det er ligesom det her og så bare i rustic og så går det
12:54
bare hurtigere hvad hvad? Hvad fanden er det med rust Der
12:57
er så fedt. Altså hvis man hvis man virkelig
13:01
vil have indflydelse i den her verden ikke så skal i bare
13:03
skrive et programmeringssprog som som hapser alle udviklerne
13:06
over, som alle udviklere gerne vil lære.
13:08
Og så er det det de arbejder i. Så har du lige pludselig
13:11
virkelig haft meget indflydelse på på på it og
13:14
softwareudvikling. Og Jeg tror rust efterhånden
13:17
begynder at ligne et sprog som som har den indflydelse.
13:20
Så så Det er 1 1 1 voksende populært sprog og vokser meget
13:26
voldsomt i stil med python i sin i sin storheds dage, hvor at det
13:32
også bare kørte derop, og Det er stadigvæk et rigtig velment
13:37
sprog python, men rust er jo så et compilet, det statisk type
13:42
compilet sprog som ja kort sagt bare er meget hurtigere og her
13:48
multithreading og multi processing og alle de der lækre
13:52
ting som man ikke har i pod dem. Det er dybest set det, og så er
13:56
der jo så nogle i høringsfase der har sagt.
13:58
Nu går der altså ikke bare den der python girl den er en kæmpe
14:02
bottleneck, for når Vi skal lave en influence på store modeller
14:07
og den slags der og vi. Vi er trætte af det der med at
14:10
når jamen, så kan du godt. Bruge python til ligesom at
14:15
kalde noget noget rust eller noget se og så går det alligevel
14:18
Sådan lidt kinder hurtigere, men så er der alligevel en eller
14:20
anden der skriver noget kode og så og så kom der en buttle lake
14:22
igen, og så har du den der flaskehals du hele tiden skal
14:25
ned igennem, og Det er så nemt at få ting til at ikke at
14:27
performe særlig godt i python. Derfor har de så sagt.
14:33
Squid vi laver Vores eget framework som er skrevet i rust
14:39
op og bruges i rust ikke og ikke er skrevet IC plus plus og
14:43
bruges i python som pie touch. Så derfor har de lavet cattle af
14:51
mit mit Sådan og det Det er Sådan m framework for rust.
14:56
Og Det har vi tænkt os. Det har tænkt sig.
14:58
Det er jo første skridt, ikke de her tændes, Det er jo vektor.
15:02
Hvad kan man sige? Objekter som ja, ligesom kan
15:08
huske hvad for nogle operationer du har lavet på det og og derved
15:12
være meget håndligt for Sådan noget som back propagation,
15:14
fordi man skal lave alle de her fancy linjer algebra.
15:20
Tilbage. Tænker.
15:23
Integraler og den slags og anyways så.
15:27
Så starter man med også at at at definere den type data i det her
15:33
framework, og så kører man altså bare derudaf.
15:35
Og nu kigger jeg lige på at de siger, jamen du kan du kan gå
15:39
ind i deres browser og køre demo, og her kan du køre en en
15:43
west Formel en læge med 2 en ind til 5 som er en transformer
15:48
tekst innovation ikke og og den der yolo objection segment
15:54
anything som også er noget image segmentation klip som.
15:59
Sådan noget kalder image captioning nå og en del mere.
16:04
Og så kan man så gå ind og få fornemmelsen af, hvor hurtigt
16:06
det kører, når man så kører det med det framework og og nu nu
16:11
til det crazy her ikke. Det er altså svært at få
16:14
stjerner på github siger jeg bare lige.
16:18
Og på meget, meget kort tid den 5.
16:22
December til den 12. December, så er det her
16:25
repository op at have 10.600 stjerner og næsten 500 forks.
16:33
Slå lige den. Det er Sådan OK.
16:34
Mange hold op. Så der da da lang chain virkelig
16:38
voksede på sit højeste ikke også der havde det også Sådan en vild
16:41
en kurve der. Og det her.
16:44
Det ligner noget, der også bare har den vildt kurv, og det
16:46
kommer fra høringsfase ikke? Altså og Det er på et tidspunkt
16:50
hvor at rust virkelig også har har har meget medvind.
16:53
Jeg tror det her, Det er ikke, Det er ikke en signifikant et
16:58
release af et stykke software. Er det Sådan lidt mojo
17:02
competitor? Mojo er jo lidt noget andet.
17:06
Ikke fordi mojo er jo programmeringssprog og Det er jo
17:10
ikke. Det er selvfølgelig rigtigt det.
17:12
Er jo ikke færdigt som Sådan kan man sige.
17:16
Nå jamen altså du ved mojo prøver jo bare at være Sådan 1 1
17:19
1 full flat programmeringssprog til at i simpelthen altså.
17:25
Det er, hvad hedder det konkurrere mere med rust for
17:28
eksempel? Rust ikke hvor hvor rust kan jo
17:33
også bruges til ã r, men måske ikke Sådan.
17:36
Sproget er måske ikke Sådan bygget op med det formål, at det
17:40
skal. Være godt til i hvorimod moto er
17:43
ligesom vi. Vi vil gerne være gode til ære
17:46
ikke så Det er også noget at gøre med hvad Det er for nogle
17:48
compilere der ligger nede bagved og alle de her eksotiske
17:51
excellerer staters man kan finde derude gpu og alle mulige typer
17:55
arkitektur. Det er ligesom modos fokus, at
17:59
dem skal vi kunne kunne compile til, hvorimod rust kan sikkert
18:04
også rigtig fin compile til mange af de der ting der, men
18:07
men er måske så ikke rigtig gearet til at optimere den slags
18:10
operationer, som vi bruger II af og til de.
18:13
Arkitektur hvad ved jeg? Og Det er jo Sådan, hvad kan man
18:16
sige? Og så tror jeg det der med mojo
18:19
skal også være til udviklere, som er vant til at være i
18:22
python. Det skal være det her super sæt
18:23
til python, så Det er ligesom noget andet, hvor rust er
18:26
stadigvæk ved. Det er lidt mere kompliceret at
18:30
skrive halloween print hello world i ikke hvorimod mojo er
18:34
det faktisk bare print hello world og Det er compilet sprog
18:39
stadigvæk ikke. Noget Jonas.
18:42
Ja. Hvorfor?
18:43
Hvorfor fanden skrev det ikke bare IC plus plus?
18:49
Godt spiller go. Jeg ja altså go er jo stadigvæk
18:54
det man kalder for garbage, collected sprog og.
19:00
Altså jeg mener også Der er en form for garbage collection i
19:03
rust. Jeg er ikke ekspert i
19:05
programmeringssprog skal lige præcis men men men men rust
19:10
giver dig meget mere kontrol over det her med med med at
19:13
styre memory og og har nogle hvad kan man sige hvis du er god
19:18
til at skrive i det giver dig muligheden for at optimere ting
19:21
i rigtig meget. Det er Sådan mit indtryk
19:24
hvorimod go er mere Sådan Det er rigtig nemt at skrive noget
19:28
fornuftigt optimeret kode, men så når du ligesom til et vis og
19:31
så får du ikke lige de der ekstra. 20% med når du skal
19:34
virkelig presse citronen ikke så bliver det Sådan lidt.
19:39
Så er det sproget lidt i vejen for at du kan opnå de der sidste
19:42
sidste ekstra performance parametre procenter.
19:47
Så så jamen hvorfor så ikke skrevet IC plus plus for Det kan
19:50
c plus plus jo også og så tror jeg simpelthen bare at jamen
19:55
fordi at frost så er det her nye nye sprog som alle godt kan lide
19:58
og så hvor starter man så et nyt projekt ikke også så det det gør
20:02
man i rush og så er der jo selvfølgelig den her sproglig
20:05
mellem rust og sige plus folk ikke hvor at at Der er en masse
20:10
hold. Ring til hvad Der er af god god
20:14
godt programmeringssprog og et af kerne kardinalpunkterne
20:20
imellem c plus og rust. Det er jo det her med at rust er
20:23
bygget op omkring memory safety. Så du kan ikke på samme måde
20:28
lave lave memory box II rush som du kan IIC plus PLUS i hvert
20:36
fald så hjælper compileren dig i rust til, ligesom at tjekke om
20:40
om du nu har det her ownership som som som det hedder på plads
20:46
altså hvad for en stykke af din kode og proces og tråde og ting
20:50
og sager har mulighed for at skrive og læse på nogle givne
20:55
tidspunkter at der. Det gør man via nogle ting II
20:59
rustic kaldes for bora checking og den den det check det sker
21:03
ved komplet tid hvorimod det gør det ikke IIC plus plus der
21:09
hjælper compileren der ikke med at sikre den form for memory
21:11
safety. Og Det er Sådan kernen kan man
21:16
sige for kernefortælling i dem. Og så så, så derfor er det
21:20
skrevet i rust så. Fordi Det er Sådan det nye
21:24
flotte. Men Det er også sjovt, ikke alt
21:27
alt som hjælper til at få de her modeller til at køre hurtigere
21:31
og træne hurtigere og kunne køre på alle mulige forskellige
21:35
devices, og de kan bare gå hurtigere mere i med mindre
21:40
ikke. Det har bare kronede dage.
21:42
I øjeblikket virker det til ikke.
21:44
Jo, men Det er jo altså relevant nu mere end end nogensinde før
21:49
på grund af at de her. Kæmpe elefanter af modeller de
21:53
findes, og folk gerne vil bruge dem så meget, som de vil i dag.
21:56
Altså Det er jo. Det er simpelthen kistebunden,
22:00
og Det er klimaet, og Det er økonomi og det hele.
22:03
Der er så mange incitamenter for at skrive noget performance
22:07
inferens og trænings skøde. Også på en anden måde, så tænker
22:12
jeg, man kan vel på mange måder drage paralleller tilbage til
22:14
dengang, hvor mikrochips blev en ting tilbage i halvfjerdserne,
22:18
for eksempel hvor at hvor det også ligesom bare der var nogle
22:22
en gut, der hed Roger Moore, som fandt på den her lov om at eller
22:25
det beskrev den her lov om, at antallet af transistorer på, at
22:30
der kan være på et eller andet givent areal fordobles vejr
22:33
eller andet 10 måneder eller Sådan.
22:36
Og Det er jo også bare fordi at der var et kæmpe incitament
22:39
dengang til, ligesom at bare få de her computere til at blive
22:41
bedre, fordi man kunne se de der kæmpe Games der lå ude II
22:45
fremtiden ikke. Og Jeg tror at vi på mange måder
22:48
så tror i virkeligheden der hvor vi også er nu med de her
22:50
language models og bare generelt r modeller.
22:53
Det er også det der det næste Vi skal snakke om.
22:55
Det er med maxwell også et. 1 1 1 1 1 hvor emnet i virkeligheden
23:00
er at gøre mere, med mindre ikke færre modeller ikke så og man
23:04
kan også se, man kan sige når man kigger på Sådan en historie
23:07
eller computerens historie, hvor, hvor, hvor meget
23:11
innovation det ligesom har kastet af sig bare det her med
23:14
at de er blevet mindre og billigere computeren ikke, så
23:17
kan man lige pludselig gøre så lige pludselig en dag, så kigger
23:20
man sig om, og så er de her computere på størrelse med med
23:23
ingenting, og så kan man lige pludselig have dem være der for
23:26
kunne være i 1 1 1 1 klasseværelse.
23:29
Kan være i Sådan en her ikke, og det åbner bare med muligheder
23:32
for at at producere noget data og ligesom lave nogle ting, som
23:36
som man slet ikke kunne forestille sig dengang.
23:38
Det kunne jeg også godt forestille sig, at kommer til at
23:40
ske med med r, når altså lige pludselig så kan der være lommer
23:43
i din brødrister. Og så hvad ved jeg et eller
23:46
andet ikke? Altså?
23:47
Og så hedder de forhåbentlig ikke lemmer mere, fordi det
23:51
fordi de er både multimodale og ikke særligt meget kunstsprog
23:54
mere. Og de er ikke særligt store
23:56
mere. Altså så forsvinder den.
23:59
Forestille sig alle mulige devices kunne kunne have Sådan
24:02
et lille sprog, altså sprog visuelt eller andet lydmodul
24:08
ligesom bare kunne være der, og så kunne den bare så kunne de
24:10
der helt dumme objekter. De kunne bare lave reasoning du
24:13
ved og reparere sig selv eller hvad ved jeg et eller andet
24:17
kommunikere med whatever et eller andet ikke?
24:19
Altså jo kæmpe trend, det bliver mindre og mindre og rust og de
24:24
her frameworks de kommer til at få mojo også ikke altså.
24:27
Jo Jeg er helt enig i det der du siger med at.
24:32
Altså først så så skal man ligesom skabe et marked for
24:36
noget ikke? Og nu er der ligesom virkelig
24:37
blevet skabt et marked for at at at levere de her løsninger
24:42
hvorimod. For folk se fidusen.
24:44
Ja nu for at se fidusen ikke og og det vil sige nu nu
24:47
konkurrencen er ligesom jo du ved go ikke chat kan vi se at
24:51
komme ud, så var der en der kunne finde ud af det ikke?
24:54
Og så var det bare Sådan gå resten af jer så gik de i gang
24:57
ikke og nu er det et år siden og.
25:00
Og hvad har vi? Nu har vi masser af konkurrence
25:03
på det der ikke og og lige om lidt, så tager det virkelig fart
25:06
og så og så får vi effektiviseret så meget på det
25:08
at. Ja så ser vi, så ser vi de her
25:12
økonomiske økonomiske gevinster ved at optimere på på, på
25:17
arkitektur og produktion. Altså Det er jo dybest set at
25:20
gøre produktionen af det meget nemmere.
25:22
Ikke så ja. Yes, men skal vi gå videre til
25:27
den næste, som jo faktisk er rimelig meget om the note det
25:31
næste Vi skal snakke om Det er mistral AI som er det her.
25:35
Det her franske unicorn startup kan man jo godt sige allerede
25:38
fordi de har fået så meget funding.
25:41
Ja hvornår. Det er jo efterhånden et nøgle 1
25:44
7 8 måneder Jeg kan ikke huske det vært fald i hvert fald ikke
25:47
et år helt, men Sådan næsten at der blev de blev fundet med.
25:53
Mange mange penge til ligesom at blive du ved have samme
25:57
muligheder som openai og antropo og så videre.
26:01
Men bare her i Europa og de er så i Frankrig. i Paris går jeg
26:05
ud fra hvor hocking fase en anden, en anden virksomhed, som
26:10
vi også lige har snakket om også er bare lige sidde note det så
26:15
bliver man Sådan lidt får en lille tåre i øjnene over, at der
26:18
også bliver investeret i den slags Europa.
26:20
Det må man sige det dem meget glad for, men hvad hedder det?
26:23
De har jo for ikke særlig lang tid en udgivet den her mistral 7
26:28
b model. Den her 7 milliarders model som
26:31
var ret god i forhold til den størrelse og og Det var folk
26:35
Sådan rimelig meget oppe at køre over, og Det er ligesom blevet
26:38
Sådan synes jeg meget man kan sige, at Det er Sådan en hel
26:40
trend det her med at få de her 7 b modeller til at køre rigtig
26:43
godt, fordi dem kan man faktisk køre ret godt, hvis man har en
26:47
mac m et eller m 2 computer lokalt på computeren og udvikle
26:51
med og Sådan noget. Og Det er Sådan mere
26:53
tilgængeligt for folk bedre at træne, men også at bruge så de
26:56
har været. De har fået rimelig meget rigtig
26:58
meget opmærksomhed for den her 7.
27:00
Milliarders model de har lagt ud, og nu har de så lavet en
27:05
anden interessant. En anden interessant move.
27:07
De har nemlig udgivet 1 1 1 1 1 model der hedder mistral, som er
27:12
en mixture of experts. Hvad hedder det l model som er
27:16
en? Jeg mener Der er 8 gange 7
27:20
milliarder parametre og bare for lige noget kontekst her fordi.
27:25
Det har jo Det har jo længe været rygter omkring at give til
27:29
4 er en mixture of experts model.
27:34
Hvilket gør at den er rigtig god, men i virkeligheden så er
27:39
det den her mixture of experts arkitektur.
27:43
Det er mere bare Sådan en du træner 1 1 1 switch der switcher
27:47
mellem 8 modeller 8 mindre modeller.
27:51
Til at give et input, så vælger den model, Der er bedst til at
27:55
svare på den give et respons på det input.
27:58
Og så kører man det så igennem den model der bliver valgt, og
28:03
så kommer du ud på den anden side, og Det er så ligesom
28:05
alternativ til at lave en kæmpestor model som bare skal
28:08
vide det hele, og det vil sige at 4 højst sandsynligt ikke bare
28:13
er en stor danse model med mange milliarder trilliarder.
28:17
Whatever parametre, men højst sandsynligt en eller anden form
28:21
for switch, som vælger mellem mange forskellige modeller og så
28:24
på den måde kan køres mere effektivt med mere performance.
28:29
Det vil sige, Det er kun rygter, og Det er noget med Det var.
28:31
Det var en anden. George hårdt eller et andet tror
28:34
han hedder på på en podcast der der sagde det.
28:37
Han sagde, at selvfølgelig er det altså.
28:41
Han er Sådan rimelig kløgtig. Han ser bare Sådan.
28:42
Selvfølgelig er det en, Jeg tror endda han kaldte det en
28:44
ensemblet model og og og det udtryk kender nogen måske fra
28:48
fra gamle dage II ching fordi Det er det.
28:53
Det er jo Sådan, hvad kan man sige dem der vandt carl
28:56
konkurrencerne den gang caglar det stadig stort ikke, men
28:59
dengang det lige var kommet ud af Sådan noget, Det var altid
29:01
folk der havde lavet ensemble model, og nogle gange er de
29:03
egentlig. De 3 modeller, og så havde de
29:05
Sådan siddet og håndholdt lidt hvordan de skulle få de der. 3
29:08
sidste predictions til at blive til en single prediction og
29:10
Sådan noget der så så endte det med at vinde med det.
29:13
Så en simple modeller er jo ikke en ny ting og det her er dybest
29:17
set en form for ensemblet model. Forestilling er bare så vidt jeg
29:21
forstår at den den mikser ikke blot actions i sidst, men Det er
29:25
kun som jeg forstår ikke helt dykket ned i det.
29:26
Men men den mikser ikke predictions for alle modellerne.
29:29
Den vælger ligesom bare en model, og så kører det igennem,
29:32
så Det er mere Sådan en switch, hvori ensemblet modeller der.
29:35
Mister man jo ligesom samme ting protection ikke?
29:37
Det er i hvert fald Sådan jeg forstår.
29:40
Der Jeg tror Der er lidt forskellige måder at lave de der
29:42
mestre ã of experts på, men men dybest set så hvad kan man sige
29:46
er Det er Det er det flere små vægte og på den måde et eller
29:52
andet sted også netværk ikke som man laver et.
29:56
Et et forord pars ned igennem. Men når man så skal når man så
30:01
altså når man træner det skal du så træne alle vægtene samlet.
30:04
Ikke fordi du har den her routing, det her routing læge
30:07
som er en model i sig selv som står for ligesom at sige, men
30:12
sandsynligheden for at du får et godt resultat ved at komme ned i
30:15
de her vægte herovre. Er Sådan og Sådan og Sådan, og
30:19
så bliver du rodet derned og så. Og og og det bliver du så ved
30:23
med at at træne også, og det der så er er hvad kan man sige
30:28
udfordringen ved træningen? Det er netop at.
30:32
Træning bliver meget tungere, og det.
30:34
Det er lidt ligesom det der cures man har i en forskydning,
30:37
hvor man kan komme til at ende i Sådan en Sådan et eller andet
30:40
lokalt optimum, hvor at at du kender den der multi armbåndet.
30:45
Et problem der hvor at jamen du skal hele tiden.
30:51
Få noget input på til eller få noget feedback på tilbage på
30:55
hvad var? Hvad var den bedste vej?
30:57
Men i og med at du så samtidig træner en af de her 8 vægte
31:02
eller modeller eller hvad Vi skal kalde det, så kan du ende
31:04
med, at det ligesom er den der kommer får et forspring og så
31:07
bliver den der router model der. Den bliver Sådan rigtig glad for
31:10
at smide ned alt ned til en model og så har du ikke, så har
31:14
du ligesom ikke en uniform fordeling af af hvor du sender
31:18
data hen i din træning og det Det er Det er ret besværligt at
31:22
at løse. En eller anden regulering, der
31:24
skal. Ske Der er.
31:25
Sådan et eller andet der skal ske et eller andet der som som
31:28
ligesom. Der har man så haft forskellige
31:30
løsninger til det, blandt andet at introducere støj tit.
31:34
Det er smart, når man når man har de der problemer, men også
31:40
nu. Løsninger som som så også kan få
31:42
det til at ikke at være lige så tungt at træne.
31:45
Og Der er noget med, at man har nogle decision trees og noget
31:48
binary ting, binary trees og ting og sager.
31:53
Men så på det seneste, fordi Det er noget der har eksisteret
31:57
længe er mit indtryk, men på det seneste har man ligesom løst det
31:59
der med at man kan. Man kan ligesom splitte sine
32:03
vægte ud, kan man sige, hvis man siger, jamen, jeg kunne godt
32:06
tænke mig at træne en en 500 milliarder af model og nå men så
32:12
i stedet for så så splitter jeg den ud i 8 mix af express, og så
32:18
kan jeg stadigvæk træne en stor 500 milliarder samlet model for
32:24
nogenlunde den samme. Hvad kan man sige performance
32:27
som vil få med den model, men Jeg kan få meget bedre influence
32:30
fordi jeg aktiverer kun. Nogle af vægtene?
32:33
Og Det er ligesom også et koncept, man man har kigget
32:37
meget på ved det der med det der altså model sparse city ikke at
32:42
du at det egentlig kun er nødvendigt at bruge nogle af
32:46
vægtene, så man på en eller anden måde, så sorterer man så
32:49
i, hvor man placerer de her vægte ikke og og så og så skal
32:53
man lave beregninger på meget mindre og hvis du så og hvis du
32:57
så ikke behøver altså du kan du kan træne den på den samme tid,
33:01
så at sige med det samme computer.
33:03
Jamen så har du lige pludselig Sådan whats not 2 like ikke så
33:06
har du det bedste fra alle verdener og du har fået bedre
33:09
influence men du kan stadig ligesom have en relativt stor
33:11
model det plus at du har en sjov arkiv.
33:17
En tur, hvor du kan begynde at distribuere de enkelte vægte ud
33:20
på GPU hver for sig, så du har en.
33:23
En ekspert på hver. En.
33:25
Ekspert på vejr ikke, og så får du ikke det der model parallelt
33:28
med hvor du skal synkronisere, hvad kan man sige data imellem?
33:32
P ur for Det er også et kæmpe hit for for for dem der deployer
33:37
og Sådan nogle ting. Man kan nærmest kan nærmest
33:39
forestille dig Sådan en note, hvor der kommer ind og hvor at
33:42
et et svar ligesom bliver klassificeret arrownet og så
33:45
bliver det bare sendt hen, så bliver det bare en.
33:47
Router modellen er Det er derfor den hedder en router model.
33:50
Den browser simpelthen så når du når du pløjer det her så så
33:53
putter du de forskellige gpu ikke og så roder du simpelthen
33:56
ned til den gpu. Og så sker kompetencen der
33:59
lokalt og og Det er hurtigere end at splitte det ud på på
34:04
flere nu vildt nok og samlet resultatet bagefter.
34:09
Så det Det er Det er ret effektivt og jeg.
34:12
Jeg tror også Jeg tror også Jeg tror George hud han har han har
34:15
fat i noget Jeg tror også åbner Jeg har har benyttet sig af det
34:19
der fordi det gør det også at de kan lave en meget meget stor
34:22
model. Med mange samlet set mange
34:25
parametre ikke og stadigvæk skærer det ud til mange folk,
34:31
som de jo også gør, hvilket er en udfordring i sig selv.
34:34
Der er den her arkitektur nemlig rigtig god til at skalere ud til
34:37
mange brugere. Og der kan man sige, at selve
34:41
nyheden her. Det er jo så at den her mix of
34:44
experts model arkitektur har været meget omtalt.
34:47
Især fordi at der har været spekulationer omkring omgivet af
34:50
4 er Sådan en model, og derfor kan man sige, så har det jo
34:53
været oplagt at forvente, at der kom en eller anden form for open
34:56
source model, som fulgte den her mixture experts arkitektur og
35:01
det der så lige er kommet her for ikke særlig lang tid siden.
35:04
Jeg tror det blev udgivet, og Det er så den her mixture of
35:07
mistral model, som er mistral vs.
35:10
Mix of experts model som er en så vidt Jeg kan forstå 8 gange 7
35:14
milliarders model og jeg mener den blev udgivet som en torrent
35:19
på på Twitter og du ved Det er også det her med hvem hvem, hvem
35:23
udgiver man så ikke? Hvem lounge man til lounge man
35:25
til at udviklerne Der er nørder og synes Det er spændende og Det
35:28
er hemmeligt og uha og hackere og Sådan noget og tørres og
35:31
Sådan noget ikke ske vil man gerne skabe hype i den verden
35:35
eller vil man gerne snakke ud til alle investorer eller alle
35:39
mulige andre som Google gør med Jamie?
35:40
Ikke ja. Så de havde Sådan lidt et lidt
35:44
specielt lancerings strategi her, som Jeg synes er mega fed.
35:47
Kæmpe fan og nu har de Sådan ligesom udgivet en en officiel
35:52
artikel omkring mix grill. Modellen som er Sådan en.
35:57
Ja som som i virkeligheden så vidt jeg ved Jeg tror Det er den
35:59
1. Open source LM Michael
36:03
eksperimentel det ved jeg faktisk ikke, men Det er i hvert
36:05
fald. Men Det er i hvert fald Sådan,
36:08
Det er en vigtig del, når det kommer ud fra metroen, fordi de
36:10
er de er gode og har en track record, de og laver kvalitets
36:15
eller lemmer. Ja og de har jo selvfølgelig
36:17
nogle benchmarks, hvor de viser, at den er bedre end lame 70 b.
36:21
Ikke altså. Det komma 5 også hvilket?
36:25
Er 3,5 og Det er i sig selv ret. Ja.
36:30
Det er det sgu. Så der Der er meget.
36:33
Og altså hvis hvis jeg hvis Jeg kan køre den det jeg jeg ville
36:39
næsten kunne køre den der mistral der, hvis nu jeg lige
36:42
tog mig sammen og jeg fik en ekstra GPU, så så ville jeg
36:45
kunne køre den derhjemme ikke og så er.
36:47
Du ikke helt altså Det er jo ikke helt.
36:48
Hul i hovedet. Jeg ville nok have lidt svært
36:51
ved at finde tun måske nogle fora, men så.
36:56
Så kunne jeg jo ligesom lige pludselig have noget kørende på
36:58
min maskine derhjemme. Ikke?
36:59
Altså min workstation. Til, som var lige så godt som
37:04
3,5. Og når man tuner en 3,5 for
37:08
eksempel så kan, så kan man blive fundet til individuelle
37:11
opgaver til at være lige så god som kapitel 4.
37:15
På de opgaver og bedre. Nogle gange kan vi til 4 og så
37:18
hvis man fintuner og Det er så det skal så sige Det er faktisk
37:21
lidt svært at fintune de der mix of experts.
37:24
Det er nemt der hvor Der er Sådan nogle pitfalls og.
37:26
Ja, Det er lige så irriterende som reel forskel learning dybest
37:29
set kræver sikkert rigtig meget trial nara, men lad os nu sige
37:34
at jeg bare var en haj til at fintune Sådan nogle der vidste
37:36
præcis hvad jeg skulle flytte ind i den, og så kunne jeg jo
37:40
altså virkelig lave noget rimelig godt.
37:45
Der var mange viser der ikke. Jeg mangler nogle eksperter der
37:47
kommer og hjælper mig, men Det er bare for at sige, at Det er
37:49
ligesom tilgængeligt. Jeg skulle nok altså lade være
37:52
med at få 3 børn, så jeg fik lidt mere tid til det men.
37:56
Men Jeg synes du har en god pointe.
37:57
Jeg synes du har en pointe Jonas fordi Det kan godt være Der er
37:59
mange messer ved sig, men Jeg synes Der er en pointe i at Det
38:02
er ikke Sådan helt out of scope og det for et år siden var vi jo
38:07
der der var det virkeligheden ikke der var det Sådan what
38:10
hvordan kan man overhovedet komme i nærheden af det her
38:12
ikke? Ja lige præcis så Jeg synes at
38:15
du har en pointe der. Så Jeg synes Det er en okay stor
38:19
nyhed, så begynder at være inden for reach og og den her
38:22
demokratisering af af sproget modeller som er on par med med
38:28
noget af det Sådan. Standard hylden fra åbne jeg Det
38:32
er det. Det er sgu, Det er imponerende.
38:34
Det må man sige. Der er også mange der har.
38:35
Der er mange der har reflekteret.
38:36
Nu er det jo snart. Nu er det lidt over et år siden
38:38
at kan vi sige check komme ud og Der er mange der har reflekteret
38:41
over Sådan det der med at open source space.
38:45
Har godt nok catchet op må man sige ikke altså på det her år og
38:50
Det er en kæmpe trend det her med at de bliver bare bedre og
38:52
bedre de der open source modeller de bliver mindre og
38:54
mindre og bedre og bedre. Kunne være sjovt at lave en
38:58
mallow over det kunne. Være fedt at tegne udviklingen
39:04
og så du ved kigge på de der benchmarks overtid og
39:06
udgivelsestidspunktet. Se hvordan hvordan Katja vi
39:09
egentlig op og så se om Der er en en Sådan en stigende
39:12
performance trends II open source på det der jeg jeg Det er
39:16
nok kun hockey Der er rigtig kan lave Sådan et godt overblik, men
39:19
Jeg tror altså det hvis man lavede det, så ville man se en
39:22
udvikling der var ret vild. Og man ville nok også indse okay
39:26
open source kommer til at banke det, fordi at væksten i Det er
39:31
formentlig helt vanvittigt. Ja så, men samtidig så tror jeg
39:35
måske også bare lige som en sidste note, inden vi går videre
39:38
her, at Jeg synes også jeg hører mange.
39:41
Jeg tror Det kan godt være open source rigtig godt og så videre,
39:44
men Jeg tror ikke man skal undervurdere hvor svært Det er
39:46
at tune de her modeller og træne videre på dem og Sådan noget og
39:49
vedligeholde dem og Sådan noget fordi jeg hører rigtig mange der
39:52
Sådan ligesom snakker om jamen så kan man da bare tage Sådan en
39:54
open source model ned og så bare køre den og Sådan.
39:57
Og Jeg tror. Jeg tror bare man skal huske at.
40:02
Det er der fandme meget arbejde forbundet med i forhold til bare
40:06
at kalde et p du ved så har så har du lige pludselig en hel
40:09
obs. En hel opskrift gruppe, der skal
40:14
sidde og og tage sig af det, ikke?
40:15
Jo jo men men altså altså. Heldigvis kan man jo så få nogle
40:19
andre til at deploye en open source model for sig og stadig
40:23
få et AP Der er fornuftigt ikke så så Det er jo bare altså det
40:28
ene udelukker jo ikke det andet kan man sige, men men men det at
40:32
Det er open source det ja det det det gør bare noget Det er
40:36
ligesom det smager bare ikke. Hvis du virkelig kunne du også
40:41
tage den ned selv. Det er udbredelsen til til små
40:47
virksomheder, der bliver meget nemmere på den måde, ikke?
40:50
Lige præcis, og også når de skal køre lokalt forskellige.
40:53
Jamen Der er mange. Ting i det her og alt det der
40:55
ikke. Det er næsten hvad Vi skal
40:58
snakke om. Det er AI.
40:59
Det er nok den blødeste nyhed Vi skal snakke om i dag.
41:04
Ja den er blødere end end Jimmy. Ja lige snakke med r og Lions
41:08
som er et ja. Ja kan du prøve at give os en
41:14
indflyvning? Men altså jeg det eneste jeg
41:17
egentlig ved ikke. Nej, det ved jeg faktisk ikke
41:19
engang, men åbner. Jeg er ikke med i det vel den
41:22
her linje her, men Der er ret mange lande Der er med i det.
41:25
Men men. Men Det er virksomheder, ikke?
41:27
Jo, Det er andre foundations og organisationer, virkeligheden
41:32
ikke. Altså Det er organisationer, der
41:33
kommer fra forskellige lande af alt mit indtryk, men når man
41:37
lige prøver Sådan bare lige at læse nogle af de der, hvad
41:41
hedder det navne op, som man jo kender?
41:44
Før du gør det, skal du lige prøver at læse det her.
41:46
Bare lige den korte beskrivelse der står på deres hjemmeside
41:48
dine Alliance vi ã r Alliance consist of company som startups,
41:53
universities research and government organizations.
41:56
And non profit foundations that individual internater og
42:00
innovating across all aspects of a Technology, application and
42:04
governance. Og og.
42:11
Ja. Ja, og Det er jo et eller andet
42:14
sted. Jeg ved ikke hvad man skal kalde
42:17
det. Det er jo Sådan en eller anden
42:18
form for jamen Det er altså Det er Sådan en anden form for
42:21
markering af, at vi står sammen om at gøre et eller andet.
42:25
Så har man nogle værdisæt ikke og og det her med.
42:30
Åbne initiativer ikke? Øh altså.
42:36
Det er jo også Sådan noget med at man vil gerne være med til at
42:38
regulere. Altså man vil gerne ligesom være
42:40
med til at samle indflydelse på nogle af de der ting og Sådan
42:43
noget ikke? Men Der er Sådan en label
42:46
developers and scientist understand experiment and drop
42:49
open technologies ikke altså ordet open står over det hele
42:52
ikke, så Det er også dem Det er dem der ligesom går ind for at
42:54
det skal være åbent. Så respons der står Sådan focus
42:59
areas responsible scalable ã r der open foundation models der
43:05
står diverse fight AI hardware. Så og der så skills education
43:12
and research, så Det er Sådan man ville.
43:16
Mange af de der floskler der IIAI verdenen, som de gerne
43:19
ligesom vil vil hvad indover kan man sige ikke?
43:23
Og ved ikke jeg lige prøve den ene.
43:24
Drop nogle nogle af medlemmerne. Ja du er en drop gør det?
43:28
Vi har selvfølgelig de gode, de gode meta, du ved Facebook, Vi
43:33
har intet, Vi har red hat, Vi har sony, Vi har service now Vi
43:38
har, hvad har vi mere? Vi har AMD som er den her
43:42
grafikkort. Producent Vi har hocking fase Vi
43:47
har IPM Vi har lang chain og så lidt ramt dustin startups
43:51
indimellem Der er alarma Index, Der er University of notre dom,
43:55
Der er New York University, Der er.
43:58
Alle mulige universités og yale engineering og ja.
44:04
Cykle alle mulige folk og universiteter og institutioner,
44:10
ligesom er gået sammen for at. Være lave en eller anden
44:13
Alliance omkring det her. Og de har jo delt det op derinde
44:17
Sådan II altså universiteter og starte op så en enterprises og
44:21
så Sådan science organisations og non profit ikke.
44:25
Og der har man jo også Sådan noget som linux foundation som
44:29
er som er rimelig rimelig stort ikke.
44:31
Altså når man har linux foundation ovn med i det her
44:37
ikke så så har man altså også rigtig mange det ind.
44:40
Det indfanger bare rigtig mange andre organisationer under det.
44:44
Fordi for eksempel Sådan noget som pie touch er også under
44:48
linux foundation og Sådan nogle ting der ikke så.
44:52
Nå men det. Det er jo et eller andet sted.
44:57
Også en en ret stor nyhed fordi. Jeg har det Sådan lidt.
45:01
Der er jo også nogle, der holder sig ude for det her ikke?
45:03
Jeg ser ikke Microsoft eller open jeg.
45:07
Nvidia de er heller ikke Google Google.
45:11
Og nu sagde du for eksempel indtil og.
45:15
Og DMD laver jo både grafikkort og hvad hedder det cpu her?
45:21
Men ja de er jo, de er jo også Sådan lige for nyligt gået hen
45:26
og er blevet meget fokuseret på samarbejde med med meta og Sådan
45:30
nogle ting så man kan ligesom man kan godt lidt fornemme at
45:33
Det er en venners klub her ikke altså og Der er Sådan nogle
45:36
altså ligesom en anden gruppe invidia Microsoft og hvem der
45:41
ellers er derovre i den der de er Sådan lidt mere.
45:45
Vi, vi sidder lige her oppe på toppen og og har markedet, mens
45:49
i laver det derovre ikke? Og det Det er jo fair nok.
45:54
Det skal de have lov til lige at leve på det der monopol, som de
45:57
måske har meget kortvarige i historien.
46:01
Og og ja hvad, hvad kommer der til at ske?
46:04
Jeg tror, at lige pludselig så så alle bare i med i Sådan en
46:08
eller anden elance om at at at skabe en eller anden fælles
46:12
infrastruktur for for RI. Og så bliver det lidt ligesom
46:16
linux. Vi bruger alt sammen linux, og
46:19
selvom Vi har Windows, så bruger vi linux hvis selvom vi bygger
46:23
Windows, så bruger vi linux. Du ved ikke så så det kommer på
46:29
et eller andet tidspunkt, så kommer det til at være Sådan at
46:31
at standarden bliver sat i et fælles samarbejde for det der.
46:35
Det er næsten helt sikker på altså det det de største og mest
46:40
vigtigste software ting i den her verden.
46:43
De er open source og drevet af ildsjæle, som kommer fra
46:47
konkurrerende virksomheder. Og finder sammen og laver ting.
46:51
Det kommer også til at være Sådan jeg.
46:53
Ja Det er også ligesom LM ikke og ja.
46:57
Så Der er også nogle sjove historier om hvordan man man
47:01
Sådan. Måske lægger Sådan nogle små
47:04
pubber traps ud for hinanden i koden og og så på den måde
47:07
driller lidt konkurrenterne. Men men man er stadig sammen om
47:10
det ikke? Altså?
47:13
Ja. F endvidere GPU stop.
47:22
Kan du høre grineren der? Ja, så Det er en blød en.
47:26
Det er en Det er en meget blød en og Det er meget han.
47:29
Det er meget Sådan et fluffy statements.
47:31
Han er gået sammen med en gruppe ikke men?
47:35
Ja og hvad? Og Det er jo det ikke så.
47:38
De har Sådan news den kom ud også den 5.
47:41
December. Og Jeg tror ikke, der går nok
47:46
lang tid før der kommer nyheder igen fra den her organisation.
47:49
Det er ligesom Sådan den her singlepige er det måske ikke,
47:54
men meget statiske side. Ja, det bliver nok ikke fyldt
47:58
med noget vildt nyt det næste stykke tid.
48:02
Så. Det var det, og så glemmer vi
48:05
dem igen, indtil de lige pludselig kommer med et nyt
48:07
statement. Ja.
48:11
Sådan er det det jamen, Det var jo Sådan set, hvad vi havde.
48:14
Det var det ja. Så er der ellers bare lige bare
48:17
lige her på falderebet. Er der nogle andre roomers?
48:20
Det er Sådan er der noget vi ikke lige nåede at få med her,
48:23
som som du synes der rører sig derude.
48:26
Jeg synes der var. Jeg har lagt mærke til Der er
48:29
stable fusion har lavet Sådan en stable fusion video open source
48:36
model. Ja, det kunne vi jo faktisk godt
48:39
have sagt lidt om. Altså Vi er jo meget sproget
48:41
models fokuserede. Men altså helt ærligt, der sker
48:46
vanvittige ting ind for computer vision og ja stable fusion.
48:52
Og apropos modeller som du kan tage ned og køre på din din gpu
48:56
og. Og renderer små videoer med ikke
48:59
altså tage et statisk billede som du siger og.
49:02
Og lav lige de næste frames i en video, som begynder at blive ret
49:06
gode. Og Det er jo altså der vil jeg
49:10
også lige Sådan sige. Det er jo et område altså alt
49:13
det her billede og ting og sager.
49:15
Det er jo et område som som en eller anden måde kører sit eget
49:18
marked også og operere i for eksempel med deres.
49:22
Altså selvom Det er multimodal model og Sådan nogle ting.
49:25
Det er jo overhovedet ikke altså på niveau med noget af det andet
49:29
der hvad Det kan altså et lysår bagud, ikke?
49:32
Altså? Også i forhold til, ligesom at
49:37
rent faktisk inkorporere det i noget software Der er brugbart
49:39
ikke så Vi har. Vi har faktisk behov for jo at
49:43
have en en der ved rigtig meget om det der område og måske også
49:46
sidder og bruger nogle af de der tools og Sådan nogle ting til at
49:48
komme og give os et ordentligt tweet på hvordan det står til
49:52
for for den verden der. Der der arbejder med diffusion
49:57
modeller og Sådan noget. Det er lidt.
50:00
Der er jo mange der sidder II. Hvad kan man sige?
50:02
Forskellige kreative programmer og bruger allerede de løsninger,
50:05
Der er bygget på defuse modellerne derude nu.
50:07
Tænker jeg altså Sådan noget tekst til billede, men også
50:11
billedet til billedet ikke hvor du masker nogle områder og så
50:16
skriver du putte det her ind i det her område eller markere et
50:19
eller andet eller Sådan nogle ting der.
50:21
Der er virkelig mange sjove ting man kan kan få ud af.
50:24
Det kunne være rigtig spændende at høre om der var nogen derude,
50:27
så det kunne vi jo lige slutte af med.
50:28
Er der nogen derude som kunne have lyst til at sige noget om
50:31
det? Så ville vi da rigtig gerne høre
50:33
om det. Yes men hvad hedder det?
50:38
Nu er vi også ved at være på lidt over 50 minutter, så jeg
50:40
tænker at Det er et godt sted at begynde at runde af her.
50:43
Hvad hedder det? Ja jamen tak for den her uge, og
50:48
jeg tænker vi kommer vi udkommer næste uge også, så tror jeg vi
50:51
holder juleferie er det ikke Sådan og så er vi snart tilbage
50:55
igen i det nye år, hvor vi glæder os til at bringe så meget
50:59
hjerne dit content til jer derude, så i bare slet ikke.
51:02
Eksplodere tur ja. Ja så, men indtil videre så ses
51:07
vi bare i næste uge og 1000. Tak fordi i lyttede med alle
51:10
sammen. Hej.