Latest / Verbos: AI og Softwareudvikling / #22 - Anton Rydahl: LLVM, GPU’er, OpenMP, Compilere, Open Source
Transcript
- 0:00Velkommen til episode nummer 22 er babos podcast.
- 0:03Mit navn er Kasper junge. Jeg er machine learning engineer
- 0:05hos ser ud og jeg. Og jeg hedder Jonas og kysse
- 0:09Andersen og arbejder på ekstra Bladet som deler scientist.
- 0:12Og til alle nye lyttere, som ikke kender til podcasten, så
- 0:14handler om hvad bruges podcast om AI, softwareudvikling og data
- 0:17science, og i dag skal vi tale om noget rigtig low level juice
- 0:22stof, og Det er nemlig. Noget som hedder el VM og åben
- 0:26MP og Det er. Det skal vi, hvis ikke du kender
- 0:30de udtryk, så kommer du til at kende mere til i dag, fordi Vi
- 0:32har nemlig en. En gæst møde til at hjælpe os
- 0:36med at forstå og forklare om det her som, og Det er simpelthen
- 0:39Anton rydahl. Velkommen til Anton. 1000 tak
- 0:42Kasper og Jonas er glad for måtte være med.
- 0:47Altid, men før vi går i gang, så skal vi lige huske at nævne til
- 0:50alle nye lyttere, at hvis man kunne tænke sig at støtte Vores
- 0:53podcast, så kan man gå ind og følge os på Apple podcast på
- 0:56Spotify og. Eller der hvor man ellers hører
- 0:59podcast, og man kan også gå ind og følge os på Vores LinkedIn
- 1:02side, som vi også har. Så så er det ligesom på plads,
- 1:05men jeg tænker, at vi vi dykker ned i det.
- 1:09Velkommen til Anton hvad hedder det?
- 1:11Hvordan har du det? Jamen godt altså.
- 1:16Vi har jo en lille tidsforskel her i programmet, så Jeg har
- 1:20fået formiddagskaffe og i har måske allerede fået aftensmad
- 1:24ved at tro. At, Vi har lige puttet ungerne
- 1:27ikke også? Ja Det er Sådan det plejer at
- 1:29være. Ja, det hører måske med til
- 1:32historien, at du sidder i ja, du sidder i Californien.
- 1:36Yes så. Det kunne være hvis jeg får ham
- 1:40med, bare du kunne fortælle lidt om dig selv hvad du laver og jeg
- 1:43hvor du sidder henne i verden og og så videre.
- 1:46Ja altså her fra 4 måneder siden.
- 1:49Der flyttede jeg til Californien.
- 1:51Og lige nu har jeg et et internship hos noget der hedder
- 1:55lawrence livermore national app. Og jeg ved ikke, om nogen af jer
- 2:00har set omregnet mig er det der med derude?
- 2:02Men altså, Det er grundlagt af ham.
- 2:04Lawrence, som har været med til at opfinde atombomben.
- 2:09Så. Altså Det er også det de forsker
- 2:12i primær på laboratoriet. Men jeg laver ikke bomber eller
- 2:17noget. Jeg jeg sidder bare og designer
- 2:19en compiler. Og Det er godt.
- 2:23Særligt ja og Anton. Vi kender jo faktisk hinanden
- 2:26også. 2 vi kender hinanden fra ida.
- 2:30Ida IT. Ja, Vi har været med til hvor du
- 2:33sidder i bestyrelsen. Præcis.
- 2:37Og hvis du har været sød at komme og give nogle oplæg på
- 2:39Vores konferencer. Nemlig driving IT og driving i
- 2:44og så videre så det Det er der vi kender hinanden fra så så Det
- 2:49er mega fedt ja men jeg tænker på.
- 2:54Nu lagde jeg ud med at snakke om de her LVM og OP og altså jeg må
- 3:01indrømme, jeg kender ikke særlig meget til til de 2 teknologier.
- 3:03Jeg ved ikke med dig Jonas. Jeg ved.
- 3:06Jeg har en ide om Jeg har. Nogensinde set et stykke kode
- 3:09fra alle VM, men Jeg har opdaget den anden dag, da jeg opdagede
- 3:12moto at Det var Chris leather der havde skrevet det en gang
- 3:14var lang tid siden han havde startet det, men det ved jeg
- 3:16ikke om Det er rigtigt. Det må Anton jo.
- 3:19Rettet. Jo det tror jeg.
- 3:22Jeg tror han har været en af dem, der har været med til at
- 3:23opfinde det. Så altså.
- 3:26Jeg tænker, hvis du kunne, hvis du kunne fortælle jer hvad LB
- 3:29mærke os klogere på det end light nos.
- 3:33Jamen altså så måske en lille smule forhistorie, så altså
- 3:37grundlæggende set, så er det dem.
- 3:39Det er et framework til at lave compiler i og en compiler.
- 3:43Det er det værktøj som oversætter Sådan noget rar kode,
- 3:46så vi mennesker nemt kan skrive til noget kode som bliver
- 3:51eksekveret på en maskine. I sidste ende, og som ikke er
- 3:54Sådan human readable. Som ikke er så rart?
- 3:58Ja og så kan man sige traditionelt set.
- 4:02Så har man så haft compilere, som har været målrettet specifik
- 4:06i arkitektur. Så for eksempel Sådan noget som
- 4:08FC, der installerer man GC, og så kan den compile kode til ens
- 4:13maskine. Eller man kan.
- 4:16Kombinerer kode til en EPU, og så har man så brug for at
- 4:20installere GCE. Lad os sige 2 gange både til ens
- 4:25CU og til p ugen. Og Jeg tror omkring 2005, så var
- 4:31der så nogle mennesker, der begyndte at tænke, at Det var
- 4:33bedre at have en en kompiler som er.
- 4:36Vi takkede du altså så man kan kompilere til flere forskellige
- 4:40typer af arkitektur på samme tid.
- 4:43Og det tror Jeg er begyndt at gøre eller leverer et populært.
- 4:47Så Det er Sådan, Det er et stort framework, og Det har Jeg tror
- 4:5110 millioner linjer kode så er det.
- 4:54Det er virkelig meget kode og og så kan man så bruge det til at
- 4:58både optimere for eksempel kode og generere eksempel kode.
- 5:06Og så Det kan være i ikke har hørt om det før, men i har nok
- 5:09alle sammen brugt det i en eller anden forstand, fordi at.
- 5:14Android, for eksempel. Det bygger ovenpå LM og.
- 5:18Ja i må ikke hænge mig op på tallet, men Jeg tror der bliver
- 5:20solgt omkring en milliard Android devices som året så og
- 5:24Sådan set rigtig mange brugere af det her.
- 5:26Altså vi bruger vi bruger LM alle sammen, lyder det til.
- 5:32Ja OK spændende nok hvad hedder det så?
- 5:35Det er simpelthen et framework til at lave compilere.
- 5:38Ja så, og Det har også sit eget sprog som hedder LVM ejere som
- 5:45står for. Over level, intermediate
- 5:48repræsentation og så igen. Ja nej Det er så.
- 5:54Ja den her mellem repræsentation, som ligger et
- 5:58sted mellem FCK. Gode og simple kode.
- 6:02Ja. Wow så.
- 6:07Ja altså det. Det er måske lidt teknisk for
- 6:09dem. Machine learning interesserede
- 6:13lytter. Men det synes jeg, men Jeg synes
- 6:15i virkeligheden det Der er rigtig interessant det her.
- 6:17Fordi mig Det er mig Jonas Vi har for snak.
- 6:20Altså vi kan godt lide at komme helt ned.
- 6:23Men i virkeligheden så ved vi ikke rigtig så meget af, hvad
- 6:25der sker der, altså Sådan Sådan på praktisk niveau.
- 6:28Så Jeg har i hvert fald på fornemmelsen af, at Der er.
- 6:33Den verden du sidder i og den verden, jeg for eksempel sidder
- 6:36i. Er Sådan ret isoleret.
- 6:39Det er 2 ret forskellige verdener.
- 6:41Det er 2 forskellige sprog. Det er 2 forskellige måder at
- 6:45kode på og så videre og så videre.
- 6:48Men vi bruger jo sygt meget, altså især machine learning
- 6:53bruger jo sygt meget optimering. Altså har kodet som er optimeret
- 6:56til at køre på hardware, ikke? Yes yes altså det ligger til
- 7:00grund for en masse typer applikationer og heldigvis så
- 7:03behøver vi ikke alle sammen at vide noget om alting Jeg er
- 7:08sikker på i også. Jeg ved heller ikke ret meget om
- 7:12python. Eller de mest hot mailing
- 7:17modeller? Piccadilly, LM.
- 7:21Faktisk så python. Det er Sådan et et sprog, som
- 7:24man siger er det bruger en integrator i stedet for en
- 7:27compiler. Det er det samme med med java
- 7:30som man. Den har Sådan en en virtuel
- 7:34maskine som. Ligesom på forhånd ved hvordan
- 7:37den skal nappe strøget til instruktionerne.
- 7:43Men hvordan? Hvordan kan det være at altså
- 7:46hvorfor har vi brug for LVM Anton når man når man når man
- 7:49allerede har compilere til? Til c og og den slags altså
- 7:55hvorfor skal vi bruge et v? Altså Det er et rigtig godt
- 7:59spørgsmål, men Jeg synes heldigvis også, at Der er et ret
- 8:03klart svar på og altså grunden til Det er jo at at hardware
- 8:07hele tiden udvikler sig, så man kan ikke ligesom bare stoppe og
- 8:10sige, nu har vi. En god se compiler eller en god
- 8:15foretage, en compiler og så videre, så både sprog udvikler
- 8:19sig, og det gør hardwaren også for altså især de her nye typer
- 8:24maskiner, hvor man har en accelerator, typisk en GPU, men
- 8:30der kræver det så at man kan lave kode til.
- 8:34Altså faktisk 2 forskellige typer hardware på samme tid at
- 8:37få det til at ligesom snakke sammen og overføre data fra det
- 8:43eneste ikke ret meget til det andet og og så videre.
- 8:48Det er lige vil. Vil det så sige, at hvis nu vi
- 8:52vi kender måske godt som som deres egen cuda, ikke?
- 8:56Altså vi ved godt, at når vi skriver et eller andet i python,
- 8:58så siger du skal bruge noget cuda, og hvis ikke den der
- 9:01driver den er passer nede på maskinen, så er fanden løs.
- 9:04Ikke så. Så er det virkelig irriterende
- 9:08og. Og hvad hedder det?
- 9:10Cuda er jo så som du måske. Ja det ved jeg ikke du nævnte,
- 9:15men det. Det er jo en vías måde at
- 9:18ligesom at at deres sprog til at få.
- 9:22Omformet noget til gps'erne kan forstå på deres arkitektur.
- 9:27Går jeg ud fra du Sådan nu siger jeg bare noget ikke så må du
- 9:29lige rette dem, men man kan LVM så erstatte kuda og kan vi så få
- 9:3411 m til fordi Det er jo open source og Jeg kan godt lide open
- 9:37source og akutte Det er jo Sådan noget der har har har lavet.
- 9:43Ja altså Det er et godt spørgsmål, så måske altså
- 9:47faktisk Sådan i det her scooter compiler.
- 9:49Den er bygget med LVM. Snyd Det er lukket, men Det er
- 9:55alligevel bygget på open source. Og og livet er faktisk også
- 9:59rigtig søde, at det det contribute Der er også en hel
- 10:03masse kode til til eller via, så de arbejder også aktivt på det.
- 10:09Men altså de har så nogle dele af det, som ligesom er deres
- 10:12eget. Men Der er også en kutter
- 10:17compile her ILM. Og den bliver også brugt til
- 10:21mange ting. Så.
- 10:25Så man kan sige at eller VM de har de har det der hedder en en
- 10:30front. Altså noget som oversætter et
- 10:34eller andet sprog til den her intermediate repræsentation, som
- 10:38så kan blive kompileret til mange forskellige typer hardware
- 10:41bagefter. Og den den hedder slang, og den
- 10:44er altså for de her see like languages, så for eksempel.
- 10:50Altså det kunne være en familie at se at sige plus plus og q og
- 10:55APP for eksempel eller open CL som alle sammen.
- 11:00Altså har cirka den samme type. Hvad skal man sige?
- 11:05De bruger det samme type system grundlæggende set og altså den
- 11:09samme måde at lave. Funktionskald på og memory
- 11:14hierarki og så videre. Så kan du ikke prøve at sætte
- 11:19mig ind i Sådan. Hvordan er du kommet til at
- 11:21arbejde med det her? Altså hvordan?
- 11:23Hvordan bliver man forført? Altså du har jo støttet på itu
- 11:26og taget en master i hvad i? Hvad hedder det matematisk
- 11:30modellering ikke? Jo jo, så Der er altså et stykke
- 11:33vej fra matematisk modellering til at lave compiler.
- 11:37Hvordan går man fra at have nogle fag på det niveau?
- 11:40Jeg ved ikke, om der overhovedet er et fag ILLM på itu eller
- 11:43eller hvad? Men men altså hvordan går man
- 11:45fra at studere på TU og så lige pludselig bare komme dybt ned i
- 11:49undergrunden af alt computerkoder sprog, altså
- 11:53Sådan, hvad hvad? Hvordan kunne du kunne du?
- 11:57Lidt VM før du startede hos lawrence livermore national.
- 12:03Nej altså jeg. Jeg har ikke rigtig lavet noget
- 12:06eller VM før, men altså det. Det lange svar er, at jeg gav en
- 12:11præsentation på. Hvad hedder det?
- 12:16University og tennessee sidste år, hvor jeg så mødte nogle af
- 12:20dem, der arbejder her på lørdag slipper jeg og ja, så vi kan så
- 12:25tilbudt at komme herover bagefter.
- 12:27Så ja OK. Man skal åbenbart bare rejse til
- 12:30USA, så kan man så kan man godt komme til at arbejde med, eller?
- 12:37Man behøver ikke rigtig at kunne skrive eller være.
- 12:40Altså Det er måske lidt forvirrende, men man altså hele
- 12:44den her store c og c plus plus compiler er skrevet IC og c plus
- 12:49plus. Man bruger man bruger en anden
- 12:54compiler til at compile sin compiler, så.
- 12:58Det er det man kalder for selvpost.
- 13:01OKOK fair nok. Er det ikke det man kalder for
- 13:04self hosting language når 1 1 1 strå kan man med sit eget sprog
- 13:10skrive en compiler til at compile sig selv.
- 13:13Jeg tror Det er det der hedder hosting.
- 13:15Jo og. Og Der er også nogle af dem der
- 13:18Sådan virkelig nørder det meget, der sørger for først at
- 13:22installere sin compiler og så installerer de deres compiler
- 13:26med sig selv for at gøre den hurtigere.
- 13:29Så er man virkelig nået højt op i at gøre det hierarkiet.
- 13:34Men. Rimelig højt oppe i.
- 13:38Men bare lige for ikke at miste den her ikke?
- 13:40Okay, så det vil sige du har været på en rejse for der hvor
- 13:43du ligesom har arbejdet med c plus plus og så videre.
- 13:45Hvordan er du kommet ind? Altså hvad er det?
- 13:47Hvad hvad har ledt dig her hen? Hvad er det for nogle kurser du
- 13:50har taget og hvad er det du ligesom har tænkt?
- 13:51Åh Det er fedt det der. Ja, det virker som om Det er
- 13:55bare Sådan har generelt været low level ting der Sådan har
- 13:57fascineret dig også når Vi har troet og snakket sammen og Sådan
- 13:59noget eller hvordan? Altså i virkeligheden, så jeg
- 14:03havde Sådan et semester på de 2, hvor jeg havde tilmeldt mig at
- 14:06have noget begin machine learning og nogle andre machine
- 14:11learning slag, og Det var meget populære, så jeg fik ikke de her
- 14:14fag, jeg gerne ville have haft, og så skulle jeg finde noget
- 14:19andet at læse det her semester. Og så tog jeg nogle fag i at
- 14:23bruge open p og. En PI som er 2.
- 14:28Framework, som man bruger til at skrive, hvad skal man sige?
- 14:31Parallel kode til Sådan nogle store distribuerede systemer?
- 14:35OK. Det var Det var nogle af de
- 14:37kurser, hvor der var pladser. Ja de var de var sjovt nok ikke
- 14:41særligt populære i de her kurser, så der kunne jeg godt
- 14:43komme på lige last minute. Ja.
- 14:48Så fik jeg tilbudt et job på DCU bagefter hvor Jeg har arbejdet
- 14:52sideløbende med min ferie med min kandidat, hvor jeg også har
- 14:56arbejdet med de her ting. Så Det var ikke Sådan helt
- 15:00planlagt ved at sige. Interessant interessant du havde
- 15:06Jonas jeg afbryder dig. Nej, men nu bliver jeg Sådan
- 15:09lidt fordi nu siger du det der med open MP altså hvordan er
- 15:12det? Det hænger sammen med LVM og og.
- 15:16Kan du ikke lige fortælle lidt mere om det?
- 15:18Anton, altså hvordan? Hvordan op på et nat?
- 15:23Så altså åben p Det er et hvad skal man sige en udvidelse til c
- 15:29plus plus og fortran som man kan bruge til at at skrive parallel
- 15:34kode, så i stedet for at man har en enkelt tråd på en computer
- 15:38som kører et program, så kan man så lave en Region af programmet,
- 15:42som typisk er for eksempel et forløb.
- 15:45Og så kan man så parallelt udføre noget arbejde.
- 15:51Og det her sprog. Det er så også blevet udvidet
- 15:52med, at det her den her kalder offloading support, altså at man
- 15:56kan flytte. Nogle beregninger til at køre på
- 15:59en gpu i stedet for. Og.
- 16:04Der findes så mange forskellige implementeringer af det, altså
- 16:06der måske de mest populære af IGC og ILM og LVM.
- 16:14Der er det så også. Den eneste måde man kan skrive
- 16:17gpu kode på. Som, hvad skal man sige?
- 16:22Ikke anrettet en specifik type hardware.
- 16:27Så hvis man gerne vil skrive kode som både kan køre på en eng
- 16:31d og individer en Intel gpu, så kan man altså bruge åbne, p.
- 16:37Og det betyder også igen, at Der er mange andre biblioteker, som
- 16:42så bruger opponent pige. Til at lave parallelle hurtige
- 16:47beregninger. Så jeg arbejder for eksempel med
- 16:50Sådan noget. C plus plus standard
- 16:53parallelisme lige nu her hvor man.
- 16:56Altså i ved man kan skrive en foreach for eksempel.
- 17:01Eller en sorterings algoritme altså?
- 17:05Så kører vi det op på PU ved at bruge åbne, p.
- 17:09OK så ja så det. Det er ligesom en måde at man
- 17:14kan rykke, altså det at ep hvor man kan rykke data for eksempel
- 17:18fra. Fra en host altså fra en cpu til
- 17:23device som kunne være en gpu eller man kan flytte data mellem
- 17:272 GP ur og så videre. Ja okay, når du så sidder og
- 17:31arbejder med at udvikle det her framework som.
- 17:37Jeg forstår det at det du laver hvad hvad er det så helt
- 17:41konkret? Hvad er det for nogle problemer
- 17:44du løser? Og hvad er det for nogle opgaver
- 17:46der lander på dit bord? Bare for ligesom at tage den
- 17:49helt ned og blive lavpraktisk. Ja altså så en af de ting Jeg
- 17:54har arbejdet på. Det er Sådan noget exception
- 17:56handling, så for eksempel i Jeg tror i python, Det er sikkert
- 18:01det folk er mest kendt det med. Altså der kan man skrive try
- 18:06except så man man prøver at gøre et eller andet og hvis der så.
- 18:11Sker noget uventet, så kan man så have Sådan videre.
- 18:16Hvad skal man sige kontrollen i programmet til ny Region?
- 18:21Og. Ja så generelt så er vi
- 18:25interesseret i at prøve at køre nogle store programmer på p
- 18:28uger. Men et af problemerne Det er så,
- 18:31at GP ur de ikke kan ikke understøtte exceptions.
- 18:36OK, det giver på en eller anden måde meget god mening, altså for
- 18:39eksempel MDS. De har eller MD har en PH der
- 18:44hedder NI 250 x som jeg de bruger på arbejdet til at teste
- 18:48ting og den har 14.000 kerner der kører parallelt.
- 18:55Så altså hvis nu man fik en exception i Sådan en af de her
- 19:00kerner. Altså det ville være meget svært
- 19:03ligesom jeg. Lave nogle regler for altså
- 19:06hvad? Hvad skal der så ske?
- 19:09Hvem skal? Hvem skal overtage kontrollen,
- 19:12hvis der lad os sige Der er 2 kerner der fejler på samme tid
- 19:15og så videre? Ja så.
- 19:18Fordi ligesom højt paralleliseres, så er det pisse
- 19:21komplekst. Så så Det har jeg haft arbejdet
- 19:26på, og jeg kommer ikke til at få exceptions til at virke.
- 19:30Men altså, Jeg har så haft gjort Sådan, at man kan.
- 19:34Hvad skal man sige eksperimentelt?
- 19:36Køre eller komplet exceptions til GPU er.
- 19:41OK den måde? Det fungerer på lige nu er bare
- 19:44at man håber på at der ikke er nogen.
- 19:47Elections og hvis der så kommer en exception, så afbryder man
- 19:51programmet. Altså Det er ikke.
- 19:57Det er ikke optimalt, men. Men Det er for at prøve.
- 20:01Vi vil gerne prøve at se for eksempel altså en masse
- 20:03biblioteker, hvor man har exceptions.
- 20:06Og det kunne være Sådan noget man man man vil gerne allokere
- 20:09en array. Og hvis der ikke er nok.
- 20:13Plads i hukommelsen, så får man nissepige.
- 20:16Så Det er nogle meget lavpraktiske ting, man ikke kan
- 20:18kompilere til GPU. Så Det har jeg så prøvet at.
- 20:24Hvad skal man sige tillad at man kan gøre i den her compiler som
- 20:29hedder klan. Som lever inde ILM.
- 20:34Det der Det er ret interessante faktisk Anton.
- 20:38Jeg vidste ikke at man ikke kunne lave fejlhåndtering på på
- 20:43en GPU, men det forklarer jo hvorfor at når man sidder og
- 20:47kører pistols nogle gange når man hamrer ind i Sådan en memory
- 20:52limit ting, så får man noget meget ubehagelig trackback ting
- 20:56fra. Og man tænker, kunne det ikke se
- 21:00lidt pænere ud og få en lille flot print i noget python?
- 21:04Og så hvad sker der her, indtil man Sådan begynder at sidde og
- 21:09observere sin gpu og se at den opfører sig lidt mærkeligt, så
- 21:11tænker man, når Det er nok det Der er galt.
- 21:16Det må have noget med det at gøre, tænker jeg.
- 21:19Ja altså helt sikkert altså Det er jo lidt brugerne er altså de
- 21:24er mere primitive. Der er mange typer instruktioner
- 21:27de ikke kan udføre, og så er der også hele det her problem med,
- 21:30at man ligesom skal planlægge at at sende noget data fra de få
- 21:35ugen til CP ugen og og vise versa så generelt det her med at
- 21:41lave de bucking og. Ja altså bro fighters og Sådan
- 21:46noget. Det er svært at få det til at
- 21:48virke ordentligt, men. Er der ikke også rigtig meget
- 21:52overhead i at sende data fra cpu cpu?
- 21:54Det synes jeg altid man snakker om at Det er Sådan.
- 21:56Eller er det mere memory at læse fra memory til og fra memory?
- 22:01Jo altså Der er de her dette transfers de kan tage lang tid,
- 22:04og Det kan også være når man sidder og som mig og laver en
- 22:06compiler kan det være lidt svært at vide nogle gange hvad der vil
- 22:10virke godt. Altså fordi at der findes så
- 22:13mange forskellige typer af kombinationer af.
- 22:17Altså det handler ikke kun om hardware, men det handler også
- 22:19om de kabler man har forbundet. Ja altså nogle typer systemer
- 22:25for eksempel. Der har man hurtige forbindelser
- 22:28mellem brugerne og nogle. Altså det kommer an på hvad folk
- 22:32har købt nogle gange, så har de ikke nogen forbindelser mellem
- 22:35og altså så man er ligesom nødt til at lave noget kode der kan
- 22:39virke til alle typer af systemer.
- 22:42Ja, og det virker til at være det fede ved LM, at det ligesom
- 22:46er Sådan en i Sådan et oversættelses slag mellem at
- 22:48skrive, compilere og så ligesom bare alle der altså har hardware
- 22:52generelt. Ja ja, altså Jeg tror det.
- 22:57Men altså ikke også nogle, altså også nogle Sådan altså kommer
- 23:00ikke med kompromis med nogle ting.
- 23:03Et i den i den manøvre, eller? Altså egentlig ikke fordi at
- 23:09altså. Pointen i Det er at man så kan
- 23:12man kan målrette sin kode imod flere forskellige typer
- 23:15hardware, så man kan sagtens ligesom målrette et program mod
- 23:18både invidia PU og en MDPU. Og så er der bare.
- 23:23Noget logik der der tjekker har du en MDPU eller har du en liter
- 23:29gpu og så kører den 2 forskellige dele af programmer,
- 23:32men altså man får måske et lidt stort program.
- 23:36Fordi det indeholder kode til flere forskellige typer
- 23:39hardware, men. Men jeg tænker, hvad nu hvis?
- 23:42Hvad nu hvis der man har den helt spritnye gpu for EMD for
- 23:45eksempel som har en eller anden ny eller andet bridge eller et
- 23:49eller andet eller anden fed eller andet whatever feature
- 23:52inde i selve hardware, som gør at hvis man udnytter den på
- 23:57præcis den måde, så så kan man bare få mad Games i performance.
- 24:03Altså hvor det. Det ved jeg ikke.
- 24:05Sådan kræver det så ligesom at de skriver en eller anden form
- 24:09for adapter til den nye gpu til LVM.
- 24:13Sådan så LM kan oversætte eller Sådan.
- 24:15Jeg forestiller mig, der må være en masse adaptere der, at der
- 24:18der ned til forskelligt hardware eller er der Sådan et?
- 24:21Er der Sådan en magisk? Magiske latent sprog i hvordan
- 24:26de fungerer eller giver det mening det jeg siger eller
- 24:28snakker jeg. Bare Jeg tror godt Jeg kan følge
- 24:30dig. Altså faktisk så tror jeg man
- 24:33får rigtig god support fra sin nye hardware når man bruger LM
- 24:37altså Jeg kan ikke. Jeg kan ikke tale på vegne af
- 24:39det hele, selvfølgelig fordi det ikke.
- 24:42Det er ikke mig der leder af projektet, men altså Sådan er
- 24:44det gode ved LM er at det bliver brugt af nogle af de her store
- 24:47hardware virksomheder som b og Vi er indtaget for eksempel.
- 24:53Og det gør også, at de selv sørger for, at det så fort.
- 24:56Ja selvfølgelig tilført undskyld for deres nye hardware.
- 25:01Selvfølgelig altså. De har jo selvfølgelig interesse
- 25:03i, at den her compiler den laver god kode for for deres
- 25:07arkitektur. Se, Det er jo det jeg hører her.
- 25:11Det er jo et et slag for open source ikke.
- 25:14Altså hvordan det egentlig virker, at vi vi kan få noget,
- 25:18noget kode vi alle sammen bliver dybt afhængige af super godt
- 25:21ikke også det så kan vi, så bliver vi nødt til ligesom at
- 25:25contribute ind her og. Og arbejde sammen.
- 25:28Arbejde sammen altså. Ja Det er spændende.
- 25:32Det kunne måske også være lidt spændende at høre om som som
- 25:34altså nu er det jo Sådan mere nede i det end Vi er tydeligvis
- 25:38og contribute til LMOP. Så kan det også være godt
- 25:43spændende at høre Sådan lidt om selve open source communitiet og
- 25:46Sådan det hele. Det der økosystem.
- 25:51Hvordan det fungerer og så videre.
- 25:53Altså. Jeg synes i hvert fald Det har
- 25:54været. Det har været lidt en øjenåbner
- 25:56for mig at finde ud af, at selvom Det er et open source
- 25:59projekt, så er det altså. Det er primært store
- 26:02virksomheder, der holder det i live og udvikler det så.
- 26:08Inden Vores møde her, der var jeg lige at tjekke, hvem har
- 26:10egentlig været flest commits? Og jeg kunne ikke finde data fra
- 26:14i år, men Jeg tror sidste år der var Apple dem der har.
- 26:18Lavet flest commits. Google er nummer 2, intet nummer
- 26:233 og så er det så MD arm. Bagefter så.
- 26:29Så Det er faktisk Det er alle de store virksomheder, der arbejder
- 26:32sammen, men det giver også nogle sjove diskussioner engang
- 26:35imellem, altså for eksempel jeg jeg arbejder på det her cirkus
- 26:38plus standard parallelisme. Og man kan jo godt se at.
- 26:45Altså hvis man så skal for eksempel finde ud af at blive
- 26:47enige om, hvilken compiler option skal ligesom være.
- 26:52Det hvad skal man sige? Standard indstilling, hvis folk
- 26:55ikke selv ændrer dem? Så kan man også se at navigere.
- 26:59De vil selvfølgelig gerne have, at det her standard
- 27:01parallelisme, det som udgangspunkt bliver kompileret
- 27:03til navia GPU. Jeg vil gerne have, at det som
- 27:08udgangspunkt bliver koblet til. Jamen Det er ikke i bruger, og
- 27:12så sidder der nogle af de her mennesker, som gerne vil have,
- 27:14at hele bliver holdt inde ILM som siger nej, det skal være,
- 27:18det skal være open p så. Overflader det her til en GPU.
- 27:25Og ja, så man kan sige man får en god compiler, men Det kan
- 27:30også nogle gange processen lidt svært at at folk de har mange
- 27:34Sådan. Hvad skal man sige?
- 27:36Vi har nogle holdninger, som tilgodeser dem selv.
- 27:40Altså. Massive interesser kunne jeg
- 27:43forestille mig altså for at ja som du siger.
- 27:46Fører deres eget produkt til at blive bedre, hvis altså få l min
- 27:50retning til at deres eget. Produkt jeg videre, ikke?
- 27:54Noget af det, som er sjovt. Det er også, at altså de her
- 27:57compilere. Det er jo så.
- 27:59Altså livia for eksempel. Det er jo i hvad skal man sige
- 28:05PU krig med hinanden, og de bruger egentlig den samme
- 28:09compiler, men hvis man så installerer laitiers compiler,
- 28:13jeg ved i hvert fald deres compiler der kan man ikke.
- 28:16Der kan man simpelthen ikke kompilere noget til en DPU.
- 28:22Jeg tror de simpelthen har været inde og og gøre altså fjerne
- 28:26nogle af de her features fra compileren, altså fra.
- 28:29LM. Ja altså i den her tid gave af
- 28:32LM, som man får med sin vilje p og jeg ved ikke hvad ND, men jeg
- 28:37kunne forestille mig at de gør det samme, så så Der er også
- 28:39nogle gange nogle ting Der er Sådan lidt kontraproduktive,
- 28:42men. Altså.
- 28:44Fordi brokker sig og siger, vi vil have det på Sådan så det
- 28:46kører på Vores godt på Vores kippur og så når de selv
- 28:49udvikler med det og udgiver det, så har de bare fjernet alt det
- 28:52der understøtter de andre. Det er fandme.
- 28:55På den anden side, så har de så meget siddende mange ting.
- 28:58Der er også en masse mennesker som finder en bock i programmet
- 29:00og siger hov det her. Det er det ske, men der skete
- 29:04noget andet og så kan man sige i stedet for at hver enkelt firma
- 29:09selv skal sidde og rette de her boks, så de fleste ret søde
- 29:12ligesom at. Rettede det egentlig i den her
- 29:15community udgave af alle dem og så.
- 29:18Kan alle ligesom bare? Hvad skal man sige mødes i det
- 29:21her kom midt ind i deres egen version og så.
- 29:24Så hjælper AMD for eksempel nike herrer boks.
- 29:31Ja så er det med hjælper de hinanden.
- 29:33Så hvad nu hvis bare Sådan bare Sådan igen bare lige for at
- 29:36komme lidt lavpraktisk ikke jeg hvis jeg skulle hvis jeg sad her
- 29:39nu jeg havde en måned hvor jeg skulle lave noget.
- 29:41Jeg kunne godt tænke mig at komme i gang med LM prøv at lave
- 29:44et eller andet fedt. Hvad skal jeg så helt konkret
- 29:48gøre? Og hvad kan jeg bygge?
- 29:50Skal jeg anskaffe mig 1 1 1 GPU? Som Jeg kan sidde og hacke med
- 29:55og så begynde at skrive LM eller hvad?
- 29:57Hvad ville give mening af Sådan ligesom at tage mig?
- 30:01Til altså hvis man gerne vil vil.
- 30:05Ja hvis man gerne ligesom vil give sit bidrag til den her
- 30:07compiler, så kan man bare gå ind på github og så.
- 30:11Github. Der er virkelig mange.
- 30:14Altså Der er virkelig mange boks som folk lidt mere finde.
- 30:19Ja Jeg tror Der er 20.000 issues eller Sådan noget, men altså man
- 30:24skal også se det i forhold til at Der er 10 millioner lige har
- 30:26kode, så Det er selvfølgelig mangler.
- 30:29Men men Der er nogle af dem der ligesom administrerer det her
- 30:33kode som er søde af at markere nogle af de her boks som.
- 30:36Sådan begynder. Ja ja.
- 30:39Så Det har jeg selv gjort, så ligesom været inde og finde
- 30:42nogle boks som er nemme. Og det.
- 30:45Det er tit Sådan noget for eksempel altså beskeden på et
- 30:48flag af forkert, så hvis man skriver.
- 30:51Clan health. Så så, så fortæller den hvad?
- 30:55Hvad giver hvilken hver option og så så kan det være at nogen
- 30:59har skrevet. Jeg ved Det er lige copy paste
- 31:01eller lidt for hurtigt, ikke? Så.
- 31:05Der står noget forkert eller Sådan noget.
- 31:08Flytter nice. Det er et godt sted at starte.
- 31:13Det er at rette. Det er beskrivelser af
- 31:16dokumentation som. Jeg lokker her, ikke?
- 31:25Jeg kunne ikke lade være med at tænke på nu du sagde det der
- 31:27Anton med at jamen det og og invitere at de måske er lidt i
- 31:30kamp og og ja det de tager det der open source og så laver de
- 31:36et eller andet med det, men der var lige komme tilbage til det
- 31:40der med hvad Jeg tror Jeg er stadigvæk helt.
- 31:42Jeg forstår hvordan kuda, hvad forholdet mellem hvem er, men
- 31:45Jeg kan huske jeg engang sad og og tænkte nu skal jeg lave noget
- 31:48med givning og Jeg har kun. De 4 gamle DAGPU hvordan får jeg
- 31:54det til at gøre noget? Og så skulle jeg ind og
- 31:56installere Sådan noget rock en reel learning framework fra og
- 32:01Det var open source og Det var noget en video og Sådan nogle
- 32:03ting. Hvordan er det så også lavet med
- 32:05LVM? Tænker man jo bare med det
- 32:07samme. Ja altså Jeg tror Der er rigtig
- 32:11mange ting Der er bygget rundt på det og altså det giver også
- 32:14meget god mening kan man sige at prøve at holde det hele i den
- 32:17samme tjene, fordi det gør det nemmere at optimere ting på
- 32:21kryds og tværs af forskellige typer kode.
- 32:26Men ja altså, Jeg tror det her, hvad er det nu, det står for?
- 32:31Jeg tror det står for. Computer eller så er det ikke
- 32:36rock. Nå ja o.
- 32:38K. Altså Jeg har siddet og leget
- 32:41lidt med deres eller Jeg har. Ja Jeg har tilføjet noget kode
- 32:46til deres matematik biblioteker. Og de er.
- 32:48Bygget på LMI hvert fald så Jeg har prøvet at sidde og optimere
- 32:53at Det er lidt fjollet, men. Hvis man nu skal kombinere for
- 32:57eksempel GPU. Kode og cpu kode og man bruger
- 33:01en funktion som sinus. Så har man 2 forskellige
- 33:06versioner. Altså man har en der virker på
- 33:10CPU og en der virker på PU ugen og så bruger vi så nogle
- 33:13forskellige versioner alt efter om man har i viljer eller AD gik
- 33:16tur og så prøvede jeg at finde ud af hvad.
- 33:20Hvad gør de her biblioteker fra en af de her d egentlig og det
- 33:25viste sig at de tit fra LVM så kaldte vi en.
- 33:30Matematik, funktion fra rock ham.
- 33:33Som så kaldte en matematisk funktion fra LVM.
- 33:38Så Jeg har prøvet at Jeg er nogle af de her bedømt siges.
- 33:44Ja for ja gøre det hele lidt mere overskueligt.
- 33:48Har du? Set den videre simpelthen så
- 33:50spaghetti i værste værste sted er Vores allesammens spaghetti
- 33:56kode her. Jamen Det er det også, men så
- 34:01måske. Jeg har måske ikke forklaret
- 34:03Sådan helt præcist hvad altså LMI virkeligheden ja, altså Det
- 34:08er Sådan en slags assembly som har nogle.
- 34:11Hvad skal man sige? Virtuelle assembly
- 34:12instruktioner? Så for eksempel så har vi en
- 34:16sinus instruktion. Og det, Det kan man jo ikke bare
- 34:20normalt bruge i hvis man skriver x et IX for eksempel det, det
- 34:26findes ikke. Så det der sker, Det er at.
- 34:31For eksempel MD de ser bare de siger okay Vores sinus funktion,
- 34:36den returnerer bare. LVM sinus funktionen.
- 34:42Og så har vi så ILM, Det har vi så ikke vist så.
- 34:47Så Vi har så lavet en en rapper som siger nej, men når du kalder
- 34:51sinus på en MDPU, så kalder vi. Des signes funktion ja, og så
- 34:59har jeg den så kaldt l sinus infektion.
- 35:02Ja. Dem der dem der kigger med og
- 35:04ikke kun lytter. De kan se jeg sidder og tegner
- 35:06Sådan en cirkel det det lyder meget interessant men men men nu
- 35:12er du inde på noget fordi at jeg tænker at vi vi vi kommer
- 35:16længere og længere ned i hvad eller hvem er?
- 35:18Og og nu siger du at Det er nogle virtuelle instruktioner,
- 35:22så Det er abstraheret. På en måde kan man sige
- 35:26instruktionerne på forskellige. På forskellige arkitekturer ind
- 35:31i noget virtuelt. Lidt ligesom.
- 35:36Ja Vi har vel maskiner måske i virkeligheden gør.
- 35:40Og og hvad? Hvad er det så nu?
- 35:43Spørger jeg lidt ledende fordi jeg ved Det er lidt godt, men
- 35:46hvad er det så også vi kan, når vi så har det der format der kan
- 35:50du siger du så, at så skriver man ILM at når de gør Sådan her
- 35:55så gør vi Sådan her. Man laver vel en eller anden
- 35:59form for Sådan. Beslutningstagen oven på nogle
- 36:03andres beslutninger og siger nej, vent lige lidt.
- 36:05Jeg er lidt klogere. Jeg tror godt jeg Jeg kan godt
- 36:07se hvad Det er du gerne vil, men men hvis du gør Sådan her så går
- 36:10det hurtigere for du er på vej over på den her hardware for
- 36:14eksempel. Jo.
- 36:17Jo så. Ja altså hvad skal man sige?
- 36:22Ja jeg ved ikke om jeg 100% forstod dit spørgsmål, men så må
- 36:26i lige afbryde mig, hvis hvis det bliver et dårligt svar.
- 36:30Jeg ved ikke om Det var det spørgsmål.
- 36:32Jeg tror at fordelen ved at gøre tingene Sådan som Det er gjort
- 36:37ILVM, selvom der selvfølgelig så nogle gange at Vi har problemer
- 36:41med, at man ikke ved hvad folk har skrevet i de andre 10
- 36:45millioner linjer kode altså altså grunden essensen er at at
- 36:50det giver god mening at have de her virtuelle instruktioner.
- 36:53Fordi at mange typer arkitektur de er meget forskellige, så man
- 36:58kan ligesom stille for at skrive af simply hvor altså i er
- 37:02simple. Der skal man bruge en calling
- 37:05convention altså man skal man ved at et eller andet bestemt
- 37:10antal af de her registreres som Vi har som er kernen på en cpu.
- 37:15De skal bruges til at at gemme en pointer til hvor vi befinder
- 37:20os i memory på computeren og eller på cpu en og.
- 37:24Et antal af dem skal bruges til at.
- 37:27At huske de argumenter, Vi har givet til et funktionskald og så
- 37:32videre, og nogle af dem kan vi bruge til hvad som helst og
- 37:35antallet af de her de varierer fra hver arkitektur.
- 37:40Så vi ligesom at skrive en slags.
- 37:44Hej Vettel assembly eller hvad man nu skal kalde LM.
- 37:48Så kan man skrive er simply. Kode.
- 37:52Men uden at at ligesom tage højde for alle de her detaljer.
- 38:00Så det gør at at man kan lave. Hvad skal man sige?
- 38:04Man kan lave en lidt mere Sådan højniveau implementering, som
- 38:08kan kombineres til mange forskellige.
- 38:10Arkitekter ja bare meget. Højt niveau og så kan man så man
- 38:16kan så også lave nogle specialiseringer, så hvis man nu
- 38:18rigtig gerne vil lave en hurtig udgave af senets til et eller
- 38:23andet helt specifik. Arkitektur så kan man så tjekke,
- 38:27findes den her arkitektur er Der er der en specifik.
- 38:32Både at lave sites og så ellers hvor den generelle.
- 38:37Det var Det var egentlig svaret på på på på det.
- 38:40Jeg tror jeg spurgte til Det var Det var den her optimerings
- 38:42øvelse, der ligesom kan lade sig gøre, når man ligesom stopper op
- 38:48i det der lag der og siger, hey vent lidt, du er her på den her
- 38:51hardware du prøver at gøre det her.
- 38:52Nu skal jeg give dig en bedre vej.
- 38:56Jeg tænkte på du siger Der er 10 millioner linjer kode ikke også?
- 38:59Det er jo næsten et tekstkorpus altså som man snakker meget om
- 39:02infosport modeller Det er jo lige altså Det er jo lige før
- 39:05Det er Sådan det man kan modellere.
- 39:06Det tænker jeg altså Det er lige før man kan ja.
- 39:09Ved ikke hvad fanden man kan gøre, men man må kunne gøre et
- 39:11eller andet altså. Et eller andet fed data analyse
- 39:15på det. Det det tror jeg også folk gør.
- 39:18Altså Der er også mange. Det er ikke noget jeg selv laver
- 39:21men men men Der er mange der prøver at lave forskellige typer
- 39:25kunstig intelligens til for eksempel at at lave optimerings.
- 39:30Hvad synes de har? Vi kalder dem optimisation
- 39:32passes. Læg dem i den rigtige
- 39:35rækkefølge, fordi altså lad os sige, at Der er for eksempel
- 39:40noget, der hedder konstant propagation.
- 39:42Det er Sådan helt klassisk for folk, der ikke ved det, hvad Det
- 39:45er, men altså det. Det kunne være at man at man
- 39:48skriver en konstant altså en intet Jeg er lig med 10.
- 39:54Og så i stedet for at man skal gå tilbage og se, hvad var den
- 39:57her konstant? Så så bruger man bare 10 i alle
- 40:02de næste funktioner, for eksempel hvor man bruger
- 40:05variablene. Og ja, der findes alle mulige
- 40:11forskellige typer optimeringer, men alt det der, hvilken
- 40:13rækkefølge man ikke er de her pariser, får man forskellige
- 40:16kode ud, så folk prøver for eksempel for at bruge kunstig
- 40:20intelligens til at lægge dem i den rigtige rækkefølge.
- 40:24Er det interessant, kan det? Nej undskyld undskyld.
- 40:28Folk prøver også at træne nogle store sprog modeller til at
- 40:32skrive at selv jeg ved i havde et et andet podcast om at lave
- 40:36en sorterings algoritmen. Lige præcis.
- 40:39Det skal du spørge om Det er alpha der tror jeg den hedder
- 40:41ikke hvor de har brugt reinforcement learning til at
- 40:46ligesom bygge jeres endelige instruktioner til at lave den
- 40:49her hurtigere. Ja ja ja så Der er mange der
- 40:55prøver at gøre nogle ting lignende og Jeg synes Det er
- 41:00virkelig spændende, men Det er også et et felt Der er lidt
- 41:02svært at at bruge de her sprogmoduler i fordi at.
- 41:07Altså man vil gerne have at tingene er korrekte.
- 41:11Og. Ja.
- 41:13Så. Ja, Det er ikke nok ligesom at
- 41:15have en god sproget model man skal også man skal også vide
- 41:18hvornår Det er korrekt altså. Hvis man laver en beregning, så
- 41:22er man ikke interesseret i at få et forkert svar, så.
- 41:27Det. Jeg tror også det de havde
- 41:29gjort. Altså så vidt jeg forstod det i
- 41:30alt fordærvelse og det de havde gjort Det var de havde lavet
- 41:32Sådan et Brian forcément learning environment Sådan spil
- 41:35nærmest hvor det gjaldt om at få.
- 41:38En eller anden given operation til at gå hurtigt ved at sætte
- 41:41assembly instruktioner sammen. Og så ligesom bare grund igennem
- 41:48på den måde ikke altså, men men Det er igen.
- 41:49Det er så low level at jeg fatter det ikke.
- 41:52Altså jeg fatter det virkelig. Ikke, men men men men det tror
- 41:55jeg et eller andet gør unge, fordi at at konceptet i Det er
- 41:59ikke så. Det er svært at forstå egentlig
- 42:02at det. Er jo i.
- 42:03Virkeligheden du du har x antal instruktioner og du kan sætte
- 42:08dem sammen på uendelig mange måder, men og Vi skal finde
- 42:12noget der giver det her outcome og vi kan teste det på den anden
- 42:16side at Vi har lavet altså korrektheden af det program kan
- 42:18vi teste og så kan vi bare prøve alt muligt af, men problemet er,
- 42:22at Der er uendeligt mange kombinationer, så derfor så skal
- 42:25vi lave Sådan en eller anden form for intelligent måde at
- 42:28vælge de rigtige til og de dårlige fra.
- 42:32Og Det er jo der, hvor reinforcement learning kommer
- 42:34ind, så er det jo fuld. Fuldstændig klassisk optimerings
- 42:38problematik, som vi forestiller løsning løser bare Sådan lidt
- 42:43crazy. Men jeg tænker det må.
- 42:45Det må virkelig være langhåret det her simple siden at det bare
- 42:48Det er ikke bare giver mening du ved jeg det forekommer bare
- 42:51Sådan lidt underligt det der med at der skulle være en eller
- 42:54anden magisk kombination af simple instruktioner, som der
- 42:57ikke var nogen der havde opdaget før og som det tog en deep
- 43:00learning i en forstand learning model 1000 dage til altså det
- 43:04det det tænkte jeg bare Sådan, men hvorfor er der ikke bare
- 43:06lige nogen der ja, men men. Det er klart beyond i det her.
- 43:10Men Det er det, den har opdaget en algoritme ikke den fandtes
- 43:13derude i virkeligheden den her løsning, men Der er ikke nogen,
- 43:16der havde opdaget det. Det Der er fedt.
- 43:19Så. Altså Jeg synes Det er vildt
- 43:22spændende det her. Jeg har faktisk ikke.
- 43:23Jeg har ikke dykket så meget ned i deres papir og Sådan noget,
- 43:26men jeg. Jeg har Sådan nogle nogle
- 43:30problemstillinger i hovedet, som jeg ikke helt forstår hvordan i
- 43:32har løst. Altså for eksempel det altså det
- 43:35her med at optimere. Noget altså.
- 43:39Det er jo noget som. Det er jo noget, som alle gerne
- 43:42vil gøre. Ikke man vil gerne skrive det
- 43:44hurtigst mulige kode som laver korrekte resultater.
- 43:48Der er bare mange af de her problemer med at altså ting som
- 43:51virker godt på en GPU virker ikke godt på.
- 43:55En CPU for eksempel og. Altså Sådan en kampagne her.
- 44:00Den skal også virke til, altså for eksempel folk, der laver
- 44:04høreapparater, hvor man har en eller anden helt speciel type
- 44:08tit, der næsten ikke bruger noget strøm og.
- 44:11Understøtter langt færre instruktioner, så jeg tænker, at
- 44:14det her med at optimere det, Det er jo.
- 44:17Jeg har svært ved at forestille mig, hvordan de finder den
- 44:19optimale kombination, uden at de ligesom har valgt.
- 44:23Altså en arkitektur. Af et eller andet stykke
- 44:26hardware den skal køre på. Men Jeg tror jeg også.
- 44:30Sagtens forestille mig, at Der er et stort potentiale, fordi
- 44:32Der er meget af simple kode, som bliver lavet af en compiler, som
- 44:36ikke er Sådan. Altså, Det er ikke nødvendigvis
- 44:38helt vildt godt. Men det.
- 44:41Det er fordi. At ligesom man.
- 44:42Får, og Det er det, og det og grunden til Det er så godt.
- 44:45Det er fordi man Der er mange mennesker der meget gerne vil
- 44:48slippe for den pæne. Det er at sidde og skrive ren og
- 44:51simpel kode. Ja eller hvad?
- 44:54Ja, og så skal man så skal man ligesom bygge en abstraktion
- 44:57ovenpå, som som ligesom skal generalisere og i den
- 45:01generalisering der mister man. Noget skønhed og noget
- 45:06optimering. Eller altså lad os tage sinus
- 45:10som eksempel for ikke altså hvis man gerne vil lave den den
- 45:15allerhurtigste approximation at sinus på alle arkitekturer,
- 45:20jamen så ville man være nødt til at gå ned og finde ud af.
- 45:23Altså præcis hvor mange værdiers er der, og hvor meget memory er
- 45:29der i. Altså hvis man nu skulle beregne
- 45:34sinus på mange elementer for eksempel.
- 45:37Ved siden af hinanden på en GPU, så vil man også godt vide altså.
- 45:40Hvor stor er de forskellige memory niveauer?
- 45:45I kassen altså hvor meget l et kasse er der og altså hvor meget
- 45:50kan man gemme forskellige steder så?
- 45:55Ja altså det. Det er et stort arbejde at lave
- 45:58en implementation af hver hver enkelt lille funktion for alle
- 46:02typer arkitektur. Åh, for fanden mand.
- 46:07Ja spændende hvad hedder det? Jeg tænker at vi måske nu har vi
- 46:12snart siddet og snakket en time og jeg tænker vi snakket noget
- 46:15tid. Jeg ved ikke om om hvis vi vil
- 46:18jeg lige se om Vi har flere spørgsmål her til LM, men jeg
- 46:20havde jeg kunne faktisk godt have tænkt mig at spørge dig
- 46:22Anton til at starte med, men det glemte jeg kunne godt tænke mig
- 46:24at spørge dig om, hvordan Det er at bo i Californien IUSA og
- 46:28arbejde der med hensyn til udvikling og Sådan noget, så det
- 46:32kunne godt tænke mig at vi lige så stille og roligt transit.
- 46:35Mere over til er der mere LMLMLVM og OMP som Vi skal
- 46:41snakke om før vi gør det. Nej jeg jeg tænker, at folk, de
- 46:46har sikkert hørt en hel masse nye udtryk i dag, så mon ikke
- 46:50bare Vi skal snakke lidt om Silicon Valley også?
- 46:52Altså. Jamen hvad kan du så bare brække
- 46:55det ned Anton? Det kunne være spændende at høre
- 46:57om din rejse og hvordan du ja hvordan er det at være derovre?
- 47:00Og ja, Jeg har leveret det. Jo altså på din tidligere
- 47:05arbejdsplads ekstra Bladet. Der kunne jeg forestille mig, de
- 47:07har skrevet en hel del om iran mosk, hans ene nye store x.
- 47:12Og Det er jo. Det er jo ikke ret langt fra
- 47:15hvor jeg bor nu her kan man sige.
- 47:17Og hvor er det helt specifikt du bor?
- 47:19Så med amerikanerne navngivning, så bruger jeg selvfølgelig i
- 47:23Dublin, som man vil tro på ligger i Irland, men.
- 47:29Det er Sådan udkanten af af auckland så Sådan iberia.
- 47:35Man kan tage toget til San Francisco på.
- 47:37Jeg tror måske det tager 45 minutter og Sådan noget.
- 47:42Og altså her i den her by. Jeg bor i der ligger oracles
- 47:45hovedkvarter. Og hvis man tager en køretur
- 47:50rundt om. Om Det er ja jamen så kommer man
- 47:53forbi Facebook og Google og m og det vil de der og indtal og.
- 48:00Altså Tesla, Der er virkelig mange store it firmaer her.
- 48:06Og altså Det er virkelig et et tekop man kan tage selvkørende
- 48:11biler, hvis man har brug for et lift.
- 48:16Det Det er meget sjovt. Ja.
- 48:20Fortalt, så var jeg. Jeg var i San Francisco og
- 48:23ventede på bussen og fra busstoppestedet.
- 48:26Der var der Sådan et stort busreklame.
- 48:28Og og reklame, den var fra gitlab at man skulle komme og
- 48:33prøve deres nye continuous integration, tror jeg så.
- 48:38Så. Man kan jo ikke se hjemme i
- 48:40København i hvert fald. Nej, men Det er også lidt et
- 48:43desperat forsøg på at overvinde github.
- 48:47Det er Sådan en døende racer nu. Det at bitbucket.
- 48:52Ja jeg jeg tænker også hvor mange hvor mange sejlads man får
- 48:55Sådan en busreklame. Det ved jeg ikke, men.
- 48:59Lidt skeptisk. Hvordan er det så derovre?
- 49:01Altså fordi jeg tænker hvis hvis man reklamerer med gået fra
- 49:04gitlab på altså på busser så må man have en eller anden
- 49:08demografi i tanken eller Sådan en eller anden form.
- 49:10For du ved hvem er det vi Der er her ikke?
- 49:12Er det virkelig Sådan at hver anden man støder ind i er så få
- 49:16udvikler eller? Eller altså Sådan eller et eller
- 49:19andet med it at gøre, eller? Det er nok ikke helt så mange,
- 49:23men altså, men Der er rigtig mange mennesker i området
- 49:25selvfølgelig, som er beskæftiget IT og man kan sige.
- 49:30USA på godt og ondt, så er der desværre også altså meget stor
- 49:34ulighed i lønindkomsten herovre. Så Jeg vil tro at.
- 49:39De mennesker, der har råd til at bo i San Francisco og i omegnen
- 49:43i beria. Det er nok også folk der har
- 49:46gode jobs. Hvis man så.
- 49:51Ja derimod arbejder på måske starbucks eller?
- 49:55Ja det ved jeg ikke, men mcdonalds eller Sådan noget, så
- 49:57så bør man nok rimelig langt væk fra byen så.
- 50:00Jeg tror, at man møder en rimelig stor del udvikler.
- 50:06Der er for fanden. Men ja altså.
- 50:11Det Det er meget Det er meget anderledes end Danmark.
- 50:14Det er også Sådan rimelig hardcore arbejdskultur med at
- 50:17arbejde. Mange timer om dagen og altså.
- 50:22Ja, Det var også bare generelt IUSA har de ikke ret mange
- 50:25helligdage, så Der er meget arbejde herovre ved at sige.
- 50:32Også Der er også meget arbejde, hvor man sidder stille på sin
- 50:36stol og måske ikke forlade sig meget.
- 50:40Ja, det tror jeg du har ret i. Jeg tror også Der er rigeligt.
- 50:42Jeg synes Der er rigtig meget hyggesnak på mit kontor i hvert
- 50:45fald i forhold til hvad jeg havde regnet med, så.
- 50:49Den amerikanske har også skulptur sjov, fordi man man
- 50:52siger jo, at vi gør. Vi går ikke hjem før klokken 1
- 50:56eller andet, men men altså hovedet hænger ret meget de
- 51:02sidste par timer og og det man står lidt længe ved
- 51:06kaffemaskinen, og Det er ikke så meget der bliver lavet og Sådan
- 51:10nogle ting. Men vi kom først hjem klokken 6
- 51:13eller 5 eller hvornår Det er ikke så ja.
- 51:16Det er nok en meget god beskrivelse også, altså i hvert
- 51:18fald på min arbejdsplads. Der er folk virkelig gode til at
- 51:20holde lange frokostpauser. Altså i stedet for at tage
- 51:23kantinen, så kan folk godt lide at tage på restaurant og altså
- 51:27så skal man jo lige køre hen til restauranten og tilbage og.
- 51:32Det kan godt tage lidt tid. Ja ja, men afslutningen.
- 51:38Hvis Anton så kunne måske godt tænke mig bare at høre, hvis man
- 51:41sidder derude og godt kunne tænke sig at arbejde ved med
- 51:45LMLELVM og OMP. Og og ligesom Sådan gør vi i
- 51:52gang eller drømmer om at at lave det.
- 51:54Hvad? Hvad gør man?
- 51:56Hvad gør man? Anton?
- 51:57Er der overhovedet noget arbejde at få med det herhjemme i
- 52:00Danmark, eller skal man til San Francisco for at arbejde med?
- 52:04Aha altså det sidste, Det er virkeligheden.
- 52:07Og så videre. Jeg kan læse noget andet end
- 52:10matematik i hvert fald. Jeg er ikke sikker på Det er den
- 52:12bedste baggrund Jeg har. Men hvis man læser computer
- 52:16science, så tror jeg man er godt dækket ind og så som sagt, altså
- 52:20hvis man hvis man kan finde ud af at skrive sit plus plus.
- 52:24Så kan man også godt finde ud af at arbejde med kompileren her,
- 52:27fordi. Alt lavet IC plus plus selv Det
- 52:31er der nogen der synes Det er sjovt, men altså fortegn
- 52:34compileren. Den har også skrevet IC plus
- 52:36plus for eksempel så. Så altså det det vigtigste.
- 52:43Og med jobsene. Jeg ved ikke rigtig hvor mange
- 52:45jobs Der er i Danmark. Det er også noget, jeg selv er
- 52:47lidt bekymret for, om jeg om jeg overhovedet kan arbejde med
- 52:50noget relevant, når jeg kommer hjem igen.
- 52:52Men det det må tiden vise. Altså Der er rigtig mange
- 52:57mennesker på verdensplan, der arbejder med det her.
- 53:01Så Jeg vil, Jeg vil sige at. Det det tror jeg altså.
- 53:07Jeg vil også sige at Det er. Det er stærkt relevant det du
- 53:13sidder med. Det er noget, der bliver brugt
- 53:17så meget ude i verden, og Det har kæmpe kæmpe impact når man
- 53:22skriver bare en eller 2 linjer kode til det der show der så Det
- 53:27er. Det er imponerende i sig selv
- 53:29vil jeg sige. Så det du du Det kan godt være
- 53:32at det bliver set som at man ikke skaber så meget værdi, men
- 53:35Jeg tror for dem Der er helt nede III tech verdenen og godt
- 53:40kan se at. Det her, Det er noget vi aftager
- 53:43på alle sammen, så det påvirker Sådan set alt derude.
- 53:47Ja, Det er også Sådan en god følelse, at hvis man hvis man
- 53:50forbedrer noget, så er det altså potentielt en. 3 milliarder
- 53:55Android devices eller hvor mange der nu er aktive som som lige er
- 53:59blevet en lille smule hurtigere, så Det er meget lidt strøm.
- 54:04Ikke bare de centrene der lige spare lidt strøm.
- 54:06Og ja, Det er da en fed følelse. Det må du lige skrive ind i hvad
- 54:10hedder det LinkedIn hedere end der lige skrive Sådan kæmper for
- 54:14miljøet online. Kunder der time eller Sådan
- 54:18noget? Ja ok men ja super hvad hedder
- 54:23det? Jeg synes Jeg synes Det var jeg
- 54:25ikke med dig Jonas men Jeg synes Det var ret spændende at få et
- 54:28indblik i hvad filen Det er for noget det her og jeg ved ikke
- 54:31Jeg tror Jeg tror Der er mange machine learning folk som som er
- 54:35ret meget ret store brugere af ting der skal gå hurtigt på p ur
- 54:39og hardware generelt så Vi er Sådan Der er meget Sådan Der er
- 54:43Sådan Det er sgu lidt sejt altså man er lidt en af de de hårde
- 54:46bananer føler jeg hvis man hvis man laver det du laver Anton II
- 54:49den her verden her det synes jeg skulle Det er ret cool.
- 54:52Så så jeg føler mig, jeg føler mig stolt og glad over, at Jeg
- 54:55er blevet indviet lidt mere i hverdagen foregår selvom jeg
- 54:58føler ikke jeg fatter det helt endnu, men lidt mere end jeg
- 55:03gør. For 2 2% 2% kendte til det nu.
- 55:06Nu er vi måske oppe på 3 4 stykker.
- 55:11Så Jeg er måske på 5. OK, men vi lærer jo alle sammen
- 55:16hele tiden. Heldigvis lader det, så kan man
- 55:19sige, at så længe man har en compiler et eller andet sted og
- 55:23den den bliver kaldt uden man ved det, så bliver man jo være
- 55:27glad som bruger. Det er godt vi peger, den
- 55:32virker. Stadigvæk.
- 55:33Det må også være lidt utaknemmeligt arbejde på noget
- 55:35der bare Sådan er er, så så glem det ikke og så ud underpris chat
- 55:41på en eller anden måde ja, men Jeg synes i hvert fald Det er
- 55:43mega sejt det du laver Anton og glad for du vil være med på
- 55:47podcasten her. Tak fordi i satte tid af til
- 55:51det. Og ja, jeg håber at Det har
- 55:53været spændende også for folk der har lyttet med det.
- 55:57Håber. Vi ja.
- 55:58Yes jamen så synes jeg bare at Vi skal afslutte her for i dag
- 56:01og 1000. Tak fordi du var med Anton og
- 56:04tak fordi i lyttede med derude. Have det rigtig godt.
- 56:06Vi ses igen i næste uge. Hej hej hej.