Latest / Verbos: AI og Softwareudvikling / # 59 - Llama 3.1, CrowdStrike, OpenAI Structured Outputs, Kaspers Fullstack Projekt

Transcript

# 59 - Llama 3.1, CrowdStrike, OpenAI Structured Outputs, Kaspers Fullstack Projekt · Verbos: AI og Softwareudvikling

• 0:00
  Så for Søren, så er vi tilbage fra sommerferien.
• 0:02
  Hvad bruges? Podcast er tilbage og Det er
• 0:04
  den. Ja, Det er jo torsdag den 7 7.
• 0:07
  august Vi er kommet tilbage. Vi er desværre blevet en dag
• 0:09
  forsinket, fordi vi lige har haft nogle nogle.
• 0:13
  Jeg ved ikke hvad man kan sige tekniske problemer, men nu er vi
• 0:15
  her i hvert fald og stærkt tilbage.
• 0:17
  I var jo faktisk tilbage i sidste uge med med Casper
• 0:19
  tidmand på mikrofonen, men Det var jo Sådan et et præg optaget.
• 0:25
  Afsnit kan man sige. Nu er vi tilbage, føler vi selv
• 0:28
  sidder og snakker. Det er vi fandeme savnet er det
• 0:30
  også ud. Det er også rigtigt Jonas.
• 0:32
  Jo, det må vi sige Jeg har. Jeg har haft mange ting henover
• 0:35
  sommer. Jeg tænkt hvad bonus kan ikke
• 0:37
  være på sommerferie? Der sker rigtig meget.
• 0:40
  Som de andre har. Jo ikke holdt sommerferie, mens
• 0:41
  Vi har ikke, og Det kan man jo godt fornemme.
• 0:44
  Det er jo det. Der er i hvert fald ja, crowds
• 0:46
  striber har ikke kommet på sommerferie, bestemt ikke på
• 0:49
  sommerferie. Og så ja Der er jo sket musik
• 0:52
  meta er også kommet med lama 3,1 og Der er forskellige ting og
• 0:56
  sager Vi skal snakke om, som vi slet ikke kan nå det hele i det
• 0:59
  her afsnit, men velkommen i hvert fald til afsnit nummer 59.
• 1:03
  Bare lige for godt giv et hurtigt brief om hvad Vi skal
• 1:05
  snakke om i den her episode, så vil vi gerne snakke om det Sådan
• 1:08
  du ved lidt siden sidst hvad Der er sket hen over sommeren i ja
• 1:11
  for os. Så vil vi gerne snakke om leg
• 1:13
  med 3,1 crowds Strike. Jeg tror Det var i går eller
• 1:17
  også i dag. Jeg tror Det var i går opinay og
• 1:19
  jeg kom ud med den her nyhed om at de vil.
• 1:22
  Jeg har Sådan en ny funktionalitet i deres API som
• 1:25
  de kalder for structure output, som er en form for viderebygning
• 1:28
  på funktion calling, som vi godt kunne tænke os at snakke om,
• 1:31
  fordi Det er lidt. Det viser lidt en trend i
• 1:34
  hvordan folk er begyndt at bruge alle elever.
• 1:36
  Og så skal vi selvfølgelig snakke om ugens repot til sidst
• 1:39
  det her ugentlige format, som vi nåede at lancere lige inden vi
• 1:42
  kig på på på sommerferie. Ja, så det vil der være tilbage.
• 1:47
  Det bliver der tilbage. Hvordan?
• 1:48
  Hvordan er det gået med dig her over sommeren?
• 1:51
  Har du haft nogle? Nu har du rodet med nogle ting
• 1:54
  og sager Jonas eller hvad? Jeg tror egentlig Jeg er mest
• 1:58
  forsøgt at slappe af det. Det.
• 2:01
  Det er nok det bedste når må holde sommerferie så noget sol
• 2:04
  ud og rejse lidt og i sommerhus. Det lød hyggeligt.
• 2:08
  Ja, Vi har også bare været rundt i Danmark og på ferie og så
• 2:12
  videre, så så Det har været fint nok.
• 2:13
  Men Jeg har jo også Jeg har jo Jeg har sgu ikke kunne holde mig
• 2:15
  helt væk fra fra fra computeren. Jeg har jo jeg fik jo købt mig
• 2:20
  et cleort klort abonnement her. Jeg fik jo skiftet jeg opsagde
• 2:25
  mit chat GPT abonnement som Jeg har haft ja siden chat plus kom
• 2:29
  ud abonneret på Claude og så har jeg ellers bare hacket dig ud af
• 2:33
  på på en ide som jeg faktisk har gået og haft i noget tid.
• 2:38
  Og så har jeg fået noget tid siden købte jeg det domæne der
• 2:41
  hedder eijobs.dk og så tænkte jeg Sådan OK jeg kunne godt
• 2:45
  tænke mig at prøve at lære fullstag.
• 2:46
  Jeg er træt af ikke at kunne bygge webapps.
• 2:48
  Sådan at man ligesom kan få Sådan nogle ideer og tanker ud i
• 2:50
  verdenen. Så jeg tænkte Sådan, OK?
• 2:55
  Så Jeg har længe haft den her ide om at Det er Sådan et job
• 2:57
  board. Kunne være Sådan en simpel god
• 2:59
  starter ting ligesom at begynde at bygge, så Jeg har købt af
• 3:02
  thoma og så tænkte jeg nu er det nu, og så har jeg ellers bare
• 3:05
  gået i gang med total cowboys move fast in break things.
• 3:11
  Blæst 4 5000 linjers kode hvad hedder det react og hvad hedder
• 3:17
  det fast DPI. Jeg skal give dig skære kode ud
• 3:23
  ja og har fået klar ja og har fået sejt i luften.
• 3:28
  Fik udgivet det fik launchet det på HTTP kunden fordi jeg ikke
• 3:32
  kunne finde ud af at sætte det HTTPS op.
• 3:36
  Det kom så op, så om aftenen da det blev launchet, så var der
• 3:40
  nogen der ligesom havde ringet eller skrev til mig og sagde at
• 3:43
  der var nok noget galt med mit site, så var jeg inde på sitet
• 3:45
  og så at der var 4004 1000 jobopslag hvor der står.
• 3:50
  Hvor der står altså titlen på jobbet er ligesom spiny Kasper
• 3:55
  lidt nøjere end i virkeligheden, og så står der volds altså
• 3:59
  lokation der står der volds homo mose altså som byen der hvor
• 4:03
  jobbet var lavet op, så tænkte jeg OK det Det er noget noget.
• 4:06
  Der har prranket af Det er. Noget spand det ikke, så går jeg
• 4:09
  ind. Så er der den der så er der
• 4:11
  bliver spillet den der i et spin me vibe baby og så den der.
• 4:15
  Jeg ved ikke om i kan Der er Sådan et meget kendt gif som.
• 4:19
  Som ikke er så så lydig og stueren vil jeg sige ja, så der
• 4:23
  var lige Sådan et spamangreb der og har du fundet?
• 4:27
  Ud af hvem Det er? Nej Det har jeg ikke, men Jeg
• 4:31
  har fortjent det. Jeg fortjente det.
• 4:32
  Når man udgiver så så sløjd et produkt.
• 4:36
  Hvad hedder det med så dårlig sikkerhed?
• 4:40
  Og hvad var det så? Så skulle du lige hisse husk at
• 4:42
  sige, så ringede du til en ven. Hvem var det?
• 4:45
  Det var Det var Jonas. Det var dig jeg lige ringede til
• 4:47
  os. Og hey, hvad fanden gør jeg lige
• 4:49
  her? Ja så Det var.
• 4:51
  Det var ikke så heldigt. Det endte med, at jeg ligesom
• 4:53
  lukkede ned for at man kunne oprette en bruger og slettede
• 4:57
  selvfølgelig de der opslag og fik slettet de der spam brugere
• 5:00
  der var blevet lavet. Og nu er så prøvede jeg så
• 5:05
  efterfølgende at få det over på HTTPS, men så får jeg Sådan
• 5:08
  nogle mix content app. Det fungerer ikke.
• 5:12
  Så men der kommer en. Der Vi skal nok klare det, og
• 5:15
  det kommer en lille krølle på halen på ugens rapport, fordi
• 5:18
  Det er nemlig næste skridt for for ægerjob.dk.
• 5:21
  Det er i hvert fald planen, så Det kan i glæde jer til.
• 5:24
  Der, Der er en tråd III sideprojektet over til til ugens
• 5:27
  report det det glæder vi os til at høre lidt mere om.
• 5:31
  Men jeg må indrømme, at Jeg har godt nok lært meget om Sådan.
• 5:35
  Altså ingen tvivl om at EI assistenter er gode, altså, Det
• 5:39
  er et fuldstændig uvurderligt redskab til at kode med.
• 5:43
  Men jeg jeg fik altså. Jeg skrev jo banken i python og
• 5:47
  fronten II time script med react og next jas og backenden forstår
• 5:53
  jeg fint du ved Det er faktisk DPI det kender jeg alt det der
• 5:55
  der var lige noget offentligtation og Sådan nogle
• 5:57
  ting jeg lige skulle lære og Sådan noget, men men ellers
• 5:59
  Sådan så forstår jeg det Sådan okay?
• 6:01
  Eller forstå det fordi jeg kender sproget og så videre.
• 6:03
  Men type script delen fattede jeg.
• 6:07
  Brik af altså altså selvfølgelig.
• 6:09
  Man kan godt læse det og Sådan noget, men der det det det man
• 6:12
  skal Det er sgu noget andet end parkinson.
• 6:16
  Og til sidst så stod jeg bare i så meget lort til halsen i kode.
• 6:19
  Jeg bare havde blæst ud af Claude der som som bare altså ja
• 6:26
  som som som jeg. Rydder op efter sig, for fanden
• 6:30
  ikke, men. Det er jo det og og Det er det
• 6:32
  man finder ud af. Altså man kan kun kode over evne
• 6:35
  så langt før det begynder at blive.
• 6:39
  Før det begynder, at før det begynder at miste overblikket de
• 6:42
  her chatbots, altså før de begynder ikke at kunne finde
• 6:44
  rundt i. Altså før de begynder at de
• 6:46
  dårlige svar. Ikke også når man Sådan når man
• 6:49
  så også siger Sådan noget med amen, så har jeg oprettet det på
• 6:51
  cloud flair og du ved HTBS der og altså Det er flere
• 6:55
  forskellige systemer eksterne systemer der begynder at skulle
• 6:58
  spille sammen og Sådan noget, så begynder den virkelig at
• 7:00
  struckle, og så begynder man også Sådan at.
• 7:04
  Opleve. Det er ikke rigtigt intelligens
• 7:06
  altså Det er ikke Sådan. Det er ikke Sådan rigtigt
• 7:10
  intelligens der fordi den den foreslår lidt det samme hele
• 7:12
  tiden og altså Der er. Sgu en Det er jo ikke en nyhed
• 7:16
  kan man sige, men for nogle er det måske.
• 7:19
  Men det bliver meget tydeligt der når man står og bare ja.
• 7:24
  Så Jeg har taget lidt op nu her. Det skal vi snakke om senere,
• 7:26
  men en lille teaser er, at nu kunne jeg godt tænke mig ligesom
• 7:29
  at prøve at lære lidt mere altså.
• 7:34
  Bevæge mig lidt langsommere og så lige prøve at lære lidt af
• 7:36
  det der time script og reaged og lige prøve at se om man ikke
• 7:38
  lige kunne lure have lidt tålmodighed og lige se om man
• 7:41
  ikke kunne lure hvordan det hænger sammen.
• 7:44
  Ja. Yes on that note, så skal vi
• 7:48
  tage hul på et af Vores Vores catch up emner.
• 7:52
  Jeg er jo især glad for. For at at når vi når til crowd
• 7:55
  fight, men jeg tænker faktisk Vi skal starte et andet sted.
• 7:58
  Skal vi ikke snakke lidt open source og open source og lame?
• 8:04
  Altså Vi er jo som altid. Meget langt bagud i forhold til
• 8:08
  breaking breaking. Ja, men i dag er vi.
• 8:14
  Men jamen hvad er der sket lama Der er nogle lama nyheder.
• 8:19
  Altså vi sad jo Jeg kan huske for nogle noget tid siden, så
• 8:24
  sad vi og lavede Sådan et forudsigelse om at det her 2024.
• 8:28
  Det blev i hvert fald der hvor open source for good ligesom
• 8:32
  fik. Altså var det der kom til at
• 8:34
  føre og Det kan det tror jeg det moment hvor vi ligesom er nået
• 8:39
  dertil det tror jeg Det er nu. Jeg har.
• 8:44
  Jeg har stadigvæk ikke Sådan hørt særlig mange sige yes mand
• 8:47
  helt sikkert. Nu henter vi bare den der kæmpe
• 8:51
  model ned, og så går vi bare igang.
• 8:53
  Det er det vi gør, så hvad for en indpak Det har?
• 8:57
  Der er jeg altså stadigvæk lidt i tvivl.
• 8:59
  Altså Jeg tror det kommer til at være en del af en fødekæde,
• 9:01
  ligesom Vi har set tidligere til at generere tekst, som så
• 9:05
  genererer mere tekst som. Kan bruges til at træne nogle
• 9:09
  mindre modeller, så det stiller vi ligesom lidt derned af.
• 9:13
  Men Jeg tror altså Jeg tror Det har et eller andet sted afledt i
• 9:16
  open source verden har kommer det til at have nogle nogle ret
• 9:20
  markante effekter på på de mindre modeller også.
• 9:23
  Ja måske skulle man lige altså hvis Det er noget der ligesom er
• 9:25
  gået nogen overhovedet, kan man måske lige tage et recap af,
• 9:28
  hvad Det er Der er sket. Altså man kan sige Facebook
• 9:31
  eller meta den gode magt. Zacab de udgav jo lama 3
• 9:36
  modellerne her for. Nogle måneder siden 3 3 måneder
• 9:41
  2 3 måneder siden Det kan jeg sgu ikke huske, men men for
• 9:43
  noget tid siden i hvert fald udgav de lama 3 modellerne og
• 9:46
  Det var vist en. 7 b en. Og så er vi en 80 b vist nok.
• 9:53
  Jeg kan ikke huske hvad Der er sikkert ind imellem os.
• 9:57
  Ja så Det var Sådan nogle i den størrelsesorden altså maksimalt
• 9:59
  mener jeg 80 mia. parametre, og de blev selvfølgelig state of y
• 10:04
  art i den klasse og så videre som de var i og så videre.
• 10:07
  Det på det daværende tidspunkt, og der reklamerede de også for,
• 10:10
  at de havde en en model på 400 mia.
• 10:13
  Parametre III ovnen til at til eller ligesom til at Sådan
• 10:18
  ligesom er i gang med at træne, men som ikke var færdig.
• 10:21
  Og nu har de udgivet lama 3,1, som de kalder det, som er en
• 10:25
  ophateret version af deres små modeller, syveren og.
• 10:31
  Jeg kan ikke huske hvad der inde i midten og så 80
• 10:33
  milliarder-modellen modellerne som opdaterede version af dem og
• 10:36
  så denne her 400 den her kæmpe gigantiske største.
• 10:40
  Så vidt jeg ved open source model tilgængelig model med 405
• 10:45
  mia. Parametre som ja som som er
• 10:51
  fucking stor altså Det er jo en gigantisk model, så vidt jeg ved
• 10:54
  så. Altså man siger GPT 3 som kommer
• 10:57
  ud af 2020. Det er selvfølgelig også længe
• 10:59
  siden. Men den var den var 175 mia.
• 11:01
  parametre ikke den den er bare gigantisk og Det er ikke noget.
• 11:05
  Det er ikke noget mix turf models halløj Det er altså bare
• 11:08
  dens parameter ikke? Og det Der er så vild med den.
• 11:12
  Det er at den den der Vi er oppe med den model er vi oppe i den
• 11:16
  skala, hvor at det begynder at kunne måle sig med med det man
• 11:19
  kalder for front team modellerne altså GT 4 o og clude Sådan et
• 11:24
  3,5. Og så videre.
• 11:28
  Og Det er vildt i sig selv altså det Det var lidt Jeg kan huske i
• 11:34
  før altså i slutningen af 2023 hvor vi tænkte Sådan open source
• 11:37
  kommer til at blive stort III 2024 og så videre og Der er også
• 11:41
  mange der sagde Sådan ham. Jeg tror favnerne fra hugging
• 11:44
  face sagde også at open source du ved II 2024 der får vi et
• 11:47
  open source model som er lige så god som de runger modellerne og
• 11:51
  så videre og jeg havde Sådan en jeg havde Sådan lidt hvor jeg
• 11:53
  tænkte Sådan. Kan det nu også være rigtigt,
• 11:55
  ikke? Hvem skulle levere den?
• 11:57
  Ja lige præcis, men Jeg tror både Jeg tror måske både Det er
• 12:00
  en kombination af at de der frontir modeller for for openay
• 12:05
  hi og androbic er ikke blevet så meget bedre, som jeg måske havde
• 12:10
  forventet. Nej, Der er nok noget nyt på
• 12:14
  vej, ikke men, men på nuværende tidspunkt er de ikke og så har
• 12:18
  lama altså ligesom bare halet ind på dem og ja og nu og nu er
• 12:23
  der altså bare en ordentlig mappedreng af en open source
• 12:27
  model, som kan måle sig med de andre rigtig gode modeller.
• 12:32
  Og Det er vildt fordi Det er en kæmpe i Sådan den der startup
• 12:37
  verden der kalder det for en mode altså 1 1 1 voldgrav.
• 12:42
  Åbne i har jo ligesom haft den her voldgrav rundt om sig, der
• 12:44
  hedder at at de har jo ligesom investeret så mange milliarder
• 12:48
  dollars i at få det her til at ske.
• 12:49
  Ikke for de har ligesom det her modelartifact, som de ligesom
• 12:52
  bare som er deres cash cowing. Og den er altså bare.
• 12:59
  Utrolig altså virkelig detvalueret nu her, ikke?
• 13:03
  Ja. Det er spændende i sig selv.
• 13:09
  Og man kan sige Det er spændende, hvorfor Facebook
• 13:11
  vælger at gøre det her? Ikke fordi at de siger jo, at
• 13:13
  Det er jo ikke deres core business model.
• 13:15
  At hvad skal man sige? Serverer de her produkter der
• 13:18
  bruger den her eller sælger API adgang til de her modeller, så
• 13:22
  de laver det her research alligevel?
• 13:24
  De ser det som en del af en længere langsigtet plan, tænker
• 13:27
  jeg. Og da det gør deres core
• 13:29
  business og ser de ikke noget problem i ligesom at sætte det
• 13:33
  ud gratis til alle fordi og de får Sådan en masse goodwill af
• 13:36
  det. De har jo kæmpet lidt med det
• 13:38
  gode ry ikke og og har fået en masse røg før i tiden der får de
• 13:41
  en masse love nu her for for udviklere og alle vil arbejde på
• 13:45
  Facebook og alle vil lave research på Facebook fordi de de
• 13:48
  de har den her åbne tilgang til tingene.
• 13:52
  Og man kan sige, Jeg tror også en kæmpe stor motivation for dem
• 13:54
  er også det her med, at ligesom de har gjort med med py tals og.
• 13:58
  React. Som også er open source
• 14:01
  frameworks fra Facebook, der når de gør det her med at open
• 14:06
  source deres ting og ligesom bare sætte dem ud og og hvad
• 14:10
  hedder det lidt Sådan vi gør? Så lytter folk, og folk begynder
• 14:15
  at kont og arbejde på Facebook ting, så Det er også en måde de
• 14:19
  ligesom kan lægge noget ud, og så bliver det altså bare den
• 14:21
  åbne standard for. Hvordan?
• 14:26
  Hvordan open source communitiet laver fordi Der er Der er så
• 14:29
  meget værdi for open source community i at der bliver lavet
• 14:31
  de her releases så så hvad hedder det så er der stor værdi
• 14:35
  i det for for dem i at at open source hele communitiet.
• 14:40
  Det åbne community arbejder ligesom på deres ting og efter
• 14:42
  deres standarder og så videre ikke og Det er tydeligvis deres
• 14:45
  strategi. Det det det tror jeg Det er.
• 14:48
  Og lidt ligesom man kan fornemme nogle gange Google kan finde på
• 14:52
  ligesom at kigge på et område vi havde.
• 14:54
  Vi havde det der den der snak omkring tipudvikling og og det
• 14:59
  der med hjørne ja og de der fabips der som altså fabrikker
• 15:03
  som laver chips hvordan Google ligesom kiggede på det og sagde
• 15:06
  der skal sgu ske noget derovre og så kastet Sådan en bunke
• 15:09
  penge efter det, for ligesom at disrupte det på en eller 2 måde.
• 15:12
  Jeg ser lidt det samme at. At Det er det meta gør med det
• 15:16
  her. De har jo også deres egen
• 15:19
  platform, men Det kan da godt være det ikke er deres core
• 15:20
  business, men derfor er det som du siger alligevel værdifuldt
• 15:24
  for dem at gøre. Det er ikke fordi de ikke får
• 15:25
  noget ud af Det kan man sige altså, men men Det er også bare
• 15:28
  man må sige de de slår sig ret godt og er succesfuldt på på
• 15:32
  open source tools altså react pytals pyt en del af linux
• 15:37
  foundation nu, men Det var altså facebookudviklet.
• 15:40
  Ja. Og Google har selvfølgelig været
• 15:44
  været også rigtig langt fremme med det i forhold til tenorflow.
• 15:48
  Det er de 2 store for for de blødninger udviklingen ikke.
• 15:52
  Så ja det skulle jo komme og fra en af de store Google eller
• 15:57
  eller meta tænker man fordi det ligesom er dem man altså intet
• 16:00
  af det som åbner Jeg har lavet i dag, havde aldrig nogensinde
• 16:03
  været muligt, hvis ikke Det var for både Google og meta.
• 16:06
  Nej og og Det er der de de rider på open source og nu falder de
• 16:10
  nok også på open source igen og og og Det er jo Det er jo
• 16:15
  interessant. Jeg tror mark Zuckerberg han
• 16:17
  sagde Sådan noget med at at jamen altså Der er jo en grund
• 16:21
  til at linux det vandt over unix systemerne.
• 16:24
  De unix systemerne var jo lukket lukket operativ systemer de
• 16:29
  havde. Hvad kan man sige nogle de var
• 16:31
  baseret på unix-filosofien og den.
• 16:34
  Hvad kan man sige? Arkitektur og filstrukturer man
• 16:36
  kendte alle de der ting der. Der var ikke noget i det, men de
• 16:38
  var ligesom hver især de distributioner der var der.
• 16:40
  De var ligesom lukket licenser, ikke?
• 16:43
  Så man skulle betale for og så kom der et uniclike system som
• 16:48
  så hed linux lige pludselig. Og og det overtog, og Det er jo
• 16:53
  fuldt open source i dag. Og Det er sjovt Der er.
• 16:56
  Det, Der er det mest dominerende altså der har jo internet er
• 16:59
  bygget på linux ikke? Og og det som mike sokkel jo
• 17:03
  siger Det er jamen det tror han også på at at a og i kommer til
• 17:08
  at være bygget på open source standarder som er udviklet i
• 17:12
  open source regi med nogle selvfølgelig med nogle store
• 17:16
  aktører ind over. Fordi at Der er det her
• 17:21
  computerbehov som er så stærkt og det starter man ikke bare
• 17:24
  lige nede i en kælder i Finland som som Jeg tror og jeg ved ikke
• 17:28
  om Det er en kælder. Men liners thorvald som startede
• 17:30
  linux. Han gjorde det jo bare fordi han
• 17:33
  var irriteret over at der ikke var noget.
• 17:36
  Og der hvor man kunne sætte sig ned i en kælder og så bare blive
• 17:39
  dernede i lang tid og så bare. Få løst og så.
• 17:43
  Lave noget rigtig fedt sammen med rigtig mange gange det.
• 17:46
  Det er bare lidt. Men Det er sjovt.
• 17:49
  Det svarer lidt til at være en mand til at bygge en parob, hvis
• 17:51
  man vil prøve at lave det der ære i show der i den skala ikke
• 17:54
  det. Det duer ikke rigtigt.
• 17:55
  Uanset hvordan du vender og drejer det, så kommer du kun til
• 17:57
  at tegne tegninger og aldrig til at lægge sten, vel?
• 18:01
  Det er sjovt det der med at den der styresystems pendant eller
• 18:04
  Sådan analogi som mange laver det her med at linux.
• 18:07
  Det er ligesom lamomodellerne og opiny i og mac eller Apple og
• 18:13
  entropic og Google eller hvad Det er hvad hedder det Microsoft
• 18:15
  eller altså hvad ved jeg et eller andet ikke.
• 18:17
  Jeg ved ikke om den kommer til at holde, men Det er en
• 18:21
  spændende sammenligning synes jeg ja, og Jeg synes måske skal
• 18:24
  vi også prøve at snakke lidt om hvad det betyder, fordi Jeg
• 18:26
  synes du nævnte noget noget interessant før nemlig det her
• 18:30
  med at. Jeg kender sgu ikke nogen der
• 18:33
  lige har hevet den der 400 b 400 milliarders parameter model ned
• 18:38
  på deres deres laptop og lige kørt den fordi altså den er
• 18:43
  gigantisk. Jeg ved ikke hvad fylder den i
• 18:44
  gigabyte, den fylder vel adskillige 100 gigabyte eller et
• 18:47
  eller andet ikke? Ja, hvad var det?
• 18:49
  Jeg tror Det var en masse. Han sagde at man skulle bruge
• 18:51
  hvert fald 4. H 100 og hvad har de 120
• 18:58
  gigabyte værd eller Sådan noget de store?
• 19:00
  Kan du ikke huske? Det hvis du altså hvis du prøver
• 19:02
  en tyser den fuck ud af den så kan du sikkert få den ned på 4
• 19:06
  eller et eller andet altså. Den.
• 19:08
  Samme er bare den. Er på olhama altså du kan skrive
• 19:12
  en olav med kommando og få den til at gå i gang med at
• 19:15
  downloade det. Og Jeg tror du kan ellers godt
• 19:19
  lade være med at skrive den kommando.
• 19:20
  Nogen som helst steder hvor du kan installere det.
• 19:23
  Det var sjovt i sig selv altså. Du kan jo håbe at du har den der
• 19:28
  en tilarbejde, maskine eller Sådan noget.
• 19:32
  Ja, men så men så kan man. Jeg kan godt forstå folk tænker
• 19:35
  Sådan OK? Hvad er de praktiske
• 19:37
  konsekvenser for normale mennesker for det her?
• 19:39
  Fordi Der er jo ikke nogen der kommer til at køre det lort der
• 19:41
  på deres på nogen som helst maskine, og det kommer heller
• 19:43
  ikke til at det kommer heller ikke til at være rentabel for de
• 19:46
  fleste at køre det selv. Altså medmindre man er novo
• 19:49
  nordisk eller et eller andet crazy ikke, men så hvad er det
• 19:52
  egentlig det kommer til at betyde det?
• 19:53
  Synes Jeg er et ret ret interessant spørgsmål.
• 19:56
  Som du sagde før, så så er der jo 1 1 1 stor forskel.
• 20:00
  Det her kommer til at gøre. Det er at rigtig meget open
• 20:04
  source er bygget på syntetisk data og alt det syntetiske data
• 20:08
  Det er genereret med propæremodeller som GPT 4 for
• 20:13
  eksempel og GPT 4 eller opady i og alle de andre har i deres
• 20:17
  terms og views at man ikke må træne videre på på.
• 20:22
  Output genereret for deres modeller.
• 20:24
  Bruge det kommercielt, hvis man dræner videre på det.
• 20:26
  I hvert fald ikke. Og du må ikke open source til
• 20:30
  og. Det er jo det, så Det har længe
• 20:34
  været Sådan et problem. Det der du ved mistral du ved,
• 20:37
  de kører jo også de kører. Altså mon ikke de også har
• 20:39
  trænet på noget GPT 4 data? Det har de bare ikke sagt eller
• 20:42
  et eller andet altså. My bagrat your back.
• 20:46
  Det er ligesom scrapingkulturen på internettet, ikke?
• 20:48
  Hvor? Sådan har det også været i mange
• 20:50
  år, selvom Der er regler for det.
• 20:51
  Så ja ja. Men nu kan man altså Sådan åbne
• 20:55
  give den give den gas. Med at generere lovlige
• 20:58
  syntetisk data, som er fuld lovligt at bruge til alt muligt,
• 21:01
  og der vil jo blive lavet instruktionsdatas og preference
• 21:05
  datasæt og alt muligt i lange baner for det her som man som
• 21:10
  open source communitiet kan bruge til at træne, altså lære
• 21:13
  simpelthen at lave modeldestillering og træne bedre
• 21:16
  mindre modeller. Og Det kan i.
• 21:18
  Hvert fald sige, at i metasourms ifølge dem er det ligesom
• 21:23
  lovligt, men lovlighed. Er jo 1 1 1 særligt begreb som
• 21:27
  først kan. Hvad kan man sige stadfæstes ved
• 21:30
  en domstol, så derfor så kan man sige man ved.
• 21:33
  Vi ved ikke særligt meget om lovligheden i mange af de her
• 21:36
  ting for at sige det rent ud. Det er et emne, vi i øvrigt også
• 21:40
  savner nogle kloge mennesker til at sige noget om i podcasten, så
• 21:43
  hvis i sidder derude og kender en der ved rigtig meget om Sådan
• 21:45
  noget open source licenser for eksempel.
• 21:48
  Jeg har virkelig forsøgt at finde nogle youtubere, der gør
• 21:50
  sig i at gå igennem Sådan nogle ting der Jeg har fundet en, jeg
• 21:53
  skal nok dele den en dag. Jeg har ikke glemt hvad han
• 21:55
  hedder, og Det er altså bare kompliceret stof.
• 22:00
  Så hvis Der er nogen, der kommer for eksempel og siger hov de har
• 22:02
  fundet ud af, at metha har trænet på noget data, som var
• 22:05
  inzavnet ikke helt efter bogen, men så har de så open-source
• 22:09
  lidt bagefter. Det kommer sikkert fra nogle
• 22:11
  brugere. Almindelige mennesker som dig og
• 22:13
  mig. Måske var der noget på Facebook
• 22:15
  jeg var jeg skal lige det kunne godt være.
• 22:19
  Så skulle det jo ikke undre nogen, at Det var det, der var
• 22:21
  tilfældet. Men herregud altså.
• 22:25
  Så finder vi ud af det, måske på på et tidspunkt, og så er løbet
• 22:28
  kørt, og så er alle blevet ligeglade med.
• 22:33
  Du ved Sådan et kæmpe domino spil, Der er væltet ud af data
• 22:38
  Der er født ind i andre modeller og Sådan nogle ting, så
• 22:40
  oprydningsarbejdet. Det minder lidt om den kælder
• 22:42
  Jeg har i øjeblikket efter Sådan regnvejr.
• 22:45
  Det er fuldstændig uoverskueligt så.
• 22:48
  Nå. Og Det var ikke det vi skulle
• 22:50
  snakke om det der podcast i øvrigt.
• 22:52
  Så OK, men Det er bare for at sige at det kommer højst
• 22:55
  sandsynligt til at have en ret stor effekt på.
• 22:57
  Hvad kan man sige? Open source modeller og deres
• 23:01
  licenser og alt Sådan noget, så Det er jo Det er jo rigtig
• 23:03
  rigtig godt, men en 2 interessant ting bare lige her
• 23:06
  og afsluttende, som jeg også synes Det har er en interessant
• 23:09
  konsekvens. Det er jo at.
• 23:12
  Man rent faktisk nu har muligheden for at vælge en åben.
• 23:16
  Hvad skal man sige eller lem model til at bygge sine ting
• 23:19
  med? Altså du kan jo du altså.
• 23:21
  Der er jo forskellige AVS og Google cloud og Sådan noget.
• 23:25
  De mener jeg, Der er i hvert fald providers, der ligesom
• 23:28
  serverer den her model. Via API så du kan kalde den på
• 23:32
  samme måde som du kan kalde opin for eksempel.
• 23:36
  Så det vil sige. Du behøver ikke at deploy den
• 23:38
  selv for at bruge den, men det interessante er jo egentlig, at
• 23:40
  nu har man faktisk muligheden for at sige OK.
• 23:43
  Vi kan sgu open source nu nu kører nu kører vi nu laver vi
• 23:46
  Vores LM back end open source, så så hvis hvis altså alt går
• 23:51
  galt og alle tror altså du ved USA trækker stikket på Europa og
• 23:56
  du ved alt fuldstændig brænder. Og.
• 23:58
  Intet angrebet er fra WSO op til hvad kan man sige on prem
• 24:03
  maskiner og du skal selv købe din GP og så må du ud og snakke
• 24:05
  med en video og så kan du tage modellen med dig.
• 24:07
  Så kan du simpelthen her, så kan du sige OK ved du hvad Jeg har?
• 24:10
  Jeg har faktisk ligeglad med den her provider, fordi Jeg har selv
• 24:13
  modellen og den kan jeg bare deploy på.
• 24:14
  Alle de mange GPU er som jeg jo alligevel har liggende og jeg
• 24:17
  ikke bruger til en skid. Altså.
• 24:22
  Og det ved jeg godt at Det er Sådan lidt Der er mange du ved
• 24:25
  der vil sige at Det er Sådan lidt sølvpapir.
• 24:27
  Hatten her på og du ved Sådan rolig nu og Sådan noget ikke men
• 24:31
  men altså Det er jo hvis du skal lave software der du ved har lon
• 24:35
  jeværdi og skal jeg ved ikke om Der er nogen i virkeligheden kan
• 24:39
  man også sætte sig ned og tænke på OK lad os planwich models den
• 24:42
  måde vi bruger dem på nu. Her gør vi det også om 10 år
• 24:45
  altså eller ser det bare helt anderledes ud ikke?
• 24:46
  Det ser nok rimelig meget anderledes ud.
• 24:48
  Men men altså hvis man du ved nu kan du gå ned.
• 24:51
  Nu kan du gå ned i en kælder og du ved jo altså Der er jo masser
• 24:54
  af virksomheder i det offentlige sikkert som har det her problem
• 24:58
  med at Det er privat data og så videre.
• 25:01
  De kan nu købe GPU er ind ned i kælderen og så rent faktisk
• 25:04
  surve en Sådan en frontier level model uden at gå alt for meget
• 25:09
  på kompromiskvalitet. Den er funcing calling, den har
• 25:12
  det ene og det andet du kan gøre alt muligt.
• 25:14
  Og så ja, og Det er vildt. Der er noget principielt over
• 25:19
  det som som som er vildt der for de fleste er det nok ikke super
• 25:22
  betydningsfuldt, fordi man alligevel bare kalder den
• 25:25
  igennem et API. Men ja.
• 25:27
  Så lige til afsluttet. Vi plejer altid lige at runde
• 25:29
  den danske vinkel på alt det her tekst show.
• 25:33
  Hvad ved vi noget om hvordan den den gør sig til på dansk?
• 25:38
  Kan den kan den noget. Det ved vi måske ikke endnu.
• 25:41
  Jeg har faktisk stadig ikke hørt noget.
• 25:43
  Jeg har prøvet at række lidt ud, men Jeg synes ikke Der er rigtig
• 25:46
  nogen der har noget meldt noget tilbage, altså.
• 25:49
  Og Jeg har faktisk ikke engang selv givet.
• 25:52
  Det tung og evalueret. Ja, så det bliver ikke lige kørt
• 25:55
  på de almindelige små g. PU er så hvad hedder det?
• 25:59
  Men altså jeg forestiller mig at Det er jo egentlig lidt.
• 26:01
  Det skulle vi da nok lige have undersøgt egentlig.
• 26:03
  Det er jo ikke så super godt forberedt, men.
• 26:05
  Jeg forestiller mig at den. Den er den er relativt god.
• 26:10
  Ikke fordi. Bare fordi den er så gigantisk.
• 26:14
  Altså Jeg tror at når man har så store modeller, så så kan man
• 26:18
  ikke undgå at de har set noget dansk og at at de så er relativt
• 26:22
  gode til dansk. Ja.
• 26:29
  Det var jo det. Yes Det var det.
• 26:32
  Skal vi gå videre til? Hvad skal vi gå videre til?
• 26:36
  Skal vi Der er noget med? En blå skærm.
• 26:39
  Jeg synes du skal sætte os ind i den blå skærm, som mange har
• 26:44
  været lidt frustrerede over her i for et par uger siden.
• 26:47
  Det er jo spændende at høre om Der er nogen blevet fanget i
• 26:48
  lufthavnen. Jeg har.
• 26:49
  Jeg har et par der inde på arbejdet lige var Sådan.
• 26:51
  Ja vi var lige vi så en blå skærm i lufthavnen.
• 26:54
  Men hvad hedder det? Det var jo, Det var jo
• 26:57
  interessant hvordan man kunne hive alle de stakkels IT.
• 27:02
  Til alle dem der. Levede main tainers hjem fra
• 27:05
  ferien for at prøve at fikse de der maskiner, så jeg skal nok
• 27:08
  bare fortælle det. Ja.
• 27:12
  Det der skete, hvis der ikke var nogen der lagde mærke til det.
• 27:14
  Det var at den her virksomhed der hedder crowdfrike de.
• 27:19
  De sendte en opdatering ud til nogle Windows maskiner på noget
• 27:23
  sikkerhedssoftware som de. De hoster på på eller som er
• 27:28
  nogle har købt licens til og bruger på de der maskiner og det
• 27:31
  stykke software som Jeg tror det hedder falcon Det har til opgave
• 27:35
  ligesom at opdage om der bliver lavet nogle kald til nogle nogle
• 27:41
  nogle bad actors ude på internettet som vil vil der det
• 27:44
  ondt sender et eller andet tilbage som.
• 27:48
  Giver dig nogle views eller et eller andet, så er det Sådan en
• 27:50
  form for sofistikeret virus madtekter, og det resulterede så
• 27:56
  i at de her var det 8,5 mio. Windows maskiner inklusiv folks
• 28:02
  almindelige laptop som nogle virksomheder også syntes.
• 28:05
  Det var vigtigt at have det her. Meget sikre stykke software på
• 28:11
  til at skabe sikkerhed noget point-tent.
• 28:16
  Og Det var så ikke så sikkert, fordi det fik så folk til at den
• 28:20
  her maskine ikke crashede men Vi skal.
• 28:23
  Jeg har fulgt rigtig meget med i det og Jeg har været meget slut.
• 28:29
  Jeg synes Det er nemlig et enormt interessant eksempel på,
• 28:33
  hvorfor Det er rigtig, rigtig, rigtig vigtigt, når man laver
• 28:37
  den slags meget kritiske software helt inde i maven af
• 28:41
  Windows maskinen. At man har noget ordentlig
• 28:44
  testing undervejs, og man må bare sige, at det her tilfælde
• 28:49
  der har man ikke haft noget som helst test, medmindre man har
• 28:53
  haft nogle tests, der simpelthen har lyst stort rødt, men at man
• 28:57
  så på en eller 2 mystisk vis alligevel har skubbet det ud til
• 29:00
  til alle maskinerne. Det kan jo godt være at det ikke
• 29:03
  er at Det er det Der er skidt det.
• 29:05
  Det skal vi ikke sige, men lad os nu antage at.
• 29:09
  At ja så Det er ikke. Der er ikke så meget benefit at
• 29:11
  blive dømt her vi vi, Vi er lidt kyniske.
• 29:13
  Jeg siger nok de havde sgu nok ikke noget særligt.
• 29:15
  Test Det er Det er en af de konklusioner jeg Jeg er inde på.
• 29:19
  I hvert fald fordi at det kunne jo ikke engang starte op det der
• 29:22
  stykke. Soft kan du ikke bare lige prøve
• 29:24
  hurtigt det der skete helt konkret.
• 29:26
  Du ved Windows maskiner der havde det her crowds Strike
• 29:31
  sikkerhed software installeret. Alle de Windows maskiner som har
• 29:36
  autoopdatere. Profitro.
• 29:40
  Ja noget for opdatering. De har simpelthen bare
• 29:42
  opdateret. Du ved som de plejer, og så er
• 29:44
  der bare så er de bare de her maskiner de bare crashede og
• 29:46
  gået i den der. Berømte blå skærm, som som.
• 29:51
  Den blå skærm i Windows Det er Det er faktisk en Der er mange
• 29:54
  af de der folk. Jamen Det var da et godt
• 29:56
  Windows. Det var jo gjorde sit arbejde
• 29:58
  fordi når den der blå skærm kom op så er det ligesom et operativ
• 30:01
  system der siger stop. Det du er ved at gøre nu kan
• 30:06
  smadre din maskine rigtigt altså korrumpere data slette data
• 30:11
  kasket ned på alle mulige ting og sager.
• 30:14
  Alle mulige måder ikke også. Så derfor så.
• 30:18
  Holder Windows siger blå skærm, så mener de det.
• 30:19
  Så mener de det, så mener de stop lige det her.
• 30:23
  Det skal du altså lige have fikset før vi går nogen vegne,
• 30:26
  så jeg Jeg vil slet overhovedet ikke starte op.
• 30:29
  Og og Det er meget fint. Ja men i det her tilfælde, så så
• 30:34
  betyder det så at. At at Windows har Sådan en
• 30:38
  recovery mekanisme, der egentlig gør, at hvis den rammer Sådan en
• 30:41
  blå skærm. Amen så prøv lige at genstarte
• 30:43
  den. Ikke fordi Det kan godt være den
• 30:45
  der blå skærm. Den kan godt komme mens du er
• 30:47
  kommet ind i Windows og ting kører Det kan der være nogle der
• 30:49
  har prøvet hvis der sidder nogle gamers derude der har prøvet at
• 30:52
  installere de lades greatest fra invia i deres lille nede i
• 30:57
  hjørnet. Ja kom bare med den der driver
• 30:58
  der og Sådan nogle ting det skal nok gå og så og så hvad hedder
• 31:02
  det når de så spiller et eller andet bestemt spil eller starter
• 31:05
  det op eller Sådan et eller andet så så kommer den der blå
• 31:08
  skærm. Og Det er altså.
• 31:10
  Det er altså fordi at. Den driver som min video og så
• 31:14
  har skubbet ud til maskinen den er den er sgu ikke helt i orden
• 31:16
  Der er noget galt ikke så Windows siger det duer altså
• 31:20
  ikke det der. Det kan man sige det det dybest
• 31:23
  set det der skete her, men. Der var bare ikke nogen måde, at
• 31:27
  du ligesom kunne genstarte og så ligesom sørge for at måske rulle
• 31:31
  den der opdatering tilbage eller Sådan nogle ting du kunne slet
• 31:33
  ikke komme ind på maskinen, og Det er fordi at crowdrike havde
• 31:37
  en fantastisk ide om at deres software Det var så vigtigt.
• 31:40
  At det skulle starte det man kalder for Sådan en boot driver
• 31:45
  startup mod det. Det det allerførste der kører
• 31:50
  som sikre. At alt det andet, der kører
• 31:53
  bagefter jo er legit stuff og ikke er ondsindet kode.
• 31:58
  Ikke hvis Der er noget der skal spille så er det der du skal
• 32:00
  spille og. Hvis Der er en, hvis Der er
• 32:02
  noget hvor at din hvor det virkelig vigtigt at du ikke
• 32:05
  laver fuckups for alle andre, fordi det kommer du til når du
• 32:09
  gør det. Det sted i Sådan en maskine.
• 32:12
  Jamen så er det der ikke så deres.
• 32:14
  Hvad kan man sige kravet eller hvad skal man sige?
• 32:17
  Standarden for hvor god testning de er.
• 32:19
  Den var ligesom barren var meget høj.
• 32:21
  Ikke også de skulle helt op på den øverste klinge.
• 32:25
  Good practice og det må man bare sige, de var enkelt i nærheden,
• 32:28
  vel? Så ja Jeg kan snakke en masse om
• 32:33
  det, men man kan også sige lidt om det bare lige kort at.
• 32:37
  Den her Microsoft de certificerer de her curtal
• 32:39
  drivers. Det vil sige de går igennem og
• 32:42
  siger det. Det er sgu godt nok det her.
• 32:44
  Altså de er også har også en del af skylden.
• 32:46
  Kan man sige eller hvad? Ja når Det er igennem den her
• 32:49
  opdatering, som er en Windows automatisk opdatering, så
• 32:52
  certificerer de det, fordi de vil gerne ligesom sikre sig, at
• 32:54
  alt Det er som det skal være. Problemet er ligesom.
• 32:59
  Det var ikke Det var ikke altså selve driveren blev faktisk ikke
• 33:04
  opdateret. Det var noget Det var noget data
• 33:07
  der lå nede i en folder som driveren læste der blev
• 33:11
  opdateret og Det var noget. Det var ligesom noget logik og
• 33:14
  noget siger de selv. Man ved ikke rigtig hvad Det er,
• 33:17
  men Det er ligesom OK lad os sige der lige nu II dag er der
• 33:20
  kommet en eller 2 ny virus eller en 2, så nu skal vi beskytte os
• 33:24
  mod det rigtig hurtigt, så Vi har Sådan en særlig folder hvor
• 33:26
  vi ligesom kan putte noget ned der der.
• 33:28
  Sikrer os at vi kan skubbe en opdatering meget hurtigt.
• 33:34
  Og beskytte os mod den her nye virus, og det behøver man så
• 33:38
  ikke at at hvad kan man sige at opdatere hele softwaren og
• 33:40
  installere nye og få en certificering hos Microsoft?
• 33:42
  Og alt er godt og Sådan nogle ting, fordi Det er jo alt for
• 33:44
  langsomt, så derfor er det jo smart i gåseøjne, at man ligesom
• 33:47
  hurtigt kan skubbe noget derned, så det som deres driver.
• 33:50
  Egentlig er det Sådan en en turple der ligesom kan læse det
• 33:53
  dernede og så eksekvere det, så det fungerer lidt ligesom kode.
• 33:57
  Det der ligger dernede. Man skal forestille sig hvis man
• 33:59
  har prøvet det i python man kan man kan kalde eval på en string
• 34:03
  af noget python kode. Og så parser den det, og så
• 34:06
  bliver det til noget du rigtig kan eksekvere.
• 34:07
  Og så er det ligesom Sådan pythonception ikke også hvor det
• 34:12
  og det det Det er en turburger der jo er og python er jo en
• 34:15
  turbber så Det var en turburger der var installeret i det her
• 34:19
  turner mod youtube som læste det her ved startup og som gik helt
• 34:22
  bananas dels fordi de ikke havde valideret det her input så var
• 34:26
  en masse nuller og så var der noget memory overflow eller et
• 34:29
  eller andet bat memory show. Og Det kan man bare ikke.
• 34:35
  Det kan man bare ikke tillade sig at gøre i Sådan startup af
• 34:37
  en maskine der kan tingene gå virkelig galt, hvis man ikke har
• 34:40
  styr på det der ikke så. Det er og hvad.
• 34:45
  Hvad er det Sådan helt? Det var Sådan, så var det Sådan
• 34:46
  noget. Hvad var det de værste Sådan
• 34:48
  eksempler på ting der gik galt? Det var vel Sådan noget læger
• 34:52
  der ikke kunne komme ind på at se et eller andet Journal eller
• 34:55
  Sådan noget der. Er døde af det her.
• 34:59
  Fordi at man ikke kunne. Så så vi kan sidde her og grine
• 35:03
  af det, men Det er jo noget af det mest alvorlige Der er sket.
• 35:05
  II test altså Sådan i historien. Der er banker, der ikke kan
• 35:11
  betale penge for deres kunder rundt omkring i verden, fordi de
• 35:15
  hele deres system er nede og de måske ikke går op igen.
• 35:19
  Og Det er jo altså ikke et Quick fix for for det her op.
• 35:22
  Det er jo Sådan at man er nødt til at i de fleste tilfælde.
• 35:27
  Eller måske i virkeligheden alle tilfælde går ud til den fysiske
• 35:31
  maskine med et USB stik ikke og sætte ind i den og vi snakker.
• 35:36
  Hvad var det 8,5 mio. Og de her systemer.
• 35:40
  De har jo en altså de her maskiner de er jo de er jo en
• 35:42
  del af et større netværk og en fødekæde, så så det virker jo
• 35:45
  ikke for OK. Nu har jeg startet den ene
• 35:48
  maskine, så virker det nu for de her antal 1000 kunder, så nu kan
• 35:51
  de komme på det næste, så kommer der flere 1000 på.
• 35:54
  Nej nej, det skalerer jo ikke på den måde enten så kører lortet
• 35:57
  eller også så kører det ikke og derfor så er det jo ikke noget
• 36:00
  der bliver fikset på en dag. Så Det er jo.
• 36:04
  Det er jo en katastrofalt altså og og og pinligt for Sådan en
• 36:08
  virksomhed der altså aktie valgte virkelig også bare der.
• 36:14
  Ja for satan så så Det var ikke så godt.
• 36:17
  Det var ikke så godt, men Jeg kan huske jeg jeg blev Sådan.
• 36:20
  Jeg hørte om om om nyheden der og jeg tænkte Sådan at Det var
• 36:24
  et angreb altså Sådan et et. Altså et angreb, men Det var det
• 36:29
  simpelthen. Det var bare dem selv.
• 36:31
  Der ligesom ikke bliver stukket en kæp ind i hjulet på sig selv,
• 36:35
  der ikke altså. Virksomheden, der skulle
• 36:36
  beskytte dem mod hack angreb. Fuckede op og folk troede Det
• 36:41
  var et hackerangreb. Det er sgu da lidt sjovt.
• 36:44
  Men Det er jo også Det er bare vildt.
• 36:45
  Det er også dejligt eller vildt over det ikke er sket før, ikke
• 36:48
  eller Sådan. Det må virkelig være en fumle
• 36:52
  fejl. Ikke fordi eller altså Sådan jeg
• 36:54
  tænker på hvor meget. Kode der bliver pusset til Sådan
• 36:59
  nogle kritiske systemer hver dag.
• 37:03
  Så det tænker man Der er? Typisk blevet kodet.
• 37:06
  Det der forskellen på det her kode der kører II syncal mode
• 37:10
  ikke? Det er jo at hvis Der er noget
• 37:13
  der går galt dernede, så ødelægger du hele systemet ikke.
• 37:18
  Det vil sige at du har jo en. Hvad kan man sige en påvirkning
• 37:20
  på det vil sige du har en server der kører rigtig mange kunders.
• 37:25
  Software på Sådan en server et stor server har jo 101 eller
• 37:29
  andet kerner og der kan køre mange virtuelle maskiner og alt
• 37:32
  Sådan nogle ting der. Hvis hvis man kan sige host kør
• 37:34
  nogen som kører hele den her maskine, der måske har det her
• 37:37
  styks software installeret det det fucker op ikke jamen så
• 37:40
  fucker du alle de her mange 1000 processer op på Sådan en
• 37:44
  maskine. Og det vil sige din din effekten
• 37:49
  af at at at smadre hele hele den fysiske server går ned på det
• 37:53
  der. Det er jo helt vanvittigt.
• 37:56
  Vi er jo vant til Sådan noget med at hov der var sgu lige der
• 37:58
  røg en server når vi så siger der røg en server derovre den
• 38:01
  crashede lige nu må vi lige starte den igen, så er det
• 38:03
  typisk en eller 2 virtuel maskine ikke Det er jo ikke
• 38:05
  selve den maskine der rent faktisk styrer de virtuelle
• 38:08
  maskiner og Det var det jo her. Der var mange af de der Sådan.
• 38:14
  Modermaskiner hvis Vi skal kalde dem det ikke Sådan som de som
• 38:18
  som kører det måske IVM ware som som servede en masse virtuelle
• 38:22
  maskiner til alle mulige formål, ikke?
• 38:26
  Jeg tror hele datacenter, måske i virkeligheden er blevet ramt
• 38:28
  af det, ikke? Fordi man har haft det der
• 38:31
  installeret, så Det er ret voldsomt.
• 38:37
  Sikkert noget. Det var en streg i regningen til
• 38:40
  crowd Strike, der i hvert fald jeg kendte, men man kan sige,
• 38:42
  jeg kendte ikke crowd strikke før det her.
• 38:44
  Så de har jo fået noget branding, ikke kan man sige.
• 38:49
  Altså. Jeg tror faktisk jeg.
• 38:51
  Jeg tænkte også hvem er det? Men så gik det lidt op for mig,
• 38:53
  at Jeg tror måske Det var den virksomhed der var med til.
• 38:56
  Jeg ved ikke om i kan huske at demokraterne IUSA de havde fået
• 39:00
  hacket deres maskiner eller Sådan et eller andet, og der var
• 39:02
  nogen der havde Sådan. Så var det dem der lavede den
• 39:04
  her rapport investation og Det er nemlig noget af det de har
• 39:08
  lavet før de her crowdstrick. De har lavet Sådan nogle hacker
• 39:12
  under, altså undersøgende arbejde, ikke?
• 39:14
  Så de har egentlig nok heller ikke rigtig været i Sådan
• 39:17
  softwareudvikler business'en som deres primære.
• 39:20
  Det er ligesom noget, Der er kommet ind.
• 39:22
  Sekundært altså det det ved jeg jo ikke med sikkerhed, men man
• 39:25
  kunne jo måske forestille sig Det var nogle nogle lidt Sådan
• 39:29
  halsløse? Programører, der havde sat sig
• 39:33
  ned og tænkte ah vi kan sgu også godt lave noget rigtig software,
• 39:35
  og nu skal Vi skal bare leve herinde hvor vi plejer hack selv
• 39:39
  og så så Det er Sådan lidt selvmord ikke så ja nå nu skal
• 39:45
  vi ikke lave for meget sjov med dem.
• 39:47
  Det er jo også virkelig alvorligt.
• 39:48
  Det skal også sige vi stadigvæk er griner af det men men Det er
• 39:50
  altså Det er altså seriøst alvorligt.
• 39:53
  Og Sådan noget går ned og og jeg kunne godt tænke mig at have.
• 39:56
  Jeg kunne godt tænke mig at have nogen inde faktisk at snakke
• 39:59
  Sådan helt generelt om Sådan hvad.
• 40:01
  Hvad kan det få af konsekvenser for os?
• 40:03
  Almindelige udviklere og programmører kommer der lige
• 40:05
  pludselig nogle politikere og siger, vi må skulle have meget
• 40:07
  mere kontrol med de der folk, men de får fly til at crashe de
• 40:10
  får. Jeg ved ikke hvad Det er jeg
• 40:12
  lidt Sådan bekymret for at fordi vi ikke holder Vores altså Vores
• 40:17
  Sådan. Faglig standard højt nok.
• 40:21
  Siger ikke, at Det er alle områder, Der er kritisk for det,
• 40:23
  men det synes jeg faktisk. Nu snakker jeg om ære i
• 40:24
  sikkerhed og Sådan nogle ting, der bare Sådan
• 40:26
  programmeringssikkerhed. I det hele taget tror jeg
• 40:28
  faktisk er meget mere relevant end at fokusere på Sådan en en
• 40:31
  teknologi indenfor programmering.
• 40:33
  Ikke så nå. Det er lidt interessant.
• 40:36
  Så det. Det var Sådan en tillid altså.
• 40:38
  Man kan godt altså når Sådan noget sker her så.
• 40:40
  Forstår man godt hvis Der er noget TV der ryger til til IT
• 40:44
  folk ikke og IT industrien og folk får virkelig øjnene op for
• 40:49
  hvor kritisk infrastruktur. Det her er, og Det er ikke bare
• 40:54
  være Det er ikke altså Det er ikke kun Microsoft der kan fucke
• 40:58
  det op. Det er også alle mulige andre
• 41:00
  random virksomheder som har fået nallerne ned i biasen eller hvad
• 41:04
  fanden det hedder dernede ikke så.
• 41:07
  Ja, så Det er noget værre noget. Det er sgu noget værre noget.
• 41:11
  Skal vi gå hen og snakke til en snakke om lidt mere lidt mere
• 41:13
  opløftende nyhed som som som jo faktisk er lidt en nyhed, ikke
• 41:17
  som ikke er Sådan en eller 2 gammel ting som er.
• 41:21
  Helt old nordisk og vi snakker om.
• 41:24
  Det er jo Sådan, at det gode, den gode virksomhed, som vi
• 41:27
  snakker meget om, nemlig openay II, går introducerede struggerd
• 41:32
  struktur, outputs, indie epir i og.
• 41:37
  Ja hvad er det? Det er jo noget Vi har snakket
• 41:40
  om før man kan sige. Der er jo rigtig mange der
• 41:42
  bruger de her large language models til at sende noget tekst
• 41:45
  og så få noget tekst tilbage i den mere eller mindre
• 41:48
  ustruktureret. Hvad skal man sige format og så
• 41:51
  bare fritekst? Men, Der er også nogle som
• 41:55
  inklusiv mig selv, og Jeg tror da også du har rodet lidt med
• 41:58
  det. Jonas som har fundet ud af at de
• 42:01
  her large language models kan faktisk være utrolig utrolig
• 42:05
  brugbare hvis man så hvis man hvis det der kommer ud af dem
• 42:08
  ligesom er lidt mere struktureret.
• 42:10
  Jason data. For eksempel Jason data, eller i
• 42:14
  hvert fald bare struktureret. Og der har længe været, og Det
• 42:20
  kan både bruges til Sådan noget som Sådan noget som tool
• 42:23
  calling, altså agenter som skal. Kalde API er Det var Google
• 42:26
  search. Det kunne være den skal
• 42:28
  kommunikere med en python interbur, så den kan køre kode
• 42:31
  eller et eller andet. Der kan være forskellige API er
• 42:35
  som de her modeller kan kalde og Det har også været.
• 42:37
  Hvad skal man sige? De udgav jo for efterhånden
• 42:40
  altså for længe siden åbner jeg længe siden.
• 42:42
  Det er vel et år siden eller lidt mere.
• 42:45
  Udgav de her function calling, altså hvor de specifikt har
• 42:48
  fintunet deres mer til at. Hvis man giver dem et jasonskema
• 42:54
  på et bestemt format, så kan de outputte outputter de Sådan
• 42:57
  rimelig stabile json i et bestemt format.
• 43:02
  Og og det der var og det det altså.
• 43:06
  Det kaldte de for function calling.
• 43:07
  Jeg tror de begyndte at kalde det for tool calling nu her,
• 43:09
  fordi de mere vil have det til at være tools altså alle nemmere
• 43:12
  der kan kalde tools med det ikke, men Det var også ligesom
• 43:15
  Sådan den første. Hvad skal man sige?
• 43:18
  Brugsscenariet da de blev udgivet der.
• 43:20
  Det var det her med, at alle eleverne kunne vælge at kalde
• 43:22
  API er. Årgange fra function til tools.
• 43:27
  Jeg tror simpelthen bare var branding.
• 43:28
  Det skal være helt ærligt. Også Det er bare 1 mia. når hun
• 43:31
  ændrer. Folk kan jeg ikke forstå hvad
• 43:32
  fanden function. Det er Sådan et nå ja, men den
• 43:35
  kan bruge tools og vi snakker agenter og tools og så er det
• 43:37
  fint. Ja lige præcis ja.
• 43:40
  Der var også mange, der fandt ud af, at man kan bruge de her ting
• 43:42
  til til andre. Altså det her med at de kan
• 43:44
  output struktureret jsons og alle mulige andre ting.
• 43:47
  For eksempel man kan bygge klassefire os altså Jeg har
• 43:49
  bygget en del klassefire, som hvor i gamle dage skulle man jo
• 43:52
  ligesom indsamle data og notere data og så ligesom træne en
• 43:57
  model til det, og så kunne man lave perfektions.
• 43:59
  Jeg har lavet rigtig mange prompte klassefires, hvor du
• 44:02
  bare ligesom skriver en instruktion, og så sætter du til
• 44:04
  at være ud i. Struktureret jsonen, og så får
• 44:07
  du en prædiction ud af det. Det er jo en kæmpe virkelig,
• 44:11
  virkelig vanvittig værdifuld. Hvad skal man sige use case og
• 44:14
  de har ellemmer som rigtig få snakker alt for få snakker om
• 44:18
  synes jeg og man kan også begynde at gøre Sådan nogle
• 44:19
  folketing, som at man kan sige at OK du skal output en af de
• 44:24
  her 10 kategorier. Givet et eller andet stykke
• 44:27
  tekst, men du skal også lige give en forklaring på, hvorfor
• 44:30
  den kategori passer altså Sådan, så man kan få Sådan noget
• 44:32
  eksplinability ind i hvor de også.
• 44:35
  Hvad skal man sige forklarer hvorfor de vælger de kategorier
• 44:38
  de gør. Argumentere for det, og det
• 44:40
  skulle også ifølge chan of through halløj ø performance og
• 44:43
  så. Videre.
• 44:44
  Det er sgu da en god måde at give Sådan en illusion af
• 44:46
  explainability. Altså en illusion?
• 44:49
  Ja ja men Det er det jo og så og så kan man jo give det til sin
• 44:52
  til sin leder der gerne vil have man laver noget explaintability
• 44:55
  på det og sige jamen Det har jeg den har jeg forklaret det.
• 44:57
  Her men man kan også. Man kan også lave nogle andre
• 45:00
  grineren ting Jeg kan huske det første eksempel jeg så på det
• 45:02
  som jeg fik grineren over Det var en der havde lavet Sådan en
• 45:05
  dynamisk opskrift maskine basically hvor han havde lavet
• 45:09
  et function call, altså jason-skema, som ligesom var et
• 45:12
  skema for en opskrift, så du ved en liste af.
• 45:15
  Jsonobjekter hvor at der kunne være en. 1 1 1 navn på en
• 45:20
  ingrediens mængde som kunne have en af.
• 45:22
  Altså det kunne være gram kilo forskellige enheder og så videre
• 45:27
  og så videre ikke altså hvis man har lavet skemaet for en
• 45:28
  opskrift og så kunne man skrive Sådan nogle random ting til den
• 45:31
  bare sige Sådan. Jeg vil gerne have lasagne med
• 45:34
  bearnaisesovs eller et eller andet ikke lav opskriften og så
• 45:37
  du ved bang så kommer den ikke. Og Det er selvfølgelig en super
• 45:42
  fjollet use case, men men så kan man også begynde at tænke på
• 45:44
  Sådan jamen. Hvad nu hvis man gerne vil
• 45:46
  generere quiz? Quiz altså quizzer dynamie
• 45:50
  underful quizzer på ting ikke givet ja du ved du har en eller
• 45:53
  2 artikel lav 5 quiz spørgsmål som en eller 2 bruger kan blive
• 45:57
  quizset i for at se om de har forstået den ikke så kan man
• 46:00
  også du ved artikel ind og så struktureret output ud.
• 46:03
  Det kan være Sådan det her quiz format eller hvad man skal sige
• 46:06
  ikke så Der er alle mulige man kan også lave.
• 46:08
  Jeg har også lavet Sådan en name initiativ regnition model.
• 46:13
  Som du ved ligesom outputter en liste af entities.
• 46:17
  Og et label til hver identity, som Det er en organisation,
• 46:20
  eller om Det er en person eller et sted, og så kan man også
• 46:24
  begynde selv at finde på kategorier.
• 46:26
  Altså man kan sige, Det kan også være nogle helt andre ting.
• 46:29
  Man vil ikke stracke det og Sådan ja kæmpe stor use case som
• 46:33
  Jeg har brugt ret lang tid i virkeligheden og har været preet
• 46:37
  alle de steder Jeg har kommet til det.
• 46:38
  At hey Det er fucking fedt det her fucking calling og Det er
• 46:40
  også noget der gør det meget nemmere at lave Sådan.
• 46:43
  Pipelines til at processere tekst generelt, når man ligesom.
• 46:47
  Jeg vil regne med at få en eller 2 bestemt form tilbage.
• 46:49
  Men det der stadigvæk er Sådan lidt.
• 46:51
  Hvad kan man sige hvis man kan slå dem man selv kan kan træne
• 46:55
  de der klasser. Lad os nu sige og bare gerne vil
• 46:56
  være meget præcise på en eller 2 eller 3 ting eller Sådan et
• 46:59
  eller andet. Så kan man.
• 47:03
  Man kan jo altid prototype meget hurtigt med Sådan et eller andet
• 47:05
  kan man sige og også komme over til at få noget træningsdata der
• 47:08
  måske man kan sortere lidt i bagefter og og give videre til
• 47:12
  en meget mindre model som man så kan træne på.
• 47:15
  Og Det er jo også det der med at man kan ligesom destillere noget
• 47:19
  lille magtigt ned til til nogle mere klassiske klassefires på på
• 47:24
  som bare Sådan noget almindelig bird gammeldags måde at gøre det
• 47:27
  på. Måske endda med nogle embeds, så
• 47:29
  skal man bruge det output data til at bruge en bettings til at
• 47:32
  klasse fejl med og Sådan noget. Nå, hvad var det jeg ville sige
• 47:36
  jo, men Det er fordi er Det er det Sådan rentabelt at bare sige
• 47:40
  ej prøv at være vi kører sgu bare hele arkivet igennem nu alt
• 47:43
  det hedder altid arkiv artikler der hvor jeg kommer fra ikke og
• 47:45
  Der er altid et par millioner af dem og Sådan nogle ting og jeg
• 47:47
  ved Jeg kan ikke huske hvad jeg talte, Det er tåbeligt sidst,
• 47:49
  men Det er altså Det er en halvdyr affære at gå igennem
• 47:53
  hele skidtet og og Jeg er ikke rigtig sikker på jeg Sådan.
• 47:59
  Når Jeg har de der cases, så tænker jeg Sådan jo det kunne vi
• 48:01
  da godt og Sådan nogle ting, men Det er ikke noget man bare lige
• 48:03
  Sådan prøver. Og så siger hey forresten alle
• 48:08
  aviser j butik Vi har det her superfede data Vi har lavet på
• 48:12
  den her måde. Please brug det, for Det har
• 48:13
  altså kostet lidt. Så man skal ligesom ud og finde
• 48:17
  den der use case, der der retfærdiggør at man bruger
• 48:20
  bruger penge på det og så ja Det kan.
• 48:23
  Man nøjes med at køre det på 5 10.000 eksempler og så træne en
• 48:27
  en coutter og så bare bank løs ikke?
• 48:29
  Jo hvad hedder det? Og de har jo faktisk også Det
• 48:31
  var noget jeg lagde mærke til. Det er gået lidt over mit hoved.
• 48:33
  Jeg ved ikke om Det er kommet i sommerferien her, men opiningen
• 48:35
  Jeg har lavet Sådan et batch API Sådan så man kan har du brugt
• 48:39
  det OK fordi Det var Sådan så man kan man kan ligesom sige
• 48:42
  Sådan OK Jeg har bare alt det her der skal lave predictions
• 48:44
  på. Jeg vil bare have det inden for
• 48:47
  24 timer og så koster det halvdelen eller Sådan noget af
• 48:50
  hvad det koster. Sådan noget kan man jo lave ikke
• 48:53
  hvis Det er, men så er det jo ikke alverden altså så er det jo
• 48:55
  Sådan. Jeg ved ikke.
• 48:59
  Data. Jo, hvis du så forestiller dig
• 49:01
  hvor meget Det er i menneske folk der skal sidde og notere
• 49:05
  det. Og hvor fucking kedeligt Det er
• 49:06
  og Sådan noget ikke. Jeg er helt enig.
• 49:08
  Altså Jeg er faktisk ikke klar over om LM kaldende i batch piet
• 49:11
  også er billigere, men hvis Det er det så kan man sige, så så er
• 49:13
  det jo klart at når du ligesom kan gå igennem en masse data der
• 49:16
  ikke ligesom kræver at Der er en eller 2 form for live pipeline,
• 49:20
  men det vil der jo så være for alle.
• 49:22
  Typisk være for alt det der så data der kommer efter det ikke.
• 49:26
  Jeg mener Det er 50% det gør. Nå?
• 49:28
  Jamen det må. Være 50% lover kost jern.
• 49:30
  Så det lyder som en god deal. Så hvad hedder det?
• 49:34
  Nå, Det er i hvert fald en interessant use case og sygt
• 49:37
  undervurderet. Jeg tror.
• 49:39
  Det, Det er Sådan nok en af de ting der Sådan er gået lidt over
• 49:42
  hypen under eller rettere på grund af hypen ikke altså det
• 49:45
  her med at OK. Der er også de der helt gode
• 49:46
  gamle kedelige ting som vi bare. Det er Sådan helt.
• 49:50
  Praktisk meget tid på før. Hvis vi lige Sådan helt
• 49:53
  praksisnært skal sige, hvad man som programmør ligesom kunne
• 49:56
  gøre med det. Der er jo det her, Der er det
• 49:58
  her libered. Jeg tror det hedder instructor
• 50:01
  kan det? Passe instructor.
• 50:02
  Ja Det er jo ligesom lavet på en måde, så du siger Jeg har en en
• 50:06
  lille m lad os bare sige den kommer fra åben er jeg igen og
• 50:09
  så har jeg en par dansing model altså en en model class der
• 50:13
  ligesom beskriver hvad Det er for noget data.
• 50:16
  Typer Det kan være Det er en bruger min klasse er en bruger
• 50:19
  den har. Navn og en alder og Sådan nogle
• 50:22
  ting der. Og så har man noget noget tekst
• 50:24
  herovre Det kan være. Det kan godt.
• 50:27
  Det kan også være Det var person.
• 50:28
  Så har du måske en eller 2 noget tekst, en formular fra en person
• 50:32
  der har udfyldt et eller andet og det Der er nogen der har
• 50:35
  taget det et billede af det, så har de taget noget
• 50:37
  udstruktureret ud af det, så er det kommet ud struktureret.
• 50:39
  Nu kan du godt tænke dig ligesom at strukturere det i den her
• 50:41
  model, så du kan måske formulere omformle til noget.
• 50:45
  Jason. Det var det.
• 50:46
  Det er Sådan en form for mining vil jeg sige på på tekstdata
• 50:49
  ikke? Det er jo det som som det her
• 50:51
  instructor egentlig gjorde Sådan.
• 50:53
  Behind the scenes sikkert med nogle problem, tricks og ting og
• 50:56
  sager ikke for ligesom at sikre at det kom ud i den her i det
• 51:00
  her pytanche format og også ligesom have Sådan noget.
• 51:03
  Nå men hvis jeg så ikke lige kan få det til at passe ind i det
• 51:07
  her python format, jamen, så kan der i det mindste lige smide 1 1
• 51:10
  1 venlig fejl til min min bruger så brugeren måske kan prøve igen
• 51:14
  med en ny prump for at få det ind i det her format.
• 51:17
  Men det der så også er sket her med den her lancering.
• 51:20
  Det er jo at. Altså nu behøver man så ikke det
• 51:23
  her library instructor. For det første nu skal man så
• 51:25
  bare sende the json-skema på på det, som man godt kunne tænke
• 51:31
  sig at få retur og Det kan de her pakke ansigtmodeller der kan
• 51:35
  du. Det kan de levere til Det kan så
• 51:38
  interface altså overgangen fra paridanic modellerne over til AP
• 51:41
  et til åbne yeah er jo nu super fedt og alle andre forskellige
• 51:45
  typer sprog der ikke er python, kan også typisk have de her.
• 51:49
  Model classes af en eller 2 art som kan.
• 51:51
  Det som kan spytte Sådan jsons skema ud.
• 51:56
  Og det der jo også er med det. Det er at fordi den use case
• 51:59
  måske nok er så udbredt, så ligesom de gjorde med function
• 52:03
  calling så siger de haps skal vi ikke træne Vores modeller til
• 52:07
  rent faktisk at være gode til det her, så vi ikke vi bygger
• 52:10
  det ikke bare ind IA pit som en måde at garantere det der den
• 52:13
  der mapping for dig måske gør de noget eller Det er bagved som
• 52:17
  jeg lige sagde der med som en strutter gør.
• 52:20
  Men vi træner den simpelthen til at blive rigtig god til det.
• 52:23
  Ja. Det synes Jeg er interessant.
• 52:25
  De har sikkert et eller andet lurerlag ovenpå det der som de
• 52:29
  så når du togler den der jaciet jamen så kommer du igennem det
• 52:32
  her lauer lag, fordi så er det bare det den skal være.
• 52:34
  Pisse god til og ikke en skid. Andet ikke og.
• 52:37
  Derfor, og derfor kan de ramme den der 100%.
• 52:41
  Kort. Altså de har de har ligesom
• 52:42
  gjort 2 ting de har eller 3 ting eller flere ting.
• 52:45
  Men altså de har jo ligesom Sådan sagt OK folk de bruger det
• 52:49
  ikke kun til agenter som skal kalde tools.
• 52:51
  Folk bruger det altså også bare Sådan helt casual til at få
• 52:53
  struktureret output ud af. Hvad skal man sige modeller?
• 52:57
  Så der har de ligesom IAPI et formaliseret det her Sådan så de
• 53:00
  ikke kalder det for tool calling, som godt kan være lidt
• 53:03
  forvirrende. Jeg kan altid skulle forklare
• 53:04
  folk Sådan. Jamen du kan altså også bruge
• 53:06
  det på den her måde og jamen Det er jo tools og Sådan noget og
• 53:08
  det. Hvor nu kan man altså nu er det
• 53:11
  simpelthen i epide at du kan sætte.
• 53:14
  Du kan simpelthen give et argument der hedder respons
• 53:17
  format. Du ved det kommunikerer meget
• 53:19
  bedre hvad Sådan hvad det egentlig er, ikke?
• 53:22
  Og så har de også bygget ind i deres SDK, altså det den
• 53:26
  modtager stadig de her. Jasonskemaer som jo i øvrigt er
• 53:29
  en freaking pay og skrive. Så er e-rown at du tror Det er
• 53:34
  løgn, altså hvis man laver. Dem i hånden.
• 53:35
  Det er helt. Præcis og så har de så har de så
• 53:38
  også kigget på langchain og kigget på den her convert opena
• 53:42
  og et par ansigts opbene i skemaer eller Sådan et eller
• 53:45
  andet funktion de har som er meget populær.
• 53:48
  Der har de ligesom tænkt OK folk vil rigtig gerne bare lave en
• 53:50
  freaking piedic base model og så ligesom bare sætte den ind.
• 53:55
  De gider ikke skrive de der ja Sådan skemaer der så Det har de
• 53:58
  også gjort muligt i deres python SDK altså ligesom bare kunne
• 54:01
  give Sådan en Sådan en pardantic base model ting der så ja det.
• 54:06
  Er altså ret simpelt Det er. Det er meget antic Der er ejeren
• 54:10
  af den badass ting at du kan. Om formulere det til til Jason
• 54:15
  skema og ikke så meget alle de andre runder om lang tid åbner
• 54:18
  jeg. Det er ligesom pightsantic der
• 54:19
  har lavet det der. Ja bare lige for at sige Sådan
• 54:23
  alle alle der altså et par danske kan jo nok måske et af de
• 54:27
  mest brugte moderne python packages.
• 54:32
  Arrangement, der bruger den pakke for ligesom at få.
• 54:35
  Så den er Sådan den. Den har jo simpelthen bare alt
• 54:38
  alt det juicy stof i moderne python programmering, som som
• 54:41
  bliver brugt i de her løsninger. Ja så Det er dem, der ligesom
• 54:44
  skal have æren for det der synes jeg.
• 54:46
  Så Det er jo bare altså Det er jo igen opineret der har kigget
• 54:49
  på efter lang tid synes Jeg har kigget på Sådan hvert andet
• 54:53
  bruger folk det her, og hvad kan vi gøre et eller andet?
• 54:56
  Og nu er meta devaluerer Vores shit helt vildt, så lad os give
• 54:59
  noget gratis GPT 4 o umi 20 GP 4 o mini er jo også kommet ud i
• 55:03
  øvrigt der kom ikke gratis der kom gratis, find tuning og den
• 55:07
  indtil de september eller Sådan et eller andet.
• 55:09
  Da meta kom ud med dilemma modellerne, så de.
• 55:12
  De prøver virkelig at please ikke så hvad hedder det?
• 55:14
  Men så nu har de simpelthen formaliseret det og sagt OK man
• 55:17
  kan lave et responsformat. Jeg ved ikke om instructor
• 55:19
  bliver hvad skal man sige? Hvad skal man sige helt absolut
• 55:23
  på grund af det her fordi Jeg tror ikke de.
• 55:26
  Altså. Der er jo stadig noget Der er
• 55:27
  noget ergonomi i instructor. Ja jeg ved det ikke.
• 55:30
  Det kan sgu godt være det bliver det ved jeg ikke.
• 55:36
  Altså Det er lige næsten den use case instrukt der har har sat
• 55:39
  sig på, ikke? Men, men Jeg tror bare at Det er
• 55:42
  den der trend Vi har snakket om at man skal generelt være rigtig
• 55:45
  rigtig påpasselig med at ligesom at droppe nogle nogle frameworks
• 55:50
  der prøver at løse mange af Sådan nogle.
• 55:52
  Jeg vil gerne have det her output med nogle proms og.
• 55:56
  Og ligesom behinde the scenes skriver en masse promptecst og
• 55:59
  putter ind i et python librics og så ligesom putter noget
• 56:03
  python kode rundt om og nogle klasser og ting og sager noget
• 56:06
  logik og så siger de hey mand Det er super fedt det her fordi
• 56:09
  Det er jo klart at det her er jo vi snakker ARI machine learning
• 56:13
  ikke også Det er jo en task du laver 1 1 1 1 python package til
• 56:19
  ligesom at blive god til en task ikke?
• 56:24
  Og. Det er Det er altså.
• 56:27
  Det er normalt ikke det vi gør. Det er det vi gør.
• 56:28
  Det er vi træner en model til at blive god til en task ikke og
• 56:33
  især når Det er at Vi har det her tekst, så de her lauer
• 56:37
  adapter ovenpå. Gør det jo muligt, at du kan
• 56:41
  pege den her store åbne i store model lama whatever alle mulige
• 56:46
  modeller i mange forskellige retninger taskwise function
• 56:50
  calling det her struktureret output og Sådan nogle ting, og
• 56:53
  det vil der jo være nogen der gør.
• 56:55
  Og det vil man vil se. OK Det er.
• 57:00
  Vi vil gerne give dem nogle tekst ind, men Det er altså et
• 57:02
  program der skal modtages og Det er faktisk ret fedt at få Jason
• 57:04
  tilbage. Eller måske er der nogen der
• 57:06
  synes det skal være produc så lige om lidt.
• 57:08
  Så er der nogen der har trænet den til at den kan spytte
• 57:10
  prodrobot tilbage til dig? Ikke også og og så jamen lige om
• 57:13
  lidt, så så har vi Vi har trænet et que lover eller laurallag som
• 57:17
  nu kan du vælge hvad Det er ikke bare det outputskema her, men du
• 57:22
  kan også ligesom sige Jeg vil gerne have det tilbage i.
• 57:24
  Applikation tipe producob så nu får du det tilbage produkt er
• 57:29
  det ikke? Sådan noget er det ikke bare
• 57:30
  Sådan noget eller Sådan et eller andet Sådan noget binærchup.
• 57:33
  Jo Det er et bitter format ikke men men, men det bliver jo så
• 57:36
  serolizet til noget i den 2 ende som kan være ret smart af mange
• 57:39
  årsager. Det er en 2 podcast Jeg er.
• 57:41
  Ikke. Jeg er ikke ekspert produceret,
• 57:44
  men men det det fylder mindre og hurtigere decialisere end Jason,
• 57:48
  siger man. Og så er det ikke altid helt
• 57:49
  rigtigt og. Anyways.
• 57:52
  Så hvad hedder det spændende ting her.
• 57:54
  Jeg tænker Vi skal til at gå videre til ugens repub ugens
• 57:58
  rapport. Får lov til det, fordi det Der
• 58:01
  er jo den røde tråd til introduktionen med dit AI jobs.
• 58:04
  Jeg er jo gået igennem eller vand i sommerferien og har
• 58:08
  fandme blæst tokens ud og straffet cort API fuldstændig
• 58:13
  vanvittigt og har simpelthen generelt kodet som helt gal.
• 58:17
  Og så har jeg besluttet mig for en Stack en Sådan en en Stack
• 58:20
  som jeg godt kunne tænke mig at bygge i.
• 58:22
  Og Det er så faster PI som baggend med det der hedder SQL
• 58:25
  model som or om postcress og noget der hedder allembik til
• 58:30
  til en database immigrering og så videre.
• 58:33
  Så til frontenden der har jeg valgt react og next som til
• 58:38
  frontend og Det er det som jeg fatter drag af men som jeg
• 58:42
  udvikler med e og i alligevel. Og så har jeg selvfølgelig valgt
• 58:49
  docker compost til at ligesom at køre det hele i forskellige
• 58:52
  containere og så kører jeg engine x som Sådan den her
• 58:56
  reverse proxy ting, som jeg også bare fatter hat.
• 58:59
  Altså i virkeligheden fatter jeg hat af det, ikke?
• 59:02
  Alt det kører jeg på en på Sådan et på Sådan et digital Ocean
• 59:07
  droppet instans altså bare en en virtuel maskine der kører på
• 59:10
  skyen. Og så har jeg ja Det er ligesom
• 59:15
  kørt og så videre. Og det, Jeg kan ikke finde ud af
• 59:19
  det der HTPHTPS og alle siger til mig det der.
• 59:22
  Det er noget af det nemmeste og så har de sagt jeg skal bare få
• 59:26
  det over på cloudflare og så burde det spille men så putter
• 59:29
  jeg det over på cloud flare og så får den mixt HTTP eller mix
• 59:33
  content problemer fordi at den bliver ved med at kalde mit API
• 59:38
  back in API med HTTP og Jeg er fucking forstår ikke hvorfor.
• 59:42
  Så ja problemer problemer, problemer OK og så fik jeg det
• 59:46
  her spamangreb som bare du ved verden var bare imod mig ikke ja
• 59:50
  så hvad hedder det så? Jeg tænkte ligesom OK nu har jeg
• 59:54
  godt nok promoveret det her op til noget ret stort og Jeg har
• 59:56
  launchet og det hele og nogle af de der oplæg Jeg har lavet med
• 1:00:00
  det. Det virker virkelig godt Sådan
• 1:00:02
  på LinkedIn og det her building in public ting her i hvert fald
• 1:00:05
  fordi nogle af de der opslag Jeg har lavet, de har simpelthen
• 1:00:08
  bare nogle af de mest sete Jeg har haft i år, altså med 20.000
• 1:00:11
  visninger hver, hvilket er meget for mig.
• 1:00:14
  Så du ved Det er noget vidt og bredt ud det her med at Jeg har
• 1:00:18
  fået det her projekt op at stå og det funker bare ikke.
• 1:00:20
  Altså det virker bare ikke og Jeg kan bare fucking ikke få det
• 1:00:23
  lort til at virke og jeg tænker Sådan Jeg har hele tiden fået
• 1:00:24
  den her, da den er lige ved at være der, ikke?
• 1:00:27
  Så jeg indser, at jeg står i et lort til halsen med kode jeg
• 1:00:33
  især fronten koden, som jeg ikke fatter andet af.
• 1:00:37
  Så jeg tænker måske er det på tide at sidde og lave om.
• 1:00:40
  Og så finder jeg det her helt fantastiske redup, som jeg ville
• 1:00:44
  ønske jeg havde fundet før jeg gik i gang med det her, som som
• 1:00:49
  faktisk som og Det er det rapporter, der hedder fast.
• 1:00:52
  Altså som er på fast i organisationen på git hub, som
• 1:00:55
  hedder full stærk fast API template.
• 1:00:59
  Det var Sådan et fedt navn, Der er Sebastian, der som er
• 1:01:02
  forfatteren til det der han har fundet på template.
• 1:01:05
  Altså det burde bare dukke op når man søger hvis man lige tog
• 1:01:07
  sig den tid til at søge på det. Men næh nej hvorfor ikke bygge
• 1:01:10
  hele lortet fra bunden af med med crowd?
• 1:01:13
  Ja så Jeg har og det ser sgu ret fornuftigt ud.
• 1:01:15
  Det er faktisk 1-1 den stak Jeg har valgt at bruge.
• 1:01:19
  Bare uden next jazz hvor det kun er react, så Jeg er i gang med
• 1:01:23
  at. Ugens rapport er det her full
• 1:01:26
  stacke faktisk NPI template. Som jeg virkelig vil anbefale
• 1:01:32
  til folk som mig selv, som ikke bestemt ikke er fuldstændig
• 1:01:36
  udvikler, men som godt kunne tænke sig at gå i gang med at
• 1:01:38
  snuse til det, fordi Det er bare fedt at Der er noget.
• 1:01:42
  Altså Det er ikke bare Sådan er en blank tekstfil du går i gang
• 1:01:44
  med når du går i gang, men Der er ligesom er noget kode der
• 1:01:47
  ligesom er lagt op til en eller 2 form for retning.
• 1:01:50
  Første gang, Der er ligesom dit første notting ball boult i det
• 1:01:54
  ikke altså hvis nu man hvis man har prøvet jango.
• 1:01:58
  Som jeg jo også er meget fan af. Jeg synes jo jaker er stadig
• 1:02:00
  fantastisk, selvom Det er jo et oldgammel python library og Det
• 1:02:04
  har. Ikke været væk fra Det var lidt
• 1:02:06
  derfor jeg tænkte nej Jeg har prøvet det der jango og det jeg
• 1:02:09
  bryder mig ikke om det. Jeg synes Det er.
• 1:02:12
  Et eller andet af Sådan nogle ting som timing for eksempel.
• 1:02:14
  Altså Der er jo ikke nogen, der kan lide, at ens tekst IIVS code
• 1:02:18
  i dag bliver hvid, så bliver de Sådan.
• 1:02:22
  Hvad er det anytype? Jeg ved ikke hvad Det er for en
• 1:02:24
  type. Jeg kan slet ikke holde det ud.
• 1:02:27
  Og Det er jo også. Det er jo fedt fordi at Vi har
• 1:02:29
  jo oppet standarden for python udvikling for for sindssygt her
• 1:02:32
  efter typing systemet er blevet så modent i python.
• 1:02:35
  Nå men anyways, så Det er jo Det er jo en pendant til til til
• 1:02:39
  diagango hvor du starter et projekt hurtigt template og så
• 1:02:42
  har du brugerstyring du har. Du har den her migrerings er det
• 1:02:49
  ikke Sådan der også er Sådan noget til at styre migreringerne
• 1:02:51
  med? Eller er det bare mig der tror
• 1:02:53
  det? Der er i hvert fald den her
• 1:02:54
  cirkulmodel, som er en en URM, altså en.
• 1:02:58
  Object relation noget manager tror jeg det hedder står for,
• 1:03:01
  men Det er ligesom det her lag der kommunikerer ned til
• 1:03:03
  databasen. Typisk typisk en relationel
• 1:03:07
  database, noget postgræs eller et eller andet ikke og så kan
• 1:03:11
  man ligesom bare ja så er man kørende ligesom hvis man tog
• 1:03:14
  Sådan. Startede Sådan en jungle
• 1:03:15
  projekt, hvor du også meget hurtigt kørende og Der er vist
• 1:03:17
  en app-man side Der er Sådan en default side man kan logge ind
• 1:03:20
  på og man kan se sine forskellige.
• 1:03:23
  Tables og model så man kan følge lidt med i det.
• 1:03:25
  Er det Sådan det også fungerer. Ja lige præcis, og Der er en
• 1:03:27
  fast du ved første PIMSKL som or om pejlet ansigt selvfølgelig i
• 1:03:31
  første EPI, så bruger den postkreds SQL den her react hvor
• 1:03:36
  den bruger noget der hedder chakra UI til Sådan en
• 1:03:38
  komponenter, så bruger den du ved den har Sådan noget med at
• 1:03:43
  out of the box har den Sådan noget burde jule yousee tokens
• 1:03:47
  til offentication. Det er blandt andet noget Jeg
• 1:03:49
  har lært efter den her. I sommerferien.
• 1:03:53
  Så har den Sådan noget e mail base password recovery hvis du
• 1:03:56
  gerne vil lave din eller ja hvis du har mistet.
• 1:04:00
  Ja problemet noget jeg ville ønske der var implementeret.
• 1:04:02
  Det var Sådan noget her e mail verification.
• 1:04:04
  Det ser ikke ud som om Det er implementeret, men ja og så er
• 1:04:07
  der Sådan noget. Den gemmer password hashet
• 1:04:09
  databasen og Der er sat noget reverse proxy op og Der er CICD
• 1:04:14
  pipelines i get hopaction allerede og.
• 1:04:18
  Kompose og Sådan noget, og Der er den her adminside hvor du
• 1:04:21
  ligesom kan Sådan bare nice altså og ja.
• 1:04:26
  Det er Sådan her du gør og prøver at bygge videre derfra
• 1:04:31
  ikke jeg sidder ja så jeg sadlet om og så må jeg æde den der.
• 1:04:36
  Det er jo lidt pinligt at have blæst så stort et brød op og
• 1:04:39
  relaunche BHTTP og så må du lige gå tilbage i The lab igen og
• 1:04:44
  lige lære at tighes script og act for at man kan ja.
• 1:04:47
  Så Jeg har lige slugt den og så har jeg skrevet Sådan en fin
• 1:04:52
  under udvikling. Besked inde på erjobs.dk og så
• 1:04:56
  tænker jeg at der kommer et relaunch her indenfor
• 1:04:58
  forhåbentligvis ikke alt for lang tid.
• 1:05:02
  Og så er strategien simpelthen at prøve, at fordi Det er især
• 1:05:05
  reac delen og hele foden and tingen der som jeg bare ikke har
• 1:05:08
  haft tålmodighed til, at der har jeg lige været lidt for cowboy
• 1:05:11
  move fast in break things agtigt.
• 1:05:13
  Agtigt og Sådan. Fail fars du skal bare have en
• 1:05:16
  robak til noget. Der fungerede, og jeg tænker,
• 1:05:19
  jeg trøster mig selv med at sige, at Der er nogen, der
• 1:05:22
  aldrig launcher. Ikke altså Der er nogen, der
• 1:05:24
  aldrig Sådan du ved ligesom får sagt det til verden at hey det
• 1:05:26
  her projekt der har jeg der har det jo trods alt måske bedre, at
• 1:05:31
  ligesom være lidt for tidligt end ja.
• 1:05:33
  Man kan også sige, at nu ved jeg ikke hvor længe nix jas har
• 1:05:37
  eksisteret. Jeg kender det ikke så godt.
• 1:05:40
  Jeg, men jeg ved at reakt har eksisteret længe.
• 1:05:43
  Det var noget af det første front framework, som jeg
• 1:05:46
  stiftede bekendtskab med i nogle af mine tidlige projekter.
• 1:05:50
  Der var lidt jango graph kill med graffin og så og så react.
• 1:05:54
  Det var altså også episke tider nå hvad hedder det?
• 1:05:59
  Man kunne jo forestille sig den der cloud sonnet der den faktisk
• 1:06:02
  var bedre til at hjælpe dig med reac bare simpelthen bare fordi
• 1:06:04
  Det har levet længere og så så den har nok spist noget mere
• 1:06:08
  kode af det. Og er det ikke også et af de
• 1:06:09
  største front end frameworks derude rent kodemæssigt gæt?
• 1:06:14
  Tror Det er sgu lidt standarden ikke Der er lidt.
• 1:06:18
  Ja. Der er Sådan en challenge
• 1:06:19
  smelte. Virker det til er lidt
• 1:06:22
  challenger på den ikke. Og så er der stort smelte.
• 1:06:25
  Nej men nej, Det er i hvert fald rimelig altså.
• 1:06:29
  Det er ikke perfekt, har jeg hørt, men men Det er Sådan
• 1:06:31
  rimelig. Anvendt ikke, og jeg må indrømme
• 1:06:35
  jeg havde ikke rigtig noget godt argument for at bruge en XTS
• 1:06:38
  andet end at. Det er der bare rigtig mange der
• 1:06:41
  siger det ord. Men Jeg har et dårligt argument.
• 1:06:45
  Men Det er rigtig dårligt argument, men vi havde også den
• 1:06:47
  der snak der. Jeg tror også i nævnte det lidt
• 1:06:49
  III den der episke episode sidst jeg ikke kunne være med i fordi
• 1:06:52
  Det var jo ærgerligt der var øl og alt muligt men.
• 1:06:57
  At at det der med hvad for noget?
• 1:06:58
  Hvad skal man bruge i sin teksttak ikke.
• 1:07:00
  Altså er det overkill at bruge next s hvis du ikke skal skalere
• 1:07:04
  servere server læs ud til hele verden og Sådan nogle ting der.
• 1:07:08
  Det er det jo, hvis det, hvis Det er det som forfatteren til
• 1:07:11
  Det har tænkt, at Det var ikke, så er det jo nok også lidt
• 1:07:13
  overkill, så Det er vigtigt at vælge hvad for en hest man rider
• 1:07:18
  på, og hvad man vælger i sin stak, hvad man laver og Sådan
• 1:07:20
  nogle ting. Der er Sådan en Der er Sådan en
• 1:07:22
  blanding af det. Ikke fordi altså det Det er
• 1:07:23
  Sådan Det er sgu lidt svært fordi Der er også det der så vi
• 1:07:27
  snakkede også lidt. Jeg snakkede også med tiden om
• 1:07:28
  det her med altså Casper tideman som var med i den sidste episode
• 1:07:32
  hvor jeg var ude hos alefarm breing Vi skal jo vi laver en
• 1:07:35
  episode til hvor du også er med Jonas, Det har vi allerede
• 1:07:36
  aftalt. Ja jeg savner dig der Jeg tror
• 1:07:41
  dig og du har jo mødt Kasper tror jeg, men i vil have altså
• 1:07:45
  ja nå men hvad hedder det god kemi og god synergier der.
• 1:07:52
  Hvad var det Jeg vil sige? Jo altså det her med at man skal
• 1:07:56
  ikke overkompliceret det alt for meget og så videre.
• 1:07:59
  Men man skal og Det kan man slippe for at gøre, hvis man
• 1:08:02
  bruger Sådan nogle services som versel.
• 1:08:05
  For eksempel har jeg fået lad mig fortælle, men så er der
• 1:08:07
  Sådan de her venter login altså så så du skal på den ene side
• 1:08:11
  ikke overkompliceret det, men du skal heller ikke du ved bare
• 1:08:14
  outsource et eller andet totalt. Essentielt til noget, du slet
• 1:08:17
  ikke aner, hvordan det fungerer Sådan.
• 1:08:20
  Og på den 2 side så skal man jo heller ikke skrive det hele fra
• 1:08:22
  bunden af. Altså der må også være et eller
• 1:08:24
  andet. Jeg synes den er den er svær og
• 1:08:26
  den der altså. Man kan jo også altså man Der er
• 1:08:28
  også noget der hedder produktivitet ikke.
• 1:08:30
  Der er også noget der hedder. Du kan ikke skrive det hele fra
• 1:08:31
  bunden af, du bliver også nødt til ligesom at bruge nogle af de
• 1:08:34
  ting som Der er derude som folk har skadet og som mange siger
• 1:08:38
  virker ikke. Find knappen igen jo altså det
• 1:08:41
  det holder jo ikke så ja. Men.
• 1:08:45
  Den god diskussion det der ongoing diskussion tænker jeg.
• 1:08:49
  Men jeg kommer nok til at dele mine.
• 1:08:50
  Jeg kommer nok til at dele mine tanker både på LinkedIn og have
• 1:08:53
  podcasten omkring. Hele det her fullstace eventyr
• 1:08:57
  som jeg Jeg er på. Det skal vi da bare vende lidt
• 1:08:59
  tilbage til, så har vi en traumer mere jo.
• 1:09:01
  Det er jo. Nå men fast API full stak
• 1:09:06
  template hed det, og Det er selvfølgelig under fast impy, så
• 1:09:09
  Det var så ugens u. Fuldstændig fuld Stack fast i
• 1:09:12
  template. Sådan var det.
• 1:09:14
  O. K.
• 1:09:15
  Pool yes. Så Jeg tror, Vi er ved at være
• 1:09:19
  ved vejs ende, jo. Det er fandme godt at være
• 1:09:21
  tilbage. Jeg kan mærke at Det er godt
• 1:09:23
  lige at få sin ugentlige techfix her.
• 1:09:27
  Ja Det er det sgu. Mega nice jamen så er vi jo
• 1:09:31
  bare. Vi er jo lige en dag forsinket
• 1:09:33
  den her uge, men vi kommer knivskarpt tilbage på onsdag i
• 1:09:36
  næste uge klokken. Vi er begyndt at udgive kl.
• 1:09:38
  05:00 fordi eller ja og Det er simpelthen fordi at folk de de
• 1:09:42
  tuner sgu ind. Altså der var en dag hvor jeg
• 1:09:45
  fik udgivet kl. 05:00 ved et ved et hvad skal man sige uheld og
• 1:09:49
  folk gik altså bare på altså og det altså hvis jeg ved ikke
• 1:09:52
  altså Der er virkelig altså jeg Jeg er imponeret over hvor mange
• 1:09:55
  der begynder at at lytte med til det her, så så Det er Vi er
• 1:09:58
  selvfølgelig bare utrolig beæret over at.
• 1:10:00
  Og. Hun har noget der keder sig på
• 1:10:02
  motorvejen i de tidlige motorveje og der så det.
• 1:10:05
  Så kan man altid tune ind. Det er jo godt.
• 1:10:07
  Vi er altså oppe og ramme Sådan en 5 600.
• 1:10:11
  Hvad hedder det views per per afsnit og i på podcast kunden og
• 1:10:15
  så har vi på en før 50 100 stykker inde på på youtube så så
• 1:10:20
  det går opad så Det er fantastisk.
• 1:10:24
  Det er godt vi, Vi er glade for at have jer med allesammen, og
• 1:10:26
  vi fortsætter bravt, og nu er vi tilbage fra sommeren Sådan for
• 1:10:30
  Real, så nu bliver det nu bliver det rigtig godt.
• 1:10:33
  Back in business. Jamen, så er der ikke andet
• 1:10:37
  tilbage end at sige husk at subscribe og alt det der.
• 1:10:40
  Følg os på LinkedIn og gå ind og besøge arjobs.dk og se den er
• 1:10:44
  nede og. Ja så bare have det rigtig godt
• 1:10:48
  til vi lyse igen i næste uge. Ses hej.