Latest / Verbos: AI og Softwareudvikling / #65 - Vi taler OpenAI’s nye o1 LLM feat Mads Henrichsen
Transcript
- 0:00Hej allesammen og velkommen til eva bos podcast afsnit nummer 65
- 0:04i denne her episode. Der skal vi snakke om open air s
- 0:06nye releasede model. Ja o et tror jeg den hedder opin
- 0:12ERO et Jeg kan ikke nå den hedder o et eller oben AO et det
- 0:16skal vi snakke om i dag. Der har været en masse rygter i
- 0:19optakten til den her model og Det er stadig helt klart hvordan
- 0:22den helt fungerer under motoriel men så det skal vi prøve at
- 0:25komme lidt ind på i dag her. Hvad hedder det?
- 0:28Vi har ikke Jonas med i aften, men Jeg har været så heldig at
- 0:30få få mads Henriksen med så velkommen til mads.
- 0:33Mange tak. Du har jo været med II podcasten
- 0:36før og fortælle om ja dansk bibliotek og hvordan du hvordan
- 0:40du trænede den første danske lars lang well så jeg tænker at
- 0:44jeg tænker at nærmest ikke man kunne have nogen bedre med her
- 0:48på på potten end end end dig i dag, så så ja har du været inde
- 0:52og prøve opining af jeres nye o et.
- 0:57Mini og preview. Ja.
- 1:00Jeg har også været inde og prøve lidt men men Jeg er men man er
- 1:04jo begrænset i chat kapite og man jo i hvert fald begrænset
- 1:07med de her. Hvad er det 30 ugentlige
- 1:10beskeder man kan sende? Ændret i dag?
- 1:13Nå, så nu er det. 30 om dagen tror jeg Det er OK 30.
- 1:17Om dagen OK. Fair nok ja, men det det virker
- 1:21i hvert fald som om de har en. De har en rimelig tung model
- 1:23kørende deromme bagved ved ved API et der så så det tænker jeg
- 1:27Det er det Vi skal snakke lidt om i dag.
- 1:28Først og fremmest tænker jeg at det kunne være spændende.
- 1:31Bare lige prøve at snakke lidt om alle de rygter der har været
- 1:34op til abene. Jeg er jo notorisk kendt for at
- 1:38være Sådan super Sådan hype-agtig og være rigtig Sådan
- 1:43gode til at. Jeg ved ikke bare få det til at
- 1:46virke Sådan lidt episk alt det de arbejder på.
- 1:49Hvad hedder det og der har været noget med noget.
- 1:51Jeg var startet det med var det Sådan noget que star og?
- 1:56Ja hvad hed de alle sammen? Ja que star og så gik det lidt
- 1:59over så store bag og Sådan noget ikke?
- 2:04Ja, og så har folk spekuleret Sådan og og og der var også
- 2:07noget med der under. Altså da da same olkman blev
- 2:10fyret fra fra bestyrelsen. Jamen så var det fordi at de var
- 2:13i gang med at udvikle AGI og de havde allerede udviklet AGI og
- 2:18Det var den der q star og Sådan noget.
- 2:21Ja så så der har været en masse boss i hvert fald.
- 2:24Det er helt sikkert, men jeg tænker på Sådan Det kan være Vi
- 2:28skal prøve at at snakke om Sådan til at starte med hvordan det
- 2:31ligesom. Altså de announcede det jo lige
- 2:35pludselig og. Altså den første Sådan
- 2:38interaktion jeg havde med Det var jo inde i chatkebæ, og det
- 2:40tror jeg måske. De fleste har altså Sådan hvad
- 2:43hvordan hvordan er det at bruge o et i forhold til?
- 2:48De andre altså fordi Det er jo ligesom bare en chat.
- 2:50Du kan bare vælge GBT 4 eller GBTO et hedder den så.
- 2:56Min første reaktion var, at hold kæft det langsomt.
- 3:02Jeg sad, og der bliver virkelig brugt meget tid på at tænke.
- 3:07Altså der går virkelig mange tungs til noget som brugeren
- 3:10ikke kan se. Og alt efter hvordan bruger det
- 3:16ekstremt OK? Ja Det er også helt klart min
- 3:18oplevelse. Altså man kan sige det der Sådan
- 3:21skulle være det nye ved. Det er jo det her med at.
- 3:25At at den ligesom tænker før den taler, og det skulle ligesom
- 3:30være. Hvad skal man sige være med til
- 3:32at kunne give den altså? Den giver endnu bedre svar ikke,
- 3:35men Det er også helt klart min oplevelse at at Sådan den er god
- 3:39til nogle ting, altså den er god til.
- 3:42Det er ikke bare Sådan alle prompte Jeg vil give den give
- 3:45til den og så bare stå og vente de der. 10 flere minutter, nogle
- 3:49gange 10 sekunder flere minutter nogle man nogle gange kan vente
- 3:52ikke. Det er helt klart ligesom om at
- 3:53den er den den den er optimeret til nogle bestemte typer
- 3:57opgaver. Ja er der også det hvad har du
- 4:00men har du Sådan har har du nogle oplevelser af at den er
- 4:03bedre til noget end end den gamle?
- 4:05De andre modeller var Sådan vibecheck-agtigt.
- 4:09Altså Sådan helt generelt, så synes jeg at at det bedste ved
- 4:13dine modeller er ikke at de har været klogere, men.
- 4:19Mere at de har et meget større output toing window.
- 4:24Så kapitel 4 år og andre modeller har 4000 tunge og nogle
- 4:30af BT modeller og 8000. Men.
- 4:35O et og et lini har 36.000. Så du kan bare skifte en helt
- 4:41kæmpe code repub og så kan den view det hele en.
- 4:44Gang du kan bruge Copenhagen jo til det.
- 4:46Ja dav godt kan du se. Ja stor fan.
- 4:50Stor fan ja åh Det er ikke godt hvad hedder det?
- 4:54Ja altså hvad hedder det jo ja så du så du tænker meget på det
- 4:58her kontekstvindue som 1 1 1 1 differentiator på modellerne.
- 5:02Ja outputums. Men oplever det ikke også, at
- 5:05Jeg synes bare også det, jeg oplever at at Sådan.
- 5:08Uanset hvor meget kontekst man giver dem, så kan de godt blive
- 5:12forvirrede, hvis man ligesom blother det alt for meget det
- 5:15der kontekst endnu. Jo helt sikkert.
- 5:20I dag skulle jeg noget så simpelt som.
- 5:25At tilføje SSL til en server og jeg kunne ikke lige huske
- 5:28kommandoen og så spurgte de chatkebæ og så kom jeg til at
- 5:31ramme. Et mini og den skrev i 4
- 5:36minutter. Altså den ting de er 5 sekunder
- 5:39og så skrev den 3000 år. Så Det var fuldstændig altså Det
- 5:45er hele vinduet lacket fordi Det er et andet større så meget sex.
- 5:48Bare for Sådan et spørgsmål der. Hvad OK.
- 5:54OK så den overinger bare total svar.
- 5:56Den tænkte overalt wow jeg skal bare lige bruge en simpel
- 5:59korando. Ellers skulle den op og Google
- 6:02det. Virker som om altså fordi det
- 6:04virker altså. Altså det virker som om at
- 6:07opinay de har trænet altså de har ligesom været bevidste om at
- 6:11de her modeller er sygt dårlig til risning.
- 6:14Altså Sådan. De kan godt lave altså det her
- 6:17Der er en eller 2 form for interessante.
- 6:19Hvad skal man sige feature ved ved dem og Det er at de kan lave
- 6:23det her hvis man beder dem om at lave det her change of though så
- 6:26bliver de bedre men altså de bliver ikke Sådan.
- 6:30Gode til at lave Sådan rigtig visninger.
- 6:32Man kan typisk se, at de vil lave forkerte ræsonnementer og
- 6:37typisk så vil de også lave det rigtige ræsonnement, men gør det
- 6:40forkerte eller altså Sådan det det.
- 6:42Det er Sådan lidt hallucinerings agtigt det her chancer ford
- 6:45resing. Det virker som om at og og det
- 6:48gør at det her med at det her sprogmodeller har svært ved
- 6:51ligesom at rent faktisk at ræsonnere sig frem til løsninger
- 6:55på problemer. Så så har de svært ved at løse
- 6:58Sådan komplekse resulting tunge opgaver såsom matematiske
- 7:03opgaver og programmeringsopgaver og så videre og og der har de
- 7:06ligesom Det har de. Det er ligesom som du selv også
- 7:09er inde på her. Det virker som om at o et serien
- 7:12er Sådan meget laser fogest trænet til at løse lige præcis
- 7:16den type problemer. Meget problemet opgaver.
- 7:21Og og det tror jeg også ligegyldig.
- 7:24Bærer bærer præg af. Så Det er ikke de der Sådan helt
- 7:28simple instruktioner. Altså givet et eller andet
- 7:31spørgsmål om at have et svar. Nej helt sikkert ikke.
- 7:35Jeg læste på Twitter eller x som det som det hedder.
- 7:41At. Der var nogle der har været til
- 7:45interview hos åben ej som havde fået nogle opgaver.
- 7:50Hvor at Det var meget Sådan visningen.
- 7:53Komplekse opgaver og de her ting.
- 7:55De blev jo Sådan optaget og transporteret.
- 7:59Så er der mange, der går og tænker på, at de her
- 8:02transfusioner og de her interviews af folk, Der er til
- 8:05ekstremt. Teknisk dygtige måske allerede
- 8:09brugte til træning. Altså for deres jobsamtale eller
- 8:12hvad? Ja det ved jeg ikke men men man
- 8:15kan sige strukturen er meget påfaldende.
- 8:18Ja fordi måske skal vi bare prøve at dykke ned i det med det
- 8:20samme fordi hvad fanden er det egentlig hvad?
- 8:22Hvad er det egentlig man regner med der foregår bag de her?
- 8:24Altså bagved den her model fordi.
- 8:27Som Jeg kan forstå det så siger opinay at det her.
- 8:30Det er ikke et chat GPT moment for o et modellerne.
- 8:35Det er mere et GPT 3 moment for o et modellerne, så Det er
- 8:40stadig altså på samme måde som GBT 3 famlet rimelig meget i
- 8:45blinde dengang den kom ud, men stadig havde noget interessant
- 8:48ved sig, så er det lidt det samme.
- 8:51Vi er hvor det samme sted Vi er nu med o et modellerne.
- 8:55At de de kan noget interessant, men de er Sådan stadig lidt lidt
- 8:59måske specifikke og ikke Sådan helt.
- 9:04Så nemt at styre også måske og opføre sig i mange henseender
- 9:08ikke. Så hvad skal man sige
- 9:09hensigtsmæssigt? Især hvis man bare lige gerne
- 9:11vil have en eller 2 kommando til sig selv.
- 9:12Så er det måske ikke lige den man man hiver frem, men men
- 9:15altså det virker som om at de altså der har jo været mange
- 9:18rygter i forhold til hvordan de helt konkret er blevet trænet.
- 9:21Men ove baner har Jeg har jo været, hvad skal man sige?
- 9:25Åbne om at de i hvert fald bruger Brian forcement learning
- 9:29til at til at træne de her modeller og til at.
- 9:33Ja nu nu er jeg lidt i tvivl om hvad Der er spekulation og hvad
- 9:35der ikke er spekulation. Men altså de er i hvert fald
- 9:37åbne omkring at de bruger rainforcement learning til at
- 9:40lave en form for. Jeg ved ikke altså en form for.
- 9:46Reward optimering i forhold til. Den altså Sådan change of futs i
- 9:53virkeligheden. Ja.
- 9:56Som Jeg kan forstå Det er Sådan en autokorrektur.
- 10:00Jamen ford hvor at datasættet. Bliver genereret, mens man
- 10:10træner. Så hvis man kommer frem til et
- 10:14eller andet svar, og så har man flere Sådan trestrukturer af af
- 10:20prompt, så den her Der er lidt hen til svaret på en eller 2
- 10:26score hvor de andre får en dårligere skov.
- 10:29Ja. Så man starter med en eller 2
- 10:30print der udtrykker en eller 2 opgave, og det vil typisk
- 10:34spørgsmålet er om de er autogenereret eller hvordan de
- 10:36ligesom har fået de her initielle proms.
- 10:39Men det virker som om, at Der er i hvert fald en eller 2 prop der
- 10:41ligesom beder om at løse en eller 2 en eller 2 reasing tung
- 10:44opgave som kunne være noget kode eller kunne være noget matematik
- 10:47eller et eller andet der kræver noget kompleks visning og så
- 10:51virker det til så vidt Jeg kan forstå at de får.
- 10:54De har så fået ligesom en ja jeg bruger det sikkert kapitel 4 til
- 10:57ligesom at generere mange tjenere forts.
- 11:01Altså ligesom bare genererer mange gange stod odds.
- 11:03Mod opgaven ned for eksempel. Ja lige præcis.
- 11:06Prøv lige at se en i en del af gangen.
- 11:08Og så har samplet mange og så genereret mange af dem ikke.
- 11:12Måske pænt udøvende? Jo genereret det jo ikke.
- 11:15Nej lige præcis, men så måske generelt 10 og så er det ligesom
- 11:17bare begyndt at køre ned af de forskellige II hvad skal man
- 11:21sige patt så har man lavet lavet Sådan en.
- 11:23Jeg tror der har været paper på et tidspunkt der hedder trief
- 11:25thats altså hvor man har genereret Sådan 1 3 af af
- 11:28reasning steps til ligesom at at at hvad hedder det gå ned de her
- 11:34altså prøve at løse problemet og det.
- 11:38Det der så også er påfaldende. Det er at mange af de opgaver
- 11:40som. O et skulle være bedre til at
- 11:43løse er ofte opgaver, som har et altså Sådan et et verificerbart.
- 11:50Hvad skal man sige outputat? Kode som kan testes for en eller
- 11:572 test eller Sådan noget. Så det vil sige man kan man kan
- 12:01træne. Man burde kunne træne, lave en
- 12:05eller 2 måde syntetisk data som som som ligesom genererer alt
- 12:09det her de her gange altså jinoff og så søger ned i dem og
- 12:14laver en eller 2 form for reward modeling på gode steps imod at
- 12:19løse et eller andet problem og så ligesom søge noget af de
- 12:21forskellige past der bliver genereret og så.
- 12:24Det sørge for at dem, der genererer den rigtige.
- 12:28Change of start ligesom får høj, altså de får en høj reboard
- 12:32fordi de løser problemet, og så er det ligesom signalet om den
- 12:35løse det man gør. Hvad tænker du om det?
- 12:37Hvad tænker du om den den løsning?
- 12:40Altså det. Det er en god løsning, altså den
- 12:45vi får bedre visning af det. Det kan vi jo tydeligt se.
- 12:49Problemet er bare lidt at man sparer computer i træningen og
- 12:55så bruger alt computeren i inflands.
- 12:59Det vil sige på sigt vil. Modellerne altså bruge dem langt
- 13:05mere computer, end hvis du bare havde trænet dem til at være
- 13:07god. Ja out of the box fordi den
- 13:11ligesom skal bruge. Så vidt jeg kunne forstå så så
- 13:15mere comput i træningsfasen giver bedre resultater.
- 13:19Så det det det vil du det vil give et bedre resultater ligesom
- 13:22det jo man forventer. Men mere computer i inferns
- 13:25altså i under test time, som man kalder.
- 13:27Det giver altså også bedre resultater.
- 13:31For endnu bedre, end hvis de var brugt til computer eller en
- 13:34tilstræning. Og Det er jo interessant ikke,
- 13:38men det betyder så også bare at så betaler man også bare
- 13:41inferens på inferens siden ikke fordi så skal man ligesom bare
- 13:45bruge force generere tungens. Og de skal ligesom genereres de
- 13:49skal, og der genereres genereres rigtig mange reasing tungnes.
- 13:53Som man også, som de også beskriver i april at de Det er
- 13:57altså nogle man også betaler for, og som ligesom bliver
- 13:59genereret som der bliver genereret vilkårligt mange af i
- 14:02baggrunden og så man i øvrigt heller ikke har adgang til via
- 14:05AP et. Ej Det er lidt.
- 14:08Det er et rimelig suspekt. Det her.
- 14:10Altså Sådan. De kan jo bare sige nå men så
- 14:12har vi lige genereret 3 mio. om tryk 5 eller.
- 14:17Altså det ville det ville et dårligt vejr gøre det på.
- 14:21Så Jeg kan lige pynte lidt på. På antallet af tokens deroppe.
- 14:25Men jeg tænker de gør det altså de har skjult de der reasing
- 14:28tokens at Sådan så man ikke bare kan træne på det.
- 14:31Ja altså de har været rimelig ond og omkring mig for.
- 14:36Det er bare for kompetit for fordel.
- 14:40Fordi man kunne generere den virkelig fantastisk data ud fra
- 14:44fra dem. Men noget jeg også tænker på i
- 14:48forhold til også noget jeg Sådan forestiller mig er nødvendigt
- 14:51for at køre Sådan en her model og sikkert også.
- 14:54Grunden til at den er dyrere og. Der ikke er lige så mange ting
- 14:59du ved. Man kan ikke lave det der.
- 15:00De har ikke deres bachelor i til batch AP tilgængeligt med o et
- 15:03modellerne. De har ikke billede API hvis man
- 15:06kan sende billeder med og man kan ikke rette på temperaturerne
- 15:10og man kan ikke rette på altså de Sådan de her restrikted AP et
- 15:13ret meget, men jeg forestiller mig også at det må være mere
- 15:16kompleks opgave at køre hele det her system, fordi du skal
- 15:20generere mange flere tokens. Og så skal du vel egentlig også
- 15:24i modsætning til GPT 4, når du kører den med en Frans, så skal
- 15:27du vel også i den her o et opsætning have reward modellen
- 15:32kørende. Undervejs.
- 15:37Det er jo egentlig et godt spørgsmål.
- 15:40Muligvis skal du have flere modeller kørende.
- 15:45Men alternativt kunne det jo også godt være en.
- 15:49En model som både outputtet toobens og en prop abilty.
- 15:54Altså udover bartin loggets. Ja det kunne det selvfølgelig
- 15:57godt være. Ja Sådan så at men jeg får
- 16:00grunden til at jeg tænker at der skal være en reboard model
- 16:02kørende. Det er fordi at den den ligesom
- 16:04genererer de her. Parallelt genererer det her 3 af
- 16:08af. Det er jo i virkeligheden Sådan
- 16:10en 3 research alguéme over chane of thut ikke altså den skal den
- 16:15ligesom generere og i takt med den generere den skal de også
- 16:18scores. Af en reward model forestiller
- 16:22jeg mig, men der tænker du at Det kan være at det ligger i
- 16:25selve modellen at den outputter ja.
- 16:29Ja det det altså det man kan jo egentlig godt lægge det lave et
- 16:33datasæt hvor den laver en eller 2 careford og når den er færdig,
- 16:38så skal den evaluere den. Ja og give.
- 16:41Den en eller 2 skovl. Og den skovkage er.
- 16:45Jeg kan godt være udregnet fordi logget det vil sige hvor sikker
- 16:49den er for hvert tåke i den sekvens.
- 16:54Der er ikke nogen, der ved hvordan det her fungerer, men
- 16:57altså man kunne forestille sig at Det er lidt mere komplekst
- 16:59end som så i hvert fald jeg. Jeg forestiller mig, at når de
- 17:03ligesom genererer de her de her. Chain of thu pats så skal de
- 17:07ligesom også live score hver enkelt step.
- 17:11Det er jo. Det er hvert enkelt step i
- 17:12planen der bliver lagt, som ligesom bliver scoret og så
- 17:16afgøre hvad for en vej modellen ligesom skal gå ned af.
- 17:20Den bliver ligesom ja. Det er jo Sådan en en search
- 17:23algoritme ned igennem forskellige ting.
- 17:25Forts ikke så. Jeg så nogle der skrev at de
- 17:29gjorde lidt grin med det at open meget de havde egentlig opført.
- 17:35Endelig op. Altså så Det var jo den har
- 17:38lavet Sådan en kort. Hvad sagde du?
- 17:41Du røg lige ud. De havde opfundet agents som
- 17:44alle andre har jeg så bare fucking dårlig skyld.
- 17:48Ja ja fantastisk ja. Og Det er rigtig nok.
- 17:51Jamen på en eller 2 måde er det jo lidt agents ikke.
- 17:53Altså Det er Sådan en agent agtig problem.
- 17:57Solving tilgang. Hvor den Sådan itererer henover
- 18:02og og søger noget af det. Det ved jeg ikke.
- 18:04Det gør den jo så ikke med agent søger på samme måde men men Det
- 18:07er Sådan 1 1 1 1 1 loop hvor den ligesom reasener sig igennem
- 18:12bare hvor det ligesom er trænet ind i modellen.
- 18:16Hvilket jeg forestiller mig? Giver den nogle nogle fordele?
- 18:20Altså det bliver ligesom bagt mere ind i modellen det.
- 18:23Gør det helt sikkert. Vi så for. 2 uger siden.
- 18:29Min gut der hedder match humor USA han er Sådan marketing good
- 18:35han sagde nej, men nu har jeg lige lavet den bedste larmende
- 18:38model eller open source model nogensinde, og Jeg har bygget
- 18:41den på samme struktur som åbner. Jeg vil lancere deres model på.
- 18:47Som er det her på det her tidspunkt kaldte reflection.
- 18:52Hvilket egentlig er man bare træner model til altid at gener
- 18:56tjener ford? Og så gemme det for brugeren.
- 19:02Det viser sig at at han open source en model, at den var
- 19:06faktisk virkelig dårlig. Og problemet var at han.
- 19:10Det kunne han. Det kunne han ikke forstå.
- 19:11Sagde han og han havde et privat APP, hvor den performede rigtig
- 19:16godt. Så fik han nogen til at teste
- 19:19her API og det pervnede sindssygt godt og der var ikke
- 19:24nogen. Jeg forstår det, og det viser
- 19:25sig at han hans AP var en proxy gloss.
- 19:29Nå OK. Den ligger stadig efter Holding
- 19:33pæs og la model der. Det er en kæmpe skandale.
- 19:38Ja så kan man bare se. Så altså man kan sige.
- 19:44Ja og Jeg synes også Jeg har hørt mange snakke om Sådan.
- 19:46Amen Det er sgu da ikke så imponerende.
- 19:47Vi kan sgu da bare lige altså Det kan man da godt lave med med
- 19:52en eller 2 open source model og så bare få den til at tænke det
- 19:54step by step ikke men. Er det ikke helt lige til?
- 19:59Nej, det virker bare som om Der er noget andet der der der
- 20:02bliver bagt nogle andre ting ind i modellen, når man rent
- 20:05faktisk. Træner, det forestiller jeg mig,
- 20:08eller det virker bare som om at. Der er nogle ting, man ikke kan
- 20:12promingere sig ud af, hvor det ligesom skal base ind.
- 20:18Altså Jeg tror hele Sådan helt grundlæggende.
- 20:20Jeg har et rigtig godt dag, og Det er noget der ikke.
- 20:25Er syntetisk. Fordi man har kunnet generere
- 20:30det i lang tid og kunne genet tror jeg ikke.
- 20:33Jeg kan stadig have mig selv. Man er kun genereret rigtig
- 20:36gode, Sådan typisk lang tid som at kunne performe rigtig godt på
- 20:42et meget specifikt task også bare plumps og ud af ud af ting.
- 20:50Men det her er rigtig svært at give mig at generere syntetisk.
- 20:55Fordi at hotput længden er slank.
- 20:59Ja. Så Der er ikke en enkelt model,
- 21:01der på noget tidspunkt er kunne generere Sådan nogle outputs.
- 21:06Så en af tricksene er faktisk også det her med at de er så
- 21:08lange. Men jeg tænker Sådan, hvad er
- 21:10det OK nu nu? Nu snakker vi om, at de sidder
- 21:12med datasæt, som er utrolig værdifuld og som er svært at
- 21:15genskabe. Men hvordan ser det?
- 21:19Hvad er det? Ligesom hvad er det for noget
- 21:21benarbejde Der er gået ind i at lave det her datasæt?
- 21:24Fordi før der snakkede vi om at man kunne forestille sig man
- 21:28kunne lave det med. Ja ligesom bare at have nogle
- 21:29initielle prompt som. Man kunne forestille sig man
- 21:33havde en eller 2 prompt som definerede et eller andet et
- 21:36eller andet kode der skulle skrives eller et eller andet
- 21:37matematisk problem. Og så havde man så også den test
- 21:42som som også genererede den test der ville kunne løse.
- 21:47Det kunne altså som ville være opfyldt, hvis Det var rigtig
- 21:50løsning, ikke? Og så kunne man ellers bare gå i
- 21:53gang med at generere de her tree of thuts og så søge ned igennem
- 21:56og optimere for dem. De stier, som ligesom gav
- 22:00korrekt. Altså Sådan hvad tænker du
- 22:04egentlig? Hvad tænker du kunne være
- 22:06benarbejdet i forhold til at konstruere Sådan et datasæt?
- 22:09Så bare mennesker der løser opgaver og blæser opgaver.
- 22:15Altså det det startede ud med bare at være et spørgsmål med
- 22:19find svaret så skrev folk svaret ned og nu er det Sådan mere
- 22:23fokuseret på reasningen. Givet det her spørgsmål, hvad
- 22:28kan du? Hvordan kan du finde frem til
- 22:30svar? Betalt med Sådan forklar mig,
- 22:33hvad du tænker. Og så træner man på det, så.
- 22:36Du forestiller dig at til at starte med, så har man ikke
- 22:39lavet det her reenforce myt learning, så har man måske bare
- 22:41først altså indsamlet få folk til at generere de her data.
- 22:46Altså Sådan her er et problem og så løst det og så du ved en
- 22:51eller 2 person der bare sidder og skriver alle sine step
- 22:55bypingning ned og så har man måske samlet en ordentlig bunke
- 23:00af dem. Altså generelt produceret en
- 23:02ordentlig bunke af den type data punkter, så har man trænet 1 1 1
- 23:07supervis model altså lidt ligesom reinforce learning
- 23:11feedback metoden ikke altså så kører man ligesom Sådan et
- 23:14supervised step for at få modellen i modet til at opføre
- 23:19sig Sådan, at den genererer de her meget lange ting og så har
- 23:23man ja så har man ligesom brugt det til at sample.
- 23:27Mange forskellige ja de her træer, og så har man kørt min
- 23:29force mad learning på det. Det kunne jo godt være en det.
- 23:33Kunne det kunne helt sikkert være en mulighed.
- 23:36Jeg tror de mennesker, der har været med til genererer
- 23:38datasættet, også har givet forkerte løsninger.
- 23:41Altså lad os sige du får en ekstrem kompleks opgave, og du
- 23:46så prøver at løse den og så på et eller andet tidspunkt.
- 23:47Så finder du ud af det her. Det er ikke løsningen.
- 23:51Så går du så tilbage til et eller andet trimmet og så prøver
- 23:54at starte derfra igen, indtil du finder løsningen.
- 23:57OK så menneskerne har har været fuldstændig open source i
- 24:00forhold til deres tanke. Rækkerækker altså Sådan hvis de
- 24:03også Sådan hov Det var sgu ikke rigtigt gået tilbage.
- 24:05Ja OK ja fordi Det er der også nogle der.
- 24:08Det kan man også se i de der jin of thutts man trods alt har
- 24:12adgang til i chat GBT ikke at den Sådan så nogle gange så
- 24:16siger den Det var ikke rigtigt. Hvad du har adgang til summer.
- 24:22Ikke det Sådan dybere vægte tanker Det er.
- 24:27Så de har lige en gebit 4 o til at samuise.
- 24:30Løber ja. Ja Det er det godt nok lidt Der
- 24:33er meget campus. Jeg kan ikke lade være med at
- 24:36tænke på, at Jeg tror måske altså da sam målmand blev fyret
- 24:40og kniv star og nu har de opfundet AY og var det derfor
- 24:43han blev fyret og Sådan noget ikke?
- 24:45Jeg kan ikke lade være med at Sådan at at at Sådan.
- 24:50Altså blive en lille smule skuffet over at at Det er jo
- 24:53ikke altså. At man ikke længere.
- 24:56Jeg, men Jeg har regnet med at man var længere, men Jeg tror
- 25:00bare at åkane og er rigtig dygtige til at puste rigtig
- 25:03meget op. Ikke og virkelig skabe det her
- 25:06slør og mystik omkring dem. Det Det har været lidt skuffende
- 25:10på det seneste altså 3 4 måneder siden.
- 25:16Gemsa 4 OK mod og de sagde voice delen vil blive release og nu er
- 25:21det collager waics cover weeks. Så ja.
- 25:26Det kunne godt være det kunne godt blive til Sådan et.
- 25:28Det opinerer i mean ikke? Ja så man man kan sige.
- 25:36Måske er man også nået dertil hvor at.
- 25:39Altså altså bevares Det er da imponerende.
- 25:43At den at de har kunne træne den til at blive bedre til at lave
- 25:47den her. De her reasoning traces og ja.
- 25:54Men som de også selv siger Det er måske lidt mere et kapitel 3
- 25:57moment end Det er et kapitel kapitel moment for for den type
- 26:00modeller ikke. Så Jeg tror måske også bare man
- 26:02skal man skal forvente. Altså det man kalder for en
- 26:07kriminel. Incriumental på engelsk
- 26:11forbedringer, ikke? Men det smarte er jo nogle.
- 26:16At det datasæt bliver genereret, men det promter Det har de jo og
- 26:22de har de rigtige og de forkerte pars som før har været ekstremt
- 26:27dyre at generere, for du skal bruge mennesker.
- 26:31Så Det er også derfor de har holdt det.
- 26:33Gemt ja. Så Det kan de bare træne på nu.
- 26:37Jamen, hvordan tænker du så også Sådan når man skriver ind, så
- 26:39genererer den jo selvfølgelig resing traces og alt det her
- 26:44hvor hvad hvad er signalet så? Signalet er bare sluttet altså
- 26:49den proppen kan til bruges. Okay så det men men men du
- 26:53tænker ikke der skal være en eller 2 form for hård heart?
- 26:56Hvad skal man sige report-past eller et past eller Sådan?
- 27:00Hvad er revorten? Jeg kan godt.
- 27:02Jeg kan godt se hvad du hvor du hen.
- 27:06Men fordelen i at. Prøve at undgå de steps Warren
- 27:12er forkert. Der er noget værdi i det, fordi
- 27:15det koster computer. Så du får måske ikke
- 27:18nødvendigvis et bedre svar, men du sparer en masse.
- 27:23Computer. Ved at du kan frasortere alle de
- 27:26forkerte svar. Men uden tvivl altså de får de
- 27:30har altså de er uden tvivl de en fordel for dem at de har blæst
- 27:34ud til så mange brugere ikke og at at.
- 27:37Vi betaler for genereret, Der er datasæt.
- 27:40Det er nok smart. Og de er for feedback ikke og
- 27:44altså. Ja.
- 27:48Har du Sådan nogle ideer til hvor altså nogle use cases hvor
- 27:51at altså Sådan produktvis hvor at det kunne give mening og hvor
- 27:56man tænker Sådan Det er o et Vi skal have fat i her.
- 28:00Nej. Nej overhovedet ikke.
- 28:04Altså meget af det vi laver er jo Sådan rackbaseret.
- 28:09Og der tror jeg slet ikke Der er nogen der har lyst til at vende
- 28:1120 eller eller 25 sekunder på et svar.
- 28:14Nej. Og Det er så måske bestille en
- 28:17lille bitte bedre. Sneg.
- 28:21Vi laver ikke noget fysik på PHD niveau eller matematik, som skal
- 28:28med til den matematiske olympiske lege eller eller Sådan
- 28:31noget i stil. Jeg kunne godt forestille mig
- 28:32Der er nogle muscases II Sådan forskning.
- 28:37For at verificere en eller 2 teori hurtigt.
- 28:42Der er jo kamp. Tidernes bare det.
- 28:46Kan godt være man kunne forestille sig Sådan nogle en
- 28:48eller 2 form for ja Sådan en eller 2 form for.
- 28:53Teorien prover eller Sådan noget et eller andet et eller andet
- 28:57spekulativt net af prompt og automatisering, der læser papers
- 29:02og alt muligt tokensering ud i det lyder pisse dyrt.
- 29:07Ja, det gør det godt nok ja. Men jeg tænker ultimativt er det
- 29:11vel det som opinayar? Hvad skal man sige vil opnå med
- 29:14det her ikke? Altså Det er jo det snakker de
- 29:16meget om det her med at hvis man kan få få dem til at lave rigtig
- 29:19rensning og opfinde nye ting og ligesom gøre Sådan at de kan.
- 29:27Udlede ting som. Ikke var kendt viden før og
- 29:32Sådan noget. Jeg tænker Det er det Der er
- 29:34målet. Ikke fordi så.
- 29:37Jeg søgte med Twitter, lige da det udkom og at.
- 29:42Hvad hedder ham der og Der er en eller 2.
- 29:45Jeg kan ikke huske. Hvad den måde?
- 29:47Nej, nej. Nej nej.
- 29:50Der var en der skrev at han var virkelig skuffet, fordi nu har
- 29:52den tænkt det 5 minutter. Og den har stadigvæk kunne være
- 29:56kræft. Men en lille smule skuffelse
- 30:01synes jeg godt man kan tillade sig at have altså altså.
- 30:04Den performer rigtig godt i bench maks ja det gør den.
- 30:09Men den er uforholdsmæssigt dyrt at køre.
- 30:11Og den er ikke så. Lang jeg kager.
- 30:13Den er ikke så praktisk anvendelig vel, men man kan
- 30:15sige, men man kan sige den rykker jo.
- 30:19Benchmarksene kan man sige ikke, og Det er jo interessant altså
- 30:22Det er jo interessant, men Sådan rent du ved brugbart.
- 30:25Det er også fordi man forventer at nu skal det være brugbart og
- 30:27og så videre ikke og nu er det et nyt.
- 30:31Deft tools som man kan bruge til at lave et eller andet specifikt
- 30:33ikke, og som kan gøre nogle andre ting mere.
- 30:37Nogle applikationer bedre og Sådan noget, men det virker bare
- 30:39som om at det stadig er lidt umodent i hvert fald.
- 30:43Altså. Jeg kommer til at beholde mit åh
- 30:45mere ab run. Jeg havde ikke lige opsagt det.
- 30:50Men Det er kun fordi at nu har de fået en model der kan afputte
- 30:54så mange tungs. Det gør arbejden kode så meget
- 30:58oven nemmere. Okay altså med ow et ja.
- 31:02O. K så det ja OK Jeg synes bare
- 31:06ikke så tit. Jeg synes ikke særlig tit.
- 31:09Jeg rammer den der væg der. Altså indputtet bagbuds.
- 31:15II chat kapitel. Jamen inputtet og outputow.
- 31:20Jeg blæser bare tungt selv og så du ved jeg.
- 31:23Jeg synes aldrig en brokker sig. Altså den den brokker sig jo
- 31:28aldrig omkring output eller det. Det kan den ikke fordi den har
- 31:33kun trænet op til et eller andet som åbenhus, men den kan klages
- 31:38over input. Eller input er for langt, ja,
- 31:41men Det er rigtigt nok. Det har jeg ramt et par gange.
- 31:43Det er selvfølgelig ikke nok, men Jeg synes bare når man når
- 31:46derop anyways. Så begynder den bare at blive,
- 31:50altså så begynder den bare at blive forvirret.
- 31:55Og man skal helst ikke spørge om for mange ting på en gang, fordi
- 31:58så. Så forstår den sgu ikke altså
- 32:01ej. Jeg ved ikke helt, hvordan vi
- 32:02gør det, men jeg føler ikke, man får hele værdien af kontekst.
- 32:07Min døde ud, så Jeg har brugt den. 8 mini til at vi Factor og
- 32:16hele alt alt mit next DS kode i Sådan et kald.
- 32:21OK det tog også 35 øre. Jo jo Det var alle filer. 2 tænk
- 32:27den så lang tid. Nej nej en outputtet i 35
- 32:31minutter. Wow OK.
- 32:35Den skrev jo, det ved jeg ikke flere 1000 år og.
- 32:38Har ikke været sindssyg, eller Det er helt.
- 32:40Klart det bedste ved modellere Det er.
- 32:43De kan bare skrive så meget. Men hvad?
- 32:44Hvor lang tid brugte den så på reasoning ikke?
- 32:47Særlig lang tid. Ikke særligt Det var bare en et
- 32:48sekund. Eller skrive, skrive løs.
- 32:51Vildt nok sygt nok. Det har jeg sgu ikke lige
- 32:53prøvet, men det kunne da godt være man bare lige skulle
- 32:55kopiere. Altså.
- 32:57Jeg tror ikke Jeg tror ikke modellerne er så store.
- 33:02Jeg tror et. Og et mini er nok ikke meget
- 33:08større end kapsa 4 o mini. Men altså de bruger bare så
- 33:17meget tid på at tænke at at det går langsomt.
- 33:21Ja. Og så hvis Der er noget ekstra
- 33:23obs noget hvis Der er en reward model der også kan køre os og
- 33:26nogle mere toast der skal reasing tokens der skal generes
- 33:30og Sådan noget så det så Det er en tung en der kører.
- 33:35Ja mit største problem nu er. Hvis jeg bruger den der gult in
- 33:40mac app. Som Det har så lacker det for
- 33:45meget og så når afko bliver forlangt.
- 33:49Fuldstændig ubrugeligt. Så mange tokens til at til at
- 33:52appen kan klare det. Jeg forstår det ikke.
- 33:54Det er bare tekst men det. Er rigtigt nok.
- 33:58Det er bare hurtigt det så de. Er gode til at lave modeller.
- 34:00De er ikke gode til at lave apps.
- 34:03Med Microsoft kan virkelig helt noget word EXDE sætte den til at
- 34:08fikse det. Ja hvad hedder det altså Sådan
- 34:14jeg hvad. Hvad tænker altså Sådan hvad
- 34:17tænker du bare Sådan hvis man skulle prøve at kigge lidt på
- 34:19fremtiden i forhold til det her? Har du Sådan nogle ideer til
- 34:23hvad? Hvad hvad er din næste skridt
- 34:24bliver og du ved. Er er vi ikke også ved at være
- 34:28der, hvor Vi har nået det der plateau, hvor Det er mest nogle
- 34:33instrumental skridt, vi vi kommer til at tage.
- 34:36Det er vi. Det er helt klart ja.
- 34:39Hvis på den på et tidspunkt bare kan opfinde fuldstændig
- 34:42vanvittige ting, som vi ikke kan forestille os lige nu, så bliver
- 34:46det fuldstændig sindssygt. Og Det kan godt være, at Vi er
- 34:51tæt på det. Vi ved det bare ikke.
- 34:56Men indtil der sker, så tror jeg det vil være lidt skuffende.
- 34:59Men så har det jo også hvad hedder det man kan sige, hvis
- 35:01man hvis den skulle gøre det. Så ville det nok være et noget
- 35:07badge job agtigt noget ikke. Altså hvis man skulle lære Sådan
- 35:09helt kynisk og kigge på det på hvordan du vil kode det ikke
- 35:12altså det ville. Ikke være.
- 35:14Ja du ville altså men men altså hvis du kunne finde kurven til
- 35:17kræft eller et eller andet sindssygt ikke altså så kunne du
- 35:20godt have råd til at have det der API til at hakke tokens
- 35:25afsted. Ikke bare III evigheder ikke?
- 35:28Altså. Der er jo folk der har
- 35:30eksperimenteret med at lave de her.
- 35:32Hvad skal man sige? Paper agent systemer der ligesom
- 35:36bare prøver at skrive papers og prøver at finde på nye vinkler
- 35:39til forskellige forskninger og Sådan noget.
- 35:41Jeg ved ikke om der har været super god held med det, men
- 35:43altså man kunne forestille sig at.
- 35:46Hvis man brænder endnu mere inferience af og får lavet nogle
- 35:48interessante, hvad skal man sige?
- 35:51Agent systemer der. Der kan tale sammen på en eller
- 35:552 måde og rent faktisk lave noget resing som som giver
- 35:59mening så. Så kunne man godt forestille
- 36:01sig, at der kunne komme et eller andet ud af det.
- 36:03Altså Sådan. Jeg ved heller ikke hvad jeg
- 36:04hvad Sådan et succesfuldt. Et en succesfuld case vil se ud
- 36:10i det tillid. Altså Sådan.
- 36:13Og stemmer meget sjov fordi altså de har målt dens IQ.
- 36:19Altså hvis man lige tager et IQ test der skal snart 120 der har
- 36:23Vi skal haft noget klogere end 9 ud af 10 mennesker.
- 36:28Men alligevel så fejler den jo stadig på Sådan en dumme ting.
- 36:33Og Der er stadig svært at at skrive prompt til og Sådan noget
- 36:37med programmering og så videre. De der benchmarks til
- 36:39programmeringen, der lytter den jo kunstneret. 30 40%.
- 36:45Ja. Af reelle software og opgave.
- 36:49Fuldstændig. Mindst bucking.
- 36:52Ej man må sige 30% er stadig meget.
- 36:57Vi skal spare 30 40% træffe at udvikle.
- 37:00Ja. Så så bliver det alligevel meget
- 37:03billigere at tage påvirket. Ja.
- 37:04Det er selvfølgelig helt klart, og så har de jo også.
- 37:06De har jo også den her de har den her mini ude og så har de
- 37:08preview ude og så har de o et ude ikke så den der o et som de
- 37:13holder bag. Lukket døre?
- 37:16Den er jo. Den er selvfølgelig meget bedre,
- 37:20ikke så, men spørgsmålet er ikke om det der også er bare
- 37:21kæmpestort altså det virker bare som om at det virker bare som om
- 37:25at Der er noget comput Der er noget Der er noget hastighed på
- 37:29noget hardware som som som halter halter bagud, ikke?
- 37:34Og er pissedyrt og som skal. Sige.
- 37:38Det skulle de også lige have været for. 0,5 år siden.
- 37:41Hvad siger du sorora? Ja sorø ja.
- 37:45Ja det kommer heller. Ikke?
- 37:46Nej nej. Det er alt for dyrt.
- 37:49Ja fordi du skal køre de der frames og Det er simpelthen der
- 37:53Der er noget hardware hvor at jeg forestiller mig også at de
- 37:55får sikkert flere og flere brugere til chatklip og skal
- 37:58fortsætte med at skal lære det op ikke og Der er ikke uendelig
- 38:01GPU er i verdenen altså så de de har vel også noget
- 38:04kapacitetsudfordringer? Kunne jeg forestille mig, hvor
- 38:09de bliver nødt til at sige okay, vi vil gerne køre.
- 38:13Altså vi vi kører kobber produkt som som laver penge.
- 38:17Eller vil vi køre de her? Demoer som eller få de her
- 38:22demoer. Vi har lovet at få dem ud i
- 38:25livet eller? Ja.
- 38:28Hvad skal man bruge til inferant?
- 38:30Hvad skal man bruge til at til at træne nye modeller?
- 38:34Så på en eller 2 måde, så synes jeg også Der er et eller andet
- 38:35der kalder på at at det skal blive lidt.
- 38:38Altså det kunne også være fedt hvis modellerne kunne blive mere
- 38:40effektive. Ikke altså Sådan
- 38:42bordelarkitekturerne. Jamen det findes jo.
- 38:47Altså så er Sådan noget lamba eller Sådan noget.
- 38:50Andet jamen Det er jo ikke Sådan markant.
- 38:52Altså de skal jo stadig være store.
- 38:54Ja ja helt sikkert. Altså Sådan du ved Det er jo Det
- 38:56er jo stadig jo så kan de have lidt de kan håndtere længere
- 39:00kontekst, vinduer og Sådan lidt, men men altså de er jo stadig
- 39:03fucking store, ikke der det virker som om der var et eller
- 39:04andet der kalder på at. At det kunne være brugbart hvis
- 39:09de de kunne. Hvad skal man sige være lidt
- 39:11mere samplet effektive de her appdeller men men spørgsmålet er
- 39:16jo om der overhovedet altså man om der kan være mere information
- 39:19i dem eller Der er en en silverbullet for det altså.
- 39:23Altså et spørgsmål om du er træner for viden eller
- 39:27kundskaber? I dansk kapitalitet, der griner
- 39:31jeg jo ikke for viden. Altså det kræver jo bare en
- 39:35empreital preetraer modellerne. Hvorimod jeg træner mere for
- 39:42færdigheder altså nu skal jeg kun og lave opsummering og og
- 39:46alle mulige andre opgaver. Og Det er langt billigere.
- 39:50Ja fordi så er det rent faktisk. Ja, Det er faktisk en meget god
- 39:53pointe. Altså Sådan man kan se det på
- 39:54hvordan man træner de her modeller at altså i pret
- 39:58training. Det er der hvor at du grinder
- 40:01data igennem og hvor du ligesom blot force predictelext token på
- 40:05random alt muligt tekst og der hvis du virkelig går i dybden
- 40:09med det, så får du bagt en masse viden ind i modellen men.
- 40:14Men hvis du hvis du men men du kan også godt træne på Sådan
- 40:18selve opgaveløsningen altså. Hvor at hvor at du er mere
- 40:24afhængig af den kontekst Der er inde i altså information Der er
- 40:28inde i kontekstsvinduet og så løse opgaver på baggrund af det.
- 40:34Eksempel er Microsoft filmodeller.
- 40:37De træner 100% på sydix status. Af en meget høj kvalitet.
- 40:42Så de ved ikke en skid, men de kan løse rigtig mange opgaver.
- 40:46Ja Sådan. En virkelig god modeller af
- 40:48deres størrelse. Men altså.
- 40:51De ved ikke noget om verden. Nej.
- 40:55Den er jeg også meget interessant det der med hvis man
- 40:57altså de kan godt de kan godt hvis man ligesom altså som man
- 41:01kan forestille sig at når man skal lære en model rigtig meget
- 41:04op så meget at mange af parametrene går ligesom til at
- 41:07lære. Viden ja ud fra det du fortæller
- 41:12der kunne det da godt tyde på det i hvert fald.
- 41:15Helt sikkert altså. Det er jo.
- 41:19I bund og grund Sådan en komprimeringsalkritme.
- 41:22Så hvis du skal presse alt brugen ud i en model.
- 41:28Så kan man ligeså godt få bedre performance ved at kun at træne
- 41:31på færdigheder. Spørgsmålet er også altså, kunne
- 41:34man også godt forestille sig, at openinger kunne altså fordi hvor
- 41:37meget lad os nu sige at o et er bare super god og mega god til
- 41:40at lave reasing og Sådan noget? Altså hvor meget er?
- 41:43Knowledge og hvor meget er færdighed?
- 41:45Ikke fordi hvis man ja, Det er bare en interessant, nærmest
- 41:49lidt halvfilosofisk diskussion ikke.
- 41:51Og så stiler jeg hvad er? Kunne man forestille sig, man
- 41:53kunne klare sig meget mindre i virkeligheden ikke altså Sådan
- 41:55og så bare stadig have nogle vilde recinges.
- 42:02Altså helt klart. Hvad kan man sige lovage altså
- 42:05Sådan ved man. Verden skal lige have rigtig
- 42:08godt med parametret. Hvorimod det gør færdigheder
- 42:13ikke. Altså Der er Sådan et flader ud
- 42:18rim hurtigt. Hoppingface her i dag udgivet.
- 42:24En konstantion. Og Det er faktisk ikke den der
- 42:28udgivet. Det er mig, som du udgiver til.
- 42:32Der hedder bit net. Og Det er hvordan man kontakter
- 42:36selv kontis centre modeller til at være 1,58 bit.
- 42:43Det vil sige jeg de kan have værdierne minus en nul og en.
- 42:50I stedet for. 16 bit som er kæmpetal.
- 42:54Det kan jeg ikke lige sige i hovedet.
- 42:58Og den måde Holbæk en fisk gør det på.
- 43:03Der beholder de rigtig meget deres færdigheder.
- 43:08Mm men ikke ingen ved de ved ingenting.
- 43:11Og Det er også interessant. Det er sgu da interessant
- 43:13egentlig. At man ligesom bare kan raise
- 43:16memory og så bare du ved bibeholde Sådan formen eller
- 43:21hvad skal man sige færdighederne.
- 43:22Det er sgu meget. Det har jeg aldrig tænkt på det
- 43:23på den måde før, men det grineren.
- 43:26Altså Der er også virkelig meget verden Der er undskyld viden ude
- 43:29i verden. Som man ikke kan bruge Sådan
- 43:33noget. Det er grineren.
- 43:38Det er også sjovt noget Det er Sådan det.
- 43:40Det er i virkeligheden også lidt en en interessant diskussion
- 43:43ikke? Jeg synes bare mange og mange
- 43:45der taler om AYI så taler de om Sådan, så så virker det nærmest
- 43:48som om at Det er Sådan en gud en gud gud model man man har at
- 43:52gøre med ikke? Og når man snakker om gud så så
- 43:56så antager man også ofte synes jeg at gud har adgang til al
- 44:00information alle steder på alle på alle tidspunkter.
- 44:05Sådan så hvis hvis og hvis man forestiller sig at det og det,
- 44:09det tror jeg bare ikke at en en age i altså Sådan en eller 2
- 44:12super intelligens ville have en super intelligens ville bare
- 44:15være utrolig god til at udnytte den information og det den
- 44:18ligesom har til rådighed i dens kontekst.
- 44:21Ja, men hvis den skulle hvis den ligesom.
- 44:25Skulle løse et problem, hvor at den skulle vide, hvad er
- 44:27temperaturen på den mørke side af månen er på et eller andet
- 44:30bestemt random koordinat. Og den på ingen måde, altså der
- 44:34ikke er nogen transmission på en eller 2 måde.
- 44:37Er det nogen altså, så vil den ikke bare kunne du ved.
- 44:41Der er plantet drøm. Nej vel altså på en eller 2 måde
- 44:43så. Så tænker jeg også at en en hvad
- 44:48hedder det? En superintelligens vil også
- 44:49være begrænset af den information, der ligesom havde
- 44:51tilgængelig i sin egen kontekst ikke, og Det er egentlig sjovt
- 44:55at tænke på den. Den information Der er
- 44:57tilgængelig. Versus den information man har
- 45:01lagret den viden man har lagret ikke altså fordi på en eller 2
- 45:04måde så det her med viden versus færdigheder ikke altså viden.
- 45:07Det er jo det må være noget Sådan common knowledge altså
- 45:11noget som mange ved og noget som står nogle steder og Sådan noget
- 45:14Der er blevet bygget op over generationer og Sådan nogle ting
- 45:16hvor at færdigheder Det er mere Sådan.
- 45:20Hvad har du at? Gøre.
- 45:21Ja Det er Sådan noget du du du har noget noget her.
- 45:25Gøre noget brugbart med det, ikke?
- 45:28Ja ja det Det er grineren hvad hedder det?
- 45:31Men men jeg tænker Sådan lidt at nu har vi også snart snakket en
- 45:35times tid. Jeg tænker Sådan lidt på.
- 45:39Ja jeg Jeg tror jeg tænker meget på Sådan.
- 45:41Jeg synes Vi har været inde på det her måde om Det er brugbart
- 45:44i hvad er det brugbart i forhold til?
- 45:45Altså om Det er om Der er nogle use cases ikke og det virker til
- 45:49at din primære usecase er at den kan blæse mange flere tokens ud
- 45:54end de andre modeller. Og Det er jo fedt altså men men
- 45:58Det er jo ikke Det er jo fandeme ikke et job vel altså en
- 46:00ubevagel så men. Det er god til at vi.
- 46:04Ja, men det virker bare som om at den ikke bruger det der.
- 46:08De der altså du sagde det der med at den OK så får du den
- 46:11altså kodet tænker sig om et sekund eller et eller andet, så
- 46:14den bruger ikke rigtig den der resening magi sorte magi der den
- 46:20har. Jeg ved faktisk ikke, at den
- 46:21stopper Sådan løbende og tænker. Det.
- 46:25Endelige svar. Det kunne være sygt nok, hvis
- 46:28den gjorde det. Det ville give god mening nå
- 46:32lige Sådan at stoppe engang imellem og tænker er jeg på
- 46:35rette spor? Giver det mening det her?
- 46:38Ja så. Så på den måde begrænset break
- 46:45through fakta, begrænset utality openy har også været at sige at
- 46:50Det har mere et GVT 3 moment end det her chat gb t moment og GBT
- 46:563 var jo langt fra lige så brugbar som som kapitel 3,5
- 47:00turbo varer da den kom ud. Så Det kan også Sådan være Sådan
- 47:04selve framing af af det som produkt at den bike Sådan er
- 47:07klar til det nu og det stadig er Sådan ret frisk research og at
- 47:12de så ligesom som du siger ligesom bare bruger den her nye
- 47:15feature chatkapacitet til at få brugerne til at betale for deres
- 47:19datasisset. Altså minimen er jo.
- 47:23Altså den er godt prisssat fordi den er billigere.
- 47:26Ej den er faktisk lidt dyrere end o.
- 47:31Men ikke særlig meget, men Det er da bare pisse langsomt.
- 47:35Så Det er Sådan det største problem.
- 47:37Ja. Så må den er svær at styre.
- 47:41Svære styrker. Så men og så tænker jeg Sådan
- 47:46lidt. Man kan nok forvente i
- 47:48fremtiden, at de bliver nemmere at bruge.
- 47:52De bliver mere effektive at bruge billigere og så videre.
- 47:56Men det virker til lige nu, så er det i hvert fald et værktøj,
- 47:59man tager frem. Hvis man har en ganske særlig
- 48:01use case, som man som man, som man synes man vil smide noget
- 48:04ekstra resing kærlighed efter og ellers så er vi stadig samme er
- 48:10stadig ret godt kørende med de gode gamle.
- 48:13Modeller også fordi jeg jeg Jeg synes altså Der er GPT 4 kom der
- 48:17havde man det der Sådan at den ville man helst bruge, men Det
- 48:20var bare dyrt. Det var de helt sikkert.
- 48:26Hvor har man det? Jeg.
- 48:26Tror stadig jeg skifter lidt mellem.
- 48:31I nej Jeg er ung mini og o. Ej hold kæft Jeg kan slet ikke
- 48:37finde ud af de. Navne der nej.
- 48:38Det er også virkelig. Jeg skal lige sidde med dem o et
- 48:42men. Og GPT 4 o.
- 48:47Fordi altså Det er bare hurtigere end den. 2 nogle
- 48:51gange. Selvom den er dårlig, er det ja.
- 48:54Ja ja yes men jeg ved ikke Det kan være Vi skal til at runde
- 48:57det af nu. Her er der et eller andet her
- 48:59til slut at du godt kunne tænke dig at sige om overening er
- 49:04jeres nye fantastiske model, som vi ikke allerede har snakket om.
- 49:09Nej, Det er en fin model. Den gode benchmarks bliver for
- 49:13dyrt. Langsomt.
- 49:16Langsomt ja altså, men det skal der sikkert være hvis den skal
- 49:19tænke. Ja.
- 49:21Så det. Det er fair nok.
- 49:24Ja. Og så har jeg kæmpet modstander
- 49:28af, at man betaler på Torben, hvis man kan se.
- 49:32Det virker virkelig scening. Ja ja Vi har en masse tokens
- 49:36heromme som som vi kalder for. Ja ja, men vi vil ikke vise dem
- 49:39til dig fordi det det synes vi ikke lige at du skal have
- 49:43indsigt i. Det er rigtig nok.
- 49:46Yeah right. Jeg brugte en million tokens.
- 49:50Bare fordi du kunne sende mig en stort bæll.
- 49:52Altså fucking mand ja helt sikkert megafedt jamen så tror
- 49:57jeg bare at vi vil til at afslutte her nu. 1000 tak fordi
- 50:01i lyttede med og vi håber at i. Ja fik et eller andet ud af at
- 50:07vi snakkede lidt om den her model, og jeg håber selvfølgelig
- 50:09også at de i ikke skal sidde for længe og vente på den her de her
- 50:13resing tokens der bliver banket ud af o et prev o et mini
- 50:18derude, men hav det rigtig godt til vi lyttes igen i næste uge.
- 50:22Og tak fordi du ville være med mads.
- 50:24Det var så godt hej tak for hjælpen også.
- 50:26Selv tak.