Latest / Verbos: AI og Softwareudvikling / #94 - Symbolsk AI, Lovgivning som Graf, Reasoning og Vibe Coding med Thomas Hildebrandt
Transcript
- 0:00Hej allesammen og velkommen til bar bo's podcast afsnit nummer
- 0:0394. Der er ikke langt til 100 og der
- 0:06har vi jo selvfølgelig lovet, at Vi skal holde en fuldstændig
- 0:08vanvittig jubilæumsfest, men Det er Der er lige pausen til endnu,
- 0:12så så det venter vi med, men heldigvis kan vi også snakke om
- 0:15noget utrolig spændende i dag, fordi Vi har nemlig fået en
- 0:19gæst, som Jeg tror faktisk mig og Jonas har snakket om at få
- 0:23vedkommende i studiet ret længe, men Det er ligesom ikke rigtigt.
- 0:25Ja, Det er ligesom ikke rigtig blevet til noget.
- 0:27Men nu er det altså blevet til noget, og Det er Thomas
- 0:30hillebrandt, som er professor på diiko.
- 0:32Vi har med i studiet her velkommen til Thomas.
- 0:35Tak for det Kasper og Jonas. Tak fordi være med her.
- 0:39Ja selvfølgelig og det Vi skal snakke om i dag.
- 0:41Det er Sådan. Jeg tror måske i virkeligheden.
- 0:44Det er Sådan lidt et bredt take på alt det Der er sket indenfor
- 0:47AI de seneste par år. Især hvad de her generative
- 0:50sprogmodeller. Vi skal også ind på Sådan i
- 0:53forhold til om de her sprogmodeller altså der Der er
- 0:57kommet den her den her nye Sådan modelparadigme som bliver kaldt
- 1:00Sådan reasing paradiget og. Det skal vi snakke om, fordi Der
- 1:04er. Der er rigtig meget snak om om
- 1:05Det er altså om Det er lidt vildledende at kalde det for
- 1:08reasoning og så videre, så så det skal vi prøve at dykke lidt
- 1:11ned i. Og så tror jeg også for mit
- 1:14vedkommende, som jeg også snakker om her, før vi gik live,
- 1:16at jeg i hvert fald er typisk Sådan utrolig positiv og meget
- 1:21begejstret for for teknologi og for for AI og Lars langu smuttet
- 1:25og så videre. Og Jeg har fulgt dig en del på
- 1:28sociale medier Thomas og har lagt mærke til, at du ofte har
- 1:30en mere Sådan kritisk vinkel til til til alt det her.
- 1:34Og det Det har det. Det tror jeg virkelig også på er
- 1:36sundt og for den måde, så det vil vi også rigtig gerne
- 1:39præsentere Vores Vores publikum. For simpelthen, så jeg ved ikke,
- 1:43har Vi har været kritiske overfor jer og jonasing.
- 1:46Det er ikke fordi vi Sådan aldrig nogensinde har.
- 1:49Jo jo Jeg synes jeg havde da i hvert fald grint grint af mange.
- 1:52Hvad kan man sige dumheder i brug af a så så Det kan man jo
- 1:56godt kalde det for en form for kritik.
- 1:57Men altså du har jo ret i at vi vi sidder jo, hvad kan man sige
- 2:02maskinrummet applicerer det daguddannede, så kan det godt
- 2:05være man bliver lidt blind overfor hvad det så hvad der kan
- 2:07gå galt. Vi er lidt teknologibegrejst,
- 2:10når man må nok sige så ja ja. Men altså det tænker jeg også du
- 2:12er Thomas siddende. Altså du er jo.
- 2:15Ja hvad så III altså i datalogi så så på en eller 2 måde vil der
- 2:19også være noget noget der ikke så men jeg tænker ikke bare på
- 2:22Thomas kan du ikke prøve at give en introdukt og fortælle lidt om
- 2:24selv? Jo, Jeg har jo som sagt
- 2:28professor i aalogi. Der har jeg været siden 2018 på
- 2:31Diego, og før det der var jeg 18 år på IT Universitetet.
- 2:37Helt tilbage fra dengang IT højskolen.
- 2:41Og og Det er lidt mærkeligt for mig jo at blive puttet den der
- 2:43kasse med med kritikeren. Ikke fordi Jeg er jo total
- 2:46teknologi begejstret og har programmeret lige så længe Jeg
- 2:49kan huske nærmest ikke dengang var det godt nok nogle simple
- 2:52maskiner. Som man kendte 100% på radtende
- 2:58niveau, ikke? Og så har jeg jo.
- 3:03Levede med computere lige siden ikke og det, og Det er jo
- 3:05selvfølgelig en drøm at blive professor.
- 3:08Så så derfor er det lidt mærkeligt at være den Der er den
- 3:11teknologiske skeptiskeptiske, men i virkeligheden er jeg jo
- 3:15super begejstret for teknologien og underviser også folk og
- 3:19underviser folk. Som bliver uddannet til de nye
- 3:22promørre, og som gerne skulle gå ud og bruge de her spørgsmåller
- 3:25på en fornuftig måde, ikke? Men det Jeg har påtaget mig
- 3:30rollen i de sidste. 15 år. Måske Det er at være lidt
- 3:35kritisk overfor nogle nogle anmeldelser af af teknologi og
- 3:41især af i og. Fordi at der har været den her.
- 3:48Plus for at bruge AI indenfor områder, hvor det måske ikke var
- 3:53så velegnet. Og så har der været den her rod
- 3:56må man have blandet alle mulige typer af i sammen i en kasse.
- 4:01Som er ret forvirrende, fordi hvis man så har en god
- 4:03anmeldelse i et hjørne. Så er det jo ikke det samme som
- 4:07om man at at det virker i alle mulige andre hjørner, så skal
- 4:10man måske helt hive en 2 teknologi frem i skuffen.
- 4:12Så så Det er i virkeligheden det Jeg er kritisk overfor vil jeg
- 4:15sige eller prøve at kritisk overfor.
- 4:17Det er om ikke Vi skal begynde at bruge lidt tid på at matche
- 4:21den rigtige type AI til til det rigtige problem.
- 4:24Ja og det. Er jo egentlig meget fornuftigt.
- 4:27Jeg synes også Jeg kan høre, Jeg har sagt det et par gange til
- 4:30nogle chefer. Jeg har arbejdet med.
- 4:32Måske vi ikke skal bruge den der store hammer til alting.
- 4:36Så måske er der i virkeligheden ikke måske lidt mere bare sund
- 4:40fornuft, men når du siger Sådan Thomas, at du er blevet puttet i
- 4:44en boks, så kan jeg egentlig godt Sådan og se det lidt for
- 4:47mig. Men men når man er i det
- 4:49akademiske, så har man vel også en eller 2 form for pligt i
- 4:52ligesom at. At lige komme med det kritiske
- 4:55perspektiv. Det er vel også en del af det at
- 4:57at være i den akademiske verden? Ja, men det føler jeg jo.
- 5:02Det vil så ikke alle mine kollegaer, Der er lige aktive ud
- 5:05på det, men men men Det er også i øvrigt lidt pudsigt at blive
- 5:10proppet i den akademiske boks. Ikke fordi jeg solgte min første
- 5:14softwareprogram allerede i gymnasiet ikke og har arbejdet
- 5:16sammen med virksomheder også i 20 år.
- 5:20Og har været med til at udvikle et nyt romansprog, som bliver
- 5:22brugt. Ude i praksis ikke så på den
- 5:26måde. Har vi jo flere sider ofte at
- 5:30man bare er den der akademiker, der sidder og skriver artikler.
- 5:34Hvad var det for et program du solgte i gymnasiet?
- 5:36Beklager der pludselig et langt skæg.
- 5:38Morsomt fordi det hed SAP og og det jeg havde selvfølgelig ikke
- 5:42noget med SAP at gøre, men Det var en forkortelse for
- 5:46spørgeskemaanalyseprogram. Og jeg solgte det til det
- 5:50offentlige gudhjælpende. Det var Helsingør Kommunes
- 5:54ungdomsråd. Og Det var skrevet i ja mega
- 5:57basic. Og.
- 6:01Den 2 gang på sprog. Nej men basic er jo altså var jo
- 6:05dengang. Intropet for for alle folk.
- 6:10Ikke fordi Det var næsten blev født med og når man tændte for
- 6:131,64 så var det basic eller hvis man tændte for en amik.
- 6:20Eller en statistik af 80 eller at den nu er sammen hed dengang.
- 6:23Så åbner der jo en blå skærm og så blinker der en cursor, og så
- 6:26kunne man bare begynde at kode ikke?
- 6:29Så. Det var så lidt mere avanceret
- 6:32på megaen men og og der fandt jeg også hurtigere ud af Det var
- 6:35sjovere at bruge mere maskinkode, men det jeg lavede
- 6:38til ungdomsrådet, Det var et program hvor du kunne taste
- 6:41spørgeskema ind eller du kunne du kunne definere det, og så
- 6:44kunne de sende det ud på papir fordi Det var før internettet
- 6:47virkelig blev anmandseje. Ja, der var tilbage i 90 eller
- 6:52Sådan noget. Og og så når de fik svarene ind,
- 6:56så kunne de taste dem ind, og så kunne de lave statistikanalyse
- 6:58af de her svar. Så Det var meget basic, men vi
- 7:03vidste det konkret problem, men så har vi jo så sidenhen her de
- 7:08sidste 15 år arbejdet udviklet det her proces promagisk sprog
- 7:14no code. Som bliver brugt i talrige
- 7:18styrelser i Danmark og også udenfor landet til at de så ser
- 7:22arbejdsgange og forretningsprocesser.
- 7:25Og Det har udviklet sig til, at det jo Sådan set er et fuldt
- 7:27komplet proanisk sprog, men Det er nok mest velegnet stadigvæk
- 7:31til procesorganisering og serviceorkestristrering.
- 7:36Og og Det er måske også derfor Jeg er lidt frustreret over det
- 7:40her agenic AI. Som vi kan komme tilbage til
- 7:46fordi. Vi ved jo Sådan set godt,
- 7:49hvordan man laver. Præcise procesbeskrivelser som
- 7:53kan løse og og og sætte servicet sammen og præcis måde.
- 7:58Men Det er jo selvfølgelig super nemt at at bede en sprogmodel om
- 8:00at lave 1 1 1 proces for en. Men så har man bare det køb på
- 8:06forudsigeligheden, og så skal man sidde der og holde øje med
- 8:08skærmen gør den nu også det som gør ja.
- 8:13Det synes Jeg er spændende fordi at det synes jeg faktisk er lidt
- 8:15spændende. Det der fordi at der adresserer
- 8:17du noget som som Jeg tror også Vi har snakket om en del Jonas
- 8:20det her med at. Agenter giver ikke mening for
- 8:23alt alle typer opgaver, og Jeg tror også det jeg hører meget
- 8:28Sådan, altså Der er mange Der er begyndt at altså Der er jo helt
- 8:31klart gået noget markedsføring i det af noget hype i af bruge
- 8:34ordet agenter om ER ikke alt er agent også selvom det måske bare
- 8:37er en promt i virkeligheden. Men men Sådan det jeg hører folk
- 8:41tale om. Jeg tror Det var en dropic der
- 8:43lavede 1 1 1 artikel som ligesom definerede 2 typer agenter den
- 8:47ene Det er de her agenter man kender fra.
- 8:49Altså Sådan de her meget open ended agenter.
- 8:52Agenter som har adgang til nogle nogle API er de kan kalde og så
- 8:56ellers bare klar til at modtage input og kan iterere over de her
- 9:01toolcols. Men så er der også det, som man
- 9:05kalder for Sådan agent workflows.
- 9:09Som basically bare er altså logik hvor Der er en en large
- 9:14lang with model injektet ind nogle steder til at løse en
- 9:17bestemt opgave. Og det det.
- 9:21Det tror jeg altså Sådan. Det kan den type.
- 9:26Hvad skal man sige agenter hvis man kan kalde det?
- 9:28Det kan løse utroligt altså Der er mange Sådan problemer der kan
- 9:31løses med med det ikke. Og jeg tænker også man, det vil
- 9:34jeg i hvert fald altid foretrække at have så meget
- 9:36kontrol som muligt over, altså Sådan det for eksempel.
- 9:40Altså det bliver simpelthen mindre fejlbehæftet ikke?
- 9:44Det kan godt være at man kan bruge ens sprogmodel til at
- 9:48generere agent script. Men så kan man validere det og
- 9:53sikre sig. Det er i orden, og så kan man så
- 9:54sætte det i gang med at lave 10.000 sager for en.
- 9:56Hvis Det er det, man vil ikke. Men Det er klart, hvis man vil
- 9:59lave one off indkøb i Netto eller nemlig dot com.
- 10:04Så er det måske OK at at man sidder og holder øje med skærmen
- 10:07med med det ene øje ikke men men.
- 10:10Men Det er jo så blandt andet. Nu har vi lige været så heldige
- 10:13at på en gang at få 4 nye forskningsprojekter.
- 10:18Og det ene projekt det handler om, hvordan vi kan generere den
- 10:21slags. Proces logikbeskrivelser i
- 10:25virkeligheden, og så kan den jo så kalde sprogmodeller.
- 10:28Som services undervejs. Hvis Der er brug for at
- 10:33transformere noget noget naturligt sportsbeskrivelse til
- 10:36til noget mere struktureret, ikke?
- 10:41Men men igen, Der er fordelen, at hvis man først har genereret
- 10:44et program, som er skrevet i præcist procesbe.
- 10:49Jamen så kan man jo validere Det er rigtigt og så kan man stole
- 10:51på det, og så behøver man ikke at sidde og holde øje med
- 10:53maskinen imens den udføre det 10 gange ikke.
- 10:56Og Det er jo vigtigt for eksempel i det offentlige.
- 10:59Hvor man ikke, hvor man ikke bare fylder en indkøbskurv til
- 11:02en selv, men hvor man måske behandler.
- 11:05Ja støtteordninger til 10.000 borgere, ikke?
- 11:10Der kan man kigge lidt ja. Men jeg hører også lidt.
- 11:14Nu har jeg siddet lidt i det offentlige selv og så ja, Jeg
- 11:16kan genkende det der vi snakkede om med de unge at at man griner
- 11:20lidt af det der med at kaste agenter efter alting.
- 11:22Især når. Når agent nogle gange får det
- 11:26her værktøj til at lige at trykke på en knap på en
- 11:29interface eller Sådan et eller andet, så minder det dybest set
- 11:32mere mig om RPA eller nogen trykker record II hvad hedder
- 11:37det chrome og så bare klikker rundt ikke?
- 11:41Og gør det en gang, og så er det.
- 11:43Og så er det med sikkerhed, indtil Der er nogen der ændrer
- 11:45det der skide interface. Og og og og det.
- 11:51Det var også det altså. Det var også helt klart min
- 11:53første Sådan. Det er jo Det er jo et eller
- 11:56andet sted lidt en dum måde. Altså et skridt tilbage at vi
- 11:59begynder at tro den kan det fordi hvis vi kigger på det her
- 12:03fabrikspræcession, som vi gerne vil have Thomas, jamen så er det
- 12:06jo bare overhovedet ikke præcist, så Der er ikke noget
- 12:09der hedder 100% i de der modeller der og derfor så så kan
- 12:12man aldrig nogensinde opnå det med Sådan en model, så kan man
- 12:16være imponeret af at man. Meget dynamisk kan.
- 12:19Hvad kan man sige ændre? Fra den ene kontekst til den 2.
- 12:24Og når noget er Sådan skiftende kontekst for hver gang man
- 12:27sidder i det, så kan det være det giver mening.
- 12:29Men Det er helt klart at når Det er noget af det der hvor at
- 12:31jamen altså jeg skal bare skære det her mange gange så så så er
- 12:35der ikke noget super meget at hente IIAI og agenter.
- 12:40Det synes Jeg er heller ikke overhovedet.
- 12:42I den 2 type a ikke og Det er jo der hvor Jeg er gammel nok til
- 12:45at kalde. De logikbaserede ting jo Det er
- 12:48jo også en type AI. Det er bare et symbolsk arie.
- 12:52Så kan man så sige. Nu har jeg lige givet et kursus
- 12:54her den 2. Dag i relation til AI
- 12:57forordningen og de har faktisk på en eller 2 måde skrevet sig
- 13:00ud af det. Så hvis man har en symbolsk AI.
- 13:03Hvor Det er mennesker, der ligesom har skrevet eller
- 13:06reglerne, så er det ikke længere.
- 13:09Jeg er i forhold til AI forordningen.
- 13:12Prøv at forklare det forskellen på symbolsk AI og som jeg tænker
- 13:16du til tænker som noget mere traditionelt ej.
- 13:19Men i virkeligheden. Det startede jo begge.
- 13:22Begge typer startede tilbage II. Halvtredserne ikke?
- 13:26Hvor man fandt på ordet AI. Og Det er supsyngisk, og Det var
- 13:31ideen med det neurale netværk, som så er blevet større og
- 13:35større, men i virkeligheden ikke så meget anderledes.
- 13:38Der er kommet noget attention og noget forskellige varianter, men
- 13:41man er gået tilbage til nogle rimelig basale, men meget, meget
- 13:43store neurale netværk. Og så var der den symbolske,
- 13:47hvor man siger, og det kommer tilbage til diskussionen med
- 13:49visningen lige om lidt. At der byggede man ikke neural
- 13:55netværk, hvor man ligesom trænede de her vægte.
- 13:59Men men beskrev logiske inferens regler, så de første
- 14:05skakcomputere, de fungerede på den måde, at man havde reglerne
- 14:07for skak og. Og så lærte man dem forskellige
- 14:11åbninger og og man lærte dem. Hvordan den kunne optimere sin
- 14:16lokale værdi ved at tage at trække, og på den måde var det
- 14:19meget reelt. Var der rent baseret, og så var
- 14:21der en inferens motor, som igen er en algoritme.
- 14:25Som som kunne helt basale logiske regler med hvis a gælder
- 14:30og b gæld og du ved den har en regel der siger a og b medfører
- 14:34c jamen så kan du konkludere c og på den måde kan du bygge
- 14:37flere konklusioner om og den type AI Det er det der hedder
- 14:41symbolsk AI og det findes stadigvæk, men bruges jo
- 14:44indenfor specialiserede områder. Som for eksempel ja medicin
- 14:51dosering og og hvis Der er forskellige typer medicin, der
- 14:54ikke. Men ikke må tage samtidig og
- 14:56Sådan nogle ting Der er. Der er ingen grund til at smide
- 14:58ind i et neuralt netværk. Jeg kan måske ret præcise regler
- 15:01op om hvad man ikke må, ikke. Og det jeg plejer at sige, når
- 15:05jeg holder Sådan nogle kurser i, så jamen den symbolsk er i.
- 15:09Den er meget, meget forudsigelig.
- 15:11Vi kan verificere reglerne. Vi ved den altid svarer rigtigt,
- 15:15men den kan til gengæld kun svare på det, som ligger inde på
- 15:17reglerne. Hvorimod og, og så kan den kun
- 15:20svare på noget, og hvor du kan definere reglerne.
- 15:23Hvorimod den den subsymbolske eller de neurale de kan svare på
- 15:27alt, men vi ved også at de engang imellem så er forkert,
- 15:31fordi de er en endelig. Regelsamling som er tilladt.
- 15:36Men man giver dem kan man sige mange flere typer input, end de
- 15:39egentlig kan magte med deres regler, så derfor så vil der
- 15:43være nogle input. Som virketræner rigtigt selv men
- 15:48men grunden til at de værdifulde Det er at vi kan bruge dem til
- 15:50at svare på problemer, hvor vi ikke sætter reglerne op, og det
- 15:53ville være fuldstændig åndssvagt at prøve at sætte regler op for
- 15:56eksempel ja det der med at logge ind med sit ansigt ikke
- 15:59ansigtsliv. Det vil være lidt fjollet at
- 16:02prøve at beskrive reglerne for præcis hvordan Vores ansigt ser
- 16:04ud. Når nu vi ved vi kan træne et et
- 16:06neural netværk til at. Eller en variant af neurale
- 16:09netværk, ikke? Det er jo også nu.
- 16:13Nu er vi jo. Det bliver et filosofisk og
- 16:15teoretisk lige pludselig her, men men men definitionen en.
- 16:17Re kommer. Men definitionen af en regel
- 16:22bliver jo også lige pludselig meget relevant her, fordi en er
- 16:25en modellering af noget data. At hvad kan man sige kan man?
- 16:31Man kan ekstrahere en eller 2 form for regel, måske ud fra det
- 16:34eller hvad. Man kan i hvert fald bygge en
- 16:35model op som som på ydersiden ligner en regel.
- 16:38Men den er en forsimpling af den virkelige verden.
- 16:40Uanset hvad, så det handler jo også om at finde den case, hvor
- 16:45at der behøves ikke at lave en form for abstrainering hen over
- 16:49det, fordi at at verden er faktisk i den regel jeg så at
- 16:54sige, og så kan man jo Sådan set bare applicere whatever logik
- 16:58eller som du siger symbolsk AI som som trods alt har.
- 17:03Kombinationsmæssigt et et større udfaldsrum.
- 17:06End vi måske lige gider at programmere os til, så Vi er
- 17:09hjulpet på vej. Kan man sige at at den løsning
- 17:14til ligesom at stadigvæk at komme ud og ramme flere cases?
- 17:17Hvor at at at Vi har måske i virkeligheden ikke mulighed for
- 17:20at definere regelmæssigt den naturlige sprog.
- 17:23Det har jeg i hvert fald ikke hørt nogen ligester komme og
- 17:26sige endnu, at de har løst gåden.
- 17:29Og så er det jo klart at kan man sige, så så har vi noget at
- 17:32hente der. At vi så bruger det til at
- 17:35oversætte til noget menneskeligt noget.
- 17:38Nu skal vi ind på det her reasing lige om lidt og og hvad
- 17:40der så ligger i det. Det synes jeg jo at at hvad kan
- 17:42man sige? Det er jo også det, Der er Sådan
- 17:44lidt spændende. Når Vi er i mål med det her
- 17:47altså fordi ja Det er brugbart, men er det Sådan har Vi har jo
- 17:50ikke noget god teori på det vel? Vi har jo gået i gang med Vores
- 17:53engineering, og så kaster vi det efter alle mulige ting, og så
- 17:57kommer vi først bagefter og stiller os selv det spørgsmål,
- 17:59hvordan er det rent faktisk? Det fungerer nede i motoren.
- 18:04Jamen altså jeg. Jeg plejer jo at sige at at vi
- 18:06ved jo egentlig godt hvordan en en lars nicrys måtte fungere,
- 18:10ikke? Men fordi den er så stor, så har
- 18:14vi svært ved at verificere og præcis hvad den vil give på et
- 18:18givet input. Og og Det er jo et af det, Der
- 18:21er udfordringerne med, at hvis man gerne vil kaste godt trails
- 18:25ind over og så prøve at tøjle Sådan en en sprogmodel, så
- 18:29kommer man til kort fordi at at de er så store at at Det er
- 18:35simpelthen svært at beskrive alle de regler, der ligesom kan
- 18:37fange dem for at gøre noget forkert.
- 18:40Så så så Det er ikke en måde man kan sikre at den ikke laver
- 18:44fejl. Det er en måde man kan fjerne de
- 18:46oplagte fejl. Og og Det er jo ofte godt nok
- 18:51men men Det er jo så ikke godt nok, hvis man skal bruge det for
- 18:53eksempel i den offentlige sektor, som Jeg har beskæftiget
- 18:56mig en del med de sidste 15 år. Hvis man skal sikre, hvis man
- 19:00skal kunne tage ansvaret for at borgere får den samme fair
- 19:03behandling. Af maskinen vi ved godt og og
- 19:10Det er den der stormand der altid kommer op at at at
- 19:13jamennesker giver heller ikke den samme fair behandling men
- 19:16men men Det er ikke det vi taler om.
- 19:18Vi taler om at lade en maskine ud for noget arbejde.
- 19:22Og der ved vi, at hvis vi. Har et et regelt 3 jamen så får
- 19:28alle den samme behandling. Det kan sagtens være, at Der er
- 19:33bias i det regel 3, fordi Det er nogle mennesker der har lavet
- 19:35det her regel 3, men så kan vi pege på det, og så kan vi
- 19:39placere ansvaret for hvem Det var Der er lavet af regelsrådet.
- 19:43Og så ved jeg godt, så kan man jo bruge maskinlæring til at
- 19:45lære regelsåd. Man kan jo godt bruge
- 19:49maskinlæring til at lave en symbolsk model.
- 19:52Hvor hvor reglerne er, og så er man stadigvæk indenfor AIAE
- 19:55forordningen, fordi så er det ikke mennesker der sidder og
- 19:57tegner skrevet de her regler. Og Det var blandt andet det, der
- 20:00skete med den her langtidsledigheds algoritme, som
- 20:05ja, Det er jo ikke en algoritme, men det det.
- 20:08Det er en kamp, Vi har tabt, er e modeller bliver kaldt
- 20:12algoritme, men. Det vil folk meget gerne kalde
- 20:14dem. Jeg plejer at se en algoritme.
- 20:17Det var noget, man i traditionelt set kunne bevise
- 20:19var rigtig eller forkert, og en AE model, Det er noget man kan
- 20:23bevise altid på et tidspunkt vil være forkert, men men fred være
- 20:29med det, så det her er e-model, som som stara lavede styrelsen
- 20:32for arbejdsmarkedet for forudse. Ja langtidsledighed Det var.
- 20:37Det var i virkeligheden bare et spørgsmål 3 og så trænet ud fra.
- 20:42Data fra. Register fra fra hentet ind fra
- 20:47arbejdsløs eller jobcentrene, ikke?
- 20:51Men, men de har faktisk valgt et spørgetræ fordi.
- 20:56At Det var for at forklare ret og, og Det var jo en god
- 20:58egenskab med de viste spejletræet frem til nogle.
- 21:02Så Det var lidt det der med forklarbart, men hemmeligt
- 21:04klarbart. Men nu viser jeg ikke
- 21:07forklaringen, men beviser for de samarbejder med os, da vi kom og
- 21:11og bad om indsigt i det, og Det var efter der var nogen der
- 21:15havde meldt dem til menneskerettigheds.
- 21:18Kan man sige menneskerettighedsbrud, fordi at
- 21:22de føler sig diskrimineret og og Det var Det var sandt nok i en
- 21:25eller 2 forstand at Det var kodet ind i det her spørgsmål.
- 21:28Hvis Det var over 50, så var du altid i risikogruppen.
- 21:32Og Det var trænet, men Det var Det var den så trænet til.
- 21:35Trænet til ja OK men men man kan se det ud af træet ret tydeligt
- 21:38hvis man ikke kan snyde på det, ikke?
- 21:40Så Det er repræsenteret den fordeling også der var i
- 21:43virkeligheden eller? Kom jo fra virkeligheden.
- 21:46Man kan så sige Det er retfærdiggør jo ikke
- 21:49nødvendigvis at man trækker den her ned over hovedet på den
- 21:52enkelte, og Det var der, hvor det kom frem som en retssag.
- 21:55Det var jo en der lige var blevet færdiguddannet jurist,
- 21:58men havde forældre med 2 etnisk baggrund, og så røg man også i
- 22:02den kategori. Nej.
- 22:06Især når man ikke får at vide hvorfor hænder.
- 22:10Hvis der nu i sagsbehandlerne siger nåh men dine forældre kom
- 22:13fra, så kan man jo ligesom udfordre det ikke.
- 22:16Men hvis man var for at vide at du er i risikogruppe.
- 22:19Så så er den ikke så god. Så.
- 22:24Det endte jo med den, så blev droppet i virkeligheden ikke på
- 22:27grund af diskriminering, fordi de havde valgt deres ordvalg
- 22:31omhyggeligt. Så de havde brugt de rigtige
- 22:34ord. Men, men den blev droppet fordi
- 22:38at at de holdt op med at bruge den ude II jobcentrene og når
- 22:43man ikke bruger det så kommer kan det være en og siger jamen
- 22:45så må du ikke samle de her data ind.
- 22:48Fordi så samler du data ind, som du ikke bruger til noget og og
- 22:51så bliver den droppet. Men så så Det var jo først
- 22:56brugte modellerne. Det var hele tiden i 17 18
- 22:58stykker her ikke og og der der kæmpede jeg lidt med det, fordi
- 23:02jeg havde faktisk fået penge til en forskningsprojekt, hvor vi
- 23:04havde 2 mål. Det ene var skulle vi bruge data
- 23:07til at hjælpe beslutningstøtte? Og der kiggede vi lige præcis på
- 23:11det der med med at spå om. Blandt andet langtidsledighed,
- 23:14men også andre ting. Og der fandt vi ud af
- 23:17datakvaliteten, var simpelthen ikke god nok, fordi det data,
- 23:21der blev tastet ind i jobcentrenes
- 23:23sagsbehandlingssystemer. Det er jo tastet ind til
- 23:25journaliseringsformål, men ikke til træningsformål så.
- 23:33Og der var rigtig mange altså der var rigtig mange sager, hvor
- 23:35man faktisk ikke anede hvornår den arbejdsløse kom i arbejde
- 23:38eller den arbejdsløshed kom i arbejde, fordi vedkommende holdt
- 23:40bare op med at komme. Og så er det også svært at træne
- 23:44en forudsigelse, og det kunne mærke ikke men og Det var bare
- 23:48en der var mange andre udfordringer.
- 23:51Men så udviklede vi så også den her symbolske.
- 23:56Model. Hvor man kunne kode lovgivningen
- 23:59ind. Fuldstændig forudsigeligt og
- 24:01præcist. Og Det var faktisk det, det
- 24:04virkede og det. Og Det er jo så lidt
- 24:07programmeringssprog her Vi har lavet der hedder des rrafer, som
- 24:11i virkeligheden er rent grafer, så Det er en generalisering af
- 24:14af regeltræer. Til en graf, hvor man så kan
- 24:17hoppe frem og tilbage og svare på spørgsmål flere gange.
- 24:20Hvordan kan man repræsentere lovgivning som en graf?
- 24:23Jamen det gør man ved, at alle de handlinger eller hændelser,
- 24:26som er relevant i forhold til lovgivningen, de bliver knudret.
- 24:32Og så er kanterne imellem knuderne.
- 24:33Det er altså afhængigheder. Så der Vi har en en håndfuld
- 24:38forskellige typer afhængigheder og og man kan sige et reelt 3
- 24:41Det er en meget meget simpel slags ikke endelser, men eller
- 24:46spørgsmål man svarer på. Og så er der kun en der siger
- 24:48enten går du fremad eller eller ja du går til den 2 side ikke?
- 24:53Hvor en reel graf der havde vi lidt flere der af en hændelse
- 24:57kunne udløse af den 2 hændelse blev obligatorisk eller
- 25:01aktivitet, eller den kunne udløses af den ikke længere var
- 25:04relevant, som den blev fjernet. Eller det modsatte at man kunne
- 25:09beskrive at at noget var relevant igen og på den måde
- 25:11kunne man have en dynamisk graf der kan ændre sig.
- 25:15Jeg skulle til at sige den skal jo kunne vende tilbage, kan man
- 25:18sige derfor. Er det en graf og?
- 25:19Et ja præcis. Fordi Det kan blive relevant at
- 25:22svare på og skulle svare på nogle ting igen.
- 25:26Men så har vi så udvidet den også til at indeholde
- 25:28tidsforsinkelser. Det vil sige, at man kan
- 25:30beskrive den processer også med det samme.
- 25:32Så man kan sige, hvis det her sker, så skal det her ske inden
- 25:36for en uge, og på den måde kan vi faktisk.
- 25:39Med hjælp af regler beskriver processer.
- 25:42I den samme formalisme. OK hvordan hvordan Sådan er user
- 25:46interface så til den altså hvordan bruger man bruger man?
- 25:51Det kommer an på om du er den der designer grafen eller om du
- 25:54er sagsbehandleren fordi hvis du er sagsbehandleren så har du
- 25:57bare et sagsbehandlingssystem hvor du har nogle opgaver.
- 26:00Som enten er mulige eller krævede eller kan også godt være
- 26:06de er krævet, men ikke ikke de mulige endnu, der ligger ude i
- 26:10fremtiden. Og så kan du for eksempel bruge
- 26:12det til at holde styr på. Hvad skal du gøre lige nu, og
- 26:15hvad har du af udestående opgaver?
- 26:17Og Det er det, Der er bygget ind II blandt andet KMD workshone,
- 26:21fordi de var nogle af Vores første kunder dengang, og nu
- 26:24bliver der brugt vi måske 30 forskellige styrelser i Danmark
- 26:28og i det ene. Det har jeg siddet i workshow?
- 26:31Men altså man kan se meget om workshone og det vil jeg ikke
- 26:33komme ind i. Jeg har ikke sigende
- 26:34brugergrænsefladen men men men Jeg er meget stolt af at de tog
- 26:38det der selskab fordi dengang Det var før det blev worldzone
- 26:40der hedder the scan your. Der havde de bygget Windows
- 26:44Microsoft det der workflow foundationent.
- 26:47Og det kunne simpelthen ikke få det til at virke.
- 26:49Det var alt for gid, og Det var Sådan en procesautomater.
- 26:53Og det fungerede ikke sammen med sagsbehandlingen, men
- 26:55sagsbehandlingen har jo altså en mulighed for at have nogle flere
- 26:57undtagelser at kunne hoppe frem og tilbage.
- 26:59Og så sagde jeg jamen i at bruge Vores motor, Der er et APII kan
- 27:03bare bygge det ind som en service.
- 27:05Den er hændelsesbaseret, og man kan bare fyre hændelser ind i
- 27:08den her. Og så får du at vide, hvad Der
- 27:10er de næste skridt. Og og det virkede, og det
- 27:14virkede så godt, at de droppede det her.
- 27:16Wøfler foundation efter et stykke tid, ikke?
- 27:19Sådan. Jeg tænker kan man altså bare nu
- 27:21Det er fordi jeg tænker Sådan bogførings hvad hedder det
- 27:24lovgivning og Sådan noget? Altså skal det altså kan man
- 27:27repræsentere alt lovgivning på den her måde eller er det eller
- 27:30er det Sådan at der? Er lige en som statskundskaber
- 27:33et kort øjeblik, der har arbejdet i det offentlige.
- 27:36Især sagsbehandling er jo et spørgsmål om journalisering, og
- 27:40man hele tiden sender ting frem og tilbage til.
- 27:42Til forskellige enheder og og i forvaltningen og og det det den
- 27:48graf man laver. Der kan være ret komplekst og at
- 27:52kravene kan være til hvordan den.
- 27:54Hvad kan man sige hvordan det skal cirkulere rundt omkring er
- 27:58meget forskelligt fra styrelse til styrt styrelse til styrelse,
- 28:01fordi man har forskellige organiseringer omkring det, så
- 28:04Det er jo rigtig god mening at have den slags struktur og regel
- 28:09opsætninger til til lige præcis det fordi.
- 28:11Jamen så kan man konfigurere det til konteksten, ikke?
- 28:14Og og Det er netop derfor Det er blevet populært i alle mulige
- 28:16styrelser og. Det giver mening.
- 28:19Fordi at de kan selv Der er et web værktøj hvor de kan sidde og
- 28:22vedligeholde de her grafer, og nu har vi så fået penge til at
- 28:25vise at man kan bruge sprogmodeller til at generere de
- 28:27her grafer, ikke? Vibeco et symbolsk.
- 28:32Er det så dit sprog, det genererer Thomas?
- 28:35Ja. Det er det.
- 28:36Og og har i trænet det eller har har åbent.
- 28:39Jeg hapset dit programmeringssprog.
- 28:43Der er en sjov ting. Det er at i starten der kendte
- 28:45terklip jo ikke til det her, men nu nu er nu har det jo været
- 28:49publiceret omkring det i 15 år, så nu nu kender salt kapitel
- 28:52faktisk det her. Det hedder DCR hvor man kan
- 28:55spørge man kan endda få den til at bygge simple d særk arbejde
- 28:58og forklare dem på et eller andet tidspunkt rammer den
- 29:01grænsen jeg sad og eksaminerede den i 2 timer ikke altså.
- 29:04Så siger den noget sludder og og så er der noget galt ikke men
- 29:07men men men det vi gør Det er meget simplere.
- 29:09Vi har jo bare lavet en prompt hvor Vi har givet den nogle
- 29:12eksempler på hvordan man oversætter tekster i lovgivning.
- 29:17Og der kan man faktisk rimelig langt men men Det har vi så lige
- 29:21fået de her 19 mio. fra invasionsfonden, så Vi skal
- 29:24prøve at gøre rigtigt så som nogle skalerbare hvor man kan
- 29:28tage en en større lovtekst og så mappe til det her, men altså for
- 29:33at vende tilbage Der er strikse regler og noget af lovgivningen
- 29:37som er på en lidt mere meta niveau altså.
- 29:39En vurderings ja. For det første så så kommer vi
- 29:43udenom vi, vi, vi. Laver jo ikke AI som laver
- 29:46vurderingen. Jeg var jo kun af i der siger
- 29:49hvornår en sagsbehandler skal lave vurderingen, fordi Det var
- 29:52et af de problemer, Der er man. Man må jo ikke i
- 29:54forvaltningsloven sætte reel over skøn, så man må ikke gå ind
- 29:58og sætte regler ind der. Men man må godt minde en
- 30:01sagsbehandler om du skal altså lige huske at lave den her
- 30:03vurdering. Det kan være en stor hjælp for
- 30:05sagsbehandleren. En stor hjælp de var de var
- 30:07totalt lykkelige i den Kommune, hvor vi prøvede det af.
- 30:11Så så skete der. Vi havde lavet en
- 30:13open-source-styring til dem også, men.
- 30:16Der skete, der desværre det at deres chefer de stoppede, kom
- 30:20der nogle nye chefer, og de sagde, Vi skal da have et nyt
- 30:22companiesystem i stedet for. Så bandede de lidt over det og
- 30:28ja og og så skete der ikke så længe så skulle de i.
- 30:31Udbud og så kørte møllen. Det sjovt fordi det du det du så
- 30:35så vidt jeg forstår så det man så bruger en sprogmodel til.
- 30:38Det er i virkeligheden det her med at kunne tage noget
- 30:39naturligt sprog og så altså i stedet for at folk skal sidde og
- 30:43taste manuelt ind, så ligesom bliver det udledt eller Sådan.
- 30:47Extract for for for teksten der ikke Det er sjovt.
- 30:49Det er også bare noget jeg tænker rigtig meget over det her
- 30:51med at rigtig altså. Det er en super undervurderet
- 30:54brug af sprogmodeller det her med at tage altså tage tekst og
- 30:57så have en prop der beskriver hvad for noget en prompt Der er
- 31:00et et skema der beskriver hvad for noget struktureret data der
- 31:03skal ud af det her og så gør det ikke.
- 31:06Det er jo noget de er rigtig gode til.
- 31:09Ikke at selvfølgelig laver de nogle fejl, men der har man den
- 31:11fordel at den her regel graf, den kan man jo så teste.
- 31:14Og og og gøre alle mulige ting med, men i det her projekt bare
- 31:19lige for med en 2 kæphest. Det er altså i den 2 ende der
- 31:21prøver. Vi så også at at smede og Vi har
- 31:23allerede en prototype. Er det faktisk så man kan jo
- 31:25også snakke med de her regel grafer via en sprogmodel.
- 31:29Sådan så i stedet for at sidde og fylde en formular ud, så kan
- 31:33man jo bare sige, jamen Jeg er lige blevet arbejdsløs og Jeg er
- 31:3525 år og så kan sprogmodellen jo godt finde de fakta som passer
- 31:39ind i regelmodellen. Og så på den måde anvende
- 31:42reglerne og så spørgsmål tilbage til dig.
- 31:46Og på den måde får man det bedste af begge verdener, fordi
- 31:48man kan snakke med dem i naturligt sprog.
- 31:51Man kan tjekke om den har forstået fakta rigtigt fordi den
- 31:53siger er det rigtigt du sagde over 25 år og du lige er blevet
- 31:57arbejdsløs. Og ja Det har vi allerede 1 1 1
- 32:02fin prototype men det det Det er så noget af det Vi skal bruge i
- 32:05de næste 3 år på at. Hvor forfine?
- 32:07Ikke så vi kan få de her. Lidt kedeligere chatbots fordi
- 32:11at de svarer standarder ud fra regler, men til gengæld kan du
- 32:15du kan snakke med dem du kan ringe op til dem og og bruge et
- 32:19et sproginterface ikke? Så.
- 32:22Det er interessant det du det du fortæller om Det er Thomas og
- 32:25Jeg synes Det er imponerende den der kobling med at man har noget
- 32:29meget fast. Man har noget validering, og så
- 32:32har kan man også. Hvad kan man sige putte det her
- 32:37abstraktionslag henover, som det jo egentlig et eller andet sted
- 32:39er en brugergrænseflade fra for naturligt sprog til
- 32:43kompleksitet. Det gør vi også, når vi
- 32:46programmerer. Vi bruger det til det ene og det
- 32:48andet. Jeg håber vi stadig skriver i
- 32:51Vores test derude, fordi at Det er jo ligesom måden, at vi kan
- 32:53finde ud af om det Vi er på vej det rigtige sted hen og der og
- 32:58altså der holder jeg jo også software fanen højt og siger, i
- 33:01må ikke smide jeres øjne protestene ud.
- 33:04Det kan ikke nytte noget, at den både skriver testene og skriver
- 33:07koden og Jeg er sønner. Jeres sønner engang imellem selv
- 33:12og så så finder jeg ud af, at selvfølgelig har den bare.
- 33:17Teating 2 the test som man siger at den simpelthen bare.
- 33:21Er selvopfyldende ikke nå, men hvad hedder det?
- 33:25Jeg er super nysgerrig på det her, hvordan man kan
- 33:26repræsentere altså lovgivning som grafiker og Sådan noget det
- 33:29det. Men jeg tænker ja.
- 33:31Dit spørgsmål. Undskyld undskyld.
- 33:32Undskyld lige et sidste spørgsmål fordi det der med at
- 33:35putte Det var måske det du ville sige jo.
- 33:37Men det der med at putte et lovtekst til til altså at mappe
- 33:41det ind til en graf. Har man nogensinde, når man har
- 33:44siddet og arbejdet med Sådan noget fundet ud af, at loven er
- 33:46inkonsistent det. Er også det.
- 33:48Jeg tænker der der. Det virker som om at Der er så
- 33:50mange altså ja nej nej. Ja altså, og og Det er den jo.
- 33:55Men Jeg vil snarere sige den er underspecificeret.
- 33:59Ja Det er jo sikkert by design, ikke?
- 34:04Men hvis man gerne vil lave en selvbetjeningsløsning, eller
- 34:06hvis man gerne vil oversætte den her stub lov til en formular,
- 34:10hvor folk de selv kan søge om et eller andet og så sagsbehandle
- 34:13dem, så nytter det jo ikke noget i den underspecificerede.
- 34:15Altså så skal man i hvert fald vide, hvor Det er at så sende
- 34:17det ud til et menneske, ikke? Så så jo man finder ud af at Der
- 34:22er rigtig mange implicitte regler som ikke står der.
- 34:27Og Der er også noget imod, så vi håber Vi har fået
- 34:28digitaliseringsstyrelsen med i Vores referencegruppe, så vi
- 34:31håber jo meget at kunne spille tilbage til dem og sige, nu kan
- 34:35vi faktisk se her, at Der er nogle steder, hvor reglerne er
- 34:38unødvendige. Eller mangelfulde.
- 34:43Og så kan vi måske komme med noget, Der er lidt bedre end de
- 34:46her. 7 principper for digitalisering og lovgivning,
- 34:47ikke? Hvordan dagen var reduceret
- 34:50kompleksiteten i loven med bare lige at gøre opmærksom på at
- 34:52den. Sygt spændende område.
- 34:55Virkelig altså Sådan. Det er jo virkelig Sådan, hvis
- 34:56man knækker den der ikke altså men hvordan hvis man så laver en
- 34:59en graf til 1 1 lovgivning eller en lovgivning til en graf og den
- 35:03er underspecificeret hvordan? Hvordan kan man detektere det i
- 35:08grafen, eller hvordan bliver det så til udtryk?
- 35:11Prøvet at Vi har jo de her værktøjer nu ikke hvor man kan
- 35:13man kan man. Man kan jo opmærke loven med
- 35:16farver, så man kan se det her. Det er hennes og aktiviteter og
- 35:19Det er her Vi har fundet noget tekst, der minder om en regel.
- 35:22Her er der en rolle, der siger, hvem der skal gøre det her.
- 35:26Og så kan man jo inde i simulatoren hvor man har grafen
- 35:29der kan man trykke gå og så kan man se hvad er det så for nogle
- 35:31mulige sagsforløb Der er regler og der vil man så opdage hvis
- 35:36den er underspatiseret at Der er der nogle mærkelige sagsforløb,
- 35:39som man ikke havde forventet. Man kan modtage en bekræftelse
- 35:43for sin ansøgning, før man har sendt den og Sådan nogle ting.
- 35:45Og det kræver, og det kræver det kræver.
- 35:47Men altså et menneskeligt blik at finde før ja.
- 35:51Medmindre du kan skrive nogle overordnede matoregler for hvad
- 35:54hvad skal altid gælde ikke? Bare bare fordi de tænker hvis
- 35:57hvis man kunne, hvis hvis det kunne måle Sådan rent
- 36:00programmatisk eller hvad man kan sige, så ville man jo være i
- 36:02stand til at kunne dedikere støj i lovgivning eller Sådan på en
- 36:05eller 2 måde. Altså Sådan.
- 36:07Er der nogle ting man kan lave automatisk?
- 36:08Man kan for eksempel finde ud af om om loven har en en dead, hvor
- 36:13hvor du har nogle ting Der er krævet, men de vil aldrig blive
- 36:15mulige. Så så så den slags kan man kan
- 36:18man begynde at verificere. Ikke prøv at tænk.
- 36:20På hvis man kunne køre Sådan et program over alt dansk
- 36:22lovgivning. At du altså Det er supernaivt,
- 36:25men altså Sådan det kunne da bare være fedt ligesom at.
- 36:27Kunne vende tilbage til det, fordi du spurgte om alt
- 36:29lovgivning kunne mærkes ind i en graf.
- 36:30Det kan det ikke, fordi Der er noget lovgivning som er.
- 36:33For eksempel bestyrelseslovgivningen indenfor
- 36:35den finansielle sektor, som siger noget, i skal have lavet
- 36:38procesmodeller. Ja jamen Jeg vil jo ikke sætte
- 36:41perform eller på på regler præcis jo man kan sige check mak
- 36:45Jeg har lavet procesmodeller ikke men men men den siger jo
- 36:49ikke noget om hvordan det skal se ud og hvornår man er i mål og
- 36:52alle de her ting ikke så så så så på den måde.
- 36:54Men men for eksempel hvis du skal søge om.
- 36:58En eller 2 social ydelse så er der ofte rimelig reeltbaserede.
- 37:01Eller hvis du skal søge om udbygge din carport eller ændre
- 37:06status af din bolig og den slags ting, så er vi pludselig nede i
- 37:10noget meget rent. Betyder Det er også tit det, man
- 37:13kalder objektive kriterier, kan man sige altså man har noget som
- 37:17som kan puttes på Formel, og så kommer man til på et eller andet
- 37:20tidspunkt, og så er det altid op til et skøn i sidste ende, men
- 37:23så kan man hjælpe så langt som muligt med alle de objektive
- 37:26kriterier hen til det rigtige. Skønsproblem kan man sige ikke?
- 37:31Bare med en så simpel ting som at få dokumenteret, hvad Det var
- 37:34der blev gjort undervejs, og Det er jo nogle problemer, Vi har
- 37:37store problemer med, når Vi har analog sagsbehandling, eller vi
- 37:41kalder det digitalt. Men Det er jo analog, fordi Der
- 37:43er ikke nogen, der skriver ned, hvad man skal gøre.
- 37:46Og og Det er jo det vi ser igen og igen, og og det så vi faktisk
- 37:49dengang vi startede det her projekt op, at Det var en af
- 37:51motivationsfaktoren, at når Ankestyrelsen kiggede i gamle
- 37:54sager. Det var i øvrigt enormt
- 37:55ineffektivt at kigge historisk på 100 gamle sager.
- 37:57Så skal man så kigge alle de der.
- 38:00Journalmapper så fandt de ud af, at inden for tvangsfjernelse af
- 38:04børn. Der var der over halvdelen af
- 38:07sagerne, hvor man ikke havde haft en samtale med barnet.
- 38:11Og alligevel ikke græde ned, hvorfor man ikke havde den,
- 38:13fordi Det er lovpligtigt at have en samtale, med mindre man har
- 38:15en særlig grund til ikke at have det.
- 38:18Det var ikke skrevet ned. Og der kan meget vel have været
- 38:22af gode grunde i mange af de her sager, men Det er jo man har
- 38:25brudt loven, når man ikke har skrevet ned hvad grunden var.
- 38:28Og og Det er jo et problem for Vores retsfølelse og Vores
- 38:31retssikkerhed i virkeligheden at at vi ikke kan gå tilbage og
- 38:35pege på. Jamen, hvorfor blev det barn
- 38:36tvangsfjernet? Det sjovt fordi OK så så jeg
- 38:39forstår det Sådan at Der er ligesom noget lov Der er noget
- 38:41lovgivning som ikke kan sættes på Formel på den måde.
- 38:44Men så er der også 1 1 1 del lovgivning, især i forbindelse
- 38:47med sagsbehandling virker det til som som nærmest er script
- 38:51III naturli sprog. Ja Det er jo script, men Det er
- 38:55ikke procedure Det er mere og og Det er derfor Det er mere egnet
- 38:59at have de her. Kan man sige her
- 39:00hændelsesbaserede regler, fordi Det er mere, hvis det her sker,
- 39:03og det her er sket tidligere, så skal du på et tidspunkt gøre det
- 39:06her, men så kan det godt være at der sker noget 2 dage efter der
- 39:09gør du ikke længere skal gøre det her, så du har Sådan nogle.
- 39:12Du har ting Der er krævet, som kan holde op med at være krævet.
- 39:17Nu nu tabte Jonas jamen. Tabt for Jonas ja mon ikke han
- 39:19kommer igen. OK.
- 39:23Det det det det skulle. Jeg havde lige en 2 ting som jeg
- 39:26syntes var spændende. Jo fordi det virker som om at
- 39:30det som projektet så i virkeligheden går ud på Det er
- 39:32ligesom Det er i virkeligheden hvor man bruger sprogmodeller
- 39:34til at registrere data. Altså ligesom være hvis alle
- 39:38havde 1 1 1 sekretær der sad og skrev det man sagde eller skrev
- 39:43ned. Vi vi bruger sprogmodeller i
- 39:47begge ender. Den ene ende er for at hjælpe
- 39:49med oversættelsen fra tekstbaseret regler til de her
- 39:52regel arfer. Indtastning.
- 39:54Ja Det er så. Nemt reglerne altså genererer en
- 39:57symbolsk model med hjælp fra en sprogmodel, og Det er jo fordi,
- 40:00at lovgivningen bliver udgivet som tekst ret oplagt, ikke?
- 40:05Og i den 2. Og Det har vi.
- 40:06Det er ovre fra fra lingvistik og den humanistiske del af af
- 40:11sprogvidenskaben, som har den arbejdspakke.
- 40:15Og så mine kollegaer fra NLP på Diego.
- 40:17De har så arbejdsmarkedet med den her conversation hej pødt
- 40:21AI. Jeg prøver at introducere termen
- 40:25thai. Fordi ja Vi skal finde på et
- 40:28eller andet. En skejlvægende kan ikke der
- 40:34hvor man kan snakke med sin symbolske model.
- 40:37Derfor skulle vi gerne have en Chile.
- 40:40Jeg skal lige finde ud af at gøre det.
- 40:41Nej, Det kan stå for men. Men så så Det er ligesom de 2
- 40:47ender hvor hvor vi i det projekt.
- 40:50Bruger bruger sprogmodeller ikke?
- 40:54Og så er der nogle udfordringer med de her grafer, hvis de
- 40:58bliver altså de er jo nogenlunde lige så store som lovgivningen.
- 41:01Og Det er stadigvæk rimeligt kompakt, men lovgivningen er jo
- 41:04ret mange sider. Men hvis du skal have en knude
- 41:07for hver handling og. Så bliver det jo også komplekst,
- 41:11så Vi skal have udviklet det her problematisk sprog til at være
- 41:13lidt mere modulært, så man kan genbruge komponenter ikke
- 41:16behøver at skrive dem, ligesom vi kender fra promans sprog.
- 41:20Og så Det er der også nogle helt klassiske datalogiske
- 41:24udfordringer, romantisk sprog, udfordringer II virkeligheden og
- 41:27lave noget mere modulært promansprog.
- 41:30Ja. Men Det er det projekt, og så er
- 41:32der. Så fik vi jo nogle andre også og
- 41:34det andet. Det var så AI for soft
- 41:36indigneringen, og det spiller jo meget ind i en web coating.
- 41:40Hvor? Med at Vi har en hel masse
- 41:43universiteter med det. Det andet jeg nævnte her.
- 41:44Det er dtu og KU. Og KU Der er det så både jura og
- 41:50sprogvidenskab og datalogi. Men det her a iphineing.
- 41:54Det er så i virkeligheden et datalogah rundt omkring på
- 41:57Aarhus DTUSTUKUITU. Som har fokus på software
- 42:03dinering, og så har vi en masse virksomheder med, og så så skal
- 42:07vi kigge på. Jamen, hvad er praksis i dag for
- 42:10web cooding? Sådan nogle hvad er det, du
- 42:12underviser vi? Vi skal helt klart have dig ind
- 42:13Kasper ser du Jeg kan? Godt lige understrege at Vi er.
- 42:17Vi prøver virkelig at undervise i det ansvarligt.
- 42:19Altså vi prøver virkelig når vi går ud, så siger vi det her.
- 42:21Det er ikke magisk silver bullet et eller andet der bare men, men
- 42:25Det er interessant. Og Det er en skills man skal
- 42:28lære. Det er ikke det.
- 42:30Det er en 2 måde at gøre det på. Ja, men så vi bare lige for at
- 42:33sige at vi ikke går ud og sælger Sådan vi går ind.
- 42:37Eller noget til. Jeg har jo så ikke kæphester.
- 42:40Jeg har en PHD styrer. Jeg har lige fået ansat Jeg kan
- 42:43ikke sige navnet endnu, men som som skal kigge på hvordan man.
- 42:47Netop kan generere nu er det bare ikke fået lov tekster og nu
- 42:51er det for krav og spekulationer og så kan man have de her regel
- 42:53grafer til at beskrive forretningsudvikken, og så kan
- 42:56man genererer et ER diagram for datamodellen, så man ligesom har
- 43:00nogle modeller som er nemmere at verificere end end ren kode, og
- 43:04så kan man bruge noget mere klassisk modelbredde
- 43:06softwareudviklingsegenerer kode fra fra modellerne.
- 43:12God anledning til at gå videre til til til emnet om reasning
- 43:16fordi vi snakkede lidt om, om det her reasningparadigme og.
- 43:20Vi har jo set Sådan et. Et skifte II transformere altså
- 43:27på next toen produktion er ligesom bare det det vi gør.
- 43:31Optimere mod det, og så sker der magiske ting, når Vi er færdige,
- 43:36og så ved vi godt, at når vi. Når vi ligesom skal optimere mod
- 43:42en eller 2 præference, som man har som modtager af den her
- 43:46tekst her, så. Er det Sådan lidt blødere?
- 43:48Der er meget Sådan det væver lidt i, hvordan vi ligesom får
- 43:52får leget modellerne til det, men så er der jo det her
- 43:54reasningparadis, hvor Vi er begyndt at bruge de her
- 43:57verifyble outcome på en eller 2 måde, og så bruger vi et reward
- 44:01system i stedet for og siger du klarer dig præcist godt på XYZ
- 44:06og så får du et point for hver eller hvad Det er, og Der er jo
- 44:09noget mere i det Thomas, som er Sådan lidt mere håndfast, altså
- 44:12hvor Vi har noget vi for eksempel med kode.
- 44:14Vi ved godt om det her, Det er korrekt eller ikke er korrekt vi
- 44:17kan skrive. Udtømmende test i hvert fald.
- 44:19Vi kan måske måske ikke bevise alting.
- 44:21Det er altid desværre, men vi kan i hvert fald skrive nogle
- 44:24tests, hvor vi kan verificere det indenfor for et område.
- 44:28Og hvad tænker du om det? Er det noget, som hjælper dem
- 44:32mere på? Det her tror vi nu mere på det
- 44:35II Sådan nogle hy risk scenarier, eller er vi bare
- 44:39totalt risiko averse og vi vil slet ikke.
- 44:44Fortsætte ned af den vej og prøve.
- 44:46Hvad tænker du der? Altså 1 1 1 1 sprogmodel den.
- 44:54Det er jo stadigvæk 1 1 1 generator og og ja autoregassiv
- 45:00model eller hvad. Altså Der er den prædikter og og
- 45:04Det er jo lidt som at lære en stor tabel.
- 45:07Så på et eller andet tidspunkt, så rammer man udenfor det.
- 45:09Den kan kan ramme rigtigt, og så laver den noget forkert.
- 45:12Men Det er rigtigt, og Det er jo så også det, vi vil udnytte i
- 45:15det her. Projekt med med softwandinering.
- 45:19At, hvis man genererer noget, der kan verificeres.
- 45:23Så har vi jo, så kan vi lave et ekstra tjek og så kan vi bede
- 45:26den lidt om hvis Det er en rammer forkert.
- 45:29Og og Det er netop det, Der er den pointe.
- 45:31Jeg vil forsøge med med min purte instuderende her, fordi
- 45:35det altså de de færreste programmer kan jo testes
- 45:37fuldstændigt fordi at der rammer man ud i turing holdting
- 45:41problemet ikke. Så så men men nogen endelig
- 45:48tilstandesmodeller. De kan faktisk testes og de kan
- 45:50verificeres. Og så kan vi.
- 45:54Også nemmere at forklare til brugeren, om man ligesom har en
- 45:57komplet test. Hvis hvis man har noget Der er
- 46:01nemmere at forstå end end end kode ikke men men men så Jeg vil
- 46:05sige. Så så nej sprogmalere kan
- 46:09stadigvæk ikke ræsonnere. Logisk de kan generere en tekst.
- 46:15Som simulerer et ræsonnement, som lyder som et ræsonnement.
- 46:19De kan. I de fleste tilfælde genkende,
- 46:22hvornår de er uden for deres egen, hvornår de har brug for
- 46:24noget som kræver logisk ræsonnering eller udførelse af
- 46:29et program. Og så kan de gen netop program i
- 46:31stedet for. Som så kan blive udført af en
- 46:34compiler eller en fortolker. Og en fortolker den forstår jo
- 46:39programmet. Den kender sematikken og den kan
- 46:41udføre programmet korrekt hver gang, og Det er jo derfor vi.
- 46:45Bruger en program. Nej ja, men den den gør jo hvad
- 46:49programmet siger. Ja den gør, siger fortolkeren.
- 46:52Forstår programmet 100%. Det kan så godt være at vi ikke
- 46:54har forstået hvad programmet skulle være og så ville
- 46:56programmet, men så Det er jo derfor vi ikke bruger en
- 46:59sprogmodel i stedet for en picernfortolker.
- 47:04Det ville være. Lidt.
- 47:05Der var også nogle der de tidlige dage med sprogmodeller
- 47:08med checkby til at komme ud. Der var der nogen der prompte
- 47:10den til at være en linux-terminal?
- 47:13Og så prøvede jeg altså og det der opførte sig som en
- 47:15linusterminal og var overraskende god til ligesom at
- 47:17altså til en visgrænse, men var overraskende god til ligesom at
- 47:20hvis man lavede en en mappe og en fil og Sådan noget ligesom at
- 47:22holde styr på det der det. Var meget sjovt.
- 47:24Min linjesterminaler har jo så også stadigvæk et begrænset.
- 47:28Man kan måske godt komme ud i at rent faktisk at lave nogle ting
- 47:31der turde en komplet men men men man skal anstrengelser ikke
- 47:35hvorimod et python program eller et java-program eller et
- 47:38seprogram. Der er vi ude i noget, hvor hvor
- 47:40sproguddannelsen det skulle kunne.
- 47:44Partisk ræsonnere logisk fordi et program er jo i virkeligheden
- 47:47en logisk. Formel som som fortæller os,
- 47:51hvad er opvask skal være, når når i kører det.
- 47:55Og så er udførslen af et program jo i virkeligheden det samme som
- 47:58er ræsonnerer men og Det er også derfor men men det Der er
- 48:02farligt med sprogmullerne er jo at de er jo meget glædeligt
- 48:06giver udtryk for. At de kan gøre det.
- 48:11Og og Det er der hvor Jeg synes Det er en fjollet spild af
- 48:13computerkraft og at lave alt det der matematikken marks og prøve
- 48:17at overbevise folk om at nu kan den.
- 48:20Vinde en eller 2 matematik olympiade.
- 48:23Det er jo ikke den altså. Den har jo stadigvæk forstået
- 48:26hvad den gør, og den ved ikke hvornår den har gjort det
- 48:27rigtigt. Men men man kan så verificere
- 48:29mig ved hjælp af andre midler om den har gjort det rigtigt.
- 48:34Og og jo Jeg kan godt se at man kan anvende det til at bruge
- 48:37Sådan en kreativ udforskning af et mulighedsrum, fordi Det kan
- 48:43de jo godt. De kan godt komme med mulige
- 48:45løsninger på det her sfære matematiske bevis.
- 48:49Men det kræver stadigvæk at man har en 2 måde at finde ud af, om
- 48:52det faktisk er et bevis. Og ellers så synes jeg Vi skal
- 48:56bruge kræfterne på på at at at at anvende dem de steder, hvor
- 49:01det giver mening i stedet for. Eller tage en vilon forman
- 49:06learning algoritme og kaste efter et enkelt problemområde
- 49:10som Google deepmind jo også gør på nogle områder og har har stor
- 49:14succes med med. Hvad kan man sige bruge dem som
- 49:16en form for search? Op til mig så fordi der ved vi
- 49:24jo, at Vi har problemer med at finde programmer, der der kan
- 49:27søge effektivt II et rum efter et udfald.
- 49:31Og der synes jeg jeg ser noget der ligesom virkelig giver
- 49:34mening. Men Jeg er helt enig også i at.
- 49:38Altså matematik. Altså Jeg kan ikke engang huske
- 49:40hvornår Jeg har spurgt dem om noget matematikrelateret.
- 49:43Det kan godt være jeg ikke er særlig matematisk i min hverdag,
- 49:46men Det er bare ikke den use case man ligesom Sådan.
- 49:51Ser særlig. Altså kode bruger masse tid.
- 49:54Og Der er vi over i den der hype snak.
- 49:56Det er jo fordi at man gerne vil hente penge ind til.
- 50:01AG ikke. Som er den der.
- 50:06Pengemaskine som det. Det er jo en 2 verden som som
- 50:11har sin egen rationaler ikke men men det kommer vi ikke til at
- 50:15redde verden af at at man forsøger at.
- 50:20Jeg har lige et spørgsmål i forhold til alt det her.
- 50:23Med hvorvidt en en altså hvor altså med det der med at forstå
- 50:27et program. Det synes jeg bare Det er
- 50:28interessant. Det er interessant.
- 50:29Sådan spørgsmål i virkeligheden, hvornår forstår man et program?
- 50:31Ikke. Fordi Der er jo ingen tvivl om
- 50:33at 1 1 1 fortolker. Forstår du programmet?
- 50:36Det er jo ligesom Det er den, Der er sat i verden for.
- 50:39Og så er det jo Sådan, det her med forstår en sprogmodel
- 50:42program. Det kan den kan i hvert fald
- 50:45altså hvad kan man sige, lave noget som minder om at den
- 50:48ligner at den forstår programmet men?
- 50:50Men hvad med hvad med for eksempel et menneske?
- 50:53Hvordan ved man at et menneske forstår et program og kan et
- 50:56menneske forstå et program? Eller Sådan giver det mening.
- 50:59Mit spørgsmål. Ja det gør det, men jeg kender
- 51:02lidt fordi at at at Det er det der med at køre diskussionen
- 51:05over på på hvad mennesket så gør ikke men men jo altså Det er jo
- 51:08det jeg jeg selv har arbejdet med II 40 år.
- 51:11Ikke fordi jeg startede tidligt og.
- 51:15Og også vi. Vi lærer folk i første år på
- 51:19datalogi ikke. Altså man lærer folk at forstå
- 51:22sementikken i for et romersk sprog.
- 51:24Det kan godt være, at man er holdt op med at gøre det nu om
- 51:27dage, men. Der lærte folk faktisk at
- 51:31forstå, så man kunne i virkeligheden håndkøre et
- 51:32program. Og den niveau og forståelse, når
- 51:36sprogbruglen ikke. Det kan så sagtens være, at
- 51:40mennesker laver fejl, når de håndkører.
- 51:44Så så så Det er det Der er lidt af det paradoksale ikke altså
- 51:47mennesker kan faktisk forstå symbolsk personnering og lære
- 51:50det jeg jeg folkeskoleelever de kan lære hvordan man ganger
- 51:54store tal sammen med vilkårene magasinre.
- 51:59En sprogmiddag. Hvis de har nogle redskaber til
- 52:01at hjælpe sig med det. Ja og en sprogmodel.
- 52:05Den kan jo også skrive ting ned. Og og iterere over det og og og
- 52:09bruge til at generere de næste tokens, ikke?
- 52:12Så Det er klart at Vi har alle sammen med med begrænset
- 52:15hukommelse. Ikke så når tallene blev store
- 52:16nok, så kan vi ikke huske det hele i hovedet, og så er vi nødt
- 52:19til at skrive det ned. Men det, men selve ræsonneringen
- 52:22af følge af gangeneglerne for hvordan man ganger 2 vilkår i
- 52:25stort tal sammen. Det er noget en folkeskoleelev
- 52:28kan lære, men Det kan sprogmolen ikke lære den kan lære.
- 52:32Den kan huske memorøsere for at tilpas store tal, men på et
- 52:35eller andet tidspunkt så ryger vi ud over det, som den her
- 52:37endelige makro tjene, som det i virkeligheden er kan rumme.
- 52:42Og så kommer den til kort og og. Men Det er jo så heller ikke
- 52:46uskaden men. Men Det er også derfor, jeg bare
- 52:48synes Det er så fjollet, at vi overhovedet har den diskussion,
- 52:50at en wastring model eller, eller er det en singling model?
- 52:53Nej, Det er ikke en fiky model, men den kan trænes til og finde
- 52:56ud af hov. Det ligner et regnestykke.
- 52:58Så skal jeg skrive et presoneprogram.
- 53:00Altså løse problemet på den måde ikke eller hvordan?
- 53:02Det er bare Sådan hvordan altså og og Det er bare fordi Jeg er
- 53:07godt kunne tænke mig at blive forstået Sådan forstå men Sådan
- 53:11Jeg er bare interesseret i at forstå.
- 53:14Hvordan ved man at en altså? Hvordan ved man at jeg altså jeg
- 53:20forstår et program det vel også så skal jeg altså måden man ved
- 53:24at jeg forstår et program på. Det er vel at Jeg er i stand til
- 53:26ligesom at kunne forklare det eller at at skrive det eller?
- 53:30Ændre det eller altså Sådan eller hvordan Sådan hvordan
- 53:32Sådan det debugger man ligesom om jeg forstår programmet.
- 53:34Eller ej. Inden hvad læring kalder
- 53:36blomster taksonomi du du er i stand til at anvende din
- 53:38forståelse af program til at også at udføre det.
- 53:43Og og og Det er sproglanden ikke.
- 53:46Den er ikke i stand til anvendelse, forståelse, så rent
- 53:48faktisk agerer fortolker. Så så det niveau og forståelse
- 53:53har den ikke den den har en kode en en evne til at transformere
- 53:58et program til en tekstbeskrivelse af hvad det
- 54:01måske gør. Og og fordi Der er faktisk
- 54:05rimelig stor gentagelse i, hvordan Vores programmer ser ud,
- 54:08så er de også blevet ret gode til det.
- 54:11Men, Der er også grænser for Der er også nu har jeg ikke testet,
- 54:14jeg havde håbet jeg havde kunne nå det inden i aften ikke, men
- 54:17jeg tænkte at finde min gamle førsteårsalogi programmer frem
- 54:23og se om den kunne genkende dem, fordi de har den feature at de
- 54:26er skrevet i et promænsprog, som som den helt sikkert nok ikke
- 54:29har set. Fordi Det var opfundet på, da
- 54:32datalogisk Institut i Aarhus og hed Trine opkaldt efter.
- 54:37Professorens datter, ikke? Fedt.
- 54:40Men men men, men så kan den måske godt alligevel fordi at
- 54:43det ligner alligevel så meget. Det er med med while løkker og
- 54:47Sådan nogle ting. Det ligner jo det smager lidt af
- 54:50det samme, ikke? Ja ja Det kan jo godt være at
- 54:53Der er noget lighed. Jonas du har sgu meget højt op
- 54:57for lyden. Kan det passe?
- 54:58For mig. Der skete et eller andet?
- 55:01Ja. Nå.
- 55:03Er det bedre nu? Der var meget høj.
- 55:05Der var meget sted meget, meget højt game på.
- 55:08Jamen så skruer vi ned. Er det bedre?
- 55:11Jeg er det stadig. Prøv at sige vi laver lige live
- 55:14tech eller hvad lydteste her live på.
- 55:19Nu skulle vi skrue op, så Det er en.
- 55:21Mikrofon mikrofonen har sit eget liv her Sådan der.
- 55:26Så hvis man skulle hvis man hvis en en hvis en.
- 55:33En sprogmodel skulle kunne forstå et program, så skulle den
- 55:36være i stand til at altså gøre det, altså tage et program og så
- 55:41gøre det samme som en en fortolker vil gøre når den.
- 55:46Det er det niveau af forståelse, så forstår man et programisk
- 55:50sprog. Og anvende sematikken.
- 55:55Og og og Der er nogle begrænsninger i at formodeller i
- 55:59virkeligheden er finner i state. Marco chance.
- 56:03Og programmer kræver vilkår og intuition, og det altså i hvert
- 56:08fald et ikke et trivielt romantisk sprog er
- 56:10turingkomplet, så der ligger nogle begrænsninger i, hvad man
- 56:13kan opnå af forståelse i en i en stor sprogmodel, uanset hvor
- 56:17stor den bliver. Men men, men den kan jo sagtens
- 56:21forstå. Mange små programmer eller og
- 56:25større og større, fordi at sprogmanden bliver større og
- 56:27større, fordi den simpelthen husker mønstrene III.
- 56:29Hvad den så skal gøre. Ikke også derfor den ret
- 56:31imponerende faktisk kan. Kan jeg eksimerede den der II
- 56:36endelig automater ting og regulære udtryk og Sådan nogle
- 56:40ting, og de kan ret meget også uden at at tage eksterne
- 56:44værktøjer at bruge. Ikke fordi at de er blevet
- 56:48trænet til at kunne imponere indenfor det.
- 56:50Om ikke hvordan er jeg jo selvfølgelig også meget stolt
- 56:53over den 2 kendte sprog jeg havde lavet, ikke?
- 56:57Så men Det var kun efter 10 minutter eller Sådan noget.
- 57:01Jeg fangede den i alt, så havde den alligevel ikke helt forstået
- 57:03det, vel? Ja, men men altså jeg plejer at
- 57:08sige at. At grunden til Det er vigtigt.
- 57:12Det er, at man ikke bliver besæret fordi at computervarer
- 57:16kan man jo ikke teste fuldstændigt.
- 57:17De fleste af computervarer vil man ikke teste fuldstændigt, så
- 57:19selvom man man så har testet. Så meget man nu tror, så skal
- 57:23man jo ikke nødvendigvis bare tro på programmet er rigtigt
- 57:25fordi at det virker bliver test. Jeg har da den der ekstra
- 57:30kvalitet i at der faktisk er et menneske eller en 2 maskine
- 57:33nemlig en eller 2 fortolker eller automatisk verifikation
- 57:37som rent faktisk kan forstå programmet der kan man kigge på
- 57:40og sige jamen nu har vi rent faktisk verificeret det her
- 57:43program. Det er rigtigt og så kan du gå
- 57:45ud og bruge det på vilkår i input også dem vi ikke har
- 57:48testet på og og vi stoler stadigvæk på det rigtigt.
- 57:52Og så er de ikke også sige det på den måde.
- 57:55Altså jeg prøver også at svare lidt på dit spørgsmål Kasper,
- 57:58kan man ikke sige det på den måde at.
- 58:02Lad os sige, at den ligesom løser et eller andet problem, og
- 58:06så man ser faktisk også tit folk prøver det der med ligesom at
- 58:09snyde den lidt og så kan man sige man kan gentage det her
- 58:13problem. Men man man formulerer det på
- 58:14mange forskellige måder og på et eller andet tidspunkt så snyder
- 58:17man dem til, at hvis man formulerer det lige præcis på
- 58:19den her måde. Så kan den bare ikke forstå det
- 58:22der problem, selvom at den i gåseøjne har forstået det med
- 58:27nogle andre formuleringer, men man har lige puttet lidt støj
- 58:29ind her. Man har lige puttet lidt ind her
- 58:31og pludselig så er den låst fast i at den kan simpelthen ikke
- 58:33komme ud af at lave det forkert nu.
- 58:36Det er jo for mig altså jeg ved godt Det er banalt vibechecking
- 58:39af en af en model, men Det er jo for mig bare Sådan har.
- 58:45Du er stadigvæk bare en propalistisk maskine, og Jeg har
- 58:48givet dig lige præcis det der gjorde, at den her
- 58:50sandsynlighedsberegning den endte nede i et sort hul.
- 58:53Og så er du bare, så har du bare tabt, og Det er jo et udtryk for
- 58:57at man kan sige der sker ikke noget ind i den der andet end at
- 59:01den beregner. Men et menneske vil jo aldrig
- 59:04nogensinde, eller man kan i hvert fald se på den tekst tit
- 59:09og sige til sig selv det der. Det er jo ikke noget i et
- 59:11menneske ville falde for nogensinde at lave fejl i det
- 59:15efter at have lavet de 20 andre rigtigt på det problem.
- 59:20Altså kan du? Følge mig meget godt at den ikke
- 59:21forstår Det kan man sige. Præcis altså.
- 59:23Jeg synes jo altså nogle. Nogle gange gør folk jo grin med
- 59:26de der Sådan lidt vibecheck ting og Sådan noget.
- 59:28Jeg synes jo at de er elegante på mange måder i at demonstrere,
- 59:31at Der er ikke noget bag den der skal der så.
- 59:36Det er jo men altså. Det er jo ikke nogen gange er
- 59:40det fordi man lige skal indsætte noget støj hist og, og Det er jo
- 59:44faktisk præcis det samme problem med med med selvkørende biler
- 59:47ikke altså de virker ret ofte. Så er der Sådan nogle ting der
- 59:55kan gå galt. Ikke fordi man ikke har forudset
- 59:57lige præcis den støj faktisk godt kunne forekomme i
- 59:59virkeligheden ikke? Og og og Det er jo derfor man
- 1:00:03ikke helt tør sætte dem rigtig fri.
- 1:00:05Ikke fordi de fleste steder hvor de kører der.
- 1:00:07Er der nogle særlige? Så modtager vi nogle særlige
- 1:00:09signaler, som hjælper dem på vej.
- 1:00:13Men. Men, men problemet er jo at at
- 1:00:17Der er jo også eksempler, hvor man ikke kan gennemskue hvor det
- 1:00:19ikke er tricky indsats, hvor Det er fuldstændig banale spørgsmål
- 1:00:25eller. Eller er det nogle ting som hvor
- 1:00:27hvor man så får et forkert svar? Men Det kan også være at at.
- 1:00:32At at man så kommer til at bruge det indenfor sundhedsområdet,
- 1:00:34eller. Der indgår en altså Vi har jo
- 1:00:37sågar set. Nu vil jeg ikke nævne navne
- 1:00:39offentlige myndigheder, som har brugt sproget eller til at lave
- 1:00:42tal analyser. Og og mener man skal jo ikke
- 1:00:47bruge en sprogmodel til at lave en tal analyse af af noget som
- 1:00:50helst. Og der skal man oversætte.
- 1:00:55Det her tekst-input til en eller 2 regneark, og så kan man bruge
- 1:00:58noget der kan rent faktisk kan regne og lave statistik på på
- 1:01:01det her regneark ikke. Og så har man den fordel at man
- 1:01:03kan gemme regneark og så kan man gentage det her og finde ud af
- 1:01:07hvad Det var man regnede på, ikke?
- 1:01:09Og og det synes jeg Det er det Der er problemet.
- 1:01:11Det er at folk ikke kender begrænsningen fordi at den jo
- 1:01:16kaster sig ud ikke og da jeg fik chat kapite 5 her så så prøvede
- 1:01:20jeg også bare det der og siger jamen hvad er. 11 ettal og gange
- 1:01:25111, ikke? Og så regner den forkert, og Det
- 1:01:29er jo ikke fordi Jeg har trigget den til lige præcis det
- 1:01:31spørgsmål er svært. Altså jeg vælger bare det der,
- 1:01:32fordi Det er nemt for et menneske at se hvad hvad 11
- 1:01:35ettal af gange 111 er. Det er en 2 og så en masse 60
- 1:01:39taller og så 2 en ikke? Men den fik sat 1 2 tal ind
- 1:01:43forkerte sted ikke? Hvis du så sætter den i sining
- 1:01:47note. Så finder den det rigtige
- 1:01:49resultat, men Det er ikke fordi den har forstået det.
- 1:01:51Det er jo fordi den har forstået at den skulle lave et python
- 1:01:53program i stedet for. En ikke.
- 1:01:58Og. Og og og Det er fint nok altså
- 1:02:03så længe man bare accepterer at at Det er ikke et logisk
- 1:02:05ræsonnering der sker inde bagved facaden her.
- 1:02:07Det er. En rimelig overbevisende
- 1:02:12forudsigelse af, hvad er den rigtige tekst?
- 1:02:16Så så ved man også hvor man skal bruge det, hvor man ikke skal
- 1:02:18bruge det. Jeg Jeg synes det hjælper rigtig
- 1:02:21meget altså det Jeg synes Det er en rigtig interessant den der
- 1:02:23med altså hvis man skal forstå et program så skal man kunne
- 1:02:25køre det altså Sådan det det det ved jeg ikke den synes jeg den
- 1:02:29den er Sådan dejlig simplificeret og.
- 1:02:31Og der matematik, hvis man er virkelig skal forstå hvordan man
- 1:02:34ganger til allesammen, så skal man kunne køre gange.
- 1:02:37Så skal man ikke bare kunne forklare den i tekst eller.
- 1:02:42Kalde en lommeregner. Besvare hvis man så altså fordi
- 1:02:45man kan vel ikke bevise at jeg at du.
- 1:02:50Du kan ikke bevise at du kan kaste hvilken som helst program
- 1:02:53efter mig og altså at Jeg vil være i stand til at kunne
- 1:02:56fortolke det og køre det. Det er jo.
- 1:02:58Helt sikkert ikke fordi det. Vil tage for lang tid, og det
- 1:03:00ville være upraktisk. Jamen pointene, Det er jo netop
- 1:03:04det der. Det magiske forskel mellem
- 1:03:06maskiner og mennesker ikke. Altså vi kan ikke.
- 1:03:09Åbne din hjerne op og så se præcis bevise hvad der sker inde
- 1:03:13i dit hoved. Men Vi har den dejlige egenskab,
- 1:03:15at vi kan kigge ind i intro i os selv og vide hvilken metode vi
- 1:03:20bruger. Og og vi ved hver især, at vi
- 1:03:23kan lære at gange talt sammen. Og vi kan og og og vi ved også
- 1:03:28at det rent faktisk er metoden til at Der er mange forskellige
- 1:03:31metoder, men at vi anvender en metode til gange alle sammen.
- 1:03:33Og Det er den vi forstår og vi ikke bare husker gangetabellen.
- 1:03:39Fordi så kommer vi ikke så langt så så Vi har den fordel som
- 1:03:42mennesker, at vi kan kigge ind i os selv, og vi ved hvilken
- 1:03:46metode vi anvender til at løse den slags symbolske problemer.
- 1:03:50Vi ved ikke en metode vi anvender til at genkende et
- 1:03:53ansigt. Vi har set før det, og det skal
- 1:03:56jeg helt sikkert også på en 2 måde og og og måske tættere på
- 1:04:00liberalt netværk, selvom jeg også er lidt træt af det, fordi
- 1:04:02at neuralt netværk er jo en ekstremt forsimpling.
- 1:04:05Af af neuroner ikke altså. Det er jo.
- 1:04:07Det er jo et smart marketings ord i virkeligheden ikke, men
- 1:04:11men fred være med det så så så vi kan ikke på nogen måde og det
- 1:04:16tror jeg heller aldrig nogensinde.
- 1:04:18Vi kommer til at kunne åbne mennesker op og så bevise præcis
- 1:04:21hvordan hjernen i det menneske fungerer.
- 1:04:24Vi kan i hvert fald ikke gøre det, imens mennesket lever.
- 1:04:26Det laver. Bare meget om sprogmodeller ikke
- 1:04:28altså. Det er bare fordi at det og Det
- 1:04:31er kun for Det er kun fordi Jeg synes Det er spændende at lege
- 1:04:33med det der tankeeksperiment og ligesom prøve at undersøge
- 1:04:35grænsen for det. Ikke fordi.
- 1:04:36Jeg tænker altså man kunne godt jeg jeg man.
- 1:04:39Jeg kunne jo godt lave sætte mig ned nu her og lave et test sæt
- 1:04:42test datasæt til til en LLM og som var programmer python
- 1:04:46programmer for eksempel den som hvor du siger opgaven ligesom
- 1:04:49har kørt det her. Og så se hvad der kommer ud på
- 1:04:52den 2 side og så ligesom lave det til en eller 2 form for hvad
- 1:04:55hedder det datasæt som man kunne man kunne teste så kunne man jo
- 1:04:59meget. Hvad skal man sige konkret teste
- 1:05:01om den forstod om den forstår koden ikke.
- 1:05:05Og der tænker jeg Sådan at så hvis jeg valgte 10 simple så
- 1:05:08ville det jo OK så ville den nok nile det ikke, men altså så
- 1:05:10ville jeg nok kunne skubbe. Jeg ville nok skulle lave
- 1:05:12programmerne længere og mere komplekse og øge volumen af dem
- 1:05:15før den begyndte ligesom at give op ikke.
- 1:05:17Og så tænkte jeg bare på Sådan det.
- 1:05:19Det ville være en vel også kunne gøre hvis man skulle, altså hvis
- 1:05:22man var i tvivl om jeg var en sprogmodel eller ej.
- 1:05:25Det ved jeg ikke lige hvorfor man skulle gøre men men så så
- 1:05:28kunne man jo gøre det samme altså også fordi altså du kan jo
- 1:05:30ikke. Du kan jo ikke bevise at jeg
- 1:05:32forstår det eller Sådan eller det.
- 1:05:34Gør. Det er jo det vi alligevel
- 1:05:35prøver at gøre til eksamen, ikke?
- 1:05:38Og. Og grunden til at at man så ikke
- 1:05:41kan sammenligne om med sprogmodel består en eksamen som
- 1:05:44et menneske. Ikke består eller består grunden
- 1:05:47til man ikke kan sammenligne det.
- 1:05:48Det er at at at at at Vi er bygget op så forskelligt ikke så
- 1:05:54den måde, vi tester en elev til en eksamen.
- 1:05:58Det er jo med den præmis, at vi ved, at man ikke har uendelig
- 1:06:01hurtig hukommelse og Sådan nogle ting, så vi ved, at hvis man kan
- 1:06:04løse nogle komplekse opgaver og sige, hvad programmerne gør
- 1:06:07forholdsvis hurtigt. Tilpas varieret og det ikke er i
- 1:06:13det samme eksamenssæt som vi brugte sidste år.
- 1:06:14Så ved vi, at det ikke er fordi Det er noget man har husket.
- 1:06:19Så ved vi, at vi kan konkludere for et menneske, at så må det
- 1:06:22være fordi at man kan man kan bruge en eller 2 metode som er
- 1:06:24holdbar. Man kan bare ikke bruge de samme
- 1:06:27eksamener, og Det er også derfor Det er Sådan jeg bliver så træt
- 1:06:30når jeg hører om at nu har en eller 2 sprogullet bestået en
- 1:06:34eller 2 eksamen. Man kan ikke.
- 1:06:37Man kan ikke sammenligne noget. Altså fordi at at det svarer til
- 1:06:40at sammenligne lommeregner med et menneske.
- 1:06:44Nu har lommeregneren altså det. De de kan jo noget andet, fordi
- 1:06:48de har den her kæmpe hukommelse, det kompenserer for at de ikke
- 1:06:53forstår ved at de husker meget mere og og de så faktisk også
- 1:06:56kan lave en form for generalisering og overførelse af
- 1:07:00ting. Så så så hvis man har lært
- 1:07:02hvordan en en sorteringsalgme ser ud i et promagisk sprog, så
- 1:07:06kan den faktisk godt oversætte det, fordi at det ligner
- 1:07:08alligevel lidt rent sprogligt et andet promagsprog.
- 1:07:12Så Det er kun hvis man fuldstændig skifter paradigme at
- 1:07:14den kan. Så hvis jeg kommer med mit
- 1:07:16logikprogramingssprog. Så kan den godt have en
- 1:07:18udfordring, hvis ikke den har set hvordan man sorterer i et
- 1:07:22logikroman sprog, fordi Det er et andet paradigme, ikke?
- 1:07:27Så. Jeg kunne godt lige tænke mig at
- 1:07:29vi kort for en kort stund bacon en lille smule for der var 2
- 1:07:33ting du sagde i løbet af den her time vi havde siddet live som.
- 1:07:40Var det her forholdet mellem mennesket og maskinen og kunne
- 1:07:43og junge? Du nævnte det også lige kort
- 1:07:45øjeblik med. At hvordan.
- 1:07:48Hvordan fandt vi ud af om du forstod det her program?
- 1:07:50Og nu snakker vi om, hvordan vi vejer.
- 1:07:54Mennesker i på på universiteterne, Thomas.
- 1:07:58Og. Så er der.
- 1:07:59Jo så ja og den den her med det selvkørende biler.
- 1:08:02Vi har jo også haft nogle på det her program, som som også har
- 1:08:07Sådan en. Hvad kan man sige utilitaristisk
- 1:08:10nytteværdien, tænke tankegang og jeg Jeg er da selv skyldig i.
- 1:08:14Det Jeg tror du kaldte lidt strømansargumentet tidligere med
- 1:08:17at jamen hvis hvis man kan producere noget AI som hvor man
- 1:08:23kan vise statistisk at det rammer bedre end end nogle
- 1:08:26mennesker gør i en en given sammenhæng og.
- 1:08:29Behandling kører uheld? Ja.
- 1:08:33Jamen altså. Der tror jeg Det er argumentet,
- 1:08:35så er at mennesker er ekstremt dårlige til at køre biler ved
- 1:08:38hvis statistisk og at det sker uheld hele tiden og Sådan nogle
- 1:08:41ting. Og Det er altså.
- 1:08:43Det er jo en af de store dræbere derude.
- 1:08:45Det er bilerne og trafikken. Hvad er så argumentet for ikke
- 1:08:51at tage en perfekt løsning til selvkørende biler?
- 1:08:54Det kunne jeg egentlig godt tænke mig at høre sige noget om
- 1:08:57Thomas fordi. Jeg har sympati med med begge
- 1:09:01har. Jeg har jo lidt
- 1:09:02samfundsfilosofisk baggrund, så Jeg har sympati med begge.
- 1:09:05Hvad kan man sige? Nytte filosofien og og og og
- 1:09:08kants kategorisk imperativ, hvis Vi skal nå så langt, men men kan
- 1:09:12du ikke lige sige noget om det? Det det vil jeg gerne høre.
- 1:09:15Aromittet er lige nu. Ansvars hvem?
- 1:09:19Hvordan placerer vi ansvaret? Så man propper jo AI at
- 1:09:22teknologien alle de steder hvor man.
- 1:09:26Hvor det bliver så godt, at vi tør stole på det også selvom det
- 1:09:30ikke er perfekt. Men så i Vores ABS bremser i
- 1:09:32gamle dage. Der kunne man slå det fra og
- 1:09:34Sådan noget ikke, men nu nu er det jo bare automatik ikke?
- 1:09:38Så hvis jeg stoler tilpas meget på at den bremse er bedre end
- 1:09:41mig, når Jeg er ude på en glatvej.
- 1:09:44Så har vi jo overgivet os ikke og og Jeg har også overgivet mig
- 1:09:47til, at jeg logger ind ved hjælp af min ansigtsgenkendelse på
- 1:09:49telefonen, selvom jeg godt ved Der er en lillebitte risiko for
- 1:09:51at Der er nogen der kan logge ind.
- 1:09:54Som som ikke er mig. Og Jeg er irriteret over, at den
- 1:09:58ikke kan logge ind når solen skinner ikke men men men Det er
- 1:10:01værre ved den at Der er nogen der kan komme ind når det ikke
- 1:10:03er mig. Men og Det er jo det samme med
- 1:10:05bilerne på det tidspunkt hvor vi kan lave det godt nok.
- 1:10:10Til at vi faktisk. Stoler på, at den ikke begår
- 1:10:15fejl på på et tidspunkt, hvor det bare er utilgiveligt.
- 1:10:20Jamen, så kommer det jo også Vi har.
- 1:10:22Vi har lige haft gæster fra fra Kina, hvor de er rimelig langt
- 1:10:25fremme. Og de siger lige nu er det jo på
- 1:10:29kan man sige specialdesignede veje, hvor bilerne modtager
- 1:10:33radiosignaler fra signalerne, og de får alle mulige oplysninger
- 1:10:36som som som menneskelige kører ikke for at det eskalerer.
- 1:10:40Slet ikke fordi Det er alt for dyrt, så bilindustrien er slet
- 1:10:43ikke parat til at rulle det her ud, og så er der så også nogen
- 1:10:46som musk og andre som prøver at den den kamera baseret ting må
- 1:10:51man ikke være afhængig af andre sensorer.
- 1:10:52Men Der er altså den bagside. At det stadigvæk.
- 1:10:56Der er stadigvæk for man man kender ikke fordelingen godt
- 1:10:59nok. I hvilken type synsindtryk der
- 1:11:03kan komme ind kamera til man rent faktisk kan sige.
- 1:11:05Jamen den er bedre end et menneske.
- 1:11:07Man kan sige, at Der er nogen situationer hvor den er bedre
- 1:11:10end menneske, men vi kender ikke fordelingen af situationer godt
- 1:11:13nok, og og Det er derfor Vi har de der mærkelige uheld, hvor der
- 1:11:16pludselig er en tester der kører ud over en bjergskråning eller
- 1:11:19kører ind i en væltet lastbil. Hvor man hvor man bagefter siger
- 1:11:22jamen Det er vel et menneske ikke har gjort på det her
- 1:11:24tidspunkt. Det kunne de også, hvis hvis
- 1:11:27mennesket havde været fuld eller Sådan noget ikke, men så kan man
- 1:11:28placere ansvaret og sige jamen Det var fint.
- 1:11:31Det var Det var et menneske, der havde en fejl, men her er det
- 1:11:33langt lidt værre, når Det er bilproducenten, der har lavet en
- 1:11:35fejl. Og og Det er vi ikke klart, så
- 1:11:39accepterer endnu. Men der hvor Vi er klar til det
- 1:11:41der kommer det jo altså. Vi har pacemakkere, der kører
- 1:11:44fuldautomatisk. Vi har ja ABS bremserne vi.
- 1:11:47Vi har alle mulige ting. Hvor jeg tænker Der er mange
- 1:11:51linjer kode i et fly, og Det har der i øvrigt også været i en bil
- 1:11:54i mange år, før vi begyndte at putte noget ære ind i den også.
- 1:11:58Af i et fly jo og Der er AI skanneren i ultralyds scanneren,
- 1:12:04som hvor vi bruger de informationer til at beslutter
- 1:12:07om et barn skal leve eller dø, så Der er rimelig kritiske
- 1:12:11steder, hvor hvor vi hvor Vi har overgivet os.
- 1:12:14Fordi at Det er ofte nok. Til at stole på, ikke?
- 1:12:20Så. Men så skal vi så bare passe på
- 1:12:24ikke at at at at købe ind på at at det virker meget bedre end
- 1:12:28det gør, fordi i virkeligheden så hører vi jo salgs ofte
- 1:12:32salgssnakken ikke, men når forskerne så kommer og fortæller
- 1:12:34og regina så siger de ja. Det var nok alligevel mange år
- 1:12:39før det kommer fordi at de de løsninger der kører rundt lige
- 1:12:41nu som virker OK de er afhængige af alt muligt dyr og i øvrigt
- 1:12:47privacy agtigt problematisk fordi at bilerne sender alle
- 1:12:51mulige oplysninger. Og så er det jo også
- 1:12:54sikkerhedsmæssigt problematisk, fordi at hvis man kender til de
- 1:12:56her protokoller, så kan man også bilde den her bil ind at at den
- 1:13:00bare kan sætte farten op. Og så slidt.
- 1:13:05Uheldigt. Og og jeg mener Vores Nissan her
- 1:13:09fra 25. Den er jo det første vi fandt ud
- 1:13:13af. Det var jo at gå på youtube og
- 1:13:14finde ud af hvordan man slår det her AI fra fordi at den har så
- 1:13:17mange falske positive at man bliver totalt stresset.
- 1:13:20Ikke altså den den vil hele tiden gerne bremse op eller
- 1:13:22advare om man kører for hurtigt og og det gør jeg ikke så tit
- 1:13:26altså så så så så Det er ikke godt nok endnu.
- 1:13:32Men men men, men det kommer jo gradvis.
- 1:13:35Jeg jeg var også i Spanien og lejede en bil og og jeg blev
- 1:13:39pænt frustreret over at at at den lige pludselig begyndte at
- 1:13:43på motorvejen og og køre mig til den ene og den 2 side og jeg
- 1:13:46tænker hvad fanden sker der? Og Det var bare mig der der
- 1:13:51ligesom undvige en en 2 bil som som også var lidt ved siden af
- 1:13:56af den stiplede linje, men det kunne den jo så så godt spotte
- 1:13:59og mente at jeg var i gang med et vognbaneskift på et
- 1:14:01tidspunkt. Jeg slet ikke skulle ikke.
- 1:14:04Altså ja det og Jeg har virkelig en ikke ære af bil stående
- 1:14:09derhjemme, så jeg blev faktisk lidt taget.
- 1:14:10Prøv. Der er også en grund til at Vi
- 1:14:13har 2 biler nu. Tilbage til den gamle Volvo.
- 1:14:18Ja og Det er så en gammel kiger men men den er tilpas simpel til
- 1:14:22at den ikke, men den 2 er mere malelig at køre i, men nu har vi
- 1:14:26så fundet ud af hvis Der er det derfra ikke?
- 1:14:29Man skal gøre det, hver gang man starter den, men.
- 1:14:32Det ved jeg. Svært ja Det var da irriterende.
- 1:14:34Den post som setting som man bare skal trykke 2 gange så er
- 1:14:37den. Hacked Thomas den.
- 1:14:41Og så så ryger Warren se. Skyggerne ved at blive lange,
- 1:14:47som vi plejer at sige her på podcasten, og Vi har faktisk
- 1:14:49snakket en time og et kvarter. Men Jeg synes, Det har været en
- 1:14:52utrolig spændende samtale. Jeg er meget fascineret af det
- 1:14:55her lovgivning til graf. Som i har bygget og kan se
- 1:15:01muligheder II det her eller lemmellag ovenpå.
- 1:15:05På det hedder exhale. X hale.
- 1:15:09Ligesom med udåndingen af bare ikke bare uden e et ikke x for
- 1:15:12eks for ekspanable og hale for hybrid AI.
- 1:15:18Hvis du lige sender mig link til det, så kan vi inkludere det
- 1:15:21show notes, så Vores lyttere kan også gå ind og se.
- 1:15:23Det og Det kan også være, at Vi skal have nogle de der
- 1:15:25forskningsprojekter, som som du nævner Thomas, så vi lige kan
- 1:15:29slå et slag for det. Jeg kan invitere nogle links?
- 1:15:32Her bagefter så send lige nu links, så kommer de med her.
- 1:15:36Hvornår vi nu udgiver det plejer at være.
- 1:15:40Helt fint, men 1000 tak for snakken Thomas er der noget her
- 1:15:43på falderebet du lige vil sige? Så nogle skud ud, som man siger.
- 1:15:50Ikke andet end at Det er jo ting man kan snakke i timevis om
- 1:15:53ikke. Men du har snakket over en time
- 1:15:54så men folk er altid velkommen til en snak og en kop kaffe inde
- 1:16:00på Diego og så så kan man tage den videre der.
- 1:16:04Men men Det er en spændende tid i hvert fald, og Der er ingen
- 1:16:07tvivl om at at vi vil kunne meget med med AI, men Vi skal
- 1:16:11bare huske at bruge den rigtige type AE til de rigtige
- 1:16:14problemer. Det synes Jeg er en rigtig fed
- 1:16:16måde at afslutte på 1000. Tak fordi du vil være med
- 1:16:18Thomas. Og 1000 tak fordi i lyttede med
- 1:16:21alle sammen. Vi lyttes igen i næste uge hey.
- 1:16:24Hej.