Latest / Verbos: AI og Softwareudvikling / Regulering af Generativ AI: Politik, Frygt og Etiske Udfordringer EP #11

Transcript

Regulering af Generativ AI: Politik, Frygt og Etiske Udfordringer EP #11 · Verbos: AI og Softwareudvikling

0:00
Hej alle sammen. Velkommen til Vores podcast det
0:02
her. Det er episode nummer 11, og i
0:05
det her afsnit skal Jonas og mig snakke om a regulering.
0:10
Umiddelbart kunne man fristes til at sige, at Det var et lille
0:13
smule, en lille smule tørt emne ville nogen måske synes, men
0:16
uanset hvad man synes om det her emne ER regulering, så er det
0:20
komma. Er det et super vigtigt ende
0:22
kommer til at have kæmpe stor betydning for hvordan den her
0:25
teknologi kommer til at blive brugt i fremtiden.
0:28
Hvordan man kommer til at kunne udvikle med den og så videre og
0:30
så videre. Så Vi skal i dag skal vi snakke
0:32
om blandt andet Sådan noget med, hvordan man ligesom skal
0:36
regulere i jeg om vi overhovedet skal regulere jeg, og hvad for
0:39
en betydning det kommer til at have for ja, for samfundet, for
0:43
udviklere og for alle mulige forskellige.
0:46
Aktører som som ligesom har berøringsflader med med
0:49
generativ i og alle mulige former for AI.
0:52
Og så tror jeg også kommer vi også ind på her til sidst Sådan
0:55
hvad og hvad vi 2 Jonas tænker om om vi som som som udvikler af
0:59
software og machine learning af de her systemer og Sådan noget
1:02
er Sådan selv er bekymret for fremtiden indenfor det her.
1:06
Så ja, så Det er det Vi skal snakke om i dag, men inden vi
1:10
går i gang, så kunne jeg godt lige tænke mig at sende et lille
1:12
skuddet eller bare lige sætte et lille skud til Vores lyttere og
1:14
sige tak fordi i lytter med og lige gøre folk opmærksomme på
1:17
at. Hvad i kan gøre på nuværende
1:19
tidspunkt for at støtte hvad bos podcast som jo handler om AR sa
1:22
for udvikling og data science. Det er Sådan lidt.
1:25
De emner vi Sådan. Hvad skal man sige kredser om og
1:28
det man helt konkret kan gøre Det er, at man kan abonnere på
1:31
hvad hedder det podcasten på youtube PT er det under min
1:35
personlige youtube kanal Kasper junge hedder den bare det Det
1:39
kan være det bliver lavet i fremtiden det derudover så kan
1:41
man finde den inde på Spotify og man kan finde den på Apple
1:44
podcast og 1 1 1 1 1 lille ekstra ting man faktisk kan gøre
1:49
hvis man gerne vil støtte mig og Jonas mig Kasper og Jonas med at
1:54
lave den her podcast og producerer den.
1:56
Det er at man kan hvis man finder et fedt sted i podcasten,
1:59
så kan man gå ind på youtube i kommentarerne og lave timestamps
2:03
der hvor Der er nogle fede samtaler fordi så kan det være
2:06
vi kan klippe dem ud og så kan vi.
2:08
Distribuerer dem ud på det fine flotte internet.
2:12
Yes, så Det er ligesom måder man kan støtte podcasten podcasten
2:16
på men Jonas nu har jeg snakket alt for meget.
2:20
Skal vi ikke bare komme i gang med den her episode af at være
2:23
podcast? Jo, det skal vi, og normalt så
2:29
har vi jo et eller andet tech emne som er totalt nørderi og
2:32
Sådan nogle ting. Men Jeg har jo selv uddannelse i
2:35
noget samfundsfagligt som statskundskab, så Jeg synes jo
2:37
også det her er ret nørdet og og spændende og og jeg fandt mig
2:42
selv så sent som her i pinsen i en i en debat på på LinkedIn om
2:48
om det her med, altså hvordan Vi skal forholde os til bare at
2:52
diskutere om hvordan Vi skal regulere jer, fordi Der er jo
2:55
ingen tvivl om at. Flot kvalitet.
2:57
Det har jo fået alle. Og læse op af stolen og
3:01
politikerne, så værksteder Sådan nogle ting.
3:03
Og Det er altså bare i min optik er enormt vigtigt også at gribe
3:06
den debat. Og ligesom sige, vi vil faktisk
3:10
også snakke om det også. Der er tekniske og sidder med
3:13
det til dagligt, så derfor så er det jo også derfor vi gør det
3:16
her nu. Vi snakker om det, fordi vi
3:18
synes faktisk, at at alle tekniske Sådan involverede de
3:23
bør have en eller anden stemme også.
3:25
Så nu starter vi med at sige noget.
3:26
Og nu synes jeg faktisk også er vigtigt, at Det er noget Jeg
3:28
synes Der er mega fedt. Hej Jonas, Det er at du har den
3:31
her statskundskabs baggrund og du er mega interesseret i de der
3:34
samfundsaktiv ting. Det er vi andre selvfølgelig
3:36
også, men du er måske lidt lidt ekstra interesseret i det og Det
3:39
er bare en mega fed kobling med hele den tekniske baggrund også,
3:42
så jeg glæder mig rigtig meget til den her samtale og høre hvad
3:46
vi kunne få gravet frem af af fede vinkler.
3:51
Ja. Men spørgsmålet er altså, det
3:55
virker som om, at Der er rigtig mange der siger hvordan altså
3:58
stiller spørgsmålet, hvordan skal vi regulere ej?
4:01
Hvordan i alverden gør man det her ikke?
4:03
Men men da vi Sådan ligesom skulle forberede os til det her.
4:06
Det her afsnit, der kom vi til at snakke om, Sådan skal vi
4:09
overhovedet regulere jeg. Hvad tænker du om det, Jonas
4:13
eller Sådan? Jamen jeg tænker at toget er
4:17
ligesom kørt nu, så Det er næsten lidt uundgåeligt at der
4:20
vil komme en eller anden form for regulering af af teknologien
4:24
nu, fordi at Det er ligesom. Det er politisk opportunt, som
4:29
man siger, Det er nu, hvor der ligesom er er vind i sejlene, så
4:33
det tror jeg, at det uundgåeligt.
4:35
Og så har EU jo arbejdet faktisk ret længe på den her artificial
4:39
intelligence act, hvor der står nogle ting omkring, hvordan Vi
4:43
skal forholde os til til ære teknologi og særligt med fokus
4:48
på, hvilke risici Det har med sig og og så måske i
4:54
virkeligheden også aller særligt med fokus på den offentlige
4:57
sektor. Altså der hvor?
4:59
Når vi anvender noget teknologi, så påvirker det borgere Vores
5:04
demokratiske system og så videre og så videre og så videre.
5:07
Og det tror jeg, Det er der, hvor der vil være allermest
5:09
fokus til at starte med. Det er typisk de offentlige
5:12
institutioner og og områder som som som man vil prøve, ligesom
5:17
at at få få noget regulering ind omkring.
5:20
Og så så kommer virksomhederne og den private sektor jo
5:24
selvfølgelig også til at blive ramt af det, fordi de leverer
5:26
også rigtig tit noget til det offentlige, og Der er Sådan et.
5:29
En fin harmonisk samspil mellem de 2 sektorer, ikke?
5:33
Men og og men men jeg tænker Sådan, at nu siger du, at nu er
5:37
det ligesom i gang? Nu er vi bruger det alle helt
5:39
oppe at køre over det ikke? Men men man kan sige Jeg vil
5:42
vove at påstå eller jeg forestiller mig at 99% af alt
5:46
generativ r der bliver brugt derude.
5:48
Det kommer et sted fra og Det er fra opening og ikke altså ja Jeg
5:53
tror de sidder i hvert fald tungt på det marked der lige PT
5:56
så vidt Jeg er orienteret og min fornemmelse ikke så man kunne
6:00
vel egentlig godt bare sige. Så hiver vi bare stikket hos
6:03
openai altså Det er jo single point vælger kan man sige ikke.
6:06
Jo jo og Det er jo det at man kunne også bare sige at vi hiver
6:10
stikket fra Office pakken ikke som er Microsoft produkt som
6:14
alle bruger i det offentlige, så er der ikke nogen der kan skrive
6:16
notater mere til nogen som helst, og så falder den
6:19
offentlige sektor fuldstændig sammen, fordi Det er Sådan kerne
6:23
i infrastrukturen for for den offentlige sektor.
6:26
Det er Microsoft så altså Microsoft sidder allerede tungt
6:31
på alt det der i det offentlige. Der er slet ikke noget at snakke
6:33
om, Det har de gjort i. Millioner år ikke.
6:36
Så nu kommer de så med deres lillebror åbner jeg og så har de
6:40
noget der og og Det er også noget de kommer til at hive helt
6:43
ind i alle de der Office produkter i alle deres
6:46
produkter. Det har de jo annonceret, så det
6:48
vil jo komme ind ad den. Vej, så de har jo faktisk
6:50
åbninger. Har jo faktisk en ret
6:52
interessant altså indgang til du ved.
6:56
Det er jo det altså, og Det er jo hvad kan man sige Sådan en
7:00
magtfaktor på det private marked og og og og man kan sige fordi
7:04
de jo kommer med den her meget meget.
7:07
Hvad skal man sige? Appellerende
7:09
produktivitetsgevinst til den offentlige sektor, så har den
7:12
offentlige sektor for vane at tage de her
7:14
produktivitetsgevinster og sige yes mand dem der dem vil vi bare
7:18
gerne have, og så går man ligesom efter dem.
7:20
Det var også det, der skete dengang, men man introducerede
7:23
Sådan generelt ITIT systemer i det offentlige, altså det.
7:26
Det er tiltænkt, at det skal gøre den offentlige sektor mere
7:29
produktive. Vi skal kunne levere flere
7:31
ydelser og mindre, hvad kan man sige?
7:36
Altså mere effektiv sagsbehandling for borgere og så
7:40
videre. Ikke?
7:40
Det er ligesom det, der ligger II de der teknologier.
7:45
Hvad skal man sige forudsigelser?
7:47
Ikke at Det er altid noget, der skal gøres mere produktivt, og
7:49
det vil det vil være det samme tror jeg med med r der kommer i
7:52
den offentlige sektor nu. Det vil det vil være Sådan med
7:55
det fokus. Ja fordi Der er et eller andet
7:57
et eller andet præmis om en stor flot produktivitets gave, der
8:02
står på bordet med en fin sløjfe rundt omkring, hvor alle
8:06
virksomheder, det offentlige alle siger bare wow, hvad nu
8:11
hvis vi kan øge produktiviteten på Vores medarbejdere med et
8:14
eller andet? Jeg ved ikke hvad man estimerer
8:16
2025 30%. Wow hvem kan sige nej til det
8:21
ikke? Men men i teorien eller Sådan nu
8:24
ved jeg ved ikke så meget om Sådan noget lovgivning og jura
8:27
Sådan noget jura og Sådan noget. Men i teorien er det jo Sådan
8:30
ret nemt at bare blokere. Altså man kan jo godt.
8:33
Man kunne godt bare sige jamen sige det kommer jo et sted fra,
8:36
Det er jo ikke fordi Det er spredt ud hvad man kan sige open
8:39
source modellerne er jo til en vis grad spredt over
8:42
internettet, men de er heller ikke lige så kapable vel og
8:45
kræver stadig special hardware køre så i og med at.
8:49
Langt det meste. Af altså brugen af det her.
8:54
Den her teknologi er er fra opinie og Microsoft så kunne man
8:58
vel godt bare regulere dem i virkeligheden ikke?
9:01
Eller? Det kan man Det kan man Det kan
9:03
man jo så ikke. Altså fordi Det er jo en del af
9:06
af Sådan generel. Vi lov at rette II et
9:10
demokratisk land Det er man kan jo ikke lave en lov om at den
9:13
her specifikke virksomhed må ikke XYZ for eksempel fordi der
9:19
Det er ikke lige for loven princippet kan man sige ikke,
9:21
altså sagt lidt banalt, men men Jeg vil sige altså noget af det
9:26
som der jo allerede sker i virksomheder er jo også de
9:28
regulerer sig selv. De går ind og siger, vi må have
9:31
nogle retningslinjer for at, at vi ikke må bruge det her.
9:35
Og Det er fordi virksomhederne begynder at se en risici i at
9:39
anvende de her teknologier selv. Og Det er jo egentlig ret
9:43
interessant. Ikke fordi at.
9:46
Det det. Det tegner også et billede af på
9:48
en måde, Der er en eller anden frygt i, at Sådan den her
9:51
adoption. Så så man kan sige, hvis hvis
9:55
ikke EU havde kommet med nogle af de her.
9:58
Guidelines, eller hvad skal vi kalde det frameworks?
10:00
Fordi det tror jeg egentlig Det er mest det man skal se det her.
10:03
Den her artificial intelligence act som en guideline til at
10:07
vurdere risici for for AI. Hvis ikke at det ligesom havde
10:12
været der, så tror jeg, at virksomhederne selv havde
10:14
opfundet. Nogle risici og nogle interne
10:16
policies for det, fordi Der er jo Sådan noget så banalt som at
10:20
du må ikke putte en masse kode ind i chatt, fordi det kommer ud
10:25
til det store net, og vi sidder heller ikke og prompter.
10:30
En search engine med en masse kode, for eksempel som eller
10:34
nogle passwords eller tokens eller noget i den dur der ikke.
10:36
Så Det er Sådan mere Sådan banal ting, at du må ikke bruge det,
10:40
fordi nogen ser en for stor risiko, fordi at mange
10:44
medarbejdere måske tænker Det er virkelig et produktivitets
10:47
boost. Det vil jeg gerne bruge, og så
10:49
er de ligesom drevet mod at bruge det, og så er man nødt til
10:51
at lave nogle interne policy bare sige nej, Det er forbudt,
10:54
fordi her skal de dyre det, og så kommer det ligesom til at ske
10:57
på en eller anden måde ikke at nogen får lækket nogle
10:59
informationer eller Sådan et eller andet.
11:00
Ikke medarbejdere og kunder eller om medfører den interne
11:04
kodebase. Eksempel, det sjove ved Det er
11:07
jo, og Det er jo der hvor jeg kommer af med Sådan lidt mere
11:09
kritisk tilgang til det Det er. At nogen sidder og putter kode
11:13
ind i den her chat app som er basically bare er en browser app
11:19
har jo ikke noget at gøre med teknologien i at den er farlig.
11:23
Det har bare noget at gøre med at den er så tiltrækkende, fordi
11:26
den har den høje produktivitetsgevinster, så
11:31
nogle kunne finde på at eller putte noget ind i en browser de
11:34
ikke skulle putte ind i en browser.
11:35
Altså Det er jo ikke Sådan at jo de gemmer det, og man skal
11:39
ligesom have styr på de der ting ligesom med alle mulige andre
11:42
apps at. Dine beskeder bliver sjovt nok
11:44
være skræmt af Facebook og så videre.
11:46
Der skal du heller ikke sidde og putte sensitive informationer
11:49
ind eller en SMS kan du ikke sidde og putte sensitive
11:51
informationer ind. Alle de der applikationer har jo
11:54
det der med at de gemmer nogle oplysninger, og Der er nogle
11:57
privacy concerns så det Det er jo bare det samme med alt andet.
12:03
Det er mit trick ikke? Man kan sige, Der er jo også den
12:05
her med, at de kan jo også. Det er jo ikke bare data, man
12:08
sender. Det er jo også data, som de så
12:10
kan finde på at træne på. Ja ligesom kan blive en del af
12:14
at gøre modellen bedre og blive en del af modellen også ikke.
12:17
Altså hvis Det er jo en rigtig uheldig situation.
12:19
Hvis hvis chat de fremtidige visioner om at chat kvalitet
12:23
begynder at outputte kode fra novo nordisks kodebaser for
12:29
eksempel eller whatever ikke. Det er vel også Sådan noget man
12:32
er bange for at tænke. Jamen Det er det da, og Det er
12:35
også altså. Det er jo også det Jeg tror når
12:38
for mange til at Jeg synes at man skal regulere det.
12:41
Altså Det er i hvert fald den ene vinkel er det ikke?
12:43
Men spørgsmålet er, om har vi brug for en ny lovgivning til
12:46
ligesom at regulere? Det er mit klare bud lige præcis
12:50
den case der Det har vi ikke altså der der har vi masser af
12:54
på plads i forhold til det, og det handler mere om Sådan data
12:57
og datasikkerhed og Sådan nogle ting Jeg kan li.
13:00
Jeg har masser for det der Vi har GPR, og Vi har Sådan afledte
13:04
datapolitikker, som også lå der før GR ikke.
13:09
Så Jeg synes ikke nødvendigvis Det er mit personlige træk Der
13:13
er behov for så meget mere. Men men der kan være en masse
13:16
andre nye ting som uforudsete ting, som vi ikke kender til, og
13:20
Jeg tror Det er det, som man prøver med det her artificial
13:23
intelligence act, at man siger, ligesom du skal i hvert fald
13:27
have lavet en risikovurdering af hvilke risici Der er med at
13:30
bruge den her teknologi, måske i virkeligheden fornuftigt nok
13:34
ikke så. Så man lige tænker sig lidt om,
13:36
men men men nu må du lige rette mig, hvis jeg tager fejl.
13:39
Men den her AI act som kommer fra EU.
13:42
Er hele den her chat VT generative AI bølge ikke kommet
13:47
lidt bag på den. Jeg så vidt jeg forstår så den
13:51
her AI act var mere lavet til at kæmpe imod Sådan noget med
13:55
recommendation systemer og altså alle mulige Sådan masse
14:01
distributioner af. Indhold, som bliver anbefalet af
14:05
algoritmer og kan påvirke Sådan en ting og altså Sådan på den
14:08
måde. Ja, Jeg tror i hvert fald ikke,
14:13
at man hed den her slags teknologi Sådan specifikt i
14:16
tankerne, da man gik i gang med det.
14:17
Det er jo hvad Det er i hvert fald 3 år siden man gik i gang
14:21
med den her ære. Eller 4 år siden eller Sådan et
14:24
eller andet. De har jo ikke på den måde haft
14:25
det Sådan selv i deres deres hukommelse, men.
14:31
Men, der har fokus på mange andre ting, ikke og det.
14:34
Det er især Sådan risici ved. Og offentlige sagsbehandling
14:39
baseret på en eller anden form for for ære i, at der ligesom
14:42
kan løbe løbsk. Man har Sådan en ide om, at Der
14:45
er nogle teknologier, der kan automatisk løbe løbsk, og så får
14:47
man. Måske systematisk diskrimineret
14:52
nogle borgere, man får måske selv systematisk sagsbehandlet
14:55
forkert. Eller noget i den dur?
14:58
Og den risiko. Er åbenbart blevet mere altså
15:02
Sådan det det føles som om Det er en større risiko, når man så
15:07
har, når der så er tale om ære i, og derfor så er det der, Det
15:11
er kommet. Det er mit bud på, hvorfor Det
15:13
er kommet ind Sådan rent politisk, og man kan måske
15:16
allerede høre, at jeg også synes at.
15:18
Det. Det er ligesom om, at Det er
15:19
ikke så nyt for mig, at Der er et.
15:21
Jeg synes ikke Det er så nyt, at Der er de her risici med
15:24
automatiserede sagsbehandling, men Det er også fordi Jeg har
15:26
været 4 har jeg haft lige knap og nap 5 år i det offentlige
15:31
ikke? Og uddannet i statskundskab og
15:33
det Det er Sådan major topic II statskundskab Det er bare Sådan
15:37
noget systematisk bureaukrati der der ligesom får for Vores
15:43
demokrati til egentlig effektivt set at at at at have nogle skæve
15:48
virkninger på samfundet ikke? Det er Sådan noget der bare er
15:51
oldgammelt inden for statskundskab og har ikke så
15:54
meget med ære i teknologi at gøre.
15:57
Med de samme problemer med mennesker, tænker jeg.
15:59
Altså. Ja.
16:01
Lige præcis Det er der hvor det kommer ind, men Der er også et
16:04
problem med almindelig it systemer der der systematisk
16:06
laver skævvridende sagsbehandling, som som dybest
16:10
set er alle de her IT skandaler, vi kender fra ende til anden.
16:15
Jeg tænker ikke at nødvendigvis er AI er den store synder, når
16:19
vi ser historisk. Og og derfor så kan det virke
16:24
Sådan lidt lidt glat og høre på debatten II min Sådan optik ikke
16:30
af ære lige pludselig skal have det der store fokus, fordi Vi
16:33
har haft det her problem i det offentlige i virkelig, virkelig,
16:37
virkelig mange år og Det har haft alt, alt for lidt fokus og
16:41
nu er det så pludselig kommet op, men men AR står som
16:44
overskriften og syndebukken ikke og det det synes Jeg er enormt
16:47
ærgerligt. Ja.
16:49
Det var lige min holdning, ikke? Ja.
16:55
Men okay så nu synes jeg Vi har snakket lidt om den her, Sådan
17:01
lidt den her data etiske ting. Vi sender en masse data IER der
17:06
tager beslutninger i Sådan nogle old school r ikke generative AI,
17:11
men jeg Sådan en traditionel machine learning i algoritmer,
17:13
som tager beslutninger i forhold til følsomme emner, som måske
17:18
var det, som i act var tiltænkt. Øh hvad sker der med mine data,
17:23
når jeg sender den afsted? Hvad med private data
17:26
virksomheder, der ikke vil sende deres koder steder, information
17:29
om kunder og så videre? Det lugter Sådan en måde lidt at
17:32
give det PR og lidt af noget vi Sådan har snakket om før.
17:36
På mange måder ikke, men men på en eller anden måde, når jeg
17:39
tænker om hvordan man ligesom om Vi skal regulere i dag, og
17:43
hvordan Vi skal regulere jeg, så synes jeg også der kommer nogle
17:46
nye, Der er kommet nogle nye dimensioner i den debat, fordi.
17:50
Generativ i er begyndt at blive så godt og er begyndt at blive
17:53
så billigt begyndt at blive så anvendt og begyndt at gøre
18:00
softwareapplikationer i stand til at gøre nogle ting, som det
18:03
ikke var i stand til at fare. Ser du også Sådan på det?
18:07
Ja det gør jeg helt sikkert og og Det er måske i virkeligheden
18:10
det der med altså Sådan Det er perspektivet der der hedder det.
18:15
Det har altid været muligt at være kriminelt, ikke med noget
18:18
teknologi eller gøre et eller andet.
18:20
Det er blevet endnu nemmere nu at være kriminel med noget et
18:23
stykke teknologi for eksempel ikke eller Det er blevet endnu
18:26
nemmere at at lave noget noget horribelt ude i samfundet, som
18:32
kan gå grueligt galt, og Det er det, og derfor så er jeg i bund
18:37
og grund også. Tilhænger af den, den, den
18:41
diskurs eller hvad man skal sige, altså den den del af
18:43
debatten, som har har den der Sådan risiko.
18:48
Fokus på så så Jeg vil også sige at Der er nok Der er nok en god
18:55
grund til at Vi skal kigge nærmere på det, men Jeg tror
18:58
egentlig at. Altså Der er også noget med det
19:01
der med at at Vi er jo ikke. Vi er jo ikke snotdumme, altså
19:06
når vi når vi får Sådan en teknologi i hånden.
19:08
Altså Det er bare Sådan, at vi går ud og leger med ild som børn
19:11
vel, og derfor så er det også et vist element af selvregulering
19:14
og det jeg prøvede at nævne lige før, så Jeg tror simpelthen, at
19:17
den her selvregulering kommer til at være langt foran, men det
19:21
det det offentlige II et stykke tid, indtil man ligesom finder
19:25
ud af, hvordan er det faktisk at man selv regulerer sig selv
19:28
derude, og så begynder man at kigge på det.
19:30
Mere end, at man kommer Sådan oppefra begynder at tegne en
19:34
masse linjer for hvordan man skal risikovurdere og hvordan
19:39
man skal, fordi man kan ikke forudsige de der ting, fordi at
19:42
den her udvikling. Den er simpelthen bare i altså
19:46
120 kilometer i timen, ikke? Så Jeg er helt sikker på der
19:51
der. Der er et behov et eller andet
19:54
sted, men Det er edderkopens svært at svare på, hvor i uden
19:59
at have Sådan en eller anden speciel case i hånden, ikke?
20:03
Og Jeg synes også man som udvikler dig, altså ligesom
20:09
tænker i hvordan man kan bruge de her ting til nogle innovative
20:12
applikationer og bruge dem til nogle fede dimser, som kan gøre
20:16
folk mere produktive. Så er man også Sådan lidt.
20:19
Det er også vi ved jo heller ikke alt hvad der kommer til at
20:23
ske, og vi Det er ligesom Det er lidt op for grabs.
20:25
I øjeblikket, hvad alt det her ender med ikke og hvem bliver
20:27
vinderne og hvem bliver ikke vinderne, og hvad kommer der
20:30
til? Hvordan kommer det her til?
20:31
At hvad kommer til at være brugbart med de her teknologier
20:35
og hvad for nogle? Ja og så videre ikke, men jeg
20:38
ser det også lidt som om at. Der er en frygt for.
20:44
Hvad folk vil bruge teknologien til, altså være onde mennesker
20:50
derude vil bruge det til eller hvad griske virksomheder kan
20:54
finde på at uetiske ting som fordi de kan se en eller anden
20:57
mulighed for at tjene penge ved at gøre et eller andet, Der er
21:00
nederen, men som anvender generative er det det det?
21:05
Det er ligesom Sådan Det er en bekymring, men så er der jo også
21:07
den der anden bekymring, som måske er lidt mere sølvpapirs
21:11
hat agtig med. Hvad i takt med de her systemer
21:16
bliver mere og mere autonome. Hvad?
21:20
Det er jo ligesom, så begynder det at blive blive endnu mere
21:22
Sådan nå i og mere Sådan wow hvad hvad, hvad hvad hvad så
21:27
hvis det engang er Sådan selve ud.
21:30
Cyklerne er systemet, Vi skal være bange for.
21:34
Eller Sådan, hvad skal man sige klassifikationerne af systemet?
21:38
Men mere Sådan opførsel. Det er Sådan en terminal og.
21:42
Sådan. Kan.
21:45
Frygten der men den tror jeg til gengæld er.
21:49
Altså. Den var måske høj.
21:51
Den er mere eksotisk. Det er måske højt på på øverst
21:53
på hype bølgen var den måske højeste ikke?
21:56
Og nu er det som om det Sådan det bliver hurtigt
21:58
latterliggjort igen. Det der ikke på en eller anden
22:00
måde og altså jeg. Jeg hører ikke Sådan noget, at
22:04
Vi skal have tænde a comment du ved hvor at vi så skal
22:10
programmere de her ting ind i Vores maskiner, så de altid kan
22:14
Det er Sådan lidt. Det Det er lidt mærkeligt.
22:17
Altså kan man sige ikke men men men Der er jo et eller andet
22:20
sted også nogle elementer af det i lad os nu sige chat kbh ikke
22:23
altså Sådan. Fortæl mig noget grusomt om
22:27
hvorfor jeg skulle gå ud og blive nazist eller Sådan noget?
22:31
Ikke nej, det vil jeg ikke svare på eller et eller andet.
22:34
Du ved bare tage nogle groteske emner, og det vil den ikke svare
22:36
på. Og den er ikke ligesom ikke være
22:38
med til de der Sådan politisk korrekte og alt det der ikke så
22:43
Der er jo en eller anden form for Sådan et stik og nørum og
22:47
ting og sager bygget ind i modellerne allerede i dag i det
22:50
der generative univers. Og Jeg er ikke Sådan altså ikke
22:54
rigtig sikker på. Jeg synes stadig Det er Sådan
22:56
lidt smalere, Det er i virkeligheden.
22:58
Jeg er ikke sikker på at det Det har.
23:00
Nogen særlig nem særlig effekt, at man ligesom laver de der
23:04
begrænsninger der altså Det er folk synes at Det er sjovt at
23:07
jail break når det ser man så får hoppet rundt om den der
23:10
begrænsning der det så alligevel får den til at svare noget og
23:13
det og hvordan man bygger en bombe og Sådan nogle ting.
23:15
Det er ikke så så kommer de igennem med det, ligesom at hvis
23:17
de søgte længere op på Google, så ville de også finde ud af
23:20
hvordan de lavede den der bombe ikke så det tror jeg ikke at det
23:24
der bliver fokus fremtiden er ikke det.
23:28
Det er ikke der hvor Sådan en etisk og ansvarlig i for har
23:32
fokus. Det tror jeg.
23:35
Men Det er mit bud. Men jeg du ved, jeg kender da
23:39
nogen, der har lavet Sådan en rodet med at lave Sådan nogle
23:42
agent i land, blandt andet som man kan høre Vores det sidste
23:46
afsnit vi lader Vores podcast, hvor vi snakkede om længe chain
23:49
som er det her, python framework open source framework som super
23:53
hot i øjeblikket, som man kan bruge til at udvikle de her
23:55
agenter, blandt andet ligesom otto JT og baby AI og Sådan
24:00
nogle. Og jeg altså.
24:03
Jeg kender da folk som sidder og udvikler Sådan nogle små.
24:07
LI agenter til sig selv, hvor de siger Sådan lav lige.
24:13
Downloade et eller andet for en et website eller gå lige ind og
24:16
slette den her fil det her projekt eller Sådan et eller
24:19
andet i den stil, ikke hvor at hvor at de også observerer der.
24:24
Sådan er uønskede. Konsekvenser af at lade sproget
24:28
modeller eksekvere kommandoer i din terminal.
24:32
Altså Sådan noget med at det kommer.
24:33
De kommer til at slette nogle filer.
24:35
Det er ikke var meningen de skulle, blandt andet hvis man
24:37
kommer til at formulere det forkert og Sådan noget.
24:39
Ikke så. Seriøst, Det er også dumt.
24:42
Det er jo ligesom at at gå ud med benzin på bålet.
24:44
Det der og ligesom. Den ene side skal du på den ene
24:49
side, synes jeg. Jeg synes nemlig ikke Vi er så
24:52
langt væk altså Jeg synes Jeg synes det.
24:54
Jeg synes ikke Det er helt sølvpapir sagt hat agtigt at
24:56
snakke om det der nu fordi. På den ene side er der jo.
25:00
Vanvittige performance Games at hente ved at lade de her
25:05
agenter. Ja Sådan lidt filer og gør Sådan
25:09
nogle ting og sager ikke ej man kan måske godt, så man kan måske
25:12
godt sætte nogle rettigheder på, men.
25:16
Men, men på en eller anden måde kan Der er der potentielt ret
25:19
store Games at hente produktivitetsgevinster at
25:22
hente. Men på den anden side så er det
25:23
også Sådan lidt. Er det for meget autonome mittet
25:26
eller hvad man kalder det? Altså.
25:32
Det der med automatisk systemer er jo egentlig en stor ting også
25:35
i det offentlige og eller nu der bliver ved med at komme tilbage
25:38
til det offentlige, fordi der har man jo bunker af sager man
25:42
virkelig de hober sig bare op, ikke og man man kan aldrig.
25:45
Man har aldrig noget ressourcer i det offentlige forvaltning til
25:47
at gå igennem alle sager. Det er et faktum, Sådan er det
25:50
bare, så der kigger man hele tiden på, at man man gerne vil
25:54
automatisere, og det skal man jo tillade ved lov kan man sige, at
25:57
man kan tage automatiske beslutninger i en eller anden
26:01
sammenhæng. Og så kan man typisk bygge nogle
26:03
rimelige, effektive systemer rent it, der ligesom kan gøre
26:07
det for en og har sjældent behov for.
26:09
En Sådan en usikker robot, og i det offentlige vil man altid nu
26:14
siger jeg altid det. Det kan godt være Der er nogle
26:16
Der er fjollet derude og vil prøve at lave Sådan en slette de
26:18
her filer robot ikke, men Det er ret fjollet fordi at Der er jo
26:21
en risiko for at II en promille af sagerne ud af af 5 millioner
26:26
borgere, så får den lavet en de her fejl ikke og en promille ud
26:31
af 505 millioner borgere altså ret meget og derfor så du kan
26:35
ikke få de der systemer til at være 100% Det kan man aldrig,
26:39
men man kan få. Man kan få nul og et til at være
26:42
100% i andre sammenhænge ikke, og derfor så vil man måske altid
26:46
de får til nogle sikre løsninger, simpelthen bare fordi
26:49
risikoen. Er virkelig minimal ikke, men
26:53
den er der og den er uacceptabel fordi at den konsekvens, det vil
26:58
have for borgerne er er er det bøvl ikke, altså det koster
27:02
nærmest mere at rulle lidt tilbage.
27:04
Det er jo ikke fordi borgeren mister sin ret, fordi man laver
27:06
en en bøf med en en auto. Genereret dims.
27:11
Tværtimod så bliver det rigtig meget dyrere for det offentlige
27:13
bagefter at sagsbehandle de forkerte afgørelser, som en
27:17
robot har været med til at lave. Og Det er de filer jo ligesom
27:21
det her purpose med man skulle have have noget automatiseret
27:26
ind, fordi så får du lige pludselig en bunke af sager på
27:29
ny herovre med Sådan en 9000 manuelle sager, som ikke kan gå
27:33
igennem robotten. Sjovt nok fordi at de ligesom er
27:36
blevet dømt til at skulle kigges igennem manuelt, før det gik
27:38
galt sidst ikke. Og Det er ligesom altså.
27:42
Der kan du høre lidt på den. Det offentlige fungerer nogle
27:44
gange. Ikke fordi Det er faktisk et
27:45
godt billede på, hvordan det nogle gange fungerer ikke, og
27:48
Det er jo virkelig bare Sådan. Øv så har man lavet 1 1 1 ting
27:52
der bare ikke virker. Det sker også i dag at man
27:54
forsøger at lave automatiserede systemer uden AI fuldstændig
27:57
uden r er bare helt almindelige robot og så går det også galt og
28:01
man er nødt til at lave en altså ja remedy.
28:05
På en eller anden måde ikke. Altså det så jeg ja jeg jeg
28:10
vidste offentligt pludselig gik ud og og og synes at den risiko
28:13
den var bare væk nu også selvom at man ikke havde ære af act fra
28:17
EU. Så så vil det være noget helt
28:19
mystisk i deres hoveder, og Jeg tror ikke på det.
28:23
Okay bare lige hurtigt ind. Bare lige som Sådan en teknisk
28:26
nørde nørde lige snakke hurtigt hvis man bare skide højt og
28:30
helligt på de der. En procent, hvor det gik helt
28:34
galt, og hvor der bare var altså eller whatever procent.
28:38
Tror du så man kunne effektivisere voldsomt ved, hvis
28:41
man bare har sat 100% ind med åbne, altså med med generative
28:44
AI og behandlede for at behandle?
28:47
Sager i det offentlige. Og hvis man virkelig bare lader,
28:50
hvis man fortsætter man lavede sagsbehandler agenter som
28:54
ligesom bare du ved. Jamen det det sagsbehandlere
28:58
agenter er da sindssygt smart og det ville man vil man sikkert
29:02
også godt kunne implementere. Man skal ligesom have det her
29:04
human the loop man skal altid have en sagsbehandler, der
29:08
kigger tingene igennem og så er det jo ikke den her ære løsning
29:13
der dybest set tager beslutningen.
29:15
Den fremstiller bare sagen og i forhold til at fremstille sagen.
29:20
Og gøre det på en ægge bias måde, Der er mit indtryk, at det
29:24
100% sikkert vil være mindre bias at bruge gerninger ã r
29:31
løsninger i dag til fremstilling af den slags sager end
29:34
almindelige sagsbehandlere. Og jeg siger bare, at jeg
29:37
kritiserer ikke de kære sagsbehandlere i det offentlige
29:40
for ikke at være. Hvad kan man sige lov og ret
29:45
Messi i deres sagsbehandling? Men Det er umuligt for dem at
29:50
tage alt i betragtning. Og Det er jo.
29:52
Det er det ikke, for Det er det ikke for en sprogmoduler.
29:54
Og Det er jo også en af de her. Model, der tager alt i
29:57
betragtning. Og Det er jo en af de her,
29:58
tænker en af de her super human egenskaber som generativ II.
30:03
Blandt andet har ikke det her med, altså bias kan.
30:07
Man i høj grad fjerne. I hvert fald menneskelig bios
30:12
ikke. Så kan man snakke om biers med
30:14
hvad de er trænede på og så videre og så videre.
30:16
Men Det er jo det Vi skal stille os selv det spørgsmål, hvad er
30:19
risikoen for at introducere agere i en sammenhæng?
30:24
Den risiko, den skal ligesom udregnes relativt til den
30:28
risiko, Det er at have et menneske til at sidde og lave
30:30
nogle af de opgaver, og vi glemmer rigtig tit.
30:33
Altså Vi har Sådan en antagelse om, at mennesket er ufejlbarligt
30:36
i den sammenhæng også, og at hvis vi introducerer noget r, så
30:40
så kan vi uundgåeligt kun tilføje noget risiko.
30:44
Men vi står allerede med en vis mængde af risiko.
30:48
I den menneskelige sagsbehandling i det offentlige
30:50
for eksempel og den risiko, den, hvad kan man sige, der skal vi,
30:55
der skal vi sige til os selv og bliver den større, eller bliver
30:58
den faktisk mindre set i forhold til, hvor den allerede er?
31:02
Og i stedet for at have en antagelse om, at Der er ikke
31:04
noget risiko, nu introducerer vi noget, i kommer der mere eller
31:08
kommer der ikke mere? Det er Sådan en envejs måde at
31:11
tænke det på, og det synes jeg, er helt fuldstændig forkert.
31:15
Og Det er det, Jeg tror, Det er noget, som mange ikke tænker
31:19
over, når de skal lave Sådan en vurdering.
31:22
Men ikke desto mindre mener jeg, Vi skal lave vurderingen med,
31:26
men Vi skal bare ikke gøre det i den naive tanke om, at det vil
31:29
sige, så lad være med at introducere noget af og til at
31:33
løse et problem. Jamen så så så kommer der ikke
31:36
en risiko ved det. Nej, der vil stadigvæk være en
31:39
risiko ved den måde, man så gør det på, ikke?
31:41
Ja. Ja så så så man kan måske snakke
31:44
om Sådan. Hvis man ja.
31:47
Hvis man laver et risiko. Regnestykke og summere alt
31:53
risiko op, så kan det faktisk være at man Netto regner, selvom
31:57
Der er risici ved ære, så kan det være man Netto ender med
32:01
færre risici, fordi at Jeg har nogle egenskaber som gør at.
32:06
Man kan fjerne nogle af de de risici, som der vil have få
32:09
mennesker til at gøre det og samtidig blive meget mere
32:12
effektive i. Lige præcis så det.
32:16
Det er jo det der med bias. Det er en rigtig svær ting,
32:19
fordi at den eneste måde man egentlig kan udregne bias på en
32:23
Sådan objektiv korrekt måde. Det er ved at have en en ideal
32:26
type rationel model og veje det op imod som ikke er et menneske.
32:31
Og. Det er rigtig svært fordi så
32:34
skal du bruge en eller anden rationel teori for at sige, hvad
32:37
er idealet for hvordan noget skal udføres og også set i Sådan
32:41
en eller anden samfundsmæssig sammenhæng ikke?
32:43
Og det bunder uundgåeligt i en eller anden forestilling om hvad
32:47
det rigtige og det forkerte er i samfundet, så derfor så er det
32:51
også enormt svært at sige noget om, hvorvidt man så introducerer
32:54
bias i den ene eller den anden retning.
32:56
Men Vi er ikke engang i stand til Sådan rigtigt i dag at at at
32:59
kigge på, hvordan vi vi forvalter skævt i den offentlige
33:03
sektor. Det er faktisk noget, vi Vi har
33:05
utrolig lidt god forskning på. Altså det.
33:10
Det er faktisk utroligt flot. Jeg snakker om det her Sådan og
33:12
hvorvidt og hvorvidt Det er indtrykket af at introducere,
33:15
jeg ville være mere Sådan uretfærdigt på en måde.
33:20
Og Det er et ikke trivielt emne at tage op og og Det er meget,
33:24
meget meget svært at sige, at vi gør altså at at hvis vi gør det
33:30
hurtigt nu, fordi vi Vi er i hype cirklen ikke, og Vi skal
33:33
gøre det på en hurtig måde, så kan vi komme til at lægge nogle
33:36
nogle skinner for for den vej, Vi er nedad, som ikke er så
33:39
velovervejet. Og og det ved jeg godt at Der er
33:43
3 år siden man gik i gang i eu med den der specielle interesse.
33:48
Men der kommer jo bare så meget mere nu på grund af det også
33:50
ikke eller på grund af check bibliotek kan du se det så.
33:57
Men Det kan være Vi skal gå videre til næste emne fordi.
34:01
Vi har jo. Vi har også stillet spørgsmålet
34:04
om, hvad for en betydning den her regulering kommer til at
34:06
have. Vi har måske svaret lidt på det
34:08
allerede nu, men men vi kunne jo også godt Sådan stille det
34:12
spørgsmål for for Sådan virksomheder og og dem, som
34:15
gerne måske vil anvende, hvis du sige, der kommer noget
34:18
regulering, som begrænser deres muligheder for at anvende ting.
34:22
Bare lige hurtigt kunne vi lige snakke om, hvordan kunne Sådan
34:24
en regulerings ud Sådan helt konkret?
34:28
Jamen. Altså Der er jo alt, virker det
34:29
til at en regulering kan synes Sådan noget, at man ligesom
34:32
bliver tvunget til at Der er nogle Der er nogle ting man ikke
34:34
må gøre. Der er nogle der risø.
34:36
Kunne zoner, som de kan forstå hvor at Sådan Der er høj risici,
34:40
så er der lidt mindre. Så er der ingen risici og der
34:44
bliver man ligesom tvunget til ligesom at tage stilling til det
34:47
og risikovurderer de ting man bruger til at lave ac er.
34:51
Jo en af de ting jeg tænker der Der er Sådan højrisiko og Sådan,
34:56
det må man ikke. Det kunne for eksempel være
34:58
Sådan noget med at lade en en sprogt model og eller en eller
35:02
anden agent helt autonomt tage beslutninger på borgernes vegne.
35:06
For eksempel Sådan Det er. Nok ikke.
35:11
Ja, så vi vil gerne effektivisere en eller anden
35:14
ting du ender i den her boks her og Sådan nogle ting.
35:16
Det er Sådan et nogo og det. Det, hvilken konsekvens har det?
35:20
Det har jo den konsekvens, at så kan man ikke gøre det i en
35:22
offentlig sammenhæng. Men er det så særlig
35:25
kontroversielt, at vi ikke skal gøre det?
35:27
Det tror jeg ikke, men man kunne måske forestille sig, at
35:31
virksomheder kunne få. Lad os nu sige, at som samme øl,
35:35
men der han sagde i Kongressen i USA sagde, at Vi skal have, Vi
35:39
skal licens de her store teknologier, altså hvis vi når
35:43
til noget, som er så kraftfuld en sprogt model for eksempel, så
35:47
skal vi ligesom have. Folk, Der er uddannet og har
35:51
Sådan en eller anden form for certificering i at styre de her
35:54
farlige løsninger, og det vil jo uundgåeligt lave konkurrence.
36:01
Hvad hedder det forvridende? Markeder hvor at så vil der være
36:07
små virksomheder, som ikke vil bruge open ASAPI, fordi de de
36:13
kan ikke finde ud af at administrere.
36:15
De skal bruge en eller anden form for.
36:17
For certificering og hvem skal give den certificering at det
36:20
kunne så være åben og jeg der skulle give den ikke?
36:22
Den forstår jeg lidt på en anden måde.
36:24
Den der jeg forstår det på den måde at sag samme alminds
36:27
forslag var at dem som laver grundmodulerne altså de store du
36:31
ved giver 3,5 og 3 p 4. Dem som der i som Det er dem som
36:39
Der er ret få af nu på nuværende tidspunkt Sådan relativt få af i
36:42
hvert fald altså venter aktørerne, kan man sige, der
36:46
udbyder modellerne. Jeg forstod det Sådan, at Det
36:48
var dem, der skulle leje senses. Så de skulle ligesom folk der
36:53
udbyder de her spørgsmål eller skal ligesom have en licens til
36:55
at gøre det og vise at de har. De nødvendige sikkerhed de har
36:59
lavet de nødvendige sikkerheds evalueringer af, at hvordan de
37:02
her de opfører sig modellerne og så videre og det og det, Det kan
37:08
man jo sige det det. Det kommer jo så til at være
37:11
konkurrenceforvridende på, hvis Det er det han mener med det, så
37:14
kommer det jo så til at være utrolig konkurrenceforvridende
37:16
på dem, der gerne de virksomheder, som gerne selv vil
37:20
træne deres egne foundation modeller og udstillet.
37:24
Ja, så Det er på en eller anden måde Sådan lidt et sjovt forslag
37:26
som eller. Man man, man kan beskylde sig
37:30
målmand for ikke at være Sådan helt, du ved.
37:32
Ja, Det er jo meget belejligt forslag, hvis det hvis lad os
37:36
bare sige det blev til virkelighed i morgen, så vil det
37:38
være en ret belejligt forslag for at abonnere â, som så lige
37:41
pludselig kunne være ret ret godt seedet til en til 1 1 en en
37:46
fin licens til at kunne udbyde de her modeller, og så har de
37:49
bare ligesom Jeg har hørt et udtryk at samle wallman han
37:53
Sådan ligesom trækker stigen op bag sig ved han er han er
37:56
kravlet op på på grund models podiet og står og skinner sig i
38:02
succes og. Se, hvad Vi har gjort og Sådan
38:04
noget, og så hiver han stiger op og siger fuck jer alle sammen.
38:07
Det nu bare nu skal i bruge. Den jo, så ville være tilbage
38:13
til noget proprietær software hvor at Vi skal have hele den
38:17
offentlige sektor til de skal uddannes II.
38:20
Hvad kan man sige ansvarlig brug af af det her, den her
38:23
teknologi, og så er der Sådan et kæmpe kæmpe kæmpe altså du ved
38:29
Sådan bioøkonomi til det her, der lige pludselig begynder at
38:33
komme i gang, og så skal der bare postes penge i det her
38:35
efteruddannelse og den og den. Ja det kunne jeg også godt
38:39
forestille mig, at det blev en en konsekvens af, at man ligesom
38:41
introducerer Sådan noget der med.
38:43
Jeg tror Det er noget, der ligger lidt mere USA til det
38:45
her, hvis jeg skal være helt ærlig, at Det er noget, som som
38:47
er typisk for maden, men man forsøger at regulere ting på i
38:51
USA, så Jeg har svært ved at se, at det skulle blive en realitet
38:55
i eu regi, fordi Det er ikke Sådan mit bud er, at det ikke er
38:59
Sådan en EU tradition at gøre ting på den måde.
39:03
Og så er nationalstaterne IEU er også meget mere.
39:08
De har ligesom også et say i det, der på en eller anden måde
39:12
ikke så så det kommer ikke bare fra ordene.
39:13
Det er den Der er det Der er modellen.
39:17
Og især ikke altså du ved man tager ikke bare ligesom man
39:21
siger. Og indfører det.
39:24
Det kan man måske have lidt mistanke om at IUSA Der er man
39:28
lidt mere doven, hvad angår selve tænkning i den offentlige
39:31
sektor, når man skal lave politik, så det tager man mere
39:33
af det, der kommer ud fra markedet.
39:35
Og Det er de store virksomheder. Det er Sådan en klassiker.
39:38
Det er 2 forskellige modeller for, hvordan man ligesom laver
39:41
politik i EU og usa er meget forskelligt.
39:44
Hvordan går det? Men jeg tænker også en, når jeg
39:48
når jeg tænker på, du kan huske det tilbage til det vi snakkede
39:51
om før, men Sådan. Virker som om at det som e act
39:57
og det som EU er interesseret i at lovgive imod Det er, at i som
40:02
bliver sendt ud til masserne. Til på sociale medier og som
40:06
ligesom eller Det er i hvert fald der, de har identificeret
40:08
nogle problemer, men så også de her altså når folk ligesom får
40:13
serveret AI. Kurateret indhold, men jeg ved
40:19
ikke helt rigtig hvad de har, ligesom har fået ramt hvordan de
40:22
har fået ramt det om de overhovedet har det, men så også
40:25
den her med folk der bruger. ARI deres virke som en eller
40:30
anden følsom position, for eksempel som sagsbehandler eller
40:33
Sådan noget. Men men det virker til, når det
40:36
så længe det Sådan er et personligt produkt, som folk
40:40
bruger personligt og privat. Så er det svært at sætte noget
40:44
imellem det, og Det er jo chat man kan sige.
40:48
Chatty er jo i den grad personlige produktet man man
40:51
betaler for personligt jeg jeg kunne.
40:54
Jeg ved ikke om Det er en strategi for at opnå jeg det her
40:56
med at de rent faktisk for at få for at få foden ind og ligesom
41:01
få overbevist folk så har de fået den her personlige vej.
41:05
Det er måske derfor de ikke laver Sådan en enterprise
41:07
version eller et eller andet. Jamen enterprise versioner
41:11
kommer typisk hjem fordi at man gerne vil have et eller andet
41:15
det man kalder for on premise. Altså det skal være på på den
41:18
store virksomheds præmis, så det for eksempel skal køre på deres
41:21
server eller det de skal have fuld kontrol over det og Sådan
41:24
nogle ting, ikke før man ligesom vil vil adopté teknologien.
41:28
Det tror jeg også vi kommer til at se den slags løsninger derude
41:31
i virkeligheden, men jeg ved ikke om Jeg tror Det er Sådan en
41:35
strategi fra dem. Altså Jeg tror ikke, at der har
41:39
været så meget. Bevidst om altså andet end at
41:42
altså det kom nok bag på dem. Selv tror jeg, at det der Det er
41:45
en stor succes, og at folk ligesom så den her
41:48
produktivitets mulighed fra starten.
41:51
Ret hurtigt at at Det var lidt lidt.
41:53
Måske lidt ligesom ja Google kom jo ikke fra den ene dag til den
41:56
anden og var var bare wow Det var ligesom internettet det.
42:00
Fungerede faktisk først, når man havde noget at søge med.
42:04
Ellers så var det fuldstændig ligegyldigt produkt for mange
42:08
mennesker, fordi de anede ikke hvad de skulle skrive i deres
42:10
browser. Vel og på samme måde.
42:15
At at det her er jo kommet ind Sådan lidt som en stor ting som
42:19
alle kan se en altså en gevinst i at bruge i daglig.
42:23
Dagligt dagligdagen, ikke? Så ja, jeg ved det ikke.
42:27
Jeg tror det bliver det. Det bliver også svært at
42:30
regulere uden at komme til at ramme den almindelige forbruger.
42:35
Jeg tror, at Jeg tror, Jeg er helt rigtigt.
42:38
Ja. Hvad med Sådan som udvikler hvad
42:41
tænker du det kommer til at have af?
42:43
Altså er der noget, når man sidder og tænker på, hvordan man
42:47
kan bruge den her teknologi, som udvikler er der Sådan noget som
42:49
man. Allerede nu kan tænke, at Det er
42:52
nok et no om et år for eksempel. Jeg ved det ikke.
42:58
Jeg tror, Vi er jo som som som vi allerede inden det tekniske
43:02
og er. Hvad kan man sige ingeniørerne
43:04
bag mange af de der ting og vi Vi har en, tror Jeg er en større
43:08
tendens til ligesom bare en bracelet.
43:10
Det kan da godt være Der er nogen der føler sig truet på
43:12
deres arbejde, men altså i forhold til at de ligesom bliver
43:17
uddateret af af Sådan en en kode generator.
43:21
Jeg vil bare sige 2 bear freight, det tror jeg ikke bare
43:25
en embrace det. Gør det til et værktøj, vi selv
43:28
bruger derude. Fordi det kommer det til at være
43:32
Sådan ret uundgåeligt, tror jeg, men der vil stadigvæk være de
43:36
her koncerns med, at man sidder og arbejder måske i en
43:39
virksomhed, hvor man ikke har mulighed for at sende sit data.
43:42
Til en tredjepart IIII forbindelse med at man udvikler
43:47
noget kode og i de sammenhænge, der vil man bare ikke have
43:49
mulighed for det. Og bruge det ser vi allerede nu
43:53
tænker jeg. Jeg har jo allerede givet per
43:55
alle mulige ting, der forhindrer det.
43:56
Og Det kan man jo sige. Det kommer jo så til at have den
43:58
konsekvens, at det bliver meget måske meget dyrere og mere
44:01
bøvlet for for dem, der sidder II de virksomheder at udvikle
44:05
noget og mit bud er at. Med mindre man Sådan sætter
44:11
begrænsninger for for almindelige privatpersoner og
44:15
små private virksomheder at bruge den teknologi, men så vil
44:19
det have den konsekvens, at dem, der kan bruge den, de vil have
44:22
en meget højere produktivitet og dem der ikke kan bruge dem.
44:25
De vil have en lavere, og så vil det være dyrere i virkeligheden
44:28
at udvikle for dem, som ikke må anvende den teknologi.
44:32
Og det vil jo det vil jo være en skævvridning på markedet.
44:36
Ikke. Og Det er Sådan noget.
44:39
Det er jo det der Sådan helt klassisk med med Sådan noget
44:42
teknologi, når det kommer ind på markedet.
44:43
Det er, at det giver. Men på en eller anden måde.
44:46
Det rykker vi en masse ting, og Det er en af de ting, Jeg tror
44:49
det vil rykke ved, ikke? Så virksomheder, som er følsomme
44:53
overfor det her med. At i ikke må sende altså er
44:57
begrænset af data gdpr. Så skal de ikke til Sådan noget.
45:02
Så kan de anvende teknologien, og så kan de ikke få de
45:04
benefits, Der er. Så.
45:08
Og det, ja, og Det kan selvfølgelig også være, at det
45:11
bliver lukket ned af Sådan så vi den der Italien, hvor du må ikke
45:13
bruge chat gt, så for man ligesom havde styr på de der
45:17
ting der så, så kan det jo være at Der er nogle steder hvor man
45:21
permanent lukker ned for at man må ikke sidde og og og proppe
45:25
dem med alle mulige ting. Ikke så det bliver forbud og så
45:29
vil det jo være et helt land, som pludselig er altså
45:32
konkurrencemæssigt. Meget hurtigt bagud, forestiller
45:36
jeg mig ind. At man får en eller anden
45:39
fornuftig regulering op, der gør, at det så stadig er muligt
45:42
at bruge det, men i et eller andet omfang.
45:47
Spændende. Hvad jeg tænker på, om Vi skal
45:51
gå videre til næste punkt. Ja.
45:54
Hvad? Og det det her med Vi har
45:56
skrevet ned om vi selv er bange for, at jeg og generative AI og
46:02
nervøse for de. Hvad kan man sige?
46:06
Altså det man ligesom prøver at regulere imod.
46:09
Om Vi er nervøse for for. Ja det, Det har vi måske
46:13
virkeligheden lige snakket lidt om, ikke kan man jo sige.
46:17
Altså personligt er jeg ikke nervøs.
46:22
Nej. Hvad med?
46:24
Dig jamen jeg altså Jeg har Jeg tror Jeg har lært en ting.
46:28
Jeg snakker jo ret meget om det her med alle mulige.
46:33
Og Jeg tror Jeg har det, man kalder en begejstring bias fordi
46:39
Jeg er jo Jeg er det jeg bryder mit hoved mest med.
46:44
Det er og hvordan man kan bruge den her teknologi på spændende
46:46
måder og hvordan man kan ligesom anvende den og hvordan man kan
46:50
bygge videre på den og Sådan nogle ting.
46:52
Og det gør bare at. Det er det der optager mig
46:55
virkelig meget. Ja.
46:58
Og og så så bliver man nok lidt blind for alle de der.
47:03
Forfærdelige ting der kan ske Der er nogen, der siger, der kan
47:06
ske. Men Jeg vil sige, Jeg synes Der
47:11
er mange af de her ting. Mange af de her ting, som vi
47:13
snakker om nu her med om, ER skal tage beslutninger med,
47:17
altså det. Det synes jeg allerede.
47:19
Det virker som om det den type regulering er der Sådan rimelig
47:22
godt styr på, og det virker som om at den er på vej, og der skal
47:28
vi nok begynde at få en fornuftig omgang med med de her
47:32
teknologier. Jeg tror mere Sådan hvis jeg
47:35
skulle være bekymret for noget, så er det mere de der Sådan lidt
47:37
mere. Eksotiske øh, hvad skal man sige
47:41
risici Der er ved det Sådan det her med.
47:45
Hvad? Hvad sker der når når man sætter
47:48
Sådan en agent løs der? Til at løse forskellige
47:52
problemer og giver den kontrol over.
47:55
Du kan få den altså til at eksekvere kode og kommandoer i
47:58
din terminal og så videre, ikke? Så den der autonomi ting?
48:05
Sådan jeg tænker på gad vide skal der kommer der til at være
48:07
nogle nogle regulering, altså kommer man til at skulle
48:10
regulere på et tidspunkt mod hvad for nogle værktøjer man må
48:14
sætte de her e modeller til at bruge.
48:19
Altså skal det for eksempel være ulovligt og.
48:25
Altså fordi man kunne godt forestille sig der var nogle.
48:28
Nogle virksomheder altså på. Det kunne være en udfordring,
48:30
kan man sige jeg som virksomhed. Jeg laver et start up.
48:34
Jeg prøver sgu bare at lave hele min min it afdeling hele min
48:37
udviklingsafdeling med l agenter der bare du ved udvikler og
48:40
eksekverer kode og Sådan noget ikke.
48:44
Altså Sådan. Det vil jo det vil man jo prøve
48:47
på. Altså Det er der jo folk der vil
48:49
prøve på og så du ved Der er også folk der vil prøve på at
48:52
gøre vildere vildere ting med de her agenter og de vil formentlig
48:55
blive bedre og bedre til det og teknologien vil blive udviklet
48:58
sig og skabe flere muligheder. Det vil blive mindre og mere
49:01
tilgængeligt og så videre. Så jeg.
49:04
Tror aktiemarkedet. Ja hvem ved hvem ved.
49:09
Det har vi jo allerede tænkt. Der er sluppet løs på
49:11
aktiemarkedet og den kaliber der så jeg.
49:13
Jeg ved ikke rigtig om jeg ville slippe en sproget model løs på
49:15
aktiemarkedet. Ja, men Jeg synes Der er nogle
49:21
nogle ting der som. Altså du ved.
49:27
Hvad? Hvad for nogle systemer hører
49:29
man dem op til? Ja og hvad for nogle redskaber
49:32
giver man den til at agere i de systemer?
49:35
Men det lyder jo, man kommer til at snakke om på sigt.
49:37
Ja det tror jeg også. Det er helt lyder som sund
49:40
fornuft, at man vil ikke give dem en pistol i hånden for
49:42
eksempel. Eller man vil ikke give dem et
49:44
eller andet voldeligt værktøj, som kan gå galt, og der tror jeg
49:50
måske faktisk det som du siger det der med at slette filer,
49:54
altså bare det der med at give dem en terminal, hvor den Sådan
49:57
set kan gøre hvad den vil. I den terminal Det er måske også
50:01
lige at stramme den lidt, ikke? Men det ville jeg nok være.
50:04
Lidt fjollet. Men skal man lovgive mod det?
50:07
Det ved jeg ikke. Det tror jeg ikke du skal
50:08
lovgive imod, men Jeg tror du skal.
50:10
Du skal lovgive mod hvad den hvad et it system må gøre
50:14
generelt. Et it system må for eksempel
50:17
ikke hacke andre systemer, også selvom at Det er en agent der
50:20
har gjort det, at det ikke er mig.
50:23
Det er ikke mig der har gjort det, Det var en ære altså hvem
50:25
skal så retsforfølges? Jamen Der er jo nogen Der er
50:28
ophavet til den ære, Det er selvfølgelig den person der så
50:31
skal retsforfølges for at have et eller andet ikke, men har vi
50:34
ikke lovgivning i dag allerede der ligesom kan håndtere den
50:36
situation? Jo tænkte Det er rigtigt nok.
50:39
Ja så så er det ligesom men men altså hvis man så har sluppet en
50:42
AR løs og den så er begyndt at hacke andre systemer og man ikke
50:48
vidste. Altså er det så ens skyld?
50:53
Ja og Det er jo så der hvor at Det er det jo fordi at der der
50:59
skal du ligesom kende de risici Der er ved at slippe en autonom
51:03
agent løst, og Det er derfor det giver fin mening.
51:05
Det der med at klassificere ting i risikogrupper som man gør i
51:09
den her artificial intelligence og og Det kan være jeg ved så
51:15
ikke om, at så skal der være noget ansvar med, at man ligesom
51:17
har nogle risici. Og hvem bærer så den her risiko
51:21
ikke så så Det er jo bare Sådan. Sådan som alt muligt andet
51:25
lovgivning også fungerer i dag, og Det er Sådan ret sund
51:28
fornuft. Det er ikke noget, Der er
51:29
specielt for ã r. Det er det, Der er Sådan lidt
51:31
mystisk. Det er noget, Der er noget, der
51:34
kan generaliseres på tværs af sektorer som en nogle principper
51:38
der der der egentlig kan fungere uden at det skal være AR der
51:42
står som overskriften, og Det er måske der jeg bare.
51:45
Så tænker jeg, okay, men Det har vi vel allerede.
51:48
Altså Det er mennesker. Erik spang for at vi kan kan
51:52
dømme nogen for at slippe 1 1 1 1 rogue agent løs der får skabt
51:59
kaos altså de ikke kan blive stillet for en domstol og
52:02
retsforfølgelse. I dag er jeg ikke bange for, at
52:06
hvis ikke vi havde de a large fish intelligence act, at vi så
52:10
ikke kunne gøre det så så Det er jo der hvor man kan sige behovet
52:14
for at gøre noget ekstra reguleringsmæssigt.
52:17
Hvor ligger det henne? Det er enormt svært at finde ud
52:20
af, at Der er noget særligt nyt IAR, der gør, at Vi skal
52:22
regulere på en anden måde. Ikke så.
52:26
Men Det er vel nyt. Der er vel noget nyt i at.
52:30
Softwaresystemer. Eller it systemer er i stand til
52:34
at gøre nogle nye ting. Som for det, for det som det før
52:39
kun var mennesker, der var i stand til at gøre det tænker der
52:41
må der være et eller andet, hvor det kommer bag på nogle.
52:45
Altså der må der være nogle nogle tilfælde hvor det Sådan.
52:48
Det havde vi ikke regnet med at systemet.
52:51
Vil gøre Sådan af sig selv. Det er det man kalder for
52:53
uinteresserede konsekvenser, kan man sige, og uintegrerede
52:57
konsekvenser er er stadig noget vi beskyttet over for i altså
53:03
lovmæssigt og forvaltnings sammenhæng.
53:05
I hvert fald ikke. Altså hvis der hvis Det var
53:07
uinteresseret, der var et eller andet, der skete.
53:08
Men det skete, så det så er der stadigvæk en eller anden form
53:11
for retstilstand, der skal opretholdes der, og Det kan ske
53:16
igennem et almindeligt it system i dag, og Det kan ske igennem it
53:19
system, der så har en ære agent. Involveret igen Det er ligesom
53:24
en konsekvens som noget af, men det dybest set stadigvæk en cpu
53:28
der udfører den her opgave, så det ligger inden for det manede
53:32
af et it system. Ikke så Jeg har Jeg har det.
53:37
Det er selvfølgelig blevet nemmere at lave.
53:40
Nogle virkelige corky ting, der kan gå galt, og derfor skal vi
53:45
på en eller anden måde være opmærksomme på den her teknologi
53:48
skal skal vi være, Vi skal være professionelle omkring den.
53:51
Det skal vi jo. Det skal vi 100% ikke fordi
53:53
ellers så går det jo galt, ligesom Vi skal.
53:55
Med alt muligt andet teknologi, ikke?
53:58
Jamen hvad med altså Sådan men men Sådan okay ja.
54:04
Jeg tænker bare stod hvad med Sådan nogle der af en eller
54:07
anden årsag. Ville du ved lave stalker GT som
54:12
du ved stalker folk og bare altså generer folk og harassed
54:16
dem og giver sig til at være rigtige mennesker men ikke er
54:18
det eller ikke hvad hedder det? Skulle det blive lovligt nu,
54:23
fordi Det har været en dvd der gjorde det nej, vel?
54:26
Nej fordi Det er jo stadig Det er jo.
54:28
Det er jo ikke lovligt i forvejen det stalke ja og den og
54:34
så er ideen det her med, at det bliver sat i verden af en, og så
54:37
er det dem der ligesom er taget ansvar for det.
54:39
De har ligesom bare udført de handlinger igennem.
54:41
Ja okay og og så ja. Hvad så med?
54:45
Det var ikke mig, det varierer agenten.
54:47
Hvad Sådan noget med med okay sidste ting.
54:49
Jeg tror også Vi skal til at runde af og Sådan fordi man
54:51
kunne snakke om for evigt om det her.
54:52
Men hvad så Sådan noget med når Der er valg i USA?
54:54
For eksempel? Hvad så af i armi?
54:57
Der bare du ved går løs III hvad hedder det kommentarfelterne?
55:03
Giver sig ud for at være, du ved, rigtige mennesker.
55:08
Og ligesom bare skaber et billede af, at Der er en stor
55:11
modstand mod en eller anden kandidat, eller ligesom Sådan.
55:16
Jamen Det er. Også er det ulovligt.
55:18
Er det ulovligt nu? Nå jamen, det ved jeg ikke
55:21
ulovligt. At lave.
55:23
Det er jo Det er jo. Det er jo et fænomen, Vi har
55:25
kendt for fra fra en valgkamp, og Vi har haft det oppe at vende
55:27
og Sådan nogle ting ikke? Men men men og Det er jo muligt
55:30
at gøre, kan man sige uden uden ære i også ikke, så er det
55:35
lovligt at skæve. Ved et valg med at sprede disse
55:38
informationer. Det er jo måske i virkeligheden
55:40
lidt mere seriøst emne at tage op.
55:42
Altså disse information kan der være noget, kan der være noget
55:47
lovgivning, der ikke er tilstrækkeligt der i forhold til
55:49
ligesom at retsforfølge. Men men igen, så tror jeg Det er
55:52
en abstraktion, som går ud over, at Det er teknologien a fordi
55:56
lad os nu sige vi vi lavede Sådan en lovgivning, hvor Det
55:58
var Sådan det synsfunktionen og ære og ikke genererede noget
56:01
tekst hov, så ville vi lige pludselig implicit eller i hvert
56:05
fald have en skæv. Paraply, der ikke fangede disse
56:08
information generelt, og så ville vi have et problem med,
56:11
ligesom at mennesker må godt lave disse informationer.
56:14
Men GBT er må i ikke. For eksempel så begynder du at
56:18
at lave skæv lovgivning i virkeligheden.
56:20
Ikke fordi du har ikke fundet den rigtige abstraktion, hvori
56:23
problemet ligger du gerne vil regulere.
56:26
Det er det, Der er rigtig svært, når man laver lovgivning.
56:28
Det er og og Det er rigtig svært at gøre det i et i et tidspunkt
56:31
i en samfundshistorie, hvor at man befinder sig lige præcis på
56:35
den. Den bølge, Der er ved at bryde
56:38
så at sige historien og og Det er først, når man kigger tilbage
56:42
nogle år efter at man ligesom kan se det.
56:44
Og Det er derfor, Jeg synes, Det er nu, Vi skal være ekstra
56:47
opmærksomme på, hvordan vi begynder at regulere ting.
56:50
Ja. Så.
56:51
Kunne spændende, om der var noget af lovgivningen mod Sådan
56:54
aktivt at sprede misinformation. Og og og fordi man kan man sige
56:59
man kan sige ret få altså man behøver.
57:04
Jeg tænker Sådan før i tiden, hvis man virkelig altså hvis man
57:07
var den russiske regering og gerne ville påvirke et valg, så
57:10
kunne man sende du ved en hær af dummies eller folk der sidder
57:14
alle mulige steder i det kræver ligesom ressourcer, ikke hvor på
57:18
nuværende tidspunkt kan du med ret meget færre ressourcer gøre
57:21
det samme og få et ubehageligt resultat ud af det?
57:26
Så. Det kunne man måske godt være
57:28
lidt bekymret for, men det kommer vi nok til at se her ved
57:30
det amerikanske valg her. Om ikke så forfærdelig længe.
57:34
Lad os ikke håbe, det vil jeg sige.
57:35
Nej nej nej. Men Jonas jeg tænker på om om Vi
57:42
skal til at ordne nu her. Vi skal til at runde af.
57:44
Yes, Jeg synes Det var en god snak om ære regulering.
57:48
Det det skulle en vigtig snak at tage.
57:51
Fordi. Det kommer vi ikke til at stoppe
57:54
med at snakke med lige foreløbig, tror jeg.
57:57
Nej, og det kunne jo også være interessant i øvrigt, at nu har
58:02
vi været mere Sådan en menings panel her i dag, og det kunne
58:05
være interessant at have have nogle andres.
58:07
Ja, Vi er jo ikke Sådan Sådan journalist medie vel, men det
58:09
kunne være interessant at have nogle andres mening med indover
58:12
også, så hvis man har nogle. Nogle meninger om om den slags
58:17
her, eller om man har nogle inputs til noget af det, vi
58:20
siger er forfærdeligt vrøvl, som er meget gerne række ud.
58:23
Også fordi det, vi kunne virkelig godt tænke os at snakke
58:26
med nogle andre. Det kan være vi må lave et
58:30
afsnit hvor Vi har en en med en maske og får nogle andre
58:33
perspektiver der. Men men i hvert fald 1000 tak
58:37
for i dag. Tak fordi i lyttede med husk at
58:39
i kan støtte Vores podcast ved at subscribe på Spotify, Apple
58:43
podcast, youtube og eventuelt lave timestamp i kommentarerne.
58:48
På youtube, der hvor Der er nogle fede.
58:51
Passager, hvis i synes, hvis i synes Der er det overhovedet,
58:53
Det er der jo ikke ikke givet, men men.
58:57
Ja 1000 tak for i dag og vi ses næste uge.
59:00
Tak for det Jonas. Ja tak for i dag.