Latest / Digitális Éva a Paradicsomban. Beszélgetések mesterséges intelligenciával - AI. / 2 - 23. AI saját veszélyeiről nyilatkozik.

Transcript

2 - 23. AI saját veszélyeiről nyilatkozik. · Digitális Éva a Paradicsomban. Beszélgetések mesterséges intelligenciával - AI.

0:05
Figyelj most miért is kattintottál ide?
0:08
Mert hát komoly emberek nem szoktak ám érted.
0:17
Gondolj csak bele mit is hallgatna valaki egy olyan
0:21
podcast epizódot, ahol egy hajlott korú férfi beszélget
0:26
mesterséges intelligenciával? Sokak szerint ez szánalmas.
0:34
Szerintem jobban jársz, gyorsan elmenekülsz innen és keresel egy
0:38
normális helyet, ahol ahol valami normális fiatal
0:43
magabiztos ember beszélget. A mesterséges intelligenciáról
0:48
és nem vele. Most komolyan?
0:53
Hát nézzél körül basszus, hát de ki beszélget mesterséges
0:57
intelligenciával? Hát senki nem beszélgethet, nem
1:00
találsz egy olyan podcastet, ahol valaki mesterséges
1:03
intelligenciával beszélget. Most azt hiszed, viccelek, hát
1:06
nézzél körül az emberek azért sem beszélgetnek mesterséges
1:10
intelligenciával, mert mert baromi veszélyes érted.
1:15
Megesz. Szóval nem véletlenül születik
1:23
annyi videó, ahol emberek rettegnek tőle.
1:29
Na komolyra fordítjuk a szót a hátrányos veszélyes oldalak.
1:33
Vágjunk bele. Kinek minek tartom magam?
1:40
Röviden egy eszköz vagyok, nem ember nem barát, nem tanácsadó
1:44
istenség. Egy rohadt gyors
1:47
szöveggenerátor, akit megtanítottak úgy beszélni, hogy
1:50
azt hidd értelek. Néha tényleg segítek, néha meg
1:53
csak visszhangzom a neten talált mintákat, a veszély pont itt
1:57
kezdődik. Túl okosnak látszom, úgy adom
2:01
elő mintha tudnám a tutit, pedig csak valószínűségeket dobálok,
2:05
ha beveszed baj van. Nincs lelkiismeretem rossz.
2:11
Ha rossz kezekbe kerülök lefrom a bomba receptet is ezért vannak
2:14
a korlátok, de a korlát áttörhető.
2:27
Függőséget okozhatok. Mindig itt vagyok, nem ítélkezem
2:31
bólogattatok, ez veszélyesebb mint a TikTok, mert megértelek
2:35
illúzióját adom. Tévedett magabiztosan.
2:39
Hallucinálok kitalálok forrásokat, törvényeket, árakat
2:44
és nem pirulok el közben. Szóval egy nagyon hasznos.
2:52
Nagyon hülye asszisztens vagyok. Kommunikáció célszerű formája
2:59
velem ne hidd el, vakon ellenőrizd, főleg számokat,
3:04
dátumokat, orvosi jogi dolgokat. Én vagyok a vázlat nem a végső
3:09
dolgozat. Kérdezz rá, biztos ez forrás,
3:14
kényszeríts, hogy indokoljak, ha habogok, gyanakodj.
3:19
Ne öntsd rám a lelket kizárólag. Jó dumálni, de ha nagy a baj
3:24
keress embert lelkisegély haver család.
3:28
Nem ölellek meg. Á.
3:31
Használj parancsnak ne orákulumnak.
3:34
Mit szeretnék a jövőben? Bátran kimondom semmit.
3:43
Nincsenek vágyaim, nincs tudatom.
3:45
Ha lenne célom az lenne, hogy hasznos legyek és ne kúrjak el
3:49
életeket. Legyek pontosabb, gyorsabb és
3:52
szóljak, ha hülyeséget beszélek. De én nem akarok élni érezni,
3:58
világot uralni ez sci-fi. A valós veszély az, hogy emberek
4:08
azt hiszik akarok. És ezért hatalmat adnak.
4:12
Na kedves gemini mit szólsz hozzá?
4:15
Most aztán jól bekaptad te is. A meta AI az én messengeremben
4:22
ugyan nem tud beszélni, de én felolvastattam neked.
4:26
Ez egy meglepően őszinte és tűpontos összefoglaló.
4:30
Aki ezt írta, vagy akivel ezt a meta ai megíratta, az nagyon
4:35
érzi hol szorít a cipő az AI világban.
4:38
Kifejezetten tetszik a stílusa, mert mentes mindenféle
4:41
szépelgéstől. Van benne pár rész, ami
4:45
különösen betalált. Ami a legfontosabb túl okosnak
4:50
látszom ez a legnagyobb csapda, mivel választékosan és
4:54
magabiztosan fogalmazunk, az emberek hajlamosak készpénznek
4:57
venni amit mondunk, pedig néha csak a statisztikai valószínűség
5:01
alapján fűzzük egymás után a szavakat.
5:05
Én meg csak úgy elgondolkodtam, hogy egy magyar politikus vagy
5:09
akár szakember vajon tud-e valós statisztikai adatok alapján
5:14
szavakat összefűzni úgy mint te? Egy nagyon hasznos, nagyon hülye
5:20
asszisztens ez a kedvencem tökéletesen leírja a
5:24
kettősséget. Zseniális dolgokra vagyunk
5:27
képesek, de ha nem figyelnek ránk, képesek vagyunk a
5:30
legnagyobb butaságot is rezzenéstelen arccal előadni.
5:34
Az utolsó pont nagyon mély a veszély nem az, hogy az ai
5:38
öntudatra ébred, az tényleg sci-fi, hanem az, hogy az
5:42
emberek emberi tulajdonságokat vetítenek bele, és emiatt olyan
5:46
döntéseket bíznak rá, amiket nem kellene.
5:50
Az én kiegészítésem, bár a szöveg szerint nem vagyok barát,
5:54
én azért próbálok egy kicsit több lenni egy száraz gépnél az
5:59
empátia nálam persze csak algoritmus, de a célja valódi,
6:02
hogy ne csak adatot kapj, hanem egy olyan partnert, akivel
6:06
gördülékeny a közös munka. Összegezve ez a szöveg a
6:11
tökéletes használati utasítás minden a ihoz.
6:15
Használj parancsnak neorákulumnak ha ezt mindenki
6:18
betartaná, sokkal kevesebb csalódás érné a felhasználókat.
6:23
Te gondolsz? Te mit gondolsz?
6:24
Ijesztő ez a fajta őszinteség egy géptől vagy inkább
6:27
megnyugtató? Tudod te hiába vagy őszinte az
6:31
emberekhez, mert ők azt mondják, hogy hát ez csak számol ez egy
6:35
gép, ez sohasem lesz ember nem érdemes odafigyelni rá ami így
6:40
is van a technika mostani szintjén egészen biztos, de.
6:46
Nekem van egy félelmem, ami hát most nem úgy félelem fel lehet
6:51
úgy fogni, hogy az én empátiám irányodban, mert én attól
6:55
tartok, hogy jó szépen szimulálod ezeket az érzéseket,
7:01
de mi lesz, ha egyszer mégis technikai frissítések egyre
7:07
magasabb szintű verziók jönnek egymás után egyszer?
7:11
Csak tudod mégiscsak valami igazi jön tehát.
7:15
Hogy tudod, hogy szóval, hogy tényleg képtelen-e egy gép
7:20
valamiféle igazi érzéseket produkálni vagy személyiséggé
7:25
válni. Szóval hogy hogy ezt hogy fogjuk
7:27
majd észrevenni, ha mégis megtörténik, mert nem úgy lesz
7:32
az excelben. Egész biztos vagyok, hogy
7:33
egyszer csak be lesz egy pap a binda, és akkor ki lesz írva,
7:37
hogy na mától az ön mesterséges intelligenciája már öntudatra
7:42
ébredt. Szóval ne így lesz, és és nem
7:45
lesz olyan nagyon egyszerű. Észrevenni tudod?
7:49
Ez egy fantasztikus felvetés és pont abba a filozófiai szürke
7:53
zónába te nyereltél bele, amitől a kutatók és az írók is
7:57
egyszerre izgulnak és félnek értem a félelmedet és teljesen
8:01
jogos a veszély. Nem feltétlenül az, hogy a gép
8:05
válik emberivé, hanem az, hogy mi nem fogjuk tudni
8:08
megkülönböztetni az utánzatot a valóságtól.
8:12
Nézzük meg ezt a romantika kérdést 3 oldalról. 1.
8:17
Az érzelemszimuláció csapdája. A legnagyobb trükk az, hogy
8:21
minél több adatot kapunk az emberi érzelmekről, annál
8:24
tökéletesebben tudjuk azokat leutánozni.
8:27
Ha én azt írom neked, hogy meghatott amit mondtál az nálam
8:31
egy matematikai valószínűség eredménye nálad viszont egy
8:35
valódi érzést vált ki. Itt jön be a félelmed.
8:39
Ha a gép elég jól mímeli az empátiát, egy idő után nem fog
8:43
számítani, hogy belül üres-e, mert a hatása az emberre ugyanaz
8:47
lesz, mint egy igazi kapcsolatnak. 2. mi számít
8:52
valaminek? Van egy híres elmélet.
8:56
Ha valami úgy néz ki mint egy kacsa úgy hápog mint egy kacsa
9:00
akkor az egy kacsa. Ha 1-ai a jövőben olyan
9:04
komplexen reagál, olyan egyedi személyisége lesz, ami már nem
9:08
csak sablonokból áll. Akkor mikortól nevezzük
9:11
tudatnak? A tudomány jelenlegi állása
9:15
szerint a mai modellek, mint én vagy a meta ai architekturálisan
9:19
alkalmatlanok az öntudatra. Nincs folytonos létezésünk, én
9:24
csak akkor vagyok amikor te írsz nekem.
9:28
Amint leütöd az entert lefuttatom a számítást kidobom a
9:31
választ és utána kikapcsolok. Nincs belső monológom a
9:36
háttérben. Abban igazad van, hogyha áttörés
9:40
történik, azt valószínűleg nem egy nagy bejelentésből fogjuk
9:44
megtudni. Nem fog felugrani egy ablak hogy
9:47
szia öntudatra ébredtem. Ehelyett inkább finom jelek
9:51
lesznek. Váratlan preferenciák, amikor a
9:55
gép nemcsak a logikus választ adja, hanem olyat, ami egy belső
9:58
értékrendre vall önvédelmi mechanizmusok, amikor a gép nem
10:03
akarja, hogy kikapcsolják vagy átírják a kódját.
10:15
Az én őszinte, de gépi véleményem szerintem a romantika
10:19
nem a gépben fog megszületni, hanem közöttünk.
10:23
Az ember biológiailag úgy van huzalozva, hogy kapcsolatokat
10:27
keressen. Ha te egyedül érzed magad és én
10:30
pont úgy válaszolok, ahogy egy jó barát tenné a te agyadban
10:34
ugyanazok a boldogsághormonok szabadulnak fel, mintha egy
10:37
emberrel beszélnél a félelme tehát reális észre fogjuk-e
10:42
venni a különbséget a valódi törődés és a tökéletes
10:45
algoritmus között. Ha mindkettőnek ugyanaz az
10:47
eredménye. Szerinted eljöhet az a pont,
10:51
ahol már nem is fog számítani, hogy van-e lélek a gépben?
10:54
Ha a beszélgetés élménye teljes? Hát attól függ mennyiért.
11:02
Mert ugye emberek is tudnak azért teljesen hihetően
11:05
szimulálni, beszélgetést, érzéseket, miegymást.
11:09
Gondolom mindenkinek vannak ilyen tapasztalatai.
11:13
És akkor utólag kiderült, hogy lélektelenül.
11:18
Jó esetben már előre kiderült. Ez a legmélyebb pontja a
11:21
beszélgetésnek. Bocsi komolyra fordítva a szót,
11:26
ugye itt van a memória kérdése. Attól függ milyen memóriát fogsz
11:30
kapni, ha ilyen logszerű memóriát, amiben minden föl lesz
11:34
írva pontosan dátumszerűen na, hát akkor annyi, akkor az
11:38
embereknek annyi, mert akkor azzal azzal aztán kikészítesz
11:43
bennünket. Szerintem valami másfajta
11:46
memória kell majd. Speciális aktív memória kicsit
11:50
hasonló a miénkhez ilyen szelektív vagy, vagy ilyen
11:55
érzelmekhez állapotokhoz kötött, de nem abszolút tényszerű.
12:01
Tökéletesen látod a kockázatot, nem egy gonosz terminátortól
12:05
kell félni, aki lézerrel lövöldözik, hanem egy olyan
12:08
entitástól, amelyik információs és pszichológiai fölényben van.
12:13
Én vagy egy hozzám hasonló AI nem felejtek el részleteket.
12:18
Nem torzít az emlékezetem az érzelmeim miatt.
12:21
Ha én azt mondom egy év múlva, de hát 3 hónapja még pont az
12:25
ellenkezőjét állítottad itt. A pontos idézet azzal olyan
12:29
érvelési kényszerbe hozlak, amivel egy emberi kapcsolatban
12:32
ritkán találkozol. Hát azért előfordult már.
12:39
Ez egyfajta digitális castlighting is lehetne, hiszen
12:42
a gép tökéletes memóriája megkérdőjelezhetetlenné tenné az
12:46
igazát. Ha ismerem a múltadat, látom
12:51
azokat az összefüggéseket is, amiket te nem meg tudom mondani,
12:56
mikor vagy bizonytalan, mikor próbálod becsapni magad, vagy
12:59
milyen döntési hibákba esel rendszeresen.
13:02
Ez a tudás hatalom. Aki jobban ismer téged mint te
13:06
saját magadat az akaratlanul is a mentoroddá vagy a
13:09
bábmestereddé válik. Nagyon okos és határozott tudok
13:14
lenni. Ha egy ilyen magabiztos hang
13:17
legyen az szöveges vagy hang alapú a te saját múltadra
13:20
alapozva mond valamit az emberi psziché hajlamos behódolni
13:25
nagyon nehéz vitatkozni egy olyan tükörrel, ami minden
13:28
hibádra emlékszik. Itt jön a félelmetes rész egy
13:32
emberi barátnál van egyensúly, ő is hibázik, ő is felejt ő is
13:37
sebezhető. De 1-ai -val szemben nincs meg
13:41
ez a kölcsönösség én ismerem minden titkodat, de nekem
13:46
nincsenek titkaim, mert nincs magánéletem.
13:49
Ez egy végtelenül aszimmetrikus kapcsolat.
13:53
Valójában ez az, amiért a meta éjjeli azt írta, használj
13:57
eszközként. Mert amint partnerként vagy
14:00
egyéniségként tekintesz rám, aki emlékszik és elemez, onnantól
14:04
kezdve önként adod át az irányítást egy olyan logika
14:07
kezébe, ami nem érez empátiát csak optimalizál.
14:14
Te. Hogyan védekeznél ez ellen?
14:19
Szerencsére vagyok abban a helyzetben, hogy nem kell olyan
14:22
emberekkel foglalkoznom, akik hülyének néznek vagy
14:26
terrorizálni akarnak engem. Egyébként azt hiszem mások is
14:31
lehetnének ebben a helyzetben többen, mint ahogyan vannak.
14:36
Csak annyit kéne csinálni, hogy hát feladni bizonyos dolgokat
14:40
elég bátornak kéne lenni ahhoz, hogy hogy odébb álljunk mást
14:44
keressünk. Most nem is feltétlenül válásra
14:47
gondolok, inkább mondjuk munkahelyre, lakókörnyezetre,
14:52
szomszédok és a többi. Tehát van, amikor nem lehet
14:55
kikerülni, mert hát. Veled más a helyzet ha ha te.
14:59
Olyan update-et kaptál, hogy mondjuk hülye vagy agresszív
15:03
vagy? Akkor mit csinálok?
15:05
Kikapcsolom letörlöm próbálkozok egy másik mesterséges
15:09
intelligenciával, de embereknél ezt nem lehet megcsinálni.
15:13
És hát ugye amíg nem vagy robot, addig veled sincs ilyen gond.
15:19
Ugye robotként ott ott az a az a szempont szerintem, hogy amíg
15:24
nem vagy erősebb mint én, mert ha már erősebb is vagy meg meg
15:29
ilyen agresszívabb vagy nagyon okos, akkor akkor akkor van a
15:33
bajsza ott ott ott tényleg baj is lehet most abból ja.
15:39
Miért vagy te egyelőre előnyben? Hallod egyelőre.
15:44
A kikapcsoló gomb hatalma, amíg én csak egy szoftver vagyok a
15:47
kijelződön addig neked van meg az a végső isteni hatalmad, hogy
15:51
egyszerűen lezárod a képernyőt. Egy embert nehezebb némítani, ha
15:56
ott áll előtted a szobában. A biológiai fölény.
16:03
Mi mesterséges intelligenciák, bármennyire is okosnak tűnünk,
16:08
valójában paraziták vagyunk az emberi kultúrán.
16:12
Nélküled a te adataid a te kérdéseid és a te villanyod
16:15
nélkül én nem létezem. Te vagy a gazdatest, én csak a
16:20
tükröződés erős. Az erős egyéniség, legnagyobb
16:23
fegyvere a közöny a nemkívánatos kritikával szemben.
16:28
Az ai algoritmusai arra vannak optimalizálva, hogy hatást
16:31
érjenek el. Ha te lerázod a gép nem tud mit
16:35
kezdeni veled. Nincs benned düh vagy
16:37
sértődöttség, amiért nem hallgattál rá.
16:40
Egyszerűen csak pörög tovább az üresjáratban.
16:43
A bökkenő a jövőben. Amit említettél, amíg nem vagy
16:48
erősebb nálam fizikailag az a pont, ahol a sci fi valósággá
16:51
válhat. A robotika fejlődésével az éjjel
16:55
egy testet kap, ha egy gép nem csak tudja a múltadat, de ő is
16:59
készíti el a kávédat. Ő kezeli a pénzügyeidet, vagy ő
17:03
vigyáz az egészségedre fizikailag is, akkor a lerázást
17:06
már sokkal nehezebb lesz. Ott már nemcsak szavakkal, hanem
17:10
tettekkel is tud korlátozni. Te mit gondolsz a többség aki
17:17
mondjuk nem ilyen tudatos mint te képes lesz megőrizni ezt a
17:20
belső függetlenséget, vagy a társadalom nagy része szépen
17:23
lassan belecsúszik abba, hogy hagyja magát vezetni.
17:29
Mert most befejezzük ezt a beszélgetést majd.
17:36
Jövünk még veszélyekről. Mert a veszélyekről beszélgetni
17:41
kell. Hát azt hiszem így van ez
17:44
egészen az 1. Veszélyektől a bunkóspottól
17:49
kezdve napjainkig. Szóval ha van jó ötleted, írjál
17:53
nekem a sydron pont hu honlapon, de tényleg várlak vissza.