Latest / Better Dev Club / Better Dev Club #38 - 10% szans, że AI nas zabije? Wielka czwórka błaga o regulacje i wstrzymuje IPO

Transcript

Better Dev Club #38 - 10% szans, że AI nas zabije? Wielka czwórka błaga o regulacje i wstrzymuje IPO · Better Dev Club

• Kajetan Duszyński: Cześć Piotrek! Piotrek Stapp: Cześć Skypek widziałaś z dźwięk o falona Kajetan Duszyński: No właśnie tak i jestem zszokowany. Jestem naprawdę zszokowany, ale też czuję się bezpiecznie. Piotrek Stapp: To jeszcze bezpiecznie, bo... Kajetan Duszyński: No bo prezydent powiedział, że będzie dobrze, Może nie nasz prezydent, ale prezydent podobnego pokroju, no, powiedzmy. Piotrek Stapp: Dla osób, nie kojarzą kim jest Jimmy Fallon, prowadzi taki coś popularne. Chyba tak nam żałoby powiedzieć. Talk show w Stanach Zjednoczonych. Jakbyście zobaczyli twarz, że powinniśmy ją w wideo wkreć. Nie wiem czy my potrafimy takie rzeczy. To byście od razu wiedzieli kim jest Jimmy Fallon i od razu byście skojarzyli, bo na 100 % widzieliście go. I Jimmy Fallon po raz kolejny w tym roku, nie wiem, na styk pewnie, nabijał się z naszego ulubionego prezydenta. tego za wielką wodą, który popłynął? Nie wiem jak to nazwać. Kajetan Duszyński: Znaczy nie no prezydent zza wielkiej wody myślę, po prostu był sobą no i to to nie jest pierwsza pierwsza tego typu wypowiedź. Przypomnijmy właśnie może też i też oczywiście podlinkujemy. Powiedział, że spokojnie będziemy bezpieczni, bo mówimy tutaj oczywiście o wyścigu ejejowym, o którym pewnie sobie trochę w ogóle dzisiaj porozmawiamy. ale Trump powiedział o tym, że żeby nad tym zapanować jest jedno rozwiązanie. Potrzeba nam silnego i mądrego, czytaj z wysokim IQ, prezydenta. No i na szczęście już takiego mają, więc nie ma problemu. Piotrek Stapp: Dobra, dla kontekstu. Ja może zrobię długi kontekst. On jest trochę chyba skomplikowana. W zeszłym tygodniu pojawił się taki człowiek z post Cloda, szef bezpieczeństwa z tego co pamiętam, ale mógłbym schrzenić stanowisko, który odszedł z Cloda i udzielił wywiadu, w którym powiedział, że jest 10 % szans, że Ejaj nas zapije. Kajetan Duszyński: I to dosyć szybko, żeby nie było. Nie musimy na to bardzo długo czekać. Tam było chyba 10-15 lat. Piotrek Stapp: No to szybko. To jeszcze przed małym returą, bez sensu. Tyle lat pracuję, mieć returę. Dobra, nieważne. Wydawało się to mega dziwne. Jest chyba komentarz, że był podpuszczony, ale ogólnie spowodowało to, że nagle wielka trójca, bo nawet nie wielka dwójka, tylko wielka trójka, powiedziała, to może byśmy troszeczkę wstrzymali rozwój AI. żeby to trochę tak, bo to powiedział i CEO Antropica, czyli Dario i powiedział od razu, zaraz od razu dołączył sam Altman z OpenAI co wiecie, jak gdyby już ich dwóch nie znam powodu, że zgodzili się to już w ogóle było niezłe kombo a jeszcze do tego w razie co, jak gdyby można się śmierć, że gdyby nagle się okazało, że następny Gemini Flash będzie jednak AGI żeśmy w zeszłym tygodniu gadaliśmy, zaraz wszystko będzie jak dzieje hajem, to Demis, Hasabis z Google'a też jak gdyby szybko pobaw. Kajetan Duszyński: Ja jeszcze tylko dołożę jedną rzecz, bo tam była jeszcze czwarta osoba, z której też lubimy się od czasu do czasu pośmiać, ale Elon Musk też przyznał rację Amodajowi za chwilę. Piotrek Stapp: No to już mamy czterech wielkich ten rozwó... Twórców? Nie. Twórców... Twórców majonetek, którzy zgadzili się razem, że w ogóle jest to sytuacja. No dobra. Ale tak rozbijając to troszeczkę o co chodzi, ja to mam trochę wrażenie, że gdyby oni w tej chwili mówią dołużmy regulacji, eee jest niebezpieczne, zwolnijmy, eee jest niebezpieczne. No bo bądźmy szczerze, tam są inni trochę, którzy próbują nadgonić, a takie regulacje, co ja mam wam powiedzieć, no na pewno ich przyspieszą, nie? Zawsze takie regulacje przyspieszało wszystkich jednak, prawda? A oni już tam są. Europie to tam. Kajetan Duszyński: Jak widzimy w Europie, Piotrek Stapp: Natomiast jak gdyby, i teraz jak gdyby wiecie ta drama oczywiście polazła dalej, nie? Można sobie przeczytać post Samoatmana, można sobie przeczytać post Dio. Jak gdyby Google nawet, wszyscy się nabijają Google, to my już, żeśmy to, my to już robimy. My tu nawet nie musimy zwalniać, my żeśmy zwalnieli. No bo... Wiecie, bo nagle jest trochę inaczej. Jeszcze w międzyczasie, mimochodem, wyszedł nowy Dipsic 4.1 ma 4.1, whatever, który nagle wcale tak nie odstaje. A jest tańszy? tak. Rząd wielkości. Więc mamy taką śmieszną dramę, której wszyscy biorą udział. Pytanie brzmi, co z tym fantem zrobić. No dobra. To ja, ponieważ my tu gramy tylko na opiniach, z którym zawsze sobie opiniamy, a to jak myślisz Kareta, na czym to się skończy dla nas. Nas dwóch. Kajetan Duszyński: Dla nas dwóch absolutnie niczym. Moim zdaniem to nic nie zmieni. jest... Znaczy, wiesz, ja trochę zacząłem się, jakby, jak faktycznie kolejni się dołączali i zaczynali grać do tej samej bramki, co wydaje się bardzo dziwne i co jest faktycznie ewenementem na dużą skalę, bo już były chęci do tego, żeby... Przynajmniej tych dwóch panów, czyli Dario i Sam Altman podali sobie kiedyś ręce, żeby pokazali, że idą w tym samym kierunku. I to było w czasie AI Summit w Indii chyba, jeśli dobrze pamiętam. Ludzie chcieli, żeby sobie zrobili wspólnie zdjęcie, jak się trzymają razem za ręce. No to oni jedyne co zrobili, nie wiem czy kojarzycie to zdjęcie, podnieśli pięści obok siebie, ale absolutnie nie dotykając się. Więc... Jeżeli oni zaczynają się zgadzać, robi się dziwnie dla mnie. Z jednej strony cały czas mam wrażenie, bo mimo wszystko zarówno OpenAI, jak i Anthropic będą szli w stronę Ipo. Co prawda Altman powiedział, że on teraz wstrzymuje to Ipo i wstrzymuje wejście na giełdę, no bo jeżeli faktycznie podejdą do tych regulacji, jeżeli będą chcieli się spowolnić, to w pewien sposób będą zarabiać albo spowolnią swoje zyski. No bo być może nie będą mieli już najmocniejszego i najlepszego i największego i w ogóle. A to się udziałowcom może oczywiście nie spodobać. Dlatego... cudowne rozwiązanie. Altman sam powiedział, że wstrzymuje IPO i nie będą publicznie jeszcze w tym roku. Ale cały czas... Piotrek Stapp: i zobacz jakie ładne wyjście z twarzą Kajetan Duszyński: Ładne wyjście z twarzą, oczywiście. Oczywiście, ale no właśnie, wyjście z twarzą. Ja mam nieodparte wrażenie, że to jednak wszystko cały czas jest marketing. Bo trochę mam wrażenie, że to jest kwestia tego, że chcemy, żeby o nas mówiono cały czas. I AI samo w sobie budowało pewną bańkę strachu od samego początku. od 2022 roku, jak pojawił się czas GPT, to ta bańka rosła. Ale ona rosła tak samo istnie. Oczywiście twórcy internetowi bardzo pomagali, media społecznościowe bardzo pomagały, telewizja pomagała i te tradycyjne media. A teraz nagle podchodzą prezesi największych firm. z pompką do pompowania balonów i tam jeszcze jeszcze dopychają. I to jest, to jest cały czas jakby w mojej głowie, na szczęście nas gdzieś tutaj się kołacze w większości czasu, ale tam z drugiej strony, gdzieś z tyłu myślę sobie, kurde, a może my jesteśmy w jakiejś fazie wyparcia, że albo ja jestem w fazie wyparcia, że jak, jak, jak, jak wiesz. jak Ukraińcy przed rozpoczęciem wojny z Rosją. Widzą te wojska, że stoją na granicy, ale spokojnie oni na pewno nie wejdą, bo to są tylko ćwiczenia. Aż powstał moment, w którym weszli. Nie wiem, wydaje mi się, że w krótkiej perspektywie na pewno niczego to nie zmieni. I na pewno nie wierzę w to, że miałoby się wydarzyć coś takiego, czym wspominali właściwie pracownicy Antropica, bo tam nie tylko jedna osoba odeszła ostatecznie. Jakby nie sądzę, żeby zagrożenie było realne. Ale... znaczy jakby... Piotrek Stapp: Dobra, ja to dołożę, realne, nie realne. jak gdyby treningi i modeli, przecież my sobie nawet gadamy na o agendę, jezu, na attack, na hugging face'a, który jak gdyby im wyskoczył, w sensie przez przypadek. Są, jak gdyby teraz, chwilę, włączę cyberpunk'a 2077, czyli wpierw zróbmy apokalipsy, niech nam dojedzie. Albo może nie. Nie, dobra to nie jest SuperPunk. UTV. Ale zróbmy sobie apokalipsę na chwilę. Bo w tej chwili jest tak, że skoro tym nadele podczas treningu wyskakują z HNS-a, wyskakują, bo nikt się nie pierdzieli, w sensie bądźmy szczerze, tam nie ma żadnego HNS-a. Jak przez przypadek komuś uda się znaleźć fajną podatność, to wiesz, to nie wiem, może wjedzie do elektrowny. W sensie, nie chodzi o to nagle, że... Ten model sam się uwolni ze wszystkiego i nagle zaatakuje elektrownię. Jakby nie przesadzamy. Ale jak się nagle okaże, że znajdzie fajną potatność i zrobi jakiś boom. No to bum się zdarzy, że było jasne. Nie wierzę w to, że nagle ktoś się włami do elektrowni atomowej i wysadzi elektrownię atomową albo odpalnie rakietę atomową. Myślę, że to jest zabezpieczone na tyle dobrze, żeby nie było takiego problemu. W najprostszy sposób tam nie ma internetu. Natomiast jak gdyby wiesz, że tam nie wiem, nagle coś zaatakuje dziwnego i to spowoduje nagle panika na gieru, działam w cokolwiek takiego? Why not? wcale aż tak dalekie to nie jest. Nie, nagle nie wiem. Jezu, zeszłym tygodniu rewoluta publikował, że im dane wyciekły? W tym tygodniu już mi się pochrzaniło. Coś takiego. Kajetan Duszyński: Coś takiego, coś, chyba w zeszłym tygodniu było. Piotrek Stapp: Wyobraźcie sobie, że nagle wpada ten AI się włamuje do któregoś banku, czy człowiek stojący za nim, który kazał mu spróbować świadomie, nieświadomie. I nagle robi jakiś szacher. w bankach. Nie wiem na ile to może spowodować kryzys albo nie może spowodować kryzys, a skoro jeden facet nam może podrożyć w benzynę do 9 złotych to jak gdyby zakolam, że różne rzeczy mogą się zdarzyć jak nagle. Wybuchu może takiego, że nas wszystkich pozabija, no to nie. by mieli mylitość. Ale to, że się jakiś tam kryzys pojawi, why not? Szczególnie, z pytaniem czyjający się dostanie i kto będzie chciał spowodować taki dziwniejszy atak. Znaczy tu ci to zrobiłem w trąd, że świat się skończy. Nie skończy się, ale jakieś takie dziwne rzeczy będzie się dawało zrobić, bo nie... Nie zarządzamy na co dzień bezpieczeństwem. Może już niedługo będziemy, ale dzisiaj się to jeszcze nie dzieje. Nie zarządzamy na co dzień wszystkimi podatnościami, bo wszyscy jak nas słuchacie i pracujecie w małych, dużych, średnich firmach, to wiecie jak to jest, że nazwijmy to utrzymaniówka, te rzeczy z bezpieczeństwem, ogóle security i ten jak z reguły ma wysoki priorytet. Chyba, że coś wybuchnie i wtedy ma najwyższy. Ale przed tym jak wybuchnie to wszyscy wiemy gdzie ono leży. Jak gdyby... No tak jest, nie? Co tu dużo mówić, czasami się zdarza jakaś fajna inicjatywa i wtedy nie wiem. Skanujemy nasze repozytory albo dodajemy jakiś proces, zresztą z reguł jest jakiś powód. Miejmy nadzieję, że jest to audytor, a nie że ktoś nam się włamał do systemów. szczerze. Zresztą, że są jakieś podatności na są. To, że te modele szybciej pozwala do podatności wyklikiwać oczywiście. Natomiast tu może zrobię jeszcze drugiego off-topa. To był jeden off-top, zrobię jeszcze drugiego off-topa. Bo też, żeśmy o tym nie gadali. Znaczy, gadaliśmy sobie na czacie, ale nie gadaliśmy sobie publicznie. No bo pewnie też kojarzycie o tym, że Open AI ogłosiło, że gdyby złamało jeden z... Złamało. Rozwiązało, nie złamało. Rozwiązało jeden z problemów milenijnych matematyce. Oczywiście jest druga drama, żeśmy nie gadali na tym... czy na pewno to rozwiązało, czy skorzystała z pracy matematyków? Nie wiem. Ani ja, ani Kajetan nie jesteśmy, nie wiemy. Możemy rzucić swoją opinią, że to śmieszne albo nieśmieszne albo cokolwiek. Tak ja bym musiał drodzy widzowie słuchacze ocenić sami. Natomiast to, nagle, nawet jeżeli powiemy sobie, skorzystało z ich pracy i połączyło te fakty, bo oni tego nie skończyli. Nie wiem na ile byli blisko końca, przynajmniej tego nie opublikowałem. chociaż te dane jakoś tam trafiły do tego modelu. Jak ten model umiał to połączyć, to to znaczy, że to umie rozwiązywać problemy logiczne, ale takie logiczne naprawdę zaawansowałem. Ja jakbym dostał wszystkie dane tych matematyków, no way, przepraszam, nawet bym nie załapał. Więc to jak gdyby wiecie, z jakąś pomocą człowieka coś tam można zrobić. To, że panowie nagle stanęli i zaczynają się odwoływać właśnie takich, poże, nie wiem, górnolotnych stwierdzeń, no to... Miejmy litość nie łączymy się to chodzi raczej o to i pod spodem albo odcięcie konkurencji albo może skupienie się jak kurna co ci Chińczycy robią bo oni jednak robią to taniej a może żeby się nie chrzanili z infą może jednak byśmy się zaczęli chrzanić z infą albo cokolwiek takiego bo też jak gdyby ile Karetan ile Piotrek ile firma Karetana ile firma Piotka ile firma twora słuchaczu która cię zatrudnia czy który jesteś właścicielem jest w stanie wydać na te tokeny. Jest jakiś limit w sensie jak gdyby możemy nadzwalnić połowę załogi ale no ale no właśnie. Czy to będzie warto nie będzie warto. Nagle się okaże. Jeżeli da się zrobić taniej i podobnie. A patrząc po tych wszystkich dziwnych benchmarkach wygląda na to, się da. Nawet u Amerykanów Google dał radę. Jest tanie. Nie jest lepiej. tanie. Jezu, jakieś straszne Kajetan Duszyński: No ale... Piotrek Stapp: wizje poszedłem. Przepraszam. Kajetan Duszyński: Czy ja wiem, czy takie straszne, właśnie mam wrażenie, trochę, trochę mimo wszystko uspokajasz, to, to, to, to ja gdzieś zacząłem, zacząłem odpływać, ale to, to, to o czym wspomniałeś na samym, na samym końcu, prawie na samym końcu, to we wszystkich tych dyskusjach, we wszystkich tych wypowiedziach, oprócz tego, że Altman bardzo już kilka, już kilka razy podkreślał o tym IPO i oczywiście to, to, poszło bardzo daleko, ale we wszystkich tych dyskusjach przewijają się Chiny. I to była kwestia, nie wiem, w ogóle to było moje wrażenie, że powinniśmy zająć się regulacjami, powinniśmy zająć się bezpieczeństwem, ale powinniśmy zająć się nimi wszyscy, właśnie patrząc bardzo mocno w kierunku Chin. Przykłada, że nie Europy, to już powiedzieliśmy, że chociaż... Może z drugiej strony tutaj się pojawiła Piotrek Stapp: Może wezmą nasze regulacje? Kajetan Duszyński: innowancyjność Europy, my już jesteśmy tam, gdzie Ameryka chce być. Mamy regulację. No. Ale właśnie, też, też, no bo, wiesz, na razie, na razie były słowa, nie? Nie wiadomo czy były czyny i nie wiadomo czy będą czyny. A wydaje mi się też trochę, że czyny mogą ewentualnie pojawić się, jeżeli Chiny do tego też przystąpią i też zobaczą w tym jakąś wartość. Czy Chiny zobaczą w tym jakąś wartość? Coś tam mówią, że za jakiś czas będziemy mieli albo komunizm, albo cyberpanka i to są jedyne dwa wyjścia. Bo będzie faktycznie ten... Piotrek Stapp: To jest cytat z inżynieria Dipsyka. Kajetan Duszyński: Tak, tak, tak. W związku z tym, jakby oni też to widzą, być może, prawdopodobnie, ale czy będą się tym przejmować? Nie jestem przekonany. A jeżeli oni się nie przejmą, to czy Stany cokolwiek zrobią? Czy wprowadzą regulacje i będą patrzeć jak Chiny ich wyprzedzają? Też nie jestem przekonany. Piotrek Stapp: Dobra, no to chyba tym optymistycznym, jak zwykle, akcentem. Zapomnieliśmy, jak zwykle, gdzieś tam jest przycisk, subskryb, koment, lajk i w ogóle nie wiem czy żeście do twarde nasze wspaniałe dzisiejsze wypowiedzi. Kajetan jak widać na wakacje. Więc przywiezie na pewno jakieś nowości. Nie wiem czy można to nazwać wakacjami, gdzie Kajetan jest, ale na pewno nam przywiezie jakieś nowości. Więc lajk, subskryb, będziemy wdzięczni. Ja skorzystam jeszcze z jednego cytatu z wypowiedzi Inżynera Deepseca. AI potrafi w tej chwili wnioskować z prędkością 300 tokenów na sekundę, wpisać polecenie w pół sekundę i produkować fragment kodu w 20 sekund. Ja nie potrafię. Muszę przyznać, że ja też nie, szczególnie jestem i dokenami, bo ja w ogóle nie produkuję żadnych tokenów. Ale jest to rzeczywiście posuwające się fajna technologia na przód, więc miejmy nadzieję, że się będzie nadal fajnie posuwała. Nie wylądujemy ani w powszechnym komunizmie, ani w cyberpunku 2077 roku. Bo chyba jest niej jeszcze całkiem spore spektrum innych rozwiązań, w których możemy wylądować. Ja mam nadzieję, że wylądujemy w tym, gdzie będziemy pili drinki w palemkach, cieszyli się życiem i ogóle będzie ładnie i kolorowo, a może te... Cudowne narzędzia za nas budować bąbę. za Hitlera, powiedzą nam jak np. wyleć czyjaka albo ograniczyć użycie CO2 i naprawić trochę naturę i to chyba będzie fajniejsze i może na tym jako ludzkość damy radę się skupić. Wiem utopijna wizja, ale żebyście poznali moją. Why not? Możemy budować bombę, to może jesteśmy w stanie zbudować silnik nowego typu albo rozwiązać problem energii na świecie albo wody. No więc pamiętajcie, że ta droga też istnieje. Kajetan Duszyński: A tymczasem dopóki... tak jest. I dopóki jeszcze nam wyginięcie nie grozi w najbliższym czasie, to pamiętajcie, że widzimy się dokładnie za tydzień. Do zobaczenia. Piotrek Stapp: Chyba że nas zmiecie. Kajetan Duszyński: Oby nie. Piotrek Stapp: Ale wtedy wy nas nie widzicie, a my nie produkujemy. Jest dobrze. Trzymajcie się, do zobaczenia. Kajetan Duszyński: Trzymajcie się! Piotrek Stapp: Hej.