Latest / Better Dev Club / Better Dev Club #36 - Sezon 2: Mac Studio za 90k, Nvidia kupuje Hugging Face i Polly z opłatami

Transcript

Better Dev Club #36 - Sezon 2: Mac Studio za 90k, Nvidia kupuje Hugging Face i Polly z opłatami · Better Dev Club

• Kajetan Duszyński: Cześć Piotrek. Piotrek Stapp: To jest Kajtek. Kajetan Duszyński: Wracamy! Kończymy wakacje, niestety, ale za to spotykamy się tutaj znowu i znowu będziemy co tydzień w czwartki o 9 z najnowszymi informacjami na temat programowania, temat AI, na temat wszystkiego, o czym chcecie oczywiście słuchać i właściwie przede wszystkim o tym, o czym my chcemy rozmawiać. Startujemy z nowym sezonem, sezonem drugim, dlatego jeśli chcesz, żeby... Żebyś nie przegapił żadnego odcinka to koniecznie dzisiaj już zasubskrybuj, polajkuj, daj dzwoneczek i zrób wszystko, żeby tylko dostać powiadomienie o kolejnym odcinku. i jak to już mamy za sobą Piotrek, co tam u ciebie? Piotrek Stapp: O Jezus tak dużo się działo przez wakacje, że ja nawet nie wiem od czego zacząć. Ale wiem od czego zacznę. Zacznę od sprzętu. Jesteś już w kolejce do nowego Maca Mini za 90k złotych? Czy jesteś w kolejce za Open AI i innymi dużymi firmami, które stają i wykupują je zdaje się chrytowo? Kajetan Duszyński: Chyba jeszcze nie jestem tak bogaty jak OpenAI i po prostu nie stać mnie na Maca Mini za 92 tysiące złotych, bo tyle widziałem, że chyba można maksymalnie skonfigurować w tym momencie, chyba że jeszcze coś podrożało, także ciężko mi powiedzieć, ale ceny są grube, ceny są grube, patrząc przy tym, że... Mac Mini, a nie przepraszam, bo ja powiedziałem o Mac Studio za 92 tysiące. Mac Mini są, Piotrek Stapp: Tak, Max Studio, przepraszam. Kajetan Duszyński: tak, Mac Mini chyba są ciut tańsze, aczkolwiek wydaje mi się, że też konfigurowałem coś w okolicach 100 tysięcy, więc można, można. I przy tym właśnie, że Mac Mini jeszcze do niedawna oni się chwalili, że można było w jakiejś tam promocji edukacyjnej kupić za dwa koła chyba, no to teraz nagle, no tanio to już było. Piotrek Stapp: No w ogóle maki podróżale. Maki podróżale w te wakacje dość mocno. Nastąpiła podobno przez ram. Kajetan Duszyński: Hmm... No... Piotrek Stapp: Ale w benchmarkach daje radę. Jak to mój syn dzisiaj powiedział, jak mu pokazałem benchmark i powiedział, tata może weźcie Nvidia z tanieje. Będę mógł sobie kupić kartę do laptopa. Kajetan Duszyński: To ma to znaczy Nvidia nie stanie je, ale o tym za chwilę, bo Nvidia poszła właśnie na grube zakupy w związku z tym też będzie musiała sobie odrobić znając życie. Natomiast no benchmarki mówią mówią same za siebie. Jeżeli idziemy w stronę LLM a idziemy jeszcze może w stronę lokalnych LLM, no to na ten moment środowisko Apple to jest jedyne sensowne środowisko. Bo mimo wszystko jeden taki Max Studio z M5 Ultra to jest wydajność rzędu 10 RTX 5090, które normalnie kosztują też ponad 20 tysięcy, będą kosztowały dolarów oczywiście. A to same karty, A gdzie się jeszcze trzeba wsadzić? Piotrek Stapp: A tu mamy stówę, złotych. Tu mamy stówę, ale złotych. Tam dziewięćdziesiąt kilka tysięcy. Więc to jest zasadzie to samo, Kajetan Duszyński: Tak, tak. Piotrek Stapp: nie? Kajetan Duszyński: To jest zasadzie to samo, tyle że tutaj mamy same karty graficzne, a tu już mamy gotowy sprzęt. Po prostu kupujesz, podłączasz do prądu i działa. Więc zresztą ja mogę potwierdzić, ja mogę potwierdzić, bo pracuję na Macu na co dzień. No oni wygrali tym, że jakiś czas temu poszli w tą zunifikowaną pamięć. No tutaj po prostu wykosili wszystkich i dopóki inni nie zaczną tak robić... No to niestety nie dogonił. To jest jedyna słuszna droga. Piotrek Stapp: Wiesz, jest, wiesz, wymyślili nową architekturę procesora. To jest chyba ten i akurat w tej dziedzinie okazało się ona super po prostu. Ale dobra, skończmy, skończmy o tym, bo będziemy za długo gadać. Powiedziałaś, że NVIDIA trzeba odrobić, bo kupiła... Co kupiła? Kajetan Duszyński: Hugging face Piotrek Stapp: Powiem Ci, że ja sobie myślę, jak wiem jeszcze za ile to kupili. No, kłótwa. Kajetan Duszyński: He Piotrek Stapp: Drogi słuchaczo, czy wiesz na czym polega ten serwis? Znaczy wiesz, bo słyszałeś na pewno, ale to jest storage. To jest serwis do storage'u, możliwość ściągania dużych plików z internetu, całość serwisu. Jakieś drobne funkcjonalności na froncie, żeby dawało się niektóre odpalić. Ile zapłacili? Pamiętasz? Kajetan Duszyński: 13 miliardów? Piotrek Stapp: 13 miliardów, chyba 12,9. Kajetan Duszyński: Dolarów. No coś koło tego, tam zaogrągliłem. No to jest niesamowite, to jest niesamowite, ale jakby to pokazuje po pierwsze jakie horrendalne pieniądze za tym stoją, bo oczywiście zakupów w tym odcinku jeszcze będzie ciąg dalszy, też horrendalnych, ale ale to też pokazuje, no bo powiedziałeś tak, platforma storageowa, platforma, w której Są właściwie wszystkie modele do ściągnięcia, które są udostępnione. Jest tam wiele opisów, tam wiele danych, ale przede wszystkim za tym znowu stoi jakaś społeczność. Jest coś, co napędza tę stronę. Hugging Face nie jest tylko i wyłącznie jedną, jedyną stroną w internecie. na której można ściągnąć te modele. Ale z jakiegoś powodu to jest ta strona, której wszyscy słyszeli, to jest ta strona, o której wszyscy wiedzą, o wszyscy mówią. No to jest ta jedna strona, która wiadomo, że będzie takim miejscem, go-to dla każdego, kto będzie zainteresowany nowymi modelami, które będą dostępne publicznie. I jakby nadal... To jest niesamowita kwota. Chciałbym zrobić tak prostą stroną, jaką jest Hugging Face i sprzedać ją za takie pieniądze. To się zdarza prawdopodobnie raz w historii, ale mówię. Piotrek Stapp: Ja Ci polecam przeczytać kto jest funderem tego i co zrobił wcześniej. Drogi słuchaczu też polecam, bo to nie będę tu spoilerował ani robił dużego optopa. Polecam zobaczyć. To nie jest jego pierwszy strzał. To jest człowiek, który Kajetan Duszyński: Czyli po prostu. Piotrek Stapp: potrafi zrobić dokładnie to. Zrobić platformę i sprzedać, w zasadzie sprzedaje infe. Plus olbrzymi marketing. Kajetan Duszyński: To prawda, to prawda. No dokładnie, dokładnie, dokładnie tak. To co, to co po prostu, tak jak mówię, sprzedajesz, sprzedajesz ten ruch, który, który tutaj też, który tutaj był odpowiednio wykonany wcześniej. No dobra. Piotrek Stapp: Ale jak już jesteśmy w tym, to słuchaj, to jak już jesteśmy w przetasowaniach, no to powiedzmy sobie szczerze, że OpenAI wyciągnęło kartę z rękawa i powiedziało, kurso, papa. Kajetan Duszyński: No właśnie, ale dlaczego? Piotrek Stapp: bo nie lubią maskę. Przepraszam, dla mnie jest to napisane tak bardzo, wprost to moja własna interpretacja. Nie do końca im się podoba jak mask zarządzał XAR-em i nie ten i ten. Jakby to co powiedzieć, mask ma problemy z OpenAI, że nie jest open, to OpenAI pokazuje mu, że nie jest open. Kajetan Duszyński: Na co mask też sobie jedzie wtedy bardzo, bardzo mocno po OpenAI i wojenka oczywiście trwa. Wszyscy na tym realnie zyskują, bo jeszcze więcej się mówi o kursorze, o OpenAI, o SpaceXie i oni tak sobie będą oczywiście gadać, ale no właśnie, ale to pokazuje po raz kolejny, te firmy mogą zrobić tak hop i już nas nie ma. I my jako użytkownicy też musimy o tym zawsze pamiętać, że w pewnym momencie ktoś nam może zrobić hop i już nie będzie tego modelu albo innego modelu albo jeszcze czegoś innego. Piotrek Stapp: Ale z drugiej strony popatrz. Ilość narzędzi, która się pojawiła przez te wakacje, albo przynajmniej do mnie dotarła, nie jak gdyby o może to tak, to się naprawdę zaczyna robić grubo. No bo tak, ki mi się bardzo rozwinęło. Chyba jeszcze przed wakacjami. Jest OX-Alpha. Facebook wydał swoje, którego nawet nie pamiętam jak się nazywa. Miałem spróbować, ale nawet nie zdążyłem. coś jeszcze, Deepseek chyba też wypuścił swoje Google usprawnił swoje Anti Gravity a w ogóle wydał w międzyczasie Gemini 3,5, 3,6, 3,7, 3,5 było przez wakacjami, 3,6 i 3,7 powiedział chyba, że w ogóle nie będzie wydawał na razie pro, bo nie widzi sensu Kurna, wiesz to ogóle sama ilość tego, oczywiście jak spojrzymy na góry, na różnych tych Twitterowi górze, LinkedInowi górze, nie, jak gdyby teraz twój najlepszy model to, jezu, no i w ogóle przecież, jak gdyby przed chwilą, żeśmy gadali, że właśnie Anthropic wypuścił Fabla 5.1, Mytosa 5.1, pewnie będzie cała seria 5.1, jak słuchasz to już pewnie jest, a my żeśmy nawet nie zdążyli, bo to przecież... Niemniej złożymy ten odcinek i go wypuścimy ten rok. Dzieje się. Ale ewolucji chyba nadal nie ma. Kajetan Duszyński: No nie ma, właśnie o tym chciałem powiedzieć i zastanawiam się czy będzie, bo w ogóle tak, Google wypuścił trzy modele przez, znaczy no powiedzmy dwa modele przez wakacje, jeden tuż przed wakacjami zaraz po Google'e, rozmawialiśmy o tym, rozmawialiśmy, że ogóle nas to nie podnieca i szczerze mówiąc, 3.6 i 3.7 podnieciło mnie jeszcze mniej niż 3.5. To znaczy w końcu wracamy do albo powoli chyba przechodzimy do tego, o czym mówiliśmy, że chcielibyśmy, żeby się stało, żeby te nowe, nowe rylisy, nowych modeli albo nowych narzędzi nawet, nikogo już tak nie jarały. To znaczy, wiadomo, ci LinkedInowi guru, którzy jadą tylko i wyłącznie na tym, że co tydzień mogą napisać, że teraz to jest twój najlepszy model, I wszyscy z wolennicy OpenAI lajkują w tym tygodniu, z wolennicy Google lajkują w kolejnym tygodniu i tak się to kręci. Ale realnie, jak w wchodzisz, to to przestaje mieć znaczenie. Jakby ok, klikniesz sobie, wybiorę sobie dzisiaj ten, wybiorę sobie tamten i przepinasz się i nie ma wielkiej zmiany. Jest po prostu ewolucja, która jeszcze trochę spowoduje, że jest nam trochę przyjemniej, trochę lepiej nam się pracuje. Jakby fajnie, że te narzędzia się pojawiają, bo one też zaczynają konkurować oczywiście pomiędzy sobą i te wszystkie harnesy, które będą wychodziły, to też będą konkurować pomiędzy sobą. Ale dla nas, dla użytkowników myślę, że coraz mniejsze znaczenie będzie miało to... którego harnesa będziemy realnie używać, czy którego modelu będziemy realnie używać, bo one już będą wszystkie na tyle dobre, że to w większości zadań po prostu będą nam wystarczały. Piotrek Stapp: Ja tu powiem spoiler, jako już następnego odcinka, bo dzisiaj na pewno o tym nie pogadamy, że teraz chyba powoli dochodzimy do etapu, którym zaczyna się robić problem z zarządzaniem markdownami. Nie wiem jak tam jest u Ciebie, jak jest u mnie, jak jest gdziekolwiek indziej, ale jak się gada z ludźmi, to na razie jesteśmy chyba na etapie jeszcze tworzymy te markdowny, sensie instrukcje, agendy, tam jeszcze nie. Ale zaraz trzeba będzie to sprawdzać, zmieniać, zobaczyć czy jest lepiej. to będzie, to myślę, takie przed bardzo wieloma filmami teraz chyba stoi takie zadanie, w ogóle, w ogóle to tam, ale to sobie pogadamy słuchaj w którymś odcinku tego sezonu, myślę, że sobie zrobimy dedykowany odcinek w ogóle, co z tym zrobić, bo to może jakieś gościa słuchać do tego zaprosimy. Bo goście też będą w tym sezonie na 100%. Już jeden, już Kajetan Duszyński: Myślę, fajnie. Będą, jak najbardziej. Piotrek Stapp: jeden. Pozdrawiamy Cię przyszły gościu Bo już mamy dogadane i tylko musimy termin nagrany, OK Kajetan Duszyński: I pamiętaj, że jeżeli ty chciałbyś zostać gościem w naszym podcastie, to też napisz do nas na LinkedInie, na Messengerze, na kontakt małpa betterdev.pl, czasem sprawdzamy nawet tego maila, albo gdziekolwiek, gdzie nas znajdziesz, chętnie, porozmawiamy. Piotrek Stapp: Albo jak masz jakiegoś gościa, masz jakiegoś gościa i wiesz, chciałbyś, żebyśmy go pomęczyli, też jak najbardziej dajesz. To... Co tam, panie w Microsoft? Kajetan Duszyński: Tak, a co tam Pani w Microsoftie? To ja teraz przejmę. Wiesz co? No? Piotrek Stapp: MVP dostałem. Nie, Kajetan Duszyński: Ja też. Piotrek Stapp: ale poważnie, poważnie wyszły. Znaczy coraz częściej ci powiem, że zdarza mi się przełączać na te małe modele, no i teraz, małe, ty umiesz te nazwy, ja ich nie umiem. Coś tam, kod 1, tam flash, speed, whatever, z Microsoft, tych oszczycy. Osobista proszba. Weź mi daj nazwę, którą możesz podkreślić w podcastie. Kajetan Duszyński: No ale one wcale nie są aż takie złe. Jak w końcu zrozumiesz, no tak. Jak w końcu zrozumiesz, co za nimi stoi, tylko musisz chwilę się zastanowić. Bo one są od Microsoft AI. To jest pierwsza realnie nazwa, która kurde w Microsoftie ma sens. No Piotrek Stapp: Nie jest kopilot. Kajetan Duszyński: i nie jest co-pilot, tak. I Microsoft AI masz code do kodowania, thinking. do myślenia za ciebie i Image do tworzenia obrazków. No w końcu to jest łatwe. A dodatkowo Piotrek Stapp: Nowe. Kajetan Duszyński: one są naprawdę niezłe, bo My Image 2.6 jeszcze w wersji preview okazało się, że w rankingach jest na pierwszym albo na drugim miejscu, jeśli chodzi o modele właśnie do nazwijmy to generowania obrazków. I to w wielu rankingach, nie tylko w jakimś jednym wybranym przez Microsoft, ale ja już na kilku arenach, kilku leaderboardach i w kilku testach widziałem, że oni faktycznie przodują. Wiem, że masz inne stanie na ten temat, bo testowałeś. Możemy nawet te testy pokazać gdzieś w internecie, na Linkedinie. Piotrek Stapp: No co, Kajetan mi napisał, więc jest super. Zrobię okładkę, zajawkę nowego sezonu. Pokażemy. Albo nie, nie wiem, dobra. Nie wiem, aż tak warto. Jak jesteś chętny, jesteś ciekawy, to poprosimy o info, to będziemy linkować. Kajetan Duszyński: No tak, tylko oczywiście, no tutaj trzeba się wczytać w tym, czym polegają te testy, na czym polegają te benchmarki, co one właściwie sprawdzają. No bo największy zarzut, jaki możesz mieć do tego obrazka, który sobie wygenerowałeś, to to, że wstawił ci gówniany tekst, mniej więcej na poziomie jakiegoś midjourneys przed półtora roku, że po prostu albo właśnie tego googleowego... o Jezu, Nano Banana też w wersji przed tej, która jest aktualnie. No on nie radzi sobie z tym, żeby włożyć tekst po prostu w ten obrazek, bo nie został jeszcze... Piotrek Stapp: Nie włożył, tylko niepoprawne. Kajetan Duszyński: No włożył, ale niepoprawny, no czyli dokładnie tak samo jak to robiły poprzednie modele, właśnie ze względu na to, że w Nano Banana z tego co wiem i w GPT realnie to działa troszeczkę tak, gdyby udało się... wyciągnąć warstwy tego obrazka, że on tworzy albo generuje obrazek i na to nakłada drugą warstwę już bezpośrednio z tekstem. Dlatego mu to idzie tak dobrze. Natomiast MyImage 2.6, on jeszcze jest na etapie, że on generuje obrazek tekstu. O, i dlatego on sobie tak dobrze jeszcze z tym nie radzi. Tak, więc to pewnie będzie dopracowane w którejś wersji, natomiast te benchmarki, które są aktualnie robione... no to one troszeczkę inne rzeczy sprawdzają, na przykład właśnie generowanie krajobrazów, generowanie tekstu, nie tekstu właśnie, generowanie ludzi, generowanie obiektów i generowanie tego na podstawie właśnie prompta, czyli jeżeli w promptzie zrobisz, wygeneruj mi piękny obraz tego i tamtego, to on faktycznie powinien sobie z tym bardzo dobrze poradzić. Piotrek Stapp: No dobra, zgadzam się, pozwolę się zgodzić nie zgadzając, zobaczymy jak to będzie, ale rzeczywiście na plus jest to, że jest to mały tani model. To na pewno. Chcesie, że Microsoft rzeczywiście próbuje iść w te małe tanie modele. I to bardzo fajnie. Ale jak już jesteśmy właśnie przy opłatach, o może przy opłatach, to mi się rzuciło na oczy, ponieważ jestem ze świata dotnetu. a nie z jakiegoś tego, ale w pewnych innych miejscach też się pojawiło, że jest taki projekt, nazywa się POLI i POLI wprowadza słuchaj Open Source My Internet Sfii dla organizacji. Kajetan Duszyński: Tak jest. Piotrek Stapp: Czyli chyba kończy nam się, można powiedzieć, że kończy nam się. No tam wiecie, to jest jakieś tam Kajetan Duszyński: bez płatnej open source. Piotrek Stapp: tak, bezpłatne Open Source, on jest niedużo, W sensie, jak się śmiałem ostatnio w organizacji, chyba trudniej nam będzie przeprocesować to, żebyśmy mogli to płacić, niż żebyśmy to płacili, nie? Bo to mniej więcej chyba Na tym dla dużych film to w większym temacie jest proces wewnątrz jak my to możemy płacić niż samo opłacenie. Bo tam nie wiem, ta opłata jest jakaś tam śmiesznie mała. Ale wiesz... Kajetan Duszyński: 20 dolarów miesięcznie per organizacja, a nie per projekt, więc tak jak mówisz, jeżeli są duże organizacje, to nawet milionowe czy miliardowe organizacje będą płaciły 20 dolarów miesięcznie i tyle. Jedna organizacja i jedna opłata i będzie ona robiona poprzez sponsorship na GitHubie, więc jeszcze prościej. Natomiast ja się ostatnio rozmawiamy... Piotrek Stapp: Prosty? Kajetan Duszyński: Nie proszę, przepraszam, nie, oczywiście dla organizacji to będzie super trudne, dla małej firmy, która nie ma tej całej papierologii będzie super prosto. Aczkolwiek też nie wiem właśnie w jaki sposób czy to będzie kwestia zaufania, że faktycznie, nie wiem, nie chcę to wchodzić. Piotrek Stapp: Nie no wiesz, tu masz prosto sytuację, to nie jest kwestia zaufania, to jest kwestia licencji. Jak ci ktoś pokaże, Kajetan Duszyński: No tak, no... Piotrek Stapp: że tego nie masz albo ty sprzedajesz ten soft i coś tam, przy tak niskiej kwocie ryzyko jest nie współmierne. Kajetan Duszyński: Zgadza się, zgadza się, ale jedna rzecz, bo ostatnio rozmawiałem z Kamilem Kiełbasą. Pozdrawiam Kamila z Kamilem ostatnio w związku z tym, razem pracujemy, często rozmawiamy i Kamil zwrócił uwagę na jedną ciekawą rzecz, że teraz można zrobić tak, bo jakby płacą tylko te organizacje, które... Bezpośrednio korzystają z Piotrek Stapp: używają bezpośrednio. Kajetan Duszyński: poli. Tak. A co by się stało, gdybym założył teraz organizację typu non-profit, której zrobiłbym wraper dookoła poli i inne organizacje korzystałyby z tego wrapera? Ja wiem, jest wiadomo, ale no ale właśnie, jest, tylko mówię, na ile w ogóle to jest... jak już Piotrek kręci głową, to już przypomnijmy sobie, że to jest 20 dolarów miesięcznie. To tak, tak tylko mówię. Piotrek Stapp: Jakby, wiesz, jakby się to dało łatwo w organizacji czasami zrobić to pewnie jeden z ludzi był po prostu machnął kartą, nie swoją w ogóle zapomnieli. Całe dowcip plaka na tym, że trzeba całe takie koło zrobić czy zapamiętać. Jak ktoś nigdy nie pracował w dużej organizacji to pewnie nie wie o tym, że 20 milionów to się wydaje tak, a 20 dolarów uaa. To jest to, to będzie ból. To będzie było bardzo wiele firma. Co szczęścia nie mój problem, nie muszę się tym zajmować. Kajetan Duszyński: Dokładnie, to nie my wyciągamy karty w naszych firmach. I to może być i dobre, i Piotrek Stapp: Tak. Ja chciałem powiedzieć, że chyba się znajdzie ktoś u mnie, kto się tym zajmie. A jak nie, to może ja będę przechodził. No weź, co o tym myślę. Kajetan Duszyński: To powodzenia. Słuchajcie, to chyba wydaje mi się, że tyle. Oczywiście tych dnia było dużo więcej, ale mamy nadzieję, że to jest taki skrót, który nas chyba najbardziej zaciekawił przez ostatnie tygodnie, czy nawet już dwa miesiące. Natomiast oczywiście zachęcamy was do tego, żeby słuchać nas dalej. I Piotrek o czymś zapomniał. Piotrek Stapp: Ale już trudno, już się pozegnałeś, to już trudno, będzie na następny raz. Kajetan Duszyński: No to będzie na następny raz, więc jeżeli chcecie dowiedzieć się o czym Piotrek zapomniał, to koniecznie słuchajcie nas już za tydzień w kolejny czwartek o godzinie dziewiątej. Pamiętajcie, że możecie, a nawet powinniście byłoby super, bylibyśmy super wdzięczni, gdybyście nas zasubskrybowali, polajkowali, a przede wszystkim komentowali, bo bardzo chcielibyśmy mieć jak najlepszy kontakt z wami. Także jeżeli macie jakieś newsy, których chcielibyście, żebyśmy podyskutowali. albo jakiś temat, to koniecznie, koniecznie komentujcie. No jeszcze raz witamy w drugim sezonie Better Death Club. Mamy nadzieję, że będzie jeszcze lepszy. O ile poprzedni był dobry, ale ten będzie jeszcze lepszy. Więc do zobaczenia za tydzień. Cześć! Piotrek Stapp: Do zobaczenia!