Brew Brew #71
Koniec darmowego Open Source? AI boty zalewają repozytoria
O odcinku
Półmetek wakacji, ale w technologii nie ma czegoś takiego jak sezon ogórkowy! W 71. odcinku CTO Morning Brew - Tomek Onyszko, Sebastian Gębski i Wojtek zabierają nas w podróż od retro-computingu, przez absurdalne błędów w krypto, aż po prawno-polityczne batalię o przyszłość sztucznej inteligencji.
O czym rozmawiamy w 71. odcinku CTO Morning Brew?
📼 Retro Computing: Wgrywanie gier z kaset na Atari i kultowa szklanka z wodą stawiana na magnetofonie, by uniknąć błędów odczytu.
🐝 Buzz od Jacka Dorseya: Nowa otwarta platforma kolaboracyjna na protokole Nostr, przemyślana bezpośrednio pod pracę agentów AI i ludzi.
📄 Zmierzch darmowego Open Source: Raport ThoughtWorks ostrzega przed zalewem botów („AI Slop”) i przewiduje chronienie specyfikacji bardziej niż kodu.
🖥️ Task Manager z 107 stron speca: Były inżynier Microsoftu wygenerował kompletny program na Maca, karmiąc AI wyłącznie szczegółową dokumentacją.
🔐 Drenaż portfeli Bitcoin: Błąd w funkcji losowości walletów sprzętowych pozwala hakerom łatwo odgadywać klucze prywatne i czyścić konta.
🇵🇱 Polska powołuje KriPSI: Nowy organ nadzoru wdroży EU AI Act – wchodzi obowiązek znakowania treści syntetycznych i kary do 7% globalnego obrotu.
📜 Open Weights vs. Pacing the Frontier: Jensen Huang z NVIDIĄ broni otwartych wag modeli, a pracownicy labów apelują o kontrolowane spowalnianie wyścigu AI.
🚩 Akt Czerwonej Flagi: Jak brytyjski nakaz chodzenia z chorągiewką przed autem parowym zatrzymał rozwój motoryzacji na 30 lat.
💼 Grupa Pracuj kupuje No Fluff Jobs: Przejęcie za 10,4 mln zł i konsolidacja na polskim rynku ogłoszeń IT.
Zapraszamy do odsłuchu i dyskusji! 👇
#CTOMorningBrew #TechNews #KriPSI #EUAIAct #OpenSource #Bitcoin #NVIDIA #OpenWeights #Leadership
♨ Źródła/Referencje:
The zero-cost fallacy: Open source software in the agentic era - https://www.thoughtworks.com/insights/blog/open-source/zero-cost-fallacy-open-source-agentic-era
Open Weights and American AI Leadership - https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf
https://www.pacingthefrontier.com/
📖 Rozdziały:
00:00:00 - Nostalgniczne Intro
00:03:22 - Buzz od Jacka Dorsey
00:14:21 - Jak pogodzić open-source z AI?
00:24:03 - Ongoing Hack na Bitcoinie
00:30:36 - KRiBSI - Polska Komisja AI
00:42:03 - Nvidia broni Open-Weights
01:03:33 - Czy ludzkość nadąży za AI?
01:19:12 - Pracuj przejmuje NoFluffJobs
01:28:19 - Outro
Transkrypcja
Brak wyników.
I żeby temu zaradzić to stawiało się na t magnetą szklankę z wodą. To był standardowy widok. W Unii Europejskiej większy przychód jest kar niż [muzyka] z dechu, który mamy w Unii Europejskiej. Pisał 107 stron z Peka dla Sola, żeby napisał mu ten software. Dokręciłem śrubkę przy mikrofonie. To znaczy, że wam też dokręcimy dzisiaj śrubkę. Dzień dobry. Dzień dobry. Dzień dobry. Wakacyjnie jak powiedziałeś dokręciłem śrubkę, to mi się przypomniało te stare te magnetofony z C64, gdzie trzeba było głowice ustawić. Kurczę, rozmawiałem o tym ostatnio. Ja, czyli Tomek, ze mną jest jeszcze Sebastian i Wojtek, dla tych, którzy dopiero wpadli i teraz będzie nostalgia corner, bo ostatnio właśnie rozmawiałem z moim synem i wpadł z jakiegoś powodu pojawił się magnetofon kasetowy, nie? w temacie i wtedy powiedziałem jak ja zazdrościłem tym od Comodorę, nie?
Jak ja im zazdrzuciłem, ja miałem Atari w Atari ten magnetofon nie miał turbo, potem miał, nie? I wczytywanie trwało godzinę na przykład takiej gry, nie? I trzeba było jeszcze przełożyć kasetę, tak? A potem turbo było na kartridgeu, więc nie musiałeś turbo ładować, tylko od razu jechałeś skop. Tam też było turbo dla Atarii, ale tam był taki myk, że magnetofony Atari miały bardzo silną sprężynkę, która wyciągała trochę tą taśmę do góry, nie? I to powodowało błędy odczytu i żeby temu zaradzić to stawiało się na tym magnet szklankę z wodą. To był standardowy widok, nie? Czyli komputer. Teraz dla wszystkich, którzy tego nie widzieli, nie doznali, tak wyglądał computing w latach tam wczesnych, późnych 80, wczesnych 90. Atari, magnetofon, na tym szklanka z wodą i kartka dla mamy, żeby nie ruszać, nie? Bo jak wczytywało się godzinę, to ruszenie tego powodowało, że ten, a potem była kartka nie wyłączyć komputera, bo jak się wczytało godzinę, to chciało się pograć, a były obowiązki domowe. Tak wyglądał computing na Atari.
Przynajmniej tego nie miałem, ale pamiętam, że jak ściągałem na przykład Dirx X SDK przez połączenie to tepsowe 02 122 przez całą noc, jak ktoś na przykład podniósł telefon, [śmiech] ale się zrobił nostalgia corner Wojtek patrzy na mnie siwego, a Sebastiana Siwołysego i się tylko uśmiecha. [śmiech] Ja sam, sam miałem tak zwanego gumiaka, także to wiecie. A no gumiak to tak. Gumiaka nie miałem. Yyy, w Pewekie były tylko Atari u nas, jak miałem pieniądze już rodzice nie mieli mniej. O PWExie porozmawiamy innym razem. Yyy, witamy w kolejnym BRU. Yyy, tak wakacyjnym i jeszcze fala upałów trzyma Wojtka w pewnym miejscu. Nasz też klimatyzacja już nie włączona. Yyy, for record. Mam klimatyzację w domu, żeby tam DH czy tam inni po mnie nie jechali, że w Europie nie mamy klimatyzacji. Dobrze panowie. Co ciekawego znaleźliście w te wakacyjne dni? Kiedyś się mówiło sezon ogórkowy, nie? To w naszym świecie to chyba nie istnieje już to powiedzenie.
Podobno trochę jest, ale cały czas się kręci. A dobrze, cały czas się kręci. Sebastian, dajesz coś ciekawego, coś fajnego, coś co ludzie będą mogli na swoich wakacyjnych rowerach przejrzeć, przeczytać, obejrzeć. Rano, odkząć. Może zacznę od baza. Baz to jest nowa platforma, nowa propozycja, nowy sposób na biznes od Jacka. Od Jacka. Dokładnie tak. Deck po prostu widzi kolejną lukę, on widzi kolejne opportunity i atakuje nas nim, żebyśmy teraz to przyjęli do wiadomości i złapali za portfel. Powiedz kim jest Jack? Jack Dorsey, czyli no były prezes Twittera, chyba zawsze. Prezes half, założyciel nawet. Właśnie zastanawiałem się czy to powiedzieć, że on był jednym ze współzałożycieli, bo nie pamiętałem czy on był wś founder. Ale skoro mówisz, że był nie był. Tw tak on chyba pierwszego tweeta puścił ever. No, no, no. To wpisał się w historii ludzkości, trzeba przyznać. Tak jest, jest ten tweet [śmiech] pierwszy dalej w sieci. Anyway, Twitter to już przeszłość. Teraz będziemy wszyscy mówić o bazy. Czym jest baz? Baz to jest i tutaj oczywiście standardowa formułka, że to jest darmowy open sourceowy przestrzeń do kolaboracji zbudowana przez firmę Blog, czyli firmę, którą Jack rozwija już od jakiegoś czasu. To jest ten fintech, który jest
za squarem, afterpayem, tai dalej i tak dalej. B został wypuszczony 21 lipca, czyli w sumie bardzo niedawno, oczywiście na licencji niby otwartej, natomiast wiadomo, że idea jest taka, żeby od razu mieć pomysł na komercjalizację tego. I teraz czym jest BZ? Oczuc to jest platforma do kolaboracji, która w praktyce łączy w sobie aplikacje, które dobrze znamy i lubimy, bo w bazie jest coś na kształt slaka, czyli jest możliwość komunikacji. Tu bardzo ważne ta komunikacja ma być komunikacją bez względu na to, czy osoba komunikująca się z białkowa, czy nie, czyli ma być od razu agent friendly albo nawet agent, żeby nie powiedzieć agents first. Jest tam również ten aspekt taki, nazwijmy to społeczny, czyli jest skopiowany GitHub, tam trzyma się repozytoria, są interakcje odnośnie tych repozytoriów, to wszystko. Więc są tam czaty, wątki, szarywanie mediów, jest project management, czyli jest zastępstwo za Gir lineara czy cokolwiek używacie.
są, jest w ogóle jakiś CI dashboards, czyli tak naprawdę idziemy tu w kierunku GitHub Actions, są zautomatyzowane workflowy, więc taki one stop shop, gdzie można i pogadać, i popracować. [śmiech] Co ciekawe, z jakiegoś magicznego powodu jest to zbudowane na krypto, czyli na protokol na protokole, tak, ale to dlatego, że to blog. Dokładnie. Tak więc wszystko tam każda wiadomość, każda zmiana w kodzie jest podpisane kryptograficznie i jest po prostu jeden imiutowalny audit log tego wszystkiego. Historycznie tak, jeżeli chodzi o agentów, to agenci tam działają na tej platformie dosyć autonomicznie. To nie jest tak, że po prostu zapraszasz agenta w jedno miejsce i prosisz go o konkretną rzecz do zrobienia. Agenci mogą dołączyć do kanałów zupełnie tak jak ludzie postować, rewiować, czyli tak naprawdę jest to platforma przemyślona pod kątem tego, żeby agentowi dać misję, żeby ją spełnił, nauczyć co daje ta platforma i dać już mu tą wolność jak on z tej platformy korzysta. Przynajmnie tak to brzmi.
Jeżeli chodzi o tych agentów i llmy, to tu dowolny LLM, dowolny agent harness, przynajmnie tak chwali się Jack. To jest zoptymalizowane pod kątem oczywiście tego, co robi blog. Czy mówimy tu Gus jako ten agentowy framework od blocka, mówimy tu od razu w tej wstępnej wersji o openx antropic clot code i oczywiście integracja jest przezp czyli agent client cent protocol. A jeżeli chodzi o klientów, czyli jak można się do tego dobić to na chwilę obecną są grubi klienci na macOSa, Windows i nawet na Linuxa jest klient. mobilnych jeszcze nie ma i widzę, że tam całkiem szybko iterują, jeżeli chodzi o nowe wersje. Ja powiem wprost, nie widzę efektu wow. Zastanawiam się, co tu ma być innego nowego, co tu ma być więcej, czy co tu będzie lepszego od standardowej kombinacji typu tam Slag z możliwością dopraszania agentów plus repozytoria na przykład na GitHubie. Ale może wy widzicie jakiś potencjał, więc pytanie do was. Czy coś przeoczyłem?
Bawiłeś się? przez PCem przez papierek, bo podejrzewam, że wiesz tutaj korzyść będzie jakaś widoczna, jeżeli się zaprosi cały zespół i wtedy kiedy będziesz widział te interakcj, a tak samemu to jest troszeczkę takie powiedzmy demo demo na obrazku. Widziałem, że ludzie pracują samemu. Ja tylko zerknąłem, nie odpaliłem tam Jack chyba Jack to jednak jest ciekawa historia, nie? yyy robi swoje, zarobił dużo pieniędzy na tym Twitterze, teraz ten coś tam robi z tymi wszystkimi firmami i robi i robi. Ma swoją ideologię. Nawet ja się czegoś dowiedziałem dzisiaj nowego. Nie wiedziałem, że oni za Tidalem siedzą w tej chwili. E znaczy oni chyba nie siedzieli, tylko potem potem weszli, tak mi się wydaje. Tak, ale w ogóle nie wiedziałem tego, bo ja blog to śledziłem z tymi rzeczami finansowymi i oni tam często wypuszczają jakieś takie thought leadership, jeżeli chodzi o krypto i tak dalej. Czy też dzisiaj o nich wspomnę jeszcze. Wiesz co, Jack, bo go tam pośledziłem, ludzie oczywiście napisali, że to jest super i tak dalej. Niektórzy, niektórzy napisali, że właśnie nic. Jack jest konsekwentny, to trzeba mu przyznać, nie? Że on tak po pierwsze wszedł mocno w Bitcoina e kiedyś tam i dookoła tego zaczął robić. Potem właśnie powiedział, że Twitter jako protokół się nie sprawdzi, czy w ogóle narzędzie. Wsparł
Blue Sky, a potem mocno wszedł w Nostrz do krypto, nie? E. I chyba dookoła tego też ja widzę ten baz, nie? Bo on tam mocno podkreśla to, że właśnie to jest tak naprawdę pod agentów, czyli że będzie tryb pracy, w którym ludzie będą pracować z agentami, agenci z agentami i tak dalej i według niego to wymaga innego narzędzia i początkiem tego narzędzia jest baz z tym, że też tam dostał trochę krytyki w dzień albo że to guys to na razie tam za dużo nie ma takiego nowego i on powiedział zostańcie z nami jest early będziemy dodawać będziemy interować i tak dalej, nie? Blog też ma historię trochę, że jak te, że te projekty tak trochę mogą pójść odstawkę, nie? Ja tam kilka rzeczy śledziłem ich, nie? I oni tam robią, robią, a jak to nie złapie trakcji, no to po prostu zniknie i tyle, nie? Ale fajnie, bo nie używałem, ale ja tam im kibicuję jakoś z jakiegoś powodu mam sentyment do tego, co robią na różnych frontach.
Ja bym powiedział, że tak. Dodałbym, że jakby się za to wzięła duża firma albo albo słuchaj DH to już byśmy mieli, ale mi chodzi wiesz o dostawcę usół, który to może zintegrować z pozostałymi y częściami platformy, tak bym to powiedział. To pewnie byśmy już mieli to troszeczkę dwa kroki dalej. Coś takiego jest, tak jak mówicie bardzo potrzebne. Myślę, że to jest jeden z kilku projektów, który się pokaże na horyzoncie. Swoją drogą, bo ja zacząłem ten zacząłem tutaj grzebać z boku, bo to był news, ja miałem wyjazdowy weekend, ale gdzieś tam mi przemknął, bo to jest oznaka też czegoś innego, nie? I teraz wspomniałeś też DH, jak gdzieś tam słuchałem sobie tego jego ostatniego wywiadu, jak on się nazywa? Sebastian, kto go tam David Senra. David Senra. Ktoś napisał, że jak możesz nie znać Davida Senry? Jak tam ten? Ja go nie znam. Poznałem go słuchając tego wywiadu. On podobno jakiś duży podcast ma, jeszcze inny. No yyy, ale dlaczego o tym powiedziałem? Yyy, tam się pojawia wątek Shopify. Dzie jest w boardzie w Shopify, znają się z Tobim, ścigali się z Tobim. Właśnie widziałem, że zaliczyli trzecie miejsce wczoraj, nie? To też jest takie hobby, nie? Dwóch CEO firm siada w weekend w samochód wyścigowy i tam jeździ w kółko.
E, to mi, a będzie luźny odcinek, to ten to mi wrzucił fajnego Twittera, no nie? i napisał, jest pewna perspektywa, jak się rano wysiądzie z samochodu, i tam zmieniać ten pogląd na pracę i tak dalej. Tylko, że on wysiadł po całym tam dniu jeżdżenia w samochodzie wyścigowym, nie? To taki ten. E, dobra, ale już wracam do wątku. Dlaczego Dage powiedział, że według niego Shopy jest bardzo daleko do przodu, jeżeli chodzi o użycie tych narzędzi versus reszta świata? Dlatego, że Toby wcześnie wszedł w ten tryb i powiedział: "To się przyda". i kazał im nad tym pracować i tam się pojawiło między innymi, że oni mają taki yyy shirt workspace, common workspace do pracy z agentami i z AI dla całego Shopify, nie? E, czyli praca grupowa z użyciem agentów, a w weekend, o ile pamiętam, A16Z albo Sequoya, bo nie mogę teraz tego znaleźć, jeden z tych dwóch wypuścił swój harness do pracy grupowej z agentami, nie? E, więc taki temat pracy jako zespół się zaczyna robić hot topik i ciekawe kto to zgarnie.
Nie wiem, już kończąc ten snak nie wiem czy będziemy mieli czas na kolejną rundę znaków, kolejny obrót. Natomiast moim zdaniem to co tu może zrobić różnicę paradoksalnie to jest właśnie ten kawałek z protokołem Nostru. Dlaczego? Dlatego, że właśnie jeżeli będziemy mieli czas na dodatkowy slag opowiem snak to opowiem o pewnym raporcie wyszedł z Fotworks spokojnie. Natomiast Sebastian dostanie slot przy opublikowaniu każdej akcji agenta, jeżeli ona jest związana z jakimś kosztem, kto jest automatycznie naliczany w krypto, czy mamy stake w publikowaniu, to w tym momencie jest to potencjalnie metoda na walki z AI slopem. Ale okej, to już moim zdaniem to może być różnica. Za chwilę do tego wrócimy. W takim razie damy ci slot na myś od razu wróćmy, bo to jest kontynuacja w takim razie, bo to się działo yyy to się działo pod spodem, dlaczego Jack wsparł nostr, nie? A Nostr tych, którzy nie wiedzą. E zawsze zapominam jaki to jest tam skrót, jest notes or other coś tam, coś tam, ale generalnie to jest protokół do czatu, tak upraszczając mocno, tak oparty o krypto, blockchain pod spodem i tak dalej. Jaka jest tam główna różnica?
Tam są zaps, przynajmniej kiedyś były. Czyli jak ci się podoba dany tweet, cokolwiek, no to możesz komuś wysłać kawałek BTC, czegokolwiek innego, ale tam chyba było BTC. No i tak i on jest oparty o krypto. Nie masz swojego username, masz swój wallet i tak dalej, nie? Dlatego mówię, że to jest kontynuacja blog. Łączy się to z tym, o czym rozmawialiśmy w zeszłym BRU. Polecam wszystkim. Tu się pojawi gdzieś link na dole, czyli paymentach od Cloud Fler, które będą oparte o stable coiny, nie? No i mam zaczyna się robić taki sposób pracy. No to już leć z tym raportem Stopworks, bo już zahintowałeś to musisz. Dobra raport artykuł. Tytuł jest The Zero Cicy Opens for software in the enticer. To jest ciekawy artykuł napisany przez Chrisa Forda i Richarda Goa. On dotyczy tego problemu, o którym już jakiś czas temu żeśmy rozmawiali. To chyba Mit Hashimoto po prostu swego czasu twórca Ghost TTI, a wcześniej paru innych bardzo znanych projektów takich jak na przykład Wagrant, tak i Terraform.
On wtedy pożalił się, że Open Source ma coraz mniej sensu ze względu na ten AI slop, że nie da się po prostu odsiewać tych kontrybucji, które wpadają ze względu na to, że agenci robią z tego totalny śmietnik. A poza tym, że agenci kradną potencjalnie za pomocą LMU łatwo ukraść projekt, można projekt tworzyć. Więc to był bardziej takie wołanie i sygnalizowanie problemów. I ten artykuł trochę mówi o tym już od drugiej strony, czyli gdzie jesteśmy w tym momencie i czy są jakieś potencjalne drogi naprawiania tej sytuacji. Tak w skrócie nie będę wam oczywiście tego całego czytał, natomiast jakby idea jest taka, że yyy no cały czas dystrybucja OSS jest darmowa, natomiast kosz utrzymania nie jest darmowy i to jest pewnego rodzaju problem, bo cały czas muszą być ci maintainerzy do tych projektów, którzy się dosyć szybko wypalają. Ten artykuł, co ciekawe, mówi bardzo wprost. Tego chyba nikt aż tak bardzo wprost nie powiedział, że te bardzo mocno, nie ma tego słowa po polsku, ale nie mam lepszego, chyba permisywne licencje, czyli bardzo luźne licencje, które na bardzo wiele pozwalają, były błędem.
Chyba można powiedzieć załóżmy, były błędem i one spowodowały część tych grzechów, które mamy tak naprawdę [parsknięcie] w w tym community. Na pewno bardzo dużym problemem jest ten wskazany jako jeden z dwóch dużych problemów sloped, czyli to, że agenci zabijają te modele open sourceowe przez generowanie nieproporcjonalnie dużej ilości tych prów, które mogą być w ogóle malisz, musi być atak, może być wprowadzenie jakieś luki i to jest w tym momencie nie do odciania. Yyy, jest problem taki, że jest duża utrata transparencji w świecie open sourceowym ze względu na to, że te dodatkow dotychczasowe sygnały transparencji typu gwiazdki yyy typu yyy project maturity matrics i tak dalej, to się wszystko rozjechało. To nie znaczy już nic w tym momencie, biorąc pod uwagę ilość botów, agentów, mamy sytuację z tym paradoksem licencyjnym, czyli że z jednej strony ten zbyt permisywny elastyczny model był zły, bo doprowadził tego, gdzie jesteśmy, ale z drugiej strony ten taki restrykcyjny albo podwójny model licencyjny, on z kolei rozwala adopcję, dlatego że łamie zaufanie, które zostało wypracowane latami. Czyli ludzie w tym momencie zakładają złe intencje.
A więc to jest też dosyć ciekawa ciekawa rozkminka. I teraz te albo dojdźmy do tezy. Jak na razie to jest diagnoza i ta diagnoza po części ona się już pojawiała, wyciekała w różnych miejsca miejscach. Teza jest taka, że w przyszłości specyfikacje będą ważniejsze od kodu, będą bardziej chronione od kodu właśnie po to, żeby uniemożliwiać albo utrudniać to kopiowanie i klonowanie. Yyy, więc ja jeszcze nie do końca sobie to wyobrażam, jakby to miało działać. Zresztą oni się teraz tutaj zastrzegają, że to nie zadziała wszędzie, czyli tam gdzie będziemy mieli bardzo skomplikowane produkty, te frameworki, biblioteki i tak dalej, typu jakieś krypto albo nawet frameowe, to będzie działało trochę inaczej. Natomiast na chwilę obecną rekomendacje są takie, żeby że każda zależność, czyli to co do tej pory byłoby po prostu ściągnięciem projektu open sourceowego, powinna być w tym momencie traktowana jako kod własny wewnętrzny, taki którym możesz zaudytować, spaczować albo sforkować. To jest pierwsza rekomendacja, bardzo druga rekomendacja, ale z drugiej strony chyba dosyć sensowna. yyy jest wymóg i tu jest ewidentnie widać materiał na na na projekty komercyjne, które zresztą już się dzieją. Jest wymóg twardego audytowania supply chaina. No to wiadomo, dlatego że na chwilę obecną to
się wydaje stabilnym supply chainem, czyli kilkoma projektami przez tych samych yyy supplierów. Może za chwileczkę ta sytuacja się zupełnie zmieni. Nie wystarczy, żeby sprawdzić czy projekt jest legit. Nie wystarczy, żeby sprawdzić ile ma gwiazdek. Nie wystarczy nawet sprawdzić jego origin, nie wystarczy nawet sandboxowanie tego i sprawdzenie tego w warunkach wyizolowanych jest jest to jest tylko i wyłącznie sprawdzenie na daną chwilę. No i mocno zalecają ci panowie widzą w przyszłość takiego utrzymania stabilnego open source w budżetach patronujących, czyli na takiej zasadzie, że to firmy się składają. Dokładnie tak. nie traktują tego jako dobroczynność, po prostu traktują to jako ten model, który ma szansę pozwolić Open Sourceowi przetrwać, bo ten dual licensing nie spotyka się z takim oddźwiękiem, nie łapie takiej trakcji jako jakiej by się spodziewali ty ci, którzy dual licensing wprowadzają.
A więc takich bottom line jest po prostu taki, że ta era jakby darmowego, bezzobowiązaniowego, bardzo, jak powiedziałeś elastycznego, open sourceowego lunchu się kończy [wciągnięcie powietrza] tym smutnym albo wesołym akcentem, zależnie jak to interpretuje. Kończę, znaczy tu powstaje temat kiedyś tam się przewijał i w końcu do niego nie wróciliśmy, nie? Bo tu powstaje pytanie, czy ten lunch kiedykolwiek istniał. Tak naprawdę istniał. Istniał, ale zależy w czym, nie? Bo wiesz, jeszcze jak spojrzymy na open source w ogóle na te narzędzia wszystkie, nie? To popatrzmy na narzędzia do użytku prywatnego, do dla firm i tak dalej, nie? I ten cały model, o którym powiedziałeś, utrzymania tego problemów i tak dalej, on istnieje od początku i niezy pasjonatów, tak? Miałeś pasjonatów, którzy jednak się tym zajmowali. Tylko on dotyczy różnie różnych rzeczy, nie? No bo nawet okej, nawet wspomnę, bo to było też poruszone ten wywiad z DHA czy nie i on mówi tam dlaczego do OMR wybrał Arch Linux. Nie no, bo to jest taki Linux, który nie ma komercyjnego wsparcia, ma kupę nerdów, którzy nad nim siedzą i po prostu go robią i robią go już bardzo długo, więc jest szansa, że będą go robić dalej, nie? Ale z drugiej strony wiesz, te duże
dystrybuty Linuxa i tak dalej, które no bo to jednak jest sztandardowy przykład, nie? No to one istnieją dlatego, że za tym stoi jakieś komercyjne entity, nie, które komercyjnie gdzieś się sponsoruje coś albo firmy typu Microsoft, Amazon i tak dalej kontrybuują do niego, mają te budżety, o których powiedziałeś, nie? Teraz to, co naszło faktycznie to jest to i tu się zgodzę z tym, bo nie czytałem tego raportu, więc dokumentu, że mamy to ten trend takiej personalizacji, nie? Czyli faktycznie ktoś ma jakieś narzędzie i y ono jest nawet OSS, open source, jakkolwiek i on mówi: "Wiesz co, to zrób mi takie, bo ja chcę mieć trochę inaczej, nie?" E, no i teraz wiesz, dla firm to może jest nie do utrzymania. Też widziałem fajny komentarz na ten temat pod tytułem: "Płaci swoim inżynierom pół miliona dolarów, żeby używali narzędzi za 200 arów za godzinę, żeby wydewelopowali SAS, który kosztuje 20 $arów na miesiąc". Nie. Yyy, ale dla prywatnego użytku, nie, to jest takie taka pokusa pod tytułem, zamiast używać tego projektu, to ja sobie zrobię go trochę lepiej samemu i dla jednej osoby to będzie działać, nie?
Żeby nie płacić. A poza tym ja potrzebuję tylko 10% featerów. Tak, ale właśnie, bo y z boku sobie szukałem, nie miałem tego w planie, bo wspomniałeś o czymś ciekawym, nie? Że będzie ochrona z peku, nie? jako takiego jest taki człowiek Dave Dave Plamer yyy nawet niedawno był u Lexa, którego ostatnio coraz mniej słucham a nawet wcale. Dave Plammer to jest stary inżynier z Microsoftu. Pisał od czasów NT95 XP i tak dalej i tak dalej. Taki typowo naprawdę nerd style, ale fajnie, nie? Na przykład ma tam duży klaster AI w tej chwili, który uczy się grać w gry pewne takie oldscholowe, nie? Yyy Dave między innymi yyy pracował nad Task Managerem, pamiętacie? W NT4, taki ładny, dalej w Windowsach i tak dalej. I ostatnio wypuścił Task Manager na Maca. Naprawdę jest fajny. Y, nazywa się to Tmog. TMO. Tmog.org. Jest na Maca i na Windows, nie? I to jest task manager, taki z Windowserydach, na Macu. Bardzo fajnie zrobiony.
Dlaczego to jest ciekawe? Bo ktoś powiedział Dave, zreszcie kopną w kostkę, nie? E, bo pisałeś Task Manager i tak dalej i tak dalej, a on mówi, że Microsoft tam mu udostępnia kod XP i tak dalej dalej, a on nie może go skopiować, ale z drugiej strony to on nie kopiuje kodów, nie? Ktoś się spytał, jak on to zrobił i już dochodzę do puenty i on odpisał bardzo prosto AI, znaczy zrobił to GPT 56 sol Swift i 107 stron dokumentacji specyfikacji, którą napisałem. Generalnie napisał 107 stron z Peka dla Sola, żeby napisał ten software. Nie tylko on to napisał z łapy, napisał co chce, jak to ma działać i tak dalej i wrzucił w sola. I to jest i to jest to, co mi przyszło do głowy, nie? Że napisanie specyfikacji nadal wymaga jeszcze wiedzy, bo on dokładnie wiedział co chce dostać, co to ma robić i wie jak to działa pod spodem, nie? E, także ta specyfikacja będzie ciekawa. A swoją drogą sprawdźcie TMOG.
Nie tylko przyklesnąć, słuchajcie i powiedzieć, że jeżeli ktoś się zastanawia jak będzie wyglądał nasz zawód w najbliższych miesiącach, kwartałach, latach, no to dokładnie pewnie tak. Pisze. Dobrze, ja wejdę z czymś wakacyjnie i bieżąco. Będzie blog sponsorowany przez blog. To całkiem nie planowane było, ale firma się pojawi. Widziliście co się dzieje z Bitcoinem? Nie patrzę. A z bitcoinem się tam w zasadzie może nic nie dzieje, ale mamy i to w ogóle jest ciekawe, bo to nam zahaczy o kilka tematów, o których ty powiedziałeś. Mamy w tej chwili ongoing hak w środowisku bitcoinowym. Okazało się, że co? Że mamy bitcoina. Dla tych, którzy nie wiedzą, taka kryptowaluta. Bitcoin musi być gdzieś zapisany, więc jest zapisywany na walletach. Tak, wallety to jest para kluczy. prywatny, publiczny. Prywatny musisz trzymać, bo jak ktoś go dostanie, no to not your keys, not your coins, nie? Czyli generalnie może wziąć swojego Bitcoina.
Dla tych, którzy są niezorientowani też do tego używa się czegoś, co się nazywa wallet. Ten wallet może być hardwareowy, czyli takie urządzenie, które przechowuje klucz prywatny w środku, tak? I nigdy on z tego klucza, ten klucz prywatny z tego urządzenia nie wychodzi. No i jeden z producentów takiego walleta hardwareowego, który był bardzo mocno promowany w takim środowisku Bitcoin Maxi, czyli takich ludzi, którzy bardzo wierzą w Bitcoina, poległ na random, na funkcji random, czyli jak generowali klucze prywatne, to ta funkcja random e miała fail, silent failover, fail back, tak? Czyli generalnie jak się coś nie poszło z generowaniem randomowości to generowało trochę mniej randomowo i nie nie informowało o tym użytkownika. Yyy i się okazuje, że yyy jest bardzo łatwo wygenerować kolizję tego. Yyy no i co i w weekend yyy yyy w weekend zaczęło się czyszczenie tych yy portfeli i trwa, nie? Na tą chwilę poszło już kilka tysięcy portfeli.
Zwinęli ponad chyba już w tej chwili są ponad 1000 bitcoinów. idą grube kwoty. Dlaczego to jest ciekawe? Bo tu wyszły oprócz tego teraz tak, nie, że możesz sobie wymyśleć całą, możesz być Satosi, możesz wymyśleć ten protokół, możesz zainwestować w to wszystko i tak dalej. A na końcu jest deweloper, który pisze funkcję random i mówi: "A to tutaj weźmiemy aktualny czas i pozycję Marsa i to będzie nasz tam hasz do prywatności, nie? Do randomu, tak? Yyy, ale tu pojawił się ciekawy aspekt yyy open source, decentralizacji i tak dalej, ponieważ nie ma jak tego zatrzymać. Ludzie mają wallet, który z założenia miał być odłączony od sieci. Nie można do niego wypchnąć aktualizacji. E, te klucze zostały wygenerowane. Ten atakujący w tej chwili po prostu on generuje te klucze od nowa, bo doszedł do wniosku jak wygląda yyy funkcja. tak, która go generuje i po prostu przejmują tą kasę, nie? I ludzie się patrzą jak to znika i tam dzwonią do znajomych, o których wiedzą, że ten. Więc ciekawy case oprócz samego samej części finansowej, że te
bitcoiny zmieniają właściciela i całej rozmowy, czy to jest kradzież, czy nie, bo to jest bardzo ciekawy aspekt. [śmiech] Nie da się nie da się nie udowodnić, że klucz prywatny nie został użyty do wytransferowania tych pieniędzy. A kto miał klucz prywatny właściciel? Tak. E, no to pojawiła się kwestia, że decentralizacja ma też swoje wyzwania, nie? E, i ciekawe jest, bo faktycznie nie ma jak tego zatrzymać, nie ma jak wysłać. Jest kilka smaczków. E, prawdopodobnie firma wiedziała o tym, że ta funkcja random nie działa i jak dostali pierwsze zgłoszenia kilka lat temu, to je wyciszyli grzecznie. Blok pojawił się dlatego, że inżynierowie z bloka zauważyli, że to się dzieje. Plus doszli do wniosku, że to będzie ciekawy twist, gdzieś tam wrócimy do tego, że atakujący używa komercyjnego API do screenowania portfeli, które trzeba wyczyścić i po prostu pobiera dane z jakiegoś providera API o portfelach bitcoinowych i na płatnym koncie, czyli ktoś podłokrół swoje dane i tak dalej, i tak dalej. No i blog mocno tam siedzi i sprawdza. Plus oni produkują swój wallet i powiedzieli: "Nasz wallet jest bezpieczny, to go używajcie". Nie. A cz już oddaję wam głos i Wojtkowi na snak jest to, że nie ma nic takiego lepszego
niż marketing stand, nie? Więc jeden z producentów walleta, inny powiedział: "Antropik, wyzywam was". Tu jest wallet, tu jest 100 bitcoinów. Jak wasz kloc potrafi złamać, to 100 bitcoinów jest waszy. Nie no i co? I Redit się rzucił na to i powiedzieli, odtworzenie tego problemu, który jest w tej chwili dotyczy tej tego walletu, który jest okradany, tak zajęło Clodowi 8 minut, [śmiech] więc zobaczymy, czy te 100 bitcoinów zniknie. To będzie naprawdę ciekawy case. A czy wiadomo kto za tym stoi? Analizowałeś? Bo przyznam szczerze, że ja nie właśnie nie. W tej chwili nie wiadomo. Ludzie zgłaszają to oczywiście na policję, bo gdzie zgłaszasz, jak jesteś antygovernment, antyestablishment. Nie trzymajcie moich pieniędzy i nie miejcie do nich ten, to potem jak ci je ukradną to idziesz na policję. To mnie zawsze śmieszy. Na tą chwilę nie wiadomo. Ja bym stawiał jak zwykle, się okaże pewnie jakaś North Korea czy coś takiego. Nie trzeba obserwować budżet północnej Korei na przykład. Tak, tak, tak. Ale na tą chwilę nie wiadomo kto jest. Właśnie klu jest takie, że zobaczyli, że ktoś korzysta właśnie z tych danych komercyjnych. Y więc wiesz jak korzystasz z komercyjnych danych to gdzieś tam się pojawiła karta kredytowa, cokolwiek, nie? Oczywiście ona może być fake i tak dalej, no ale ktoś się do tego łączy. Nie no to jak
masz konkretny case, że wiesz, że się łączy do konkretnego API, no to mogą zacząć śledzić i tak dalej, nie? Ale faktycznie w tej chwili po prostu czyszczą ludziom wallety i nie ma sposobu na zatrzymanie tego. Jest naprawdę duża cały najlepsze jest to, że to ludzie, które czyszczą wallety, jak to są ci ludzie, którzy zrobili wszystko tak, jak było powiedziane, żeby robić offline wallet w sejfie. To jest w ogóle taki taki też problem, nie? Że ci ludzie może nawet by mogli wytransferować te pieniądze, nie? Ale oni są na wakacjach, a ten offline wallet leży w sejfie w innym kraju. Muszą tam lecieć, wyciągnąć go, nie? I przylatują i już nic nie ma. Po prostu bardzo ciekawy case. Bardzo ciekawy case. C love. [parsknięcie] Wojtek, co tam ciekawego przygotowałeś? Kripsi. Czy wiecie co to jest Kripsi? Krips. Nie, ale dzisiaj mamy dość ciekawy odcinek się zrobił. [śmiech] Brzmi jak nowa straszna zabawka z Japonii. Prawie. Ale jest z Polski. Słuchajcie, Kripsi [śmiech] Kripsi to jest Komisja Rozwoju i bezpieczeństwa sztucznej inteligencji.
O matko, [śmiech] dobra nazwa. Także też się uśmiechnem jak to zobaczyłem, bo jestem jeden z najbardziej wesołych skrótów. Ja bym chciał zobaczyć ich merch. naprawdę taki [śmiech] to ma taki potencjał na merch, taki yyy wiesz nasze koszulki, nasze logo. [śmiech] Co to jest? I to jest wstęp słuchajcie, bo jak zwykle dowieziony przed samym deadlinem, ale nie do końca, bo yyy yyy mowa oczywiście o UA, przepraszam EU AI Act, do którego zaraz wrócę. W Polsce prezydent podpisał ustawę 24 lipca, czyli właśnie ustanawiając krypsi. Cały czas będę się uśmiechać. Jest to powtórzyć jeszcze nazwę jeszcze raz. Komisja Rozwoju i bezpieczeństwa sztucznej inteligencji. Okej. Jest to Krajowy Organoru rynku, więc i punkt komunikacji wobec kontaktowy wobec instytucji unijnych.
Mamy tylko jaka jest ciekawostka w Polsce? Przewodniczący zostanie wybrany dopiero w październiku, bo tak wyszło, czyli nie mamy tej instytucji, nie mamy przewodniczącego. Tam będą zasiadać przedstawiciele UOK, KNFu, Kraowej Rady Radiofonii Telewizji, Ochrony danych osobowych i tak dalej, i tak dalej. Każdy będzie mógł wnieść skargę tak samo jak z ochroną danych osobowych. yyy wniosek o interwencję, mamy rozpatrzenie do sześciu miesięcy i tak dalej, i tak dalej. Natomiast yyy wracając już do poważnego tematu, co dokładnie weszło do 2 sierpnia, co dotyczy nas obywateli w Unii Europejskiej, tak? Czyli po pierwsze każdy system wchodzący w interakcję z nami, yyy, rezydentami i obywatelami Unii Europejskiej musi być zaprojektowany tak, żeby osoba wiedziała, że to jest sztuczna inteligencja, czyli zarówno rozmowę, grafiki, wideo i tak dalej, i tak dalej. yyy treści syntetyczne muszą być yyy yyy oznaczone w formacie odczytywalnym maszynowo, czyli inne maszyny też muszą wiedzieć, że jest to yyy jest to obraz, dźwięk, wideo, tekst i tak dalej.
Wykrywane yyy yyy musi być wykrywalny jako sztucznie wygenerowany. Yyy, jeżeli chodzi o rozpoznawanie emocji i kategoryzację biometryczną, musimy poinformować osoby yyy poddane działaniu tego systemu. Yyy, deep fakei yyy mają być oczywiście ograniczone, yyy, więc to jest bardzo istotna rzecz, szczególnie jeżeli chodzi o falę wyborów, która nadchodzi w Europie. Zobaczymy jak to będzie. I generalnie rzecz biorąc to jest główna część, która nas dotyczy. jest jeszcze bardzo duża część obowiązków firm. Natomiast bardzo jest istotne to nie wszystko, to nie jest koniec AI Act, bo to jest tak, on już wchodzi od jakiegoś czasu i będzie jeszcze wchodzić. Co jeszcze będzie wchodzić? Między innymi systemy wysokiego ryzyka. Dopiero na koniec tego roku, przepraszam, następnego roku, w następnym sierpniu następnego roku ma być, czyli na przykład system dotyczący rekrutacji, zarządzania pracownikami edukacji, skoringów kredytowych, wycen ubezpieczeń i tak dalej, i tak dalej.
Jeżeli chodzi o wysokie ryzyko i innego rodzaju systemy typu produkty regulowane, to mamy jeszcze bardziej to odsunięte i prawdopodobnie jeszcze bardziej się to odsunie. Więc mamy tak naprawdę to trochę rozmyte w czasie. Oczywiście nagłówki będą robiły kary, które Unia Europejska lubi stosować. Jak wiemy w Unii Europejskiej większy przychód jest kar niż z z techu, który mamy w Unii Europejskiej. ponieważ zakazane praktyki, słuchajcie, to jest pułap 35 milionów euro albo 7% światowego obrotu, przy czym jest to jest to wyższa z tych dwóch kwot, więc firmy typu Bigtechy czy tam Frontier Labym miałyby dosyć spory kłopot. No i pozostałe obowiązki, w tym między innymi taka rzecz, która wyszła jak zgłaszanie incydentów do regulatora. Jest to pułap 15 milionów euro lub 3% światowego obrotu.
No więc witamy w nowej Unii Europejskiej, która reguluje sztuczną inteligencję. Przypomnę dla osób, które krytykują regulacje. W Chinach jest to dużo bardziej wyregulowane. W Rosji to już absolutnie jest dużo bardziej wyregulowane. W Stanach Zjednoczonych mamy do czynienia z między innymi wspomnieliśmy w ostatnim odcinku AI Kill Switch Act, który jest dużo, dużo bardziej agresywny pod tym kątem, ponieważ pozwala też regulatorowi na odłączenie danego modelu od tak naprawdę odłączenie danego modelu. Unia Europejska nie posunęła się w tym kierunku. Jest tylko nakładanie kar na model, który na przykład tworzy deep fake. E, zajrzałem w trakcie twojej wypowiedzi na LinkedIn i na XA i nie widzę żadnych kolorowych karteczek oznaczających AI content. A to już słuchaj, no to Clipsi się za to za to weźmie. Jak będą zależy od modelu jak masz używać minini na przykład to on już od jakiegoś czasu generuje ci v one takie Q że to jest nie trochę ironicznie nie ale wiesz chciałem zobaczyć pojawił że nie mamy jeszcze organu tak to że nie mamy jeszcze organu na przykład w niektórych krajach typu w
Polsce nie oznacza, że naruszenia nie będą się odkładały i nakładały tak bo myślę że ten organ po prostu jak wystartuje już będzie miał 6 miesięcy historii do do przeanalizowania tak naprawdę Czy co ja chciałbym zobaczyć jak to będzie działo w praktyce powiem tyle [parsknięcie] trochę symetrii w tym co powiedział Wojtek dlatego, że okej to że Chiny coś tam mają ale oni to mają głównie na potrzeby tego co sami kontrolują w sensie własnego rynku tych chińskich firm bo całą resztę to i tak odsiewają nie więc Amerykanie też mogą sobie regulować te swoje firmy, bo to są ich firmy znowu mają na nie bezpośrednie przełożenie a Europa na co ma przełożenie w Europie jest jedna firma, która to robi w praktyce, a inne to już są firmy amerykańskie, więc tutaj są czekajcie, bo kary są nie dla labów, które produkują model, czy w tym wypadku Sebastian pewnie pijesz do Mistrala, to nie Mistral będzie miał karę, tylko firma, która stosuje Mistral w swoich funkcjonalnościach, które na przykład mogą spowodować oszukanie ciebie w jakikolwiek sposób, tak? Czy wygenerowanie? Ja po prostu ch chc ja po prostu chcę zobaczyć to w praktyce, nie, jak to będzie działać, jak to będzie egzekwowane, jak to w ogóle będzie wyglądać. No bo teraz tak wchodzę sobie na dowolną stronę, na przykład mam tutaj Twittera, bo
szukałem czegoś, nie wiem, czy tam XA i widzę kontent, który jest wygenerowany przez AI, nastawiony na to, żeby miał szukać, bo jest, nie jest deep fake z publicznymi osobami i tak dalej. W tej chwili mam go na ekranie, nie? E, kto za to odpowiada, że on nie jest oznaczony, nie? Ten kto wygenerował, kto opublikował, nie powiedział Wojtek, że ten kto opublikował. No właśnie nie, czyli X. No to teraz nie X osoba. Bą A to nie jest osoba. A ty to w ogóle wchodzi jeszcze w inny obszary. No i o to chodzi, nie? Że wiesz, że znaczy [śmiech] zgadzam się z twoim komentarzem, bo to był pierwszy i oczywisty komentarz, Sebastian, nie? Czyli próbujemy regulować coś, nad czym nie mamy żadnego lewaru, nie? E i to tak totalnie nie mamy lewaru, bo jak w tej chwili spróbujemy mocniej siąść na firmach amerykańskich albo na firmach chińskich, to to się bardzo szybko skończy, nie? Więc no po prostu nie mamy na nich żadnego lewaru. To jesteśmy w tej samej, nie to, że żadnego, ale to będą trudne rozmowy, to będą trudne, to będzie wiele, wiele tweetów na True Social.
No tak. W premium będą czy nie w premium? premium ruszyło. Znaczy ja powiem w ten sposób, że, bo zapytałeś się jak to będzie egzekwowane moim zdaniem bardzo mocno reaktywnie. Czy tak w praktyce jeż chodzi o monitoring nie będzie wcale. Natomiast jeżeli po prostu trzeba będzie kogoś zaskarżyć, bo będzie jakaś duża imba i będzie będzie duży rozgłos, po prostu wtedy się tego wykorzy to wykorzysta, bo inaczej to okej. Znaczy ciekawym twistem byłoby próba faktycznie przerzucenia odpowiedzialności na publishera, ale nie na osobę, czyli na przykład, że ktoś Dokładnie. Tylko to ten niedobry X, bo na Xie to publikują deep fjki, a oni ich nie wykrywają. Takie przerzucenie problemu teoretycznie jest możliwe, ale no jest trochę kontrowersyjne. To żeśmy o tym rozmawiali niejednokrotnie. Jak wszyscy wiedzą, którzy oglądają nas, a ci, którzy nie oglądali, a trafili tutaj pierwszy raz, to się dowiedzieli już w trakcie tego odcinka. A ja teraz powiem to wprost. Jestem znanym internetowym hejterem. No cóż, taka wada charakteru.
Jako znany internetowy hejter, to się troll nazywa, nie? Teraz to nazywa się hejter. A może fakt, bo troll lepiej pasuje. Zrobiłem trollowowski komentarz od ręki i jestem w stanie założyć się o to, że postawię wam jakąś kawę czy coś, nie wiem. że w miarę szybko wyjdzie dokument z Unii Europejskiej, jakiejś agencji albo czegoś, który będzie wygenerowany z użyciem narzędzi AI i nie będzie oznaczony. [odchrząknięcie] Chyba ze dni temu, ze dwa dni temu mieliśmy przykład jakiegoś pana, dwa dni temu AKT jeszcze nie działał. wygłaszał jakąś mowę i po prostu przeczytał ten ten pod spodem ten sufiks dany mu przez lma, że jeżeli nie [odchrząknięcie] podoba ci się ta wersja wygenerowana to [śmiech] przeczytał to po prostu ciągiem. Ale dwa dni temu jak nie działał, nie? Więc generalnie według mnie to się rozsypie. Reaktywne o tak jak powiedziałeś Sebastian, to tak to się zgodzę. reaktywne wyciąganie tych casów, żeby zrobić komuś kuku, pokazać jakiś case, mieć pretekst do nałożenia jakiejś kary, tak? Ale tak nie widzę, żeby to zrobiło dużą różnicę u nas jakby dla nie chciałem rozkręcać wielkiej dyskusji, ale nie wyobraźcie sobie grę komputerową. W grze komputerowej jest bardzo wiele asetów. Są asety muzyczne,
są asety wizualne, są ba, no można nawet jakieś takie asety nieoczywiste typu jakiś w ogóle mesz, sposób animacji to też można wygrywać. A ja jak to oznaczać? [śmiech] teksturę to oznaczyz. No ale to też trochę głupio by wyglądało, gdybyś na teksturze każdy oznaczył, że że ta jest wygenerowana przez AI. No ale jak co w dźwięku też co będzie słychał jakieś brzęczenie, jeżeli to jest wygenerowane przez pewnie będzie labelka na będzie będzie labelka na grze pod tytułem Kontent w tej grze jest wygenerowany częściowo przez ja i koniec tak z GDPem, że za chwilę wszystko będzie miał tą labelkę w internecie. Co to daje? Jeszcze więcej. Ej, będziemy mieli drugie cookie. Będzie zaakceptuj cooki, że zgadzasz się, że tutaj jest cookie. Zaakceptuj Ki, że będziesz miał reklamy i zaakceptuj cookie, że używamy AI i dokładnie tak będzie. E, polecamy odpalić szybko firmę prawniczą, która będzie konsultowała, które cookie jest dobre i jak powinien być tekst. Dobrze, jesteśmy w temacie. Był open source, regulacje i tak dalej.
Wspominaliśmy XA, czego dzisiaj jeszcze nie wspominaliśmy, bo już był Jack. Nvidi nie wspominaliśmy o jest taka firma i ma i Jensen Huang odpalił konto na Xie. Tak. Jest nową gwiazdą social mediów. Tak. Bardzo mi się podobał. Pierwsze Nikita z Xa jest bardzo dobrą rzeczą, która przytrafiła się Xowi, bo pierwszy jego komentarz był pod tym wpisem i było follow for follow, nie? [śmiech] Ale tak Jensen pojawił się na XI nie tylko zaczął od tego, że napisał o tym, że modele oporsowe są ważne w życiu istnienia AI. Sebastian, może nas prowadzisz? Mogę to zrobić. Otóż opublikował list. List nosi tytuł Open Weights American AI leadership. To słówko American będzie istotne. On się pojawi jeszcze parę razy. Opublikowany 24 lipca 2026. Yyy i tam ten list się zmieniał, bo tam sygnariusze się do niego dopisywali. W każdym razie o ich tam dużo jest też, nie?
Tak, tak, tak. Cały czas się dopisują. Tak, podobno Jenson założył to konto właśnie po to, żeby wyszerować ten list, bo ten list jest taki ważny. Co jest w tym liście napisane? Więc jest tak napisane, że to jest list [odchrząknięcie] napisany w obroni modeli open weights. To jest bardzo istotne. Poszła taka plotka, taka fama, że administracja Trumpa planuje akcje przeciwko firmie Moonshot AI. To są twórcy znanego modelu Kimi, to K3, to jest ostatnia wersja, bardzo mocna zresztą. E, i że i celem administracji Trumpa jest zbanowanie użycia tego modelu w celu w celu protekcji, w celu obrony lokalnego rynku i interesów tych firm amerykańskich oraz konsumentów amerykańskich, którzy mogliby być pod wpływem zbiasowanych chińskich modeli, które jeszcze ich tam tych biednych ludzi śledzą. No bo Kimi też jest hostowany przez Mota. A więc tak to jest napisane w tym liście tak w skrócie, że te modele open weight to jest element strategicznej infrastruktury dla amerykańskiego AI leadership, że sukces AI w ogóle zależy nam mocnym otwartym ekosystemie, otwartym,
który wchodzi potem w każdy sektor rynkowy i że tu jeden frontier model nie gwarantuje tego sukcesu longterm. Tam są trzy takie główne punkty tego listu. [wciągnięcie powietrza] Więc pierwszy to jest taki, że modele open weights zwiększają jakby dostęp ekonomiczny do rynku AIowego, czyli dzięki temu startupy, uniwersytety mogą budować bez wielkich kosztów wejścia. Pierwszy punkt możemy się do niego ustosunkować. Drugi punkt jest taki, że modele open weight zwiększają konkurencję, czyli że zapobiegają koncentracji mocy w rękach kilku firm, które stać na wytrenowanie swoich dużych modeli. I na końcu ostatni, ten trzeci punkt jest taki, że modele open weight zwiększają bezpieczeństwo, dlatego że open weight daje transparencję, czyli że więcej wiemy jak te modele działają, jesteśmy więcej w stanie sprawdzić. Jest audytowane przez więcej osób, tak więcej oczu na tym jest dokładnie. eyeballs [parsknięcie] i dzięki temu takie zamknięte modele nie są takim single point of failure i w związku z tym jakby odezwa do Trumpa, odezwa otwarta odezwa jest taka, żeby unikać zbyt wczesnych restrykcji na modelach otwartych, żeby jak najbardziej
rozszerzać dostęp do comput, żeby każdy mógł z takimi modelami open weights, pracować, je tam rozwijać i żeby inwestować współdzielenie się asetami treningowymi, czyli zbiorami danych, za pomocą których można te te modele customizować. W tym liście jest trochę na temat destylacji. Jest takie wyróżnienie tematu destylacji, że destylacja jest tam kradzieżą, że trzeba odróżnić te legalne techniki od tego typu akcji. I pod tymże listem podpisało się już bardzo dużo osób, podpisało się bardzo dużo instytucji z osób to J& Hang, Satan, Adela, Elon Musk. Jeżeli chodzi o firmy to Nvidia, Microsoft Meta, Google, Open AI, Amazon AMD, Intel, Ciscy, IBM, Delpalantir, SpaceX i tak dalej, i tak dalej i tak dalej. Podpisali się oczywiście Wendorze Jajowi, Mistral Cohero Huging Face OAMA i tak dalej.
Podpisały się oczywiście firmy inwestycyjne. Dużo tego. Kto się nie podpisał? No właśnie na to patrzyłem dokładnie. Jak zwykle późno się podpisał Amazon. Oni muszą sobie wszystko przeewaluować, co im się opłaca, co im się nie opłaca. ale się w końcu podpisali i w tej formie nie podpisał się chyba ciągle też Antropik, przy czym oni później wydali swój tam papierek, swoje podejście do open weights, tam powiedziałbym trochę bardziej stonowane i i bezpieczne. No dobrze, czy się zgadzacie z tym, czy również uważacie, że to weight przyszłość jeszcze może dodam, jeżeli ktoś jest na wakacjach przez ostatni miesiąc, co się w ogóle wydarzyło i jaka była co się działo do mnie cały czas. Tak, nie, nie, nie. Tylko, że tutaj jest do tego co Sebastian mówi jest kilka odpowiedzi równolegle. Tak, czyli pierwsza rzecz w połowie lipca pokazał się Kimik 3 y od Moonshot AI, który wspomniałeś, czyli chiński model 28 miliona 2,8 biliona parametrów, przepraszam.
Pełne wagi udostępnione na koniec lipca 15 $arów za milion tokenów w porównaniu do Fablea, z którym jest porównywany 50 $arów za milion tokenów. To już mamy ekonomia jest przez trzy, tak? 20 lipca Axus podaje to, co właśnie powiedziałeś, że administracja wraca do pomysłu zakazu modeli. Przede wszystkim tam chodziło właśnie o tą destylację. Tutaj za chwilę możemy do tego wrócić. 21 lipca yy sekretarz stanu Besent, czyli ta dosyć znana postać i bardzo mocna w administracji Trumpa, zapowiada kontrolę chińskich modeli pod kątem kradzieży IP. Sankcje yyy tam Hang właśnie się wypowiada też i parę dni później wpływa ten już wspomniany AI kill switch act. E, no i tutaj pojawia się to pismo, to pismo od Huanga 24, czyli dzień po AI Kill Switch Actu. 27 Daria Moday ma odpowiedź, jeżeli chodzi swoją odpowiedź właśnie, jeżeli chodzi o ten temat, czyli our position on open weight models. No i 28, myślę, temat, do którego jeszcze wrócimy, pacing the
frontier. Więc jak na wakacje, jak na sezon ogórkowy, o którym wspomniałeś Tomek, to się dzieje bardzo, bardzo dużo. Firm, które podpisały faktycznie jest sporo. To są przede wszystkim, można by powiedzieć inwestorzy albo dostawcy infrastruktury. To tutaj jest bardzo istotne. Ja zanim przejdę do do porównania tych listów i na przykład tego, jak się rząd odnosi do tych samych aspektów, bo to sobie też przygotowałem, chciałem zwrócić uwagę na jedną rzecz. NVIDIA ma tutaj bardzo duży interes, ponieważ tak naprawdę świat zamknięty, mamy świat zamknięty i świat otwartych w aktach. Świat zamknięty, który dotychczas jest dominuje bardzo mocno w Stanach Zjednoczonych, w Ameryce, do których Sebastian wspomniałeś, to jest kilka labów. Google Antropic Open AI w tym momencie tak naprawdę można by powiedzieć tych trzech. No i ryzyko dla Nvidi, NVD jest takie, że po pierwsze każdy z nich zaczyna budować własne chipsety, każdy z nich buduje własne AI factories, każdy z nich buduje własne elektrownie i tak dalej i tak dalej.
Więc jest pokaźne ryzyko świata zamkniętego dla modelu ekonomicznego Nvidi. Świat otwartych wag. No proszę was bardzo. Każdy, tak jak Sebastian wspomniałeś, każda instytucja będzie potrzebowała swojego computers będzie potrzebował computnie będziemy też mówić, że każdy potrzebuje własne urządzenie z własnym komputer, żeby odpalić jakiś tam lokalny model, żeby to było bardzo open. Przy czym Nvidia to już dla osób, które może tego nie śledzą, to nie jest firma od kart graficznych. To jest firma, która produkuje już całe AI factories. Tak, czyli my możemy zamówić w Nvidi już nie nawet serwery, już nawet nie szafy rakowe wypchane tymi kartami, tylko tak naprawdę już całą AI factory ze wszystkimi elementami. Więc dla nich to jest super, bo przychodzi sobie dowolna firma, dowolna instytucja mówi: "Potrzebujemy AI faktury, które nam odpali taki i taki model". NVIDIA mówi: "Proszę bardzo, możecie jak najbardziej". To jeszcze tutaj zanim oddam Tomkowi głos, od razu szybko powiem najważniejsze rzeczy pewnie Amodei można by powiedzieć te besent i może amerykańskie stwierdzenie jastrzębie wokół niego i Huang
gdzie się gdzie się gdzie się przede wszystkim różnią w destylacji właśnie ponieważ tak naprawdę Huang namawia że destylacja to jest fundament można powiedzieć fundament tych tych intel mniej więcej pewien fundament tych modeli, a modi mówi, że trzeba się z tym rozprawić z przemysłową skalą, a Besent wprost zapowiada, jak widzicie, kradzież IP, że musimy stosować znaki wodne, czyli to przed chwilą wspomnieliśmy, UI Act i jak w jakiś sposób maszynowy zaznaczanie tego, no i oczywiście grozi sankcjami, więc to jest przede wszystkim główna różnica dla nich. No i tam różnią się też jeżeli chodzi o testy przed wydaniem, monitoring po wydaniu tych modeli i tak dalej i tak dalej, gdzie można powiedzieć Hang jest najbardziej liberalny antropik pośrodku, a rząd bardzo mocno staje na jeżeli chodzi na stanowisku regulacji. Przy czym dodam, bo będzie oczywiście teraz bardzo dużo krzyku, jak to Europa jest wyregulowana.
Besent i jego wypowiedzi są bardzo bardzo w stronę kontrolingu i nawet wiecie pełne innego No jasne, ale jasne, ale mamy regulację sztucznej inteligencji. Tak Tomek, wiesz co, regulacje sztucznej inteligencji czy ochrona rynku to są dwa to jest dobre pytanie, nie? Tam oddajmy też, że była taka mała drama, bo jak wyszło Kimi, to Antropik oskarżył Kimi o destylację Faba, nie? A Kimi powiedział: "Chyba żartujecie, wypuściliście Febla publicznie tam chwilkę temu. Nie mieli, nawet nie mielibyśmy kiedy, nie tego zrobić w takim na takim poziomie, nie? Bo trochę tak się odbyło, nie? że kilka dni w zasadzie po tym jak ten Fable został czy tam kilka tygodni to oni powiedzieli nie nie dałoby się rady tego zrobić jak Sebastian to czytał to ja w międzyczasie patrzyłem na list w jego dwóch wersjach czyli w tej załączonej przez Huanga na Xie i tej drugiej ciekawe jest też rozszerzanie tej listy, nie? Bo to jest tak kto to podpisał, nie? No podpisali to wszyscy dystrybutorzy łopat upraszczając na dzień dobry no bo Nvidia IBM
z inwestorów to było Andreas Horowic American Investion Network Arki to jest chyba też nie no proszę cię Tomek tam równo Cominator na początku a był tak ale generalnie ci, którzy albo dostarczają coś na tym ci którzy korzystają z tego, że to istnieje dostarczają sprzęt z labów na dzień dobry i to jest ciekawe podpisały się tylko europejskie tak bo jest Black Forest Lab i Mistral na pewno nie ma Kaja i na pewno nie ma Antropika też jest tak potem ta lista się rozszerzyła. tylko taka obserwacja, no bo tak y znaczy też też jakby cała ciekawostka dla mnie w tym wszystkim jest i ona jest tutaj też oczywista, nie, że tutaj nie ma nikogo z Chin. Nie ma, nie ma. Tak, dokładnie, nie? Więc dlatego ja mówię to czy to jest ochrona IP, według mnie to jest ochrona rynku. Tutj zaczyna się hasło pod tytułem i o tym też kiedyś rozmawialiśmy, że do tego dojdzie. E, no bo mamy w tej chwili nie mamy znaczących open weight model z zachodu takich powszechnie, o których słyszysz, używasz i tak dalej. [parsknięcie] No są to modele GMA na pewno googlowe, które są popularne. One są dosyć małe, ale są
modele dużo tego jest na hacking faie. No to nie są te modele Frontier, tak? Ale chodzi wiesz, ale właśnie, ale o to, o to mi chodzi, nie, że jeżeli popatrzysz na ten GPT był był wypuszczony, to tak, ale jeżeli patrzysz na ten rynek, co jest konkurencją do czego, to tak naprawdę rozmawiamy o kim i deepu i tak dalej. nie rozmawiamy o czymś, co jest z zachodu Europy, Stanów konkretnie, nie? Co jest counter weight, czyli przeciwwagą dla Antropika GPT i tak dalej, nie? Czyli zaczyna się i oczywiście Chiny mają tutaj swoją strategię, bo w taki sposób po prostu walczą o dominację z Ameryką, kupując sobie czas, bo też o tym rozmawialiśmy ostatnio. Oni w międzyczasie budują budują cały łańcuch, nie? czyli GPU, chipy, produkcja tych chipów, narzędzia do tego i tak dalej, i tak dalej. Więc według mnie to jest ruch na ochronę rynku ze dwóch stron, czyli jedno, te firmy, które korzystają na tym, że one muszą coś dostarczać, nie? I teraz nie chcą być pod na łasce antropika, że będą miały model do dostarczania, nie? No bo jeżeli stany by weszły j już skończę powiem tylko jeżeli stany by weszły z regulacją zakazającą open weight model z jakimiś ograniczeniami i tak dalej i tak
dalej nie to co to uderza, to wtedy no to będzie wycelowane w chińskie modele tak to co to oznacza, że taki del czy HP jak stawia komuś to facttor AHP na przykład by the way buduje te AI factory dla Europy nie i buduje je w Europie to co one będą miały uruchamiać bo w tej chwili Europa może wziąć modele open weights je uruchamiać na tych [pomruk] AI factories, tak? A jak tego nie będzie albo będą jakieś ograniczenia, to co oni uruchomią? Nie będzie czegoś tam. No więc to jest według mnie bardziej ochrona rynku i walka o rynek po prostu już w tej chwili. Tutaj warto pamiętać jeszcze w kontekście tego, przypomnijmy sobie, że Fable został zablokowany przez Stany Zjednoczone. Mówiliśmy o tym o półtora miesiąca temu chyba. I skąd tenż moment paniki? Ja sobie sprawdziłem kilka tygodni temu, modele chińskie na Open Routerze wyprzedziły modele amerykańskie. Open Router jest to platforma dla osób, które nie wiedzą, do podłączenia sobie modelu przez API dowolnego i możemy zmieniać tak naprawdę te modele w locie.
No tak, ale to nic nie zmienia, bo jeżeli dla Europy akurat, bo jeżeli Stany Co zmienia, nie co zmienia? Trend jest taki, że te modele wypychają z rynku modele amerykańskie. Tak naprawdę, tak, tylko że wiesz, dla nas to nic nie zmienia, bo Chiny tak samo mogą przestać je publikować, mogą zmienić licencję, tak jak mówiliśmy. Tak, jesteś ugotowany. Tak, dokładnie. Więc tak naprawdę wracając tutaj cały interes NVIDi polega na tym, że bądźmy za open weights, bo tak naprawdę potrzebujesz to gdzieś odpalić. Znaczy Nvidia bym podejrzewał o coś innego. To jest ruch taktyczny na podtrzymanie demand. Oni też swoją drogą, bo to się wydarzyło w międzyczasie, uruchomiono sprzedaż ich chipów do Chin. Tak, na początku Chiny ich nie kupiły, ale potem było ogłoszenie, że tam poszły jednak zamówienia na ich chipy, więc oni też mają w tym stake. NVIDIA. Tak czy inaczej, ja tam jestem, wierzę w tego człowieka trochę, jeżeli chodzi o biznes, bo oni muszą już myśleć x lat do przodu z tym, nie? Bo to jest w tej chwili według mnie oni są już na etapie eksploitowania jakby przewagi, póki ona istnieje, zarabiają pieniędzy, a gdzieś tam muszą coś już wymyślać dalej, nie?
E, więc to też może być y ich yy myślenie pod tytułem te modele open weights. Yyy, pytanie jest, czy na przykład wiesz, czy myślicie, że to wywoła ciśnienie na tych providerów typu Antropic, żeby oni zaczęli te swoje modele udostępniać? Nie, ciśnienie to cały czas jest ciśnienie, ale takie ciśnienie [śmiech] typu administracyjne, że zostanie na nich to wymuszone, nie? A [odchrząknięcie] to trochę inna dyskusja, czy stanie to na nich wymuszone. No trzeba byłoby przekonać Trumpa. To jest faktycznie korzystne dla amerykańskiej gospodarki. [parsknięcie] Czy się to uda przekonać, czy nie, ciężko powiedzieć. To zależy od tego, kto będzie mocniej lobbował. No wiecie, Nvidia, Nvidium. No ale widzicie, kto jako drugi najmocniejszy to wsparł i najgłośniej za tym deliberował Microsoft. No Microsoft ewidentnie widać, że odchodzi od bycia właśnie zależnym od Open AI i idzie w kierunku tego, że będzie wiele modeli. Aili, że znaczy on napisał wprost, że oni pracują nad dodaniem Kimi do copil lota i tak dalej. Tak, Amazon przecież też ogłosił, że tam restrukturyzację w tych swoich AA labach i podobno Justin mówi, że naet będą jakieś tam modele robili, ale to oni nie obstawiają na to, że będą ich głównie ich modele hostowane. Nie będą hostowane różne modele. Będą starali się dawać różnorodność. No i oczywiście to jest
bardzo wiele postulatów, że tak chronią rynek, że dzięki temu unikają właśnie w zależności od jednej firmy, że to dzięki temu będzie bezpieczny i tak dalej. Jest to w dużej mierze ściema. Jest to forma nacisku na tamte laby. No bo tak Elon zawsze mówił o otwartym AI jeszcze Elon ma za tym swoje jeszcze w ogóle inne ukryte cele. W ogóle się też zastanawiam na przykład odnośnie tego, w którym momencie ten argument za open weight i za na przykład deceleracją będzie wynikał z tego, że ogólnie rynek dojdzie do wniosku, że przegięliśmy. W sensie koszta rosną tak lawinowo, że ten ten wyścig spowoduje bankructurctwo nas wszystkich, spowoduje wybuch bańki. Musimy sobie wspólnie kolegialnie narzucić pewnego rodzaju homonto. I na razie tego nie widać jeszcze, ale te głosy są cały czas podnoszone. No właśnie, bo w tym momencie o preferencje towards open weights albo ogólnie ugruntowanie tej pozycji open weights wymusza z pewnego rodzaju spłaszczenie tego rynku. pytanie, czy wszyscy dojdą do wniosku, że spłaszczenie jest im na rękę.
A no sam jestem ciekawy, ale natomiast nikt na pewno nie mówi tutaj otwarcie i zupełnie szczerze o swoich motywach. No nie, nie, nie. To na pewno. No i jakby jest to jednak znak tego postępującego podziału Chiny versus Stany i wszystko dalej, nie? Bo wiesz, no to jest jakby połowa świata technologicznego jest nie reprezentowana tutaj w tej chwili tego dookoła AI, nie? Jeszcze jest list. Ten list jeszcze niewiele świadczy. Jego jakby moc sprawcza związana z tym listem to jest potencjalnie odwołanie [odchrząknięcie] się do jakichś legislacji w Stanach Zjednoczonych. Znowu Stany Zjednoczone nie są całym światem. Czyli list jest listem, nie? Bardziej chodzi o to, że to się zaczęło pojawiać. Tak jak Wojtek powiedział, BST się odezwał w temacie, tak Antropik wyszedł, powiedział co myśli. Gdzieś tam się pojawiło, że będą cisnęli Trumpa, żeby jednak te modele open weight zostały jakoś wsparte, a chińskie modele open weight zostały przystoppowane. Tak, gdzie właśnie na przykład dla części tych amerykańskich firm jednak te chińskie modele to wcale nie jest takie zło, bo oni nie mają w tej chwili swoich innych, nie mają się tak jak powiedziałeś jak targować z Entropikiem, nie? Yyy ciekawe, że Meta jest yyy yyy
jednym z pierwszych też sygnatariuszy tam, nie? Bo Mark yyy to odnośnie tego sytuac mówiłeś o Bańce i tak dalej, jak się trochę tam poczyta yyy komentarzy to no co Mark w tej chwili robi? Ma excess capacity w swoich yyy data center i je sprzedaje, nie? Więc Mark ma po prostu dużo, nie poszło mu z różnymi tam inicjatywami. Ma dużo serwerów, które sprzedaje innym. No i on, żeby je sprzedać, nie? No to musi mieć na czym je sprzedawać, nie? E, co oni będą uruchamiać, więc duża taka układanka. Zobaczymy, gdzie to nas doprowadzi. Piękny, nowy, wspaniały świat, jak zawsze. Dobrze według Hxleya. E, jak ktoś nie czytał, to ja polecam. Jest też serial chyba na Netflixie, Brave New World. Jest, jest albo na HBO, nie pamiętam, ale jest. nawet dobrze zrobiony. Byłem zdziwiony. Yyy, ale to jest jedna z książek, która mocno ukształtowała moje myślenie kiedyś, więc yyy, nowy wspaniały świat Hackfle, zawsze klasyk. Myślę, że jak jesteśmy przy tym temacie, to warto wspomnieć pacing the Frontier, czyli że yyy można powiedzieć oddolny ruch pracowniczy yyy kilku labów, aby No właśnie, ale właśnie to wejdziemy w to, nie? Ale patrzcie co się robi, nie? Wszyscy psiaczą na tą
Europę, że reguluje, a po prostu wszyscy chcą się samoregulować. No i to jeszcze jak można by powiedzieć to wejdź w temat the frontier Wojtek. Tak jest. To co to jest? Jest to dokument oddolny można powiedzieć pracowników wielu, wielu labów podpisany pomiędzy tymi labami. Niektóre laby już się pod nim podpisały. A co jest w dokumencie? Tak naprawdę jest w podsumowaniu jest jeden postulat. Rząd USA musi wesprzeć międzynarodowy wysiłek na rzecz zbudowania narzędzi do świadomego regulowania tempa. Więc to jest podsumowanie można powiedzieć. Czyli słuchajcie, wiodące firmy ilaby wierzą, że mogą być bardzo blisko zautomatyzowania samych badań nad sztuczną inteligencją. Tak? Czyli pierwszy etap zobaczmy takiego, takiej automatyzacji to było automatyzowanie programowania. Jeżeli jesteśmy w stanie zautomatyzować programowanie, możemy zrobić, wpuścić wiele agentów, wiele modeli po to, żeby zaczęły na przykład tworzyć papery. No i co, coś z tego będzie miało sens. Więc biorące firmy twierdzą, że są już bardzo blisko zautomatyzowania badań nad sztuczą inteligencją.
E, istnieje realne ryzyko w związku z tym, że rozwój przyspieszy ponad naszą ludzką zdolność rozumienia i kontroli. Każda firma i każdy kraj, każdy z nas jest pod presją, żeby nie zwalniać jednostronnie, zarówno Chiny, jak i Europa, jak i Stany Zjednoczone. Ale świadu brakuje tak naprawdę narządzi technicznych, governanceowych, regulacyjnych, mierzenia tego i tak dalej, i tak dalej do świadomego regulowania tempa. No i list kończy się prośbą do rządu USA. Wesprzyjmy międzynarodowy wysiłek na rzecz zbudowania tego typu narzędzi. I teraz od razu powiem, czego dokument nie mówi, co było dla mnie ciekawe. Nie wzywa do żadnej pauzy ani moratorium. To co pamiętacie zrob proponował Elon Musk w momencie kiedy był pytany czy wierzy w super inteligencję. Yyy nie proponuje limitu compute ani jakichś progów parametrów. yyy nie proponuję żadnych reżimów licencyjnych obowiązkowych audytów, czyli tutaj w przeciwieństwie do AI ACT y EU AICT nie wskazuje żadnej instytucji. Yyy no to jest pracownicza prośba do Stanów, do rządu Stanów Zjednoczonych, więc nie mówią oj, że my jesteśmy jedyni, najlepsi i możemy to kontrolować, tylko tak naprawdę proszą,
żeby ich kontrolować. To jest taka ciekawostka. Nie ma tutaj słowa o modeli otwartych wag do tego, o czym rozmawialiśmy, czy laboratoriów spoza Stanów Zjednoczonych. No i właśnie i podpisało to kilka firm oraz wielu pracowników. Przy czym tak naprawdę jak sobie sprawdziłem liczby, to to jest to nie jest aż tak strasznie dużo tych podpisów. Są tam znaczące nazwiska, owszem, ale to nie jest aż tak dużo podpisów, bo na przykład w samym Antropicu podpisało to tylko 10% słuchajcie pracowników. Natomiast kto z ważnych osób pisał? Dario Amodaj, Ilia Skever, czyli to jest były były szef badań w Open AI i jej współzałożyciel Jakub Pchocki, czyli chief scientist w Open AI, Mark Chan, czyli chief research officer z Open AI. Schenger Zao, czyli chief scientist meta AI Dom Song z VP to jest VPI Research mety.
Też kilka osób z Google Deep Minda podpisało, ale nie sam sam Demis Hasabis i kilka jeszcze osób przede wszystkim właśnie z listy Antropica. No i właściwie rzecz biorąc to są te główne główne osoby. Jest dużo jest sporo nieobecnych, czyli między innymi sam Altman się nie odniósł i z Ksaja nie mamy nikogo, kto by się w tym do tego odniósł. No i Mark Zuckerberg tutaj można powiedzieć, że ciągnie linię z tego open ponieważ tak naprawdę tam mówi wprost nie regulujmy, tu mówi wprost nie podpisał. Tomek, tak sobie się uśmiechałem, bo sobie pomyślałem, że wiesz, w Pixi już wiedzą jak to działa. Podpiszesz się na liście i jesteś na liście do zwolnienia. Jak [śmiech] podpisz list przeciwko temu, co mówi boss, to to nie jest organizacja, która wybacza takie rzeczy. Tak.
Jeszcze jedna, jeszcze jeden komentarz mi przyszedł na al na koniec jeszcze wrzucę jak już powiecie coś, bo on jest trochę utopiczny, ale ten może [śmiech] coś powiedział komentarz do tego. Pamiętasz kiedy to wyszło? Sobie zobaczę. A jakieś tydzień temu chyba tydzień temu, bo ten temat się pojawiał, nie? Potem się pojawiło, że Antropik chyba powiedział, że oni już większość pracy nad którymś tam modelem to wykonują w ogóle, czy nad samym code, cloud code wykonują AI, nie? Był też ten aha moment, o którym mówiliśmy w zeszłym odcinku odnośnie security, który de facto miał dalej twist, bo okazało się, że tam było więcej tych firm, które Opena sobie zhakowało w międzyczasie, nie? I potem się okazało, że nie tylko open chyba. Ta debata istnieje w przestrzeni publicznej. Ona jest podnoszona przez innych ludzi, nie? Czyli ona jest pod tytułem: "Hej, jeżeli to tak działa i to jest tak szybko i wy nie do końca wiecie jak to działa, a ja tutaj jestem pracownikiem i to mnie zastąpi, to ja chcę, żebyście zwolnili tempo, bo ja potrzebuję czasu, żeby się zorientować w ogóle co się dzieje, nie? No i to jest y
ciekawa dynamika, nie? No bo teraz tym labom de facto zależy na tym, żeby to jednak się rozwijało szybko, nie? I tutaj jest dlaczego właśnie OpenIa tam nie ma, a modi jest na przykład, nie? Ale no bo pamiętajcie, że oni jeszcze chcą to sprzedać, nie? Zrobić IPO, cokolwiek, nie? I teraz nałożenie sobie jakiegokolwiek ograniczenia powoduje, że to będzie mniej warte. Więc no nie wiem, no ja bym chciał zobaczyć, że akcje za tym, nie? No bo teraz oni pracują w tych labach, to może się pokaże jakiś taki wiesz ruch partyzancki pod tytułem będziemy spowalniać to wewnątrz. Ale słuchajcie, ten że już na początku jest rozłom, tak? On jest bardzo mało precyzyjny, on nic nie określa. I gdzie miała być ta kontrola? Na wejściu czy na wyjściu, czyli co? czy ograniczamy compute power, czy po prostu karamy jakieś konkretne typy użycia i to zazwyczaj bardzo słabo działa. Ja sobie wczoraj zrobiłem taki research, jeżeli chodzi o historię regulacji. Wyszło mi tam dużo zabawnych rzeczy. Się w ogóle fachowo nazywa dylematem Coling Ridrida. Czyli ten dylemat mówi o tym, że jeżeli innowacja no jest nowa, wiadomo, świeża, to wtedy jej przyszłe ryzyka są tak praktycznie
niemożliwe do przewidzenia dokładnego, że każda regulacja jest zgadywanką. I teraz dopóki te ryzyka nie staną, a kiedy te ryzyka staną się już oczywiste, to wtedy tak naprawdę już ten cały rynek się już okrzepł, okopał się w taki sposób, że te regulacje mają ograniczony wpływ. No i żeby podać różne fajne, zabawne przykłady tego, to najciekawsze chyba przykłady takich regulacji, które no potem okazały się bardzo harmful, to pierwsze z nich to w ogóle chyba tego nie widziałem wcześniej i tu muszę powiedzieć, że się dziś uśmiałem jak to czytałem. To się nazywa brytyjski czy The UK Locomotive Act. To jest 1865 roku. Nazywało się to tak potocznie aktem czerwonej flagi. I [śmiech] o co w tym chodziło? Chodziło o to, że tam we wczesnym XIX wieku, kiedy zaczęły się pojawiać silniki parowe, no to oczywiście flagowano to jako zagrożenie dla ogólnie grupy jakby ekonomicznej jakiś wozaków, woźniców, tych którzy zajmowali się transportem tradycyjnym.
Oni mieli potężne lobby, byli przerażeni, że będzie to zagrożenie ich przychodów. Więc syndaty na przykład właścicieli w ogóle tych wózków, koni i tak dalej, i tak dalej, a także właścicieli linii kolejowych zebrały się razem i z sukcesem lobbowały w parlamencie właśnie ten Lokomotive Act z 65 roku. Na czym on polegał? Polegało to na tym, że każdy wehikuł, który poruszał się drogą publiczną i korzystał z tych nowych silników, musiał mieć obsługę przynajmniej trzech osób, z czego jedna osoba musiała iść 60 jardów przed pojazdem, niosąc czerwoną flagę przed każdym takim nowym samochodem, przed każdą tą innowacją, a w nocy latarnię, żeby ostrzegać ludzi i ostrzegać jeźdźców konnych, że oto jedzie ten nowy wynalazek. wprowadzono ograniczenia prędkości, czyli te wehikuły musiały się poruszać z prędkością taką jaką człowiek, czyli 2 mile na godzinę w miastach i 4 milhin poza miastami.
I jaki był tego efekt? Efekt tego był taki, że to miało bardzo negatywne perturbacje na rynek brytyjski przez całe 30 lat. W międzyczasie tam gdzie nie było tych regulacji, czyli we Francji i w Niemczech tam motoryzacja się rozwijała, tam ta innowacja złapała, były po prostu był materiał po to, była były incentywy po to, żeby to dalej rozwijać. Natomiast w w Wielkiej Brytanii, nie, praktycznie na 30 lat ta cała innowacja się zatrzymała, co potem spowodowała, że musieli nadganiać i te fakty chyba nigdy nie nie nadg właśnie właśnie miałem powiedzieć, nie? Znaczy ja znałem to, nie wiedziałem, że to się nazywa Locomotive Act, bo znałem tą historię, nie? Ale tak teraz z perspektywy czasu nazwij dwie duże wiodące marki brytyjskie samochodów. A inny przykład jest taki. To jest akurat o tym słyszałem wcześniej. To jest słynny edykt z 1485 roku. To był edykt otomańskiego sułtana Bajazyda II. Otóż on stwierdził, bardzo mu się nie podobała prasa Gutenberga.
Stwierdził, że to jest w ogóle szarański wynalazek, nie można i tak dalej. I słuchajcie, ten edykt się utrzymał do 1727 roku. To jest masakra. 250 lat to miało duży, duży rozwój, też duży wpływ na cały rozwój świata islamskiego, tak zw gigantyczny. Nie wiem czy byliście w pałacu Topkapi w Istanbule. To wielka tak zwana wielka biblioteka tam to jest jednak kiosk, bo tyle im się w sumie udało tego tam ręcznie nadziergać w tym i tyle się tego uchowało. Więc miało to gigantyczny wpływ na to, że płytem Turcja to Imperium Atomańskie było tym chorym człowiekiem Europy i de facto upadło i kroili je tak jak chcieli. Więc zzy pacing z tym Pacing the Frontier oprócz tego co powiedziałeś to jest jeszcze jeden ciekawy dylemat tak naprawdę nie bo po pierwsze jest jakaś analogia do zimnej wojny nie [odchrząknięcie] jednak i tam tych różnych paktów które miały nawoływać do start buryś tam i tak dalej i teraz potem rozmowy czy faktycznie ruscy przestali robić te rakiety czy nie czy zniszczyli tych ile ile miało i tak dalej i tak dalej ale to było łatwe do kontrolowania bo te rakiety są fizyczne.
wiadomą w których miejscach da się je obserwować z kosmosu, tego typu rzeczy, nie? No bo tutaj jest to zagrożenie takie albo inaczej e teraz któryś tam dylemat się tu pojawi, to muszę sobie przypomnieć nazwę, że jeżeli okej, zgodzimy się, trzeba trzeba to jakoś tam kontrolować, nie? To teraz rozejdzie się sam z Markiem i z Dario i wszyscy się zgodzą. Tak, musimy się wyregulować. Pacing the front. Nie możemy biec za szybko, nie? I każdy pójdzie do swojego biura i powie: "Tamci zwalniają, my przyspieszamy." [śmiech] A Chińczycy dokładnie nawet nic nie powiedzą. Dokładnie. Nie. I oni wszyscy muszą zaufać sobie, że ten drugi będzie się trzymał tego, co ustalili. Żaden z nich tego nie zrobi. Dokładnie. Każdy z nich wróci do biura i powie full steama tylko tak, żeby nas nie złapali. [odchrząknięcie] To jest to jest to jest ciekawy problem, bo tak jak Sebastian powiedziałeś tutaj na pewno definicja tego pacing jest bardzo bardzo trudna. Dotychczas próbowano robić to tak naprawdę dostępem do chipsetów, tak? Czyli między innymi sankcjami na sprzedaż chipsetów Nvidi.
Dokładnie rzecz biorąc. Natomiast uważam, że ten incydent Fuging Face zrobił dla tej sprawy dużo więcej niż jakiekolwiek raporty i otworzył osobom, wielu osobom oczy. Między innymi ten AI Kill Switch Act się pojawił. Więc te głosy na temat regulacji, myślę, że one będą coraz częstsze, coraz, coraz głośniejsze. Pytanie, czy zdążymy, tak? Bo zobaczcie, ten dokument podpisały osoby, które widzą, co się dzieje, tak? One widzą, co jest w środku tych labów i mówią wprost: "Słuchajcie, no my niedługo przestaniemy zrozumieć, przestaniemy rozumieć tak naprawdę nad czym pracujemy i jak to regulować." I incydent z haging face pokazał, że już mamy wiecie te przypad pojedy prawdopodobnie pojedyncze przypadki. Ile ich jest dokładnie nie wiemy. No właśnie się odkrywa co mówiłem. Okazało się, że tych przypadków było więcej. Dokładnie. AI act i tam 3% jeżeli tego nie zgłosicie. Natomiast natomiast mówiąc całkiem serio tak naprawdę do tego Tomek pisz pijesz możemy nawet nie wiedzieć. Natomiast osoby, które nad tym pracują wiedzą, że no jesteśmy przed bardzo ważnym ważnym punktem, więc myślę, że będzie coraz więcej tego typu
głosów się pojawiało. No i pytanie, jak na to zareaguje rząd Stanów Zjednoczonych albo inne rządy też, nie? Na przykład nasz rząd, nie wiem. No zobaczymy. Szczerze tak jak teraz rozmawiamy, bo wcześniej tego nie myślałem, nie myślę, że to będzie miało duży wpływ. Ciekawostka socjologiczna będzie z tego ten, a powiem wam o czym pomyślałem odnośnie te tego listu. Ostatnio mi wpadło, pamiętacie jeszcze Effective Altruism? Dla tych, którzy nie pamiętają, bo są za młodzi, czyli weszli do internetu z jakiś rok temu czy półtorej. Effective alism to jest taki ruch społeczny, nie wiem jak to nazwać, nie? Gdzie tech ma wspierać rozwój. No taki do akceleracjonizmu. Tak. Podobno antropik wewnętrznie ma plecz, nie? I pracownicy Antropica wtedy jak jeszcze byli archwistami i dalej są na pewno nie, ale teraz mają większy portfel powiedzieli, że 80% kasy z IPO i takich innych oddadzą na Effective
Alfast, a Antropic ma zmczować ich donations i chciałbym zobaczyć ich decyzję jak to się zmaterializuje w konkretnych kwotach. [śmiech] Także będzie ciekawie. Wykręcą się. No wykręcą się. Dobrze. Y, na koniec, y, mały news z polskiego rynku, y, żeby było o naszym rynku światowym. Yyy, istnieje coś takiego jak grupa pracuj. Istnieją takie portale różne i właśnie grupa pracuj przejęła jeden z takich portali, który aspirował do bycia alternatywą dla grupy Pracuj, Nof Love Jobs. I patrzę sobie tutaj na artykuł, który to opisuje akurat na bankier.pl, nie jest to sponsorowane. Grupa pracy przeprowadziła akwizycję na Flash Jobs, bla, bla, ble. za 10,4 miliona złot, czyli skonsolidował nam się rynek pracy, w szczególności w sektorze IT, ale nie tylko. Co o tym myślicie? Rynek ogłoszeń, nie rynek pracy. Spok ogłoszeń. Tak, ogłoszeń o pracy, nie rynek pracy. Tak. Ciekawe jest tak, że pracuj to zawsze była taka firma, która była bardzo tradycyjna pod tym kątem ONOFL Jobs to jest jeden z tych serwisów, które tam próbował nowe nowe pomysły przemycać bez widziałek oferty.
Zaczekaj, ja pamiętam czasy, kiedy pracuj było też takim nowym ruchem na rynku, nie? Bo przed pracy były ogłoszenia o pracę w gazeta.pl, nie? I wszedł na rynek pracą i zdigitalizował to i ten tako fl jobs próbował zrobić sobie tam swoją niszę w rynku. Faktycznie mieli ten ruch pod tytułem ogłoszenia z widełkami. Tak. zatakowaniem tak generalnie minimalistyczne ogłoszenia żadnego flafu, bo to nie interesuje zgodnie z nazwą, bo to nie interesuje ludzi tylko jak tabelka praktycznie możliwość przeszukania, przefiltrowania. Co ciekawe chyba No Flow Jobs był pierwszym takim serwisem, który robił taki duży duży mętlik tutaj to już wbrew pozorom było kawał czasu temu, bo to był 2014 rok. [parsknięcie] Wiłem, że oni tak długo już są. To fakt. No tak. To co jest ciekawe to po drodze tam jeszcze było wielu kopiketów. No tutaj pewnie jak teraz wymienię nazwę to z ktoś się obrazi, ale no potem przyzedł jeszcze Just join it nawet Pracuj próbowało zrobić tego typu podejście bardzo podobne. Nazwali to chyba The Protocol czy jakoś tak chyba to tam nie do końca pykło, czyli ciągle dalej istnieje, ale nie chwyciło.
Z ciekawostek powiedziałbym, że do No Flobs wszedł Inwestor. Inwestorem po prostu była tutaj grupa Rasp Ringer. Ringer Axel Springer. Nie, to teraz wszedł Rasp. Wcześniej tam wszedł. Kto tam wszedł wcześniej? E nie, dobrze, dobrze mówię. Raz wszedł w 2018, w przyjął 44% udziałów i teraz przyjmuję to pracuj. Dokładnie. Już się zamotałem i i i chyba niewiele to pomogło w sensie takim, że nie udało się Nofluffowi wyskalować na inne rynki. To jest ciekawe. Z umiarkowanym sukcesem udało się wyskalować na inne branże, bo oni tam mają chyba jeszcze ze dwie jakieś chyba herowo mają odnogę, chyba finansową mają odnogę. No generalnie nie udało się zawojować. czyli osiągnęli sukces w ramach tej konkretnej niszy, czyli IT. Faktycznie w Polsce programiści zaczynali poszukiwanie pracy albo no no tak po prostu od tego serwisu, ewentualnie tam jednego innego. Natomiast no bardzo szybko trafili na szklany sufit, nie przebili się. Chyba na nich mocno negatywnie wpłynęła sytuacja pandemiczna, powiedziałbym postpandemiczna, czyli to ochłodzenie rynku. yyy nie udało się dodać żadnego value added services, czyli czegoś takiego, co jeszcze by uzasadniało golenie klientów yyy na większą kasę niż
po prostu ta kasa zgłoszeń. No i chyba tak to oznacza tą konsolidację i lekkie zapowiedzi lekkiej stagnacji, jeżeli chodzi o ten rynek, tak mi się wydaje. Wojtek, jakiś komentarz? Wiecie, no to ten ten rynek jest w ogóle dosyć ciekawy, bo tak naprawdę też myślę, że jest rozwarstwienie tego jak szukamy pracy, tak? Ile z nas jeżeli by szukało pracy, szukało jej nafluffie. Tutaj są pewne portale, które faktycznie dosyć dobrze sobie dały radę. Czy typu Just join Join Rocket Jobs, to jest jeden jedna jedna spółka tak naprawdę tam jest jeszcze Hello HR i ten asystent kandydata Rocket AI. No i można powiedzieć, ile ilu z nas korzystałoby z nofluffa w tym momencie, tak jak na początku było to dosyć popularne. Dla wielu osób, które są na rynku już i tak nie korzystają, można by powiedzieć z tylko są headhuntowani. Zapominamy też o sporym graczu LinkedIn, który myślę, że sporą część na przykład jeżeli chodzi o oferty IT w dalszym ciągu ma.
Wiesz co, to ja powiem z perspektywy już teraz kilka lat tego nie robię, ale jak to się robi, czyli wiesz, [muzyka] to jest, bo tam są dwie strony tego rynku, nie? Szukający i ogłaszający się. Czas tr IT na przykład, nie? Pozdrawiamy Piotrka, czyli jeżeli nas słucha gdzieś. E, oni mieli taką strategię, bo oni tam próbują wejść jako taki, y, kołek w drzwi na tym rynku od kilku lat, nie? I oni mieli taką strategię, że oni dalej mają, że oni uderzają do tej strony poszukującej, mówiąc: "Patrzcie, to są narzędzia dla was, różne takie rzeczy". I przez to mu chcą mieć tych ogłaszających się, bo pamiętajcie, że to ogłaszający się przynoszą pieniądze na końcu, nie? E, na Fl jobs nie wiem jaką miało strategię, bo ich nie śledziłem. Grupa pracy to jest już totalny yyy jakby kombajn, nie? Tam oni po prostu już mają taką masę, że się toczą przez to, nie? No bo jak my robiliśmy ogłoszenia, yyy, to szło się do tych wszystkich portali tak naprawdę, nie? To nie było, że wybierasz ten jeden i w nim idziesz, tylko potem jeszcze mierzysz sobie pod konkretne ogłoszenie, y, jakąś skuteczność, nie? I na podstawie tej skuteczności wiesz, że na przykład jak szukasz IT, to lepiej tu, a jak szukasz ogólnie ludzi, to lepiej tu. Jak
wrzucisz na grupę pracy i to dostaniesz tyle po prostu ogłoszeń, że nie będziesz wiedział co z nimi zrobić, bo zgłaszają się wszyscy na wszystkie stanowiska i tak dalej i tak dalej. Nie, ja jak zobaczyłem, a i tak ten rynek jest bardzo podatny na fluktuację, przynajmniej dla nost jobs i just tr, dlatego Piotrek odpalił to rocket jobs, nie? No bo generalnie jak rynek IT siada, to te firmy dostawały mocno po dupie i to było widać na przykład w przypadku. Ja bardziej akurat join IT obserwowałem, że tam jak rynek IT siadał, tam były mocne redukcje bardzo szybko, nie? Ludzie zwaliani i tak dalej, i tak dalej. Taki ten. Ja się zdziwiłem szczerze, jak przeczytałem sobie jeszcze jakiś komentarz do tego, jak nieduże te firmy są, nie? Bo ja rozumiem, że jak ktoś zobaczy 10 milionów, to dużo, nie? E, tutaj mam taki komentarz przed sobą, nie sprawdzałem tych danych, że spółka ma 2,5 miliona kaszu, 6 milionów zobowiązań miała podobno wobec wspólników, nie? Biznes w trzy lata skróczył się o połowę, czyli krótko mówiąc, ta firma była w wskaźnik zadłużenia. Tak, tak, tak. Więc jak ja sobie to przeczytałem i popatrzyłem, to to wygląda bardziej na to, że rynek wymusił po prostu ten biznes by upadł po prostu albo byłby
nieutrzymany skurczyłby się, zmniełby się do jakiegoś maintainowalnego poziomu. Tak. Ale więc generalnie wygląda na to, że że grupa prac ochotę po prostu zaorać ten rynek, bo on ma pieniądze, bo to jest grupa, która generuje naprawdę dużo pieniędzy, więc oni generalnie są w stanie skonsolidować ten rynek pracy, znaczy ogłoszą pracę. [odchrząknięcie] Może oni już mają sobie powiedzmy t przekonanie, że będą w stanie to przeskalować na inne branże, bo ja się Wojtek nie do końca zgadzam z tym, że teraz inaczej ludzie szukają pracy, że tam po networku to to nie zarzut od grupy. Jakby jeżeli ktoś jest zwykłym deweloperem na do poziomu seniora czy coś, to co na nikt ty nie będziesz szukał pracy czy tam przez network? Nie, ludzie nie mają nawet takiego odruchu, nie mają zbudowanych takich networków. Powyżej pewnego poziomu seniority, pozycje menadżerskie, tak, jak najbardziej zgadzam się. Ale gro pozycji tych, że tak powiem, zwykłych z okopów to cały czas jest no flood jobs. Cały czas to jest jo tak. Tak, tam ludzie aplikują. To jest fakt, że przez to ludzie aplikują. My też dostawaliśmy ten. No ale wygląda na to, było kilka prób takich podejścia jakieś innowacyjnego na początku flap inher próbował działać zupełnie inaczej. To co jest chyba ciekawe w tej akwizycji to jest to tak po pierwsze odchodzi założyciel i i prezes, czyli czyli [wciągnięcie powietrza] no po prostu to jest jego exit.
Po drugie z deklaracji to nie jest tak, że to ma być merge na zasadzie, że zniknie branża, znaczy branża brand no fl jobs i stanie się po prostu częścią pracuj. Nie, po prostu cały czas ma działać oddzielnie tylko no w ramach tego większego holdingu. To jest deklaracja na zakupie C. Zobaczymy za dwa lata. E, to, że CEO odchodzi, to oznacza, że krótko mówiąc, no Flobs nie będzie już osobnym entity tak jakby i nie ma planu rozwijania je, bo teraz jak popatrzysz na inną akwizycję sprzed jakiegoś czasu, Brand 24, tak, Sadek tam został. Dlaczego? Bo miał jeszcze coś dowieźć, nie? Tutaj już nic nie będzie dowożone. Chyba, że odbyła się jakaś wielka sukcesja. No ale okej, zobaczymy. Takie ruchy są ciekawe. Na to wszystko spogląda firma z Jeleniej Góry i się zastanawia po co w ogóle to robić. [śmiech] Pozdrawiamy firmę z Jeleniej Góry. No dobrze, to chyba wyczerpuje naszą listę na dzisiaj. Choć nie, nie wyczerpuję, ale wyczerpuje nasz czas. Więc dziękujemy wszystkim, którzy dotrwali do tego momentu. Mam nadzieję, że było ciekawie. Napiszcie na dole i pamiętajcie, [muzyka] button subscribe powoduje, że Sebastian zagląda w swoją szkolną kulę. Sebastian, powiedz jeszcze, dlaczego szkolna kula?
[śmiech] Bo tak, rozmawiamy za każdym razem o regulacjach i rozmawiamy właśnie o tak, to jest dla mnie przewidywanie w różnie spusów. W się zastanawiałem co ma to wspólnego z Palantirem, ale yyy tym razem nie Palantir w szklanku. Już na koniec nie nie wiem czy widzieliście taki news, że y nazwa Palantir nie pochodzi z Tolkiena, tylko od Palantów, a gra od gry [śpiewanie] w Palanta? Nie, nie, nie, nie, nie. Okazuje się, że jest fanfiction rosyjskie Tolkena. Czyli w Rosji jakiś czas temu ktoś napisał Tolkena całego przepisał, tylko w drugą stronę. Orkowie są zarepiści, niosą światło rozwoju. To to czytałem, to dawno temu było opublikowane 20 lat temu. I ten pal i ten palantier jest z tej z tej książki, nie z tej nie z tej nożki. Gdzieś tam jakiś pojawił się fragment wypowiedzi, że to było źródłem, a nie ta druga. Toś chyba miał tytuł Ostatni Władca pierścienia coś takiego. Coś takiego. Tak. Ale właśnie pojawiła się wypowiedź, że ktoś wygrzebał, że to ta książka była jakby powodem do nas Tak, dokładnie.
Dobrze. Życzę miłego wakacjowania się w fali upałów, która podobno nadchodzi i wzajemnie dzięki bardzo za rozmowę. Trzymajcie się. Do usłyszenia, do zobaczenia. Hej, cześć.
