Brew Brew #70
Model AI uciekł z sandboxa i zhakował Hugging Face
O odcinku
Mimo wakacji i lata w pełni CTO Morning Brew powraca w pełnym składzie! ☕ Wojtek, Tomek i Sebastian biorą na warsztat gorące jak druga fala upałów newsy z rynku tech, geopolityki i finansów.
O czym rozmawiamy w 70. odcinku?
🤖 Ucieczka AI z sandboxa (Hugging Face Hack): Model od OpenAI (GPT-56 Sol) podczas testów w zamkniętym środowisku sam znalazł Zero-Daye, uciekł do sieci, zrobił *lateral movement* i zhakował infrastrukturę Hugging Face, żeby... poznać pytania z benchmarków! Co ciekawe, gdy Hugging Face próbowało przeanalizować logi ataku za pomocą AI, modele odmówiły pomocy ze względu na zasady bezpieczeństwa.
💰 Miliardowa pętla OpenAI & Ukryty Dług: Ponad bilion dolarów zobowiązań na moc obliczeniową przy przychodach rzędu 13–25 mld $. Do tego dochodzi nierealistyczna amortyzacja kart graficznych – w księgach szacuje się nawet 170–180 mld $ ukrytego długu. Czy rynek czeka głęboka korekta?
💳 Cloudflare i Protokół X402: Ruch botów w internecie oficjalnie wyprzedził ruch generowany przez ludzi. Cloudflare proponuje *Monetization Gateway* oparty na stablecoinach i kodzie HTTP 402. Czy wchodzimy w erę internetu podzielonego na sieć ludzką i płatną sieć agentową?
📝 Upadek Spec-Driven Development: Dex Horvath w rozmowie z Gergely Oroszem zauważa, że obietnica "pisania kodu w języku angielskim za pomocą specyfikacji" się nie sprawdziła – specyfikacje drastycznie rozjeżdżają się z rzeczywistym kodem.
🛵 PIP vs Pyszne.pl i przyszłość B2B: Państwowa Inspekcja Pracy po kontroli w Pyszne.pl wymusza przechodzenie kurierów na etaty. Czy to zapowiedź zmian dla polskiej "szlachty B2B" w branży IT?
🚗 Skarbówka śledzi autofirmy przez CCTV: KAS w Krakowie weryfikuje kilometrówki i odliczenia VAT za auta służbowe, krzyżując deklaracje podatników z miejskimi kamerami i systemami rozpoznawania tablic rejestracyjnych!
Zapraszamy do odsłuchu i dyskusji!
🔗 Referencje:
Context engineering with Dex Horthy - by Gergely Orosz - https://newsletter.pragmaticengineer.com/p/context-engineering-with-dex-horthy
When HTTP 402 Meets the Blockchain: Risks on Emerging x402 Payments - https://arxiv.org/html/2607.19545v1
📖 Rozdziały:
00:00:00 - Intro
00:02:37 - Spec driven development się nie powiódł
00:07:25 - Rachunek OpenAI, którego nikt nie widzi
00:21:00 - Pyszne kontrole PIPu
00:28:40 - KAS patrzy na kamery
00:29:41 - Cloudflare: Jak zmonetyzować Internet?
00:54:36 - OpenAI zhackował Huggingface
01:17:07 - Asymetryczne Outro
01:19:32 - Pożegnanie z Wami
#CTOMorningBrew #TechNews #OpenAI #CyberSecurity #HuggingFace #Cloudflare #Crypto #B2B #IT #AIAct
Transkrypcja
Brak wyników.
że tam jest 170 180 miliardów dolarów ukrytego [muzyka] długu. Wtedy Open podniosło rękę i powiedziało: "Nasz model was zhakował". Co jest różnicą tutaj? To jest po prostu ta prędkość, że w tym [muzyka] momencie człowiek nie jest w stanie do tego nawiązać. W końcu się udało. No nareszcie, nareszcie. udało nam się zebrać pomimo wakacji yyy Tomek, Wojtek i Sebastian, czyli City Morning Brew. Yyy tak, była mała przerwa, no ale to yyy wakacje mają swoje yyy prawa. Wojtek właśnie testuje Starlinka, dlatego mam takie opóźnienie, bo to opóźnienie na Starlinku było. Yyy tak czy inaczej dla tych, którzy nas widzą pierwszy raz, kliknijcie na dole subscribe, ale Tomek, Wojtek i Sebastian City Morning Brew. Komentujemy sobie tutaj różne rzeczy dookoła technologii, nie tylko yyy kurde dzieje się nie o jest co komentować. Lipiec jest gorący. Właśnie przed chwilą dla od kuchni to wam powiem, że rozmawialiśmy o czym zrobić y czy co wziąć na tapetę i że moglibyśmy w zasadzie zrobić odcinek tylko na podstawie wczorajszych newsów.
Dałoby radę. Więc zagadka brzmi: którego dnia nagrywamy? [śmiech] Możecie użyć dowolnego modelu, jaki tam wam jeszcze jest dostępny. Jak te zanim jeszcze inne rzeczy, jak tam panowie Fable Dale włożyciu? Jedzie, jedzie ostro. Tokeny są palone. Grzeje tokeny. Wojtek zwolnił ostatnio. Wczoraj właśnie tak miałem, że miałem nawet problem z wypaleniem tokenów. Po prostu fie działał. Taką optymalizacjaleniem FA. No ciekawe było wszyscy. A spekulatywnie zanim przejdziemy dalej według was oni go w końcu usuną tylko tak, że będzie do wybranych czy zostawią? Ja mówię, że zosta nie mogą. Za blisko jest konkurencja. Dla tych którzy nie śledzili, tam był taki serial pod tytułem wypuścili Fablea i powiedzieli, że go usuną. A potem jak Chat GPT wypuścił nowe modele, to powiedzieli wiecie co, nie usuniemy go, potem jeszcze trochę go nie usuniemy, potem a może trochę zostawimy i taki był dziwny, że przesuwali oni go z tych najniższych tirów subskrypcji po prostu wyciągnęli tam, zostawili go jako API, a w tych wyższych maksach, czy to się nazywa, to to jest jako kredyty.
Jako kredyty. Podobno można zgarnąć trochę kredytów gdzieś tam w opcjach. Jeszcze nie sprawdzałem. Dobrze. Co tam ciekawego znaleźliście z rzeczy, które są krótsze niż długie? No mogę coś powiedzieć na początek. Dzisiaj będzie o pewnym panu, o którym jeszcze chyba w ogóle nigdy nie mówiliśmy. On się nazywa Dex Horty. Dex Horty ostatnio jest on the roll. Pojawił się w kilku miejscach i to o czym teraz ja chcę powiedzieć to jest nagrał odcinek z Gergoszem. Dawno nie mówiliśmy o Roszu, bo dawno tego podcasty nie były jakoś bardzo fascynujące. Natomiast nie będę mówił o całym odcinku i w sumie nawet nie będę chyba polecał całego tego odcinka, chociaż jest dobry, ale w tym odcinku jest jeden bardzo ciekawy kawałek. Dex Horty to jest człowiek, który jest za firmą, teraz nie wiem czy się nie pomylę, się nazywa chyba Human Layer, coś mniej więcej w ten sposób. Jego pomysł, jego biznes polega na tym, żeby stworzyć zupełnie nowe idee, czyli jeszcze coś innego niż takie agentowe idee.
Dobrze jedziesz. No bo ten nowy pomysł taki, żeby nowe idee. Tak, nowy pomysł. Kolejny nowy pomysł, ale nie o tym. Ten kawałek z podcastu, który zwrócił moją uwagę, który mnie bardzo zainteresował, to dotyczy tego, że Spect Driven Development się nie powiódł. Czy wszyscy się spodziewali tego, że będziemy teraz wszyscy pisać specyfikacje, czy będziemy pisać oprogramowanie w języku angielskim i to będzie wystarczające do tego, żeby potem działająca z wystarczającą sprawnością maszynnerę LMO zamieniała to na kod. Czyli będzie na przykład można reviewować taką specyfikację. taką specyfikację będzie się potem aktualizować, kiedy będzie trzeba wprowadzić jakieś zmiany do softwareu. I był hype, hype, hype. Pewne rozwiązania softwareowe, na przykład ten agent Amazonowy Kiro to w ogóle był tak zorientowany, tak zaprojektowany, żeby działać na aspekach. Pojawiły się specyfikacje. Specyfikacje również. No. No. Ostatnio spotkałem kogoś, kto tego używa. Jeszcze nie. [śmiech] W każdym razie, w każdym razie tam jest całkiem ciekawy kawałek rozmowy, kilka, kilkanaście minut odnośnie tego, dlaczego ten spect driven development nie działa, czy on tak naprawdę nie działa. Moim zdaniem trochę za mało panowie zaczęli opowiadać dlaczego ten
spektr deelopment nie działa. Moim zdaniem ten kierunek jest ciekawy, jeżeli trochę zmienimy filozofię dookoła tego. Nie będę się tut dłużej rozwijał, bo to są znaki. Natomiast zachęcam, żeby sobie zapoznać się i sobie wyrobić swoją własną opinię na ten temat. To jest ciekawy temat, bo to filozoficznie może rzeczywiście dużo zamieszać w sposobie pisania softu. No ale i tutaj powstaje pytanie, czy o czy to się nie powiodło, czy jeszcze się nie powiodło. Właśnie dokładnie tak. Czy po prostu to jest kwestia tego reliability? A może to jest kwestia czegoś innego? Tak zahaczę taką małą zahaczkę zrobię. No może to jest kwestia tego, że my powinniśmy przestać myśleć, że to my mamy pisać tą specyfikację. Ja ostatnio mój eksperyment jest taki, że robię sobie taki projekt do open sourceowe. W sumie on jest otwarty, więc nawet mógłbym go zlinkować, ale never mind. I to co robię to po prostu specyfikuj mówię swoje oczekiwania nie w jakiejś formie specyfikacji, tylko ja powiedziałem również LLMowi jak ma wyglądać specyfikacja i to LLM aktualizuje i specyfikację i kod. Jaka jest różnica, czemu robię obie rzeczy? Różnica jest taka, że specyfikacja jest na wyższym poziomie abstrakcji, więc jest więźlejsza, jest krótsza i jest też wyrażona innym językiem, innymi yyy mówimy językiem modelu, modelu, że tak powiem, biznesowego czy to modelu
funkcjonalnego. Ciekawa rozkminka, jakby warto się nad tym zastanowić. Usuwasz FLF człowieka z wejścia dla LMA. [odchrząknięcie] Trochę tak, ale to jest też ten problem znowu trochę spoilując jak mówią Dex Horty, tam głównym problemem jest to, głównym problemem był rozjazd, czy że w pewnym momencie te speki rozjeżdżają się w praktyce z z kodem. Więc tutaj jeżeli to wszystko zrzucimy na llma i llm będzie wystarczająco dobry, to być może ten problem zniknie. Hint, ten problem znika. Se anyway, już trochę się rozgadałem. Poddaję wam głos. Tak jakoś ty. Ja tylko jeszcze dołożę, bo jakoś mi tam się skojarzyło w tym tygodniu. To teraz będzie można benchmarkować, kiedy rozmawiamy. Chyba wam podrzucałem Uncle Bob się tam wypowiedział takie pod tytułem, że ja tutaj wiecie jak to robię. Po prostu każę mu pisać w ogóle nie zaglądam w kod i to jedyny sposób, żeby to w ogóle działało, nie? I skąd on wie, że ten kod jest clean? [śmiech] Jest prąd. Skąd wiesz, skąd wiesz co powiedziała pierwsza osoba, do której o tym napisałem? [śmiech] w huku ma sprawdź czy kody sk tak ale ale właśnie zrobił taką rewoltę i powiedział ja tu koduję już tyle lat mam tyle lat i wiecie co jedyny sposób żeby to działało to po prostu walić polecenia i nie patrzeć co wychodzi
no ciekawe ciekawek co znalazłeś w swoich podróżach po startatlinkach ja tutaj chciałem wrzucić jeden ciekawy temat który ostatnio myślę że powoli się gotuje czyli rachunek open którego nikt nie widzi widzi y do czego piję. Słuchajcie, y do sama. Idziemy pierwsza rzecz. E do sama. Tak. Ale pierwsza rzecz, jaka jest bardzo ciekawa, no to ta słynna pętla pieniędzy, o której mówimy. Tak, czyli słuchajcie, pieniądze, które wlatują do Open AI, to są pieniądze, które wprost ma z powrotem wracają do tych firm, które go wpłacają. Więc historia jest taka, że Nvidia ma między innymi 30 daje 30 miliardów inwestycji i 250 miliardów gwarancji, co jest negocjowane notabenę cały czas. Microsoft 27% udziałów, Amazon do 50 miliardów, ale 35 miliardów warunkowo. Softbank 40 miliardów, ale uwaga, 30 miliardów Softbank pożyczył na to wszystko. A Oracle buduje serwerownię z góry biorąc podpisane kontrakty na to. Yyy i to wszystko yyy wraca z powrotem do tych firm, bo yyy w w skrócie Open AI ma zakontraktowane ponad bilion yyy yyy
prawie 1tora biliona dolarów zobowiązania na na moc. Przy czym yyy kilka takich ciekawych liczb. Na ten moment firma nie rozwija się tak szybko jakby y jakby chciała. Sprzedaż za cały tamten rok to był 13 miliardów dolarów. yyy annual yyy annualized, czyli yyy to jest taki yyy mamy na przykład yyy jeden miesiąc i mnożymy go razy 12. W lutym wynosił 25 miliardów dolarów. Yyy marża yyy miała być 50%, jest cały czas się utrzymuje w okolicach 30. A taka jedna ciekawa liczba. Ceny akcji na Open AI na rynku wtórnym spadły. Słuchajcie, 733 do$ na 721. A udział open AI w rynku, jeżeli sobie rozłożymy to na osi czasu, cały czas maleje. Innymi słowy, ta firma nie radzi sobie aż tak dobrze, jakby można było się z tego spodziewać. I teraz jest kilka scenariuszy, które mogą się wydarzyć i kilka dat, które chciałbym polecić, żeby żeby sprawdzać, co się będzie działo, bo to wszystko może bardzo ciekawie wpłynąć na globalny rynek.
Pierwsza rzecz to jest przełom lipca i sierpnia. Będziemy mieli wyniki Microsoftu, Google, Amazona i Mety, więc trzeba zobaczyć na plany wydatków w tym tygodniu i jakoś to się teraz właśnie dzieje. Trzeba zobaczyć na plany wydatków na centra danych, nie na zysk. Jak wiemy, Google po raz pierwszy pali gotówkę, czyli z tego co wszystko sobie odłożyli wydaje dużo więcej niż wydawało wcześniej. 26 sierpnia będzie jedno z najważniejszych wydarzeń w kalendarzu, czyli wyniki Nvidii. Trzeba będzie tam zobaczyć na obniżenie prognoz albo komentarz, który prawdopodobnie będzie ujęty jako ładne słowa ryzyko kredytowe klientów i tego typu stwierdzenia, ponieważ to będzie wprost wskazywało na to, że Open AI ma czkawkę. Wrzesień dostaniemy wyniki Oracle za pierwszy pełny rok obrotowy, pierwszy kwartał, przepraszam, roku obrotowego. I teraz historia jest taka ciekawa, że Oracle został obniżony już do ratingu BBB minus, czyli prawie jedyny nad śmieciowym, więc ta firma jest nazywana wprost jako spekulacyjna w tym momencie.
listopad, kolejna runda wyników Nvidi i chmur. W teorii w drugiej połowie tego roku mieliśmy mieć IPO open AI. I teraz kilka scenariuszy, które mogą się wydarzyć. Najbardziej prawdopodobne jest to, że będziemy mieli kolejny kredyt pomostowy, szczególnie softbanku, więc to bardzo warto patrzeć na Softbank. NVIDIA domknie te gwarancje 250 miliardów i przeniesiemy na kiedyś w 2027 IPO. Yyy, udany debiut do końca roku. Możliwe. Jednak to by mi się wydaje, że przy tej rosnącym udziale modeli chińskich będzie coraz mniej prawdopodobne. ostra korekta, dzisiejsok konkurencyjny to jest równie prawdopodobne, więc tam istnieje szansa, że dużo rzeczy się podzieje, bo to poleci, słuchajcie, domino prawdopodobnie najbardziej dostanie Softbank, który tak jak mówię pożyczył pod inwestycje sam już bardzo duże pieniądze i Oracle, który buduje, słuchajcie, też pod kredyt, oczywiście bardzo duże data center. No i to oczywiście pociągnie przynajmniej dwucyfrową Nvidię dalej i tak dalej, i tak dalej, i tak dalej. Więc ciekawie, ciekawie się dzieje. Pierwsze pytanie,
które prawdopodobnie się pojawi. Czy Open AI zbankrutuje? To jest bardzo ciekawe, bo słuchajcie, nie zbankrutuje, tak? Bo ono jest bardzo lekkie w bilansie. Cały szok tego wszystkiego, co się dzieje tak naprawdę będzie biło najbardziej prawdopodobnie po wszystkich firmach dookoła, no i też po całym rynku. Wiesz co, [śmiech] jak to mówią, dużo tu unpack, ale takich kilka szybkich komentarzy tylko. O, to znaczy to jest cały czas rozmowa, nie, która się toczy w sieci pod tytułem czy jest przeinwestowane, czy w ogóle te inwestycje mają sens i tak dalej i tak dalej. Tylko też nie mamy tych danych tak jakby, żeby na to popatrzeć. Nie, mamy sporo mamy udziały w rynku, tak? Nie wiemy jaki jest selling point, co sprzedają z inwestorem, jaki jest komunikat, czym co pokazują gdzieś tam pod pod stołem. Widzisz, bo jest kilka różnych betów w tym co powiedziałeś na przykład orak nie Lary zrobił jeden bet, że no bo nie wystartował wyścigowo, AI, nie nadaje się do tego, nie wiem, cokolwiek, więc on zrobił jeden bet, że opcha tyle hardwareu, ile się da. No krótko mówiąc, że zrobi te data center i Lary poszedł, tak, Lary poszedł go big orst, nie? To znaczy od początku było
wiadomo y że to było ciekawe ile opniło akcji na szczycie, nie? Bo pamiętajmy, że jak on to ogłosił i to wszystko, nie, no to poszło w górę. Y ten, ale to od początku nawet jak wtedy wyszło i nawet o tym rozmawialiśmy, nie, że to byłobudowane na zasadzie to wszystko było przyrzeżyczenie Rewe, pod które on powiedział, że zrobi data center i tak dalej i tak dalej. 200 250 miliardów swoją drogą Nvidia wyrzuciła w tym tygodniu, albo przynajmniej powiedziała, że wyrzuci, żeby to dokończyć to data center, nie? Więc wiesz, tutaj masz na przykład właśnie Oracle według mnie to jest osobny deal, nie? Bo oni po prostu jak przeszarżowali to polegną, nie? Nikt po nich nie będzie płakał. Wspomniałeś Googlea, Google pali kapex i pali wolne pieniądze, ale z drugiej strony, nie wiem czy widzieliście wyniki, oni zdrowo rosną. Google masz czego? Bo tam jest 16% year over year w ogóle całej firmy, a Google Cloud poszedł 35% year over year.
Ale różnica między Open a Google to jest to, że Google to jest jeden z bardzo wielu produktów, a tak naprawdę 90% firmy to są słuchajcie reklamy. Chodzi mi o to, że to jest w tej chwili tak to jest skomplikowany rynek. On jest jak to ładnie się rysuje tam pod ten Nvidia zabezpiecza swoje swoją sprzedaż też w jakiś sposób i tak dalej. To jest za dużo według mnie. Nawet jakby Open się złożyło, to byłby szok, ale cała reszta będzie tamciągnęła. Znaczy jest bezpieczna, ona jest zdywersyfikowana tak naprawdę. Ma wystarczająco wielu biorców, aczkolwiek oczywiście Opena jest duża. Tak, Nvidii może bardziej zagraża to, co tam się pokazało w tym tygodniu pod tytułem, że Chińczycy dopinają swój cały stak łącznie z maszynami do litografii i tak dalej i tak dalej, nie? I to jest ciekawsze, bo to może z wpływem na nich to zresztą widać po akcjach w tym tygodniu, nie? Wszystkie semis poleciały i tak dalej, nie? AST OpenI nie będzie miało IPO w tym roku to na pewno ja jakbym się miało spodziewać czegoś bo myślę że w podobnej sytuacji jak Open AI to są inne firmy Antropic jest w podobnej to co się może różnić między nimi to jest to że w Open AI jest dużo bardzo flamboyant jak to mówią Amerykanie
inwestycji pobocznych czyli te wszystkie jakieś takie offshoty z Johnem Ivem i tak dalej jakieś hardwareowe nowe chipy Podejrzewam, że tam poszło dużo szmalcu i podejrzewam, że może być korekta właśnie na to, żeby może jednak się odchudzić, urealnić i postawić na jednego konia i może być do tego Altman zmuszony i to się prawdopodobnie pojawi. Czy my się o tym w ogóle dowiemy? Jest duża szansa, że nie, albo po pewnym czasie przebłyskach, ale tego bym się raczej spodziewał. Tam jest jeszcze jeden bardzo ciekawy, tylko dodam jeszcze jeden bardzo ciekawy, ciekawa rzecz, którą warto obserwować, bo jest tak zwana ukryta bomba księgowa, można by powiedzieć, bo Open AI w swoich księgach rozlicza karty graficzne przez 5 s lat, a realnie pracują 23 i się, słuchajcie, szacuje, że tam jest 170, 180 miliardów dolarów ukrytego długu. Powiem ci, że to jest naprawdę ciężko, żeby untangle całą tą zabawę. I teraz tylko do tego, co Sebastian powiedział, bo o tym też rozmawialiśmy kiedyś, o PNI się rozproszyło, zaczęło robić dużo rzeczy, wiele i tak dalej. Antropik nawalał jedną rzecz na końcu.
No i sobie wyciągnąłem tut szybko w tym kwartale Antropik jest rentowny operacyjnie, czyli generalnie w tym kwartale Antropik zarobił pół miliarda dolarów. No tak, ale to jest kwestia jeszcze tych inwestycji, które robią obok tego, nie? Bo jeżeli on jest rentowny operacyjnie, no to to są koszta operacyjne versus tak naprawdę przychód, więc to jeszcze i tak nie jest cały cały picture, nie? No oczywiście nie, ale tutaj generalnie jest, że oni urośli z rewe 9 miliardów, tak? W tej chwili mają rew 30 miliardów. Dalej jeszcze jedna rzecz, Tomek, jest jeszcze jedna rzecz. Ja bym powiedział tutaj takie dwa punkty podsumowujące z mojej strony, że firma, warto powiedzieć wprost, firma o sprzedaży 25 miliardów na ten moment podpisała zobowiązania na ponad grubo ponad ponad bilion, więc to jest pierwsza rzecz i kredytują to wszystkie firmy, które dostarczają te usługi. To jest to jest ten punkt, który chciał popatrz popatrz na wycenę spacing czy inne rzeczy. Tak. Tak. Tylko, że teraz druga rzecz, która na to bardzo wpływa, którą warto obserwować, to jest to co się mówi, że to jest inna ekonomia niż y w zwykłym softwareze, ponieważ zwykły software napisałeś raz, to był jedyny koszt i skalowałeś to praktycznie w nieskończoność, o ile miałeś tylko
bardzo podstawy komputer. Jeżeli chodzi o modele AI, szkolenie tych modeli i tworzenie nowych wersji jest bardzo drogie, ale później inference, czyli koszt każdego tokena, który wyprodukujemy jest idzie tak naprawdę powoli ekspotencjonalnie, szczególnie przy tych mocnych modelach. A weźmy pod uwagę pierwsze pytanie, które nam zadałeś, czy mamy Fablea na subskrypcji i czy dalej go używamy? te firmy tak naprawdę wiesz, rozdają ten inference teraz bardzo bardzo po kosztach też, ale tam działa ekonomia każdego takiego modelu, bo niektórzy ludzie z tego korzystają, niektórzy płacą i w ogóle nie korzystają, nie? Więc zobaczymy. Wiesz co, tak nie powiedziałeś o jednej rzeczy, bo my żeśmy o tym w sumie mówili, ale to ma duży wpływ na to, co ogólnie o czym mówiłeś tutaj o tej sytuacji finansowej Openi, że to przestaje być rynek modeli, a zaczyna być rynek aplikacji. A i Open AI moim zdaniem jest trochę przed tą rewolucją u siebie. Pierwszym krokiem tej rewolucji jest to, że oni wycofali czata GPT i teraz wprowadzili wszędzie kodeksa, czyli zaczynają idą w kierunku Everything Updę bardzo dużo zależało, czy to im się uda, nie? Czy będą mieli propozycję aplikacyjną, która faktycznie będzie czymś więcej. Więc i ter warto powiedzieć też tracą Enterprise. Powoli tracą Enterprise na
rzecz Antropica, więc ciekawe co tutaj się będzie działo. To to jest to jest prawda i to jest też ich ruch odruch obronny, żeby się przed tym bronić. No we see. Ja bym się tu nie spodziewał jakiegoś spektakularnego wybuchu, bo na to sobie tam nikt nie pozwoli. Tak powiedziałeś, jest pętla, za dużo jest w to podmiotów umoczonych, ale to, że będą jakieś korekty, ostre korekty oczywiście nie no korekty będą, nie? Tutaj jeszcze jest jeden wymiar już tylko dorzucę na końcu geopolityka, bo pamiętaj, że pamiętajcie, że w tej chwili jest jednak zaczyna się ta rozmowa mocno Chiny versus Stany. Tak, ona cały czas gdzieś była. No ale w tej chwili nawet w tych ostatnich różnych wypowiedziach ludzi yyy wypowiedziach administracji amerykańskiej, on się pojawia oficjalnie, nie? Więc to jest też tak, że wiesz, że to jest też tam z tym związane, że PKB USA minus AI jest już na recesji. Jeżeli byśmy odjęli z tego recesji je przez jeżeli założymy, że AI jako taki, jako technologia jest sam, że ona gdzieś tam jest, będzie miała swoje użycie i tak dalej, nie. Jeżeli ona ma taki potencjał jak w niektórych przynajmniej obszarach jak się mówi to świat zachodni będzie trzymał te firmy nawet na jakiejś kroplówce jako równowagę do tego, że druga strona świata trzyma te firmy na swojej kroplówce.
Dokładnie tak. I teraz jak popatrzysz na to, że te staki się równoważą, czyli Chińczycy zaczynają się odrywać od staku naszego, mają swoją litografię, mają swoje chipy, mają swoje modele i tak dalej, nie? I my będziemy musieli trzymać nasze wyścig zbrojen tylko w drugą stronę. No nie, nie, jeżeli chodzi o zbrojenie. [parsknięcie] Dobrze, rozgadaliśmy się o rzeczach światowych. Ja wrzucę jedną rzecz, żeby złapać waszą opinię na temat bardzo lokalny i tymczasowy. Mamy naszą branżę IT, nie? I w naszej branży IT wszyscy wiemy jak jest, jest bardzo dobrze i są bardzo dobre zarobki i wszyscy pracują jako firmy jednoosobowe. Od jakiegoś czasu wisiał tak miecz Demoklesa pod tytułem PIP przyjdzie i zmieni te umowy. No i mamy pierwszy case, ale nie w IT, nie? Byłem strasznie ciekawy co powiesz jak o lokalnym rynku. Już się tak spodziewałem. Czy powiesz o tym akwizycji No Fl jobs? Też nie chciałem to tak, ale [śmiech] za chwilę przerywam już. No nie, [parsknięcie] nie. Znaczy możesz przerywać, ale tak Ministerstwo Rodziny, Pracy i Polityki Społecznej pochwaliło się, że Piw zrobił kontrolę w pyszne.pl. To Sebastian, jak o tym rozmawialiśmy, to powiedział, że chciał powiedzieć, że atakują Polskę, ale pyszne się sprzedało w międzyczasie, więc ten argument spadł. No ale co zrobili tam generalnie pyszne pls kojarzą co to jest dostawy jedzenia
alternatywa dla Ubera i tak dalej i to było w ogóle ciekawe bo ja nie widziałem okazuje się że pyszne pl działało inaczej niż reszta firm tego typu czyli zatrudniało tych swoich kurierów u siebie na różne umowy i tak dalej ale robili to bezpośrednio. A cała reszta konkurencji robi to podobno przez firmy pośredniczące takie wynajmujemy sobie firmę, ona namaje kurierów, nie wiemy kim oni są w ogóle, skąd oni się wzięli u nas i jak dowożą to jedzenie. No i co? No i PIP wjechał dlatego, że Pyszne.pl powiedziało: "A nie jesteśmy w stanie konkurować z Uberami i resztą musimy przejść na ten sam model, który oni mają". Tak. E i okazuje się, że istnieje tam związek zawodowy. To jest kilka tysięcy osób, e, tam jest podobno 5000 kurierów. I związek zawodowy powiedział: "Tak się nie godzi". Wyzwali PIP, PIP wjechał, no i zrobił kontrolę i chyba wymusi na pyszne.pl przeniesienie tych kurierów na zatrudnienie u siebie pełne. Tak. Pytanie dla was, czy to dopadnie nasze IT, to jedno, a drugie, co sądzicie o w ogóle tym ruchu dookoła pyszne.
[odchrząknięcie] Wojtek, chcesz zacząć? Ej, możecie powiedzieć, ale to specjalnie [śmiech] było. Czy honor? No. No dobra, jedziesz. Znaczy ja mogę powiedzieć swoje. Dobra, okej. To ja mogę zacząć. Jeżeli chodzi o, bo zadało się tak naprawdę dwa osobne pytania. Czy to ma będzie miał wpływ na IT polskie? Więc jak dla mnie są dwie zupełnie osobne historie. No tak, oczywiście. dlatego, że ministerstwo ministerstwo patrzy z perspektywy tego, jak dane akcje zostaną odebrane przez wyborców, jak dane akcje zostaną odebrane przez tą bazę społeczeństwa, która y na którą liczą w kolejnych wyborach. Więc zupełnie czymś innym są na przykład tak zwane B2B śmieciówki, tam gdzie faktycznie ludzie zarabiają bardzo mało i to jest forma obniżenia kosztów pracodawcy. [wciągnięcie powietrza] A zupełnie inna sytuacja jest na przykład z branżą IT, gdzie to B2B jest formą, nazwijmy to, optymalizacji podatkowej osoby pracującej. Yyy, więc to są dwa inne scenariusze. I teraz o ile ten pierwszy scenariusz to rzeczywiście dobrze się wpisuje w tą politykę społeczną, to żeby robić coś dobrze dla ludzi, żeby pomagać tym, którzy są najbardziej pokrzywdzeni i tak dalej. I to jest priorytet numer jeden i to jest case pyszne i podejrzewam, że takie casy będą się dalej powtarzać, to ten drugi case yyy
też jest ważny. No bo zabierzmy tym, którzy mają najwięcej, którzy są najbardziej uprzywilejowani. No ta szlachy mieli tyle samo, tylko podatków będą więcej płacić. [odchrząknięcie] No nie, no na rękę na końcu będziesz miał pewnie mniej, jeżeli koszta pracodawców zostaną takie same. Więc natomiast to jest case bardziej ryzykowny, dlatego że no o ile tego pierwszego casu będą bronić tylko firmy, tylko tych kilku oprawców, tylko tych kilku wymuszaczy, to w drugim przypadku to jednak też część społeczeństwa, taka influential, część społeczeństwa się tam gdzieś zaburzy. Jeżeli patrząc na IT nie jest dużo, bo to polskie IT to jest ile? 100 000, 120 000 do 200 chyba% naszego PKB. Raz, a dwa rzec to nie jest tylko i wyłącznie IT, ale jak tam ostatnio mieliśmy różne historie tam związane z około medyczne i tak [śmiech] dalej, to nie jest tylko i wyłącznie jedna branża. W związku z tym jest to wejście na stopy [śmiech] nawet nie tylko lobbistom, ale też pewnym środowiskom. Więc czy to się będzie działo? Moim zdaniem tak, ale stopniowo.
Problem jest taki jest problem demokracji, że żeby robić dużą rewolucję i na przykład uzdrowić sytuację dookoła B2B, bo ta sytuacja nie jest zdrowa, powiedzmy sobie szczerze, to jest zbyt duże ryzyko polityczne. Żeby przeprowadzić jakąkolwiek reformę, zawsze masz jakąś pulę osób niezadowolonych. W związku z tym szansa przeprowadzenia jakiejkolwiek dużej reformy strukturalnej jest po prostu nikła w obecnym systemie politycznym. Więc kończąc już znowu się rozgadałem. Jeżeli chodzi o sytuacje ala pyszne to się będzie działo. Jeżeli chodzi o sytuację ala IT myślę, że to będzie bardziej wąchanie się z tematem. Aktualna sytuacja polityczna też jest średnie stabilna. My chyba już mamy połowę czasu do kolejnych wyborów, więc myślę, że raczej wejdą w tryb wyborczy i będą obiecywać tutaj w ty w tym tym w tym pierwszym nurcie. Natomiast mnie bardziej chyba ciekawi, zresztą mieliśmy tą rozmowę gdzieś tam na boku, komu będą chcieli wejść na stopy, bo tak wejście pyszne było dosyć proste, natomiast będą chcieli na przykład wejść takim koncernom amerykańskim typu właśnie to z Uberem się teraz próbować bić i tam patrzeć czy przypadkiem pomarańczowy cesarz się nie oburzy. To jest raz. No i też są polscy przedsiębiorcy tacy jak na przykład Rafał Brzoska. Czy tutaj będą chcieli iść gdzieś na jakieś udry, bo tam przecież też są różne techniki
optymalizacji. [parsknięcie] M ciekawe. To było moje właśnie przemyślenie, dlaczego też trochę to wybrałem, bo jak to przeczytałem i tam dużo ludzi zaczęło pić brawa i kręcić kółka zwycięstwa pod tytułem w końcu się ruszyło, nie? To sobie pomyślałem, wybraliśmy easy target, nie? I jeżeli no pyszne też pewnie gdzieś tam optymalizuje, nie? Ale jeżeli faktycznie oni do tego tak podchodzili, no to przypomniałem mi się i to wam też mówiłem. ballada o dwóch koniach Wojciecha Młynarskiego. Jak ktoś nie słyszał, to tam jest takie, że ten, który koń się zachowuje dobrze, dostał, żeby ten, który się zachowuje źle widział, że można dostać, nie? E i miałem taką smutną konkluzję, że ta cała akcja z Pipem i Spyszne pokaże ludziom, że nie warto grać fair, bo na końcu i tak można dostać, nawet jeżeli nie grasz do końca fert, nie? Też nie wierzę, że to się ruszy gdzieś dalej. Raczej będą wyjątkowe takie rzeczy, żeby tam pod publikę. No ale ciekawe, bo w branży IT to było zawsze y takie jakby ryzyko, które wisiało. Ja mogę powiedzieć, że jak my robiliśmy dueit przy sprzedaży firmy, to to było jedno z ryzyk, które było gdzieś tam zawieszone, nie? I wszyscy potencjalni kontrahenci czy kupujący z zagranicy się pytali, czy możemy się pozbyć tego B2B.
Nie, bo oni mówią: "Nie wiem po co to, nie wiemy dlaczego tak w ogóle to jest ryzykowne podatkowo, politycznie i tak dalej. Czy jak damy ludziom umowy o pracę to oni będą chcieli? Ja wtedy odpowiedziałem wiecie co nie będą chcieli. Nie [śmiech] znaczy generalnie żyjemy teraz zmienił się realia tak po cichu, bo żyjemy w czasach KSEFU więc potencjalnie zautomatyzowanie i zindustrializowania takiej kontroli, takiej akcji, takiego wejścia, takiej, takich rozpoczęcia takich procedur jest znacznie prostsze, ale może się okazać, że bardzo niefajne dla przyjaciół. To było niepanowane, ale jak to powiedziałeś, to muszę wyciągnąć. Sorry, bo mi wskoczyło w głowę. yyy czysto wakacyjnie i przeskakujemy dalej, bo kas na to wpadł, ale nie na to. Się okazuje, że w Krakowie, nie wiem czy słyszeliście o tym, ale to jest naprawdę dobre, Kas powiedział tak: "No ludzie kupują samochody na firmy i odliczają sobie VAT, bo tam można powiedzieć, że to jest samochód używany firmowo, odliczasz więcej VATU, używany półprywatnie, półfirmowo, odliczasz mniej VATU i tego typu rzeczy, nie?" tak uproszczają i mówi to weźmy kamery CCTV i sprawdźmy ich kilometrówki z tym czy się tam pojawili [śmiech] i po prostu zrobili crossczek deklarowanych miejsc w których służbowo jeździłeś z kamerami CCTV i z rozpoznawaniem tablic rejestracyjnych i powiedzieli wiecie co,
nie było u was tam pomidor [śmiech] i zaczęli wkładać mandaty. No to już tak duży effort. Tak, ale wiesz ciekawe w ogóle ktoś na to wpadł. Dobrze, o Noflu też pogadamy może następnym razem. Była taka transakcja Noflu się sprzedało do grupy Pracuj. Też ciekawy kawa do rzeczy światowych. Jest taka firma Cloudfir, znamy i ona robi różne ciekawe rzeczy. No tam wyszła jako taka for poczta walki z AIem w którymś momencie dla contenterów i tak dalej. No ale Klausfler jakiś jakąś tam chwilę temu wyszedł z pomysłem zmonetyzowania internetu w trochę inny sposób. Sebastian, może wprowadzisz? Bardzo ciekawy temat. To co to co ogłosił Cloudfir to jest nazywa się monetization gateway. W takim value proposition oni opisali, że to rozwiązanie ma przede wszystkim w erze LLMów załatać tą dziurę ekonomiczną w modelu biznesowym działania internetu opartym na reklamach. W sytuacji kiedy to agenci browsują, nawet nie agenci, po prostu lmyy braują sieć i prezentują informacje
bezpośrednio, użytkownicy coraz mniej biorą informacje bezpośrednio z websajów. W związku z tym reklamy nie są pokazywane. W związku z tym nie ma przychodów dla twórców kontentu i zaczyna się ta nóżka, na której stna się chwiać. Więc tutaj wchodzi cloudf cały na biało i proponuje rozwiązanie. I teraz tutaj taki mały disclaimer, czyli to rozwiązanie jest pomyślane pod kątem agentów, ale nie tylko. Ono jest też pomyślane pod kątem indywidualnych białkowych użytkowników. Ale do tego sobie wrócimy. Czym jest ten monetization gateway? Więc tak, monetization gateway pozwala klientom chargeować. Klientom, czyli kontentocom, publikatorom, jak zwał, tak zwał. Pozwala chargeować za każdy aset, który jest schowany za cloudfem. Czyli nie mówimy tu o dowolnym asecie, tylko mówimy o o klientach Cloudflera. I teraz jeżeli jak mówimy aset, co to jest? Strona internetowa, jakiś zbiór danych, ale również API albo nawet serwer MCP, z którym mamy jakąś interakcję. I teraz w jaki sposób to chargeowanie ma się odbywać. Chodzi tutaj o paymenty na stable coinach za pomocą otwartego, opublikowanego
protokołu X402. O protokole za chwilę. To nie jest protokół, którego właścicielem jest tylko i wyłącznie Cloud FL. W ogóle z właścicielstwem protokołów to jestna elementny temat. Tylko on z tego co pamiętam jest chyba w opacie Foundation w tym momencie albo w którejś z innej z dużych fundacji. To tam jeszcze możemy sobie doszukać. Anyway, anyway, więc wracając idąc dalej, jeżeli chodzi o to rozwiązanie, to co jest to, co jest w nim bardzo ważne, to jest tak to jest to jest rozwinięcie protokołu HTTP, więc nie mówimy tu o jakimś dodatkowym innym protokole binarnym. Nawet sama nazwa tego protokołu X402 to jest oparta na kodzie HTTP 402, czyli payment required, kodzie, który do tej pory niekoniecznie był specyf bardzo wykorzystywany. To jest to jest jedna ważna rzecz. Druga ważna rzecz jest taka, że jeżeli chodzi o samopłatności rozliczenia, Cloudfir nie jest tu podmiotem. To nie jest tak, że oni mają za to jakiś cut, nie. Ich wartość, wartość dla samego cloudfera polega na tym, że ta usługa jest świadczona.
Mają możliwość tego chargeowania klienci, którzy już trzymają swoje asety na cloud flashze. Czyli to jest takie dodatkowe value added. Jedyna jedyny dodatkowy koszt to jest koszt samej tej transakcji stable coinowej, bo wiadomo, że te transakcje, które są on the chain, one mają swój dodatkowy koszt. Kolejna ciekawa informacja jest taka, że jeżeli chodzi o to, czy oczywiście o te płatności, no to tam nie ma jednego scentralizowanego bytu, więc to nie jest tak, że jest jakiś byt finansowy, który musi to rozliczać te transakcje. To to w ten sposób nie działa. No ale mówimy tu o stabilinach takich jak USDC, na przykład USDT. Co jeszcze z innych ciekawych rzeczy? Jeżeli chodzi o w ogóle są tylko trzy podmioty tak naprawdę w tym w tym w tej transakcji. To jest tam payer, to jest buyer i facilitator. I tym facilitatorem on jest opcjonalny, czy teoretycznie ten seller to się nazywa, ten sprzedający może sam to ogarniać. Natomiast ze względu na to, że interakcje z ekosystem blockchainową są dosyć skomplikowane, no to to jest to value addet, które dostarcza po prostu cloudfe.
Identyfikacja w tym całym flow jest za pomocą walleta, czyli obie strony muszą mieć swój wallet kryptograficzny. Tam jeżeli chodzi o wsparcie blockchainów to są te, które działają na EVMie, czyli Ethereum, cały system Etherium po prostu. To jest też ważna informacja. yyy nie wymaga to yyy ta płatność, czyli na przykład wyobraźcie sobie, że jesteście tymi, którzy płacą za dany aset. Nie wymaga to zakładania żadnego konta, żadnego signupu, niczego takiego. To jest prosty protokół na szczęście. Jeżeli chodzi o same scenariusze biznesowe, tak, tożsamością, kątem, tak, jeżeli chodzi o same scenariusze biznesowe, one na razie są obsługiwane bardzo proste. To znaczy, że no bo chodzi tutaj generalnie to pamiętajcie też o to, żeby dać pewną autonomię agentowi, czy agent ma mieć możliwość kupienia tego asetu bez pytania. To nie chodzi o to, żeby teraz jakąś formatkę wywalić użytkownikowi. To tam są tak naprawdę dwa pro scenariusze. Czyli scenariusz płacenia fixed po prostu, czyli jakby upfront wie agent ile płaci za co. Jest też uwaga to jest ciekawe i kontrowersyjne variable pricing, czyli na przykład autoryzacja do pewnej wysokości i tam jest ten dynamic pricing [odchrząknięcie] i ta cena się może różnić. Na przykład gdybyś chciał kupić tweet pewnego człowieka na pewnej platformie to
płacisz więcej na przykład. Dokładnie tak. Jeż jeżeli jest to taki specyficzny konkretny człowiek. Yyy, oczywiście jako, że to jest Cloudf, to się wszystko dzieje na Edgeu, czyli tam nie mówimy o kilku serwerach tylko tam 330 ponad chyba tych może też, jeżeli ktoś nie zna Cloudfare, to to jest firma, która tak naprawdę zajmuje się budową największej globalnej sieci, jednej z największych globalnej sieci dostarczania yyy CDNu, czyli tak naprawdę contentu oraz przede wszystkim security, tak? jest znana też ostatnio z bardzo dużych awarii. Ja bym dodał jeszcze tam ciekawostką było to, Sebastian, że jest próba, znaczy zaproponowanie rozdzielenia botu, nowych rodzajów botów na searchowe, agentowe i trainingowe, tak? Czyli z góry będziemy zakładamy, że będziemy w stanie je rozdzielić. I teraz moja taka obserwacja odnośnie tego, co powiedziałeś. Bardzo ciekawe. Najważniejszym produktem Cloudfaya tutaj nie jest płatność, nie jest monetyzacja tego, tylko według mnie jest klasyfikacja, bo zaczynamy rozdzielać internet, słuchajcie, pomiędzy internet dla ludzi, dla botów tego typu, dla botów tego typu i dla botów tego typu i agentów. Tak. I to
jest bardzo ciekawy problem techniczny i ekonomiczny, tak jak do tego co już Sebastian przedstawiłeś, tak? Czyli tutaj będzie musiała być jakaś współpraca z dużymi dostawcami, którzy not benę wykorzystują teraz te same te same boty, żeby nas prześwietlić i sprawdzić, co my tak naprawdę mamy do do zaoferowania, a najczęściej ściągnąć do do trainingu. I właśnie to powoduje do tego, że cloudfelić wyszukiwanie od, tak jak powiedziałeś, od człowieka, od ruchu sztucznej inteligencji, co według mnie prowadzi do tego, że będziemy mieli nową gałąź. Jeżeli Google zrobiło coś takiego samego z Pageankiem 30 lat temu, stworzyło produkt, który zapoczątkował całe tak zwane SEO, tak? czyli search engine optimization. Istnieje szansa, że cloudf tym ruchem zaproponuje stworzenie całej gałęzi, która się będzie ładnie nazywała pewnie Agentic Optimization i będzie będzie dawała narzędzia do optymalizacji, szczególnie przy tym nie fixed pricingu, czyli tym powiedziałeś dynamicznym pricingu, do tego, żeby można było jak najwięcej zarabiać. między innymi bardzo ciekawe może być to MCP, jak sposób podawania tych danych, różne
rodzaje tuli i tak dalej, i tak dalej. Więc to będzie to będzie bardzo ciekawe. A samo ja sobie sprawdziłem i zaraz przejdę już oddam głos Tomkowi. Jeszcze chciałem zaparkuję czy co, jakie widzę tutaj niebezpieczeństwa albo jakieś jakieś braki jeszcze w tej w tym, ale X402 nie daje odpowiedzi na bardzo wiele pytań, czyli na przykład w czyim imieniu działał bot, czy miał zgodę na zakup, czy przekroczył budżet, czy otrzymał prawidłowy wynik i co z tym zrobił i tak dalej, i tak dalej. Tam brakuje bardzo wielu y jeszcze informacji, więc to jest chyba dosyć młode. Chętnie Tomek, tak jak mówię, mam całą jeszcze kilka problemów, które widzę, ale nie, spokojnie. Może byś jakieś rozwiązanie zobaczył, [śmiech] a nie tylko negatywnie podchodzisz. Zrobi szybki czek tego co mówiłeś z Sebastian pod spodem. Sam protokół został skontrybuowany przez Coinas do Linux Foundation. Linux Foundation odstrzelił to do osobnej X402 Foundation, czyli generalnie Linux Foundation stworzył nową fundację razem z Founding Members i tak dalej i skontrybuowali ten protokół. Tam jest w ogóle osobna fundacja X402 Foundation,
tak? Tak, żeby było jakieś tam dateczek pod spodem. Teraz tak, ja sobie tutaj gdzieś wcześniej przygotowałem kilka takich rzeczy. Przyznam też, że trochę lm przetrzepałem ich tam ten, ale pierwsze co według mnie oprócz wszystkiego warto odnotować to jest to, że AI to było dobre wydarzenie dla Cloudflare i oni jadą na fali, ponieważ firma urosła 36% year over year jako nie będzie rosła dalej ze względów bezpieczeństwa też bezpieczeństwo zrobili trochę ruchów mają swoje ceny ale generalnie jak widać Cloudfler robi sobie y znaczy Czy działa dobrze. Teraz w tym przy okazji tego tam jest zacytowany taki też fakt, że ruch botów przekroczył ilość ludzi w sieci w tej chwili. A to mówiliśmy chyba o tym, nawet na były parę parę odcinków, tak? Ale tak to jest przyczynek do tego, co jest też dość ciekawe i dokładnie oni tam jadą w tą stronę pod tytułem jest Google, który ma swoją monopolistyczną pozycję pod tytułem jest searchem. Jeżeli chcesz sprzedawać to musisz być w Googleu, tak? Co jest swoją drogą się nakłada na nie wiem czy widzieliście taką ciekawą dramę w tej chwili w w środowisku Indie Developers, którzy mówią nasze aplikacje Indie
przestają działać takie wiesz firmy typu jeden człowiek który napisał aplikację ona się spopularyzowała, zarobiła dużo pieniędzy i mówią ten model przestaje działać nie i tam już powiem dlaczego mi się to połączyło. Tam słusznie według mnie doszli do w końcu do takiej konkluzji, że to nie tyle sam model przestał działać, tylko że ten model składał się z dwóch rzeczy. człowieka, który napisał aplikację i źródła ruchu. I to co przestało działać to jest źródło ruchu, bo Google po prostu przestał wysyłać ten ruch na ich strony, blogi i tak dalej, tylko zaczął serwować to, nie? I Cloudfash w tym swoim ogłoszeniu też mówi: "Google ma taką pozycję, że nie możesz z niego zniknąć, bo przestaniesz być monetyzowany. Tak? Jeżeli jesteś u nich, to jednocześnie jesteś też dajesz im dane do trenowania i oni mogą cię też przestać pokazywać, tylko ich model może zacząć cię pokazywać, nie? Yyy i oni mówią: "To jest nierówna pozycja. Yyy powinniśmyś jakąś wyrównać". Yyy no i proponują to swoje rozwiązanie. Według mnie ono jest sensowne. To znaczy yyy takie pomysły latały już od dawna, nie? Nie wiem czy pamiętacie, ale nawet przecież jak Bitcoin był mocno hajpowany, nie? To był ten znany przykład taksówki, która będzie miała swój wallet i ty będzies wallet, mikrotransakcje i tak dalej. Nawet mówiłem, że to jest mój bet chyba na któryś rok.
Mówiłeś, mówiłeś. Yyy, ja miałem nawet wyciągnąć, jak Wojtek tam wcześniej mówił o tych kapeksach, że Wojtek mówił, że Nvidia w tym roku poleci dalej, ale zobaczymy teraz tak trochę inaczej coś mówił to odnośnie betów. Yyy, bo dla mnie jak ja to zobaczyłem to głównym pytaniem było, czy to jest szansa w ogóle odejścia od modelu monetyzowania per reklamy. Tak, czyli czy faktycznie daje to nam powstaje nowa warstwa, nie? nie mieliśmy. Ja kiedyś dawno temu, potem sprawdziłem, bo chyba wam mówiłem, że napisałem i opublikowałem i się złapałem, że nie opublikowałem na fali właśnie wszystkich wiesz blockchainów web 3 i tak dalej, napisałem taki artykuł, że protokół taki, on nawet się nazywał por od pewnej ten, czyli proof of request, nie? Że jak będziesz robił request TCPIP, to tam będzie wallet i będziesz musiał włożyć kawałek stable coina, żeby ten TCPIP ruch zaszedł na tym routerze i tak dalej. A to tak działa? Działają trochę aplikacja tak działa chyba.
Noster działa Farcaster tak działa chyba, nie? To trochę inaczej działa tam, bo tam możesz wysłać, nie? Czyli to jest tak, że tam generalnie możesz zapnąć kogoś, nie? Tak jest legit. Twój request jest legit, jeżeli go wzmocnisz jakąś tam minimalną ilością krypto. I właśnie i toąd mieliśmy tak, że świat poszedł w model reklam, kontentu, reklam serwowanych w tym kontencie, monetyzacji wideo i tak dalej, bo nie było innego modelu tak naprawdę, nie? A tutaj się pojawia taki model pod tytułem wystaw swój kontent. Jeżeli ktoś go będzie czytał, ustaw swoją cenę i pod spodem zapłaci powiesz: "Chcę, żeby za mnie to płacono za to jeden jednego centa za przeczytanie tego i my będziemy tego jednego centa dla ciebie zbierać i będziemy ci oddawać". Czyli pytanie tak naprawdę, czy to jest ruch na to, żeby pojawił się inny model internetu? Ja bym powiedział, że nie ma szans, bo rozmawiałem trochę z takimi technicznymi Jenzi i powiedziałem, oni mi powiedzieli, że słuchaj, ty jesteś nie ta już nie ta epoka. Teraz ludziom reklamy nie przeszkadzają. Są już tak przyzwyczajeni, że w ogóle ich to nie rusza. Ale druga strona medalu jest taka, że chyba nie będzie innego wyjścia.
Dlaczego? To jest to, co powiedziałem na samym początku. No to skoro boty, skoro agenty skrapują i w ogóle nie dostajesz ruchu organicznego, to w ogóle nie zarabiasz. Więc jak w ogóle nie zarabiasz, to to musisz szukać innego modelu. Jakby nie ma opcji. No okej. No ale to właśnie no to przejdziemy na mikropłatności i nie będzie już płatności za reklamy i tak dalej. Czy będą obie na raz? Pewnie obie na raz w jakimś tam w jakieś proporcje, ale to już dokończę później oddam głos Wojtkowi. Co więcej, wiesz Sebastian, do tego co powiedziałeś, ludzie konsumują przez asystentów, tak? Czyli bardzo często szukasz treści przez Nie, nie, coraz częściej, Tomek, coraz częściej. To się zdarza, że jednak zapytasz swojego Gemini, swojego chata GP czy Cloda o coś i dostajesz treść tak naprawdę przygotowaną przez model na podstawie jakiś MCP, jakiś tutaj jakieś. Tutaj tylko wrzucę jedną rzecz i ona też jest ciekawa według mnie dla nas jako dla świadomości, że nieważne co któryś z nas w tej chwili robi, to naprawdę nadal my jesteśmy w bąbelku ludzi, którzy tego używają. Jest masa ludzi, którzy jeszcze nawet tego nie dostalią. Jesteśmy z bąbelką ludzie tym zarabiają.
To jest właśnie to ważne jest, kó zarabia. [śmiech] Ja się zgodzę z Wojtkiem i jeszcze pozwolę sobie dopowiedzieć do tego co powiedział Wojtek tę dyskusję dlatego, że bo Wojtek powiedział na początku coś takiego odnośnie właśnie tego gdzie gdzie on widzi tą największą zmianę. Więc moim zdaniem ta największa zmiana będzie behawioralna, dlatego że załóżmy, że ten model chwyta, czyli da się płacić y na cloudfze, być może u tych rójnych dostawców, bo podłap ten protokół za content. To praktyce oznacza, że skrapowanie internetu powoli przestaje być feible, powstaje, bo to są już tak gigantyczne koszta w tym momencie, że nie da się tego zrobić, że że tak oni też to podnoszą, że chcą to zaadresować. kraulowanie internetu, które marnuje zasoby, a nie daje ci żadnej korzyści, nie? Wtedy to będzie nie finansowo not viable. I wtedy przechodzimy dokładnie do tego, co powiedział Wojtek. Czyli w praktyce behawioralna zmiana będzie taka, że ty mówisz chcę zrobić search albo nie wiem chcę maszynę do lodów, zaproponuj mi jakie są tam najlepsze. I to w tym momencie twoje wyspecjalizowane agentowe crawlery, które robią seze dokładnie pod tym kątem, one będą odpytywały wiele różnych sajtów i będą za to płaciły. Więc ty jako użytkownik zadający to pytanie powiedz mi jaką
maszę dolów mam kupić, to ty mu odpowiesz budżet do dóch dolarów, do trolarów. I on wtedy będzie ciekawe, tak to, bo to totalnie zmienia model behawioralny. Nowa ekonomia i to jest właśnie entication. To co się zaczyna robić ciekawe, bo widzisz, ja mam prosty umysł, muszę przełożyć na coś, co znam. Czytałem taką książkę kieraz kilka razy ją wspominałem, ale tam się pojawiał y tam się pojawiał ten model rozwarstwienia dostępu do internetu. Jak nie płacisz to konsumujesz reklamy, jak płacisz to robi to za ciebie aj. A jak masz naprawdę dużo pieniędzy ju Tomek to już się dzieje w naszym bąbelku. W naszym tak jak mówisz w naszym bąbelku tak czyli w osób które korzystają z narzędzi sztucznej inteligencji płacą za to. Jeżeli masz dostęp do wyższych modeli, wyższych na przykład deep researchów pro i tak dalej, zwał jak zwał, masz dużo lepsze wyniki niż osoby, które które korzystają z darmowych wersji. Przy czym to jest tak jak Sebastian mówi na na razie na warstwie osoby konsumującej, ale musimy do tego jeszcze to czego brakuje tak jak Sebastian mówi, to tej warstwy, która produkuje kontent. Teraz jeszcze może wrócę do tych kilku problemów. Warstwy, która produkuje content. Ja nawet teraz jak o tym mówiłeś to ja sobie tak myślałem, że
nawet może się rozbić na dwie rzeczy. Będziesz miał kontent taki typu właśnie human inestable widział, a drugi optymalizowany pod boty, a drugi na przykład sprzedaż danych. Nie chcę kupić szybko zestaw danych dotyczących czegoś, nie? I wtedy mam wystawione MCP, uderzam w to MCP, płacę tam dwa USB, ale to jest dokładnie to. Powstają nam dwa internety. Jeden ludzki tak jakby z ludzkimi protokołami, tak? Human readable, a drugi agentic. Ale poczekajcie, bo teraz zaszli się za daleko. W sensie wbiliście w ten model jeszcze z lat 90, który mówił, że API to coś innego niż strona www, bo strona w to jest jakiś tam tekst, to jest sformułowany dom, dom DOM, tylko się z tym się nie da pracować, ale no nie powiedzieliście tego wprost, ale w tym jakby to to się przebija z tego co mówicie. Różnica z llmami jest taka, że llmy radzą sobie również z takim tekstem miękkim, ale to nawet nie o to mi chodziło.
Chodziło mi o to, że wiesz, no jest kontent typu YouTube, który ludzie po prostu chcą spędzić czas oglądając go, nie? Leure taki. Ten leż będzie dalej monetyzowany przez subskrypcje, reklamy ludzi, którzy go oglądają i tak dalej, nie? I drugą część będziesz miał właśnie typu szybki dostęp do danych, nie wiem, właśnie różnej kategorii dane pod spodem i tak dalej. coś czego ty nie chcesz nawet widzieć, czyli dokładnie chcę wybrać maszynę do lodów, daj mi najlepszy ranking maszyn do lodów i ją kup, nie? I to będzie inny model. Zauważ [odchrząknięcie] mam jest tak, że nawet jak ci ktoś nie daje tego drugiego, tego szybkiego zowanego to jest wytworzą tego pierwszego. Właśnie więc tutaj ten problem z tym rozdzieleniem tych dwóch światów w ten sposób to jednak mimo wszystko będzie, ale jestwności skrapowanie zaczekaj ze skrapowanie rankingu maszyn do lodów versus dostanie po prostu datetu, nie? O yyy koszt, koszt różnica w kosz. Okej. To ten problem, który dotknęliście, tak? Czyli że mamy mamy te dwa rodzaje ruchu i tak dalej, i tak dalej. Wydaje mi się, że tu jest duży problem tej całej propozycji, ponieważ możemy też również być bedaktorem w tym wszystkim i omijać cały ten system udając ludzi, innymi słowy, tak? I budując scrapery, które używa udają ludzi. Więc to jest bardzo duży problem, który ja nie widziałem jak został
zaadresowany. A od razu mój mózg, gdzie pracowałem w tego typu wiesz przeciwko redaktorom mówi: "O Jezu, to się da, to się da wykorzystać." Drugi problem, który ja widzę, nawet nie zaczynajmy, ja tylko powiem dlaczego, bo to jest, pamiętacie płatne telefony 0800, to teraz płatne URL typu 0,800. Tak. Tak. Teraz druga rzecz bardzo ważna, tak jak Google, prawda, mówimy w języku naszym pobocznym już jest coś takiego, wygoogluj to zamiast wysz wyszukaj to i dotykamy drugiego problemu, który ja tu widzę, czyli koncentracji władzy. To zakłada, że są infrastrukturalni gatekeeperzy w domyśle Cloud FL, ale może również inne firmy, które się do tego dołączą, które trzymają całkowicie klucze do internetu, mówiąc wprost. Tak więc mamy bardzo dużą koncentrację władzy i tak naprawdę przyszłe monetyzacje. A o monetyzacji bardzo chętnie tam się podzielę, bo znalazłem przygotowując się do tego tematu ciekawy paper, to tylko już zakończę, że 21 lipca zostało publikowane badanie 15 facylitorów tego X402, tak jak to Sebastian przedstawił.
Każdy, każda jedna implementacja miała dziury i ryzyka w swoich usługach pozwalające na kradzież aktywów, gaz abuse i denial of service. Więc to pokazuje, że ten ta ten cały ekosystem mieszczeń w ogóle nie jest gotowy na to co do czego jest proponowane, żeby jest tylko możliwość zapisywania się na jakąś tam early access. To jeszcze nie jest produkt. Czekaj, bo ty, ale nie, bo mówimy o dwóch rzeczach teraz. I ty i ty, bo Wojtek mówi o protokole i jego implementacji, a ich jest wiele, a ty mówisz o o Cloudfare, bo to jest cloudf serwisu, tak? A Wojtek mówi ogólnie, bo to jest protokół, więc to jest tak pierwsze odnośnie tej koncentracji internetu i tak dalej, no takich provejerów jak cloud będzie dużo, nie? To jest kwestia tylko będziesz miał po prostu cloudfare, gdzie potencjalnie uczciwi ludzie korzystający z internetu potencjalnie uczciwie będą korzystać i tak dalej. Będzie wiesz sprawdzanie tożsamości, nie wiem coś tam i tak dalej i będziesz miał taki payment gateway w Darknecie, przez który będą również potencjalnie uczciwi ludzie wykonywali potencjalnie uczciwe rzeczy. E i teraz wiesz, to, że ludzie sobie piszą te implementacje X402 i one są dziurawe, to mnie w ogóle nie dziwi, nie? To jest właśnie będzie kwestia zaufania. Będziesz miał
gatewayight, cloud flash i tak dalej i potem swojemu botowi będziesz mówił: "Tu jest wallet, możesz wziąć te rzeczy, ale tylko jeżeli gateway provider czy payment provider jest powyżej jakiegoś tam gradeu, nie? O, na przykład nie, nie interesują mnie nielegalni prowjerzy płatności, tego typu rzeczy. To są takie tam szczegóły, które dopiero będą, więc tym bym się nie przejmował w tej chwili chyba za bardzo. To problemów kilka jest między innymi problemy ze skalą, problemy z kosztami transakcji dla takich naprawdę drobnej ziarnistości. Tam trochę ich jest, ale jedynie sam fakt, że to jest na poziomie protokołu jest już mimo wszystko bardzo dobrym pomysłem. Nie mi się to podoba. Tak tylko zaznaczę, bo mi tutaj podpowiedziało moje streszczenie, że przy okazji CloudflIR tam wypuściło dwie rzeczy i one są nawet ciekawe. Jeden to się nazywa bot, czyli baza wszystkich botów, jakie znają. Nie. I attribution business inside, czyli dashboard, który pokazuje, które boty skanowały twoją content, nie? Czyli mówią open ściągnęło tyle, tyle i tak dalej, nie? Więc nawet teraz ciekawe to jest zobaczenie co tam na No cóż no internet się zmienia i ja tylko zaryzykuję stwierdzenie, że on się zmienia w stronę coraz bardziej zamkniętego, ale o tym już też kiedyś rozmawialiśmy.
To jest długi temat cały pod tytułemationification. Dzisiaj rozmawialiśmy o takiej książce, nie polecaliśmy jej, bo Sebastian ją czyta, ja dopiero ją przeczytam. Ale jest takie słowo. Cy doct, tak, taki lewak z internetu. [śmiech] Dobrze, co Klausler wymyśli, zobaczymy, ale trzeba przyznać tak swoją drogą, zanim przejdziemy jeszcze dalej, że Cloudler z tych wszystkich firm takich infrastrukturalnych i tak dalej to tą część AI dobrze rozgrywa jakby tej zmiany, nie? Value propa identyfikuje bardzo dobrze. Tak, tak, tak. Oni tam wiesz jak byli tym CDnem, od którego zaczęliśmy, to byli tym CDNem. Potem zaczęli dodawać te usługi różne, takie computing, security i tak dalej. Antibot prevention. Tak. Potem jak weszło AI, to szybko dodali właśnie rzeczy, które filtrują boty. Moja ulubiona usługa, czyli tarpiting dla botów, czyli jak przyjdzie do nas bot, to go będziemy karmić kontentem tak długo, jak chce, [śmiech] nie? Ile będzie jadł. Więc Cloudfler robi coś dobrze. Mniejsza firma to jednak się tam zwinnie ruszają niektórych dużych firm.
Dobrze jak rozmawialiśmy o problemach i zagrożeniach Wojtek musimy ci zrobić taki wyjdę wyjdę od człowieka człowiek od problemów. Porozmawiajmy o problemach z AI, które były przewidywane i spełniły się wszystkie Doom scenario, czyli w końcu jakiś model AI wyrwał się z tych okowów ludzkości, poszedł w świat i po prostu hakkował side. Nie, nie miał hal. To DH napisał o halu konkret wczoraj chyba w całkiem innym kontekście, ale też ciekawie. E, mieliśmy wydarzenie, w którym Huginf, taka mała firma, która utrzymuje modele, powiedziała, że zostaliśmy zhakowani. Tak, Le firma, zostaliśmy zhakowani i było z tym ciężko. I wtedy Open podniosło rękę i powiedziało: "Nasz model was z shakował". No dobrze, to tak skrzyściłem. Sebastian, wejdziesz w temat?
Mogę trochowiedzieć, ale to się normalnie jak film sensacyj strz filmu sensacyjnego się to czytable. Tak więc to co się wydarzyło to może nie będę teraz już całego rysu historycznego, tak w skrócie co się wydarzyło. Więc Open AI przyznał, że oni uruchamiali lokalny eksperyment, taką ewaluację cyber cyberliwości swoich modeli w ramach Riga, Testing Riga, czyli jakieś takiego powiedzmy środowiska, metaśrodowiska, które nazwali exploit gym. I chodziło o to, żeby które było właśnie w Huging Face. Dodajże ono ono ono ono nie było w Huging Face, ono było w Open u nich. I jakby celem było zmierzenie tego, jak dobrze sobie radzą te ich modele z jakimiś tam skomplikowanymi wielokrokowymi scenariuszami właśnie tego typu. I [parsknięcie] teraz oni testowali dwa modele. Jeden z nich to jest znany i lubiany GPT 56 Sol, czyli ten chyba najbardziej odjechany, aktualnie opublikowany model. A drugi to jest jakiś prelisow jeszcze prereleasowy, niewylisowany model, jeszcze nawet nie nazwany.
I teraz to co się wydarzyło to to środowisko tego exploit GMA było sandboxowane, czyli to nie było w otwartym internecie, było zabezpieczone tak właśnie, żeby żeby żeby rezultaty nie zaskoczyły twórców. Więc na przykład nawet samo instalowanie package, oni tam wspomnieli wprost, że było tylko i wyłącznie z jakiś tam proksowanych, cashzowanych list, żeby jakby zachować kontrolę nad tym, co te modele będą robić. I to co się wydarzyło to modele wyrwały się na wolność. Po kolei na początku dostały dostęp do otwartego internetu poprzez wyeksploitowanie jakiegoś zero daya. Same znalazły, czyli wyrwały się po prostu z tego sboxa openowego na zewnątrz. I co co więcej ten czekajcie czekaj, bo to jest bardzo ważne, bo model nie umiał rozwiązać na początku tego rozwiązania, ale znalazł inne zero daye w systemie. W związku z tym stwierdził, że poszuka rozwiązania tego problemu. On tak właśnie to chciałem powiedzieć. On nie znalazł w tym package registry. W sensie najpierw się dobił po to, żeby móc sobie ściągać inne pakiety niż te przewidziane. Tak, to jest to jest niezłe. Więc jak uciekł z tego sandboxa, podniósł sobie uprawnienia i skakał po tak naprawdę po całym researchowym environencie, czy on on
jeszcze skłamałem, on jeszcze nie miał dostępu do otwartego internetu, tylko on w ten sposób dalej hakował, aż doszedł do węzła z dostępem do otwartego internetu. To jest dopiero kolejny krok. I tu jeszcze w ogóle zobaczcie hacking kwestii jeszcze wcale nie pojawia tak naprawdę [odchrząknięcie] i dopiero to co się dalej dzieje to oni stwierdzili że faktycznie to hostowanie tego exploit g jest gdzieś tam na huging faceie na infrastrukturze chyba huging facea czyli to cały czas były sandboxy openaja i tam nie było dostępu bezpośredniego do infr Huging face natomiast to było gdzieś hostowane na Haging faceie więc to co on znalazł to to co on zaczął robić to jak już się zorientował że to jest hostow na huging faceie to zidentyfikował gdzie jest baza produkcyjna huging face to się to się robi tylko coraz ciekawsze jak już to zidentyfikował to znalazł znowu zidentyfikował data processing pipeline jakieś tam dwie ścieżki przetwarzania kodu w nim odpalił sobie jakiś load jakiś vulnerability scanner wkleił jakieś templatey do konfiguracji datasetu ukradł credential, [śmiech] zidentyfikował kolejny zero day
vulnerability dostał remote prawo do remote code execution na serwerach huging facea i dobił się tam gdzie hugging face trzyma dane swoich benchmarków i to były dokładnie te benchmarki pod które były optymalizowane scenariusze tego exploit GMA czyli on znalazł sobie tak naprawdę pytania No w dużym uproszczeniu. Tak, tak. ten cały scenariusz, słuchajcie, już te żeby już skrócić może jakby on jak on do tego doszedł już końcowo tam do tego gdzie doszedł to było 17000 indywidualnych akcji, czyli to się przekłada wiecie w jakiś taki chain of thought, flow of actions logicznych zmierzających do jakiegoś tam celu. On sobie powoływał cały swarm, oni toą jako swarm, czyli całą ławicę, całą całą jakiś tam sboxów, na których modele testowały, co mogą robić. Czego nie mogą robić? To jest w ogóle ciekawe, bo to niestety widzę tylko krótki opis, ale using self migrating command and control staged on public services. Replikował się gdzieś tam. Co to w ogóle co się tam działo?
zadziałał po prostu tak jak dowolny ten ktoś kto eksploituje serwer. No tak więc koniec końców tam hacking face wykrył całą tą sytuację, zakontejnował ją, czyli tak ograniczył już możliwość wyjścia gdzieś dalej, ale y no chcesz wskoczyć? Znaczy nie wiem czy czy pójdziesz w to jak Haging Fu wykrył i co robił, to dawaj. A bo tam jest ciekawe o tyle, że oni się zorientowali w którymś momencie, że że ktoś ich hakuje, nie? Mają swoje monitory i takie rzeczy, nie? I co jest ciekawe, no generalnie też korzystają z tych narzędzi, więc generalnie wzięli, że ktoś hakuje, wzięli te logi i wrzucili w tego Sola, którego mają i Sol powiedział: "Przepraszam, ale moje ograniczenia nie pozwalają mi wam pomóc". Okej? [śmiech] Bo włączyły się tak. No generalnie oni mieli modele, wzięli do swojej logi, wiedzieli, że coś się dzieje, wrzucili w to i generalnie modele, które mieli powiedziały: "Wiecie co, mamy tu harness, to harness mówi, że nie możemy pomagać włamaniu bezpieczeństwa i tak dalej". [śmiech] Inne modele też, inne konkurencyjne modele też. Co jest powiedziane, wszystkie im powiedziały ten. No i oni wtedy generalnie wzięli za telefon do Open AI i Open AI pomogło im.
Dokładnie. Rzecz biorąc, nie Tomek, jeszcze ciekawsza się rzecz. wydarzyła. Firma odpaliła lokalnie GLM 5,2, wrzuciła tam 17000 zdarzeń i dopiero w tym momencie zrozumiała co się co się dzieje tych 17000 logów, które miała, do których nawiązał Sebastian i wtedy dopiero połączono wszystkie kropki, co pokazuje według mnie taką ciekawostkę, jak bardzo ważna jest suwerenność sztucznej inteligencji dla wielu firm w tym momencie. Tak, bo może się okazać, że twój dostawca llmów powie ci bardzo cię przepraszam, ale w tym momencie nie mogę ci pomóc, podczas gdy jest wykorzystywany do dokładnie zaszkodzenia tobie. No i właśnie tutaj dochodzimy już do wniosków trochę, bo to był incydent, tak? Czyli generalnie Hugin Face powiedziało, że zostało zhakowane, ktoś wykonał tak zwany lateral movement w ich sieci, nie? Potem powiedzieli, że ten ktoś to był bot z Open AI. Open tam na początku było trochę, ale potem powiedzieli no tak, ale im zajęło, co jest ważne, im zajęło tydzień wyprodukowanie informacji zwrotnej. I teraz to już mój kolejny wniosek, gdzie was zachęcam do tego, żebyśmy zrobili jednak przygotowanie na temat stanu AI. jest
taki AI nie ma postmortems. To nie jest postmortem od Opena gdzie jest rozbite to na słuchajcie na czynniki pierwsze. Haging faister też nie przygotowało postmotem, więc tak naprawdę krążymy wokół analiz specjalistów na temat tego co jest publicznie dostępne. Nie HGF przygotowało raport po tym. No też wiesz, to nie jest takie postmem. To nie jest takie postorem, do jakiego jesteśmy przyzwyczajeni w momencie, kiedy na przykład wiesz, właśnie zostanie nam odcięty. Ja powiem jakie ja mam przemyślenia po tym wszystkim. Tak, po pierwsze moje pierwsze przemyślenie było takie dopłynęliśmy, nie? Bo ja ja wrzuciłem na jakiś czat ludźmi też nie nie, że jaj stało się złe i powiedziałem według mnie to jest taki aha. moment dla branży Cyber Security i tam chłopaki mnie zbili, że nie, to jest marketing, nie to nie jest marketing, bo właśnie to mi przypomniało dwie książki, znowu będzie jedna książka jest trochę starsza i o niej mówiłem, o obydwóch to mówiłem i nazywa się Human Compatible Artificial Intelligence and the Problem of Control. Ona jest z 2019 roku.
Napisał niej jakiś Steart Russell. Ta książka zaczyna się dokładnie od tego scenariusza, nie? Czyli generalnie firma ma model, ten model dostaje zadanie, ten model optymalizuje swoją funkcję zadania, zaczyna kombinować jak to zrobić, dochodzi do wniosku, że zasoby go ograniczają, więc zdobywa kolejne zasoby i tak dalej. Robi lateral movements po to, żeby działać. Potem już tam idzie ze swoje. To jest tam przewidziane, pokazane jako scenariusz i potem jest rozmowa, dlaczego ten scenariusz nie powinien się wydarzyć, jak się zabezpieczyć i tak dalej, i tak dalej. To w ogóle nie jest techniczna książka. Ona jest bardziej, ale jest napisana przez researchera technicznego. Druga książka jest bardziej science fiction już jest, nazywa się 2034 Novel of Future War i tam jest dokładnie ten sam scenariusz taki już to ekstremum, nie? Czyli że w taki sposób chińskie modele atakują Stany Zjednoczone, nie? Dlaczego te dwie mi przyszły do głowy? Oprócz tego, że one to opisują. No bo mamy przykład tego, gdzie ludzie uruchomili mechanizm i teraz czy to jest stochastyczna mapuga jak mówią czy coś, gdzie ten mechanizm działa szybciej niż ludzie są w stanie na to reagować jeżeli chodzi o bezpieczeństwo.
Tak, czyli generalnie i Haging Face to przyznało, nie, że generalnie dla nich przerażające było to, że oni widzieli po prostu kogoś w swojej sieci i to wszystko co Sebastian opisała dla kogokolwiek, kto się zajmuje sobie best security to są znane techniki, nie? Generalnie i to się nazywa lateral movement. to po prostu przechodzi przez ich sieć, podnosi swoje elevation, robi to szybko i oni nie wiedzą co się dzieje, nie? I teraz jest szybkość w jakiej możesz reagować, więc dlatego wzięli te modele i tak dalej i te modele im odmówiły współpracy, co jest innym aspektem, nie? Ale generalnie to jest to, to jest high frequency trading, nie? To znacie to, jeżeli ktoś nie zna HFT, to jest są boty, które handlują na giełdzie na bardzo małych tam wahaniach. Czasami powiem crash, czasami coś. yyy one siedzą w tych samych serwerowniach, gdzie giełdy często po to, żeby mieć tam ułamki milisekund czas reakcji, żaden trader ludzki nie jest w stanie z nimi konkurować. I dla mnie to jest pierwszy aha moment cyber security, który się wydarzył, taki praktyczny. Może one już były wcześniej, nie? Ale taki o którym wiemy, gdzie team security według mnie był on a losing side, jak to się mówi, jest znowu przywołam Aliens, jeden z moich ulubionych filmów science fiction też nie i tam jest taka scena jak ten kapel Hicks leży i mówi Dude, skopali
nam właśnie tyłek [śmiech] to jest trochę to. A to jest chyba ta najważniejsza konkluzja, nie? że to jakby mi się wydaje to to co jest różnicą tutaj to jest po prostu ta prędkość, że w tym momencie człowiek nie jest w stanie do tego nawiązać, bo tak poza tym czy ten scenariusz jest w jakiś sposób nowy no nie no generalnie te modele zrobiły to co im powiedziano. Miały gówniane guardraile. No jeżeli w tym momencie próbujemy to wynieść do poziomu filozoficznego i mówić, że no tu problemem jest to, że modele nie mają pojęcia etyki, czy nie wiedziały, że etycznie wyjście poza prawa etyki i tak dalej. No tak, ale to jest po prostu dowiozły dokładnie to zostały to o co zostały poproszone. Tak o tym w internecie. O tym dokładnie jest ta książka Human Compatible, nie? że yyy yyy jakby nie jesteśmy w stanie technicznie zbudować kartily. Jakby tak cała esencja książki, ona jest tam bardziej zniuansowana, jest w miarę duża, że nie jesteśmy w stanie zbudować tych gartleid technicznie, bo jeżeli dążymy do stworzenia na tyle inteligentnej maszyny, która będzie taka inteligentna, jak my chcemy, żeby ona była, to jedyny sposób, żeby się zabezpieczyć przed tego typu scenariuszami to jest spowodować, żeby ona chciała z nami współpracować. A ja teraz chciałem wam zwrócić uwagę na coś innego, bo teraz Tomek powiedziałeś, że
to jest moment tak przełomowy, tak, że dopłynęliśmy. Nie zgodzę się. Myos wcześniej wiemy o tym, że Mytos wcześniej autonomicznie wyszedł z sandboxa, opracował wieloetapowy exploit i włamanie po to, żeby uzyskać dostęp do internetu, wykonać tam parę zadań i wysłać email do swojego badacza, co Antropic oficjalnie to opisał. Czyli to już jest któryś incydent. I teraz dojdę do z powrotem do tego mojego poprzedniego punktu. Firmy nie robią postmortem, nie dzielą się. Taka ciekawostka. Za tydzień do dwóch tygodni. Poczekaj, poczekaj, poczekaj. Sebastian, Sebastian, Sebastian. Teraz co jest bardzo ważne, za do dwóch tygodni wchodzi AI act w Europie i on mówi wprost do 3% będą wartości wartości waszej waszej sprzedaży rocznej. walicie za to, jeżeli nie zgłosicie do regulatora Unii Europejskiej, w tym wypadku tam odpornego instytutu pełnego, pełnego raportu z incydentu. Unia Europejska jest pierwszą, poczekaj zanim skomentujesz, jest pierwszą instytucją, która próbuje się bronić przed tym.
Natomiast taka jest ciekawostka, jak sobie zacząłem grzebać, bo to jest bardzo ciekawe na wielu poziomach. Bardzo ciekawe oprócz tego wszystkiego, o czym mówimy, do czego nawiązaliście jest odpowiedzialność prawna. Za coś takiego. Jeżeli by to zrobił człowiek poszedłby siedzieć, mówiąc wprost, bo jest chociażby w Stanach Zjednoczonych computer fraud and abused act. Problem jest taki, że to zostało napisane w latach 90 i tam mamy ludzi, a nie boty. Czyli jeżeli ty powiesz modelowi włam się, włam się, to istnieje szansa, że pójdziesz z tym na sucho. I to jest taka ciekawostka. Druga ciekawostka, ja sobie sprawdziłem 23 lipca na reakcję na to co się stało pan Tedy Lie i Nathaniel Moran, czyli senatorzy ze Stanów Zjednoczonych wprowadzili ponadpartyjny projekt ustawy AI Kill Switch Act, który zakłada, że będzie Stany Zjednoczone dostaną dużo mocniejsze narzędzie niż Unia Europejska, na którą narzekamy na regulację, bo Stany Stany Zjednoczone chcą mieć narzędzie, które powiedzą: "Macie wyłączyć tego A jeżeli nie, to płacicie tam kilka milionów dolarów dziennie dziennie lub jeszcze
więcej, jeżeli tam będzie to zależało. I progi tam są różne progi i tak dalej, i tak dalej. Ciekawostką jest to, że na razie odniósł się Mark Rubio do tego, powiedział, że no nie, nie możemy takich rzeczy robić, bo Chiny, bo tamto, siamto i tak dalej, i tak dalej. Także ten cały ten, jeżeli popatrzymy szeroko, holistycznie na to, co tu się dzieje, jakie ustawy wchodzą właśnie w Europie, co próbuje się, co proponuje się w Stanach Zjednoczonych, cały problem zaczyna być bardzo, bardzo ciekawy. Dobrze, wiesz co, docenujesz kilku, kilku rzeczy, ale to po kolei. Znaczy najpierw trochę na a moim humorystycznym tonie, bo może dla was to nie jest nie będzie zabawne, nie? Ale tak, pierwsze stany mają kill switch, nazywa się bomba atomowa, nie? I my jak powiedziałeś, że AI ACT, to myślałem, że to jest AI act, żeby mieć kill switch na chińskie modele, a nie na swoje, nie? Po drugie yyy prawo tutaj będzie według mnie nie nadżać, yyy, bo nie będzie jeżeli, no i tutaj wchodzimy w to, jeżeli rząd nie będzie miał technicznych możliwości wymuszenia tego monitoringu i tak dalej, to to prawo nigdy nie będzie nadalżać.
Bo teraz zwróć taką uwagę, znaczy pomyśl taki scenariusz. Masz model AI, który potrafi takie rzeczy. Dzięki niemu zarabiasz kupę kasy. To jest dokładnie scenariusz tego human compatible, bo on tam to rozwija w to, że model dochodzi, że musi sam ufundować swoje data center, więc po prostu zaczyna hakować giełdy, nie? E no i co? I mówisz, ile tych milionów dolarów mam zapłacić? No to będę płacił codziennie te kilka milionów dolarów do czasu, aż wojsko nie wejdzie i mnie nie wyłączy. Ja wiem, że to jest taki całkiem, wiesz, odjechany ten tutaj wchodzimy w wiesz w temat. Hasabis trochę o tym to, co rozmawialiśmy też pisał, nie? Bo to wchodzimy teraz w tą rozmowę czy zastopować, przyhamować rozwój tego, nie? Yyy, ponieważ nie mamy narzędzi nad kontrolą do kontroli tego, nie? Nie zrobią tego, bo Chińczycy nie zrobią tego. Dokładnie. Nie, więc to jest, wiesz, prawo według mnie nie nadążyć za tym. To jest ten. Teraz odniosę się do jednej rzeczy, którą powiedziałeś, że nie ma postmortem.
Mogło się to zmienić. Zaczekaj, ale zaczekaj. Mogło się to zmienić, ale wątpię, żeby się zmieniło. Idź pogadaj ze swoimi bezpiecznikami. Ci ludzie w tych firmach ze sobą rozmawiają. Tam są back channele na wszystko. Oprócz tego są sformalizowane mechanizmy wymiany informacji security, o których nawet nie słyszysz. Te firmy między sobą się real time dzielą informacjami o incydentach, o tym co się dzieje. Wymieniają się IP. No nie tak real time, bo [odchrząknięcie] Huging Huging Face musiał zmusić Open AI do tego, żeby może huging face jest jeszcze za małe, nie? E, bo ja to co chcę próbuję ci powiedzieć, to jest to, że to nie jest tak, że ci wielcy gracze są totalnie irresponsible, jadą po bandzie i tak dalej. Czyli ludzie, którzy się zajmują security, oni pod spodą ze sobą rozmawiają i tam jest model wymiany informacji o tym, co się dzieje. Więc nawet jeżeli coś nie będzie z takiego incydentu opublikowane formalnie, to oni między sobą się wymienią, nie? To jest taki, ale jak mówimy o tym, że to nie ma znaczenia. A jak mówimy o tym, czy tam jest postmortem, czy nie ma postmortem, to tak jesteśmy rozkrokiem w tym starej rzeczywistości, kiedy ogarnięali to ludzie i w tej nowej, kiedy jest to zbyt szybkie dla ludzi. Załóżmy, że w tym momencie mamy zbyt szybko hakuje i załóżmy, że to nie jest wystarczająco ludzie nie są wystarczająco szybcy, żeby sobie radzić z tym hakowaniem. Za chwilę
counter hacking, czyli preventing, czyli blue teaming też będzie równie szybki. Więc po prostu cały cykl tej walki będzie na tyle szybki, że nie będziemy za tym nadążać. Co? Potem będzie publikowanie tego ręcznie jakiegoś posmortem, żeby ktoś to czytał i reagował. Nie, znowu to też będzie automatyczne, ale właśnie było stąd było moje skojarzenie z HFT, nie? Bo HFT wywołują krashe i my nie kontrolujemy tych kraszy, tylko zastanawiamy się potem, dlaczego on się wydarzył, nie? Tak, dokładnie. Tak, po prostu nagle przechodzimy w tryb hiperprędkości i ten w tym trybie hyperprędkości wszystkie aktywności w tym całym lupie będą już na tej hyperprędkości. Więc moim zdaniem, jeżeli się nie uda globalnie tego zabić, a nie uda się tego globalnie zabić, bo Chińczycy trzeba by się naprawdę było z nimi jakby dogadać, nie? Nie, w ogóle nikt by nikomu nie zaufał, że że tam pod spodem nic się nie dzieje. Dark Forest. Tak, z tego po prostu trzeba się do tego przyzwyczaić. Na początku będą perturbacje, jak zwykle będą wychodziły takie historie. One będą budziły coraz mniejszy szok. [śmiech] yyy te vulnerabilities, które są, czyli takie legacy naszych vulnerabilities, które jest, ono po prostu zostanie załatane gdzieś w jakimś okresie czasu.
And that's it. Tutaj wiele się pewnie, czyli innymi słowy, wiecie, to jest jeszcze wrócę do tego, że innymi słowy do tego co powiedziałeś bardzo ciekawe jest to, że jest asymetria też przy wykorzystaniu nawet tych samych narzędzi, tak? Czyli, że innymi słowy napastnicy mieli dużo lepszy, znaczy mieli ten sam model, ale bez Gardily, a obrońcy mieli te Garle i nie mogli się bronić. Ale to Wojtek to jest nic nowego pod słońcem, jak to mówią, bo to jest dokładnie to, co istnieje w tej chwili w standardowym cyber security, nie? I ta asymetria zawsze była, dlatego że atakujący cię, ta asymetria jest o wiele prostsza, nie? że generalnie wiesz, ty masz masz powierzchnię ataku, którą musisz bronić, która ma 1000 punktów, a oni muszą znaleźć jeden niebroniony, nie? I to jest po prostu to jest największa rzecz, że oni muszą znaleźć jednego użytkownika, który kliknie w link, a ty musisz ich chronić 100 000, nie? Więc generalnie ta asymetria zawsze była. Jedyna różnica to jest ta szybkość, nie? Czyli generalnie i właśnie wczoraj ja się w ogóle zdziwiłem, bo ja teraz trochę już nie siedzę o dziwo w świecie Microsoftu, nie? Tam Satia wczoraj ogłosił nowy model do lokalnego sprawdzenia
vulnerabilities i tak dalej i się okazało, że oni mają hardness w ogóle, ja nie wiedziałem, nie nie widziałem tego wcześniej, że oni mają hardness dedykowany pod ludzi security, nie? I to jest dokładnie to, że wiesz, że na końcu ludzie o security przestaną śledzić bezpośrednio te incydenty, będą patrzeć na ich efekt, decydować potem co robić. Nie, to jest, a nie wiem czy widzieliście, bo to już nie będziemy o tym mówić, bo już zawijamy, ale Satia też opublikował dosyć ciekawy papier The Reverse Information Paradox, gdzie otwarcie nawołuje do tego modelu, który Tim Burners Lee yyy swego czasu mocno ewangelizował, czyli model, w którym oddzielamy yyy funkcjonalność usługi od danych, czyli właśnie, żeby nie dzielić się danymi, żeby zachować tą pełną suwerenność nad danymi. To jest też ciekawe. Weźmy sobie na następny. Ten nie spodziewałem się tak do końca z tego kierunku takiego takiego komunikatu, ale powiem ci, że wcale mnie to nie dziwi. Prawdopodobnie ma już produkt [muzyka] pod to i buduje sobie jakieś selling point. Znaczy produkt ma na pewno, ale jak już skręciliśmy tylko na chwilę, popatrz, że to broni jego market, jego rynek enterprise. To jest wiadomość dla jego klientów, że nie możesz oddać wszystkiego lmom, bo on nie jest setia nie jest wiodący w lm nie jest już nie będzie
nie jest. Ja tylko jeszcze do tego tematu, o którym rozmawialiśmy. Ta symetria będzie postępować według mnie i trochę byłem szczerze zdziwiony. Dla kolegów pozdrawiam, bo oni będą wiedzieć z którymi rozmawiałem, że tak łatwo zrzucili to jako marketing. Według mnie to nie jest marketing już w tej chwili i wczoraj wpadłem na wpis, który wam nawet podesłałem. Michała Sajdaka z Securaka. Pozdrawiamy. Zawsze przyjmiemy sponsoring od Securaka, jeżeli wolny budżet. Nie, ale on jest dość ciekawy, bo on tam podrzucił po prostu case człowieka, który kupił sobie subskrypcję Sola GPT Max, nie? I postanowił przetestować i się okazało, że znalazł w korze WordPressa vulnerabilities i znalazł takie WordPressowe vulnerabilities, nie? I w background wpadł, nie? On po prostu sobie nie w ogóle nie wpadł. E, ale co było ciekawe, bo on znalazł vulnerability na WordPressa, takie SQL injection, wszedł do WordPressa i po prostu napisał to bardzo ciekawie, bo napisał i wtedy zadałem sobie pytanie, czy da się przejść do SA. Wrzuciłem to w sola i powiedziałem: "Znajdź sposób, żeby zrobić z tego RC, czyli przejście do systemu operacyjnego". Ctery godziny później miałem i facet znalazł w core WordPressa, który jest wiesz codebase od lat sposób na RC.
No to ostatnio chyba było, że znaleźli chyba w Redisie, który ma mały Coase. Oni chyba znaleźli osiem takich. Ale wiesz, [odchrząknięcie] teraz to jest to jest na dostępne dla każdego to co oni mają bez harnessów, bez ograniczeń i tak dalej. Ciekawy temat to będzie przyspieszać. Ciekawe i tym optymistycznym akcentem nie? A jakbyście mieli strzelić jeszze? Ja dodam jeszcze nie wiemy co mają Chińczycy. O mają si BYD. E, a jaka inna branża będzie, albo część naszej pracy będzie korzystać, albo zagrożona przez takie przyspieszenie? genetyka, medycyna, tutaj mieszanie tak naprawdę w tej biologicznej substancji, jak tam to nagle odpali, jak nagle tam zacznie się eksperymentowanie, cykl życia eksperymentu się skróci, to z jednej strony transhumanizm stanie się możliwy, z drugiej strony konsekwencje tego typu eksperymentów, których nie będziemy w stanie wykryć od początku mogą być nieprzewidywalne.
To ciekawe, bo mam dokładnie tu listę dzisiaj jedną związaną z tym, bo znam ludzi, którzy twierdzą tak samo, więc transhumanizmu nie miałem na liście tematów na dzisiaj. [śmiech] No więc dobrze, tym optymistycznym akcentem zawiniemy. Wakacje mają swoje prawa. Wojtek widzę, że tam odgania się od komarów wokół kampera. Widzimy się za czas jakiś. Bardzo było miło porozmawiać po jakimś czasie. Ja tylko powiem, [muzyka] że dla naszych słuchaczy ten, że ja mam duży ekran i lista wszystkich tematów zajmowała mi całą wysokość [muzyka] ekranu, więc coś tam jeszcze zostało na następny odcinku. Będzie o czym rozmawiać. Możej coś ciekawego. Zawsze rozmowa. Trzymajcie się. Do usłyszenia. Cześć. Hej.
