Rządy sztucznej inteligencji

2020.03.23

Fundacja Republikańska

Sztuczna inteligencja to decydujące pole bitwy między USA a Chinami.

Pierwsza połowa XXI w. to okres, który przejdzie do historii jako zasadniczy przełom w rozwoju ludzkości. Po rewolucji rolniczej, przemysłowej i informatycznej nadchodzi nowa rewolucja – sztucznej inteligencji (SI). Będzie się różnić od poprzednich tym, że człowiek przekaże część swojej władzy stworzonym przez siebie przedmiotom, które na ostatecznym etapie rozwoju będą podejmowały prawdopodobnie decyzje raczej samodzielnie niż z udziałem człowieka. Zanim jednak dojdziemy do tak zaawansowanego etapu rozwoju sztucznej inteligencji, nasz świat zmieni się w trudny do wyobrażenia sposób. Jedną z konsekwencji tych przemian będzie stale nasilający się proces, w którym coraz mniejsza liczba osób będzie dominowała nad coraz większą. W bardzo prosty sposób wyjaśnił to prezydent Rosji Władimir Putin: „Ten, kto zostanie liderem w dziedzinie sztucznej inteligencji, będzie rządził światem”. Ta wypowiedź, często komentowana przez światowe media, jest powszechnie znana graczom światowej sceny politycznej i gospodarczej. Najwięksi, USA i Chiny, doceniając ogromne znaczenie SI, rozpoczęli bezwzględną walkę o dominację na tym polu.

Co przyniesie AI?

Pojęcie sztucznej inteligencji (ang. artificial intelligence – AI) sformułował amerykański uczony John McCarthy w 1956 r., ale dopiero pół wieku później rozpoczął się jej gwałtowny rozwój. SI jest w założeniu inteligencją tworzoną nie przez naturalny rozwój, ale przez naukowców i inżynierów. Naśladuje ludzką inteligencję. Potocznie kojarzy się z programami komputerowymi i maszynami posiadającymi pewne funkcje ludzkiego umysłu i umiejącymi reagować na zmieniającą się sytuację poprzez proces ciągłego samouczenia się. Niektórzy obawiają się, że stały proces rozwoju SI doprowadzi do tego, iż sama zacznie ewoluować z pozycji najdoskonalszego narzędzia, które kiedykolwiek wynalazł człowiek, i stanie się samodzielnym bytem. To niekoniecznie musi być tylko fantazja rodem z „Terminatora” lub „Matriksa”. „Inżynierowie genetyczni i nanotechnolodzy z Cornell University pracują nad konstrukcją robotów, które będą się same składać, rosnąć, a w końcu umierać” – czytamy na łamach prasy1. W najważniejszych obszarach SI już widać pierwsze zmiany dotyczące naszego życia. W technologii rozpoznawania i przetwarzania obrazów Chińczycy i Anglicy testują system rozpoznawania twarzy przez uliczne kamery i specjalne okulary noszone przez policję. W technologii przetwarzania języka już w tej chwili oferowane są przenośne translatory natychmiastowego dwukierunkowego tłumaczenia umożliwiające porozumiewanie się w kilkudziesięciu językach świata. Zawód tłumacza staje się jednym z najbardziej zagrożonych. Wirtualni asystenci, czyli urządzenia, które m.in. odpowiadają na nasze pytania, to kolejny ważny obszar SI, choć znajdujący się jeszcze na podstawowym poziomie. Niemniej Siri firmy Apple, Cortana firmy Microsoft, Alexa firmy Amazon i Google Assistant ciągle rozwijają swoje zdolności. Autonomiczne roboty z kolei potrafią już tworzyć piosenki, pisać scenariusze filmowe i opowiadania. Autonomiczny hotel, w którym nie ma żadnej obsługi, to też już rzeczywistość. To samo czeka sklepy i restauracje. Według raportu IBM sztuczna inteligencja pozbawi pracy 120 mln ludzi w ciągu trzech najbliższych lat. Odsunie też w końcu ludzi od prowadzenia aut – powodem 90 proc. wypadków samochodowych są błędy człowieka. Szybkość rozwoju sztucznej inteligencji zależy od tempa uczenia maszynowego. To ostatnie jest zdolnością doskonalenia się maszyn na podstawie coraz większej ilości danych. Przewiduje się, że taki rozwój będzie się odbywać w postępie geometrycznym lub nawet szybciej.

W pewnym momencie szybkość odkryć i ich poziom staną się niemożliwe do pojęcia przez ludzi, w związku z czym będą zmuszeni do wszczepienia sobie implantów do mózgu, żeby nie tylko nie stracić kontroli nad SI, lecz także móc egzystować w tworzonym przez nią świecie. W ten sposób zbliżamy się do ery transhumanizmu. Ludzie z superinteligentnymi umysłami będą mieli ogromną intelektualną przewagę nad normalnymi ludźmi. Ocenia się, że różnica w potencjale intelektualnym może być taka jak obecnie między człowiekiem a zwierzęciem. Ci pierwsi będą dyktowali warunki tym drugim. To odległa przyszłość, ale o to ostatecznie toczy się rywalizacja między mocarstwami.

Stan posiadania USA i Chin

Badania nad SI i jej zastosowaniem prowadzi większość rozwiniętych państw, ale ze względu na ogromne koszty liczą się przede wszystkim USA i Chiny. O różnicy między nimi świadczy różnica nakładów na ten cel. Prezydent Emmanuel Macron zapowiedział, że Francja zamierza do 2020 r. zainwestować 1,5 mld euro. W Chinach tylko Huawei przeznacza na rozwój SI 20 mld dol. rocznie. Mimo to Państwo Środka ustępuje USA nie tylko potencjałem, lecz także stopniem rozwoju SI.

Największym problemem Chin jest ogromna przewaga Amerykanów pod względem liczby osób pracujących w sektorze SI. Obecnie szacuje się, że w USA to 850 tys. osób, a w Chinach nie więcej niż 100 tys. To stawia pod znakiem zapytania chińskie plany dominacji. W dodatku amerykańscy specjaliści mają większe doświadczenie. Połowa z nich pracuje w tej branży ponad 10 lat. Z tego powodu chińskie firmy technologiczne tworzą swoje ośrodki badawcze poza Chinami, m.in. w Dolinie Krzemowej, lub usilnie starają się zwerbować zagranicznych specjalistów, w tym tych najwyższej klasy. Przykładem jest urodzony w Londynie specjalista od nauczania maszynowego Andrew Ng, który magisterium i doktorat uzyskał odpowiednio w MIT (Massachusetts Institute of Technology) i UC Berkeley. To profesor na Uniwersytecie Stanforda i szef laboratorium SI, współzałożyciel i szef Google Brain, który potem pracował dla Baidu, największej chińskiej wyszukiwarki internetowej. Inną kluczową postacią jest Kai-Fu Lee, pochodzący z Tajwanu, wykształcony na najlepszych amerykańskich uczelniach szef Microsoft Research Asia i Google China, a potem założyciel i szef firmy Sinovation Ventures oraz Instytutu SI. Lee jest autorem bestsellera pt. „AI Superpowers: China, Silicon Valley, and the New World”. Warto dodać, że obaj naukowcy byli w 2013 r. wybrani do setki najbardziej wpływowych ludzi świata przez magazyn „Time”.

Ogólna liczba firm zajmujących się sztuczną inteligencją wynosi 3 tys. w USA i ponad 700 w Chinach. Podobne proporcje są w liczbie start-upów. W ubiegłym roku w USA było ich 1393, a w Chinach 383. Warto zauważyć, że trzecie miejsce zajął mały Izrael, mający 362 start-upy. Chiny natomiast mają przewagę w bardzo ważnym sektorze. Znacznie zwiększają stan posiadania danych (Big Data), a ich ilość w ostatecznym rozrachunku będzie decydowała o szybkości maszynowego uczenia, czyli de facto o szybkości rozwoju SI. Chiny do niedawna tworzyły 13 proc. wszystkich danych cyfrowych na świecie, a do 2020 r. ten udział sięgnie 20–25 proc. Wspomniany Kai-Fu Lee na tej podstawie formułuje tezę, że to Chiny, a nie USA, zostaną globalnym liderem SI.

Finansowanie start-upów to kolejny element, w którym Chiny co najmniej dogoniły, a być może przegoniły Zachód. Ocenia się, że w 2017 r. start-upy zajmujące się AI otrzymały na całym świecie sumę 12,5 mld dol., z czego prawie połowę chińskie (48 proc.), wykazując przewagę nad amerykańskimi (38 proc.).

Zmierzch amerykańskiej przewagi edukacyjnej

Amerykanie nadal mają przewagę edukacyjną nad Chińczykami, ale w edukacji zachodzą procesy, które zwiastują zmierzch tej przewagi. Amerykańskie uczelnie techniczne: MIT i California Institute of Technology to ciągle najlepsze techniczne uczelnie świata, ale Chińczycy systematycznie poprawiają swoją pozycję w edukacji, dziedzinie, która wciąż jest zaliczana do najsilniejszej broni Ameryki. W Państwie Smoka przyjęto bardzo pragmatyczną  strategię edukacji. Najlepsi uczniowie są wysyłani na studia techniczne, średnio zdolni na studia ekonomiczne i zarządzanie, słabsi na studia  humanistyczne. Pekin doskonale zdaje sobie sprawę, że o przyszłości zadecydują inżynierowie, a nie prawnicy czy historycy. Obecnie 30 proc. absolwentów wyższych uczelni w Chinach to inżynierowie.

Taki system jest oczywiście możliwy w kraju, w którym władza w pełni kontroluje społeczeństwo. W USA jest zupełna swoboda wyboru studiów, dlatego tylko 7 proc. absolwentów uczelni wyższych to inżynierowie. Studia techniczne są o wiele trudniejsze niż humanistyczne, toteż nie są priorytetowe dla młodych Amerykanów. Skutkiem tego w Ameryce zaczyna brakować inżynierów. Amerykanie mają przewagę jakościową i ilościową na najwyższym poziomie kadry naukowej m.in. dzięki drenażowi mózgów – przyciągają zagranicznych specjalistów, oferując im prestiżową pracę i najlepsze warunki płacy i rozwoju. Ta przewaga jednak staje się coraz bardziej problematyczna.

Chińczycy, którzy wszystko planują na kilka dekad naprzód, od dawna zaczęli wysyłać dziesiątki  tysięcy młodych ludzi na studia zagraniczne do krajów Zachodu, zakładając nawet, że część z nich nie wróci. Większość z nich wróciła, a część założyła własne firmy w Chinach. Pewna liczba chińskich studentów została na Zachodzie, jednak i oni po jakimś czasie wracają, przywożąc doświadczenie pracy w zachodnich firmach technologicznych oraz know-how. Zmiany w tej dziedzinie nie ominęły świata uniwersyteckiego. Od czasu kiedy jeden z pekińskich uniwersytetów w 2004 r. otworzył kierunek studiów SI, dokonano znacznego postępu. Obecnie aż w 35 chińskich uczelniach są czteroletnie studia magisterskie SI.

Cel i strategia Chin

Celem Chin jest osiągnięcie statusu globalnego lidera SI. Cel jest realny, ponieważ już w tej chwili w niektórych obszarach, np. w przetwarzaniu obrazu czy w telefonii komórkowej 5G, wyprzedziły one swoich konkurentów. Co więcej, dysponuje wieloma aktywami, które faktycznie mogą je przybliżyć do zrealizowania tego zamierzenia. Chińska strategia zakłada osiągnięcie dominacji w 2030 r. W Chinach, w odróżnieniu od USA, SI nie jest sprawą zainteresowania przede wszystkim elit, ale niemal całego społeczeństwa. W 2016 r. aż 280 mln Chińczyków obserwowało w Internecie pojedynek programu AlphaGo z wielokrotnym mistrzem świata w grę go Koreańczykiem Lee Sedolem. Maszyna wygrała 4:1. Rok później maszyna wygrała 3:0 także z chińskim mistrzem Ke Jie, będącym zawodnikiem numer jeden na świecie. Ten pojedynek wzbudził jeszcze większe zainteresowanie.

W tym samym 2017 r., dwa miesiące po klęsce Ke Jie, chiński rząd przyjął strategię rozwoju sztucznej inteligencji, której celem jest zdominowanie świata. Zdefiniowano w niej SI jako strategiczną technologię o generalnym znaczeniu dla państwa i społeczeństwa, która wpływa nie tylko na rozwój całej gospodarki, lecz także na bezpieczeństwo. Ma przyczynić się do zdecydowanego rozwoju Chin, w tym także do podniesienia standardu życia obywateli, oraz ograniczyć ryzyko związane z nierównomiernym rozwojem społecznym. Strategia ma charakter konfrontacyjny. Traktuje SI jako pole rywalizacji między państwami. W strategii dość szczegółowo określono poszczególne etapy rozwoju i zdobywania przewagi konkurencyjnej. Chiński plan rozwoju SI jest bardzo ambitny. Do 2020 r. kraj ten chce dorównać poziomowi liderów w badaniach nad rozwojem SI. Rynek SI w Chinach powinien osiągnąć szacunkową wartość 23 mld dol. W 2025 r. Chiny mają stać się głównym ośrodkiem badań nad SI, który dokona rewolucyjnych odkryć, a sama SI ma stać się motorem chińskiej gospodarki. Wartość rynku sztucznej inteligencji ma wtedy wynosić ponad 60 mld dol. W 2030 r. Chiny mają zaś być światowym liderem nie tylko w działalności badawczo-rozwojowej, lecz także w zastosowaniu SI w gospodarce i życiu społecznym. Rynek SI ma mieć wartość 150 mld dol. Warto zauważyć  charakterystyczną cechę chińskiej rywalizacji z Zachodem. W Państwie Środka bardzo często podejmuje się ją na terra incognito lub tam, gdzie jeszcze nie ma dominacji Zachodu, ale gdzie – jak się uważa – mogą znaleźć się „bramy przyszłości”, czyli obszary decydujące o rozwoju SI. Z tego względu Chiny np. bardzo inwestują w informatykę kwantową, przeznaczając na te badania ogromne pieniądze. Głównym obszarem badań w Chinach są jednak: przetwarzanie obrazu, medycyna i robotyka. Chiny w tej ostatniej dziedzinie odniosły zauważalne sukcesy. Inną cechą chińskiej  strategii jest przejmowanie. Chińczycy kupili w Europie wiele firm z dziedziny robotyki, w tym największego europejskiego producenta robotów przemysłowych niemiecką firmę Kuke oraz inną znaną firmę KraussMaffei.

Entuzjazm dla SI, który ogarnął Chińczyków, przełożył się na zaangażowanie biznesu. Działalność w tym zakresie prowadzą nie tylko technologiczne giganty: Baidu, Alibaba i Tencent, którym państwo wyznaczyło pierwszorzędną rolę w rozwoju SI, lecz także wiele mniejszych firm. Problemem jest oczywiście – co przyznaje się w strategii rozwoju SI – zapóźnienie technologiczne i brak  wystarczających kadr, ale Chińczycy bardzo szybko się uczą, o czym świadczy choćby historia Huawei, dziś światowego wicelidera w sprzedaży telefonów komórkowych, albo SenseTime z Hongkongu, uznanego za najbardziej wartościowy start-up na świecie. Firmy te mają własne centra badawcze pracujące nad SI, a także tworzą specjalistyczne start-upy. Chińscy giganci utworzyli też ośrodki badawcze nad rozwojem SI zarówno w chińskiej dolinie krzemowej, za którą uważane jest miasto Shenzen, gdzie znajdują się siedziby 3 tys. chińskich firm technologicznych, jak i – co może szokować – w USA. Swoje kompleksy naukowo-badawcze mają tam Baidu, Tencent i Alibaba. Pracuje się tam nad sztuczną inteligencją, uczeniem maszynowym, obliczeniami kwantowymi i przetwarzaniem języka naturalnego. Jak pisze Sun Zi, autor „Sztuki wojennej”: „Dlatego mądry wódz stara się wyżywić swe wojska na koszt wroga, bo jeden korzec żywności zdobyty na wrogu jest wart dwudziestu korców z kraju”. Można powiedzieć, że w tym przypadku Chińczycy żywią się amerykańską wiedzą i zdolnościami amerykańskich naukowców. „Zwycięży ten, kto roztropny i wyczekuje, kiedy wróg okaże się nieroztropny” – dodaje genialny chiński strateg2.

Cel i strategia USA

Amerykańska strategia rozwoju sztucznej inteligencji różni się od chińskiej tym, że zawiera ogólne wskazania i nadaje instytucjom federalnym jedynie obowiązek traktowania priorytetowo badań i inwestycji. Celem jest utrzymanie obecnej przewagi technologicznej oraz, podobnie jak w chińskiej strategii, osiągnięcie dominacji. W USA rozwojem SI zajmuje się sektor prywatny. Administracja prezydenta Donalda Trumpa uznała, że najlepszą taktyką jest nie przeszkadzać rozwojowi SI, co mogłoby nastąpić, gdyby zaczęto produkować przepisy prawne. Uważa się, że wolny rynek sam z siebie kreuje technologiczne innowacje. W końcu jednak, po alarmistycznych raportach wywiadu i innych instytucji o traceniu przewagi konkurencyjnej, uznano potrzebę istnienia jakichś form organizacyjnych i powołano Specjalną Komisję ds. Sztucznej Inteligencji w podlegającym prezydentowi Biurze Nauki i Technologii. To wynik spotkania w Białym Domu z udziałem liderów amerykańskich firm technologicznych w maju 2018 r. Chińskie wyzwanie zmobilizowało amerykańskich gigantów do współpracy. Najbardziej znane firmy technologiczne (Amazon, Apple, DeepMind, Google, Facebook, IBM oraz Microsoft) utworzyły partnerstwo na rzecz SI. Najważniejszym jednak aktem jest podpisanie przez prezydenta Trumpa rozporządzenia wykonawczego (American AI Initiative) z 11 lutego 2019 r. Nadaje ono inwestycjom z zakresu SI rangę priorytetu dla administracji federalnej, szczególnie z zakresu opieki zdrowotnej i edukacji oraz tworzenia standardów technicznych dla SI. Podkreśla, że amerykańskie przodownictwo w sztucznej inteligencji ma ogromne znaczenie dla utrzymania bezpieczeństwa gospodarczego i narodowego Stanów Zjednoczonych.

Pole bitwy – telefonia komórkowa 5G

Symbolem bezwzględnej rywalizacji między USA a Chinami stała się telefonia komórkowa, a konkretnie technologia 5G, będąca prawdziwym przełomem w tej dziedzinie. Jej zastosowanie ogromnie przyśpieszy rozwój wielu dziedzin życia poprzez zrewolucjonizowanie procesów produkcyjnych i komunikacji nie tylko pomiędzy ludźmi, lecz także między maszynami (M2M). Teoretycznie daje możliwość jednoczesnego łączenia się nawet 1 mln urządzeń. Prezydenckie Biuro Nauki i Technologii z okazji podpisania przez prezydenta Trumpa rozporządzenia wykonawczego o SI podkreśliło, że „wraz ze wzrostem tempa innowacji AI na całym świecie nie możemy bezczynnie siedzieć i zakładać, że nasze przywództwo jest zagwarantowane”.

W sprawie 5G Amerykanie właśnie dokładnie tak się zachowali. Nie ulega wątpliwości, że zostali zaskoczeni wprowadzeniem przez Chiny nowoczesnej technologii 5G w sieciach telefonii komórkowej. Nie mając obecnie nic odpowiedniego do zaoferowania światu, postanowili przyjąć strategię powstrzymywania przeciwnika, niszcząc lidera technologii 5G, czyli firmę Huawei. Najpierw zmusili ją do odwrotu z rynku amerykańskiego m.in. przez zakaz używania telefonów tej firmy przez urzędników państwowych w USA i oskarżenie o szpiegowskie praktyki, a następnie zaczęli wywierać naciski na inne państwa, które zamierzały budować infrastrukturę 5G na podstawie chińskich projektów, żeby zrezygnowały ze współpracy z Chińczykami. Huawei ma swoje centrum badawcze Futurewei w Kalifornii, ale w związku z sankcjami nałożonymi na tę firmę przez rząd USA będzie musiało je zamknąć i zwolnić 600 pracowników. Huawei to nie tylko drugi pod względem sprzedaży producent telefonów komórkowych w świecie, lecz także globalny lider produktów do budowy sieci 5G. Zadaniem firmy jest zdobywać rynki dla chińskiej technologii i kłaść fundamenty pod łańcuch dostaw alternatywny dla zachodniego. To jest główna przyczyna akcji przeciw chińskiemu gigantowi, który po wypchnięciu z USA straci rynek warty setki miliardów dolarów oraz kopalnie danych, tak potrzebnych do rozwoju SI. Walka o 5G odbywa się nie tylko na polu technologicznym, lecz także prawnym, nie mniej ważnym. Ta gra ma na celu narzucenie swojego standardu innym. Z tego powodu Huawei bardzo zabiega o zwiększenie swoich wpływów w ITU (International Telecommunication Union) i 3GPP (3rd Generation Partnership Project), organizacjach opracowujących normy standaryzacji technologicznych w sieciach komórkowych oraz w urządzeniach z nimi współpracujących.

O tym, jak dalece USA są zdeterminowane, żeby nie dopuścić do narzucenia światu chińskich norm technologicznych, świadczy wypowiedź Steve’a Bannona, byłego członka Rady Bezpieczeństwa Narodowego USA, dla „South China Morning Post”. Oświadczył, że zniszczenie Huawei jest 10 razy ważniejsze niż wojna handlowa: „Huawei jest poważnym zagrożeniem dla bezpieczeństwa narodowego, nie tylko dla USA, lecz także dla reszty świata. Zamierzamy go zamknąć”3.

Co oprócz tego zrobią Amerykanie? Nie wiadomo. Pracują nad własnym systemem 5G, ale są w trudnej sytuacji. Technologicznie ich system nie jest progresywny w stosunku do 5G Huawei. Na razie najbardziej praktycznym rozwiązaniem dla USA jest 5G budowane przez Ericssona i Nokię, które korzystają z technologii Intela. To nie jest najlepsze rozwiązanie z punktu widzenia interesów USA, ale zdecydowanie lepsze niż 5G Huawei. Amerykanie mogą zrobić jeszcze to, co uczynili swego czasu Chińczycy, kiedy przegrali wyścig o 3G z Japończykami i Koreańczykami. Nie skupili się na 4G, które było rozszerzeniem 3G, ale wymyślili całkowicie nową technologię w postaci 5G. Amerykanie powinni się już skupić na pracy nad 6G.

W kierunku wojny

Nie ulega wątpliwości, że walka między USA a Chinami o dominację na świecie weszła w nową fazę, która może być kolejnym krokiem w kierunku prawdziwej wojny. Obie strony nie żałują środków na badania i szokują świat coraz bardziej zaawansowanymi technologiami oraz wynalazkami. Chińczycy są bardzo zaawansowani w pracach nad technologiami kwantowymi, które umożliwiają kodowanie informacji w wiązce światła, a więc są niemożliwe do przejęcia. Amerykanie z kolei w tej dziedzinie odnieśli ostatnio wielki sukces. Zbudowali urządzenie, które potrafi zatrzymywać falę mechaniczną bez strat energii. To ogromnie przyspieszy budowę komputerów kwantowych. Chińczycy mogą się też pochwalić nowym superprocesorem Acend 910 AI i platformą obliczeniową MindSpore.

Nikt nie ma takich narzędzi sztucznej inteligencji. Ten procesor ma wydajność 256 bln operacji zmiennoprzecinkowych na sekundę, a przy liczbach całkowitych wydajność jest dwa razy większa.

Sztuczna inteligencja decyduje też o potencjale militarnym. Amerykanie nadal mają znaczną przewagę w lotnictwie. Ich drony potrafią współpracować z samolotami F-35. Pod tym względem Chińczycy są daleko za nimi, ale za to mają broń hipersoniczną, czyli pociski latające kilkakrotnie szybciej niż obecne rakiety i praktycznie niewykrywalne dla radarów. Amerykanie przyznają, że w tej dziedzinie topnieje ich przewaga nad Chińczykami. Czy będą czekać, aż ją utracą bezpowrotnie?

O autorze: Wojciech Tomaszewski, prawnik i historyk. Przez 25 lat pracował w biznesie międzynarodowym oraz prowadził firmę doradztwa prawnego. Publicysta zajmujący się geopolityką, opisujący zmiany w Azji Wschodniej (głównie w Chinach) i w przestrzeni postsowieckiej. Publikował m.in. w „Najwyższym Czasie”, „Newsweek Historia” i na portalach internetowych (przede wszystkim CSPA).

Artykuł pochodzi z 31 numeru pisma Rzeczy Wspólne.

Źródła:

[1] „Wiedza i Życie”, nr 6 (1014), czerwiec 2019, s. 12.

[2] Sun Zi, „Sztuka wojenna”, Vis-a-Vis Etiuda, Kraków 2003, s. 32 i s. 42.

[3] Zerohedge – 22.05.2019 (dostęp 11.09.2019).

Ostatnie Wpisy

Nowy Horyzont Rozwoju

2024.12.16

Fundacja Republikańska

To właściwy moment

2024.12.16

Fundacja Republikańska

Nowy Horyzont Rozwoju. Co to i po co?

2024.12.16

Fundacja Republikańska

WSPIERAM FUNDACJĘ

Dołącz do dyskusji