• ONZ prowadzi w Genewie pierwszy "globalny dialog" na temat zarządzania sztuczną inteligencją. Sekretarz generalny António Guterres ostrzegł, że AI jest wdrażana szybciej, niż społeczeństwa i państwa są w stanie ją kontrolować.
• Raport ONZ wskazuje główne ryzyka związane z niekontrolowanym rozwojem AI, w tym: koncentrację technologii w rękach nielicznych graczy, masową manipulację informacją, zagrożenia dla dzieci oraz wykorzystanie AI przez państwa i służby.
• António Guterres proponuje stworzenie Globalnego Funduszu AI, w celu budowania umiejętności, zasobów danych i przystępnych cenowo mocy obliczeniowych. Brak własnej infrastruktury AI może bowiem oznaczać dla państw utratę kontroli nad standardami, bezpieczeństwem i suwerennością technologiczną.
• - Możemy być ostatnim pokoleniem będącym w stanie określić warunki współistnienia ludzkości i maszyn. Drzwi są wciąż otwarte, ale nie pozostaną otwarte długo – ocenił António Guterres.

- Na naszych społeczeństwach, bez planu i bez naszej zgody, przeprowadzany jest eksperyment – powiedział António Guterres, sekretarz generalny ONZ podczas otwarcia pierwszego Globalnego Dialogu ONZ na temat zarządzania sztuczną inteligencją, który od poniedziałku 6 lipca odbywa się w Genewie.

António Guterres podkreślił, że prawdziwe są zarówno ryzyka związane z AI, jak i jej potencjał zmieniania życia na lepsze. - Technologia, która może przekształcić gospodarkę, świat pracy, wpłynąć na wybory i zachwiać równowagą bezpieczeństwa, jest wdrażana szybciej, niż ktokolwiek – w tym osoby ją tworzące – jest w stanie nadążyć. To jest niedopuszczalne – zaznaczył.

Jak stwierdził, świat stoi dziś przed wyborem: albo ujmiemy sztuczną inteligencję w karby i będziemy nią kierować – albo pójdziemy w dryf.

ONZ bierze AI pod lupę. Raport o szansach i ryzykach

Osią dyskusji toczonych w Genewie jest wstępny raport ONZ pt. "Ocena szans, zagrożeń i wpływu sztucznej inteligencji".

W obliczu rosnącej liczby dowodów na zwodnicze zachowania sztucznej inteligencji, nauka nie może obecnie zagwarantować, że wraz ze wzrostem możliwości, AI nie spowoduje katastrofalnych szkód, ani sama z siebie, ani z powodu działań złośliwych użytkowników – stwierdził Yoshua Bengio, współprzewodniczący Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. Sztucznej Inteligencji, który przygotował raport o wpływie AI na społeczeństwa.

Panel skupia 40 naukowców i ekspertów z całego świata, działających, jak podkreśla ONZ, "w imieniu własnym, niezależnie od jakiegokolwiek rządu, firmy czy instytucji". W tym gronie znalazł się Piotr Sankowski, dyrektor polskiego Instytutu Badawczego IDEAS.

Wnioski z raportu są omawiane podczas pierwszego Globalnego Dialogu ONZ na temat zarządzania sztuczną inteligencją (Global Dialogue on Artificial Intelligence Governance). Zgromadzenie Ogólne ONZ ustanowiło to wydarzenie jako otwartą platformę współpracy dla państw członkowskich oraz interesariuszy – m.in. przedstawicieli administracji publicznej, organizacji międzynarodowych, sektora prywatnego, środowiska naukowego, społeczeństwa obywatelskiego, ekspertów i praktyków.

Prawodawcy i rządzący nie nadążają za AI. "Mierzymy się z rozpędzonym pociągiem"

Autorzy raportu ONZ przyznają, że korzyści ze sztucznej inteligencji mogą być ogromne. Przykładem może być przyspieszenie prac nad nowymi lekami i szczepionkami, wczesne wykrywanie chorób czy badania naukowe.

Jednocześnie jednak szybkie, niekontrolowane wdrażanie AI na dużą skalę "wiąże się ze znacznym ryzykiem, w tym ze szkodami dla zdrowia psychicznego użytkowników, potencjalnym wykorzystaniem jako narzędzia destrukcyjnego, wpływem na systemy społeczne, gospodarcze i środowiskowe oraz wyzwaniami związanymi z kontrolowaniem technologii" – wyliczają eksperci panelu ONZ.

- W wystąpieniach pierwszego dnia najsilniej wybrzmiewała kwestia ryzyk związanych ze sztuczną inteligencją. Podkreślano, że te ryzyka już się realizują i że to najwyższy czas na przebudzenie się i działanie – relacjonuje Jakub Szymik, założyciel i prezes Fundacji Obserwatorium Demokracji Cyfrowej, uczestniczący w Globalnym Dialogu ONZ.

Autorzy raportu zwrócili uwagę, że prawodawcy i rządzący nie nadążają za rozwojem AI. - Rzeczywiście, mierzymy się z rozpędzonym pociągiem – przyznaje Jakub Szymik.

Z nakreślonych w dokumencie ONZ ryzyk najszerzej dyskutowano o czterech.

AI staje się narzędziem dominacji. Większość państw nie ma miejsca przy stole

- Przede wszystkim chodzi o koncentrację globalnego potencjału AI w rękach kilku firm i nielicznych krajów – wskazuje Jakub Szymik.

Raport podaje szacunki z 2025 roku, zgodnie z którymi na Stany Zjednoczone przypada 75 procent mocy obliczeniowej z 500 najlepszych superkomputerów AI na świecie, a na Chiny 15 proc. Reszta świata dysponuje pozostałymi 10 procentami. W tym samym roku organizacje z siedzibą w USA wyprodukowały 59 znaczących modeli AI, a w Chinach powstało ich 35.

To oznacza, że większość państw nie ma żadnego wpływu na tę technologię. Nie mają nawet możliwości sprawdzenia, jak działają modele AI, z których korzystają ich obywatele – mówi Jakub Szymik.

Co więcej, sztuczna inteligencja przestaje być traktowana wyłącznie jako produkt komercyjny, a zaczyna być postrzegana jako broń. Modele AI o najbardziej zaawansowanych możliwościach, w tym te z udokumentowanymi ofensywnymi zdolnościami cybernetycznymi (jak model Mythos), są traktowane jako aktywa bezpieczeństwa narodowego (w tym wypadku: USA). Zablokowanie innym państwom dostępu do nich czyni z AI narzędzie dominacji międzynarodowej.

Koncentracja możliwości technologicznych przekłada się na koncentrację władzy politycznej, co zagraża suwerenności większości narodów. Jak stwierdzono w raporcie ONZ, państwa, które nie posiadają własnej infrastruktury AI i polegają na zagranicznych modelach, ryzykują utratę kontroli nad standardami i bezpieczeństwem tej technologii. W efekcie stają się zależne od systemów, których nie mogą audytować ani w pełni dostosować do lokalnego kontekstu.

- Jako remedium zaproponowano stworzenie Globalnego Funduszu ds. AI, który będzie wspierał rozwój tej technologii. To szczególnie ważne dla krajów globalnego południa i narodów posługujących się mniej powszechnymi językami – zaznacza Jakub Szymik.

Globalny środek ciężkości AI znajduje się w USA – podkreślono w raporcie ONZ. Fot. Materiały prasowe / ONZ Precyzyjna manipulacja z użyciem AI może przechylić szalę wyborów

Jednym z obszarów analizowanych przez ekspertów ONZ są ryzyka, jakie AI stwarza dla integralności informacji i demokracji. Ta technologia zmienia bowiem sposób, w jaki społeczeństwa przetwarzają fakty. Użyta przez złych aktorów może mieć niszczycielski wpływ na procesy wyborcze i fundamenty demokracji.

Zagrożenie wielkoskalową manipulacją również bardzo mocno wybrzmiewało. Mówiono o tym, że AI może służyć do precyzyjnej manipulacji wyborcą, a w rezultacie wręcz przechylić szalę wyborów – stwierdza Jakub Szymik.

Raport wskazuje, że AI ułatwia masową produkcję treści perswazyjnych, w tym treści wprowadzających w błąd. Operacje informacyjne i dezinformacyjne można dziś prowadzić nieporównanie szybciej niż dekadę temu, a żadna demokracja nie zbudowała jeszcze skutecznych mechanizmów obronnych działających z taką prędkością.

Ponadto sztuczna inteligencja daje możliwość prowadzenia zindywidualizowanej perswazji w czasie rzeczywistym, która wykorzystuje słabości poznawcze i emocjonalne użytkowników. Badania eksperymentalne wykazały, że AI może znacząco zmieniać postawy wyborców. W jednym przypadku model zoptymalizowany pod kątem perswazji przesunął preferencje wyborców opozycji aż o 25 punktów procentowych.

W efekcie pojawiają się zjawiska niszczące debatę publiczną:

• erozja epistemiczna – tj. stopniowe osłabienie zdolności społeczeństwa do odróżniania prawdy od kłamstwa,
• dywidenda kłamcy – w zalewie deepfake’ów autentyczne dowody stają się łatwe do zakwestionowania, można się wykręcać, nazywając je dezinformacją,
• syntetyczny konsensus – masowe generowanie treści symulujących powszechne poparcie społeczne tam, gdzie ono w rzeczywistości nie istnieje.

Raport ONZ podkreśla, że bez oparcia w faktach i wspólnej rzeczywistości demokracja i prawa człowieka ulegają załamaniu, a obecne ramy regulacyjne są lepiej przygotowane do reagowania po fakcie, niż do zapobiegania szkodom.

- Panel ekspertów wskazał jednak także szanse związane z AI – dodaje Jakub Szymik. Zastosowanie tej technologii pomaga bowiem obniżyć próg dostępu do informacji. - AI może objaśniać skomplikowane tematy, ustawy czy procesy legislacyjne – mówi Jakub Szymik.

Cień AI nad urną wyborczą. Dobrowolne deklaracje firm nie wystarczą

Kwestii wpływu AI na wybory dotyczy również raport Fundacji Obserwatorium Demokracji Cyfrowej pt. "Droga do karty wyborczej" ("The Road to the Ballot"), opublikowany 6 lipca.

Stawia on tezę, że dotychczasowy mechanizm, oparty na dobrowolnych zobowiązaniach firm technologicznych do ochrony integralności wyborów - na czele z deklaracją z Monachium z 2024 roku - jest niewystarczający. Dowodzić tego ma powszechność incydentów związanych z AI: w 2024 roku miały one miejsce w 80 procent krajów przeprowadzających wybory ogólnokrajowe. Większość tych incydentów (69 procent) oceniono jako szkodliwe.

Zdaniem autorów opracowania, ochrona demokracji wymaga przejścia od działań reaktywnych do systemowych zabezpieczeń chroniących obywateli przed nadużyciami. Raport proponuje podejście skoncentrowane na obywatelu i jego tytułowej drodze do karty wyborczej.

Wyróżniono tu cztery etapy obecności AI:

• produkcja treści – obejmuje generowanie syntetycznych tekstów, dźwięków, obrazów i wideo, a także personalizowanie materiałów na potrzeby kampanii wyborczych; głównym zagrożeniem na tym etapie są fałszywe treści, które trudno odróżnić od autentycznych;
• interakcja – dotyczy wyszukiwarek, chatbotów i systemów rekomendacyjnych, które pośredniczą w dostępie do informacji o wyborach i mogą udzielać niedokładnych odpowiedzi;
• komunikacja – systemy rekomendacji i moderacji treści na platformach, które mogą wzmacniać zmanipulowane materiały lub prowadzić do fragmentacji sfery publicznej;
• świadome decydowanie - wykorzystanie AI do wpływu na udział w wyborach (perswazja, mobilizacja wyborców, podszywanie się pod kandydatów, mikrotargetowanie), co może zakłócić wolność wyboru.

Autorzy raportu proponują wprowadzenie standardów: jak obowiązkowe etykietowanie treści wytworzonych przez AI, audyty algorytmów rekomendacyjnych oraz zakaz generowania deepfake’ów podszywających się pod kandydatów.

Najbardziej narażone są dzieci

Wiele uwagi w raporcie ONZ i podczas rozmów w Genewie poświęcono ochronie dzieci. AI jest wykorzystywana do generowania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). - Pokrewne ryzyko to dzieci w kryzysie zdrowia psychicznego zwracające się do modeli AI po wsparcie – wskazuje Jakub Szymik.

Najmłodsi są najbardziej narażeni na skutki tendencji modeli AI do potakiwania i wzmacniania przekonań użytkowników (tj. sykofancji). Takie reakcje AI na zapytania zostały powiązane z kilkoma poważnymi incydentami związanymi ze zdrowiem psychicznym, w tym z udokumentowanymi zgonami.

Paneliści podkreślali ponadto ryzyko związane z wykorzystaniem AI przez rządy i służby państwowe, szczególnie przez policję oraz w konfliktach zbrojnych – relacjonuje Jakub Szymik.

Raport ONZ wskazuje m.in., że włączenie AI do infrastruktury nadzoru drastycznie zwiększa skalę monitorowania obywateli i ułatwia sprawowanie kontroli społecznej. 

Świat jest w krytycznym punkcie zwrotnym. Pora działać

Aby zminimalizować ryzyka i czerpać korzyści ze sztucznej inteligencji, trzeba nią dobrze zarządzać. Dlatego raport wzywa do międzynarodowej współpracy w tym zakresie.

- Raport ONZ jest dobrą podstawą do podjęcia działań dla państw członkowskich i organizacji, którym dotychczas brakowało konkretnych argumentów uzasadniających konieczność większej kontroli nad AI. Może dlatego o ryzykach związanych z tą technologią mówi się w Genewie głośniej niż o szansach – uważa Jakub Szymik.

António Guterres zapowiedział 6 lipca, że wkrótce przedstawi Zgromadzeniu Ogólnemu rekomendacje dotyczące Globalnego Funduszu na rzecz AI, mającego na celu budowanie umiejętności, zasobów danych i przystępnych cenowo mocy obliczeniowych.

Nie możemy pozwolić, by wykluczenie cyfrowe przerodziło się w wykluczenie w obszarze AI, a wykluczenie w obszarze AI stało się luką rozwojową, luką bezpieczeństwa i luką suwerenności – podkreślił w swoim przemówieniu sekretarz generalny ONZ.

Jak dodał, ponad 20 państw członkowskich odpowiedziało już na jego zaproszenie i wskazało centra do wspieranej przez ONZ Globalnej Sieci Wymiany i Współpracy w Budowie Potencjału AI.

W raporcie ONZ podkreślono, że świat znalazł się w krytycznym punkcie zwrotnym, jeśli chodzi o AI.

- Możemy być ostatnim pokoleniem będącym w stanie określić warunki współistnienia ludzkości i maszyn. Drzwi są wciąż otwarte, ale nie pozostaną otwarte długo – podsumował António Guterres.