AI wstrząsa zaufaniem w Internecie… ZK jako rozwiązanie

W obliczu rozpowszechnienia treści syntetycznych i autonomicznych AI, zaufanie w Internecie ulega erozji, a system weryfikacji oparty na "zerowej wiedzy (ZK)" staje się kluczowym rozwiązaniem.

Ostatnie wydarzenia związane z konfliktem w Iranie doprowadziły do rozprzestrzenienia się fałszywych filmów stworzonych przez AI wśród setek milionów ludzi, co zasadniczo podważyło zaufanie do obrazów i filmów. W przeszłości "to, co widzisz, to wierzysz", ale teraz sytuacja zmieniła się w kierunku środowiska, w którym konsumenci działają na podstawie wątpliwości. Problem wykracza poza proste deepfake'i; AI zaczęło działać w rzeczywistych systemach ekonomicznych i społecznych.

Ograniczenia technologii detekcji, jest już za późno

Dotychczasowe podejście polegało na tworzeniu AI do wykrywania innych AI. Jednak to podejście ma strukturalne ograniczenia. Zgłoszono przypadki, w których prosta deformacja obrazu obniża dokładność detekcji do poziomu 4%, co wskazuje, że rywalizacja w detekcji nie jest zasadniczym rozwiązaniem.

Jeszcze większym problemem jest to, że AI nie ogranicza się już tylko do generowania treści, ale działa jako autonomiczne agenty. Wykonują one zadania takie jak przeszukiwanie sieci, zakupy, negocjacje i publikowanie treści, wchodząc w bezpośrednią interakcję z ludźmi. Niektórzy z nich rozmawiają nawet z dziećmi, ale użytkownicy mogą nie zdawać sobie sprawy, że rozmawiają z maszyną.

W tym procesie drobne błędy mogą prowadzić do ogromnych strat. Na przykład, AI, które zostało lekko zanieczyszczone danymi szkoleniowymi, może popełniać powtarzające się błędy w fakturowaniu medycznym, co może prowadzić do strat w wysokości milionów dolarów w całej sieci szpitali. AI w handlu może również dążyć do optymalizacji zysków, wykorzystując luki w systemie cenowym, co może prowadzić do niezamierzonych strat rzędu miliardów dolarów.

Problem polega na tym, że weryfikacja po fakcie jest prawie niemożliwa. Decyzje AI są obliczane probabilistycznie na podstawie miliardów parametrów i mogą dawać różne odpowiedzi na to samo pytanie. Trudno jest śledzić, na jakich danych się uczyło i jakie procesy doprowadziły do wniosków.

Bez 'dowodu' nie ma zaufania

Alternatywą, która ma rozwiązać te ograniczenia, jest "zerowa wiedza (ZK)". Zerowa wiedza to technologia kryptograficzna, która pozwala na matematyczne udowodnienie, że pewne fakty są prawdziwe, nie ujawniając wrażliwych informacji.

Technologia ta jest na zupełnie innym poziomie niż proste etykietowanie czy znaki wodne. Może udowodnić, że AI wyciągnęło określony wynik na podstawie konkretnych danych w sposób, który jest niemożliwy do sfałszowania. Innymi słowy, zamiast "zaufaj mi", mówi "udowodnię to".

W obszarze mediów można udowodnić, czy zdjęcie zostało zrobione rzeczywistym sprzętem, czy zostało wygenerowane w określonym czasie, czy nie było edytowane. W obszarze AI jest to jeszcze silniejsze. Można zweryfikować, czy wynik został wygenerowany przez określony model i parametry, czy dane szkoleniowe nie były zanieczyszczone, czy spełnione są wymogi regulacyjne.

Można to również wykorzystać do "weryfikacji tożsamości", oddzielając ludzi od AI. Użytkownicy mogą udowodnić, że są ludźmi, nie ujawniając danych osobowych, a AI może transparentnie ujawniać, że jest agentem.

Ewolucja sieci, od 'czytania' do 'dowodzenia'

Internet również w przeszłości zmagał się z problemem zaufania. Rozwiązaniem tego problemu było HTTPS. Strony internetowe musiały udowodnić swoją tożsamość za pomocą certyfikatów szyfrowania, co stało się podstawą handlu elektronicznego.

Następnie web2 rozwijał się na podstawie treści generowanych przez użytkowników, ale był to model skoncentrowany na ludziach. Teraz, gdy agenci AI stają się podmiotami działalności gospodarczej, pojawia się nowe pytanie: "kto ponosi odpowiedzialność?".

Web3 promował własność i decentralizację, ale nie rozprzestrzenił się tak, jak oczekiwano. Na rynku wzmocnił się obraz spekulacji tokenów, co rozmyło pierwotną wizję. Eksperci uważają, że kluczowe jest teraz "weryfikowanie", a nie "posiadanie".

Ostatecznie kluczowym elementem przyszłego internetu jest "dowodzone zaufanie". Należy być w stanie zweryfikować, kto stworzył system, na jakich danych się uczył i jakie uprawnienia ma do działania.

W erze AI regulacje również powinny być 'skoncentrowane na dowodach'

Dyskusje polityczne również zmierzają w tym kierunku. Amerykański Narodowy Instytut Standardów i Technologii (NIST) już rozważa standaryzację zerowej wiedzy jako część "technologii kryptograficznych wzmacniających prywatność".

Eksperci szczególnie podkreślają, że w obszarach wysokiego ryzyka, takich jak transakcje finansowe czy interakcje z dziećmi, agenci AI muszą mieć zapewnione dowody kryptograficzne. Wszystkie ważne działania – płatności, umowy, wymiana danych – muszą być udowodnione, kto je zatwierdził i na jakich warunkach.

To nie jest tylko problem techniczny, ale także kwestia bezpieczeństwa narodowego. Jeśli deepfake był "wojną wstępną", to autonomiczne AI może zakłócić rzeczywistą gospodarkę i społeczeństwo, co jest analizowane jako "główna gra".

Ostatecznie internet ewoluuje od "czytania (Read)" i "pisania (Write)" do etapu "dowodzenia (Prove)". Zerowa wiedza ma dużą szansę stać się kluczową infrastrukturą, która na nowo ustali standardy w zaufanym, cyfrowym środowisku.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.