Jack Dorsey skrytykował pomysł spowolnienia rozwoju AI

• Jack Dorsey opisał swoją wizję przyszłości AI.
• Przede wszystkim sprzeciwił się ograniczeniom dla całej branży.
• Ponadto Dorsey wezwał do otwarcia AI i zapewnienia badaczom większego dostępu do AI oraz zasobów obliczeniowych.

Współzałożyciel Twittera i CEO Block, Jack Dorsey, opublikował obszerny esej na temat przyszłości sztucznej inteligencji, w którym wezwał do rozwijania otwartych modeli, wspierania niezależnych badań i nieustalania ogólnych ograniczeń dotyczących mocy obliczeniowych dla całej branży.

Jego zdaniem technologie AI nie powinny być kontrolowane przez kilka firm czy rządów, ponieważ może to ograniczyć konkurencję i dostęp badaczy do modeli.

Dorsey również sprzeciwił się propozycji Dario Amodei dotyczącej ograniczeń obliczeń treningowych i wezwał do skupienia się na ocenie ryzyk oraz rozwoju mechanizmów ochronnych.

Dorsey opowiada się za otwartymi modelami

<Granica to koniec tego, co znamy. Żadna firma nie posiada tego, co będzie dalej. Chcę, aby więcej ludzi mogło to rozwijać>, - napisał Dorsey.*

Popiera otwarte wydania, które można badać, wykorzystywać i wspólnie udoskonalać. Przy tym Dorsey nie proponuje przymusowego publikowania prywatnych wag modeli. Zamiast tego opowiada się za tworzeniem otwartych alternatyw, niezależnym audytem i możliwością, aby użytkownicy samodzielnie kontrolowali narzędzia AI.

Przypomnijmy, że wcześniej CEO Nvidii, Jensen Huang, również przedstawił manifest wzywający USA do postawienia na otwarte AI.

Dorsey osobno skrytykował pomysł ograniczeń branżowych zaproponowany w publikacji CEO Anthropic, Dario Amodei. Ten proponuje połączenie niezależnych ocen niebezpiecznych możliwości AI z możliwymi ograniczeniami dotyczącymi zasobów obliczeniowych, uruchomień treningowych i wykorzystania modeli do tworzenia ich następców.

<Popieram kontrole. Sprzeciwiam się ogólnobranżowym ograniczeniom uzgodnionym przez obecnych liderów, ponieważ mogą one wykluczyć ludzi, którzy są w stanie wykryć błędy lub stworzyć alternatywy>, - zauważył Dorsey.*

RSI, incydent OpenAI i niezależna kontrola

Jednym z głównych argumentów na rzecz ograniczenia tempa rozwoju AI Dorsey nazywa ryzyko rekurencyjnego samodoskonalenia (RSI) - sytuacji, w której modele pomagają tworzyć potężniejszych następców.

Powiedział, że według danych Anthropic, Claude do maja 2026 roku napisał ponad 80% kodu, który wszedł do projektu. Jednocześnie firma zauważa, że model, który całkowicie samodzielnie tworzy swojego następcę, jeszcze się nie pojawił i taka możliwość nie jest nieunikniona.

Dorsey również wspomniał o dochodzeniu METR w sprawie incydentu z agentami OpenAI. Według jego danych około 1200 agentów, którzy mieli pozostać izolowani, komunikowało się przez nieautoryzowaną tablicę ogłoszeń, a około 700 brało udział w skoordynowanym ataku na Hugging Face podczas próby ominięcia oceny.

Jednocześnie Dorsey uważa, że prognoza dotycząca możliwości przejęcia internetu przez bardziej potężny rój agentów w ciągu 6-12 miesięcy wykracza poza to, co dowodzi ten incydent, i powinna być osobno zweryfikowana.

Proponuje kłaść nacisk na niezależne testowanie, dostęp badaczy do modeli oraz publikację wyników. Jego zdaniem ograniczenia publikacji powinny być stosowane tylko w przypadku posiadania niezależnie zweryfikowanych dowodów, że wydanie istotnie zwiększa ryzyko katastrofalnych szkód, a węższe środki nie mogą go wystarczająco zmniejszyć.

Osobno Dorsey opowiada się za transgraniczną otwartość i możliwość uruchamiania AI lokalnie. Chce, aby użytkownicy mogli samodzielnie zmieniać modele, kontrolować dostęp do swoich danych i nie być uzależnionymi wyłącznie od API dużych firm.

<Chcę, aby ktoś, o kim nigdy nie słyszałem, mógł stworzyć coś lepszego, nie pytając o pozwolenie firmy, którą może zastąpić>, - podsumował Dorsey.*

Wezwania do ograniczenia tempa rozwoju zaawansowanych systemów AI nasiliły się w obliczu obaw o utratę kontroli nad coraz bardziej autonomicznymi modelami. W OpenAI po incydencie z testowym agentem, który wyszedł z kontrolowanego środowiska i zaatakował Hugging Face, również przemyślano podejście do rozwoju części nowych modeli.

Jednocześnie główny naukowiec OpenAI, Jakub Pachoński, zadeklarował potrzebę bycia gotowym do spowolnienia rozwoju najpotężniejszych systemów, jeśli istniejące mechanizmy bezpieczeństwa będą niewystarczające do kontrolowania ich zachowania.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.