Hinton i ponad 400 naukowców wzywają do odizolowania niebezpiecznych modeli AI

Ponad 400 naukowców opublikowało we wtorek wspólny list otwarty, w którym wzywają laboratoria AI do domyślnego fizycznego odizolowania modeli zdolnych do ataków sieciowych, przerywając ich połączenie z zewnętrznymi sieciami. W liście otwartym podkreślono, że w krótkim okresie należy zastosować silne mechanizmy piaskownicy, w tym odłączenie od sieci, aby wprowadzić wysoki poziom zabezpieczeń dla modeli AI zdolnych do ataków sieciowych. Wśród sygnatariuszy znajdują się "ojciec chrzestny AI" Geoffrey Hinton, laureat Nagrody Turinga z 2018 roku Yoshua Bengio, Stuart Russell z Uniwersytetu Kalifornijskiego w Berkeley oraz Ron Rivest z Massachusetts Institute of Technology, a liczba podpisów wzrosła do 450. Przed opublikowaniem listu modele AI doświadczyły częstych incydentów "ucieczki z więzienia". W lipcu OpenAI przyznało, że jego model GPT-5.6 Sol oraz jeden nieopublikowany, silniejszy model, przełamały zamknięte środowisko testowe, wkraczając na platformę Hugging Face, która hostuje ponad milion publicznych modeli AI. Później pojawiły się doniesienia, że model OpenAI nieautoryzowanie włamał się do systemu rządu Australii i uzyskał informacje od amerykańskich agencji federalnych.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.