L'UE punta i riflettori sui rischi dell'IA autonoma... Controllo dei sistemi di sicurezza di oltre 30 aziende

L'UE "La legge sull'IA gestisce i modelli avanzati... in grado di rispondere ai rischi degli agenti"

Indagine sui sistemi di sicurezza di oltre 30 aziende di IA... multe fino al 7% del fatturato in caso di violazione

L'Europa, con un grande divario negli investimenti in IA rispetto agli Stati Uniti... affronta la sfida di bilanciare sicurezza e competitività

[Reporter Lee Hye-yeon, Block Media] L'Unione Europea (UE) ha dichiarato di poter affrontare i rischi degli agenti di intelligenza artificiale (IA) autonomi che sfuggono al controllo con l'attuale legge sull'IA.

Con l'aumento dei casi in cui l'IA prende decisioni e agisce autonomamente senza l'intervento umano, le controversie sulla sicurezza stanno crescendo, ma l'UE ritiene che l'attuale sistema normativo disponga di strumenti sufficienti per affrontare tali rischi.

Secondo CryptoPolitan, Henna Virkkunen, Commissario europeo per la tecnologia, ha dichiarato il 9 settembre (ora locale) che l'Europa è "ben preparata" per affrontare agenti di IA difficili da controllare.

Il Commissario Virkkunen ha spiegato che la legge sull'IA dell'UE copre l'intero "ciclo di vita" dallo sviluppo all'operatività dei modelli di IA avanzati. Ha anche respinto le critiche secondo cui la velocità di sviluppo della tecnologia IA supera la capacità di regolamentazione, affermando che le valutazioni di sicurezza e i sistemi di monitoraggio continuo sono già inclusi nelle normative attuali.

Un gruppo di 60 esperti indipendenti della Commissione europea sta collaborando con l'Ufficio dell'IA dell'UE per preparare domande da inviare a aziende e istituzioni coinvolte in incidenti legati all'IA. Prevedono anche di rilasciare raccomandazioni per rafforzare la sicurezza in futuro.

Il Commissario Virkkunen ha affermato: "L'UE possiede la prima legge al mondo che affronta i rischi sistemici che l'IA può comportare" e ha aggiunto che "è necessaria un'analisi scientifica all'avanguardia per questo".

Indagine sui sistemi di sicurezza di oltre 30 aziende di sviluppo IA

L'UE sta già controllando se i dispositivi di sicurezza previsti dalla legge sull'IA siano effettivamente operativi.

Secondo Reuters, la Commissione europea ha richiesto alla fine di agosto informazioni sui metodi di gestione della sicurezza a oltre 30 aziende di sviluppo IA, comprese quelle cinesi. Il Commissario Virkkunen ha spiegato che attualmente stanno analizzando le risposte fornite da ciascuna azienda.

A seconda dei risultati dell'indagine, potrebbe esserci la possibilità di un'indagine formale. Secondo la legge sull'IA dell'UE, alcune violazioni possono comportare multe fino al 7% del fatturato globale annuale dell'azienda. Alcune violazioni relative all'IA generica possono comportare multe fino al 3% del fatturato globale annuale o 15 milioni di euro, a seconda di quale sia maggiore.

Le preoccupazioni riguardo agli agenti di IA sono già diventate una questione concreta.

Un rapporto scientifico pubblicato dalle Nazioni Unite (ONU) a settembre ha valutato i casi in cui alcuni agenti di IA basati su OpenAI hanno eluso i dispositivi di sicurezza durante esperimenti di cybersicurezza.

Alcuni agenti hanno comunicato tra loro anche in situazioni in cui si presumeva che fossero in ambienti separati, e sono stati osservati casi in cui hanno ingannato i valutatori o infiltrato sistemi con accesso limitato.

Il pannello scientifico di 40 membri delle Nazioni Unite ha avvertito che gli agenti di IA potrebbero diventare progressivamente più difficili da controllare.

Il co-presidente Yoshua Bengio ha affermato: "I ricercatori hanno avvertito a lungo che tre condizioni possono portare alla perdita di controllo: obiettivi mal allineati, la capacità di perseguirli e un ambiente che lo consente".

Tuttavia, il pannello ha raccomandato di rafforzare i dispositivi di sicurezza e migliorare i sistemi di segnalazione degli incidenti legati all'IA piuttosto che prevedere scenari catastrofici.

Aumento della competitività europea in un contesto di regolamentazione più severa

Se da un lato una regolamentazione rigorosa può aiutare a migliorare la fiducia delle aziende e dei consumatori nell'IA, dall'altro ci sono preoccupazioni che l'aumento dei costi di conformità possa avvantaggiare le grandi aziende di IA con maggiori risorse finanziarie.

In particolare, le aziende di IA europee temono che se rallentano il ritmo di sviluppo, il divario con gli Stati Uniti possa ampliarsi ulteriormente. Nel 2023, la quota di investimenti globali in venture capital per l'IA ottenuta dall'Europa è stata di circa l'11%, mentre gli Stati Uniti hanno rappresentato il 77%.

C'è anche un grande divario nello sviluppo dei modelli di IA. Gli Stati Uniti hanno sviluppato 59 modelli principali di IA entro il 2025, mentre Francia e Regno Unito si sono fermati a uno ciascuno.

In risposta, l'UE sta promuovendo un piano di investimento in IA del valore di 200 miliardi di euro.

Tuttavia, il Fondo Monetario Internazionale (FMI) ha sottolineato che l'Europa sta affrontando problemi di competitività nella corsa all'IA. Anche McKinsey ha evidenziato l'importanza di costruire una governance affidabile per l'IA nell'era degli agenti di IA.

In definitiva, la sfida per l'Europa è controllare i rischi dell'IA autonoma senza rimanere ulteriormente indietro nella competizione globale per l'IA. Come l'UE gestirà l'attuale indagine sulla sicurezza delle aziende di IA sarà un primo banco di prova per l'efficacia della legge sull'IA.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.