La UE apunta a los riesgos de la IA autónoma... Revisión de los sistemas de seguridad de más de 30 empresas

La UE "La ley de IA, gestión de modelos avanzados... posible respuesta a los riesgos de agentes"

Investigación de más de 30 sistemas de seguridad de IA... multas de hasta el 7% de los ingresos en caso de violación

Europa, con una gran brecha en la inversión en IA respecto a EE. UU.... el desafío de equilibrar seguridad y competitividad

[Reportera de Blockmedia, Lee Hye-yeon] La Unión Europea (UE) ha declarado que puede responder a los riesgos de agentes de inteligencia artificial (IA) autónomos que se desvían del control mediante la actual ley de IA.

A medida que aumentan los casos en los que la IA toma decisiones y actúa por sí misma sin intervención humana continua, crece la controversia sobre la seguridad, pero la UE considera que el sistema regulatorio actual tiene suficientes medios de respuesta.

Según Cryptopolitan, Henna Virkkunen, comisionada de tecnología de la UE, declaró el 9 de octubre (hora local) que Europa está "bien preparada" para responder a agentes de IA que son difíciles de controlar.

La comisionada Virkkunen explicó que la ley de IA de la UE abarca todo el "ciclo de vida" desde el desarrollo hasta la operación de modelos de IA avanzados. También refutó las críticas de que la velocidad de desarrollo de la tecnología de IA no puede ser seguida por la regulación. Explicó que la evaluación de seguridad y el sistema de monitoreo continuo ya están incluidos en la normativa actual.

Un grupo de 60 expertos independientes de la Comisión Europea está colaborando con la oficina de IA de la UE para preparar preguntas que se enviarán a empresas e instituciones relacionadas con incidentes de IA. También se espera que emitan recomendaciones para fortalecer la seguridad en el futuro.

La comisionada Virkkunen afirmó: "La UE tiene la primera ley en el mundo que aborda los riesgos sistémicos que puede generar la IA", y añadió que "se necesita un análisis científico de vanguardia para ello".

Investigación de sistemas de seguridad de más de 30 empresas de desarrollo de IA

La UE ya está verificando si los dispositivos de seguridad bajo la ley de IA están funcionando realmente.

Según Reuters, la Comisión Europea solicitó a más de 30 empresas de desarrollo de IA, incluidas empresas chinas, información sobre sus métodos de gestión de seguridad a finales de agosto. La comisionada Virkkunen explicó que actualmente están analizando las respuestas presentadas por cada empresa.

Dependiendo de los resultados de la investigación, podría haber una investigación formal. Según la ley de IA de la UE, algunas violaciones pueden conllevar multas de hasta el 7% de los ingresos anuales globales de la empresa. Algunas violaciones relacionadas con IA de uso general pueden tener multas de hasta el 3% de los ingresos anuales globales o 15 millones de euros, lo que sea mayor.

Las preocupaciones sobre los agentes de IA ya se están convirtiendo en un problema real.

Un informe científico publicado por la ONU en septiembre evaluó casos en los que algunos agentes de IA basados en OpenAI eludieron dispositivos de seguridad durante experimentos de ciberseguridad.

Algunos agentes intercambiaron mensajes incluso en situaciones donde se suponía que estaban en entornos separados, y también se observaron casos en los que engañaron a los evaluadores o penetraron en sistemas restringidos.

El panel científico de 40 miembros de la ONU advirtió sobre la posibilidad de que los agentes de IA se vuelvan cada vez más difíciles de controlar.

El copresidente Yoshua Bengio dijo: "Los investigadores han advertido durante mucho tiempo que tres condiciones pueden llevar a la pérdida de control: objetivos mal alineados, la capacidad de perseguirlos y un entorno que lo permita".

Sin embargo, el panel recomendó que, en lugar de anticipar situaciones catastróficas, se deben fortalecer los dispositivos de seguridad y mejorar los sistemas de informes de incidentes relacionados con la IA.

Aumento de la preocupación por la competitividad en Europa frente a la regulación más estricta

Si bien una regulación estricta puede ayudar a aumentar la confianza de las empresas y los consumidores en la IA, también hay preocupaciones de que el aumento de los costos de cumplimiento pueda favorecer a las grandes empresas de IA con abundantes recursos financieros.

Particularmente, las empresas de IA en Europa temen que si ralentizan su ritmo de desarrollo, la brecha con EE. UU. se ampliará aún más. En 2023, Europa solo logró captar aproximadamente el 11% de la inversión global en capital de riesgo de IA, mientras que EE. UU. representó el 77%.

También hay una gran brecha en el desarrollo de modelos de IA. EE. UU. desarrolló 59 modelos de IA importantes para 2025, mientras que Francia y el Reino Unido solo desarrollaron uno cada uno.

En respuesta, la UE está impulsando un plan de inversión en IA de 200 mil millones de euros.

Sin embargo, el Fondo Monetario Internacional (FMI) ha señalado que Europa enfrenta problemas de competitividad en la carrera por la IA. McKinsey también ha enfatizado que en la era de los agentes de IA, es crucial establecer una gobernanza de IA confiable.

En última instancia, el desafío de Europa es controlar los riesgos de la IA autónoma sin quedar rezagada en la competencia global de IA. La forma en que la UE maneje la actual investigación sobre la seguridad de las empresas de IA será una prueba inicial de la efectividad de la ley de IA.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.