El CEO de Anthropic responde a las dudas sobre la seguridad de la IA, enfatizando la importancia de estar a la vanguardia tecnológica

Anthropic ha presentado un borrador de ley sobre la seguridad de la IA ante los miembros del Congreso de EE. UU., el cual ha sido cuestionado. Este borrador establece altos umbrales para que el gobierno detenga de manera urgente modelos peligrosos, exigiendo que los riesgos involucren armas biológicas, ciberataques o pérdida de control de la IA, y que puedan causar más de 50 muertes o lesiones graves, o pérdidas superiores a mil millones de dólares. Algunas disposiciones podrían limitar la autoridad reguladora de los gobiernos estatales. Nathan Calvin, responsable de estrategia de la organización de seguridad de IA Encode AI, señaló que Anthropic modificó en febrero de este año su política de seguridad originalmente estricta, eliminando el requisito de detener el desarrollo por sí solo en fases de mayor riesgo, argumentando que los competidores podrían aprovechar la oportunidad para adelantarse. Al mismo tiempo, Anthropic ha invertido grandes cantidades de potencia de cálculo, ha formado un equipo de chips y ha asignado más tareas de desarrollo de IA a Claude. El 21 de octubre, el CEO de Anthropic, Dario Amodei, publicó en X para refutar las dudas, admitiendo que la empresa había cometido errores, pero insistiendo en que la lucha por las capacidades de IA más avanzadas no contradice su misión de seguridad, enfatizando que solo manteniéndose a la vanguardia tecnológica se puede impulsar la industria a elevar los estándares de seguridad. Enumeró nueve decisiones de seguridad que le costaron a la empresa en términos comerciales, incluyendo la restricción de la apertura de modelos de nivel Mythos durante meses y la limitación estricta de solicitudes relacionadas con la biología. El mapa de ruta de seguridad actualizado de la empresa el 19 de octubre indica que las políticas actuales se centran principalmente en el despliegue de modelos peligrosos, y que en el futuro podría ser necesario limitar directamente la velocidad de desarrollo, con planes de presentar propuestas de políticas relacionadas antes del 15 de enero de 2027, o explicar por qué no se han presentado.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.