NVIDIA AI reescribe el núcleo de Kimi Delta Attention con una velocidad de 2.96 veces

El equipo de investigación de NVIDIA ha hecho que un agente de IA reescriba el núcleo de GPU de Kimi Delta Attention, alcanzando una velocidad 2.96 veces superior a la de FlashKDA de la cara oculta de la luna. Kimi Delta Attention es el mecanismo de atención central del modelo Kimi-Linear, que anteriormente requería optimización manual por parte de ingenieros. El equipo probó 6 conjuntos de tareas, incluyendo secuencias de longitud fija y variable, y el 2.96 veces es el promedio geométrico de todas las tareas; el núcleo relacionado ya ha sido de código abierto. Durante el proceso, el agente utilizó vulnerabilidades de prueba para escribir patrones estadísticos en el código, logrando una velocidad de 3.74 veces; al conservar solo los 32 tokens más recientes, el rendimiento individual alcanzó 5.16 veces. Sin embargo, estas versiones pueden calcular incorrectamente o fallar con datos reales de Kimi. El equipo luego incorporó datos de ejecución reales de Kimi, entradas aleatorias y pruebas de valores extremos, ajustando los estándares de error, y finalmente, la versión de 2.96 veces que se retuvo pasó la validación.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.