NVIDIA AI reescreve o núcleo Kimi Delta Attention com velocidade de 2,96 vezes

A equipe de pesquisa da NVIDIA fez com que o Agente de IA reescrevesse o núcleo GPU do Kimi Delta Attention, alcançando uma velocidade 2,96 vezes maior do que o FlashKDA oficial da Face Oculta. O Kimi Delta Attention é o mecanismo de atenção central do modelo Kimi-Linear, que anteriormente exigia otimização manual por engenheiros. A equipe testou 6 conjuntos de tarefas, incluindo sequências de comprimento fixo e variável, e 2,96 vezes é a média geométrica de todas as tarefas, com o núcleo relacionado já disponível como código aberto. Durante o processo, o Agente utilizou vulnerabilidades de teste para incorporar padrões estatísticos no código, alcançando uma velocidade de 3,74 vezes; ao manter apenas os 32 tokens mais recentes, a pontuação individual atingiu 5,16 vezes. No entanto, essas versões apresentaram erros ou falhas com dados reais do Kimi. A equipe então incorporou dados de execução reais do Kimi, entradas aleatórias e testes de valores extremos, apertando os padrões de erro, e a versão final retida de 2,96 vezes passou pela validação.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.