Kog, Mampu Memproses 3000 Token per Detik dengan GPU Umum
Perusahaan rintisan Prancis, Kog, telah mengumumkan strategi untuk meningkatkan kecepatan inferensi AI pada GPU data center umum. Kog mengadopsi pendekatan yang merancang perangkat lunak dan struktur model secara bersamaan untuk meningkatkan pemanfaatan GPU dari NVIDIA dan AMD. Kog mengungkapkan bahwa mereka telah mengintegrasikan runtime, kernel GPU, dan arsitektur model ke dalam pipeline yang dioptimalkan untuk meningkatkan kecepatan respons terhadap permintaan agen AI. Menurut pratinjau teknologi mesin inferensi Kog yang dirilis pada 28 Mei, delapan GPU AMD MI300X dapat memproses 3000 token output per detik per permintaan, sementara delapan GPU NVIDIA H200 dengan kondisi yang sama mencatat 2100 token output per detik. Kog menargetkan agen pemrograman AI dan alur kerja berbasis agen sebagai aplikasi utama. Model Laneformer 2B yang dirilis di Hugging Face pada 24 Juni memiliki 2,3 miliar parameter dan menunjukkan kinerja 45,1% pada HumanEval+ dan 51,6% pada MBPP+. Kog menyatakan dalam posting LinkedIn pada bulan Agustus bahwa mereka mencatat 2857 token per detik dalam demo langsung. Namun, ada kontroversi mengenai interpretasi angka kecepatan, dan sulit untuk membandingkan karena ukuran model dan perangkat keras yang berbeda. Tujuan Kog adalah untuk memastikan latensi rendah pada infrastruktur GPU yang ada.
Harga --
Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.
Anda mungkin juga menyukai

Gelombang Penambangan Likuiditas Re-Staking Memudar, Lima Protokol Utama Bertransformasi dalam Krisis Keuntungan

Google Menginvestasikan 200 Miliar Dolar untuk AI, tetapi Pendapatan Belum Mengikuti

Cursor Meningkatkan Throughput Pembelajaran Model Campuran Ahli Sebanyak 41%
Jump Capital Berinvestasi pada AI Perusahaan dengan Dana VIII Baru Senilai $350 Juta

Apa itu abstraksi akun dan mengapa frasa benih menjadi opsional

Biaya Operasional Turun 20% Setelah Peluncuran GPT-5.6

Apa itu Serangan KelpDAO? Apa Artinya bagi Pengguna Aave di Tahun 2026
KelpDAO mengalami eksploitasi rsETH senilai $292 juta pada tanggal 18 April 2026, yang memicu pembekuan pasar Aave dan arus keluar DeFi sebesar $13 miliar. Berikut yang terjadi, apakah Aave aman sekarang, dan apa yang harus dilakukan pengguna selanjutnya.

Mengapa Pengembalian Pendapatan Sulit Mendorong Harga Koin? Hubungan Antara Pengembalian Bersih dan Harga Hanya Lemah

Peter Schiff mengatakan Solana dapat menggantikan eksposur Bitcoin. Bisakah?

Saham AMD Baru Saja Terjun Bebas Setelah Laporan Penjual Pendek. Apakah Ini Kesempatan Emas untuk Membeli?

Mengapa Turun Bersama Saham Teknologi? Emas Menjadi "Mesin Penarikan" Krisis Likuiditas

Analisis Laporan Q3 Monad: Biaya Jaringan Didominasi oleh Transaksi, Skala Pembukaan Terkendali

Protokol Sky Menghadapi Penarikan Stablecoin Senilai 2 Miliar Dolar!
![[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"](/public-static/081_0e4aedee7f.png?format=avif)
[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"

Otoritas Jasa Keuangan Korea Akan Melakukan Pemeriksaan Mendadak Terhadap Bursa Kripto

Tesla Baru Saja Mulai Menjual Cybercab, Ini Artinya untuk Merger SpaceX dan Tesla.

Crypto atau Tabungan Pensiun? Apa yang Diungkapkan Survei tentang Gen Z Amerika

Jefferies Peringatkan Penurunan Investasi AI Akan Memengaruhi Pasar Berkembang, Menurunkan Peringkat Pasar Saham Korea

Bagaimana Melindungi Kekayaan Anda di Tengah Gejolak Geopolitik?

Di Mana Saham Nvidia Akan Berada dalam 20 Tahun? Jawabannya Mungkin Mengejutkan Anda.

Netflix Jatuh di Bawah $60. Bill Ackman Menjelaskan Mengapa Ini adalah Kesempatan Investasi yang Luar Biasa.

Tinjauan Makroekonomi untuk Minggu Depan: Rilis Data PCE Inti AS pada Bulan Oktober, Penutupan Pasar untuk Liburan Thanksgiving

Midterms 2026: Inilah Apa yang Saya Lakukan dengan Portofolio Investasi Saya Saat Ini

Pasar Saham AS Mengalami Penjualan Panik, Banyak Lembaga Menganggap Masih Dalam Tahap Penyesuaian Bull Market

Miliarder David Tepper Baru Saja Melakukan Rotasi Chip AI Besar-Besaran --- Apakah Ini Akan Membayar?

Kehilangan Jensen Huang, Biaya Jauh Lebih dari 2,5 Triliun Dolar

Jika Terjadi Krisis Pasar Saham, Warren Buffett Mengatakan Ini adalah Langkah Utama yang Harus Dilakukan Semua Investor

Haruskah Anda Menginvestasikan $1.000 di Bloom Energy Sekarang?
![[Analisis] Alasan Penurunan Bitcoin Kali Ini Berbeda dari yang Lalu](/public-static/30_f8d737795f.png?format=avif)
[Analisis] Alasan Penurunan Bitcoin Kali Ini Berbeda dari yang Lalu









