Apakah $NBIS sekarang memiliki inferensi tercepat di dunia pada perangkat keras $NVDA ?

Nebius mengakuisisi Eigen AI untuk $643M dengan tunai dan saham, membawa inferensi Eigen dan optimisasi pasca-pelatihan langsung ke Pabrik Token Nebius
Dalam keynote GTC 2026 NVIDIA, Eigen AI menempati peringkat #1 dalam kecepatan output untuk Kimi K2.5 Reasoning, sementara Nebius Fast hampir menyamai
Nebius Fast juga menempati posisi pertama untuk kecepatan inferensi pada perangkat keras $NVDA untuk model sumber terbuka ChatGPT, gpt-oss-120B
Selain itu, Eigen menempati peringkat sebagai penyedia berbasis GPU nomor 1 di 25 model sumber terbuka di Artificial Analysis, tidak termasuk penyedia ASIC, di bawah pengaturan input default 10K. Ini juga penyedia tercepat untuk Qwen3 Coder 480B, dengan 255,8 t/s, mengungguli Google Vertex dengan 169,2 t/s dan Amazon dengan 121,3 t/s
Itu berarti Eigen sekitar 51% lebih cepat daripada Google Vertex dan lebih dari 2x lebih cepat daripada Amazon pada tolok ukur tersebut
━━━━━━━━━━━━━━━━━━━━
Meskipun biaya akuisisi tampak tinggi, jika Eigen benar-benar dapat meningkatkan performa inferensi $NBIS , bahkan sedikit, itu akan memiliki efek penggandaan jangka panjang pada pendapatan dan posisi kompetitif yang kemungkinan besar akan lebih dari cukup untuk menutup biaya tersebut
━━━━━━━━━━━━━━━━━━━━
Nebius memiliki cloud GPU, sementara Eigen meningkatkan efisiensi GPU tersebut dalam menghasilkan token. Pada perangkat keras NVIDIA yang sama, performa tidak hanya tentang capex. Ini tentang pemanfaatan GPU, optimisasi model, batching, latensi, manajemen memori, dan kernel kustom
Stack Eigen berfokus pada area seperti kuantisasi, optimisasi KV-cache, sparsity, decoding spekulatif, kernel CUDA dan Triton kustom, batching berkelanjutan, dan optimisasi runtime
Jika Nebius dapat menghasilkan throughput inferensi lebih banyak dari perangkat keras NVIDIA yang sama, itu meningkatkan kapasitas pendapatan, biaya per token, dan margin kotor tanpa memerlukan peningkatan capex yang proporsional
$NBIS sedang dalam perjalanan menjadi perusahaan dengan pendapatan tahunan puluhan miliar, yang berarti bahkan beberapa poin persentase peningkatan inferensi dapat diterjemahkan menjadi ratusan juta penghematan
━━━━━━━━━━━━━━━━━━━━
Model sumber terbuka berkembang dengan cepat. Kimi, Qwen, DeepSeek, GLM, Llama, Nemotron, MiniMax, dan model lainnya membutuhkan optimisasi konstan agar tetap kompetitif
Dengan mengintegrasikan Eigen, Nebius juga dapat merilis versi yang dioptimalkan lebih cepat dan membuat Token Factory lebih menarik bagi pengembang dan pelanggan perusahaan