JAKARTA - Selama ini, Xiaomi lebih dikenal sebagai produsen ponsel pintar, skuter listrik, serta beragam perangkat elektronik rumah tangga. Namun, kini perusahaan asal China tersebut membuat gebrakan di ranah kecerdasan buatan (AI).
Dikutip dari Decrypt, Xiaomi baru saja memperkenalkan MiMo-V2.5-Pro-UltraSpeed, sebuah model AI yang diklaim mampu menghasilkan lebih dari 1.000 token per detik.
Dalam pengujian, kecepatannya bahkan sempat mendekati 1.200 token per detik. Sebagai gambaran, token adalah potongan teks yang diproses AI saat membaca atau menulis jawaban.
Satu token biasanya setara dengan sekitar tiga perempat kata. Semakin banyak token yang diproses per detik, semakin cepat AI memberikan respons kepada pengguna.
Menariknya, kecepatan MiMo jauh melampaui sejumlah chatbot populer saat ini. Berdasarkan data Artificial Analysis, GPT-5.5 yang digunakan banyak pengguna ChatGPT memiliki kecepatan sekitar 68 token per detik. Sementara Claude Opus 4.6 berada di kisaran 71 token per detik, sedangkan Gemini Flash mencapai sekitar 192 token per detik.
Pencapaian Xiaomi semakin menarik karena teknologi ini tidak memerlukan perangkat keras khusus yang mahal. Xiaomi berhasil mencapai kecepatan tersebut hanya dengan satu server standar berisi delapan GPU.
Biasanya, perusahaan seperti Cerebras dan Groq mengembangkan chip khusus untuk meningkatkan kecepatan AI. Namun, Xiaomi mengandalkan optimasi perangkat lunak melalui sistem bernama TileRT serta berbagai teknik kompresi dan pemrosesan data yang lebih efisien.
Salah satu teknik yang digunakan adalah FP4 Quantization. Sederhananya, Xiaomi mengecilkan ukuran sebagian data model AI sehingga membutuhkan memori lebih sedikit dan dapat bekerja lebih cepat tanpa mengurangi kualitas jawaban secara signifikan.
Selain itu, Xiaomi juga menggunakan teknologi DFlash, yang memungkinkan AI memprediksi dan memproses beberapa kata sekaligus dalam satu langkah. Metode ini membuat proses menghasilkan jawaban jauh lebih cepat dibandingkan cara AI konvensional.
Menurut Xiaomi, kombinasi berbagai teknologi tersebut memungkinkan model AI berukuran lebih dari satu triliun parameter tetap berjalan sangat cepat. Parameter merupakan angka internal yang membantu AI mengenali pola dan menghasilkan jawaban. Semakin banyak parameter, biasanya semakin canggih kemampuan AI tersebut.
MiMo-V2.5-Pro bukanlah versi AI yang diperkecil untuk mengejar kecepatan. Model ini tetap memiliki kemampuan setara model AI kelas atas dan diklaim mampu bersaing dengan Claude Opus dalam berbagai pengujian pemrograman (coding).
Kecepatan tinggi ini berpotensi membuka berbagai penggunaan baru bagi AI, mulai dari analisis data real-time, deteksi penipuan, sistem perdagangan otomatis, hingga agen AI yang dapat berpikir dan bertindak lebih cepat.
Saat ini, Xiaomi telah membuka program uji coba API MiMo-V2.5-Pro-UltraSpeed untuk pengembang dan perusahaan. Sementara itu, sebagian teknologi yang digunakan juga telah dirilis secara open source sehingga dapat diuji oleh komunitas pengembang di seluruh dunia.
