Microsoft Perkenalkan Microsoft-Decision-1: Model AI Khusus Pengambilan Keputusan yang 35x Lebih Cepat dan Jauh Lebih Hemat dari LLM

Di tengah pesatnya perkembangan ekosistem Agentic AI, tantangan terbesar bagi para developer bukan lagi sekadar kemampuan model menghasilkan teks, melainkan kecepatan (latency) dan efisiensi biaya ketika sebuah agen harus mengambil puluhan keputusan beruntun dalam satu alur kerja. Menjawab kebutuhan tersebut, Microsoft resmi meluncurkan Microsoft-Decision-1, sebuah model decision-scoring baru yang dirancang khusus untuk menghasilkan output terstruktur secara instan.

Berbeda dengan Large Language Models (LLM) konvensional yang dirancang untuk mengobrol atau melakukan penalaran panjang, decision models dibangun spesifik agar perangkat lunak dapat langsung mengeksekusi tindakan—mulai dari routing, klasifikasi, penentuan prioritas, verifikasi, hingga kontrol workflow AI Agent.

Apa Itu Microsoft-Decision-1 dan Bagaimana Cara Kerjanya?

Microsoft-Decision-1 dibangun dari hasil post-training model Qwen3.5-9B yang dioptimalkan untuk melakukan single-pass decision scoring berkecepatan tinggi (dan ke depannya juga akan di-rebase ke model Microsoft AI serta OpenAI).

Ketika diberikan sejumlah pilihan jawaban tetap (fixed options), model ini akan memberikan skor probabilitas terkalibrasi (calibrated probability score) untuk masing-masing opsi hanya melalui satu panggilan API sederhana. Model ini mendukung berbagai format keputusan, seperti:

Keputusan Ya / Tidak (Yes/No)
Pilihan Ganda (Multiple-Choice)
Pemberian Rating / Skor
Penilaian Berbasis Rubrik (Rubric-based Grading) untuk mengevaluasi respons AI maupun tindakan agen.

Keunggulan Utama: Mengapa Mengalahkan LLM?

Dalam pengujian menyeluruh yang melibatkan 36 benchmark buta (blind benchmarks) dengan hampir 150.000 pertanyaan, Microsoft-Decision-1 mencatat performa yang melampaui LLM raksasa maupun model keputusan lainnya di beberapa aspek krusial:

Kecepatan Ekstrem (Ultra-Low Latency)

Dalam alur kerja agen yang saling bergantung, penundaan 100 milidetik saja pada 20 langkah keputusan beruntun akan menambah jeda hingga 2 detik. Microsoft-Decision-1 mencatatkan median latensi (P50) 35 kali lebih cepat dibanding GPT-6 Sol, serta 2,5 kali lebih cepat dibanding posisi kedua, H2O-Lightning-4B v1.1.
Akurasi dan Generalisasi Terbaik

Model ini meraih peringkat pertama dalam akurasi rata-rata di 36 benchmark yang tidak disertakan dalam proses pelatihan, mencakup tugas routing, ranking, konteks panjang, multibahasa, hingga keamanan (safety).
Konsistensi Tinggi (Robustness)

Di lingkungan produksi, perubahan kecil pada cara penulisan prompt atau urutan opsi sering kali membuat LLM mengubah keputusannya. Saat diuji dengan berbagai variasi gangguan (perturbation), Microsoft-Decision-1 hanya mengubah keputusannya sebesar 1,3% secara rata-rata, dan mencatat 0% perubahan (zero flips) ketika deskripsi opsi diparafrasekan atau urutannya dibalik/diacak.
Kalibrasi Probabilitas yang Presisi

Skor kepercayaan (confidence) menjadi bagian langsung dari API. Artinya, prediksi dengan tingkat keyakinan 90% benar-benar akurat sekitar 9 dari 10 kali pada kasus nyata, sehingga aplikasi tahu kapan harus mengeksekusi otomatis dan kapan harus meminta tinjauan manusia.

Studi Kasus Nyata di Internal Microsoft

Sebelum dirilis ke publik, berbagai divisi internal Microsoft telah menguji model ini di skenario produksi dengan hasil yang mencolok:

XBOX Research (Pelabelan Data Skala Besar): Digunakan untuk memproses dan mengelompokkan lebih dari 10.000 ulasan pemain dari survei, Steam, dan X/Twitter. Hasilnya, kualitas klasifikasi Microsoft-Decision-1 setara dengan GPT-6 Sol, namun berjalan lebih dari 14 kali lebih cepat dan 200 kali lebih murah (estimasi biaya untuk 1 juta teks hanya sekitar $11, dibandingkan $2.434 jika menggunakan GPT-6 Sol).
Tim Microsoft Copilot (Kontrol Kualitas): Digunakan untuk menilai kualitas respons chat dan agen. Model ini terbukti kompetitif dengan GPT-5.6 Luna namun 100 kali lebih cepat.
Microsoft Discovery (Riset Ilmiah): Digunakan oleh agen AI untuk mengevaluasi eksperimen dan merencanakan ulang pendekatan (adaptive replanning). Hasilnya 46 kali lebih konsisten dibanding penilaian berbasis LLM biasa dan mempercepat proses perencanaan ulang hampir 4 kali lipat.

Ragam Kegunaan (Use Cases) untuk Developer

Bagi pengembang aplikasi dan AI Engineer, Microsoft-Decision-1 sangat ideal ditempatkan sebagai komponen pengendali di depan atau di sela-sela LLM utama untuk:

Model Routing: Menentukan apakah kueri pengguna cukup dijawab oleh model kecil yang murah atau harus dilempar ke LLM besar.
Agent Controls & Guardrails: Mengevaluasi langkah agen selanjutnya—apakah harus lanjut, berhenti, ulangi, atau oper ke manusia.
AI Judging & Data Validation: Menilai apakah output dari LLM sudah sesuai rubrik sebelum ditampilkan ke pengguna.
Intent Analysis & Content Filtering: Memahami maksud pengguna dan menyaring konten berisiko secara real-time.

Harga dan Ketersediaan

Salah satu daya tarik terbesar dari rilis ini adalah skema harganya yang sangat ramah bagi developer:

Biaya Input Token: Hanya $0,042 USD per 1 juta token.
Biaya Output Token: GRATIS ($0).

Saat ini, Microsoft-Decision-1 sudah dapat diakses dan diintegrasikan langsung oleh para pengembang melalui katalog model di Microsoft Foundry (Azure AI) maupun lewat OpenRouter (microsoft/microsoft-decision-1).

(Sumber: Microsoft Command Line Blog)