SUMATERA UTARA — Startup infrastruktur AI Netra Runtime memperoleh pendanaan dari ventura Init-6 untuk mengembangkan perangkat lunak optimasi inferensi berbasis GPU. Teknologi Netra menargetkan perusahaan yang butuh memangkas biaya operasional model AI tanpa menambah perangkat keras. Hingga 28 Oktober 2026, platform Netra tercatat memproses 288 miliar token.
Perangkat lunak Netra bekerja pada tahap inferensi, yakni proses ketika model AI menerima permintaan dan menghasilkan keluaran. Fokus utamanya efisiensi GPU, baik dari kecepatan pemrosesan maupun biaya operasional yang harus ditanggung pelanggan.
Founder Init-6 Nugroho Herucahyono menilai kebutuhan perusahaan terhadap infrastruktur AI kini bergeser. Kapabilitas model bukan lagi satu-satunya pertimbangan, efisiensi biaya ikut menentukan adopsi.
"Lebih dari satu dekade membangun Bukalapak mengajarkan saya, biaya infrastruktur tidak pernah hanya soal hardware. Tapi seberapa baik software memanfaatkannya," kata Nugroho.
Dua Skema Layanan Netra untuk Pelanggan
Netra menawarkan Private Deployment, yakni pemasangan perangkat lunak langsung pada GPU milik pelanggan. Data diproses di lingkungan infrastruktur internal perusahaan, cocok bagi organisasi yang menuntut kendali penuh atas data dan sistemnya.
Skema kedua Netra Cloud berbasis API. Pelanggan tidak perlu menyediakan GPU sendiri, cukup mengakses layanan dan membayar sesuai jumlah token yang digunakan. Layanan ini disebut kompatibel dengan API OpenAI sehingga memudahkan migrasi dari model yang sudah berjalan.
Traksi: 288 Miliar Token dan 1.415 Pengguna
Data perusahaan hingga 28 Oktober 2026 menunjukkan Netra telah memproses 288 miliar token. Pada pekan sebelumnya, rata-rata pemrosesan mencapai 6,14 miliar token per hari dengan rekor tertinggi 12,47 miliar token dalam sehari.
Platform Netra tercatat memiliki 1.415 pengguna terdaftar dan 19 mitra. Angka ini menempatkan Netra di segmen infrastruktur AI yang masih sedikit pemainnya di Indonesia, terutama yang menyasar deployment privat untuk enterprise.
Klaim Performa: AMD MI350X versus NVIDIA B300
Netra memaparkan hasil pengujian internalnya. Pada pengujian prefill, sistem mencatat kecepatan 73.527 token masukan per detik pada tingkat concurrency 32.
Untuk pengujian decode, konfigurasi empat GPU AMD Instinct MI350X mencatat 5.062 token keluaran per detik. Konfigurasi dua GPU NVIDIA B300 menghasilkan 2.870 token per detik, sedangkan empat GPU NVIDIA B300 mencatat 2.497 token per detik.
Angka tersebut berasal dari pengujian perusahaan sendiri dan belum diverifikasi pihak independen. Pembandingan antar-konfigurasi GPU perlu dibaca hati-hati karena bergantung pada beban kerja, versi driver, dan optimasi perangkat lunak yang dipakai.
Mengapa Infrastruktur Inferensi Jadi Rebutan
Biaya inferensi umumnya mendominasi pengeluaran operasional layanan AI setelah model selesai dilatih. Setiap permintaan pengguna membebani GPU, sehingga efisiensi di lapisan ini berdampak langsung ke margin layanan.
Di pasar Indonesia, kebutuhan itu muncul dari perusahaan yang mulai mengoperasikan chatbot layanan pelanggan, pemrosesan dokumen, hingga analitik internal. Sebagian memilih deployment privat karena alasan kepatuhan data, sebagian lain memakai API agar tidak perlu berinvestasi hardware.
Pendanaan dari Init-6 memberi Netra modal untuk memperluas kapasitas layanan cloud dan menyasar klien enterprise. Besaran investasi tidak diungkap dalam bahan yang dipublikasikan.
