Foto: TechCrunch — Gambar diambil dari sumber artikel asli untuk menghindari kesalahan informasi visual.
Kesepakatan ini menandai pergeseran struktural dari GPU ke chip inference yang lebih murah, membuka peluang bagi pasar berkembang seperti Indonesia untuk mengadopsi AI dengan biaya lebih rendah, meski dampak langsungnya masih bersifat jangka menengah.
- Seri Pendanaan
- Seed & Debt Financing
- Jumlah
- $415 million ($15 juta seed + $400 juta loan)
- Sektor
- AI cloud infrastructure
- Penggunaan Dana
- Pembelian chip inference SambaNova SN50 untuk membangun neocloud inference
- Investor
- Upper90
Ringkasan Eksekutif
General Compute, startup inference cloud asal AS, mendapatkan pinjaman $400 juta dari Upper90 dengan jaminan chip inference khusus SambaNova SN50. Kesepakatan ini menjadi yang pertama kali menjadikan chip inference sebagai kolateral, menandai babak baru pendanaan infrastruktur AI. Sebelumnya, Upper90 mendanai pembelian GPU oleh Crusoe pada 2021, yang kemudian menjadi model bisnis yang diikuti CoreWeave hingga IPO. Kini, fokus bergeser ke inference — proses menjalankan model AI yang sudah terlatih — karena dianggap lebih efisien dan lebih murah dibandingkan training. Chip SN50 diklaim 16 kali lebih cepat dalam inferensi dibandingkan GPU, tanpa perlu sistem pendingin air yang mahal, sehingga bisa dipasang di lebih banyak pusat data.
General Compute sebelumnya mengantongi pendanaan seed $15 juta pada Mei lalu untuk membangun neocloud inference di atas silikon SambaNova, yang didukung Intel.
Langkah ini didorong oleh pesatnya pertumbuhan model open-source yang mampu menyaingi kinerja LLM dari laboratorium frontier seperti Anthropic dan OpenAI. Startup seperti OpenRouter dan Fireworks juga berhasil menggalang dana besar dengan valuasi tinggi, sementara pembuat chip alternatif seperti Groq dan Cerebras mulai menarik minat akuisisi dan pasar publik. Bagi Indonesia, tren ini membuka peluang adopsi AI dengan biaya lebih rendah. Infrastruktur inference yang lebih murah dapat mendorong perusahaan lokal — dari perbankan, e-commerce, hingga manufaktur — untuk mengintegrasikan model AI tanpa harus bergantung pada GPU mahal dari Nvidia. Namun, tantangan distribusi chip dan kesiapan pusat data di Indonesia masih menjadi hambatan.
Ke depan, investor dan pelaku bisnis perlu memantau bagaimana model open-source berkembang, apakah Nvidia akan merespons dengan chip inference yang lebih terjangkau, serta adopsi neocloud inference di Asia Tenggara. Jika tren ini berlanjut, ketergantungan pada GPU Nvidia bisa berkurang, mengubah lanskap kompetitif industri AI global secara fundamental.
Mengapa Ini Penting
Kesepakatan ini menandai momen penting: pasar mulai memberi harga pada efisiensi inferensi, bukan sekadar kekuatan komputasi murni. Jika model open-source dan chip inference khusus terus terbukti kompetitif, biaya adopsi AI bisa turun drastis. Bagi Indonesia, ini berarti potensi adopsi AI di segmen usaha kecil dan menengah menjadi lebih realistis. Perusahaan tidak perlu lagi berinvestasi pada GPU super mahal; cukup menyewa kapasitas inferensi dari neocloud yang lebih murah. Ini mengubah kalkulus investasi data center di dalam negeri.
Dampak ke Bisnis
- Tekanan pada model bisnis GPU hyperscaler: Dengan chip inference yang 16x lebih cepat dan lebih murah, penyedia cloud tradisional seperti AWS, Azure, dan GCP yang mengandalkan GPU Nvidia harus menyesuaikan harga atau kehilangan pangsa pasar AI inferensi. Pelanggan di Indonesia yang selama ini menggunakan GPU cloud mungkin beralih ke neocloud inference untuk aplikasi real-time seperti chatbot, rekomendasi, dan deteksi fraud.
- Peluang baru untuk pusat data di Indonesia: Chip inference tidak memerlukan pendingin cair dan lebih hemat daya, sehingga bisa dipasang di pusat data yang lebih terbatas infrastrukturnya. Ini membuka peluang bagi operator pusat data lokal untuk menawarkan layanan AI inferensi tanpa harus membangun fasilitas superkomputer. Perusahaan seperti Biznet, DCI, atau NeutraDC bisa memanfaatkan chip SambaNona atau Groq untuk menjadi hub inference regional.
- Disrupsi rantai pasok chip AI: Dominasi Nvidia di segmen training mulai tertandingi di segmen inferensi. Jika SambaNova, Groq, atau Cerebras berhasil merebut pangsa signifikan, startup AI Indonesia yang bergantung Nvidia mungkin harus diversifikasi vendor. Di sisi lain, kemitraan Nvidia dengan pemain lokal (misal Indosat, GoTo) bisa menjadi bumerang jika chip inference alternatif lebih cost-effective.
Yang Perlu Dipantau
- Yang perlu dipantau: perkembangan pendanaan dan adopsi neocloud inference di Asia Tenggara — apakah ada pemain lokal yang mulai meniru model General Compute? Jika ya, biaya inferensi di Indonesia bisa turun signifikan dalam 12–18 bulan.
- Risiko yang perlu dicermati: respons Nvidia — jika Nvidia meluncurkan chip inference khusus dengan harga agresif, keunggulan SambaNova/Groq bisa tergerus. Investor Indonesia yang terpapar perusahaan teknologi perlu mencermati perang harga chip AI.
- Sinyal penting: jumlah model open-source yang dirilis dan benchmark performanya terhadap model proprietary — jika kesenjangan terus menyempit, preferensi pasar akan bergeser ke open-source, memperkuat thesis inference murah dan berdampak positif bagi adopsi AI di Indonesia yang sensitif biaya.
Konteks Indonesia
Bagi Indonesia, tren inference chip yang lebih murah dan efisien berarti adopsi AI tidak lagi monopoli perusahaan besar dengan anggaran IT raksasa. UMKM dan startup bisa mengakses model open-source melalui neocloud yang biayanya lebih rendah. Ini sejalan dengan program pemerintah mendorong transformasi digital dan produktivitas. Selain itu, investasi pusat data di Indonesia (misal dari AWS, Google, Alibaba) bisa diarahkan ke infrastruktur inference yang lebih hemat energi, mengurangi beban listrik nasional. Namun, ketergantungan pada chip impor tetap menjadi risiko — jika pasokan chip SambaNova terbatas, Indonesia harus bersaing dengan pasar global.
Analisis ini dibuat oleh sistem AI Feedberry berdasarkan sumber berita publik dan tidak merupakan saran investasi atau keputusan bisnis. Selalu verifikasi dengan sumber primer.