• ModelSphere menyederhanakan penerapan dan pengoperasian model AI berskala besar di perusahaan serta meningkatkan throughput puncak hingga 285% (hampir 4 kali lipat dibandingkan kinerja dasar).
  • Membangun fondasi AI yang lebih terbuka dan tidak bergantung pada jenis chip tertentu untuk penerapan dalam skala besar.
  • Gratis dan bersifat sumber terbuka bagi pengguna perusahaan, serta kini tersedia di GitHub.

BEIJING, TIONGKOK – Media OutReach Newswire – 16 Oktober 2026 – Phancy Group Co., Ltd. (“Phancy” atau “Grup”, kode saham: 6682.HK), penyedia platform layanan cloud AI perusahaan terpadu (full-stack) terkemuka, bersama RiseUnion Technology Co., Ltd. (“RiseUnion”), hari ini mengumumkan peluncuran resmi ModelSphere, sebuah platform penerapan AI terpadu yang dirancang untuk memenuhi kebutuhan operasional produksi (production-grade).

ModelSphere tersedia secara gratis dan bersifat sumber terbuka (open source) bagi pengguna perusahaan. Platform ini mengintegrasikan pengelolaan sumber daya komputasi, penerapan model, dan optimalisasi waktu operasional (runtime) ke dalam satu platform. ModelSphere menurunkan hambatan dalam proses penerapan dan pengoperasian, sehingga membantu perusahaan mengubah daya komputasi menjadi layanan AI yang aman, stabil, dan siap digunakan dalam operasional bisnis nyata secara lebih efisien.

Seiring dengan semakin luasnya penerapan model berskala besar untuk kebutuhan komersial, perusahaan umumnya menghadapi sejumlah tantangan, seperti rendahnya pemanfaatan sumber daya, ekosistem chip yang terfragmentasi, tingginya hambatan penerapan, serta sulitnya melakukan penyesuaian di lingkungan produksi. ModelSphere bertujuan mengintegrasikan koordinasi sumber daya komputasi, penerapan model, dan optimalisasi kinerja ke dalam satu alur kerja penerapan dan pengelolaan yang terpadu. Dengan demikian, platform ini mengurangi pekerjaan berulang yang harus dilakukan perusahaan dalam penyesuaian sistem tingkat rendah, penjadwalan sumber daya, dan operasional sehari-hari.

Phancy meyakini bahwa perusahaan seharusnya dapat memanfaatkan model berskala besar tanpa harus memiliki keahlian internal yang mendalam dalam bidang kompleks, seperti kompilasi driver dan adaptasi perangkat keras. ModelSphere dirancang untuk menjembatani kesenjangan tersebut dengan memungkinkan perusahaan mengintegrasikan beragam model AI berskala besar sumber terbuka ke dalam proses bisnis inti. Pada saat yang sama, tim teknis dapat lebih berfokus pada pengembangan aplikasi dan kebutuhan bisnis.

Empat Keunggulan Utama ModelSphere

1. Penerapan yang lebih sederhana dan layanan model yang stabil

ModelSphere menyediakan konsol grafis dan kemampuan penerapan siap pakai (pre-built deployment) yang mengurangi kebutuhan pengembang untuk menulis kode konfigurasi lingkungan. Hal ini membantu mereka menyiapkan layanan inferensi untuk model berskala besar dengan cepat sekaligus menyederhanakan penerapan di berbagai klaster chip. Fitur bawaan berstandar perusahaan, termasuk penskalaan elastis otomatis, penerapan terdisagregasi prefill-decode (PD), caching KV tiga tingkat, penyeimbangan beban dengan ketersediaan tinggi, serta pemulihan aliran data secara otomatis setelah gangguan layanan, memastikan layanan model tetap berjalan stabil di lingkungan produksi.

2. Optimalisasi otomatis berkelanjutan untuk meningkatkan efisiensi

Strategi penjadwalan model cerdas AutoTune yang terintegrasi dalam platform ini, dikombinasikan dengan penjadwalan penyeimbangan beban adaptif yang memanfaatkan akselerasi perangkat keras, meningkatkan kapasitas penanganan permintaan dan mempercepat waktu hingga token pertama dihasilkan (time to first token atau TTFT), sekaligus menurunkan biaya inferensi per token. AutoTune yang terintegrasi mampu meningkatkan throughput puncak sekitar 285% dibandingkan dengan kinerja dasar (baseline). Peningkatan ini membuat kinerja keseluruhan mencapai hampir empat kali lipat dari tingkat sebelumnya sekaligus memaksimalkan pemanfaatan daya komputasi yang tersedia.

3. Pengelolaan terpadu berbagai jenis chip tanpa adaptasi berulang

Terintegrasi dengan mesin inferensi EngineX, ModelSphere mendukung dan dioptimalkan secara mendalam untuk berbagai akselerator AI. Platform ini memungkinkan penjadwalan terpadu maupun campuran atas seluruh sumber daya komputasi, termasuk Huawei Ascend, Iluvatar CoreX, Moore Threads, dan Hygon DCU. Dengan demikian, pengguna tidak perlu menulis ulang kode tingkat rendah untuk setiap jenis chip.

4. Optimalisasi berkelanjutan untuk model-model utama dan penerapan yang lebih cepat

Tim ModelSphere secara aktif mengikuti perkembangan dan pembaruan dalam komunitas sumber terbuka. Platform ini telah diadaptasi dan dioptimalkan untuk sejumlah model terkemuka, termasuk DeepSeek-V4/V4-Flash, Qwen, Kimi, MiniMax, dan GLM. Model-model baru dapat diterapkan dengan cepat setelah dirilis dan disesuaikan hingga mencapai kinerja berstandar produksi. Hal ini membantu perusahaan memanfaatkan model-model terbaru dalam skenario bisnis nyata.

Posisi ModelSphere dalam Tumpukan Teknologi AI (AI Stack)

Pada tingkat teknis, ModelSphere bekerja berdampingan dengan mesin inferensi seperti vLLM dan SGLang. Mesin inferensi berfokus pada peningkatan efisiensi komputasi di masing-masing server, sedangkan ModelSphere menangani pengelolaan dan optimalisasi pada tingkat arsitektur klaster. Kemampuan tersebut mencakup perutean permintaan yang mempertimbangkan beban kerja dan cache, kumpulan cache KV terpadu, penskalaan otomatis berdasarkan kualitas layanan (quality of service atau QoS), pemulihan aliran data secara otomatis setelah gangguan layanan, penyesuaian kinerja otomatis berdasarkan data operasional produksi secara langsung, pemantauan waktu operasional (runtime monitoring), serta pengelolaan layanan. Secara bersama-sama, seluruh kemampuan ini memastikan kinerja tinggi dan ketersediaan layanan yang tinggi di lingkungan produksi.

Dengan menjadikan ModelSphere sebagai perangkat lunak sumber terbuka, Phancy membuka akses terhadap kemampuan rekayasa teknisnya dalam penerapan dan optimalisasi model berskala besar bagi lebih banyak perusahaan dan pengembang. Langkah ini juga mendorong kolaborasi dengan para mitra industri untuk terus memperluas dukungan terhadap berbagai jenis chip dan model. Inisiatif tersebut akan mengurangi hambatan adaptasi perangkat keras dan menurunkan ambang adopsi model berskala besar, sehingga membantu perusahaan memaksimalkan pemanfaatan sumber daya komputasi yang telah dimiliki serta membuka potensi komersial komputasi heterogen secara lebih efisien.

Ketersediaan

ModelSphere kini tersedia di GitHub melalui tautan https://github.com/modelsphere/modelsphere dengan menggunakan lisensi Apache 2.0.

Tentang Phancy Group

Phancy Group (6682.HK) merupakan platform layanan cloud AI terpadu (full-stack) terkemuka yang menyediakan solusi komprehensif untuk era AI 2.0. Produk dan layanan yang ditawarkan mencakup SageAIOS, HAMi vGPU, dan ModelHub XC, yang menghadirkan infrastruktur AI yang efisien dan skalabel dengan kemampuan menyeluruh dari awal hingga akhir (end-to-end). Kami menyediakan solusi lengkap, mulai dari pengelolaan dan optimalisasi sumber daya komputasi heterogen hingga penerapan model agen cerdas (intelligent agent models). Solusi-solusi ini mendukung transformasi digital di berbagai sektor industri, sekaligus mewujudkan visi kami untuk membangun “Pabrik Token” (Token Factory) berskala besar dan efisien.

Berpedoman pada misi “AI untuk Semua” (AI for Everyone) dan memosisikan diri sebagai “Navigator AI” (Navigator of AI), Phancy Group berkomitmen untuk menjadi pemimpin global dalam bidang Kecerdasan Umum Buatan (Artificial General Intelligence atau AGI).