Pesan Berita Gate, 15 April — Synapse Software telah mengintegrasikan TurboQuant, sebuah algoritma kuantisasi vektor yang dikembangkan oleh Google Research, ke dalam solusi Synap OCR IX miliknya untuk meningkatkan kemampuan AI dokumen sekaligus mengurangi biaya adopsi AI perusahaan.

TurboQuant mengompresi cache KV yang digunakan oleh model bahasa besar (LLMs) dan model bahasa penglihatan (VLMs), sehingga mengurangi konsumsi memori saat memproses dokumen panjang. Ini memungkinkan pemrosesan data yang lebih cepat pada infrastruktur GPU yang sama. Teknologi ini mengatasi hambatan memori yang sebelumnya memerlukan infrastruktur GPU yang mahal, terutama untuk menangani konteks yang diperpanjang dan pemrosesan batch besar tanpa penurunan kinerja.

Synapse Software juga mendukung lingkungan berbasis CPU bagi perusahaan yang tidak dapat menerapkan infrastruktur GPU. Melalui precision profiling, perusahaan tersebut mencapai pemrosesan inferensi hanya CPU untuk sekitar 100 dokumen per menit dengan penurunan kualitas dijaga di bawah 1%, sehingga menurunkan total biaya kepemilikan (TCO). Pendekatan infrastruktur yang fleksibel memungkinkan adopsi AI OCR di sektor yang sensitif terhadap keamanan seperti keuangan dan administrasi publik, di mana penerapan di lokasi (on-premises) dan keterbatasan infrastruktur sebelumnya menghambat implementasi AI.

Lihat Sumber

Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.