Synapse Software นำเทคโนโลยี TurboQuant มาใช้ เพื่อลดต้นทุนการประมวลผลเอกสารสำหรับ AI

ข้อความข่าว Gate News, 15 เมษายน — Synapse Software ได้บูรณาการ TurboQuant ซึ่งเป็นอัลกอริทึมการควอนไทซ์เวกเตอร์ที่พัฒนาโดย Google Research เข้ากับโซลูชัน Synap OCR IX ของตน เพื่อยกระดับความสามารถด้าน AI สำหรับเอกสาร ขณะเดียวกันก็ลดต้นทุนการนำ AI ไปใช้ในองค์กร

TurboQuant บีบอัดแคช KV ที่ใช้โดยโมเดลภาษาขนาดใหญ่ (LLMs) และโมเดลภาษาสำหรับงานด้านวิชัน (VLMs) ทำให้ลดการใช้หน่วยความจำเมื่อประมวลผลเอกสารขนาดยาว ซึ่งช่วยให้ประมวลผลข้อมูลได้เร็วขึ้นบนโครงสร้างพื้นฐาน GPU เดิม เทคโนโลยีนี้แก้ไขปัญหาคอขวดด้านหน่วยความจำที่ก่อนหน้านี้จำเป็นต้องใช้โครงสร้างพื้นฐาน GPU ที่มีราคาแพง โดยเฉพาะเมื่อจัดการบริบทที่ยาวขึ้นและการประมวลผลแบบแบตช์ขนาดใหญ่โดยไม่ทำให้ประสิทธิภาพลดลง

Synapse Software ยังรองรับสภาพแวดล้อมที่ขับเคลื่อนด้วย CPU สำหรับองค์กรที่ไม่สามารถนำโครงสร้างพื้นฐาน GPU ไปใช้ได้ ผ่านการทำ precision profiling บริษัททำได้สำเร็จในการประมวลผลแบบอินเฟอเรนซ์ด้วย CPU เพียงอย่างเดียวที่ประมาณ 100 เอกสารต่อนาที โดยรักษาการสูญเสียคุณภาพไว้ต่ำกว่า 1% ลดต้นทุนรวมในการเป็นเจ้าของ (TCO) แนวทางโครงสร้างพื้นฐานที่ยืดหยุ่นนี้ทำให้การนำ AI OCR ไปใช้ได้ในภาคส่วนที่อ่อนไหวต่อความปลอดภัย เช่น การเงินและการบริหารสาธารณะ ซึ่งก่อนหน้านี้การใช้งานแบบ on-premises และข้อจำกัดด้านโครงสร้างพื้นฐานเคยเป็นอุปสรรคต่อการนำ AI ไปปฏิบัติ

news.article.disclaimer

btc.bar.articles

CEX รายใหญ่ยกระดับระบบตรวจจับการทุจริตด้วยการเรียนรู้ของเครื่องและเอนจินแบบกฎ ลดเวลาการตอบสนองเหลือชั่วโมง

ข้อความจาก Gate News วันที่ 23 เมษายน — การแลกเปลี่ยนแบบรวมศูนย์รายใหญ่ประกาศการปรับโครงสร้างระบบต่อต้านการทุจริตครั้งใหญ่ โดยนำโมเดลการเรียนรู้ของเครื่องมาผสานกับเอนจินที่อิงกฎ พร้อมใช้กลยุทธ์แบบสองแทร็กที่โมเดลทำหน้าที่ป้องกันในระยะยาว และกฎช่วยให้ตอบสนองได้อย่างรวดเร็ว กรอบงานแบบรวมศูนย์

GateNews11 นาที ที่แล้ว

Cluster Protocol ระดมทุน $5M ล้านดอลลาร์ โดย DAO5 เป็นผู้นำรอบ

ข้อความ Gate News ประจำวันที่ 23 เมษายน — Cluster Protocol ซึ่งเป็นบริษัทด้าน deep tech ด้าน AI และโครงสร้างพื้นฐาน Web3 ประกาศเสร็จสิ้นรอบระดมทุนจำนวน $5 ล้านดอลลาร์ที่นำโดย DAO5 โดยมี Paper Ventures, JPEG Trading และ Mapleblock Capital เข้าร่วมด้วย เงินทุนสะสมทั้งหมดของบริษัท ณ ปัจจุบันอยู่ที่ 7.75 ล้านดอลลาร์

GateNews1 ชั่วโมง ที่แล้ว

OristaPay เปิดตัวเกตเวย์การชำระเงินสำหรับ AI ของ Telegram ด้วย TON และ BytePlus

ข้อความข่าว Gate ฉบับวันที่ 23 เมษายน — OristaPay ซึ่งเป็นแบรนด์ภายใต้ Yuanbi Technology ได้ประกาศในวันนี้ที่งาน TON AI Builders Day และงานประชุมสุดยอดการร่วมสร้างระบบนิเวศ AI ของ Telegram ณ ฮ่องกง ว่าบริษัทได้จัดตั้งโซลูชันการชำระเงินแบบครบวงจรสำหรับเอเจนต์ AI ที่ปฏิบัติการบนระบบนิเวศของ Telegram ระหว่างการสาธิตสด

GateNews3 ชั่วโมง ที่แล้ว

FTX ออกจำหน่ายหุ้น 5% ของ Cursor ด้วยราคา 200,000 ดอลลาร์สหรัฐ: ภายหลังการประเมินมูลค่าของ SpaceX แล้วมีมูลค่าอยู่ที่ 3 พันล้านดอลลาร์สหรัฐ

ตามรายงานของ CoinDesk เมื่อวันที่ 4/23 ผู้ดูแลการล้มละลายของ FTX ได้ขายสิทธิ์ประมาณ 5% ใน Anysphere ที่ Alameda Research ถืออยู่ในราคา 200,000 ดอลลาร์สหรัฐในปี 2023 ซึ่งเป็นบริษัทพัฒนาโปรแกรมแก้ไขโค้ดด้วย AI อย่าง Cursor หากคำนวณจากมูลค่า 60,000 ล้านดอลลาร์สหรัฐที่ SpaceX เพิ่งมีการหารือกัน การถือครองดังกล่าวในปัจจุบันมีมูลค่าประมาณ 3,000 ล้านดอลลาร์สหรัฐ ซึ่งเทียบเท่ากับ 15,000 เท่าของราคาที่ใช้ในการชำระบัญชีในวันนั้น Alameda ได้รับสิทธิ์ 5% มูลค่า 200,000 ดอลลาร์สหรัฐในปี 2022 CoinDesk ระบุว่า Alameda Research เข้าร่วม Anysphere ระดับ 400,000 ดอลลาร์สหรัฐในเดือน 4 ปี 2022 ซึ่ง

ChainNewsAbmedia3 ชั่วโมง ที่แล้ว

BT และ Nscale ที่ได้รับการสนับสนุนจาก Nvidia สร้างศูนย์ข้อมูล AI ขนาด 14MW ครอบคลุมไซต์ทั่วสหราชอาณาจักร

ข้อความจาก Gate News, 23 เมษายน — BT ซึ่งเป็นบริษัทโทรคมนาคมของสหราชอาณาจักร ประกาศความร่วมมือกับ Nscale เพื่อพัฒนาความสามารถศูนย์ข้อมูลสำหรับ AI ที่ไซต์ของ BT ในสหราชอาณาจักรสามแห่ง โดยใช้โครงสร้างพื้นฐานของ Nvidia โครงการนี้จะมอบความจุได้สูงสุดถึง 14 เมกะวัตต์ โดย BT จะเป็นผู้จัดหาโครงสร้างพื้นฐานของไซต์และการเชื่อมต่อเครือข่าย

GateNews4 ชั่วโมง ที่แล้ว

Lenovo เปิดตัว AI Hub ที่ Hong Kong-Shenzhen Tech Park

ตามรายงานของซินหัว บริษัท Lenovo ได้เปิดศูนย์นวัตกรรมด้านปัญญาประดิษฐ์เมื่อวันที่ 23 เมษายน ที่อุทยานนวัตกรรมและเทคโนโลยีแห่งฮ่องกง-เซินเจิ้น จากการเคลื่อนไหวดังกล่าว ทำให้ Lenovo เป็นหนึ่งในบริษัทเทคโนโลยีข้ามชาติขนาดใหญ่รายแรกๆ ที่จัดตั้งการดำเนินงานในอุทยาน Innovation ของฮ่องกง

CryptoFrontier6 ชั่วโมง ที่แล้ว
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น