AI không còn là độc quyền của các tập đoàn công nghệ! Tether ra mắt QVAC, liệu thời đại mà ai cũng có LLM riêng đã tới?

Ổn định tiền mã hóa Tether hôm nay (17) thông báo về bước đột phá công nghệ quan trọng của hạ tầng AI QVAC Fabric: ra mắt khung tinh chỉnh LoRA hỗ trợ đa nền tảng đầu tiên trên thế giới, cho phép các mô hình ngôn ngữ lớn trước đây cần GPU cấp doanh nghiệp và đám mây tính toán, nay có thể huấn luyện và suy luận trên phần cứng tiêu dùng phổ thông, thậm chí bao gồm điện thoại thông minh.

Điện thoại cũng có thể huấn luyện LLM: Mô hình 1B hoàn thành trong 1 giờ

Theo dữ liệu công bố của Tether, khung này đã thành công trong việc tinh chỉnh mô hình BitNet trên nhiều thiết bị khác nhau, bao gồm Samsung S25, iPhone 16.

Samsung S25 (GPU Adreno):

Mô hình 125 triệu tham số: hoàn thành tinh chỉnh trong khoảng 10 phút

Mô hình 1 tỷ tham số: khoảng 1 giờ 18 phút

iPhone 16 (GPU Apple):

10 tỷ tham số: khoảng 1 giờ 45 phút

Thử nghiệm tối đa đạt tới mô hình 13 tỷ tham số để tinh chỉnh

Trước đây, các nhiệm vụ huấn luyện AI thường chạy trên GPU cao cấp của NVIDIA, nay đã được nén gọn trên điện thoại và các thiết bị biên khác.

Công nghệ then chốt BitNet + LoRA: cắt giảm chi phí AI đến mức tối thiểu

Bước đột phá này dựa trên sự kết hợp của hai công nghệ:

BitNet (LLM 1-bit)

Nén trọng số độ chính xác cao truyền thống thành chỉ ba giá trị -1, 0, 1, giảm đáng kể yêu cầu về bộ nhớ và tính toán.

LoRA (Tương thích thấp)

Chỉ huấn luyện một lượng nhỏ tham số (giảm tới 99% lượng huấn luyện), giảm mạnh chi phí tinh chỉnh.

Kết hợp hai công nghệ này cho phép mô hình vận hành trong môi trường cực kỳ hạn chế về tài nguyên.

Thử nghiệm cho thấy BitNet-1B sử dụng VRAM ít hơn Gemma-3-1B 77.8%, và Qwen3-0.6B ít hơn 65.6%. Với phần cứng tương đương, có thể chạy mô hình lớn gấp khoảng 2 lần.

GPU mở khóa AI trên điện thoại: hiệu năng tối đa tăng 11 lần

Một bước đột phá khác của QVAC là giúp BitNet chạy thực sự trên hệ sinh thái không phải NVIDIA. Hỗ trợ GPU từ AMD, Intel, Apple Silicon, thậm chí cả GPU điện thoại như Adreno, Mali, Apple Bionic.

Mô hình ngôn ngữ lớn không còn là đặc quyền của các tập đoàn công nghệ lớn, AI cũng có thể phân quyền

Giám đốc điều hành Tether, Paolo Ardoino, cho biết: “Trí tuệ sẽ là yếu tố quyết định phát triển xã hội trong tương lai. Nó có tiềm năng nâng cao sự ổn định xã hội, trở thành cầu nối xã hội hoặc thúc đẩy các nhóm tinh hoa. Tương lai của trí tuệ nhân tạo nên là ai cũng có thể tiếp cận, ai cũng có thể sử dụng, ai cũng có thể sở hữu, chứ không nên bị chiếm đoạt bởi chỉ một số nhà cung cấp dịch vụ đám mây lớn.”

Phát triển AI truyền thống phụ thuộc nhiều vào đám mây và các tập đoàn GPU lớn, chi phí cao, công nghệ tập trung trong tay ít tập đoàn lớn. Nền tảng QVAC của Tether hỗ trợ huấn luyện các mô hình lớn ý nghĩa trên phần cứng tiêu dùng như điện thoại thông minh, chứng minh rằng trí tuệ nhân tạo tiên tiến có thể phân quyền và bao trùm hơn. Trong vài tháng tới, Tether sẽ tiếp tục đầu tư mạnh mẽ về nguồn lực và tài chính để đảm bảo AI có thể sử dụng mọi lúc, mọi nơi trên thiết bị cục bộ.

Bài viết này cho thấy AI không còn là đặc quyền của các tập đoàn công nghệ lớn! Tether ra mắt QVAC, thời điểm mọi người sở hữu LLM đã đến? Được đăng lần đầu trên Chain News ABMedia.

Xem bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận