OPML: Tối ưu hóa ứng dụng công nghệ học máy trong hệ thống Blockchain
OPML(Optimistic máy học) là một công nghệ mới, có thể thực hiện suy diễn và huấn luyện/tinh chỉnh mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có chi phí thấp hơn và hiệu quả cao hơn. Ngưỡng tham gia của nó rất thấp, PC thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn, chẳng hạn như 26GB 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và khả năng xác minh của dịch vụ ML. Quy trình làm việc của nó như sau:
Người yêu cầu khởi động nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi.
Các xác thực viên kiểm tra kết quả, nếu có bất đồng thì khởi động trò chơi xác thực.
Thực hiện trọng tài cuối cùng trên hợp đồng thông minh
Trò chơi xác minh một giai đoạn
Trò chơi xác thực một giai đoạn sử dụng giao thức định vị chính xác, tương tự như ủy thác tính toán (RDoC). Nó bao gồm các yếu tố chính sau:
Xây dựng máy ảo dành cho thực thi ngoài chuỗi và trọng tài trên chuỗi (VM)
Triển khai thư viện DNN nhẹ chuyên dụng, nâng cao hiệu suất suy diễn mô hình AI
Sử dụng công nghệ biên dịch chéo để biên dịch mã suy diễn AI thành lệnh VM
Sử dụng cây Merkle để quản lý hình ảnh VM, chỉ tải lên hash gốc lên chuỗi.
Các thử nghiệm cho thấy, trên máy tính cá nhân thông thường có thể hoàn thành suy diễn mô hình AI cơ bản trong vòng 2 giây, toàn bộ quá trình thách thức có thể hoàn thành trong 2 phút.
Trò chơi xác minh nhiều giai đoạn
Để khắc phục những hạn chế của giao thức một giai đoạn, chúng tôi đã đề xuất trò chơi xác minh nhiều giai đoạn:
Chỉ tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể thực hiện trong môi trường địa phương.
Tận dụng tối đa khả năng tăng tốc phần cứng như CPU, GPU, TPU
Tăng cường đáng kể hiệu suất thực thi, gần đạt mức môi trường địa phương
Lấy OPML hai giai đoạn làm ví dụ:
Giai đoạn hai: Thực hiện xác minh trên đồ thị tính toán, có thể sử dụng tăng tốc GPU
Giai đoạn đầu tiên: Chuyển đổi tính toán của một nút đơn thành thực thi lệnh VM
Thiết kế đa giai đoạn đã cải thiện đáng kể hiệu suất:
Tăng tốc độ tính toán lên α lần ( α là tỷ lệ tăng tốc GPU )
Kích thước Merkle cây giảm từ O(mn) xuống O(m+n)
Tính nhất quán và tính xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng:
Thuật toán định điểm ( công nghệ định lượng ): Sử dụng biểu diễn độ chính xác cố định, giảm thiểu lỗi dấu phẩy.
Thư viện số thực phần mềm: Duy trì tính nhất quán đa nền tảng
Những phương pháp này đã giải quyết hiệu quả vấn đề chênh lệch tính toán số thực trong các môi trường phần cứng và phần mềm khác nhau.
Tổng thể, OPML cung cấp một giải pháp hiệu quả và chi phí thấp cho các ứng dụng AI trên Blockchain. Nó không chỉ hỗ trợ suy diễn mô hình mà còn có thể được sử dụng cho việc đào tạo mô hình, là một khung máy học tổng quát.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
OPML: Blockchain AI công cụ mới chi phí thấp hiệu quả cao thực hiện Phi tập trung máy học
OPML: Tối ưu hóa ứng dụng công nghệ học máy trong hệ thống Blockchain
OPML(Optimistic máy học) là một công nghệ mới, có thể thực hiện suy diễn và huấn luyện/tinh chỉnh mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có chi phí thấp hơn và hiệu quả cao hơn. Ngưỡng tham gia của nó rất thấp, PC thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn, chẳng hạn như 26GB 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và khả năng xác minh của dịch vụ ML. Quy trình làm việc của nó như sau:
Trò chơi xác minh một giai đoạn
Trò chơi xác thực một giai đoạn sử dụng giao thức định vị chính xác, tương tự như ủy thác tính toán (RDoC). Nó bao gồm các yếu tố chính sau:
Các thử nghiệm cho thấy, trên máy tính cá nhân thông thường có thể hoàn thành suy diễn mô hình AI cơ bản trong vòng 2 giây, toàn bộ quá trình thách thức có thể hoàn thành trong 2 phút.
Trò chơi xác minh nhiều giai đoạn
Để khắc phục những hạn chế của giao thức một giai đoạn, chúng tôi đã đề xuất trò chơi xác minh nhiều giai đoạn:
Lấy OPML hai giai đoạn làm ví dụ:
Thiết kế đa giai đoạn đã cải thiện đáng kể hiệu suất:
Tính nhất quán và tính xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng:
Những phương pháp này đã giải quyết hiệu quả vấn đề chênh lệch tính toán số thực trong các môi trường phần cứng và phần mềm khác nhau.
Tổng thể, OPML cung cấp một giải pháp hiệu quả và chi phí thấp cho các ứng dụng AI trên Blockchain. Nó không chỉ hỗ trợ suy diễn mô hình mà còn có thể được sử dụng cho việc đào tạo mô hình, là một khung máy học tổng quát.