OPML: Optimasi teknologi pembelajaran mesin dalam aplikasi sistem blockchain

OPML(Optimistic pembelajaran mesin) adalah teknologi baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di atas sistem blockchain. Dibandingkan dengan ZKML, OPML memiliki biaya yang lebih rendah dan efisiensi yang lebih tinggi. Ambang partisipasinya sangat rendah, PC biasa dapat menjalankan model bahasa besar tanpa GPU, seperti 26GB 7B-LLaMA.

OPML mengadopsi mekanisme permainan verifikasi untuk memastikan desentralisasi dan verifiabilitas layanan ML. Alur kerjanya adalah sebagai berikut:

1. Pengirim meminta tugas layanan ML
2. Server menyelesaikan tugas dan mengirimkan hasilnya ke blok.
3. Validator memeriksa hasil, jika ada keberatan maka memulai permainan verifikasi
4. Melakukan arbitrase akhir pada kontrak pintar

Permainan Verifikasi Satu Tahap

Permainan verifikasi satu tahap menggunakan protokol penentuan posisi yang akurat, mirip dengan penghitungan delegasi (RDoC). Ini mencakup elemen kunci berikut:

• Membangun mesin virtual untuk eksekusi off-chain dan arbitrase on-chain (VM)
• Mewujudkan pustaka DNN ringan khusus, meningkatkan efisiensi inferensi model AI
• Menggunakan teknologi cross-compilation untuk mengompilasi kode inferensi AI menjadi instruksi VM
• Mengelola gambar VM dengan pohon Merkle, hanya mengunggah hash root ke blockchain

Pengujian menunjukkan bahwa inferensi model AI dasar dapat diselesaikan dalam waktu 2 detik di PC biasa, dan seluruh proses tantangan dapat diselesaikan dalam waktu 2 menit.

Permainan Verifikasi Multi-Tahap

Untuk mengatasi batasan dari protokol satu tahap, kami mengajukan permainan verifikasi multi-tahap:

• Hanya menghitung di VM pada tahap terakhir, tahap lainnya dapat dilakukan di lingkungan lokal
• Memanfaatkan sepenuhnya kemampuan akselerasi perangkat keras seperti CPU, GPU, TPU
• Meningkatkan performa eksekusi secara signifikan, mendekati tingkat lingkungan lokal

Sebagai contoh OPML dua tahap:

• Tahap kedua: Verifikasi pada grafik perhitungan, dapat menggunakan akselerasi GPU
• Tahap pertama: Mengubah perhitungan node tunggal menjadi eksekusi instruksi VM

Desain multi-tahap secara signifikan meningkatkan kinerja:

• Peningkatan kecepatan perhitungan α kali ( α adalah rasio percepatan GPU )
• Ukuran pohon Merkle berkurang dari O(mn) menjadi O(m+n)

Konsistensi dan Determinasi

Untuk memastikan konsistensi hasil ML, OPML menggunakan:

1. Algoritma tetap ( teknologi kuantifikasi ): menggunakan representasi presisi tetap, mengurangi kesalahan floating point
2. Perpustakaan floating point perangkat lunak: menjaga konsistensi lintas platform

Metode ini secara efektif menyelesaikan masalah perbedaan perhitungan floating point di berbagai lingkungan perangkat keras dan perangkat lunak.

Secara keseluruhan, OPML menyediakan solusi yang efisien dan biaya rendah untuk aplikasi AI di blockchain. Ini tidak hanya mendukung inferensi model, tetapi juga dapat digunakan untuk pelatihan model, merupakan kerangka kerja pembelajaran mesin yang umum.