OPML: Blok Zinciri sistemlerinde makine öğrenimi tekniklerinin optimizasyonu

OPML(Optimistik Makine Öğrenimi), blok zinciri sistemlerinde AI model çıkarımı ve eğitimi/ince ayar yapmak için kullanılan yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML daha düşük maliyet ve daha yüksek verimlilik sunar. Katılım eşiği oldukça düşüktür; sıradan bir PC, 26GB'lık 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.

OPML, ML hizmetinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanır. Çalışma akışı şöyledir:

1. Talep eden ML hizmeti görevini başlatır.
2. Sunucu görevi tamamlar ve sonucu zincire gönderir.
3. Doğrulayıcı sonuçları kontrol eder, eğer itiraz varsa doğrulama oyunu başlatılır.
4. Akıllı sözleşme üzerinde nihai tahkim gerçekleştirmek

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı doğrulama oyunu, hesaplama yetkilendirmesine benzer bir hassas konumlandırma protokolü kullanır (RDoC). Aşağıdaki ana unsurları içerir:

• Zincir dışı yürütme ve zincir içi tahkim için sanal makine (VM)
• Özel hafif DNN kütüphanesi geliştirin, AI modelinin çıkarım verimliliğini artırın
• AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullanın
• VM görüntülerini yönetmek için Merkle ağacı kullanarak, yalnızca kök hash'i zincire yükleyin

Testler, sıradan bir PC'de temel AI modelinin çıkarımının 2 saniye içinde tamamlanabileceğini, tüm zorluk sürecinin ise 2 dakika içinde tamamlanabileceğini göstermektedir.

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı protokolün sınırlamalarını aşmak için çok aşamalı doğrulama oyunu öneriyoruz:

• Sadece son aşamada VM'de hesaplama yapılır, diğer aşamalar yerel ortamda yürütülebilir.
• CPU, GPU, TPU gibi donanım hızlandırma yeteneklerinden tam olarak yararlanma
• Yerel ortam seviyesine yakın şekilde yürütme performansını önemli ölçüde artırın

İki aşamalı OPML örneği olarak:

• İkinci aşama: Hesaplama grafiği üzerinde doğrulama yapmak, GPU hızlandırma kullanılabilir.
• Birinci Aşama: Tek bir düğüm hesaplamasını VM talimatı yürütmesine dönüştürmek

Çok aşamalı tasarım performansı önemli ölçüde artırdı:

• Hesaplama hızı α kat ( α GPU hızlandırma oranı )
• Merkle ağacının boyutu O(mn)'den O(m+n)'e küçüldü.

Tutarlılık ve Belirlilik

ML sonuçlarının tutarlılığını sağlamak için OPML şunları kullanır:

1. Sabit Nokta Algoritması ( Nicem Teknolojisi ): Sabit hassasiyet kullanarak, kayan nokta hatalarını azaltır.
2. Yazılım kayan nokta kütüphanesi: Çoklu platformda tutarlılığı sağlamak

Bu yöntemler, farklı donanım ve yazılım ortamlarındaki kayan nokta hesaplama farklılıklarını etkili bir şekilde çözmektedir.

Genel olarak, OPML, Blok Zinciri üzerindeki AI uygulamaları için verimli ve düşük maliyetli bir çözüm sunmaktadır. Bu, model çıkarımını desteklemenin yanı sıra, model eğitimi için de kullanılabilir, evrensel bir makine öğrenimi çerçevesidir.