Kripto AI'nin Kutsal Kâsesi: Merkeziyetsizlik Eğitiminin Sınırlarını Keşfetmek

AI'nın tam değer zincirinde, model eğitimi kaynak tüketiminin en fazla olduğu ve teknik engelin en yüksek olduğu aşamadır, doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarım aşamasındaki hafif çağrılara kıyasla, eğitim süreci sürekli büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunlukta optimizasyon algoritması desteği gerektirir, bu da AI sistemlerinin inşasında gerçek bir "ağır sanayi"dir. Mimari paradigması açısından, eğitim yöntemleri dört kategoriye ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede odaklanılan Merkeziyetsizlik eğitimi.

Merkeziyetsizlik eğitimi en yaygın geleneksel yöntemdir, tek bir kuruluşun yerel yüksek performanslı küme içinde tüm eğitim süreçlerini tamamladığı bir yöntemdir; donanım, alt yazılım, küme zamanlama sistemi ve eğitim çerçevesinin tüm bileşenleri, tek bir kontrol sistemi tarafından koordine edilir. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır, GPT, Gemini gibi büyük ölçekli modellerin eğitimine çok uygundur, yüksek verimlilik ve kontrol edilebilir kaynaklar gibi avantajlara sahiptir, ancak aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunlar da barındırmaktadır.

Dağıtık eğitim, günümüz büyük model eğitiminin ana akım yolu olup, bunun temelinde model eğitim görevlerinin parçalanarak birden fazla makineye dağıtılması ve işbirliği içinde yürütülmesi yatmaktadır. Bu sayede tek makine hesaplama ve depolama darboğazları aşılmaktadır. Fiziksel olarak "dağıtık" özelliklere sahip olmasına rağmen, genel olarak merkezi bir kuruluş tarafından kontrol edilen, planlanan ve senkronize edilen bir yapıdadır. Genellikle yüksek hızlı yerel alan ağları ortamında çalışmakta olup, NVLink yüksek hızlı bağlantı teknolojisi aracılığıyla ana düğüm, alt görevleri merkezi olarak koordine etmektedir. Ana akım yöntemler şunlardır:

• Veri paralelliği: Her bir düğüm farklı veri parametrelerini paylaşarak eğitiyor, model ağırlıklarının eşleşmesi gerekiyor.
• Model paralelliği: Modelin farklı bölümlerini farklı düğümlere dağıtarak güçlü ölçeklenebilirlik sağlama.
• Boru hattı paralel: Aşamalı seri yürütme, throughput'u artırır.
• Tensör paralelliği: Matris hesaplamalarını ince ayar yaparak, paralel granülasyonu artırma

Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur, aynı patronun uzaktan birden fazla "ofis" çalışanını görevleri tamamlamak için işbirliği yapmaya yönlendirmesiyle kıyaslanabilir. Şu anda neredeyse tüm ana akım büyük modeller bu şekilde eğitim tamamlamaktadır.

Merkeziyetsizlik eğitimi, daha açık ve sansüre karşı dayanıklı bir geleceği temsil eder. Bunun temel özellikleri şunlardır: Birbirine güvenmeyen birçok düğüm, merkezi bir koordinatör olmaksızın eğitim görevlerini işbirliği içinde tamamlar; genellikle protokoller aracılığıyla görev dağıtımı ve işbirliği sağlanır ve kripto teşvik mekanizmaları katkının dürüstlüğünü güvence altına alır. Bu modelin karşılaştığı başlıca zorluklar şunlardır:

• Cihaz heterojenliği ve bölme zorluğu: Heterojen cihazların koordinasyonu zor, görev bölme verimliliği düşük
• İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyonu darboğazı belirgin.
• Güvenilir yürütme eksikliği: Güvenilir bir yürütme ortamının olmaması, düğümlerin gerçekten hesaplamaya katılıp katılmadığını doğrulamayı zorlaştırır.
• Birlikteliğin eksikliği: Merkezî bir denetleyici yok, görev dağıtımı ve istisnai geri alma mekanizması karmaşık

Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, her birinin hesaplama gücünü katkıda bulunarak model eğitimi gerçekleştirmesi olarak anlaşılabilir. Ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hâlâ sistematik bir mühendislik zorluğudur; sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulama gibi birçok yönü kapsamaktadır. Ancak "işbirliği etkili + dürüstlüğü teşvik etme + doğru sonuçlar" sağlanıp sağlanamayacağı henüz erken prototip keşif aşamasındadır.

Federated learning, dağıtılmış ve Merkeziyetsizlik arasında bir geçiş biçimi olarak, verilerin yerel olarak saklanmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular, gizlilik uyumuna önem veren senaryolar için uygundur. Federated learning, dağıtılmış eğitim yapısına ve yerel işbirliği yeteneğine sahipken, aynı zamanda Merkeziyetsizlik eğitimindeki veri dağıtım avantajlarını da taşır, ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı özelliklere sahip değildir. Gizlilik uyum senaryolarında "kontrollü Merkeziyetsizlik" çözümü olarak görülebilir, eğitim görevleri, güven yapısı ve iletişim mekanizmaları açısından daha ılımlıdır, sanayi için geçiş aşaması dağıtım mimarisi olarak daha uygundur.

Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları

Eğitim paradigması açısından, Merkeziyetsizlik eğitimi tüm görev türleri için uygun değildir. Bazı senaryolar, görev yapısının karmaşık, kaynak gereksinimlerinin çok yüksek veya iş birliği zorluğunun büyük olması nedeniyle, heterojen, güvenilmez düğümler arasında verimli bir şekilde tamamlanması için doğası gereği uygun değildir. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliğine bağımlıdır, açık ağlarda etkili bir şekilde bölünmesi ve senkronize edilmesi zordur; veri gizliliği ve egemenlik kısıtlamaları güçlü olan görevler, yasal uyum ve etik kısıtlamalar nedeniyle paylaşımda bulunamaz; iş birliği teşviklerinin eksik olduğu görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlar, mevcut Merkeziyetsizlik eğitiminin gerçek kısıtlamalarını oluşturmaktadır.

Ancak bu, merkeziyetsiz eğitimin sahte bir kavram olduğu anlamına gelmez. Aslında, yapısal olarak hafif, kolayca paralel hale getirilebilen ve teşvik edici görev türlerinde, merkeziyetsiz eğitimin belirgin bir uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış uyumlu sonrası eğitim görevleri, veri kalabalığı eğitimi ve etiketleme görevleri, kaynak kontrol edilebilir küçük temel model eğitimi ve kenar cihazların dahil olduğu işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevlerin genellikle yüksek paralellik, düşük bağlılık ve heterojen hesaplama gücüne tolerans özellikleri vardır, bu nedenle P2P ağı, Swarm protokolü, dağıtık optimizörler gibi yöntemlerle işbirlikçi eğitim için son derece uygundurlar.

Merkeziyetsizlik eğitim klasik proje analizi

Şu anda merkeziyetsizlik eğitim ve federatif öğrenme alanında, temsilci blockchain projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknik yenilikçilik ve mühendislik gerçekleştirme zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai, sistem mimarisi ve algoritma tasarımı konusunda birçok özgün keşif önermiştir ve mevcut teorik araştırmanın öncü yönlerini temsil etmektedir; Gensyn ve Flock.io'nun gerçekleştirme yolları ise görece daha nettir ve ilk mühendislik ilerlemeleri görülebilmektedir. Bu yazıda, bu beş projenin arkasındaki temel teknolojiler ve mühendislik mimarilerini sırayla analiz edecek ve merkeziyetsizlik AI eğitim sistemindeki farklılıkları ve tamamlayıcı ilişkilerini daha da inceleyeceğiz.

Prime Intellect: Eğitim izleri doğrulanabilir pekiştirme öğrenimi işbirliği ağı öncüsü

Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı inşa etmeye kendini adamıştır; böylece herkes eğitime katılabilir ve hesaplama katkıları için güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST üç ana modülü aracılığıyla, doğrulanabilirlik, açıklık ve teşvik mekanizmalarıyla donatılmış bir AI merkeziyetsizlik eğitim sistemi inşa etmeyi hedeflemektedir.

01, Prime Intellect protokol yığını yapısı ve ana modül değerleri

02, Prime Intellect eğitim ana mekanizmalarının detaylı açıklaması

#PRIME-RL: Ayrık Asenkron Güçlendirme Öğrenimi Görev Mimarisi

PRIME-RL, Prime Intellect tarafından merkeziyetsiz eğitim senaryoları için özelleştirilmiş bir görev modelleme ve yürütme çerçevesidir ve heterojen ağlar ile eşzamanlı katılımcılar için tasarlanmıştır. Güçlendirme öğrenimini öncelikli uyum nesnesi olarak kullanır, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız olarak görev döngüsünü tamamlayabilir ve standart arayüzler aracılığıyla doğrulama ve birleştirme mekanizmaları ile işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL merkezi bir zamanlamanın olmadığı ortamlarda esnek eğitim gerçekleştirmek için daha uygundur, hem sistem karmaşıklığını azaltır hem de çoklu görev paralelliği ve strateji evrimi için bir temel oluşturur.

#TOPLOC:Ağırlığı az olan eğitim davranışını doğrulama mekanizması

TOPLOC, Prime Intellect tarafından önerilen, bir düğümün gerçekten gözlem verilerine dayanarak etkili bir strateji öğrenimi gerçekleştirip gerçekleştirmediğini belirlemek için kullanılan, doğrulanabilirlik eğitimi için temel bir mekanizmadır. ZKML gibi ağır çözümlerle karşılaştırıldığında, TOPLOC tam model yeniden hesaplamasına dayanmaz, bunun yerine "gözlem dizisi ↔ strateji güncellemesi" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulamasını tamamlar. İlk kez, eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştürmektedir; bu, güvenmeye gerek kalmadan eğitim ödül dağıtımını sağlamanın anahtar yeniliğidir ve denetlenebilir, teşvik edici Merkeziyetsizlik işbirlikçi eğitim ağları kurmak için uygulanabilir bir yol sunar.

#SHARDCAST: Asenkron Ağırlık Birleştirme ve Yayılma Protokolü

SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve toplama protokolüdür; asenkron, bant genişliği kısıtlı ve düğüm durumu değişken olan gerçek ağ ortamları için optimize edilmiştir. Gossip yayılım mekanizması ve yerel senkronizasyon stratejisini birleştirerek, birden fazla düğümün senkronize olmayan durumlarda sürekli olarak kısmi güncellemeler göndermesine olanak tanır, bu da ağırlıkların kademeli olarak yoğunlaşmasını ve çoklu versiyon evrimini sağlar. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST merkeziyetsizlikle eğitim için ölçeklenebilirliği ve hata toleransını önemli ölçüde artırır, bu da kararlı ağırlık uzlaşmaları ve sürekli eğitim döngüleri oluşturmak için temel bir yapı taşını temsil eder.

#OpenDiLoCo:Seyrek Asenkron İletişim Çerçevesi

OpenDiLoCo, Prime Intellect ekibinin DeepMind tarafından önerilen DiLoCo kavramını bağımsız olarak uygulayıp açık kaynak yaptığı bir iletişim optimizasyon çerçevesidir. Özellikle merkeziyetsizlik eğitiminde yaygın olarak karşılaşılan bant genişliği kısıtları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için tasarlanmıştır. Mimarisi veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları oluşturarak küresel senkronizasyonun yüksek iletişim maliyetlerinden kaçınmakta ve yalnızca yerel komşu düğümlere dayanarak model işbirlikçi eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesinti toleransı mekanizması ile bir araya geldiğinde, OpenDiLoCo, tüketici düzeyinde GPU'ların ve kenar cihazlarının eğitim görevlerine kararlı bir şekilde katılmasını sağlar ve küresel işbirlikçi eğitimin katılımını önemli ölçüde artırır. Bu, merkeziyetsizlik eğitim ağı inşa etmenin temel iletişim altyapılarından biridir.

#PCCL: İşbirliği İletişim Kütüphanesi

PCCL, Prime Intellect'in Merkeziyetsizlik AI eğitim ortamı için özel olarak tasarlanmış hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojileri, gradyan sıkıştırmasını, düşük hassasiyetli senkronizasyonu ve kesintiden kurtarmayı destekler, tüketici düzeyindeki GPU'larda ve istikrarsız düğümlerde çalışabilir. OpenDiLoCo protokolünün asenkron iletişim yeteneklerini destekleyen temel bileşendir. Eğitilmiş ağın bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırarak, gerçekten açık ve güvene ihtiyaç duymayan işbirlikçi eğitim ağlarının "son bir mil" iletişim altyapısını sağlamaktadır.

03, Prime Intellect teşvik ağı ve rol dağılımı

Prime Intellect, herkesin görevlere katılmasını ve gerçek katkılara dayalı ödüller almasını sağlayan, izin gerektirmeyen, doğrulanabilir ve ekonomik teşvik mekanizması olan bir eğitim ağı oluşturdu. Protokol, üç temel rol sınıfına dayanarak çalışmaktadır:

• Görev başlatıcısı: Eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlama
• Eğitim düğümü: Yerel eğitim gerçekleştirin, ağırlık güncellemelerini gönderin ve gözlem izlerini gönderin.
• Doğrulama Düğümü: TOPLOC mekanizmasını kullanarak eğitim davranışının doğruluğunu doğrulama ve ödül hesaplaması ile strateji birleştirmesine katılma

Protokolün temel süreçleri, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında dönen bir teşvik kapalı döngü oluşturur.

04, INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayınlanması

Prime Intellect, Mayıs 2025'te INTELLECT-2'yi piyasaya sürdü; bu, asenkron, güvene ihtiyaç duymayan Merkeziyetsizlik düğümleriyle işbirliği içinde eğitilen dünyanın ilk genişletilmiş öğrenme büyük modelidir ve parametre ölçeği 32B'dir. INTELLECT-2 modeli, üç kıtada bulunan 100'den fazla GPU heterojen düğüm tarafından işbirliği ile eğitilmiştir; tamamen asenkron bir yapı kullanarak, eğitim süresi 400 saati aşmaktadır ve asenkron işbirliği ağının uygulanabilirliği ve stabilitesini göstermektedir. Bu model, yalnızca performans açısından bir sıçrama değil, aynı zamanda Prime Intellect'in "eğitim, konsensüs demektir" paradigmasının ilk sistematik uygulanışıdır. INTELLECT-2, PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre ederek, merkeziyetsiz eğitim ağının eğitim sürecinin açık, doğrulayıcı ve ekonomik teşvik kapalı döngüsünü ilk kez gerçekleştirdiğini göstermektedir.

Performans açısından, INTELLECT-2, QwQ-32B üzerinde eğitildi ve kod ve matematikte özel RL eğitimi yapıldı, mevcut açık kaynaklı RL ince ayar modellerinin önünde.