Manus modeli SOTA başarıları elde etti, AI gelişim yolu ve güvenlik sorunları tartışmalarını tetikledi.

Manus, GAIA benchmark testinde olağanüstü bir performans sergileyerek benzer düzeydeki büyük dil modellerini geride bıraktı. Bu, karmaşık görevleri bağımsız olarak işleyebildiği anlamına geliyor; örneğin, sözleşme analizi, strateji geliştirme ve çözüm üretimi gibi birçok yönü içeren uluslararası iş görüşmeleri. Manus'un avantajı, dinamik hedef parçalama, çok modlu akıl yürütme ve bellek güçlendirilmiş öğrenme yeteneklerindedir. Karmaşık görevleri yüzlerce çalışabilir alt göreve ayırabilirken, çeşitli veri türlerini işleyebilmekte ve pekiştirmeli öğrenme ile karar verme verimliliğini sürekli artırmakta, hata oranını düşürmektedir.

Manus'un çığır açan gelişimi, sektördeki AI gelişim yolları hakkında tartışmaları yeniden alevlendirdi: Genel Yapay Zeka (AGI) için tek tip bir model mi yoksa Çoklu Ajan Sistemleri (MAS) için işbirlikçi bir model mi?

Bu tartışma, Manus'un tasarım felsefesinden kaynaklanmaktadır ve iki olası gelişim yönünü ima etmektedir:

1. AGI Yolu: Tek bir zeka sisteminin genel yeteneklerini sürekli olarak artırarak, insan karar verme seviyesine yaklaşmasını sağlamak.

2. MAS Yolu: Manus'u bir süper koordinatör olarak kullanarak birçok uzmanlık alanındaki akıllı ajanların işbirliği yapmasını sağlamak.

Yüzeyde, bu bir teknik yol hakkında bir tartışmadır, ancak aslında AI gelişiminde verimlilik ile güvenlik arasında bir denge meselesini yansıtmaktadır. Tekil zeka sistemleri AGI'ye ne kadar yakınsa, karar verme süreçlerinin şeffaf olmama riski o kadar artar; oysa çoklu zeka sistemleri riski dağıtabilse de, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırabilir.

Manus'un ilerlemesi, yapay zekanın gelişimindeki içsel riskleri de vurgulamaktadır. Örneğin, sağlık alanında hasta hassas verilerine erişmesi gerekmektedir; finansal müzakerelerde, açıklanmamış şirket bilgileri söz konusu olabilir. Ayrıca, işe alım süreçlerinde belirli gruplara haksız maaş önerileri gibi algoritma yanlılığı sorunları da mevcuttur. Hukuki belgelerin incelenmesinde, yeni ortaya çıkan sektörlerle ilgili maddelerin yanlış değerlendirilme oranı da yüksektir. Daha da ciddisi, hackerlar belirli ses sinyalleri yerleştirerek Manus'un müzakerelerde yanlış kararlar almasına neden olabilir.

Bu sorunlar, akıllı sistemler ne kadar gelişmiş olursa, potansiyel güvenlik açıklarının o kadar fazla olduğunu vurgulayan ciddi bir gerçeği ortaya koyuyor.

Blok zinciri ve kripto para alanında güvenlik her zaman temel bir odak noktası olmuştur. Ethereum'un kurucusu Vitalik Buterin'in "imkansız üçgen" teorisi (güvenlik, merkeziyetsizlik ve ölçeklenebilirlik aynı anda gerçekleştirilemez) çeşitli güvenlik stratejilerini teşvik etmiştir:

• Sıfır Güven Güvenlik Modeli: Her erişim talebi için "asla güvenme, her zaman doğrula" ilkesine dayanan katı kimlik doğrulama ve yetkilendirme gerektirir.
• Dağıtık Kimlik (DID): Merkezi bir kayıt gerektirmeyen, doğrulanabilir ve kalıcı kimlik doğrulamasını destekleyen bir kimlik tanımlama standardı.
• Tam Homomorfik Şifreleme (FHE): Şifreli veriler üzerinde doğrudan hesaplama yapılmasına izin veren ileri düzey şifreleme teknolojisi, özellikle bulut bilişim ve veri dış kaynak kullanımı gibi senaryolar için uygundur.

Bu güvenlik politikaları, AI çağının güvenlik zorluklarını çözmek için önemli bir bakış açısı sunmaktadır. Özellikle tamamen homomorfik şifreleme teknolojisi, AI güvenlik sorunlarına karşı etkili bir araç olarak değerlendirilmektedir.

FHE teknolojisi, AI sistemlerinin güvenliğini aşağıdaki birkaç düzeyde artırabilir:

1. Veri düzeyi: Kullanıcı tarafından girilen tüm bilgiler (biyometrik veriler, ses vb. dahil) şifrelenmiş durumda işlenir, hatta AI sistemi bile orijinal verileri deşifre edemez.

2. Algoritma seviyesi: FHE aracılığıyla "şifreli model eğitimi" gerçekleştirilerek, geliştiricilerin AI'nın karar verme sürecini doğrudan anlaması engellenmektedir.

3. İşbirliği Düzeyi: Birden fazla akıllı ajanın iletişimi eşik şifreleme kullanarak gerçekleştirilir; bu sayede tek bir düğümün ele geçirilmesi global veri sızıntısına yol açmaz.

Bu güvenlik teknolojileri sıradan kullanıcılar için uzak görünebilir, ancak herkesin çıkarlarıyla yakından ilişkilidir. Dijital dünyanın "karanlık ormanı"nda, sürekli güvenlik savunmalarını güçlendirmek, potansiyel bir mağdur olmaktan kaçınmanın tek yoludur.

Merkeziyetsiz kimlik alanında, uPort projesi 2017 yılında Ethereum ana ağında başlatıldı. Sıfır güven güvenlik modeli açısından, NKN projesi 2019 yılında ana ağı yayınladı. Tam homomorfik kriptografi alanında, Mind Network, ana ağa çıkan ilk FHE projesi oldu ve ZAMA, Google, DeepSeek gibi kuruluşlarla iş birliği yaptı.

Geçmişteki güvenlik projeleri yatırımcıların geniş çapta dikkatini çekmemiş olabilir, ancak AI teknolojisinin hızlı gelişimiyle birlikte güvenlik sorunlarının önemi giderek artmaktadır. Mind Network gibi projelerin güvenlik alanında lider olup olamayacakları, sürekli olarak dikkate değer.

AI teknolojisi insan zekasına yaklaşırken, daha gelişmiş savunma sistemlerine ihtiyacımız var. FHE teknolojisi yalnızca mevcut sorunları çözmekle kalmaz, aynı zamanda gelecekte daha güçlü bir AI çağının hazırlığını yapar. AGI'ye giden yolda, FHE artık bir seçenek değil, AI'nın güvenli gelişimini sağlamanın gerekli bir koşuludur.