Temel ve uygulamalı araştırmalara odaklanan Google Araştırma, yüksek boyutlu giyilebilir sensör verilerinin yorumlanmasını geliştirmek için tasarlanmış yeni bir sensör-dil temel modelleri ailesi olan SensorLM'i tanıttı. 103,000'den fazla bireyden elde edilen 59.7 milyon saatten fazla çok modlu sensör girdisi ile eğitilen SensorLM, karmaşık sensör sinyallerinden ayrıntılı, insan tarafından okunabilir açıklamalar üretebiliyor ve sensör veri analizinde yeni bir kıstas belirliyor.
SensorLM için eğitim veri setini geliştirmek amacıyla, 127 ülkede 103,643 katılımcıdan yaklaşık 2.5 milyon kişi-günü kimlik bilgileri kaldırılmış sensör verisi örneklenmiştir. Bu veriler, 1 Mart ile 1 Mayıs 2024 tarihleri arasında Fitbit ve Pixel Watch cihazlarından toplanmıştır ve tüm katılımcılar, anonimleştirilmiş verilerinin sağlık ve bilim alanında genel bilginin ilerlemesine yönelik araştırmalarda kullanılmasına dair bilgilendirilmiş onay vermiştir.
Araştırmacılar, büyük ölçekli verilerin etiketlenmesi zorluğunu ele almak için istatistikleri hesaplayarak, kalıpları tanıyarak ve olayları sensör verilerinden doğrudan özetleyerek tanımlayıcı başlıklar üreten otomatik hiyerarşik bir boru hattı uyguladılar. Bu yaklaşım, sensör girdilerini dil ile eşleştiren şu anda bilinen en büyük veri setinin oluşturulmasını sağladı ve önceki araştırmalarda kullanılan veri setlerinin ölçeğini aştı.
SensorLM'nin mimarisi, yaygın olarak kullanılan çok modlu ön eğitim metodolojilerini, özellikle karşılaştırmalı öğrenme ve üretken ön eğitimi, bütünleşik bir çerçeveye entegre eder ve uyumlu hale getirir. Karşılaştırmalı öğrenme aşamasında, model, sensör verilerinin bölümlerini alternatifler grubundan seçilen uygun metin tanımlarıyla ilişkilendirmek üzere eğitilir.
Bu süreç, modelin hafif bir yüzme ile güç odaklı bir antrenman gibi çeşitli fiziksel aktiviteleri veya fizyolojik durumları doğru bir şekilde ayırt etmesini sağlar. Üretken ön eğitim aşamasında, model sensör girdilerinden doğrudan metinsel açıklamalar üretmeyi öğrenir, yüksek boyutlu verilerin karmaşık, bağlama duyarlı yorumlarını iletme yeteneğini artırır. Bu eğitim stratejilerinin entegrasyonu, SensorLM'nin sensör verilerinin doğal dil ile nasıl eşleştiğine dair kapsamlı ve nüanslı bir çok modlu anlayış geliştirmesine olanak tanır.
Deneyler SensorLM’nin Sıfır Atış Sınıflandırmasında, Az Atış Öğrenmede ve Çapraz Mod Anlayışında Gelişmiş Yeteneklerini Ortaya Koyuyor
Google Araştırmaları'na göre, SensorLM'in performansı insan etkinliği tanıma ve sağlık hizmetleri uygulamaları gibi çeşitli gerçek dünya senaryolarında değerlendirildi ve bu alanlardaki mevcut önde gelen modellere göre net iyileşmeler gösterdi. SensorLM, sınırlı etiketli verilerin bulunduğu ortamlarda özellikle iyi performans göstermektedir. Model ince ayarı gerektirmeden, 20 farklı etkinliği doğru bir şekilde tanımlayarak güçlü sıfırdan sınıflandırma yeteneklerini kanıtladı ve az sayıda örnekle yeni görevlere hızla uyum sağlayarak etkili az sayıda örnekle öğrenme gösterdi. Çapraz-modal geri alma işlevi de, kullanıcıların metin kullanarak sensör kalıplarını aramasına veya sensör girdilerinden ilgili tanımlar oluşturmasına olanak tanıyarak sensör verileri ve doğal dil arasında karşılıklı yorumlanabilirlik sağlıyor—uzman analiz iş akışlarını destekleyen bir yaklaşım.
Sınıflandırmanın yanı sıra, SensorLM yalnızca giyilebilir sensör girdilerine dayanarak yapılandırılmış ve bağlama duyarlı metin özetleri oluşturma yeteneğine sahiptir. Deneysel karşılaştırmalar, bu çıktının genel olarak alan dışı dil modelleri tarafından üretilenlerden daha tutarlı ve doğru olduğunu göstermektedir. Araştırma ayrıca, SensorLM'nin performansının, eğitim verisi, model boyutu ve hesaplama kaynaklarındaki artışlarla tutarlı bir şekilde ölçeklendiğini gözlemlemiştir; bu, model ölçeklendirme konusundaki daha önce belirlenmiş ilkelerle uyumludur. Bu bulgular, yaklaşımın potansiyelinin erken bir aşamada kalmaya devam ettiğini ve devam eden keşif gerektirdiğini önermektedir.
SensorLM'in geliştirilmesi, karmaşık giyilebilir sensör verilerini doğal dil aracılığıyla yorumlamak için bir çerçeve tanıtmaktadır. Bu, yeni geliştirilen hiyerarşik başlıklandırma yöntemi ve bugüne kadar derlenmiş en büyük sensör-dil veri setinin varlığı sayesinde mümkün olmuştur. Sonuç olarak, SensorLM model ailesi, kişisel sağlık verilerinin erişilebilirliğini ve faydasını artırmada bir adım ileriye gitmektedir. Makinelerin fizyolojik sinyalleri dil aracılığıyla yorumlamasına olanak tanıyarak, bu çalışma daha özel ve bilgilendirici sağlık geri bildirimleri için zemin hazırlamaktadır. Gelecek çabalar, kişiselleştirilmiş sağlık araçlarını, klinik izleme sistemlerini ve doğal dil etkileşimi yeteneğine sahip dijital sağlık asistanlarını destekleme amacıyla metabolik profil oluşturma ve gelişmiş uyku izleme gibi alanlara genişlemeyi inceleyecektir. Bu araştırmaya dayanan gelecekteki ürünlerin geliştirilmesi ve dağıtımı, klinik doğrulama ve düzenleyici denetim konularına tabi olabilir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Google, Sensor Sinyallerini İnsan Merkezli Sağlık İçgörülerine Çeviren SensorLM'yi Tanıtıyor
Temel ve uygulamalı araştırmalara odaklanan Google Araştırma, yüksek boyutlu giyilebilir sensör verilerinin yorumlanmasını geliştirmek için tasarlanmış yeni bir sensör-dil temel modelleri ailesi olan SensorLM'i tanıttı. 103,000'den fazla bireyden elde edilen 59.7 milyon saatten fazla çok modlu sensör girdisi ile eğitilen SensorLM, karmaşık sensör sinyallerinden ayrıntılı, insan tarafından okunabilir açıklamalar üretebiliyor ve sensör veri analizinde yeni bir kıstas belirliyor.
SensorLM için eğitim veri setini geliştirmek amacıyla, 127 ülkede 103,643 katılımcıdan yaklaşık 2.5 milyon kişi-günü kimlik bilgileri kaldırılmış sensör verisi örneklenmiştir. Bu veriler, 1 Mart ile 1 Mayıs 2024 tarihleri arasında Fitbit ve Pixel Watch cihazlarından toplanmıştır ve tüm katılımcılar, anonimleştirilmiş verilerinin sağlık ve bilim alanında genel bilginin ilerlemesine yönelik araştırmalarda kullanılmasına dair bilgilendirilmiş onay vermiştir.
Araştırmacılar, büyük ölçekli verilerin etiketlenmesi zorluğunu ele almak için istatistikleri hesaplayarak, kalıpları tanıyarak ve olayları sensör verilerinden doğrudan özetleyerek tanımlayıcı başlıklar üreten otomatik hiyerarşik bir boru hattı uyguladılar. Bu yaklaşım, sensör girdilerini dil ile eşleştiren şu anda bilinen en büyük veri setinin oluşturulmasını sağladı ve önceki araştırmalarda kullanılan veri setlerinin ölçeğini aştı.
SensorLM'nin mimarisi, yaygın olarak kullanılan çok modlu ön eğitim metodolojilerini, özellikle karşılaştırmalı öğrenme ve üretken ön eğitimi, bütünleşik bir çerçeveye entegre eder ve uyumlu hale getirir. Karşılaştırmalı öğrenme aşamasında, model, sensör verilerinin bölümlerini alternatifler grubundan seçilen uygun metin tanımlarıyla ilişkilendirmek üzere eğitilir.
Bu süreç, modelin hafif bir yüzme ile güç odaklı bir antrenman gibi çeşitli fiziksel aktiviteleri veya fizyolojik durumları doğru bir şekilde ayırt etmesini sağlar. Üretken ön eğitim aşamasında, model sensör girdilerinden doğrudan metinsel açıklamalar üretmeyi öğrenir, yüksek boyutlu verilerin karmaşık, bağlama duyarlı yorumlarını iletme yeteneğini artırır. Bu eğitim stratejilerinin entegrasyonu, SensorLM'nin sensör verilerinin doğal dil ile nasıl eşleştiğine dair kapsamlı ve nüanslı bir çok modlu anlayış geliştirmesine olanak tanır.
Deneyler SensorLM’nin Sıfır Atış Sınıflandırmasında, Az Atış Öğrenmede ve Çapraz Mod Anlayışında Gelişmiş Yeteneklerini Ortaya Koyuyor
Google Araştırmaları'na göre, SensorLM'in performansı insan etkinliği tanıma ve sağlık hizmetleri uygulamaları gibi çeşitli gerçek dünya senaryolarında değerlendirildi ve bu alanlardaki mevcut önde gelen modellere göre net iyileşmeler gösterdi. SensorLM, sınırlı etiketli verilerin bulunduğu ortamlarda özellikle iyi performans göstermektedir. Model ince ayarı gerektirmeden, 20 farklı etkinliği doğru bir şekilde tanımlayarak güçlü sıfırdan sınıflandırma yeteneklerini kanıtladı ve az sayıda örnekle yeni görevlere hızla uyum sağlayarak etkili az sayıda örnekle öğrenme gösterdi. Çapraz-modal geri alma işlevi de, kullanıcıların metin kullanarak sensör kalıplarını aramasına veya sensör girdilerinden ilgili tanımlar oluşturmasına olanak tanıyarak sensör verileri ve doğal dil arasında karşılıklı yorumlanabilirlik sağlıyor—uzman analiz iş akışlarını destekleyen bir yaklaşım.
Sınıflandırmanın yanı sıra, SensorLM yalnızca giyilebilir sensör girdilerine dayanarak yapılandırılmış ve bağlama duyarlı metin özetleri oluşturma yeteneğine sahiptir. Deneysel karşılaştırmalar, bu çıktının genel olarak alan dışı dil modelleri tarafından üretilenlerden daha tutarlı ve doğru olduğunu göstermektedir. Araştırma ayrıca, SensorLM'nin performansının, eğitim verisi, model boyutu ve hesaplama kaynaklarındaki artışlarla tutarlı bir şekilde ölçeklendiğini gözlemlemiştir; bu, model ölçeklendirme konusundaki daha önce belirlenmiş ilkelerle uyumludur. Bu bulgular, yaklaşımın potansiyelinin erken bir aşamada kalmaya devam ettiğini ve devam eden keşif gerektirdiğini önermektedir.
SensorLM'in geliştirilmesi, karmaşık giyilebilir sensör verilerini doğal dil aracılığıyla yorumlamak için bir çerçeve tanıtmaktadır. Bu, yeni geliştirilen hiyerarşik başlıklandırma yöntemi ve bugüne kadar derlenmiş en büyük sensör-dil veri setinin varlığı sayesinde mümkün olmuştur. Sonuç olarak, SensorLM model ailesi, kişisel sağlık verilerinin erişilebilirliğini ve faydasını artırmada bir adım ileriye gitmektedir. Makinelerin fizyolojik sinyalleri dil aracılığıyla yorumlamasına olanak tanıyarak, bu çalışma daha özel ve bilgilendirici sağlık geri bildirimleri için zemin hazırlamaktadır. Gelecek çabalar, kişiselleştirilmiş sağlık araçlarını, klinik izleme sistemlerini ve doğal dil etkileşimi yeteneğine sahip dijital sağlık asistanlarını destekleme amacıyla metabolik profil oluşturma ve gelişmiş uyku izleme gibi alanlara genişlemeyi inceleyecektir. Bu araştırmaya dayanan gelecekteki ürünlerin geliştirilmesi ve dağıtımı, klinik doğrulama ve düzenleyici denetim konularına tabi olabilir.