Sistem, yerel ve gizliliği koruyan yapısını sürdürürken performans açısından çok daha büyük modellerle rekabet ediyor, bazı senaryolarda ise onları geride bırakıyor. Performansı yalnızca model boyutunu büyüterek artırmak yerine verimliliğe odaklanan bu yaklaşım, işlem gücü ihtiyacını azaltarak uzak bulut altyapılarına duyulan bağımlılığı minimuma indiriyor. Günümüzde birçok yapay zeka sistemi hala uzak sunucularda çalışan büyük modellere dayanırken, bu durum hassas verilerin bulut ortamlarında işlenmesini zorunlu kılıyor. Özellikle sağlık sektöründe hasta kayıtları, teşhis süreçleri ve klinik notlar gibi kritik verilerin sıkı gizlilik ve uyumluluk kurallarına tabi olduğu düşünüldüğünde, mevcut mimarilerin sürdürülebilirliği giderek daha fazla tartışılıyor. Yaklaşık 36 milyar dolar büyüklüğündeki pazarın 2033 yılına kadar 500 milyar doların üzerine çıkmasının öngörülmesi de, daha güvenli ve verimli sistemlere duyulan ihtiyacı artırıyor.

Bu lansman, yapay zeka dünyasındaki en köklü varsayımlardan birine doğrudan meydan okuyor: Daha yüksek performans için daha büyük modeller ve daha fazla işlem gücü gerektiği anlayışına. QVAC MedPsy ise bu yaklaşımı tersine çeviriyor. Yalnızca 1,7 milyar parametreye sahip model, yedi farklı kapalı uçlu medikal benchmarkta ortalama 62,62 puan alarak, kendisinden daha büyük olan Google’ın MedGemma 1.5-4B-it modelini 11,42 puan farkla geride bırakıyor. Gerçek dünya klinik senaryolarını ölçen HealthBench Hard testinde ise model, yaklaşık 16 kat daha büyük parametre yapısına sahip MedGemma 27B’yi dahi aşan performans sergiliyor.

QVAC MedPsy’ın 4 milyar parametreli versiyonu, yedi farklı kapalı uçlu benchmark genelinde 70,54 puan elde ederek, MedGemma-27B-text dahil olmak üzere kendisinden yaklaşık yedi kat daha büyük modelleri geride bıraktı. Model ayrıca HealthBench Hard, HealthBench ve MedXpertQA gibi klinik odaklı değerlendirmelerde de dikkat çekici performans sergiledi. Toplamda sekiz farklı benchmark seti üzerinden gerçekleştirilen değerlendirmelerde; klinik bilgi ve tıbbi sınavlar için MedQA-USMLE ve MedMCQA, sağlık okuryazarlığı için MMLU Health ve MMLU-Pro Health, uzman klinik muhakeme için MedXpertQA, biyomedikal araştırma anlayışı için PubMedQA, küresel sağlık sistemlerine yönelik AfriMedQA ve gerçek dünya klinik senaryolarını ölçen HealthBench ile HealthBench Hard testleri kullanıldı. Elde edilen performans artışı ise kapsamlı medikal denetim süreçleri, yüksek değerli klinik muhakeme verileri ve zorlu medikal vaka analizlerine odaklanan reinforcement learning tabanlı aşamalı eğitim yaklaşımından kaynaklanıyor.

Modeller, yüksek performansın yanı sıra çıkarım maliyetlerinde de ciddi verimlilik sağlıyor. QVAC MedPsy 4B modeli, benzer sistemlerde kullanılan ortalama 2.953 token’a karşılık yalnızca yaklaşık 909 token ile yanıt üreterek 3,2 kat daha düşük işlem yükü sunuyor. QVAC MedPsy 1.7B modeli ise yaklaşık 1.110 token kullanırken, benzer modellerde bu rakam 1.901 seviyesinde kalıyor; bu da yaklaşık 1,7 katlık bir verimlilik avantajına işaret ediyor. Daha düşük token kullanımı, daha hızlı yanıt süreleri ve bulut altyapısına ihtiyaç duymadan yerel çalışma imkânı anlamına geliyor. Modeller ayrıca yerel kullanım için optimize edilen quantized GGUF formatlarında da yayımlanıyor. Önerilen Q4_K_M sürümleri, QVAC MedPsy-1.7B için yaklaşık 1,2 GB, QVAC MedPsy-4B için ise yaklaşık 2,6 GB boyutunda bulunuyor. Yapılan testlerde bu sıkıştırılmış sürümlerin benchmark performansının büyük bölümünü koruduğu ve modelleri mobil ile edge cihazlarda kullanılabilir hale getirdiği görülüyor.

“Tether olarak QVAC MedPsy’da odak noktamız verimliliği artırmak”

QVAC MedPsy’e dair açıklamalarda bulunan Tether CEO’su Paolo Ardoino, “Tether olarak QVAC MedPsy’da odak noktamız model boyutunu büyütmek değil, model seviyesinde verimliliği artırmaktı. Testlerimizde 1,7 milyar parametreli QVAC MedPsy modeli, MedGemma-4B gibi daha büyük sistemleri geride bırakırken, 4 milyar parametreli modelimiz de kendisinden yaklaşık yedi kat büyük modellerden daha iyi sonuçlar verdi ve yanıt başına üç kata kadar daha az token kullandı. Bu kombinasyon önemli çünkü doğrudan işlem gücü gereksinimini, gecikmeyi ve maliyeti azaltıyor. Modelin uzak altyapılara bağlı kalmadan standart donanımlarda yerel olarak çalışmasını sağlıyor. Sağlık sektöründe bu durum tüm sınırları değiştiriyor; medikal muhakemeyi, verinin zaten bulunduğu yerde, yani bir hastane sistemi içinde veya bir cihaz üzerinde, hassas bilgileri bulut üzerinden taşımadan ve harici işlem beklemeden gerçekleştirebiliyorsunuz.” dedi.

Tether Data hakkında

Tether Data, S.A. de C.V. (“Tether Data”), Tether’ın teknoloji aracılığıyla özgürlük, şeffaflık ve inovasyonu geliştirme vizyonunun bir parçasıdır. Misyonu, insanların ve kurumların gereksiz aracıları ortadan kaldırarak doğrudan bağlantı kurmasını ve bilgi paylaşmasını sağlamaktır. Güvenli eşler arası sistemler oluşturarak Tether Data, kullanıcılara verileri, iletişimleri ve dijital etkileşimleri üzerinde daha fazla kontrol sunmaktadır. Şirket, merkezi modelleri gizlilik, verimlilik ve dayanıklılık için tasarlanmış merkeziyetsiz altyapılarla değiştirerek, bilginin ağlar üzerindeki akışını yeniden tanımlamayı hedeflemektedir. Amacı; küresel bağlantıyı daha hızlı, daha güvenli ve daha gizli hale getirerek bireylerin ve kurumların bilgiyi özgürce ve güvenli biçimde paylaşmasını sağlamaktır. 

QVAC hakkında

QVAC, Tether Data’nın açık, merkeziyetsiz ve uyarlanabilir zeka sistemleri geliştirmeye odaklanan ileri düzey yapay zeka araştırma girişimidir. Misyonu “Yerel Yapay Zeka ve Sonsuz Zeka”dır. Girişim; yapay zekanın kurumsal veri merkezlerinde yoğunlaşmak yerine herhangi bir cihaz üzerinde yaşayabildiği ve öğrenebildiği, bireyleri ve toplulukları güçlendiren bir dünya vizyonuyla hareket etmektedir.