evet şimdi kontrol ettim 2024'te yayınlanmış ancak son 6 ay'da baya geliştirdiler ve samsung gibi devler'de bundan faydalanacağını duyurmuş : bkz.
Samsung Semiconductor
profesyonel anlamda kullanılır oldugunu sanmıyorum çünkü direk api ile erişim yaparak proje bazlı zaten kendi ai sitelerimizi açabiliriz.
openwebui aradaki katmanı cevap süresini yavaşlatıyor mesela ben bunu kendi localimde 70-90b modellerde test (RTX 4090 test deneminde) ettim bencmarklarımda o dönem %60-70 civarı yavaşlık söz konusuydu kendi yazdığım projede ise muhteşem bir fark vardı bu yüzden o gün aslında soğumdum projeden fakat muhteşem bir arayüzü vardı şuan eger sorunları düzeltmişler ise muhteşem bir proje benim gözümde fakat 2024'te öyle değildi mesela sanırım yine 2024 plugin function mağazı açmışlardı cevap vermiyordu sanırım yoğunluktandı buda bana alt yapı yetersizliğini düşündürdü, şuan son günlerde test yapan bencmark atan varsa güzel bilgi olur aslında.
fakat aws alt yapısı ile falan muhteşem projeler çıkar diye düşünüyorum.