Microsoft’un .NET ekibi, CopilotKit iş birliğiyle yapay zekâ aracılarının uygulamalarla ve kullanıcı odaklı arayüzlerle nasıl iletişim kuracağını tanımlayan bir standart olan AG-UI protokolü için resmi bir .NET SDK paketi duyurdu. Paket, TypeScript ve Python paketleriyle birlikte AG-UI deposunda yayımlandı ve MIT lisansıyla NuGet üzerinden kullanıma sunuldu.
Pratikteki değişiklik, herhangi bir .NET hizmetinin belirli bir aracı çerçevesine özgü bir uygulamaya ihtiyaç duymadan artık doğrudan AG-UI üzerinden iletişim kurabilmesidir. AG-UI desteği, kısaca MAF olarak bilinen Microsoft Agent Framework içinde de artık yeni SDK paketleri üzerine kuruludur.
Paket ne sunuyor?
AG-UI, uzun süre çalışan aracı uygulamalarında yaygın olan bir sorunu çözmeyi amaçlıyor. Aracılar belirteçleri kademeli olarak gönderebilir, araçları çağırabilir, görevleri alt aracılara devredebilir veya isteğin yürütülmesi sırasında uygulamanın durumunu değiştirebilir. Ortak bir protokol olmadığında ön yüzlerin her çerçeve ya da hizmet için farklı olay biçimlerini anlaması gerekir.
Protokol bu etkileşimleri RUN_STARTED, TEXT_MESSAGE_CONTENT, STATE_DELTA ve RUN_FINISHED gibi türü belirlenmiş olaylara dönüştürür. İstemci tarafı bunların nasıl gösterileceğine karar verir; bu gösterim bir web uygulamasında, terminalde, mobil uygulamada veya Slack ve Teams gibi sohbet platformlarında yapılabilir.
Sunucu ve istemci desteği
Paket, birbirini tamamlayan iki yol içeriyor. AGUI.Server aracıyı AG-UI uyumlu bir uç noktaya dönüştürürken, AGUI.Client bir .NET uygulamasının protokolü destekleyen herhangi bir aracıya bağlanmasını sağlar. Entegrasyon, Microsoft.Extensions.AI içindeki sohbete özgü soyutlama katmanı olan IChatClient üzerine kuruludur.
Sunucu tarafında ToChatRequestContext işlevi gelen AG-UI isteğini istemcinin beklediği iletilere ve seçeneklere ayrıştırır; ardından AsAGUIEventStreamAsync yanıt akışını protokol olaylarına dönüştürür. Bu dönüşüm ayrıca çalıştırma başlangıcı ve bitişi olaylarını oluşturur, başka bir iletiye veya araç çağrısına geçmeden önce açık metin ya da akıl yürütme bloklarını kapatır.
Microsoft Agent Framework kullanıcıları ise uç nokta kurulum kodunu azaltmak için AddAGUIServer() ve MapAGUIServer() işlevlerini sağlayan ASP.NET Core entegrasyonuna güvenebilir.
SDK bileşenleri ve uyumluluk
Paket, NuGet üzerinden yayımlanan beş bileşenden oluşuyor:
- AGUI.Abstractions: Olaylar, iletiler, araçlar, durum ve kesintilere ilişkin protokol modelleri.
- AGUI.Formatting: Varsayılan olarak Server-Sent Events desteğiyle kablo üzerindeki veri biçimlendirmesi.
- AGUI.Protobuf: Olay türlerinin bir alt kümesini kapsayan isteğe bağlı Protobuf desteği.
- AGUI.Client: AG-UI akışlarının tüketilmesi.
- AGUI.Server: AG-UI akışlarının üretilmesi.
SSE varsayılan biçim olmaya devam ediyor ve SDK’de belirtilen tüm olay türlerini destekliyor; Protobuf desteği ise bir alt kümeyle sınırlı.
Agent Framework kullanıcıları için ne değişiyor?
Mevcut kullanıcıların temel programlama modeli değişmiyor ve olay biçimi de uyumlu kalıyor; bu da mevcut ön yüzlerin yükseltilmiş bir sunucuyla çalışmaya devam edebileceği anlamına geliyor. Ancak bazı arayüz adları değişti: AddAGUIServer() ve MapAGUIServer(), AddAGUI() ve MapAGUI() işlevlerinin yerini aldı; ad alanları ve sınıflar da AGUI.Client, AGUI.Server ve AGUI.Abstractions paketlerine taşındı.
İstemci, .NET Framework 4.7.2 ve sonraki sürümlerden AG-UI tüketimini desteklerken uç noktanın sunulması için güncel bir .NET sürümü gerekiyor.
Bu duyuru neden önemli?
Sürüm, .NET hizmetlerine her uygulama için olay akışı katmanını yeniden oluşturmadan birden fazla arayüzle çalışmak üzere birleşik bir yol sağlıyor. Ayrıca C#, Python ve TypeScript ile yazılmış bileşenler arasında rol değişimine olanak tanırken entegrasyon katmanını IChatClient üzerine kurulu tutuyor. Bu, tek bir aracıyı web arayüzlerine, kurum içi uygulamalara veya farklı sohbet kanallarına bağlamak isteyen kuruluşlar için özellikle değerli.
Bununla birlikte SDK, sunucu oluşturma veya olayların nasıl gösterileceğini seçme gereksinimini ortadan kaldırmıyor; protokolü SDK yönetirken web mimarisi ve uç nokta uygulamanın sorumluluğunda kalıyor. Ayrıca Protobuf desteği tüm olayları kapsamıyor; bu nedenle tam kapsamlı varsayılan seçenek SSE olmaya devam ediyor.