Microsoft, Microsoft Agent Framework kullanarak C# ile yapay zekâ aracısı oluşturmak için dört oturumluk pratik bir yol sunuyor. Bu yol, IChatClient arayüzünü saran basit bir çağrıyla başlayıp Microsoft Foundry üzerinde izlenebilen, değerlendirilebilen, yönetilebilen ve dağıtılabilen bir aracıya kadar uzanıyor. Örnekte, veri okuma, dosyaları değiştirme ve sanal bir alım satım işlemi gibi etkisi olan bir eylemi yürütme arasındaki farkların ortaya çıkması için kişisel finans eğitim asistanı kullanılıyor.
Agent Harness nedir?
Dil modeli metin oluşturabilir; ancak aracının ihtiyaç duyduğu çalışma döngüsünü tek başına sağlamaz. Bu döngü araçları çağırır, sonuçlarını inceler, planı günceller, belleği korur, bağlam penceresiyle ilgilenir, hassas eylemler için kullanıcıdan onay ister ve görev tamamlanana kadar çalışmayı sürdürür. Kaynak, bu çevreleyen katmana harness adını verirken “claw” kavramı, bu katman üzerine kurulmuş, komut satırı araçları tarzında bir aracıya işaret ediyor.
Örnekte, talimatlar ve araçlardan oluşan bir yapılandırma; işlevleri otomatik olarak çağırabilen, model çağrılarından sonra kaydı koruyabilen, görev listeleri oluşturabilen, bağlamı sıkıştırabilen, dosya belleğini kullanabilen ve model hizmeti desteklediğinde web araması çalıştırabilen bir aracıyı başlatmak için yeterli oluyor. Buna araç onayları isteme ve OpenTelemetry üzerinden ölçüm verileri gönderme de ekleniyor. Bu yetenekler özel sağlayıcılarla değiştirilebilir, devre dışı bırakılabilir veya genişletilebilir olmaya devam ediyor.
Aracıyı oluşturmanın dört aşaması
İlk oturum, Microsoft Foundry’deki bir modele bağlı sohbet istemcisinin, açıklayıcı bir hisse senedi fiyatı almak için özel bir C# aracıyla donatılmış bir aracıya dönüştürülmesiyle başlıyor. Aracıya MSFT fiyatı sorulduğunda model aracı seçiyor, harness aracı çağırıyor ve ardından yanıtı oluşturması için sonucu modele geri iletiyor. İzleme listesini incelemek ve daha sonra neyin araştırılması gerektiğini önermek gibi daha geniş bir görev verildiğinde aracı, geliştiricinin gösterim için ayrı bir planlama motoru oluşturmasına gerek kalmadan bir plan ve görev listesi oluşturabiliyor.
İkinci oturum, kullanıcı verileriyle güvenli biçimde çalışmaya odaklanıyor. Aracı, yalnızca onaylanmış bir çalışma klasöründen CSV biçimindeki portföy dosyasını okurken, tanımlanan sınırlar onun dosya sistemindeki rastgele yollara erişmesini engelliyor. Sanal alım satım işlemi de onay gerektiren bir araçla sarılıyor; böylece model eylemi talep edebiliyor ancak doğrudan yürütemiyor. Buna karşılık, yalnızca okuma işlemleri kullanıcıyı gereksiz onay talepleriyle bunaltmamak için otomatik olarak geçirilebiliyor.
Kaynak ayrıca zaman aşımı olan bir onay politikasını da gösteriyor: her deneme için beş saniye ve en fazla beş deneme; giriş yapılmadığında veya giriş geçersiz olduğunda yeniden deneme; y girildiğinde anında onay ve n girildiğinde ret; son denemeden sonra ise otomatik ret. Ayrıca application tarafından sahip olunan yerel JSON belleği ile Microsoft Foundry Memory arasındaki farkı ele alıyor ve modelin “Bunu kaydettim” demesinin verilerin gerçekten yazıldığını veya doğru kapsam içinde saklandığını kanıtlamadığını vurguluyor.
Üçüncü oturumda, uzmanlaşmış bilgiyi gerektiğinde temel talimatlara tamamen yüklenmeyen dosyalarda paketleyen beceriler; shell’e kısıtlı erişim; kodu kontrollü bir ortamda çalıştırmak için CodeAct yürütmesi ve bağımsız araştırma görevlerini paralel olarak gerçekleştirebilen arka plan aracıları ekleniyor. Kaynak, komutlar veya kod çalıştırılırken onay ve politikaların izolasyonun yerini tutmadığını açıkça belirtiyor.
Üretim ortamında pratik olarak ne değişir?
Dördüncü oturum izleme, yönetişim, değerlendirme ve dağıtıma ayrılıyor. İzleme; OpenTelemetry izlerini, araç ve model çağrılarını ve belirteç tüketimini kapsarken, yönetişim Microsoft Purview politikalarıyla ilişkilendiriliyor. Düzenli değerlendirmeler, gösterimin kalitesine ilişkin izlenimi ölçülebilir bir sinyale dönüştürmek için kullanılıyor. Ayrıca Foundry’de barındırılan aracıyı dağıtma seçeneği sunuluyor; tek bir tanımın konsol uygulaması, barındırılan uç nokta ve değerlendirme ortamı arasında paylaşılması mümkün oluyor.
Buradaki en önemli mesaj, yeteneklerin birleştirilebilir olmasının hepsinin üretime aktarılması gerektiği anlamına gelmemesi. Geliştirme aracısının dosyalara veya shell’e ihtiyacı olabilir; ancak paylaşılan barındırılan kapsayıcı, bu yetkiler geliştirme sırasında yararlı oldu diye geniş yerel erişimi devralmamalı. Nelerin okunmasına, yazılmasına, yürütülmesine, hatırlanmasına veya izlenmesine izin verileceğini belirlemek, geliştiren tarafın sahip olduğu bir tasarım kararı olmaya devam ediyor.
Bu yaklaşım neden önemli?
Harness katmanı, her proje için araç, planlama, bellek ve onay döngüsünü yeniden oluşturma ihtiyacını azaltıyor; ancak sınırları belirleme sorumluluğunu ortadan kaldırmıyor. Serinin pratik değeri, gelişmiş yetenekleri bunlara karşılık gelen denetimlerle ilişkilendirmesinde yatıyor: dosyaları onaylanmış bir klasörle, hassas eylemleri onayla, belleği doğrulanabilir bir depolama sonucuyla, kod yürütmeyi izolasyon ve politikalarla, dağıtımı ise izleme ve değerlendirmeyle eşleştiriyor. Kullanılan finans örnekleri eğitim amaçlı olmaya devam ediyor; fiyatlar ve işlemler mock ve açıklama amaçlıdır, finansal tavsiye değildir.