UK-LLM girişimi, Galce ve İngilizce dillerinde akıl yürütebilen bir yapay zekâ modeli geliştiriyor. Girişimin amacı, Galler'de yaklaşık 850 bin kişinin konuştuğu Galce ile sağlık hizmetleri, eğitim ve hukuk kaynakları gibi kamu hizmetlerinin sunulmasını desteklemek.
Yeni model, açık kaynaklı NVIDIA Nemotron ailesine dayanıyor ve University College London tarafından Bangor Üniversitesi ve NVIDIA ile iş birliği içinde geliştirildi. Modelin yanı sıra Galce eğitim ve değerlendirme veri kümelerinin de kurumların, şirketlerin ve kamu sektörünün kullanımına sunulması bekleniyor. Bu sayede ek araştırmalar yapılabilecek, yeni modeller eğitilebilecek ve uygulamalar geliştirilebilecek.
Kamu hizmetlerini ve yerel dilleri destekleme
Birleşik Krallık Başbakanı Keir Starmer, yapay zekânın Galce akıl yürütebilmesini sağlamanın sağlık hizmetlerinden eğitime kadar kamu hizmetlerini insanların yaşadığı dilde herkes için erişilebilir hâle getirebileceğini söyledi. Proje, Galler hükûmetinin dili aktif biçimde kullanmayı teşvik etme çabalarıyla bağlantılı. Bu çabalar, 2050 yılına kadar Galce konuşanların sayısını 1 milyona çıkarmayı hedefleyen Cymraeg 2050 girişiminin bir parçası.
Model, Galler'de faaliyet gösteren kamu kurumları ve şirketlerin içerikleri çevirmesine veya iki dilli sohbet robotları sunmasına yardımcı olabilir. Buna sağlık hizmeti sağlayıcıları, öğretmenler, medya kuruluşları, perakendeciler ve restoran sahipleri de dâhil. Böylece bu kuruluşlar, İngilizcenin yanı sıra Galce yazılı içerik de sağlayabilecek.
Girişim 2023 yılında BritLLM adıyla kuruldu ve University College London tarafından yönetiliyor. Daha önce Birleşik Krallık'ta kullanılan dillere yönelik iki model yayımladı. UK-LLM ekibi aynı yöntemi Kornishçe, İrlandaca, İskoçça ve İskoç Galcesi dâhil olmak üzere diğer dillere uygulamayı planlıyor. Ekip ayrıca Afrika ve Güneydoğu Asya'daki diller için modeller geliştirmek üzere uluslararası kuruluşlarla iş birliği yapmayı planlıyor.
Eğitim verileri ve bilgi işlem altyapısı
Geliştirme ekibi, 49 milyar parametre içeren Llama Nemotron Super modelini ve 9 milyar parametre içeren Nemotron Nano modelini kullandı. Ardından bu modelleri Galce verilerle ek eğitime tabi tuttu. Galce için mevcut verilerin İngilizce ve İspanyolcaya kıyasla sınırlı olması nedeniyle ekip, 30 milyondan fazla girdiden oluşan açık Nemotron veri kümelerini İngilizceden Galceye çevirmek için gpt-oss-120b ve DeepSeek-R1'e yönelik NVIDIA NIM mikro hizmetlerinden yararlandı.
Çeviri ve eğitim çalışmaları, NVIDIA DGX Cloud Lepton platformu üzerinden bir GPU kümesi ve Isambard-AI süper bilgisayarındaki yüzlerce NVIDIA GH200 Grace Hopper Superchip kullanılarak gerçekleştirildi. Bilgisayar Bristol Üniversitesi'nde bulunuyor ve Birleşik Krallık hükûmetinin 225 milyon sterlinlik yatırımıyla destekleniyor.
Dil incelemesi ve geliştiricilere erişim
Bangor Üniversitesi, dilsel ve kültürel uzmanlığıyla projeye destek veriyor. Gruffudd Prys ve ekibi, makine tarafından çevrilmiş eğitim verilerinin doğruluğunu ve elle çevrilmiş değerlendirme verilerini inceliyor. Ekip ayrıca modelin, Galcede kelimelerin başındaki ünsüzlerin komşu kelimelere göre değişmesi gibi ince özelliklerle başa çıkma yeteneğini değerlendiriyor.
Birleşik Krallık'ta faaliyet gösteren bir yapay zekâ bulut sağlayıcısı olan Nscale, yeni modeli geliştiricilere bir API üzerinden sunacak. UK-LLM ekibi, kullanılan çerçevenin, Nemotron modellerinden ve kamuya açık olarak erişilebilen verileri ile tariflerinden yararlanarak çok dilli modeller geliştirmek için bir temel oluşturabileceğini düşünüyor.