طبقة وسيطة لإدارة وتوجيه الطلبات بين التطبيقات ونماذج الذكاء الاصطناعي.
أطلقت شركة Respan بوابة ذكاء اصطناعي مفتوحة المصدر مبنية بلغة Rust، متخلية عن اعتمادها السابق على LiteLLM بعد تحديث برمجيات تسبب في أعطال غير قابلة للإصلاح.