용어

대규모 언어 모델 서빙

대규모 언어 모델을 실행하고 서비스하는 것으로, 제안된 메모리 계층 구조를 평가하는 맥락입니다.