최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
프랑스 스타트업 Kog는 기존 GPU가 심층적인 소프트웨어 최적화를 통해 AI 모델 추론 속도를 여전히 더 높일 수 있다고 보고 있다. 그러나 먼저 소형 모델에서 초당 3,000토큰을 달성한 자사의 접근 방식이 더 큰 언어 모델에서도 작동한다는 점을 입증해야 한다.