용어

Prefill

최신 보도, 해설 및 관련 기술 스토리를 확인하세요.

최신 보도

CN
JetBrains, Mac에서 클라우드나 크레딧 없이 Junie를 완전히 로컬로 실행할 수 있게 해

JetBrains, Mac에서 클라우드나 크레딧 없이 Junie를 완전히 로컬로 실행할 수 있게 해

JetBrains가 Qwen3.6-27B 모델을 사용해 Mac에서 Junie 프로그래밍 에이전트를 로컬로 실행하는 Junie Local 기능을 출시했다. 코드나 프롬프트를 클라우드로 전송하지 않으며, M5 프로세서와 64GB 메모리를 탑재한 Mac과 약 20GB의 다운로드가 필요하다.

CN
JetBrains가 Junie 에이전트에서 Qwen3.6을 로컬로 실행하는 방식을 개선한 방법

JetBrains가 Junie 에이전트에서 Qwen3.6을 로컬로 실행하는 방식을 개선한 방법

JetBrains는 M5 칩이 탑재된 MacBook에서 Qwen3.6-27B를 로컬로 실행하기 위해 Junie와 추론 엔진을 어떻게 수정했는지 설명했다. 이번 실험은 로컬 코딩 에이전트의 성능이 토큰 생성 속도뿐 아니라 컨텍스트 관리와 prefill 단계에도 좌우된다는 점을 보여준다.

CN
왜 미래의 인공지능 컴퓨팅은 한 가지 종류의 칩에 의존하지 않을 것인가?

왜 미래의 인공지능 컴퓨팅은 한 가지 종류의 칩에 의존하지 않을 것인가?

데이터센터는 모든 작업에 단일 GPU를 사용하는 대신 CPU, GPU, NPU, 전용 가속기와 광 연결을 결합한 이기종 클러스터로 향하고 있다. 이러한 전환으로 소프트웨어, 네트워크 관리 및 전력은 토큰 비용을 낮추고 하드웨어 활용도를 개선하는 데 핵심적인 요소가 되고 있다.

CN
Jane Street의 Etched 하드웨어 테스트 후 한 달 만에 Etched의 기업가치 210억 달러로 두 배 증가

Jane Street의 Etched 하드웨어 테스트 후 한 달 만에 Etched의 기업가치 210억 달러로 두 배 증가

AI 스타트업 Etched는 Jane Street가 회사가 출하한 첫 완전한 AI 시스템을 테스트하고 자사 데이터센터에서 운영하기 위해 구매한 후, 기업가치 210억 달러로 7억 달러를 조달했다. 이번 투자는 AI 모델 추론을 가속하고 비용을 낮추려는 회사의 설계에 대한 기대를 반영한다.

CN
엣지 AI가 LLM으로 전환됨에 따라 NPU를 재설계해야 하는 이유

엣지 AI가 LLM으로 전환됨에 따라 NPU를 재설계해야 하는 이유

Expedera의 샤라드 촐은 엣지 디바이스가 기존 비전 네트워크에서 LLM 및 VLM으로 전환하면서 병목의 성격이 연산 능력에서 메모리 이동으로 바뀌는 과정을 분석한다. 또한 패킷 기반 처리가 외부 데이터 전송을 줄이고 차량 및 임베디드 디바이스에서 모델 실행을 개선하는 역할을 설명한다.