용어

Decode

최신 보도, 해설 및 관련 기술 스토리를 확인하세요.

최신 보도

CN
왜 미래의 인공지능 컴퓨팅은 한 가지 종류의 칩에 의존하지 않을 것인가?

왜 미래의 인공지능 컴퓨팅은 한 가지 종류의 칩에 의존하지 않을 것인가?

데이터센터는 모든 작업에 단일 GPU를 사용하는 대신 CPU, GPU, NPU, 전용 가속기와 광 연결을 결합한 이기종 클러스터로 향하고 있다. 이러한 전환으로 소프트웨어, 네트워크 관리 및 전력은 토큰 비용을 낮추고 하드웨어 활용도를 개선하는 데 핵심적인 요소가 되고 있다.

CN
Jane Street의 Etched 하드웨어 테스트 후 한 달 만에 Etched의 기업가치 210억 달러로 두 배 증가

Jane Street의 Etched 하드웨어 테스트 후 한 달 만에 Etched의 기업가치 210억 달러로 두 배 증가

AI 스타트업 Etched는 Jane Street가 회사가 출하한 첫 완전한 AI 시스템을 테스트하고 자사 데이터센터에서 운영하기 위해 구매한 후, 기업가치 210억 달러로 7억 달러를 조달했다. 이번 투자는 AI 모델 추론을 가속하고 비용을 낮추려는 회사의 설계에 대한 기대를 반영한다.

CN
엣지 AI가 LLM으로 전환됨에 따라 NPU를 재설계해야 하는 이유

엣지 AI가 LLM으로 전환됨에 따라 NPU를 재설계해야 하는 이유

Expedera의 샤라드 촐은 엣지 디바이스가 기존 비전 네트워크에서 LLM 및 VLM으로 전환하면서 병목의 성격이 연산 능력에서 메모리 이동으로 바뀌는 과정을 분석한다. 또한 패킷 기반 처리가 외부 데이터 전송을 줄이고 차량 및 임베디드 디바이스에서 모델 실행을 개선하는 역할을 설명한다.