关注最新报道、解读和相关科技故事。
日本惠普认为,决定在云端还是本地运行人工智能,应从数据敏感性和处理性质出发,而不是基于固定的技术偏好。公司的经验表明,用户数量、服务连续性、运营成本以及结果采纳机制,与模型或设备的选择同样重要。
Perplexity 推出 Portable Computer 平台,让其代理在用户设备上本地运行,首批支持 Nvidia DGX Spark 和配备至少 24GB 显存 RTX 显卡的 Linux 电脑。默认情况下,系统会将模型、文件和任务保留在设备上,并可在将特定步骤升级到更强大的云端模型之前请求用户批准。