可在个人设备、工作站或服务器上本地运行的开放权重大型语言模型,包括在没有互联网连接的情况下运行。
ITmedia认为,人们日益关注在本地运行大型语言模型,并不仅仅是因为对依赖云服务的担忧,更是因为三个要素日趋成熟:开放权重模型、硬件以及软件。该系列第一部分聚焦于模型的发展,其中DeepSeek、Qwen及其他中国模型日益受到关注。