Xtreme-D 公司与 TES-AMM JAPAN 及 Cornelis Networks 合作,宣布推出面向人工智能计算的基础设施服务“Raplase RCA”。该新系统基于回收和运行二手及翻新 GPU 服务器,旨在使企业和机构能够以最低成本和创纪录的交付周期(从 1 个 GPU 开始)构建私有 AI(Private AI)工作环境。
应对供应链危机与过度支出
计算领域对 AI 加速服务器的需求激增,伴随着新硬件价格的剧烈上涨,交付等待时间在某些情况下已延长至约十个月。Xtreme-D 首席执行官 Naoki Shibata 指出,许多企业陷入了购买超出实际需求的超高性能技术规格的陷阱,并为运行最新一代 GPU 承担了高昂成本,而实际上大多数企业工作负载可以在经过软件优化的翻新服务器上高效完成。
这项新服务旨在缩短获取计算能力的时间并大幅降低资本支出,同时提供灵活的订阅模式,确保敏感数据在企业内部边界内受到保护,而不是将其导出到公共云服务中。
三方工程集成以弥补内存和网络差距
在旧款 GPU 上运行大语言模型(LLMs)涉及内存容量和数据传输瓶颈的挑战。为了克服这些障碍,三方集成了一个技术系统,其任务分配如下:
- Xtreme-D 的内存与运行解决方案:该公司采用了“FUJITSU ACB”技术和专门的软件优化层,用于连接 GPU 内存与主机内存(Host Memory)并进行扩展,从而允许在不出现性能大幅下降的情况下流畅运行现代智能模型,同时提供托管这些硬件的数据中心空间。
- Cornelis Networks 的超高速网络:该公司提供了支持高达 400 Gbps 速度的“Cornelis CN5000 Omni-Path”网络连接设备,以解决服务器互联的瓶颈问题,并确保复杂计算包、人工智能处理和高性能计算(HPC)的分布式计算效率最大化。
- TES-AMM JAPAN 的供应链与可靠性:作为全球 IT 资产处置与翻新(ITAD)集团“SK tes”的日本分部(业务遍及 20 多个国家),该公司负责确保二手服务器的供应、测试、可靠性保证以及安全的数据擦除,并提供清晰的硬件使用历史追踪路径,以满足严格的企业标准。
对企业而言,实际发生了什么变化?
这一趋势为那些需要训练和部署模型,却不想排队购买现代 GPU 的企业,或者受数据治理法规限制而无法使用共享云服务的企业,提供了一个切实可行的解决方案。此外,基于单 GPU 的供应模式也为中小型企业测试 AI 应用并逐步扩展提供了机会,同时能够根据实际工作负载需求灵活调整计算配置,而无需长期资本承诺。