Компания Xtreme-D в сотрудничестве с TES-AMM JAPAN и Cornelis Networks объявила о запуске инфраструктурного сервиса для вычислений в области искусственного интеллекта «Raplase RCA». Новая система основана на переработке и эксплуатации бывших в употреблении и восстановленных серверов с графическими процессорами (GPU), что призвано позволить организациям и компаниям создавать частные среды искусственного интеллекта (Private AI) с минимальными затратами и в рекордные сроки поставки, начиная с одного графического процессора (1 GPU).
Решение кризиса цепочек поставок и борьба с избыточными расходами
Сектор вычислений столкнулся с огромным всплеском спроса на серверы для ускорения ИИ, что сопровождалось резким ростом цен на новое оборудование и увеличением сроков ожидания и поставок, которые в некоторых случаях достигают десяти месяцев. Наоки Шибата, генеральный директор Xtreme-D, пояснил, что многие компании попадают в ловушку, приобретая технические характеристики, превышающие их реальные потребности, и несут огромные расходы на эксплуатацию новейших поколений графических процессоров, в то время как большинство корпоративных рабочих нагрузок могут быть эффективно выполнены на восстановленных и программно настроенных серверах.
Новый сервис направлен на сокращение времени получения вычислительных мощностей и значительное снижение капитальных затрат, обеспечивая при этом гибкую модель подписки, которая гарантирует защиту конфиденциальных данных внутри периметра организации вместо их передачи в публичные облачные сервисы.
Тройная инженерная интеграция для устранения разрыва в памяти и сетях
Работа с большими языковыми моделями (LLM) на предыдущих поколениях графических процессоров сопряжена с проблемой емкости памяти и узкими местами при передаче данных. Чтобы преодолеть эти препятствия, три стороны объединили интегрированную технологическую систему, задачи которой распределены следующим образом:
- Решения для памяти и эксплуатации от Xtreme-D: Компания использовала технологию «FUJITSU ACB» и специальные уровни программной настройки для связи между памятью графических процессоров и памятью хост-системы (Host Memory) и ее расширения, что позволяет плавно запускать современные интеллектуальные модели без резкого снижения производительности, а также предоставляет площади центров обработки данных, оборудованные для размещения этого оборудования.
- Сверхскоростные сети от Cornelis Networks: Компания предоставила сетевое оборудование «Cornelis CN5000 Omni-Path», поддерживающее скорость до 400 Гбит/с, для устранения узких мест в межсерверных соединениях и обеспечения максимальной эффективности распределенных вычислений для сложных вычислительных пакетов, обработки ИИ и высокопроизводительных вычислений (HPC).
- Цепочки поставок и надежность от TES-AMM JAPAN: Компания, являясь японским подразделением международной группы «SK tes», специализирующейся на утилизации и восстановлении ИТ-активов (ITAD) в более чем 20 странах, берет на себя обеспечение подержанными серверами, их тестирование, гарантию надежности и безопасное стирание данных, предоставляя четкий путь отслеживания истории использования оборудования для соответствия строгим корпоративным стандартам.
Что практически меняется для организаций?
Этот подход представляет собой практический выход для компаний, которым необходимо обучать и развертывать свои модели, не вставая в очереди на покупку современных графических процессоров, или для тех, кому правила управления данными запрещают использовать общие облачные сервисы. Модель поставок, основанная на одном графическом процессоре, также открывает двери для малых и средних предприятий для тестирования приложений искусственного интеллекта и постепенного расширения, с возможностью гибкой настройки вычислительной конфигурации в соответствии с требованиями фактической рабочей нагрузки без долгосрочных капитальных обязательств.