Workstation для LLM WRX90 4x RTX PRO 5000 Blackwell 72GB (288GB VRAM)

Ключевые особенности

• Четыре профессиональные GPU NVIDIA Blackwell: конфигурация включает 4× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA-задач, AI-ассистентов и профессиональных вычислительных нагрузок.
• 288 ГБ суммарной видеопамяти GDDR7 ECC: в системе установлены четыре видеокарты по 72 ГБ VRAM каждая. Видеопамять не объединяется автоматически в единый пул, а фактическое использование зависит от конкретного ПО, модели, квантизации и режима распределения нагрузки.
• AMD Threadripper PRO 7975WX: процессор с 32 ядрами и 64 потоками обеспечивает высокую производительность в подготовке данных, индексации, препроцессинге, компиляции, backend-сервисах и CPU-части AI-пайплайнов.
• 512 ГБ DDR5 ECC RDIMM: в системе установлены 8 модулей по 64 ГБ, что даёт общий объём 512 ГБ с коррекцией ошибок ECC для длительных профессиональных нагрузок.
• Платформа ASUS Pro WS WRX90E-SAGE SE: рабочая станция построена на профессиональной WRX90-платформе для AMD Threadripper PRO, 4-GPU конфигураций и большого объёма ECC RDIMM.
• NVMe SSD 4 ТБ: быстрый накопитель подходит для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров, кэша и рабочих проектов.
• Сетевые интерфейсы 2×10Gb/s: встроенная сеть Intel X710-AT2 удобна для работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.
• Блок питания 3000 Вт: мощность подобрана с резервом для работы платформы AMD Threadripper PRO, четырёх профессиональных GPU и накопителей.

Технические характеристики (Базовая конфигурация)

Описание продукта

Workstation для LLM WRX90 4x RTX PRO 5000 Blackwell 72GB (288GB VRAM) — это профессиональная рабочая станция для локального запуска больших языковых моделей, RAG-систем, embeddings, AI-ассистентов и корпоративных нейросетевых сервисов. Ключевое преимущество конфигурации — четыре видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, каждая с 72 ГБ GDDR7 ECC. В сумме система получает 288 ГБ видеопамяти, но память каждой видеокарты остаётся отдельной, поэтому фактические возможности зависят от модели, квантизации, длины контекста и выбранного inference-framework.

Платформа AMD WRX90 с процессором Threadripper PRO 7975WX обеспечивает мощную профессиональную CPU-базу: 32 ядра и 64 потока помогают ускорить подготовку данных, индексацию, обработку документов, запуск backend-сервисов, работу API, препроцессинг и параллельную эксплуатацию нескольких AI-инструментов. Оперативная память 512 ГБ DDR5 ECC RDIMM установлена восемью модулями по 64 ГБ, что особенно важно для RAG-пайплайнов, локальных датасетов, векторных индексов, больших коллекций документов, контейнеров и стабильной работы с профессиональным ПО.

WRX90-платформа удобна для 4-GPU рабочих станций, где нужно больше линий расширения, больше слотов памяти и сетевые интерфейсы профессионального класса. Встроенная сеть 2×10Gb/s Intel X710-AT2 помогает быстрее работать с NAS, файловыми серверами, векторными базами, корпоративными наборами данных и локальными AI-сервисами. Блок питания 3000 Вт подобран под конфигурацию с четырьмя профессиональными GPU.

Задачи и сферы применения

Данная рабочая станция оптимизирована для следующих профессиональных задач:

• Локальный инференс LLM: запуск больших языковых моделей на собственной рабочей станции без отправки данных в облако. Фактический размер запускаемой модели зависит от формата весов, точности, квантизации, длины контекста, tensor parallelism и используемого inference-framework.
• RAG и корпоративные AI-ассистенты: построение систем поиска по базе знаний, документовым архивам, внутренним регламентам, технической документации и клиентским данным.
• Embeddings и векторный поиск: генерация эмбеддингов, работа с векторными базами, семантический поиск, классификация документов и подготовка данных для LLM-пайплайнов.
• vLLM и TensorRT-LLM: локальный inference-сервер для тестирования и эксплуатации LLM, оптимизации throughput, работы с batch-запросами, multi-GPU режимами и снижения задержек.
• PyTorch и Hugging Face Transformers: разработка, тестирование, инференс, LoRA/QLoRA-эксперименты и прототипирование моделей в локальной среде.
• LangChain и LlamaIndex: создание AI-агентов, цепочек обработки документов, RAG-приложений, чат-ботов и внутренних интеллектуальных сервисов.
• Ollama и локальные LLM-инструменты: удобный запуск моделей, тестирование разных квантов, работа с локальными ассистентами и быстрые эксперименты без облачной инфраструктуры.
• Параллельный запуск моделей: четыре GPU могут быть полезны для одновременного обслуживания нескольких моделей, batch-инференса, распределения запросов и разделения задач между разными сервисами.
• Генеративный ИИ и мультимодальные пайплайны: использование LLM вместе с OCR, обработкой изображений, анализом документов, генерацией текста, классификацией и автоматизацией рабочих процессов.
• Командная работа с сетевыми хранилищами: интерфейсы 2×10Gb/s помогают быстрее обращаться к NAS, файловым серверам, локальным датасетам, векторным базам и корпоративным архивам.

Состав конфигурации и особенности платформы

Представленная рабочая станция собрана как специализированная 4-GPU конфигурация для локальных LLM, RAG, embeddings, AI-ассистентов и задач с повышенными требованиями к видеопамяти. В основе системы — платформа AMD WRX90, процессор AMD Threadripper PRO 7975WX, четыре видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, 512 ГБ DDR5 ECC RDIMM и быстрый NVMe-накопитель объёмом 4 ТБ.

Такая конфигурация подходит для специалистов, которым нужна высокая суммарная GPU-производительность и возможность использовать четыре профессиональные видеокарты в AI-задачах, где ПО поддерживает multi-GPU. В системе установлено 288 ГБ суммарной видеопамяти — 4×72 ГБ GDDR7 ECC, при этом каждая видеокарта работает как отдельный ускоритель, а фактическое распределение модели и контекста зависит от выбранного фреймворка.

• GPU: 4× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA, TensorRT-LLM, vLLM и PyTorch.
• VRAM: 288 ГБ суммарно в системе, по 72 ГБ GDDR7 ECC на каждую видеокарту.
• CPU: AMD Threadripper PRO 7975WX с 32 ядрами и 64 потоками для backend-сервисов, индексации, препроцессинга, обработки документов и многозадачности.
• Оперативная память: 512 ГБ DDR5 ECC RDIMM в конфигурации 8×64 ГБ.
• Хранение данных: M.2 NVMe SSD 4 ТБ для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров и рабочих проектов.
• Платформа: ASUS Pro WS WRX90E-SAGE SE с поддержкой профессиональных компонентов, 4-GPU конфигураций, 8 слотов памяти и сетевых подключений 2×10Gb/s.
• Питание: блок питания 3000 Вт для конфигурации с четырьмя профессиональными GPU RTX PRO 5000 Blackwell 72GB.

Преимущества для бизнеса

• Четыре GPU по 72 ГБ видеопамяти: конфигурация удобна для LLM, RAG, embeddings, batch-инференса и multi-GPU сценариев, где важно распределять вычислительную нагрузку между несколькими профессиональными ускорителями.
• 288 ГБ суммарной VRAM: большой суммарный объём видеопамяти помогает работать с тяжёлыми AI-пайплайнами, длинным контекстом, векторными индексами и корпоративными нейросетевыми сервисами.
• 512 ГБ ECC-памяти: 8 модулей по 64 ГБ DDR5 ECC RDIMM дают увеличенный рабочий объём для локальных датасетов, векторных баз, контейнеров, нескольких сервисов, IDE и параллельной работы профессиональных приложений.
• Локальная AI-инфраструктура: рабочая станция позволяет запускать LLM, RAG и AI-ассистентов внутри компании без постоянной зависимости от облачных GPU-сервисов.
• Контроль над данными: локальная эксплуатация помогает работать с внутренними документами, клиентскими данными, базами знаний и закрытыми датасетами без передачи информации во внешние сервисы.
• WRX90-платформа: система рассчитана на профессиональные multi-GPU конфигурации, большой объём ECC RDIMM, PCIe-расширение и рабочие нагрузки уровня workstation.
• Сетевые интерфейсы 2×10Gb/s: рабочая станция удобна для командной работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.