Workstation для LLM WRX90 3x RTX PRO 5000 Blackwell 72GB (216GB VRAM)

Ключевые особенности

• Три профессиональные GPU NVIDIA Blackwell: конфигурация включает 3× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA-задач, AI-ассистентов и профессиональных вычислительных нагрузок.
• 216 ГБ суммарной видеопамяти GDDR7 ECC: в системе установлены три видеокарты по 72 ГБ VRAM каждая. Видеопамять не объединяется автоматически в единый пул, а фактическое использование зависит от конкретного ПО, модели, квантизации и режима распределения нагрузки.
• AMD Threadripper PRO 7965WX: процессор с 24 ядрами и 48 потоками обеспечивает высокую производительность в подготовке данных, индексации, препроцессинге, компиляции, backend-сервисах и CPU-части AI-пайплайнов.
• 256 ГБ DDR5 ECC RDIMM: в системе установлен комплект Kingston FURY Renegade Pro KF564R32RBE2K8-256: 8 модулей по 32 ГБ, общий объём 256 ГБ, ECC RDIMM для длительных профессиональных нагрузок.
• Платформа ASUS Pro WS WRX90E-SAGE SE: рабочая станция построена на профессиональной WRX90-платформе для AMD Threadripper PRO, multi-GPU конфигураций и большого объёма ECC RDIMM.
• NVMe SSD 4 ТБ: быстрый накопитель подходит для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров, кэша и рабочих проектов.
• Сетевые интерфейсы 2×10Gb/s: встроенная сеть Intel X710-AT2 удобна для работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.
• Блок питания 2200 Вт: мощность подобрана с резервом для работы платформы AMD Threadripper PRO, трёх профессиональных GPU и накопителей.

Технические характеристики (Базовая конфигурация)

Описание продукта

Workstation для LLM WRX90 3x RTX PRO 5000 Blackwell 72GB (216GB VRAM) — это профессиональная рабочая станция для локального запуска больших языковых моделей, RAG-систем, embeddings, AI-ассистентов и корпоративных нейросетевых сервисов. Ключевое преимущество конфигурации — три видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, каждая с 72 ГБ GDDR7 ECC. В сумме система получает 216 ГБ видеопамяти, но память каждой видеокарты остаётся отдельной, поэтому фактические возможности зависят от модели, квантизации, длины контекста и выбранного inference-framework.

Платформа AMD WRX90 с процессором Threadripper PRO 7965WX обеспечивает профессиональную CPU-базу: 24 ядра и 48 потоков помогают ускорить подготовку данных, индексацию, обработку документов, запуск backend-сервисов, работу API, препроцессинг и параллельную эксплуатацию нескольких AI-инструментов. В базовой конфигурации установлен комплект 256GB (8×32GB) DDR5 ECC RDIMM 6400MHz 2Rx8 Kingston FURY Renegade Pro KF564R32RBE2K8-256, который задействует все восемь каналов памяти WRX90 и особенно важен для RAG-пайплайнов, локальных датасетов, векторных индексов, больших коллекций документов, контейнеров и стабильной работы с профессиональным ПО.

WRX90-платформа удобна для multi-GPU рабочих станций, где нужно больше линий расширения, больше слотов памяти и сетевые интерфейсы профессионального класса. Встроенная сеть 2×10Gb/s Intel X710-AT2 помогает быстрее работать с NAS, файловыми серверами, векторными базами, корпоративными наборами данных и локальными AI-сервисами.

Задачи и сферы применения

Данная рабочая станция оптимизирована для следующих профессиональных задач:

• Локальный инференс LLM: запуск больших языковых моделей на собственной рабочей станции без отправки данных в облако. Фактический размер запускаемой модели зависит от формата весов, точности, квантизации, длины контекста, tensor parallelism и используемого inference-framework.
• RAG и корпоративные AI-ассистенты: построение систем поиска по базе знаний, документовым архивам, внутренним регламентам, технической документации и клиентским данным.
• Embeddings и векторный поиск: генерация эмбеддингов, работа с векторными базами, семантический поиск, классификация документов и подготовка данных для LLM-пайплайнов.
• vLLM и TensorRT-LLM: локальный inference-сервер для тестирования и эксплуатации LLM, оптимизации throughput, работы с batch-запросами, multi-GPU режимами и снижения задержек.
• PyTorch и Hugging Face Transformers: разработка, тестирование, инференс, LoRA/QLoRA-эксперименты и прототипирование моделей в локальной среде.
• LangChain и LlamaIndex: создание AI-агентов, цепочек обработки документов, RAG-приложений, чат-ботов и внутренних интеллектуальных сервисов.
• Ollama и локальные LLM-инструменты: удобный запуск моделей, тестирование разных квантов, работа с локальными ассистентами и быстрые эксперименты без облачной инфраструктуры.
• Параллельный запуск моделей: три GPU могут быть полезны для одновременного обслуживания нескольких моделей, batch-инференса, распределения запросов и разделения задач между разными сервисами.
• Генеративный ИИ и мультимодальные пайплайны: использование LLM вместе с OCR, обработкой изображений, анализом документов, генерацией текста, классификацией и автоматизацией рабочих процессов.
• Командная работа с сетевыми хранилищами: интерфейсы 2×10Gb/s помогают быстрее обращаться к NAS, файловым серверам, локальным датасетам, векторным базам и корпоративным архивам.

Состав конфигурации и особенности платформы

Представленная рабочая станция собрана как специализированная multi-GPU конфигурация для локальных LLM, RAG, embeddings, AI-ассистентов и задач с повышенными требованиями к видеопамяти. В основе системы — платформа AMD WRX90, процессор AMD Threadripper PRO 7965WX, три видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, 256 ГБ DDR5 ECC RDIMM и быстрый NVMe-накопитель объёмом 4 ТБ.

Такая конфигурация подходит для специалистов, которым нужна высокая суммарная GPU-производительность и возможность использовать три профессиональные видеокарты в AI-задачах, где ПО поддерживает multi-GPU. В системе установлено 216 ГБ суммарной видеопамяти — 3×72 ГБ GDDR7 ECC, при этом каждая видеокарта работает как отдельный ускоритель, а фактическое распределение модели и контекста зависит от выбранного фреймворка.

• GPU: 3× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA, TensorRT-LLM, vLLM и PyTorch.
• VRAM: 216 ГБ суммарно в системе, по 72 ГБ GDDR7 ECC на каждую видеокарту.
• CPU: AMD Threadripper PRO 7965WX с 24 ядрами и 48 потоками для backend-сервисов, индексации, препроцессинга, обработки документов и многозадачности.
• Оперативная память: 256 ГБ DDR5 ECC RDIMM Kingston FURY Renegade Pro KF564R32RBE2K8-256 в конфигурации 8×32 ГБ.
• Хранение данных: M.2 NVMe SSD 4 ТБ для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров и рабочих проектов.
• Платформа: ASUS Pro WS WRX90E-SAGE SE с поддержкой профессиональных компонентов, multi-GPU конфигураций, 8 слотов памяти и сетевых подключений 2×10Gb/s.

Преимущества для бизнеса

• Три GPU по 72 ГБ видеопамяти: конфигурация удобна для LLM, RAG, embeddings, batch-инференса и multi-GPU сценариев, где важно распределять вычислительную нагрузку между несколькими профессиональными ускорителями.
• 216 ГБ суммарной VRAM: большой суммарный объём видеопамяти помогает работать с тяжёлыми AI-пайплайнами, длинным контекстом, векторными индексами и корпоративными нейросетевыми сервисами.
• Локальная AI-инфраструктура: рабочая станция позволяет запускать LLM, RAG и AI-ассистентов внутри компании без постоянной зависимости от облачных GPU-сервисов.
• Контроль над данными: локальная эксплуатация помогает работать с внутренними документами, клиентскими данными, базами знаний и закрытыми датасетами без передачи информации во внешние сервисы.
• WRX90-платформа: система рассчитана на профессиональные multi-GPU конфигурации, большой объём ECC RDIMM, PCIe-расширение и рабочие нагрузки уровня workstation.
• 256 ГБ ECC-памяти: комплект Kingston FURY Renegade Pro KF564R32RBE2K8-256 из 8 модулей по 32 ГБ DDR5 ECC RDIMM даёт рабочий объём для локальных датасетов, векторных индексов, контейнеров, IDE и параллельной работы профессиональных приложений.
• Сетевые интерфейсы 2×10Gb/s: рабочая станция удобна для командной работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.