Workstation Ultra для LLM и AI WRX90 3x RTX PRO 6000 Blackwell 96GB (288GB VRAM)

Ключевые особенности

• Три флагманские GPU NVIDIA Blackwell: конфигурация включает 3× NVIDIA RTX PRO 6000 Blackwell 96GB для локального инференса LLM, RAG, embeddings, генеративного ИИ, CUDA-задач и профессиональных AI-нагрузок.
• 288 ГБ суммарной видеопамяти GDDR7 ECC: в системе установлены три видеокарты по 96 ГБ VRAM каждая. Видеопамять не объединяется автоматически в единый пул, а фактическое использование зависит от конкретного ПО, модели, квантизации и режима распределения нагрузки.
• AMD Threadripper PRO 7965WX: процессор с 24 ядрами и 48 потоками обеспечивает высокую производительность в подготовке данных, индексации, препроцессинге, компиляции, backend-сервисах и CPU-части AI-пайплайнов.
• 512 ГБ DDR5 ECC RDIMM: в системе установлены 8 модулей по 64 ГБ, что даёт общий объём 512 ГБ с коррекцией ошибок ECC для длительных профессиональных нагрузок.
• Платформа ASUS Pro WS WRX90E-SAGE SE: рабочая станция построена на профессиональной WRX90-платформе для AMD Threadripper PRO, multi-GPU конфигураций и большого объёма ECC RDIMM.
• NVMe SSD 4 ТБ: быстрый накопитель подходит для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров, кэша и рабочих проектов.
• Сетевые интерфейсы 2×10Gb/s: встроенная сеть Intel X710-AT2 удобна для работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.
• Блок питания 3000 Вт: мощность подобрана с резервом для работы платформы AMD Threadripper PRO, трёх флагманских профессиональных GPU и накопителей.

Технические характеристики (Базовая конфигурация)

Описание продукта

Workstation Ultra для LLM и AI WRX90 3x RTX PRO 6000 Blackwell 96GB (288GB VRAM) — это профессиональная рабочая станция для локального запуска больших языковых моделей, RAG-систем, embeddings, AI-ассистентов, генеративного ИИ и тяжёлых корпоративных нейросетевых сервисов. Ключевое преимущество конфигурации — три видеокарты NVIDIA RTX PRO 6000 Blackwell 96GB, каждая с 96 ГБ GDDR7 ECC. В сумме система получает 288 ГБ видеопамяти, но память каждой видеокарты остаётся отдельной, поэтому фактические возможности зависят от модели, квантизации, длины контекста и выбранного inference-framework.

Платформа AMD WRX90 с процессором Threadripper PRO 7965WX обеспечивает профессиональную CPU-базу: 24 ядра и 48 потоков помогают ускорить подготовку данных, индексацию, обработку документов, запуск backend-сервисов, работу API, препроцессинг и параллельную эксплуатацию нескольких AI-инструментов. Оперативная память 512 ГБ DDR5 ECC RDIMM установлена восемью модулями по 64 ГБ, что особенно важно для RAG-пайплайнов, локальных датасетов, векторных индексов, больших коллекций документов, контейнеров, нескольких AI-сервисов и стабильной работы с профессиональным ПО.

WRX90-платформа удобна для multi-GPU рабочих станций, где нужно больше линий расширения, больше слотов памяти и сетевые интерфейсы профессионального класса. Встроенная сеть 2×10Gb/s Intel X710-AT2 помогает быстрее работать с NAS, файловыми серверами, векторными базами, корпоративными наборами данных и локальными AI-сервисами. Блок питания 3000 Вт подобран под конфигурацию с тремя флагманскими профессиональными GPU.

Задачи и сферы применения

Данная рабочая станция оптимизирована для следующих профессиональных задач:

• Локальный инференс LLM: запуск больших языковых моделей на собственной рабочей станции без отправки данных в облако. Фактический размер запускаемой модели зависит от формата весов, точности, квантизации, длины контекста, tensor parallelism и используемого inference-framework.
• RAG и корпоративные AI-ассистенты: построение систем поиска по базе знаний, документовым архивам, внутренним регламентам, технической документации и клиентским данным.
• Embeddings и векторный поиск: генерация эмбеддингов, работа с векторными базами, семантический поиск, классификация документов и подготовка данных для LLM-пайплайнов.
• vLLM и TensorRT-LLM: локальный inference-сервер для тестирования и эксплуатации LLM, оптимизации throughput, работы с batch-запросами, multi-GPU режимами и снижения задержек.
• PyTorch и Hugging Face Transformers: разработка, тестирование, инференс, LoRA/QLoRA-эксперименты и прототипирование моделей в локальной среде.
• NVIDIA NeMo и генеративный ИИ: работа с AI-пайплайнами, подготовка данных, эксперименты с моделями, настройка корпоративных AI-сервисов и тестирование архитектур.
• LangChain и LlamaIndex: создание AI-агентов, цепочек обработки документов, RAG-приложений, чат-ботов и внутренних интеллектуальных сервисов.
• Stable Diffusion и ComfyUI: генерация изображений, ControlNet, upscaling, batch-обработка, работа с LoRA, Flux и другими диффузионными моделями с большим запасом GPU-ресурсов.
• Параллельный запуск моделей: три GPU могут быть полезны для одновременного обслуживания нескольких моделей, batch-инференса, распределения запросов и разделения задач между разными сервисами.
• Командная работа с сетевыми хранилищами: интерфейсы 2×10Gb/s помогают быстрее обращаться к NAS, файловым серверам, локальным датасетам, векторным базам и корпоративным архивам.

Состав конфигурации и особенности платформы

Представленная рабочая станция собрана как флагманская multi-GPU конфигурация для локальных LLM, RAG, embeddings, AI-ассистентов, генеративного ИИ и задач с максимальными требованиями к видеопамяти. В основе системы — платформа AMD WRX90, процессор AMD Threadripper PRO 7965WX, три видеокарты NVIDIA RTX PRO 6000 Blackwell 96GB, 512 ГБ DDR5 ECC RDIMM и быстрый NVMe-накопитель объёмом 4 ТБ.

Такая конфигурация подходит для специалистов, которым нужна высокая суммарная GPU-производительность и возможность использовать три профессиональные видеокарты в AI-задачах, где ПО поддерживает multi-GPU. В системе установлено 288 ГБ суммарной видеопамяти — 3×96 ГБ GDDR7 ECC, при этом каждая видеокарта работает как отдельный ускоритель, а фактическое распределение модели и контекста зависит от выбранного фреймворка.

• GPU: 3× NVIDIA RTX PRO 6000 Blackwell 96GB для локального инференса LLM, RAG, embeddings, генеративного ИИ, CUDA, TensorRT-LLM, vLLM и PyTorch.
• VRAM: 288 ГБ суммарно в системе, по 96 ГБ GDDR7 ECC на каждую видеокарту.
• CPU: AMD Threadripper PRO 7965WX с 24 ядрами и 48 потоками для backend-сервисов, индексации, препроцессинга, обработки документов и многозадачности.
• Оперативная память: 512 ГБ DDR5 ECC RDIMM в конфигурации 8×64 ГБ.
• Хранение данных: M.2 NVMe SSD 4 ТБ для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров и рабочих проектов.
• Платформа: ASUS Pro WS WRX90E-SAGE SE с поддержкой профессиональных компонентов, multi-GPU конфигураций, 8 слотов памяти и сетевых подключений 2×10Gb/s.
• Питание: блок питания 3000 Вт для конфигурации с тремя профессиональными GPU RTX PRO 6000 Blackwell.

Преимущества для бизнеса

• Три GPU по 96 ГБ видеопамяти: конфигурация удобна для LLM, RAG, embeddings, batch-инференса, генеративного ИИ и multi-GPU сценариев, где важно распределять вычислительную нагрузку между несколькими профессиональными ускорителями.
• 288 ГБ суммарной VRAM: большой суммарный объём видеопамяти помогает работать с тяжёлыми AI-пайплайнами, длинным контекстом, векторными индексами, генеративными задачами и корпоративными нейросетевыми сервисами.
• 512 ГБ ECC-памяти: 8 модулей по 64 ГБ DDR5 ECC RDIMM дают увеличенный рабочий объём для локальных датасетов, векторных баз, контейнеров, нескольких сервисов, IDE и параллельной работы профессиональных приложений.
• Локальная AI-инфраструктура: рабочая станция позволяет запускать LLM, RAG, генеративный ИИ и AI-ассистентов внутри компании без постоянной зависимости от облачных GPU-сервисов.
• Контроль над данными: локальная эксплуатация помогает работать с внутренними документами, клиентскими данными, базами знаний и закрытыми датасетами без передачи информации во внешние сервисы.
• WRX90-платформа: система рассчитана на профессиональные multi-GPU конфигурации, большой объём ECC RDIMM, PCIe-расширение и рабочие нагрузки уровня workstation.
• Сетевые интерфейсы 2×10Gb/s: рабочая станция удобна для командной работы с NAS, файловыми серверами, сетевыми датасетами, векторными базами и корпоративными AI-пайплайнами.