Workstation для LLM TRX50 2x RTX PRO 5000 Blackwell 72GB (144GB VRAM)

Ключевые особенности

• Две профессиональные GPU NVIDIA Blackwell: конфигурация включает 2× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA-задач, AI-ассистентов и профессиональных вычислительных нагрузок.
• 144 ГБ суммарной видеопамяти GDDR7 ECC: в системе установлены две видеокарты по 72 ГБ VRAM каждая. Видеопамять не объединяется автоматически в единый пул, а фактическое использование зависит от конкретного ПО, модели, квантизации и режима распределения нагрузки.
• 32 ядра AMD Threadripper 7970X: процессор с 32 ядрами и 64 потоками обеспечивает высокую производительность в подготовке данных, индексации, препроцессинге, компиляции, backend-сервисах и CPU-части AI-пайплайнов.
• 256 ГБ DDR5 ECC RDIMM: в системе установлены 4 модуля по 64 ГБ, что даёт общий объём 256 ГБ с коррекцией ошибок ECC для длительных профессиональных нагрузок.
• Платформа ASUS Pro WS TRX50-SAGE WIFI: рабочая станция построена на профессиональной материнской плате TRX50 с поддержкой PCIe 5.0, ECC RDIMM, 10GbE и 2.5GbE.
• NVMe SSD 4 ТБ: быстрый накопитель подходит для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров, кэша и рабочих проектов.
• Блок питания 2200 Вт: мощность подобрана с резервом для стабильной работы платформы AMD Threadripper, двух профессиональных GPU и накопителей.

Технические характеристики (Базовая конфигурация)

Описание продукта

Workstation для LLM TRX50 2x RTX PRO 5000 Blackwell 72GB (144GB VRAM) — это профессиональная рабочая станция для локального запуска больших языковых моделей, RAG-систем, embeddings, AI-ассистентов и корпоративных нейросетевых сервисов. Ключевое преимущество конфигурации — две видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, каждая с 72 ГБ GDDR7 ECC. В сумме система получает 144 ГБ видеопамяти, но память каждой видеокарты остаётся отдельной, поэтому фактические возможности зависят от модели, квантизации, длины контекста и выбранного inference-framework.

Платформа AMD TRX50 с процессором Threadripper 7970X обеспечивает мощную CPU-базу: 32 ядра и 64 потока помогают ускорить подготовку данных, индексацию, обработку документов, запуск backend-сервисов, работу API, препроцессинг и параллельную эксплуатацию нескольких AI-инструментов. Оперативная память 256 ГБ DDR5 ECC RDIMM установлена четырьмя модулями по 64 ГБ, что особенно важно для RAG-пайплайнов, локальных датасетов, векторных индексов, больших коллекций документов и стабильной работы с профессиональным ПО.

В отличие от облачных GPU-сервисов, локальная workstation даёт полный контроль над данными, предсказуемую стоимость владения и постоянную доступность вычислительных ресурсов. Это особенно важно для компаний, которые работают с конфиденциальными документами, внутренними базами знаний, закрытыми датасетами, клиентскими данными и корпоративными AI-ассистентами.

Задачи и сферы применения

Данная рабочая станция оптимизирована для следующих профессиональных задач:

• Локальный инференс LLM: запуск больших языковых моделей на собственной рабочей станции без отправки данных в облако. Фактический размер запускаемой модели зависит от формата весов, точности, квантизации, длины контекста, tensor parallelism и используемого inference-framework.
• RAG и корпоративные AI-ассистенты: построение систем поиска по базе знаний, документовым архивам, внутренним регламентам, технической документации и клиентским данным.
• Embeddings и векторный поиск: генерация эмбеддингов, работа с векторными базами, семантический поиск, классификация документов и подготовка данных для LLM-пайплайнов.
• vLLM и TensorRT-LLM: локальный inference-сервер для тестирования и эксплуатации LLM, оптимизации throughput, работы с batch-запросами, multi-GPU режимами и снижения задержек.
• PyTorch и Hugging Face Transformers: разработка, тестирование, инференс, LoRA/QLoRA-эксперименты и прототипирование моделей в локальной среде.
• LangChain и LlamaIndex: создание AI-агентов, цепочек обработки документов, RAG-приложений, чат-ботов и внутренних интеллектуальных сервисов.
• Ollama и локальные LLM-инструменты: удобный запуск моделей, тестирование разных квантов, работа с локальными ассистентами и быстрые эксперименты без облачной инфраструктуры.
• AI-разработка и прототипирование: подготовка proof-of-concept, тестирование моделей, интеграция API, работа с промптами, локальный backend и проверка AI-функций до промышленного внедрения.
• Генеративный ИИ и мультимодальные пайплайны: использование LLM вместе с инструментами обработки изображений, OCR, анализа документов, генерации текста и автоматизации рабочих процессов.
• Многозадачная AI-среда: 32 ядра CPU, 256 ГБ ECC-памяти, две профессиональные GPU и NVMe SSD 4 ТБ позволяют параллельно держать inference-сервер, IDE, контейнеры, базы данных, браузер, мониторинг и рабочие инструменты.

Состав конфигурации и особенности платформы

Представленная рабочая станция собрана как специализированная dual-GPU конфигурация для локальных LLM, RAG, embeddings, AI-ассистентов и задач с повышенными требованиями к видеопамяти. В основе системы — платформа AMD TRX50, процессор AMD Threadripper 7970X, две видеокарты NVIDIA RTX PRO 5000 Blackwell 72GB, 256 ГБ DDR5 ECC RDIMM и быстрый NVMe-накопитель объёмом 4 ТБ.

Такая конфигурация подходит для специалистов, которым нужна высокая суммарная GPU-производительность и возможность использовать две профессиональные видеокарты в AI-задачах, где ПО поддерживает multi-GPU. В системе установлено 144 ГБ суммарной видеопамяти — 2×72 ГБ GDDR7 ECC, при этом каждая видеокарта работает как отдельный ускоритель, а фактическое распределение модели и контекста зависит от выбранного фреймворка.

• GPU: 2× NVIDIA RTX PRO 5000 Blackwell 72GB для локального инференса LLM, RAG, embeddings, CUDA, TensorRT-LLM, vLLM и PyTorch.
• VRAM: 144 ГБ суммарно в системе, по 72 ГБ GDDR7 ECC на каждую видеокарту.
• CPU: AMD Threadripper 7970X с 32 ядрами и 64 потоками для backend-сервисов, индексации, препроцессинга, обработки документов и многозадачности.
• Оперативная память: 256 ГБ DDR5 ECC RDIMM в конфигурации 4×64 ГБ.
• Хранение данных: M.2 NVMe SSD 4 ТБ для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров и рабочих проектов.
• Платформа: ASUS Pro WS TRX50-SAGE WIFI с поддержкой профессиональных компонентов, быстрых интерфейсов и сетевых подключений 10GbE + 2.5GbE.

Преимущества для бизнеса

• Две GPU по 72 ГБ видеопамяти: конфигурация удобна для LLM, RAG, embeddings, batch-инференса и multi-GPU сценариев, где важно распределять вычислительную нагрузку между несколькими профессиональными ускорителями.
• 144 ГБ суммарной VRAM: большой суммарный объём видеопамяти помогает работать с тяжёлыми AI-пайплайнами, длинным контекстом, векторными индексами и корпоративными нейросетевыми сервисами.
• Локальная AI-инфраструктура: рабочая станция позволяет запускать LLM, RAG и AI-ассистентов внутри компании без постоянной зависимости от облачных GPU-сервисов.
• Контроль над данными: локальная эксплуатация помогает работать с внутренними документами, клиентскими данными, базами знаний и закрытыми датасетами без передачи информации во внешние сервисы.
• Профессиональная платформа: сочетание AMD TRX50, ECC RDIMM, двух RTX PRO GPU и быстрых сетевых интерфейсов подходит для рабочих процессов, где важны производительность, совместимость и стабильная работа.
• Производительная CPU-база: 32 ядра Threadripper 7970X ускоряют подготовку данных, индексацию, обработку документов, запуск backend-сервисов и многозадачную работу.
• 256 ГБ ECC-памяти: 4 модуля по 64 ГБ DDR5 ECC RDIMM дают рабочий объём для локальных датасетов, векторных индексов, контейнеров, IDE и параллельной работы профессиональных приложений.