Workstation для LLM и AI TRX50 RTX PRO 6000 Blackwell 96GB

Ключевые особенности

• 96 ГБ видеопамяти GDDR7 ECC на одной GPU: большой объём VRAM позволяет запускать более тяжёлые LLM-пайплайны, работать с длинным контекстом, embeddings, RAG и генеративным ИИ без распределения модели между несколькими видеокартами.
• Профессиональная GPU-платформа NVIDIA Blackwell: видеокарта NVIDIA RTX PRO 6000 Blackwell 96GB предназначена для AI-инференса, CUDA-задач, генеративного ИИ, визуализации, ML-разработки и профессиональных вычислительных нагрузок.
• 24 ядра AMD Threadripper 7960X: процессор с 24 ядрами и 48 потоками обеспечивает высокую производительность в подготовке данных, индексации, препроцессинге, компиляции, backend-сервисах и CPU-части AI-пайплайнов.
• 128 ГБ DDR5 ECC RDIMM: в системе установлен комплект Kingston FURY Renegade Pro KF564R32RBE2K4-128: 4 модуля по 32 ГБ, общий объём 128 ГБ, ECC RDIMM для длительных профессиональных нагрузок.
• Платформа ASUS Pro WS TRX50-SAGE WIFI: рабочая станция построена на профессиональной материнской плате TRX50 с поддержкой PCIe 5.0, ECC RDIMM, 10GbE и 2.5GbE.
• NVMe SSD 4 ТБ: быстрый накопитель подходит для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров, кэша и рабочих проектов.
• Блок питания 2200 Вт: мощность подобрана с резервом для стабильной работы платформы AMD Threadripper, профессиональной GPU и накопителей.

Технические характеристики (Базовая конфигурация)

Описание продукта

Workstation для LLM и AI TRX50 RTX PRO 6000 Blackwell 96GB — это профессиональная рабочая станция для локального запуска больших языковых моделей, RAG-систем, AI-ассистентов, embeddings, генеративного ИИ и тяжёлых вычислительных пайплайнов. Ключевое преимущество конфигурации — видеокарта NVIDIA RTX PRO 6000 Blackwell 96GB с 96 ГБ GDDR7 ECC на одной GPU. Такой объём видеопамяти особенно важен для сценариев, где модель, KV-cache, контекст, embeddings и рабочие данные должны помещаться на одном ускорителе.

Платформа AMD TRX50 с процессором Threadripper 7960X обеспечивает мощную CPU-базу: 24 ядра и 48 потоков помогают ускорить подготовку данных, индексацию, обработку документов, запуск backend-сервисов, работу API, препроцессинг и параллельную эксплуатацию нескольких AI-инструментов. В базовой конфигурации установлен комплект 128GB (4×32GB) DDR5 ECC RDIMM 6400MHz 2Rx8 Kingston FURY Renegade Pro KF564R32RBE2K4-128, который задействует все четыре канала памяти TRX50 и особенно важен для RAG-пайплайнов, локальных датасетов, векторных индексов, больших коллекций документов и стабильной работы с профессиональным ПО.

В отличие от облачных GPU-сервисов, локальная workstation даёт полный контроль над данными, предсказуемую стоимость владения и постоянную доступность вычислительных ресурсов. Это особенно важно для компаний, которые работают с конфиденциальными документами, внутренними базами знаний, закрытыми датасетами, клиентскими данными, генеративным ИИ и корпоративными AI-ассистентами.

Задачи и сферы применения

Данная рабочая станция оптимизирована для следующих профессиональных задач:

• Локальный инференс LLM: запуск больших языковых моделей на собственной рабочей станции без отправки данных в облако. Фактический размер запускаемой модели зависит от формата весов, точности, квантизации, длины контекста и используемого inference-framework.
• RAG и корпоративные AI-ассистенты: построение систем поиска по базе знаний, документовым архивам, внутренним регламентам, технической документации и клиентским данным.
• Embeddings и векторный поиск: генерация эмбеддингов, работа с векторными базами, семантический поиск, классификация документов и подготовка данных для LLM-пайплайнов.
• vLLM и TensorRT-LLM: локальный inference-сервер для тестирования и эксплуатации LLM, оптимизации throughput, работы с batch-запросами и снижения задержек.
• PyTorch и Hugging Face Transformers: разработка, тестирование, инференс, LoRA/QLoRA-эксперименты и прототипирование моделей в локальной среде.
• NVIDIA NeMo и AI-пайплайны: работа с генеративным ИИ, подготовка данных, эксперименты с моделями, настройка корпоративных AI-сервисов и тестирование архитектур.
• LangChain и LlamaIndex: создание AI-агентов, цепочек обработки документов, RAG-приложений, чат-ботов и внутренних интеллектуальных сервисов.
• Stable Diffusion и ComfyUI: генерация изображений, ControlNet, upscaling, batch-обработка, работа с LoRA, Flux и другими диффузионными моделями с большим запасом видеопамяти.
• Генеративный ИИ и мультимодальные сценарии: использование LLM вместе с обработкой изображений, OCR, анализом документов, генерацией текста, классификацией и автоматизацией рабочих процессов.
• Многозадачная AI-среда: 24 ядра CPU, 128 ГБ ECC-памяти и NVMe SSD 4 ТБ позволяют параллельно держать inference-сервер, IDE, контейнеры, базы данных, браузер, мониторинг и рабочие инструменты.

Состав конфигурации и особенности платформы

Представленная рабочая станция собрана как специализированная профессиональная конфигурация для локальных LLM, RAG, embeddings, AI-ассистентов, генеративного ИИ и задач с максимальными требованиями к видеопамяти в однокарточном формате. В основе системы — платформа AMD TRX50, процессор AMD Threadripper 7960X, видеокарта NVIDIA RTX PRO 6000 Blackwell 96GB, 128 ГБ DDR5 ECC RDIMM и быстрый NVMe-накопитель объёмом 4 ТБ.

Такая конфигурация подходит для специалистов, которым нужна мощная workstation с 96 ГБ VRAM на одной GPU. Один профессиональный ускоритель с таким объёмом видеопамяти удобен для задач, где важно держать модель и рабочий контекст на одной видеокарте: vLLM, TensorRT-LLM, PyTorch, Hugging Face Transformers, NVIDIA NeMo, Ollama, LangChain и LlamaIndex.

• GPU: 1× NVIDIA RTX PRO 6000 Blackwell 96GB для локального инференса LLM, RAG, embeddings, генеративного ИИ, CUDA, TensorRT-LLM, vLLM и PyTorch.
• CPU: AMD Threadripper 7960X с 24 ядрами и 48 потоками для backend-сервисов, индексации, препроцессинга, обработки документов и многозадачности.
• Оперативная память: 128 ГБ DDR5 ECC RDIMM Kingston FURY Renegade Pro KF564R32RBE2K4-128 в конфигурации 4×32 ГБ.
• Хранение данных: M.2 NVMe SSD 4 ТБ для операционной системы, LLM-моделей, датасетов, embeddings, векторных индексов, контейнеров и рабочих проектов.
• Платформа: ASUS Pro WS TRX50-SAGE WIFI с поддержкой профессиональных компонентов, быстрых интерфейсов и сетевых подключений 10GbE + 2.5GbE.

Преимущества для бизнеса

• 96 ГБ видеопамяти на одной GPU: большой объём VRAM удобен для локального инференса LLM, длинного контекста, embeddings, RAG-пайплайнов, AI-сервисов и генеративных задач, где важно не распределять модель между несколькими видеокартами.
• Локальная AI-инфраструктура: рабочая станция позволяет запускать LLM, RAG, генеративный ИИ и AI-ассистентов внутри компании без постоянной зависимости от облачных GPU-сервисов.
• Контроль над данными: локальная эксплуатация помогает работать с внутренними документами, клиентскими данными, базами знаний и закрытыми датасетами без передачи информации во внешние сервисы.
• Профессиональная платформа: сочетание AMD TRX50, ECC RDIMM, RTX PRO и быстрых сетевых интерфейсов подходит для рабочих процессов, где важны производительность, совместимость и стабильная работа.
• Производительная CPU-база: 24 ядра Threadripper 7960X ускоряют подготовку данных, индексацию, обработку документов, запуск backend-сервисов и многозадачную работу.
• 128 ГБ ECC-памяти: комплект Kingston FURY Renegade Pro KF564R32RBE2K4-128 из 4 модулей по 32 ГБ DDR5 ECC RDIMM даёт рабочий объём для локальных датасетов, векторных индексов, контейнеров, IDE и параллельной работы профессиональных приложений.
• Быстрый доступ к моделям и данным: NVMe SSD 4 ТБ ускоряет загрузку LLM, датасетов, embeddings, индексов, контейнеров и рабочих файлов.