Продавам тестван 5-GPU CUDA compute node с 5× NVIDIA CMP 170HX / GA100 карти с HBM2e памет.

Това не е gaming компютър и не е стандартен LLM/Stable Diffusion сървър. Машината е специализирана за memory-bound CUDA workloads — задачи, при които най-важното е много бързо четене и сравняване на големи масиви от данни.

Подходяща е за:

vector search
embeddings similarity
RAG retrieval acceleration
product/image similarity search
batch comparison
deduplication
recommendation/search systems
CUDA research
memory-bound GPU compute

Основна сила:
CMP 170HX използва HBM2e памет с много висока паметова пропускателност. Това е различен клас памет спрямо стандартните consumer RTX карти с GDDR6X. При задачи като vector search, cosine similarity, embedding search и RAG retrieval често ограничението не е само изчислителната мощност, а колко бързо могат да се четат огромни масиви от vectors от паметта.

Сравнение по паметова пропускателност:

RTX 3090: около 936 GB/s memory bandwidth
RTX 4090: около 1,008 GB/s memory bandwidth
1× CMP 170HX: около 1.35–1.49 TB/s HBM2e memory bandwidth
5× CMP 170HX: много висока обща HBM2e пропускателност, подходяща за паралелно търсене в големи embedding масиви

Важно уточнение:
RTX 3090/4090 са по-добри универсални карти за gaming, Stable Diffusion, LLM inference, image/video generation и стандартни AI workloads. Тази машина не се продава като универсален заместител на RTX 3090/4090. Нейната сила е в друг клас задачи — бързо търсене и сравняване в големи vector/embedding бази.

Спецификация:

5× NVIDIA CMP 170HX / GA100
5× 8GB HBM2e VRAM
5× 250W power limit
Ubuntu 24.04.4 LTS
NVIDIA driver 535.309.01
CUDA runtime през драйвера: 12.2
PyTorch 2.5.1+cu121 тестван успешно
AMD A6-3420M APU, 4 ядра
4GB DDR3 RAM
Seagate IronWolf 110 SATA SSD 240GB
2× Gigabit Ethernet LAN порта
1600W качествено захранване
Mining/server кутия със силно принудително охлаждане
Размери на кутията: 44 × 46 × 18 см
Тегло: около 16 кг
3 високоскоростни вентилатора зад картите, около 10 000 rpm
UFW + fail2ban базово настроени
Отворен само SSH

Предимство на двата LAN порта:
Машината има два Gigabit Ethernet порта, което позволява по-гъвкава мрежова конфигурация — например отделна management мрежа, отделна мрежа за данни, вътрешна лабораторна мрежа или изолирана връзка към storage/server инфраструктура.

Охлаждане и среда за работа:
Машината е в mining/server кутия със силно принудително охлаждане и 3 високоскоростни вентилатора зад GPU картите, около 10 000 rpm всеки. Охлаждането е много ефективно — при heavy GPU тест температурите на картите са около 49–53°C.

Поради високия шум машината е подходяща за сървърно помещение, склад, работилница или отделно техническо помещение. Не е подходяща за тиха офис/домашна среда.

Потвърдени тестове:

nvidia-smi вижда всичките 5 карти
PyTorch вижда всичките 5 CUDA устройства
всяка карта има около 7.78GB usable VRAM
5-GPU паралелен CUDA compute тест: успешен
60-секунден паралелен stress test: успешен
120-секунден vector similarity benchmark: успешен
тест с 5,000,000 - 512-dimensional embeddings
около 181.3 млрд. vector comparisons за 120 секунди
около 1.51 млрд. vector comparisons/sec
температури при heavy vector test: около 49–53°C
power draw при heavy vector test: около 145–160W на карта
след теста всички карти се освобождават нормално до 0 MiB VRAM и 0% utilization
SSD SMART: PASSED
SMART long test: Completed without error

Примерни реални приложения:

фирма с много продуктови снимки може да търси визуално подобни продукти
e-commerce система може да прави product/image similarity search
RAG/search проект може да използва машината като retrieval/vector search ускорител
data/ML екип може да я ползва за memory-bound CUDA тестове
система за конкурентни цени може да сравнява embeddings на продуктови снимки
лаборатория или разработчик може да я използва като евтин multi-GPU HBM2e compute node
подходяща е за експерименти с големи embedding масиви и CUDA workloads, при които паметова пропускателност е ключова

Защо тази машина е интересна спрямо стандартна RTX машина?
RTX 3090/4090 са по-добри универсални карти — за gaming, генеративен AI, Stable Diffusion, LLM inference и creator workloads.

Тази машина е различна: 5× CMP 170HX с HBM2e памет. Една CMP 170HX има по-висока паметова пропускателност от RTX 3090/4090 клас consumer карта. При workloads като vector search, embedding similarity, RAG retrieval и масово сравнение на embeddings това е много важно, защото задачата често е ограничена от скоростта на четене от паметта.

Затова машината не се позиционира като универсален AI сървър, а като специализиран HBM2e CUDA node за memory-bound vector/search задачи.

По желание могат да бъдат изградени и други подобни машини. Има налични допълнителни CMP 170HX карти.

Коментар на цената само при сериозен интерес.