AI / GPU 计算

按显存需求、运行框架和任务周期选择 GPU。

先确定模型能否装进显存

提供模型、推理或训练用途、精度、批次大小和上下文长度。显卡型号相同，也应核对显存规格；不确定时先用自己的任务验证。

多卡需要软件配合

多张显卡不等于应用可以直接使用一整块合并显存。确认框架的多卡支持、并行方式和卡间通信要求，再选择 GPU 数量。

不建议只按显卡数量下单

数据读取慢、CPU 预处理不足或模型不支持所选并行方式时，多加显卡可能仍然等待。把 CPU、内存、存储和数据上传时间一并评估。

交付环境提前确认

下单前确认系统、驱动、运行框架、磁盘空间和使用周期。商品列出的硬件规格用于选型，实际处理速度应以自己的模型测试为依据。

相关服务器 (19)

比较基础配置与月费；选配费用、首月优惠和续费金额请查看商品详情。

GPU: RTX 4090 24G×8
CPU: AMD EPYC 7702×2

内存: 512G
硬盘: 1.92T SSD + 2×8T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 5090×1
CPU: Intel Core i9-14900KS

内存: 96GB RAM
硬盘: 2T M.2 SSD

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: H200 141G×8
CPU: Intel Xeon P8480×2

内存: 2048G
硬盘: 6×3.68T + 2×900G NVMe

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×8
CPU: AMD EPYC 7763×2

内存: 2048G
硬盘: 1×480G SSD + 4×7.68T NVMe

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: H100×8

内存: 2TB
硬盘: 8×3.84T NVMe

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×8

内存: 512G
硬盘: 2×960G SSD + 2×7.68T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×8
CPU: AMD EPYC 7702×2

内存: 512G
硬盘: 1.92T SSD

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×8
CPU: AMD EPYC 7763×2

内存: 512G
硬盘: 2×960G SSD

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×8
CPU: AMD EPYC 7542×2

内存: 1T
硬盘: 2×480G SSD + 1×3.84T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 5090 32G×8
CPU: AMD EPYC 9354×2

内存: 1024G
硬盘: 2×960G SSD + 2×7.68T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: H100×8

内存: 1T
硬盘: 19.2T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: H100 80G SXM5×8
CPU: INTEL XEON 8462Y×2

内存: 1024G
硬盘: 19.2T NVMe

线路: 10 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090 24G×8

内存: 512G
硬盘: 960G SSD + 3.84T NVMe

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: H100 80G SXM5×8
CPU: Intel Xeon 8460Y×2

内存: 2048G
硬盘: 19.2T SSD

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: H200 141G×8
CPU: Intel Xeon 8460Y×2

内存: 2048G
硬盘: 1.92T NVMe×8

线路: 1 Gbps 国际，不限流量

IP: 1 个

GPU: RTX 4090×1
CPU: 16 核

内存: 32G
硬盘: 240G SSD

线路: 300 Mbps GIA

IP: 1 个

GPU: RTX 4090×2
CPU: 32 核

内存: 64G
硬盘: 480G SSD

线路: 300 Mbps GIA

IP: 1 个

GPU: RTX 4090×4
CPU: 48 核

内存: 96G
硬盘: 1TB SSD

线路: 300 Mbps GIA

IP: 1 个

GPU: RTX 4090×8
CPU: 64 核

内存: 128G
硬盘: 1TB SSD

线路: 300 Mbps GIA

IP: 1 个