NVIDIA A40 dan RTX A6000 adalah dua versi dari kelas GPU yang sama. Keduanya menggunakan arsitektur Ampere, keduanya memiliki memori GDDR6 48 GB dengan ECC, dan keduanya mengonsumsi daya 300 W. Jawaban cepatnya: pilih A40 jika kartu akan dipasang di server atau Anda akan menggunakannya dari jarak jauh, dan pilih RTX A6000 jika kartu akan dipasang di workstation di bawah meja Anda. Perbedaannya terletak pada pendinginan, output tampilan, dan fitur pusat data, bukan performa.
NVIDIA A40 vs RTX A6000: perbandingan spesifikasi
| Spesifikasi | NVIDIA A40 | NVIDIA RTX A6000 |
|---|---|---|
| Arsitektur | Ampere | Ampere |
| Memori | 48 GB GDDR6 dengan ECC | 48 GB GDDR6 dengan ECC |
| Bandwidth memori | 696 GB/s | Konfigurasi memori yang sama |
| CUDA core | 10,752 | 10,752 |
| RT dan Tensor core | RT gen ke-2, Tensor gen ke-3 | RT gen ke-2, Tensor gen ke-3 |
| Daya (TDP) | 300 W | 300 W |
| Antarmuka | PCIe Gen4 x16, dual-slot | PCIe Gen4 x16, dual-slot |
| NVLink | Bridge 2-arah | Bridge 2-arah |
| Pendinginan | Pasif (aliran udara server) | Kipas blower aktif |
| Output tampilan | 3x DisplayPort, nonaktif secara default | 4x DisplayPort 1.4 |
| Dukungan vGPU | Ya (perangkat lunak NVIDIA virtual GPU) | Bukan tujuan penggunaannya |
| Dirancang untuk | Server pusat data, 24/7 | Workstation desktop |
Pendinginan dan form factor
Perbedaan praktis terbesar adalah pendinginan. RTX A6000 memiliki kipas blower yang menarik udara melewati kartu dan mendorongnya keluar melalui bagian belakang casing, sehingga dapat bekerja di workstation tower biasa. A40 sama sekali tidak memiliki kipas. Kartu ini mengandalkan aliran udara depan-ke-belakang yang kuat dari server rak, dan NVIDIA merancangnya untuk operasi berkelanjutan 24/7 di lingkungan tersebut.
Jangan memasang A40 ke PC desktop biasa: tanpa kipas server yang mendorong udara melewati heatsink-nya, kartu akan kepanasan dan mengalami throttling.
Output tampilan dan workstation virtual
RTX A6000 memiliki empat output DisplayPort 1.4 dan siap menggerakkan monitor langsung dari kemasan. A40 memiliki tiga output DisplayPort, tetapi dinonaktifkan secara default. Anda harus mengaktifkan mode tampilan terlebih dahulu agar output tersebut berfungsi.
Sebagai gantinya, A40 mendukung perangkat lunak NVIDIA virtual GPU (vGPU), sehingga satu kartu dapat melayani beberapa workstation virtual jarak jauh. Jika Anda merencanakan VDI atau workstation 3D jarak jauh untuk sebuah tim, A40 adalah kartu yang dibuat untuk tugas tersebut.
Beban kerja AI dan LLM pada 48 GB
Untuk AI, kedua kartu berperforma sama, karena chip dan memorinya sama. VRAM 48 GB tersebut cukup untuk:
- menjalankan model bahasa 70B seperti Llama 3.3 70B yang dikuantisasi ke 4-bit, yang membutuhkan sekitar 40 GB;
- menjalankan model dengan sekitar 20B parameter dalam FP16;
- menghasilkan gambar dengan SDXL atau Flux pada resolusi tinggi;
Perbedaan untuk AI terletak pada tempat kartu dijalankan. API inferensi atau chatbot harus tetap online, yang cocok untuk A40 di dalam server. RTX A6000 cocok untuk satu orang yang bereksperimen secara lokal.
Rendering
Kedua kartu memiliki RT dan Tensor core yang sama, sehingga memberikan kelas performa yang sama pada renderer GPU seperti Blender Cycles, V-Ray, Redshift, atau Octane. Memori 48 GB memungkinkan Anda memuat scene 3D besar dengan tekstur yang berat. Seniman yang bekerja secara interaktif di viewport akan lebih memilih RTX A6000 dengan monitor terpasang. Studio yang mengirimkan pekerjaan panjang ke node render dapat menggunakan server A40.
Membeli workstation vs menyewa server dedicated
Jika pekerjaan Anda cocok dijalankan di server, Anda tidak harus membeli perangkat kerasnya. Menyewa server GPU dedicated memberi Anda:
- Tanpa biaya perangkat keras di muka: tidak ada GPU, server, atau suku cadang yang harus dibeli.
- Daya dan pendinginan pusat data: tidak ada panas atau kebisingan di kantor Anda.
- Akses jarak jauh: terhubung dari mana saja melalui SSH, remote desktop, atau API.
- Operasi 24/7: server tetap online untuk proses pelatihan, inferensi, dan render batch.
Cara memilih
- Pilih RTX A6000 untuk workstation desktop dengan monitor terpasang, yang digunakan oleh satu orang.
- Pilih A40 untuk server rak, akses jarak jauh, vGPU dan workstation virtual, atau inferensi AI 24/7.
- Jika Anda tidak ingin memiliki atau mendinginkan perangkat kerasnya, sewa server A40.
Server A40 di IPHOST
IPHOST menawarkan server dedicated NVIDIA A40 di pusat data milik sendiri yang bersertifikat ISO/IEC 27001 di Chisinau, Moldova. Konfigurasinya:
- NVIDIA A40 48 GB
- HPE ProLiant DL380 Gen10 dengan 2x Intel Xeon Gold 6230R (52 core)
- RAM 192 GB dan 2x SSD SAS 1.6 TB
- Port 1 Gbps dengan trafik 30 TB
- iLO untuk manajemen jarak jauh
Server tersedia melalui pre-order dengan pengiriman dalam 14 hari. Penagihan dilakukan per kuartal, dan Anda menghemat hingga 14% dengan masa kontrak 12 bulan. Untuk model yang lebih kecil, lihat server NVIDIA L4 24 GB, dan untuk pekerjaan pelatihan yang lebih besar tersedia paket dengan 2x A100 40 GB. Bandingkan semua paket di halaman hosting server GPU, atau baca cara menjalankan model Anda sendiri dengan hosting LLM.
Kesimpulan
Kedua kartu menghadirkan kelas GPU yang sama dan memori 48 GB. RTX A6000 cocok untuk workstation di meja kerja; A40 cocok untuk server, workstation jarak jauh, dan layanan AI 24/7, dan Anda dapat menyewanya alih-alih membelinya.
