NVIDIA GPUDirect nedir?
Özellikle AMD ile NVIDIA arasındaki rekabette son zamanlarda adından sıkça söz ettiren NVIDIA GPUDirect’i merak ediyorsanız, işte bu yazımızda ne olduğu hakkında biraz daha bilgi edinebileceksiniz. NVIDIA GPUDirect, video oyunlarını hızlandırmayı amaçlayan yeni bir teknolojidir.
NVIDIA GPU Direct nedir?
NVIDIA GPUDirect, veri erişimi için GPU’nun gücünden yararlanarak veri hareketini iyileştirmeyi amaçlar. Süreçler sırasında, özellikle belirli bilimsel ve finansal yazılımlarda, açık dünya video oyunlarında vb. büyük miktarda veri taşınır. Grafik şirketi, performansı arttırmak için bu teknolojiyi geliştirdi.
Gerçekten NVIDIA GPUDirect, Magnum IO’nun bir parçası olan ve özellikle veri merkezlerine yönelik bir teknoloji grubu, bir teknoloji ailesidir. Bu teknoloji ile hem ağ bağdaştırıcıları veya kartları hem de ikincil depolama birimleri, GPU’nun belleği olan VRAM’a doğrudan okuyabilir ve yazabilir.
GPUDirect olmadan bu görevin CPU’dan geçmesi ve onu aşırı yüklemesi gerekiyordu. Artık bu işten kurtulabilir ve diğer önemli görevlere odaklanabilir ve her şeyi GPU’ya bırakabilirsiniz. Bu, gecikmeyi azaltarak yalnızca GPU bölümünde değil, aynı zamanda CPU’da da performans iyileştirmeleri anlamına gelir.
NVIDIA GPUDirect, GPUDirect Depolama, PCIe cihaz erişimi için GPUDirect Uzaktan Doğrudan Bellek Erişimi (RDMA), GPUDirect P2P (Eşler Arası) ve GPUDirect Video gibi teknolojileri içerir ve bunların tümü geliştiriciler tarafından bir dizi API aracılığıyla erişilebilir. Öte yandan, CUDA Toolkit’te de mevcut olacak.
- GPUDirect Storage: Yerel depolama ortamı ile NVMe sabit sürücüleri gibi uzak depolama ortamları arasında, CPU müdahalesi olmadan, doğrudan ikincil depolamadan GPU VRAM’e doğrudan veri yolunu etkinleştirir. Bu ayrıca bir arabellekte ek kopyaları önler ve DMA motorlarından yararlanır.
- GPUDirect RDMA: CPU’nun müdahalesi olmadan doğrudan GPU’nun VRAM’ına erişen ve NVIDIA’ya göre yaklaşık 10 kat performans artışı sağlayan periferik PCIe cihazları arasında doğrudan bir iletişimdir.
- GPUDirect P2P: Eşler Arası, birden fazla olması durumunda GPU’dan GPU’ya kopyalar oluşturmanıza ve doğrudan PCIe bellek yapısı NVLink’e yükleyip depolamanıza olanak tanır. Ek olarak, CUDA sürücüsünü yerel olarak destekler, böylece geliştiriciler araç setini ve sürücüleri kullanabilir.
- GPUDirect for Video: Video kare yakalayıcılar, HD-SDI yakalama cihazları, CameraLink vb. gibi grafik tabanlı cihazlar için optimize edilmiş bir boru hattı sağlar, video karelerini GPU belleğine veya GPU belleğinden aktarır. (Yalnızca Windows’ta kullanılabilir.)
Bu, AI uygulamaları, HPC, veri analizi, veritabanları vb. gibi büyük miktarda veriyi taşıması gereken ve G/Ç hızını önemli ölçüde artıran görevler için özellikle önemli olacaktır.
AMD DirectGMA’ya alternatif
AMD, AMD DirectGMA gibi benzer bir teknolojiyi de tanıttığından, NVIDIA GPUDirect’in diğer tarafında bir rakibi var. Ayrıca, veri erişimi söz konusu olduğunda, işi doğrudan GPU’ya bırakarak, darboğazları ve CPU bant genişliği tıkanmasını ortadan kaldırmayı amaçlamaktadır.