Návod na instalaci CUDA ve Windows

  • Kompatibilita: Podporované verze Windows, vhodné ovladače a správně nakonfigurované modely WDDM/TCC.
  • Flexibilní instalace: Grafická nebo tichá sada nástrojů, Conda a Wheels s ověřením pomocí vzorků.
  • Hybridní prostředí: Podpora WSL s minimálním jádrem, Dockerem a frameworky AI v rámci Linuxu na Windows.
Daniel Terrasa

8 minut

CUDA ve Windows

Instalace CUDA na Windows Nemusí to být problém, pokud se budete řídit jasnou cestou ověřenou oficiálními průvodci. V tomto praktickém a technickém průvodci se budeme zabývat vším, co je potřeba k doladění sady nástrojů, ovladačů a ověřovacích nástrojů, a to jak v nativním systému Windows, tak i ve WSL. Cílem je, abyste nakonec získali funkční a otestovanou instalaci., připravený zrychlit vaše pracovní postupy s grafickými kartami.

Kromě klasických kroků se budeme zabývat kompatibilitou s Visual Studiem, tichou instalací, balíčky Conda a NVIDIA Wheels, ověřením pomocí příkladů CUDA, zvláštnostmi WSL a klíčovými poznámkami k vydání (například odstraněním ovladače z instalačního programu v CUDA 13). Také uvidíte, jak diagnostikovat běžné problémy. (včetně reálného případu s Lenovo Ideapad a ovladači 526.56) a specifické požadavky pro konkrétní scénáře, jako je Model Builder s CUDA 10.1 a cuDNN 7.6.4.

Co je CUDA?

CUDA je platforma a model paralelního programování od společnosti NVIDIA, který umožňuje akceleraci výpočetně náročných aplikací na GPU. S CUDA C/C++ a jeho rozšířeními Můžete se soustředit na paralelizaci algoritmu, zatímco běhové prostředí CUDA spravuje provádění a paměť mezi CPU a GPU. Rozdělením sériové (CPU) a paralelní (GPU) práce, Výkon je možné škálovat využitím tisíců vláken a sdílenou paměť na čipu.

Tato příručka se zaměřuje na to, jak doladit prostředí ve Windows (nativní i WSL), nainstalovat sadu nástrojů, zkompilovat příklady a ověřit, zda systém správně detekuje GPU. Ověření pomocí vzorků, jako jsou deviceQuery a bandwidthTest Je to kritická část, která je často přehlížena a kterou se zde výslovně zabýváme.

CUDA

Systémové požadavky a podporované verze Windows

Pro použití CUDA potřebujete kompatibilní grafickou kartu NVIDIA a podporovaný operační systém Windows. Mezi podporované verze operačního systému patříWindows 11 24H2, 23H2 a 22H2-SV2; Windows 10 22H2; Windows Server 2022 a Windows Server 2025. Ve Správci zařízení zkontrolujte, zda se vaše karta zobrazuje v části Grafické adaptéry, a ověřte její kompatibilitu v oficiálním seznamu GPU s podporou CUDA (stránka NVIDIA).

Na úrovni kompilátoru sada nástrojů podporuje MSVC 193x ve Visual Studiu 2022 17.x (C++11/14/17/20) a MSVC 192x ve Visual Studiu 2019 16.x (C++11/14/17). Podpora pro Visual Studio 2015 byla ve verzi 11.1 zastaralá.Pro VS 2017 byla tato funkce ve verzi 12.5 zastaralá a ve verzi 13.0 odstraněna. Upozorňujeme, že 32bitová kompilace byla od verze CUDA 12.0 odstraněna (nativní a křížová kompilace); pokud potřebujete 32bitovou verzi, budete muset použít starší sady nástrojů.

Ačkoliv ovladač NVIDIA bude i nadále umožňovat spouštění 32bitových binárních souborů na grafických procesorech GeForce až do architektury Ada, Ada bude poslední s touto podporouHopper již nepodporuje 32bitové aplikace. To je zásadní, pokud udržujete starší software v produkčním prostředí a potřebujete plánovat upgrady.

V systému Windows 10 a novějších verzích může ovladač NVIDIA fungovat ve dvou modelech: WDDM (pro zobrazovací zařízení) a TCC (Tesla Compute Cluster) pro GPU bez video výstupu, jako například Tesla nebo některé modely Titan. S nvidia-smi Můžete zkontrolovat aktuální režim a pokud je podporován, přepínat mezi nimi. Na stolních počítačích s herními grafickými kartami bude WDDM normou; na pracovních stanicích s výpočetními kartami, TCC je obvykle ve výchozím nastavení povoleno..

Instalace sady nástrojů ve Windows: krok za krokem

  1. Ověřte, že máte grafickou kartu s podporou CUDA a podporovanou verzi systému Windows.Ve Správci zařízení (Grafické adaptéry) můžete vidět výrobce a model.
  2. Stáhněte si sadu nástrojů NVIDIA CUDA z oficiální stránky ke stažení. Máte dva formáty: Síťový instalační program (stahuje pouze to, co je vybráno během instalace) a Plný instalační program (obsahuje všechny komponenty, užitečný offline nebo pro nasazení v podniku).
  3. Spusťte instalační program a postupujte podle grafického průvodce. v případě potřeby nainstalovat sadu nástrojů, příklady a integraci s Visual Studiem.
  4. V automatizovaných instalacích můžete použít tichý režim s -sa přidejte parametry pro výběr konkrétních podbalíčků. Příznak -n V případě potřeby se vyhněte automatickému restartu.
  5. Dokončit a restartovat pokud je požadováno.
  6. Otevřete příkazový řádek a spusťte jej nvcc -V zobrazit nainstalovanou verzi kompilátoru CUDA.

Instalace CUDA na Windows

Tichá instalace a dílčí balíčky Toolkit

Instalační program umožňuje nasadit specifické komponenty sady nástrojů, což je užitečné ve spravovaných prostředích nebo prostředích CI. Některé reprezentativní subpakety v CUDA 13.0 (výchozí cesta C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0) jsou:

  • cublas_13.0 / cublas_dev_13.0: běhové knihovny cuBLAS.
  • crt_13.0: kompilátor pro CUDA aplikace.
  • ctadvisor_13.0Analýza trasování NVCC/NVRTC pro zkrácení doby kompilace.
  • cuda_profiler_api_13.0 y cuadrt_13.0CUDA profiler a běhové API.
  • cufft_13.0 / cufft_dev_13.0cuFFT.
  • cuobjdump_13.0 y nvdisasm_13.0: pomůcky pro kontrolu kubánků.
  • cupti_13.0rozhraní nástrojů pro profilování.
  • curand_13.0 / curand_dev_13.0: CURAND.
  • cusolver_13.0 / cusolver_dev_13.0 y cusparse_13.0 / cusparse_dev_13.0knihovny lineární algebry.
  • cuxxfilt_13.0filtr demangler cu++.
  • dokumentace_13.0Průvodce HTML a PDF (programování, osvědčené postupy atd.).
  • nsight_compute_13.0, nsight_systems_13.0 y nsight_vse_13.0Nástroje Nsight.
  • npp_13.0 / npp_dev_13.0JE.
  • nvcc_13.0CUDA kompilátor.
  • nvfatbin_13.0, nvjitlink_13.0, nvtx_13.0, nvvm_13.0, nvptxcompiler_13.0Nástroje/knihovny a trasy v řetězci nástrojů.
  • nvjpeg_13.0 / nvjpeg_dev_13.0: nvJPEG.
  • nvml_dev_13.0Záhlaví a knihovny NVML.
  • nvprune_13.0: prořezávání objektů/statiky podle cílových zařízení.
  • kalkulačka_obsazenosti_13.0tabulka obsazenosti.
  • opencl_13.0Knihovna OpenCL.
  • sanitizer_13.0API pro sanitizér výpočtů.
  • thrust_13.0 y integrace_visual_studio_13.0Tah a integrace VS.

Pokud potřebujete před instalací zkontrolovat obsah, můžete rozbalit kompletní instalační balíček pomocí nástroje kompatibilního s LZMA (např. 7-Zip). Soubory sady nástrojů se nacházejí ve složce CUDAToolkit. Po rozbalení souborů naleznete uvnitř soubory .dll a .nvi, které můžete ignorovat, pokud si chcete pouze prohlédnout instalační strom. Odinstalace se provádí přes Ovládací panely > Programy a funkce.

Instalace s pipem (NVIDIA kola)

Pro prostředí zaměřená na Python nabízí NVIDIA Wheels, které instalují běhové prostředí CUDA a knihovny pomocí pipu. Tyto balíčky jsou určeny pro běhové použití. a nezahrnují vývojářské nástroje (v případě potřeby je můžete nainstalovat samostatně). Poznámka: prostředí CUDA je spravováno v prostředí pip, takže pokud chcete CUDA používat mimo něj, budete muset upravit hostitelské prostředí.

Nejprve nainstalujte nvidia-pyindex aby pip mohl rozlišovat moduly z repozitáře NVIDIA NGC. V případě potřeby aktualizace PIP a setuptools abyste se vyhnuli následným chybám. Můžete také přidat řádek nvidia-pyindex vám requirements.txt pokud s tou konvencí pracujete.

Ověření instalace: vzorky a testy

Zkontrolujte verzi kompilátoru pomocí nvcc -V z CMD. Naklonujte vzorky CUDA z github.com/nvidia/cuda-samplesZkompilujte a spusťte je dle pokynů v repozitáři. Důrazně se doporučuje sestavit a spustit deviceQuery abyste potvrdili, že je detekována grafická karta a že je konfigurace správná.

Test bandwidthTest ověřuje výkon a komunikaci mezi hostitelským zařízením. V obou případech je důležité, aby se zařízení objevilo.Odpovídá vašemu hardwaru a projde testy. Pokud deviceQuery Grafická karta nebyla detekována, zkontrolujte instalaci ovladače a zda je zařízení v systému funkční.

CUDA a WSL ve Windows 11 a Windows 10 21H2+

Windows 11 a novější verze Windows 10 (21H2 a novější) podporují spouštění nástrojů strojového učení s akcelerací GPU pomocí WSL. Budete schopni používat TensorFlow, PyTorch, Docker a NVIDIA Container Toolkit. v rámci linuxové distribuce založené na glibc (Ubuntu, Debian atd.).

Klíčové kroky: Nainstalujte ovladač s podporou NVIDIA CUDA v WSL, povolte WSL a přidejte distribuci typu Ubuntu/Debian. Ujistěte se, že máte nejnovější verzi jádra WSL. (minimálně 5.10.43.3). To si můžete ověřit v PowerShellu pomocí: wsl cat /proc/versionDále postupujte podle uživatelské příručky NVIDIA CUDA in WSL pro práci s NVIDIA Docker nebo nainstalujte PyTorch/TensorFlow v rámci distribuce.

Kontroly a diagnostika ve Windows

Chcete-li zjistit, jakou grafickou kartu máte: v Nastavení > Systém > Displej > Pokročilá nastavení najdete značku a model v části „Informace o displeji“. Ve Správci úloh, na kartě VýkonVyberte GPU pro zobrazení využití, modelu a paměti. Pokud se nezobrazí, zkontrolujte Správce zařízení > Grafické adaptéry a nainstalujte pro kartu příslušný ovladač.

Chcete-li zobrazit verzi CUDA „hlášenou“ vaším ovladačem, spusťte nvidia-smi. Zjištění verze nainstalovaného kompilátoru Toolkit, používá nvcc --version. Mějte to na paměti nvidia-smi Zobrazuje maximální verzi CUDA „API“ podporovanou ovladačem, nikoli tu z Toolkitu, který máte na disku.

Využití cloudu: příklad instancí s GPU

Pokud potřebujete výkon na vyžádání, poskytovatelé cloudových služeb nabízejí instance s grafickými kartami, jako je NVIDIA A100, RTX 4090 nebo A6000. Tento přístup umožňuje platby podle použití, téměř okamžité nasazení a hotové šablony. pro populární frameworky (PyTorch, TensorFlow). Pro velké pracovní zátěže nebo dočasné výkyvy je to efektivní alternativa bez investic do proprietárního hardwaru a s podporou nejnovějších verzí CUDA.

Právní upozornění a ochranné známky

Dokumentace a software NVIDIA jsou poskytovány „tak, jak jsou“, se všemi právy vyhrazenými a bez jakýchkoli implicitních záruk prodejnosti nebo vhodnosti pro konkrétní účel. NVIDIA si vyhrazuje právo upravit specifikace a dokumenty bez předchozího upozornění.Vždy si ověřujte nejnovější informace a respektujte prodejní a licenční podmínky třetích stran. OpenCL je ochranná známka společnosti Apple Inc. licencovaná společnosti Khronos; NVIDIA a její logo jsou registrované ochranné známky v USA a dalších zemích.

Díky všemu výše uvedenému nyní máte k dispozici vše potřebné k instalaci, konfiguraci a ověření CUDA ve Windows (a také ve WSL nebo Linuxu, když to potřebujete). Od požadavků a ovladačů až po integraci s Visual Studiem a ověření pomocí ukázekKlíčem je sladit verzi ovladače, sadu nástrojů a prostředí a spoléhat se na nástroje, jako je nvidia-smi, nvcc a vzorky k potvrzení, že celý řetězec funguje podle očekávání.