直接折腾过几次 Windows 上的 YOLOv8 环境，每次换新机器都要重新踩一遍 CUDA、cuDNN、PyTorch 匹配的坑。这次装完顺手把完整流程和版本逻辑整理出来，2026 年 5 月这个时间点依然适用，照着做基本能一次跑通。
这篇文章写给三类人：刚入手 YOLOv8 想知道怎么在自己 Windows 电脑上跑 GPU 加速的新手；换了新电脑需要在装机后快速复现环境的进阶玩家；被各种报错折腾到想放弃的倒霉蛋。我会从选型逻辑讲到每一步的命令，再附上我踩过的坑和排查方法，全部基于真实实操记录。
1. 搭建思路与显存加速的核心逻辑
1.1 为什么用 GPU 而不是 CPU
YOLOv8 在 CPU 上也不是不能跑，但一张 640 分辨率的图片，CPU 推理大概要 1 到 3 秒，训练一轮小数据集都要熬好几个小时。用上 GPU 之后，推理时间直接从秒级降到毫秒级，训练速度能快 5 到 10 倍。这个差距在中高端显卡上尤其明显。
GPU 加速的核心不是 YOLOv8 本身，而是底层的计算框架 PyTorch。PyTorch 要想调用显卡，必须同时满足三件事：显卡驱动正确、CUDA 工具包可用、PyTorch 版本和 CUDA 版本匹配。这三者就是一条链条，哪个环节断了都会表现为“环境装好了但程序还在用 CPU”。
这里面最容易让人困惑的是 CUDA 有两个概念。一个是 NVIDIA 的 CUDA Toolkit，它是你自己手动装的开发环境；另一个是 PyTorch 自带的 CUDA 运行库，它内嵌在 torch 的 wheel 包里。其实安装 PyTorch 时你选带 cu 后缀的版本，它已经把运行需要的 CUDA 库一起打包了，所以很多时候你甚至不需要单独安装完整版 CUDA Toolkit。但如果你要编译自定义算子或者其他底层操作，那就必须把 Toolkit 补齐。这篇文章我会把两种情况都说清楚。
1.2 Windows 搭建的整体流程
Windows 下的搭建流程可以概括为一条完整链路：
显卡驱动 → CUDA Toolkit → cuDNN → Miniconda → Python 虚拟环境 → PyTorch GPU 版 → ultralytics 包 → 验证推理
如图所示，每一层都是下一层的基础，但层与层之间又有版本匹配关系。我开始踩坑最惨的一次，就是驱动和 CUDA 都装好了，结果 PyTorch 装了个 CPU 版，白忙活一下午。所以安装顺序和版本核对一定要认真对待。
先说结论：2026 年这个时间点，最稳的组合是 Windows 10/11 64 位 + NVIDIA 驱动 570 或更高 + CUDA 12.8 + cuDNN 9.x + PyTorch 2.7 及以上版本。如果你用的显卡是 RTX 20 系以后的，这个组合基本没毛病。老显卡建议用 CUDA 11.8 配 PyTorch 2.0 以下版本的保守方案。
1.3 装环境前检查这几样配置
开工之前先用几个命令确认自己的硬件和系统状态：
nvidia-smi这个命令能显示显卡型号、驱动版本和驱动支持的 CUDA 版本号。注意，它显示的是“驱动支持的最高 CUDA 版本”，不是你已经安装的 CUDA Toolkit 版本，这个要看清楚。
检查系统版本，按 Win + R 输入winver就能看到。建议至少 Windows 10 21H2 以上，老版本系统对该驱动和最新 CUDA 的支持会生生砍掉一截，还容易出现兼容性报错。
内存建议 16GB 起步，8GB 也能跑但训练时会经常被显存、内存双双卡脖子，属实痛苦。硬盘剩余空间至少留 30GB，PyTorch、CUDA、环境依赖、预训练权重加起来十几个 G 很轻松。
2. 基础环境安装：显卡驱动、CUDA 与 cuDNN
2.1 显卡驱动：先装好底子
如果你确定自己的显卡驱动能跑较新游戏，那驱动版本大概率是够用的。但很多人用的偏偏是核显输出或者老驱动，结果就是装完 CUDA 各种诡异报错。
驱动下载建议直接去 NVIDIA 官网，按显卡型号选最新稳定版即可。安装时选择“自定义安装”，勾选“执行清洁安装”，这能卸载掉旧的驱动残留，避免后面版本冲突。我遇到过多次驱动不干净导致的推理报错，清洁安装后问题直接消失。
装完驱动重启系统，再跑一次nvidia-smi，确认显卡型号和驱动版本都正常显示，然后进行下一步。
2.2 安装 CUDA Toolkit：选对版本才算成功
这里又回到那个常见的纠结：CUDA 到底装哪个版本？
我的建议是直接看 PyTorch 官方支持列表，PyTorch 支持哪个你就装哪个。目前 PyTorch 官方对 CUDA 12.8 的支持已经非常成熟，这也是我推荐组合里选 12.8 的原因。如果你用的是 PyTorch 2.6 之前的版本，官方主要支持 CUDA 12.4，也可以照对应版本装。
前往 NVIDIA 官网下载 CUDA Toolkit 12.8.0，安装类型选“自定义”，组件选全。安装路径我建议直接用默认的C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8，不要随便改，免得自己给自己找麻烦。
装完系统会多出两个环境变量：CUDA_PATH指向 CUDA 安装目录，PATH里会追加bin等目录。可以在命令行验证：
nvcc --version显示Cuda compilation tools, release V12.8.0就说明 CUDA Toolkit 安装成功。
2.3 cuDNN：别被版本号吓到
cuDNN 是深度神经网络加速库，一方面能让卷积和池化算子性能大幅提升，另一方面它也承担了很多底层稳定性的责任。我实测过没装 cuDNN 的话有些模型会直接报错崩溃。
下载 cuDNN 需要注册 NVIDIA 开发者账号，按要求选择对应 CUDA 12.8 的 cuDNN 9.x 压缩包。下载解压后会得到下列目录：
bin/ include/ lib/把这些目录里的内容直接复制到你的 CUDA 安装目录中，文件夹同名就直接合并覆盖。Windows 下大部分网友都是这么操作的，简单省事，不用额外注册 DLL 或者配置路径。
复制完可以再跑一次nvidia-smi确认没有报错，并检查环境变量中 CUDA_PATH 正确指向 v12.8。cuDNN 不像 CUDA 那样有--version命令行，所以验证可以放后面通过实际推理来进行。
2.4 别装重样：多 CUDA 版本共存技巧
很多人的电脑上其实已经存在不同版本的 CUDA，比如搞其他开发时装的 CUDA 11.8。这也是一个常见的坑。
我的建议是：优先只保留一个主版本。不同项目如果非要共存也没问题，关键是环境变量CUDA_PATH一定要指向你需要的那一个。在系统环境变量里手动把CUDA_PATH和PATH里的 CUDA 路径统一改到目标版本即可。
3. 创建虚拟环境并安装 PyTorch GPU 版
3.1 Miniconda：比 Anaconda 轻量多了
Anaconda 功能全但动辄几个 GB，实际用到的主要就是 conda 命令和 Python 环境。我推荐用 Miniconda，安装包小，用起来一样顺手。
Miniconda 安装过程没什么好说的，一路下一步，但有一点：安装界面会有一个“Add Miniconda to PATH”选项，默认是不勾选的。如果你是那种不太熟悉命令行路径的新手，我建议勾上，这样会省很多麻烦。只要安装的时候勾了，后面 cmd 里直接就能用 conda 命令。
装完先换 channel。这一步在国内非常必要，否则 conda 下载 Python 或者依赖包时会卡到怀疑人生。以清华大学开源镜像站为例：
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/ conda config --set show_channel_urls yes同时设置 pip 镜像源，国内用阿里云或者腾讯云都可以。以阿里云 pypi 镜像为例：
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/3.2 创建 Python 3.11 虚拟环境
YOLOv8 对 Python 版本要求不算苛刻，3.9 到 3.12 基本都能跑。我个人的偏好是 Python 3.11，性能和兼容性很均衡，各种第三方轮子也都已经配套完整。
conda create -n yolov8 python=3.11 -y conda activate yolov8激活之后命令行前缀会出现(yolov8)，这时候所有后续安装都会在这个独立环境里进行。虚拟环境的好处是多个项目之间的依赖完全隔离，不会出现毁掉环境的连锁反应。
3.3 PyTorch 安装：最容易翻车的一步
PyTorch 的安装是整个流程的分水岭。很多人栽在这里，就是因为用了不带 CUDA 的默认版本。
到 PyTorch 官网选择对应的 CUDA 版本，照着给出的命令安装。当前推荐 pip 方式：
若选择 CUDA 12.8：
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128如果你的显卡相对老旧，或者项目需要稳定兼容性，可以选择 CUDA 11.8：
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118这里要提醒一句：--index-url参数不能和前面设置的阿里镜像混用，因为指定了这个参数之后 pip 只从给定地址找包，不会再去看全局镜像。如果这个地址下载慢，可以加--proxy或者直接换国内 PyTorch 镜像源。官方下载地址在大文件场景下速度波动比较大，耐心等就行。
安装完成后验证能否调用 GPU：
import torch print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name(0))如果三行输出分别为：
2.7.x+cu128 True NVIDIA GeForce RTX 4060 Laptop GPU说明 PyTorch 已经正确识别并可以调用显卡。如果torch.cuda.is_available()显示False，那基本可以断定装成了 CPU 版或者版本不匹配。
3.4 版本匹配原理，一次说透
为什么torch.cuda.is_available()的返回值那么关键？
PyTorch 判断能否用 CUDA 的逻辑是：它内部自带的 CUDA 运行时和你的显卡驱动能否正确通信。如果 PyTorch 自带的 CUDA 版本比驱动支持的 CUDA 版本更高，就会报错或者直接重新命名 CUDA 不可用。比如你的驱动只支持 CUDA 12.4，但你强行装了支持 CUDA 12.8 的 PyTorch，驱动接口对不上，自然就回退到 CPU。
所以记住这个顺序：驱动决定能支持的 CUDA 最高版本，CUDA 决定 PyTorch 能匹配的版本，PyTorch 决定你能跑哪个 YOLOv8 的功能。
4. 安装 YOLOv8 并跑通你的第一个推理程序
4.1 安装 ultralytics 包
现在 YOLOv8 已经整合在ultralytics统一库里，不需要再单独 clone 一个 repo，装一个包就全都搞定了。
pip install ultralytics这条命令会帮你装好所有依赖，包括 numpy、opencv-python、pandas、torch 等。如果之前已经装过 torch，注意安装过程中会不会把 torch 自动替换成 CPU 版。这个问题偶尔会发生，因为 ultralytics 的依赖列表里的 torch 是不区分 CPU/GPU 的。安装完成后重新跑一遍：
import torch print(torch.cuda.is_available())确认还是True。如果是False，就用 3.3 的命令重新强制安装 GPU 版再把版本压回来。
4.2 准备预训练权重与测试图片
YOLOv8 官方提供了一系列预训练权重，我平时测试环境用的是最轻量的yolov8n.pt，文件大概 6MB，下载快，推理速度也快，用来验证环境再合适不过。
新建一个工作目录，比如D:\yolov8_test，在里面放一张你想测试的图片，比如一张街道路口照片。然后运行：
yolo predict model=yolov8n.pt source=test.jpg如果你更习惯 Python 方式，可以先写一个最精简的脚本：
from ultralytics import YOLO model = YOLO("yolov8n.pt") results = model("test.jpg", device=0) for result in results: boxes = result.boxes print(f"检测到 {len(boxes)} 个目标") for box in boxes: x1, y1, x2, y2 = box.xyxy[0].tolist() cls = int(box.cls[0]) score = float(box.conf[0]) print(f"类别 {cls}, 置信度 {score:.2f}, 坐标 ({x1:.0f}, {y1:.0f}) -> ({x2:.0f}, {y2:.0f})")这里的device=0就是指定使用 GPU，数字 0 表示第一张显卡。如果你有多张卡，可以改成 1、2 等。跑完如果控制台输出的速度从每张几秒变成几十毫秒，就说明 GPU 已经在工作了。
4.3 用 CLI 快速验证
实际上第一次验证我更喜欢直接用命令行，入门门槛更低。在 cmd 里激活环境后输入：
yolo predict model=yolov8n.pt source='https://ultralytics.com/images/bus.jpg'跑完输出会在runs/detect/predict目录下生成标注好的图片，还会打印出目标数量、耗时等统计信息。我实测在单张 1080P 图片上用 RTX 4060 Laptop GPU，推理时间仅 40 毫秒左右，非常丝滑。
首次运行会自动下载yolov8n.pt权重。如果下载不了或者很慢，只能先找其他方式把权重下载好再手动放到工作目录，之后运行检测时会优先读取本地文件，不再重新下载。
4.4 训练验证环境全链路
环境搭好后，建议再做一次独立的完整性验证，比单纯推理更进一步——跑几个 epoch 的训练看看。这一步能提前暴露出推理测试发现不了的网络通信、显存分配方面的问题。
用 COCO 数据集里的一个小子集来做训练验证，或者直接拿一张自定义图片数据集跑通流程。最简单的验证方式：
yolo train data=coco8.yaml model=yolov8n.pt epochs=3 imgsz=640 device=0coco8.yaml是 ultralytics 提供的微型示例数据集，只有 8 张图片，三个 epoch 一两分钟就能跑完。看到控制台输出进度条正常变化、显存占用提升、每轮 loss 下降，就基本可以确定整个训练链路是通的。
5. 常见问题排查与避坑实录
5.1 报错CUDA error: device-side assert triggered
这个报错是显存相关的运行时错误，通常发生在目标数量过少导致 tensor 索引越界，或者数据集标签有异常值。排查思路是：先确认数据集标注没有超出类别范围的 id，然后用 CPU 跑一遍，如果 CPU 跑同样的数据没问题而 GPU 报错，大概率是某个算子或显存状态在训练早期就被破坏了。
急救办法：重启 Python 进程，清空显存缓存，调小 batch size。如果是多进程数据加载，最好把workers参数调低，避免多个子进程同时抢显存触发竞态条件。
5.2 推理正常但训练时显存不足
训练比推理要消耗多得多的显存，因为你同时要保存前向传播的中间张量、梯度，还要更新优化器状态。如果你的显卡只有 8GB 显存，训练初始建议先试batch=8和imgsz=416，跑通之后逐步上调。
显存不足的另外一种体现是直接 OOM，PyTorch 报断言错误。这个时候不要试图强行调大 batch，而是用torch.cuda.empty_cache()清理缓存块，配合把save_period调短防止输出文件突然膨胀。
5.3 环境变量残留与原路径冲突
一个非常常见的翻车点：电脑以前装过别的 CUDA 版本，注册表和环境变量里的路径指向新版本倒是能对，但PATH里旧版本路径排前面，导致命令行实际找的是旧版本库。
排查方法：在 cmd 里执行：
where nvcc看返回的路径是不是你希望使用的 CUDA 版本。如果不对，手动把PATH里的旧路径删掉，把新路径提前，然后重启终端再试。
5.4 安装了 GPU 版 PyTorch 却显示不可用
这个问题我也是回头找过很多次才发现原因：torch 自带的 CUDA 运行时与驱动版本不兼容，但并没有直接升级爆出，而是静默 fallback 到 CPU 模式。torch.cuda.is_available()返回False时，先看torch.__version__是否带有+cu后缀，有后缀再看nvidia-smi里驱动版本。
如果驱动版本低，果断升级驱动；如果驱动已经足够新，那就是 PyTorch 包装错了，重新用正确的--index-url装一遍，别偷懒。
我装环境的经验是，第一次出错基本都是版本匹配问题，千万别急躁重装系统，先跑这几个检查命令，把问题方向定位清楚，一次就能解决。
5.5 镜像源下载中途卡死
用国内镜像下载 PyTorch 或者 ultralytics 依赖包时，偶尔会遇到连接中断或者 CRC 校验失败。这种情况我一般是直接清缓存：
pip cache purge然后重新安装。如果还是失败，换另一个镜像源，不同服务商的网络稳定性差异挺大的。一般 pip 默认源和阿里源之间来回切，能解决九成下载问题。
5.6 每个版本号都匹配完美，但还是跑不快
最后提一个听起来玄学的东西：环境都装对了、GPU 也识别了，但推理速度并没有明显提升。这种情况十有八九是操作系统的电源计划开了省电模式，GPU 一直处于低频状态。
去 Windows 设置里把电源模式改成“最佳性能”，笔记本用户还要留意 NVIDIA 控制面板里“管理 3D 设置”选的是哪张显卡。如果电脑有核显也有独显，YOLOv8 默认不一定调用独立显卡，可以在 Windows 图形设置里指定 Python 进程使用“高性能 NVIDIA 处理器”。
写在最后的小建议
每次帮别人排查 YOLOv8 环境，我发现九成左右的问题都集中在版本匹配和环境残留上。如果你严格按照本文的顺序走，大概率一次装完就很稳。装完环境之后，建议手动跑一次推理加一次微型训练，把 GPU 链路彻底验证完再关电脑，不然放几天之后再来折腾，还得重新“电子热身”。
另外一个我个人的习惯是，环境装好之后把安装命令整理成一个 bat 或者记在笔记里，下次换机器直接复制过来改改就能用，比临时从零研究效率高很多。希望这份记录能给你省下一些头发。
