深度学习是机器学习的一个分支核心是用多层神经网络自动从数据中学习特征和规律。下面从几个层面梳理一下。一、深度学习概述1.什么是深度学习深度学习Deep Learning是机器学习的一个子领域(分支)它使用多层非线性变换即深层神经网络来对数据建模,能够主动学习数据的多层次表示,从而完成分类 ,回归 或 生成等任务。广泛应用于 图像识别 , 语音识别 和 自然语言处理(NLP)等领域.核心特点自动特征提取传统机器学习需要人工设计特征深度学习直接从原始数据中学习特征。端到端学习输入原始数据直接输出结果中间不需要人工干预。层次化表示浅层学低级特征如边缘、纹理深层学高级特征如物体、语义。使用多层神经网络,能够自动拾取数据的多层次特征适合处理非结构化数据,如图像 , 音频,文本等依赖大量数据和计算资源,训练时间较长模型复杂,通常被视为 “黑箱”,解释性较差和传统机器学习的关系人工智能 └── 机器学习 └── 表示学习 └── 深度学习深度学习是机器学习的一个子集而机器学习又是人工智能的一个子集。2、为什么深度学习现在才火深度学习的概念几十年前就有了但直到最近才爆发主要靠三个条件条件说明大数据互联网产生海量标注数据ImageNet、维基百科等算力GPU、TPU 等并行计算设备训练速度大幅提升算法ReLU、Dropout、Batch Normalization、Adam 等优化技巧三者缺一不可。3、神经网络的基本结构3.1. 神经元神经网络的基本单元接收输入加权求和经过激活函数输出y f ( ∑ i w i x i b ) y f\left(\sum_{i} w_i x_i b\right)yf(i∑wixib)w i w_iwi权重b bb偏置f ff激活函数3.2. 层输入层接收原始数据隐藏层中间层负责特征变换可以有很多层输出层输出最终结果3.3. 前向传播与反向传播前向传播输入 → 逐层计算 → 输出预测反向传播计算损失 → 逐层求梯度 → 更新权重这是神经网络训练的核心机制。3、常见网络结构网络类型全称擅长任务CNN卷积神经网络图像识别、目标检测RNN循环神经网络序列数据、时间序列LSTM长短期记忆网络长序列建模Transformer注意力机制网络NLP、多模态当前主流GAN生成对抗网络图像生成、数据增强GNN图神经网络图结构数据社交网络、分子5、深度学习的训练流程准备数据收集、清洗、标注、划分训练/验证/测试集设计模型选择网络结构、层数、激活函数定义损失函数分类用交叉熵回归用 MSE选择优化器SGD、Adam、RMSProp 等训练前向传播 → 计算损失 → 反向传播 → 更新参数验证与调参调整学习率、正则化、网络深度等测试与部署在测试集评估上线推理6、常见问题与对策问题表现对策过拟合训练好测试差加数据、Dropout、正则化、早停欠拟合训练测试都差加层、加特征、减正则化梯度消失深层网络难训练ReLU、Batch Norm、残差连接梯度爆炸损失变 NaN梯度裁剪、减学习率训练慢收敛慢换优化器、调学习率、用 GPU7、应用领域计算机视觉图像分类、目标检测、分割、人脸识别自然语言处理机器翻译、情感分析、问答、大语言模型语音语音识别、语音合成推荐系统点击率预测、个性化推荐医疗医学影像分析、药物发现自动驾驶感知、决策、控制游戏AlphaGo、强化学习8、当前趋势大模型GPT、LLaMA、Claude 等参数量从亿到万亿多模态文本、图像、音频统一建模自监督学习不依赖人工标注从数据本身学高效推理量化、蒸馏、剪枝让模型跑在边缘设备AI 生成扩散模型、生成对抗网络文生图、文生视频9、一句话总结深度学习就是用多层神经网络从大量数据中自动学习层次化特征端到端地解决感知、预测和生成任务。它是当前 AI 的核心驱动力背后靠的是大数据、算力和算法的共同进步。二 PyTorch介绍2.1 PyTorch 简介PyTorch 是深度学习领域主流的开源 Python 机器学习框架它为实现神经网络模型提供了高效的计算工具与训练环境是连接深度学习理论与实际应用的关键桥梁。它最初由 Meta Platforms 人工智能团队开发现隶属于 Linux 基金会支持 Python 与 C 双接口其中 Python 接口为核心开发重点广泛适配计算机视觉、自然语言处理等深度学习主流领域。作为基于 Torch 库构建、底层由 C 实现的框架PyTorch 解决了“深度学习模型需高效计算与训练”的核心需求提供类NumPy的张量计算体系支持GPU/MPS硬件加速内置自动微分系统为实现神经网络的反向传播与参数优化提供原生支持。目前特斯拉自动驾驶、Hugging Face Transformers、PyTorch Lightning 等众多深度学习工具与应用均基于 PyTorch 构建也印证了其在第一章所述深度学习工程落地场景中的广泛应用价值。PyTorch 官方地址https://pytorch.org/2.2 PyTorch 安装1先创建一个虚拟环境conda create -n dl python3.122然后激活虚拟环境conda activate dl3为了加速安装配置pip的国内镜像源#这里只是推荐,不一定合适pip configsetglobal.index-url https://pypi.tuna.tsinghua.edu.cn/simplePyTorch 有 CPU 版本和 GPU 版本供选择。2.2.1 CPU版本的安装打开官网根据自己的操作系统选择对应的安装命令即可。https://pytorch.org/get-started/locally/2.2.2 GPU版本的安装首先要保证你的电脑是NVIDIA的独立显卡。2.2.3.1 确定你显卡算力可以去这个网址查看你的显卡算力https://developer.nvidia.cn/cuda-gpus#compute如果显卡的算力3.0就可以使用GPU进行加速训练了如果是最近几年才买的电脑一般都能达到3.0的算力。2.2.3.2 查看支持的最高CUDA版本CUDA 是 NVIDIA 推出的通用并行计算平台和编程模型它让 GPU 不仅能做图形渲染还能做科学计算和深度学习。PyTorch 的 GPU 加速版是和特定 CUDA 版本绑定的。命令行中输入nvidia-smi在CUDA Version栏查看显卡支持的最高CUDA版本。2.2.3.3 选择合适的CUDA版本选择的 PyTorch CUDA 版本绝对不能超过nvidia-smi命令查到的最高版本。和 12.8 都≤12.8都可以选优先选稳定版Stable里最新的兼容版本图里选 CUDA12.6 是稳定版12.8 如果是稳定版也可以选最后复制对应的安装命令图里提供的是pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu126就能安装对应 CUDA 版本的 PyTorch 了。2.2.4 测试是否安装成功1Windowsimporttorchprint(torch.__version__)# torch版本print(torch.cuda.is_available())# GPU 是否可用 windows cuda2Apple系列芯片的 macosimporttorchprint(torch.__version__)# torch版本print(torch.backends.mps.is_available())# GPU 是否可用 macos mps当你电脑上装了多个 Python 环境可以试试在安装了的环境里试试怎么确认在 CMD 里输入bash where python这会列出系统里所有能找到的 Python 路径。你会看到可能有多个比如text C:\Users\Administrator\AppData\Local\Programs\Python\Python311\python.exe C:\Users\Administrator\anaconda3\python.exe哪一个是你装 PyTorch 的那个 在编辑器里运行pythonimportsysprint(sys.executable)这会输出当前编辑器的 Python 路径。对比一下如果和 CMD 里的不一样就说明是环境不一致。
