Learning Path
浏览 PyTorch 相关教程与章节。
AI Agent、机器学习、深度学习、数据分析与 Python 科学计算。
教程
525
PyTorch torch.nn.ELU 函数 PyTorch torch.nn 参考手册 torch.nn.ELU 是 PyTorch 中的指数线性单元激活函数。 它对负值使用指数函数，允许负值有非零输出，梯度更平滑。 函数定义 torch.nn.ELU(alpha=1.0, inplace=False) 公式 ELU(x) = x, x > 0 ELU(x) = alpha * (e^x - 1), x..
PyTorch torch.nn.Embedding 函数 PyTorch torch.nn 参考手册 torch.nn.Embedding 是 PyTorch 中用于词嵌入的模块。 它将离散的词汇索引映射到连续的向量空间，是自然语言处理中最基础的操作之一。 函数定义 torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None..
PyTorch torch.nn.EmbeddingBag 函数 PyTorch torch.nn 参考手册 torch.nn.EmbeddingBag 是 PyTorch 中的嵌入袋模块。 它将多个嵌入向量聚合成单个向量，常用于文本分类和快速处理。 函数定义 torch.nn.EmbeddingBag(num_embeddings, embedding_dim, max_norm=None, norm_type=2.0, sc..
PyTorch torch.nn.Flatten 函数 PyTorch torch.nn 参考手册 torch.nn.Flatten 是 PyTorch 中的张量展平模块。 它将多维张量展平为一维，常用于卷积层和全连接层之间的连接。 函数定义 torch.nn.Flatten(start_dim=1, end_dim=-1) 参数说明： start_dim (int): 展平开始的维度。默认为 1（保留 batch 维度）。..
PyTorch torch.nn.GELU 函数 PyTorch torch.nn 参考手册 torch.nn.GELU 是 PyTorch 中的高斯误差线性单元（Gaussian Error Linear Unit）激活函数。 它是 Transformer 架构的默认激活函数，相比 ReLU 具有更好的性能和平滑的梯度。 函数定义 torch.nn.GELU(approximate='none') 参数说..
PyTorch torch.nn.GroupNorm 函数 PyTorch torch.nn 参考手册 torch.nn.GroupNorm 是 PyTorch 中的组归一化模块。 它将通道分成组进行归一化，不依赖 batch size，适合小 batch 或变长序列。 函数定义 torch.nn.GroupNorm(num_groups, num_channels, eps=1e-05, affine=True) 参数： ..
PyTorch torch.nn.GRU 函数 PyTorch torch.nn 参考手册 torch.nn.GRU 是 PyTorch 中的门控循环单元模块。 GRU 是 LSTM 的简化版本，参数更少，计算更快，效果相近。 函数定义 torch.nn.GRU(input_size, hidden_size, num_layers=1, bias=True, batch_first=True, dropout=0, bidir..
PyTorch torch.nn.HuberLoss 函数 PyTorch torch.nn 参考手册 torch.nn.HuberLoss 是 PyTorch 中的 Huber 损失函数。 它是 MSE 和 MAE 的结合，对异常值鲁棒且梯度稳定。 函数定义 torch.nn.HuberLoss(delta=1.0, reduction='mean') 参数： delta: 切换点，超出该值使用 MAE..
PyTorch torch.nn.InstanceNorm2d 函数 PyTorch torch.nn 参考手册 torch.nn.InstanceNorm2d 是 PyTorch 中的实例归一化模块。 它对每个样本的每个通道独立归一化，常用于风格迁移。 函数定义 torch.nn.InstanceNorm2d(num_features, eps=1e-05, momentum=0.1, affine=False, track_..
PyTorch torch.nn.L1Loss 函数 PyTorch torch.nn 参考手册 torch.nn.L1Loss 是 PyTorch 中的 L1 损失函数，也称为平均绝对误差（MAE）。 函数定义 torch.nn.L1Loss(reduction='mean') 使用示例 示例 1: 基本用法 实例 [mycode4 type='python'] import..
PyTorch torch.nn.LayerNorm 函数 PyTorch torch.nn 参考手册 torch.nn.LayerNorm 是 PyTorch 中的层归一化模块。 与批归一化不同，层归一化在单个样本的特征维度上进行归一化，不依赖 batch size。 函数定义 torch.nn.LayerNorm(normalized_shape, eps=1e-05, elementwise_affine=True) 参..
PyTorch torch.nn.LeakyReLU 函数 PyTorch torch.nn 参考手册 torch.nn.LeakyReLU 是 PyTorch 中的带泄漏的 ReLU 激活函数。 它允许负值有一个小的正梯度，避免'死亡神经元'问题。 函数定义 torch.nn.LeakyReLU(negative_slope=0.01, inplace=False) 参数 negative_slope..
PyTorch torch.nn.Linear 函数 PyTorch torch.nn 参考手册 torch.nn.Linear 是 PyTorch 中用于创建全连接层（也称为线性层或仿射变换）的模块。 它是神经网络中最基础也是最常用的层之一，负责将输入特征线性变换到输出特征空间。 函数定义 torch.nn.Linear(in_features, out_features, bias=True) 参数说明： in_feat..
PyTorch torch.nn.LogSoftmax 函数 PyTorch torch.nn 参考手册 torch.nn.LogSoftmax 是 PyTorch 中的 Log Softmax 激活函数。 它是 Softmax 的对数形式，数值更稳定，常与 NLLLoss 配合使用。 函数定义 torch.nn.LogSoftmax(dim=None) 公式 LogSoftmax(x_i) = log(exp(x_i) ..
PyTorch torch.nn.LSTM 函数 PyTorch torch.nn 参考手册 torch.nn.LSTM 是 PyTorch 中用于长短期记忆网络的模块。 LSTM 是一种特殊的循环神经网络，能够学习长期依赖关系，广泛用于序列建模任务。 函数定义 torch.nn.LSTM(input_size, hidden_size, num_layers=1, bias=True, batch_first=True, dr..
PyTorch nn.MaxPool2d 函数 PyTorch torch.nn 参考手册 torch.nn.MaxPool2d 是 PyTorch 中用于二维最大池化的模块。 池化层可以降低特征图的空间尺寸，减少计算量，同时提供一定程度的平移不变性。 函数定义 torch.nn.MaxPool2d(kernel_size, stride=None, padding=0, dilation=1, return_indices=F..
PyTorch torch.nn.Module 函数 PyTorch torch.nn 参考手册 torch.nn.Module 是 PyTorch 中所有神经网络模块的基类。 所有自定义的网络模型都应该继承自这个类，它提供了参数管理、设备迁移、模型保存等功能。 类定义 torch.nn.Module 主要属性 parameters(): 返回模型的所有可学习参数 named_parameters(): 返回参数名称和值的..
PyTorch torch.nn.ModuleList 函数 PyTorch torch.nn 参考手册 torch.nn.ModuleList 是 PyTorch 中用于存储模块列表的容器。 它类似于 Python 列表，但会自动注册所有子模块。 函数定义 torch.nn.ModuleList(modules=None) 使用示例 示例 1: 基本用法 实例 [mycode4 type='python&..
PyTorch torch.nn.MSELoss 函数 PyTorch torch.nn 参考手册 torch.nn.MSELoss 是 PyTorch 中的均方误差损失函数。 它计算预测值与目标值之间差值的平方均值，常用于回归任务。 函数定义 torch.nn.MSELoss(reduction='mean') 参数说明： reduction (str): 损失聚合方式。可选 'mean�..
PyTorch torch.nn.MultiheadAttention 函数 PyTorch torch.nn 参考手册 torch.nn.MultiheadAttention 是 PyTorch 中的多头注意力机制模块。 它是 Transformer 架构的核心组件，允许模型同时关注来自不同位置的不同表示子空间的信息。 函数定义 torch.nn.MultiheadAttention(embed_dim, num_heads,..
PyTorch torch.nn.NLLLoss 函数 PyTorch torch.nn 参考手册 torch.nn.NLLLoss 是 PyTorch 中的负对数似然损失。 它用于多分类任务，需要配合 LogSoftmax 使用。 函数定义 torch.nn.NLLLoss(weight=None, ignore_index=-100, reduction='mean') 使用示例 示例 1: 基本..
PyTorch torch.nn.Parameter 函数 PyTorch torch.nn 参考手册 torch.nn.Parameter 是 PyTorch 中的可学习参数张量。 它是一个包装器，将普通张量转换为可学习的参数，会自动添加到模块参数列表中。 函数定义 torch.nn.Parameter(data=None, requires_grad=True) 使用示例 示例 1: 基本用法 实例 [mycod..
PyTorch torch.nn 参考手册 PyTorch 的 torch.nn 模块是构建和训练神经网络的核心模块，它提供了丰富的类和函数来定义和操作神经网络。以下是 torch.nn 模块的一些关键组成部分及其功能： 1、nn.Module 类： nn.Module 是所有自定义神经网络模型的基类。用户通常会从这个类派生自己的模型类，并在其中定义网络层结构以及前向传播函数（forward pass）。 2、预定义层（Modu..
PyTorch torch.nn.ReLU 函数 PyTorch torch.nn 参考手册 torch.nn.ReLU 是 PyTorch 中最常用的激活函数之一，它对输入张量逐元素执行修正线性单元（Rectified Linear Unit）运算。 ReLU 是深度学习中最成功的激活函数之一，因为它计算简单、收敛速度快，且能有效缓解梯度消失问题。 函数定义 torch.nn.ReLU(inplace=False) 参数说明..