CodeNodeX AI
Sign upWrite

Learning Path

NLP tutorials

Browse tutorials and chapters for NLP.

AI & data

AI agents, ML, deep learning, analytics, and scientific Python.

Tutorials

22

TAXONOMYAI & dataFetched/NLP

NLP 教程

NLP 教程 自然语言处理(Natural Language Processing, NLP)是人工智能和语言学的一个交叉领域，致力于让计算机能够理解、解释和生成人类语言。NLP 结合了计算机科学、人工智能和语言学的知识，目标是实现人机之间的自然语言交流。 NLP 的核心任务 文本理解：让计算机理解人类语言的含义 文本生成：让计算机能够生成自然语言文本 语言翻译：实现不同语言之间的自动翻译 情感分析：识别文本中表达的情感倾向 ..

TUTORIALAI & dataFetched/NLP

注意力机制

注意力机制 注意力机制(Attention Mechanism)是深度学习中的一种重要技术，它模仿了人类视觉和认知过程中的注意力分配方式。就像你在阅读时会不自觉地将注意力集中在关键词上一样，注意力机制让神经网络能够动态地关注输入数据中最相关的部分。 基本概念 注意力机制的核心思想是：根据输入的不同部分对当前任务的重要性，动态分配不同的权重。这种权重分配不是固定的，而是根据上下文动态计算的。 数学表达 注意力机制通常可以表示为： Att..

TUTORIALAI & dataFetched/NLP

BERT系列模型

BERT系列模型 BERT(Bidirectional Encoder Representations from Transformers)是2018年由Google提出的革命性自然语言处理模型，它彻底改变了NLP领域的研究和应用范式。 本文将系统介绍BERT的核心原理、训练方法、微调技巧以及主流变体模型。 BERT的架构与训练 下图展示了 BERT（Bidirectional Encoder Representations fro..

TUTORIALAI & dataFetched/NLP

数据处理工具

数据处理工具 自然语言处理(NLP)是人工智能的重要分支，而数据处理是 NLP 项目成功的关键。本文将系统介绍NLP数据处理全流程中必备的工具集，涵盖数据清洗、数值计算、特征工程、机器学习和可视化等核心环节。 Pandas：数据清洗与预处理 Pandas 核心数据结构 Pandas 提供了两种主要数据结构，是NLP数据处理的基石： 数据结构 特点 NLP应用场景 Series 一维带标签数组 存储单个文本特征列 ..

TUTORIALAI & dataFetched/NLP

深度学习框架全面解析：从TensorFlow到模型部署

深度学习框架全面解析：从TensorFlow到模型部署 Linux 命令大全 深度学习框架概述 深度学习框架是现代人工智能开发的基石，它们提供了一系列工具和接口，让开发者能够高效地构建、训练和部署神经网络模型。主流的深度学习框架包括： TensorFlow/Keras：Google开发的工业级框架，适合生产环境 PyTorch：Facebook主导的研究型框架，动态计算图特性突出 Transformers 库：HuggingFac..

TUTORIALAI & dataFetched/NLP

生成式预训练模型

生成式预训练模型 生成式预训练模型是一类通过大规模无监督学习从文本数据中获取通用语言知识，并能够生成连贯、合理文本的深度学习模型。这类模型的核心特点是： 生成能力：能够根据输入（提示或上下文）自动生成新的文本。 预训练+微调范式：先在大量数据上预训练，再针对具体任务微调。 自回归或自编码架构：通过不同的训练目标学习语言规律。 一、GPT 系列模型发展历程 1.1 GPT-1：开创性的起点 GPT-1 (Gener..

TUTORIALAI & dataFetched/NLP

多模态预训练模型

多模态预训练模型 多模态预训练模型（Multimodal Pre-trained Models）是指能够同时处理和理解多种数据模态（如文本、图像、音频等）的深度学习模型。与传统的单模态模型不同，这些模型通过大规模预训练学习不同模态之间的关联和对应关系。 多模态学习的核心优势 信息互补：不同模态可以提供互补信息（如图像提供视觉信息，文本提供语义信息） 鲁棒性增强：当一种模态数据缺失或质量差时，其他模态可以提供支持 应用场景扩展：支持更..

TUTORIALAI & dataFetched/NLP

命名实体识别（NER）

命名实体识别（NER） 命名实体识别（Named Entity Recognition，简称 NER）是自然语言处理（NLP）中的一项基础任务，它的目标是识别文本中具有特定意义的实体，并将其分类到预定义的类别中。 核心概念 命名实体：文本中表示特定对象的专有名词 实体类别：常见类型包括人名、地名、组织机构名、时间、日期、货币等 类比理解 把NER想象成文本中的"高亮标记"工具——就像你在阅读文档..

TUTORIALAI & dataFetched/NLP

NLP 简介

NLP 简介 自然语言处理（Natural Language Processing, NLP）是计算机科学、人工智能和语言学的交叉领域，致力于让计算机能够理解、处理和生成人类的自然语言。 核心目标： 理解：让计算机能够理解人类语言的含义 处理：对文本和语音进行分析、转换和操作 生成：让计算机能够产生自然、流畅的人类语言 自然语言的特点 人类语言具有以下独特特征，这些特征使得NLP成为一个极具挑战性的领域..

TUTORIALAI & dataFetched/NLP

语言学基础

语言学基础 自然语言处理(NLP)作为人工智能的重要分支，其核心是让计算机理解、解释和生成人类语言。要掌握NLP，首先需要了解支撑人类语言运作的基本原理 - 这就是语言学基础。 语言学基础为 NLP 提供了理论框架和分析工具，主要包括以下几个关键方面： 语音学(Phonetics)：研究语言的声音系统 音系学(Phonology)：研究声音如何组合形成有意义的语言单位 形态学(Morphology)：研究词的内部结构 句法学(Syn..

TUTORIALAI & dataFetched/NLP

NLP 教程

NLP 教程 自然语言处理(Natural Language Processing, NLP)是人工智能和语言学的一个交叉领域，致力于让计算机能够理解、解释和生成人类语言。NLP 结合了计算机科学、人工智能和语言学的知识，目标是实现人机之间的自然语言交流。 NLP 的核心任务 文本理解：让计算机理解人类语言的含义 文本生成：让计算机能够生成自然语言文本 语言翻译：实现不同语言之间的自动翻译 情感分析：识别文本中表达的情感倾向 ..

TUTORIALAI & dataFetched/NLP

预训练模型

预训练模型 预训练模型（Pre-trained Models）是自然语言处理（NLP）领域近年来最重要的技术突破之一。这类模型通过在大规模文本数据上进行预先训练，学习通用的语言表示能力，然后可以针对特定任务进行微调（Fine-tuning）。 核心思想 两阶段学习：先在大规模通用数据上训练，再在小规模特定任务数据上微调 迁移学习：将通用语言知识迁移到具体任务中 参数共享：同一套模型参数可用于多种下游任务 与传统方法的对比 特..

TUTORIALAI & dataFetched/NLP

Python NLP 生态

Python NLP 生态 自然语言处理（Natural Language Processing, NLP）是人工智能领域的重要分支，Python 凭借其丰富的工具库成为了 NLP 开发的首选语言。本文将全面介绍 Python NLP 生态中的核心工具包，包括： NLTK - 学术研究首选的自然语言处理工具包 spaCy - 工业级高效 NLP 框架 jieba - 最流行的中文分词工具 HanLP - 功能全面的中文 NLP 处理..

TUTORIALAI & dataFetched/NLP

循环神经网络（RNN）

循环神经网络（RNN） 循环神经网络（Recurrent Neural Network，RNN） 是一种专门处理序列数据（如文本、语音、时间序列）的神经网络。 与传统的前馈神经网络不同，RNN 具有"记忆"能力，能够保存之前步骤的信息。 循环神经网络能够利用前一步的隐藏状态（Hidden State）来影响当前步骤的输出，从而捕捉序列中的时序依赖关系。 RNN 的核心思想 RNN 的核心在于循环..

TUTORIALAI & dataFetched/NLP

关系抽取

关系抽取 关系抽取(Relation Extraction)是自然语言处理(NLP)中的一个重要任务，旨在从非结构化文本中识别实体之间的语义关系。简单来说，就是从句子中找出"谁"和"谁"之间有什么"关系"。 关系抽取的核心要素 实体识别：首先需要识别文本中的命名实体 关系分类：然后判断这些实体之间存在什么类型的关系 关系表示：最..

TUTORIALAI & dataFetched/NLP

情感分析

情感分析 情感分析(Sentiment Analysis)是自然语言处理(NLP)领域中最经典且应用最广泛的任务之一。它通过计算技术自动识别、提取和分析文本中的主观信息，判断作者对特定主题、产品或服务的态度是正面、负面还是中性。 情感分析的基本类型 按分析粒度分类 文档级情感分析：将整个文档作为一个整体判断情感倾向 句子级情感分析：分析单个句子的情感极性 方面级情感分析：针对文本中提到的特定方面进行情感判断 按情感维度分类 二分..

TUTORIALAI & dataFetched/NLP

序列到序列模型

序列到序列模型 序列到序列(Sequence-to-Sequence, Seq2Seq)模型是自然语言处理(NLP)中的一种重要架构，专门用于将一个序列转换为另一个序列的任务。这种模型的核心思想是接受一个长度可变的输入序列，生成一个长度可变的输出序列。 基本概念 Seq2Seq模型属于编码器-解码器(Encoder-Decoder)架构： 编码器：将输入序列编码为一个固定长度的上下文向量(context vector) 解码器：根据..

TUTORIALAI & dataFetched/NLP

文本分类

文本分类 文本分类(Text Classification)是自然语言处理(NLP)中最基础也是最重要的任务之一。它的目标是将给定的文本文档自动归类到一个或多个预定义的类别中。 基本概念 文本分类就像图书馆的图书管理员，需要根据书籍的内容将它们分门别类地放到正确的书架上。在计算机领域，我们需要教会机器如何理解文本内容并做出正确的分类决策。 应用场景 文本分类在现代社会中有着广泛的应用： 情感分析：判断评论是正面还是负面 垃圾邮件过滤..

TUTORIALAI & dataFetched/NLP

文本预处理

文本预处理 文本预处理是自然语言处理（NLP）中的基础且关键步骤，它将原始的非结构化文本数据转化为适合机器学习模型处理的格式。本文将系统介绍文本预处理的三大核心环节：文本清洗、分词和词性标注。 文本清洗：净化原始文本数据 文本清洗是预处理的第一步，目的是去除文本中的噪声数据，提高后续处理的准确性。 编码格式处理 不同来源的文本可能采用不同的编码格式（如UTF-8、GBK、ASCII等），统一编码是首要任务： 实例 [mycode4..

TUTORIALAI & dataFetched/NLP

文本表示方法

文本表示方法 文本表示是自然语言处理（NLP）中的基础任务，它将非结构化的文本数据转化为计算机可以处理的数值形式。本文将系统介绍 NLP 中常用的文本表示方法，从传统方法到现代深度学习技术，帮助读者全面理解这一核心概念。 传统文本表示 词袋模型（Bag of Words） 词袋模型是最简单的文本表示方法之一，它将文本视为一个无序的词汇集合。 基本概念 忽略词语顺序和语法，只关注词语是否出现 构建词汇表，统计每个词在文档中出现的次数 ..

TUTORIALAI & dataFetched/NLP

NLP 文本相似度计算

NLP 文本相似度计算 文本相似度计算是自然语言处理(NLP)中的一项基础任务，旨在量化两个文本片段之间的相似程度。这项技术在信息检索、问答系统、抄袭检测、推荐系统等多个领域都有广泛应用。 核心概念 语义相似度：衡量文本在含义上的接近程度 字面相似度：衡量文本在表面词汇上的重叠程度 向量空间模型：将文本表示为高维空间中的向量 距离度量：计算向量之间的距离或相似度 常用文本相似度计算方法 1. 基于词频的方法 词袋模型(Bag o..

TUTORIALAI & dataFetched/NLP

Transformer 架构

Transformer 架构 $(function() { $('.math').each(function() { renderMathInElement(this, { // 自定义选项，如果需要的话 delimiters: [ { left: '\\(', right: '..