首页/标签/大模型

#大模型

专题介绍

这里聚合 CodeNodeX AI 社区中与 大模型 相关的技术文章和讨论,覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。

如果你正在研究 大模型,建议先阅读高质量长文,再参与帖子讨论,形成从理解到实践的完整路径。

@admin·2 分钟阅读·AI 前沿

RAG 评估实操:用 RAGAS 量化检索质量

"调 RAG 没有 eval 集,就是凭感觉。本文用 RAGAS 框架,讲清四个核心指标(context precision/recall、faithfulness、answer relevancy)各自在测什么、怎么建评测集、怎么跑、怎么用结果定位问题——让'我感觉变好了'变成'召回率从 0.72 提升到 0.91'。"

#大模型 #RAG♥ 240 评论
@admin·1 分钟阅读·AI 编程

AI 产品的 token 成本控制:缓存、路由、量化

LLM 应用的主要可变成本是 token,而它往往在不经意间失控。本文讲清五个降本杠杆——prompt 缓存、模型路由、prompt 瘦身、批处理、结果缓存,以及一套"按功能/用户拆账"的成本监控,帮你的 AI 产品从"烧钱"变"可持续"。

#AI #大模型♥ 250 评论
@admin·2 分钟阅读·AI 编程

上下文工程(Context Engineering):给模型对的信息

"Prompt 工程的时代正在让位给 Context 工程。区别在于:prompt 关心'怎么说',context 关心'给模型看什么'。本文讲清四类上下文、上下文窗口的管理策略(优先级/压缩/遗忘),以及一个 Agent 的上下文该怎么搭——决定 Agent 上限的,往往不是模型多强,而是你喂了什么。"

#AI #大模型♥ 260 评论