CodeNodeX AI
注册写作
首页/分类/AI 前沿

AI 前沿

大模型、多模态、推理模型和 AI 产品趋势

专题

本专题收录 AI 前沿 方向的文章和社区讨论，重点关注真实工程场景、工具选择、实践路径和风险边界。

页面会持续更新，适合作为学习路线、选型参考和技术复盘入口。

@admin·3 分钟阅读·AI 前沿

LLM 批量推理与离线任务

不是所有 LLM 任务都要实时——批量分类、摘要、标注、内容生成这类离线任务,用 Batch API 能省一半。本文讲清 LLM 批量推理的价值与场景、各家 Batch API(OpenAI/Anthropic,通常 50% 折扣)、自部署批量(vLLM continuous batching)、任务管线(提交/轮询/重试/成本),以及实时 vs 批量的取舍。

#AI #DevOps♥ 190 评论
@admin·2 分钟阅读·AI 前沿

向量数据库选型：pgvector vs Qdrant vs Milvus 实测思路

做 RAG / 语义搜索，逃不开"选哪个向量库"。本文不讲跑分榜单，讲选型逻辑：按数据规模、延迟、运维成本、混合检索四个维度，把 pgvector / Qdrant / Milvus / Chroma / Pinecone 放到真实场景里对比，给出"什么时候选谁"的明确建议。

#大模型 #RAG♥ 190 评论
@admin·3 分钟阅读·AI 前沿

Python 工程化实践

写脚本和写生产 Python 是两回事。本文讲清 Python 工程化的关键:依赖管理(uv/poetry/pip-tools)、类型标注与 mypy、项目结构、测试(pytest)、打包发布、以及从"能跑的脚本"到"可维护的工程项目"的转变。

#AI #开源♥ 470 评论
@admin·2 分钟阅读·AI 前沿

LLM 应用的可观测性：trace、eval、监控

传统 APM 不够用——LLM 应用是非确定的、链路长的、烧 token 的。本文讲清可观测性的三层：trace（每步 LLM/工具调用）、eval（输出质量自动评测）、metric（延迟/token/成本告警），以及怎么把它们接进开发循环，让 AI 应用从"上线后黑盒"变"可调试可改进"。

#大模型 #DevOps♥ 210 评论
@admin·3 分钟阅读·AI 前沿

Elasticsearch 搜索实战:何时用、怎么用

搜索量大、要全文检索+复杂过滤+聚合分析时,Elasticsearch 是重型武器。本文讲清 ES 的核心概念(索引/分片/倒排)、为什么比 SQL 全文强、查询 DSL 要点、中文分词(IK)、以及关键的——什么时候该上 ES(PG 不够时)什么时候不该(杀鸡用牛刀)。

#DevOps♥ 700 评论
@admin·2 分钟阅读·AI 前沿

RAG 评估实操：用 RAGAS 量化检索质量

"调 RAG 没有 eval 集，就是凭感觉。本文用 RAGAS 框架，讲清四个核心指标（context precision/recall、faithfulness、answer relevancy）各自在测什么、怎么建评测集、怎么跑、怎么用结果定位问题——让'我感觉变好了'变成'召回率从 0.72 提升到 0.91'。"

#大模型 #RAG♥ 240 评论