首页/标签/大模型

#大模型

专题介绍

这里聚合 CodeNodeX AI 社区中与 大模型 相关的技术文章和讨论,覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。

如果你正在研究 大模型,建议先阅读高质量长文,再参与帖子讨论,形成从理解到实践的完整路径。

@admin·2 分钟阅读·AI 前沿

自部署大模型:Ollama 与 vLLM 选型实战

"用 API 省心,但有时你必须自部署——数据合规、成本可控、离线、定制。本文讲清两条主线:Ollama(本地实验、个人开发的最优选)和 vLLM(生产级高吞吐推理),以及绕不开的量化、显存、硬件选型,帮你判断'这个场景该用 API 还是自建'。"

#大模型 #开源♥ 290 评论
@admin·2 分钟阅读·AI 前沿

多模态应用:把 Vision 能力接进产品

主流大模型都已原生支持图像输入,"看图说话"从玩具变成了产品能力。本文讲清 Vision 模型擅长什么、典型产品场景(文档解析/客服/审核/无障碍),以及工程实现的要点——图片 token 成本、预处理、prompt 设计、局限与坑,帮你判断"这个功能该不该用 Vision"。

#AI #大模型♥ 300 评论