Deepseek AI 发布的开源大模型,凭借其卓越的性能和开放性,受到了广泛关注。将这些强大的模型部署到本地,不仅能够保护数据隐私,实现离线使用,还能根据个人需求进行定制和优化,为开发者和研究人员提供了极大的便利。
面对AI时代海量的非结构化数据(如文本、图片、音频、视频)和对“语义理解”的需求时,传统显得力不从心。这时,向量数据库应运而生,成为AI应用不可或缺的基石。
让我们一起探索,不使用复杂的算法或技术术语,而是专注于理解核心概念以及人工智能如何已经在塑造我们的世界。
为了填补从“通用模型”到“深度陪伴”之间的鸿沟,我们需要一套完整的外挂技术栈。
简单直接地说,LLaMA-Factory 是目前大模型工业界最流行、最好用的 “全流程微调工具箱”。
DPO(直接偏好优化)核心作用不是教模型“说话”,而是教模型“选择”。
SFT(有监督微调) 的本质是 “指令对齐” ,即让模型学会:当用户这么问时,模型应该以什么样的格式和语气来回答。
PT(增量预训练 ) 的本质是:在大模型已经具备通用能力的基础上,喂入大量行业文档、书籍或代码,让模型吸收新知识。
本文以工程落地的视角,深入浅出地剖析了 LLM 训练中的三大关键动作。
本文将介绍大语言模型(LLM)从通用底座走向垂直领域应用的三大核心演进阶段:PT(增量预训练)、SFT(有监督微调)及DPO(直接偏好优化)。