Forgelet

Forgelet 快速入门

描述你的任务，获得专为你定制的微调小模型——下载 ONNX/GGUF 到本地运行，告别大模型 API 的高昂账单

⭐ 评分: 8.2/10 💰 价格: 免费增值 🏢 厂商: Forgelet 🌐 官网: forgelet.com

一、这是什么

Forgelet 是一个”任务级微调即服务”（Task-level Fine-tuning as a Service）平台。它的核心理念是：你不必为每个任务都调用大模型 API——Forgelet 帮你训练一个专为该任务优化的小模型，然后下载到本地运行。

工作流程很简单：描述你的任务（例如”分类客服邮件为投诉/咨询/建议三类”）→ Forgelet 自动选择合适的基座模型并微调 → 下载微调后的模型（ONNX/GGUF 格式）→ 在本地运行，推理成本接近零。

相比每次调用大模型 API，本地运行微调模型可以大幅降低成本。对于高频、重复性任务（如客服分类、文档摘要、代码审查），微调模型在特定任务上的表现甚至可能超过通用大模型。

适合人群：有高频 AI 推理需求的开发者、企业用户，希望降低 API 调用成本的人。需要一定的技术能力部署本地模型。

二、快速上手

准备工作

• 网络浏览器
• 邮箱账号（用于注册）
• 准备训练数据（可选，Forgelet 可以自动生成训练数据）
• 本地运行环境：Python 3.10+ 或 ONNX Runtime / llama.cpp（用于加载下载的模型）

三步开始

Step 1：描述任务

访问 forgelet.com，注册账号。在平台上描述你的任务需求，例如：

• “分类客户反馈为正面/负面/中性”
• “从产品描述中提取价格、规格、产地”
• “生成 Java 代码的单元测试”

Step 2：获取微调模型

Forgelet 自动：

1. 选择合适的基座模型（如 Qwen、Llama 等）
2. 生成或使用你提供的训练数据
3. 执行微调训练
4. 输出微调后的模型

Step 3：下载并部署

将微调后的模型下载到本地（ONNX 或 GGUF 格式），在本地环境中加载运行：

# ONNX Runtime 示例
import onnxruntime as ort
session = ort.InferenceSession("forgelet-model.onnx")
result = session.run(None, {"input": "待处理的文本"})

三、核心功能

任务级微调（Task-level Fine-tuning）

不需要你懂机器学习——描述任务，Forgelet 自动完成基座模型选择、训练数据准备、微调训练全流程。输出是专为该任务优化的小模型。

格式支持

支持导出 ONNX（跨平台推理）和 GGUF（llama.cpp 兼容）两种格式。ONNX 适合服务器部署，GGUF 适合本地/边缘设备运行。

自动数据生成

如果你没有训练数据，Forgelet 可以自动生成合成训练数据。利用大模型生成高质量的训练样本，然后用这些样本微调小模型——实现”大模型教小模型”的知识蒸馏。

成本优化

一次微调，永久使用。微调模型在本地运行，推理成本接近零。对于每天调用数千次的场景，相比 API 调用可节省 90%+ 的成本。

模型管理

平台提供模型版本管理、A/B 测试、性能监控功能。你可以对比不同版本的微调模型，选择最优版本部署。

四、竞品对比

与 OpenAI Fine-tuning API 对比：OpenAI 也提供微调服务，但微调后的模型只能在 OpenAI 的服务器上运行，仍需按 token 付费。Forgelet 的模型可以下载到本地运行，后续无推理费用。OpenAI 的微调效果可能更好（基座模型更强），但 Forgelet 的长期成本更低。

与 HuggingFace AutoTrain 对比：AutoTrain 是开源工具，需要自己准备数据和配置训练参数。Forgelet 是全托管服务，自动处理训练流程。AutoTrain 免费但需要技术能力，Forgelet 更方便但需付费。

与 Predibase/LoRA Land 对比：都是微调服务平台。Forgelet 的差异化在于”任务级”定位——不需要你指定模型和参数，只描述任务即可。更面向非 ML 背景的开发者。

五、常见踩坑

1. 微调质量取决于训练数据。如果你有明确的任务定义和高质量的训练样本，微调效果会很好。如果任务描述模糊，Forgelet 自动生成的数据可能不够精准
2. 微调模型是”专用”的——只能做你定义的那个任务。如果需要多个任务，需要训练多个模型
3. 本地运行需要一定的硬件资源。虽然是小模型，但 GPU 可以显著加速推理
4. 基座模型的选择会影响最终效果。Forgelet 会自动选择，但你也可以手动指定
5. 网站使用 Cloudflare 保护，部分地区可能访问不稳定

六、常见问题 FAQ

Q1: 微调模型和通用大模型有什么区别？

A: 微调模型是”专才”——在特定任务上表现优异，且推理成本低。通用大模型是”通才”——什么都能做，但 API 调用成本高。如果你的使用场景明确且高频，微调模型是更好的选择。

Q2: 微调一次多少钱？

A: 免费层提供一定的免费微调额度。付费层按训练 token 量计费，具体价格见官网定价页。

Q3: 下载的模型可以商用吗？

A: 取决于基座模型的许可证。Forgelet 使用的基座模型通常为开源许可（Apache 2.0/MIT 等），微调后的模型继承原始许可证。

Q4: 需要懂机器学习吗？

A: 不需要。Forgelet 的目标就是让不懂 ML 的开发者也能使用微调。你只需要描述任务，平台自动处理训练流程。

Q5: 和提示工程（Prompt Engineering）有什么区别？

A: 提示工程是优化大模型的输入以获得更好输出。微调是改变模型本身的参数。对于高频、重复性任务，微调比提示工程更稳定、更便宜。

参考链接

• 官方网站
• ONNX Runtime
• llama.cpp

最后更新：2026-07-14 · 作者：MagicNetWorld