Overview
产品概述
Capabilities
核心能力
模型微调
使用自有数据定制领先的开源模型;支持 Prompt 与对话格式数据集,并提供训练过程的可视化监控。
模型评估
在验证集上评估微调模型性能,并可从多种内置评测(如 MMLU、TruthfulQA 等)中自动运行。
API 推理
通过 serverless 端点或 Playground 运行模型,提供聊天与补全端点,可用几行代码集成到应用。
数据管道
Pipelines 可将当前模型的使用记录保存为可直接用于微调的数据集,方便后续迁移到自有开源模型。
Use Cases
适用场景
-
01
从闭源大模型迁移到开源模型
使用 Pipelines 收集现有模型(如 GPT-4)的输入输出,生成可微调数据集,再训练和部署自有的开源模型,从而降低推理成本、延迟并拥有模型。
-
02
构建领域定制模型
针对特定业务场景,使用私有数据微调开源模型,获得更高准确率和更短提示词等收益。
-
03
生产环境部署与集成
微调完成后,可通过 API 在 Playground 或生产环境中测试、部署模型,并支持导出模型进行自托管。
Integrations
集成能力
Hugging Face
支持从 Hugging Face 导入开源模型到 Forefront,快速进行推理或微调。