工具介绍与办公应用
Fujitsu One Compression
通过命令行根据 GPU 资源选择量化配置,对语言模型执行压缩、评测和结果保存。
Fujitsu One Compression 能做什么
通过命令行根据 GPU 资源选择量化配置,对语言模型执行压缩、评测和结果保存。
- 模型训练与部署
如何使用 Fujitsu One Compression
为本地部署准备可评测的量化模型
准备输入
- 授权模型
- GPU 环境
- 质量与资源要求
操作步骤
- 指定模型并检查自动选择的资源和位宽配置。
- 运行压缩与评测流程,保存量化产物。
- 比较压缩前后任务表现和资源占用,再决定是否部署。
预期交付物
- 量化模型
- 压缩与评测记录
量化可能影响输出质量,自动配置和论文结果不能代替本地任务验证。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。