大模型场景  

01

      单台支持70B-180B开源大模型FP16精度的私有数据微调，常规70B以上模型微调需要2-3台8卡满配80G显存的GPU才能完成，长城通过显存扩容方案，解决模型“放不下”问题，微调成本降低60%。

      本地私有微调后，即可在原配置上推理，真正做到训推一体，在金融、新闻、政务、医疗、工业等专业性要求高的垂直领域，模型性能要求高（70B以上规模模型效果好），且对专业知识理解能力强（私有数据微调），长城训推一体给出了完美解决方案。 

      支持主流框架（Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI），支持主流开源模型（LLama2、LLama-3、Qwen、Mistral等50+开源大模型），集成国产GPU最优实践训推镜像，开箱即用。

      提供大模型全功能训练工具、评估测试、大模型Prompt开发、大模型PEFT(参数高效微调)、大模型推理服务、大模型应用开发等功能。

      覆盖对话问答、内容生成、智能助理、知识库、数字人等多种应用场景，简单配置后即可使用。

      集成适配主流开源AI应用，包括Agent工作流和RAG（LangChain、Dify）、模型管理（Ollama）、生图（ConfyUI）、音频（GPT-SoVITS），具有开箱即用的能力，加速业务智能化落地。

1.应用广泛

      数字英文识别率≥99.9%，中文字识别率≥99.5%，字体、字号适应性强。支持合同等文档、手写扫描、证照、各类型票据的识别。

      兼容更低的分辨率 50dpi，支持模糊失真的图像文字。支持图像倾斜、梯形等变形，支持任意形状和任意方向的文本行识别。支持传真、手机拍照片、截屏、自然场景、抗盖章干扰、底纹干扰。

1.成熟生态

      支持20以上传统视频检测及行为分析算法。支持多模态CV大模型，基于大模型语义理解能力，解决传统算法难应对场景碎片化的问题。

      单卡支持256路1080P@30FPS视频解码，整机支持3072路。单卡支持16路1080P@30FPS视频编码，整机支持192路。单卡支持7000FPS@1080P JEPG编解码，整机支持84000FPS@1080P JEPG编解码。