中文版本

新模型推荐

高亮功能

• 新增轻量化端侧识别模型LightweightEdge
• 新增轻量化端侧DBNet行检测模型
• 新增CAM++说话人转换点定位
• llama模型支持finetune和deepseed
• llama模型支持lora
• 对于transformers模型支持device_map
• 数据集支持jsonl格式
• 对于大型模型文件支持并行下载（dsw或eais环境）
• 提升youku超大型数据集下载体验

功能列表

• 新增轻量化端侧识别模型LightweightEdge
• 新增轻量化端侧DBNet行检测模型
• 新增flextrain ner样例
• 新增在文本分类finetune的training args中增加模型版本
• 新增StreamingMixin
• 支持torch extension
• 支持llama模型微调和deepspeed
• pipeline中支持第三方的key
• 支持说话人分离pipeline
• 新增eres2net_aug v2模型
• 支持transformers model device_map
• 支持模型权重diff
• 数据集支持jsonl格式
• 新增Lora/Adapter/Prompt/Chatglm6b
• 部分tests增加teardown
• 解除datasets包版本限制
• 支持从model id加载
• llama模型支持lora
• 对于大型模型文件支持并行下载

功能提升

• 提升mPLUG-youku大型数据集的下载体验

BugFix

• 修复DeepspeedHook.register_processor
• dockerfile的兼容性修改（py37和py38）
• 修复 extra_args
• 修复ngpu bug和移除easyasr
• 修复mplug-youku超大数据集下载相关问题
• 修复gpt3 finetune nan的问题
• 修复torch extension ci hang住的问题
• 修复easycv lr hook 错误
• 修复torch2.x 兼容性问题
• 修复diffusers版本冲突问题
• 修复eval RecursionError
• 对于DiffusionForTextToImageSynthesis修复device_map问题
• 修复stable diffusion pipeline cpu推理问题
• 修复llama lora问题

English Version

New Model List and Quick Access

Highlight

• Add new OCR recognition model (LightweightEdge) and some functions
• Add ocr detection new model db-nas
• Add CAM++ model
• Support llama model finetune and deepspeed
• Support lora for llama model
• Support device_map for transformers
• Support jsonl format in datasets
• Support parallel download large model file
• Improve mPLUG-YOUKU dataset downloading experience

Breaking changes

Feature

• Add new OCR recognition model (LightweightEdge) and some functions
• Add ocr detection new model db-nas
• Add ner example for flextrain
• Add model revision in training_args and modify dataset loading in finetune text classification
• Add StreamingMixin
• Support pre build torch extension build image, first extension megatron_util
• Add llama finetune + deepspeed
• Support third_party key in pipeline
• Add speaker diarization pipeline and improve some speaker pipelines
• Add eres2net_aug v2
• Support device_map for transformers model
• Add make diff & recover for model weights
• Support jsonl format in meta data
• Add Lora/Adapter/Prompt/Chatglm6b
• Add teardown for tests
• Unfreeze datasets version setting
• Support load from model id
• Support lora for llama
• Support parallel download large model file

Improvements

• llama tuned model -> pipeline
• improve youku dataset downloading experience

BugFix

• Fix bug for DeepspeedHook.register_processor
• Docker file py38 and py37 compatible merge
• Fix extra_args
• ngpu bug and rm easyasr
• Fix issues for downloading mplug-youku dataset
• Fix gpt3 finetune nan
• Fix ci hang when build torch extension
• Fix easycv lr hook error
• Fix torch 2.x compatible issue
• Fix diffuser version conflict cv and multi-modal
• Fix eval RecursionError
• Fix device_map for DiffusionForTextToImageSynthesis
• Fix cpu inference for stable diffusion pipeline
• Fix llama lora bug