[WeeklyReports] 2024.10.28~2024.11.22 周报汇总

[FlamingoPg]

请各位学员在本 issue 下以 comment 的形式填写周报摘要，ddl 本周日晚，格式示例如下：

### 姓名

xxx

### 本周工作

1. xxx
2. xxx
 
### 下周工作

1. xxx
2. xxx

### 详细周报链接：

- https://github.com/PFCCLab/Camp/pull/xxx

护航计划

项目一：PIR 专项

• @gouzil (@SigureMo )
• @zrr1999 (@SigureMo )
• @AndPuQing (@gongshaotian )
• @ooooo-create (@gongshaotian )

项目五：框架API易用性提升

• @NKNaN (@zhwesky2010 )

项目十：推理Predictor 及 IR Pass建设

• @yinfan98 (@yuanlehome )
• @zeroRains (@yuanlehome )
• @Hanyonggong (@lizexu123 )

项目十一：模型迁移工具建设

• @Xuxuanang(@zhwesky2010)

护航计划正式批

1. 框架 API 易用性提升

• @guozixu2001 (@zhwesky2010)

3. PaddleMiX 套件能力建设

• @javey-q (@westfish)

4. PaddleNLP套件能力建设

• @lvdongyi (@DrownFish19)

5. 飞桨科学计算材料领域建设

• @kylekk01 (@zhiminzhang0830)

7. 自动并行张量切分机制预研&建设

• @smile2game (@pkuzyc)

8. 自动并行在复杂模型结构下的能力摸底和技术储备

• @zty-king (@From00)

[zty-king]

姓名

郑天宇

本周工作

1. 非均衡切分vpp

• 跑通llama模型，了解各个重要的输出信息
• 验证micro_batch和pp_degree不为整数倍时是否会出错
• 根据报错调整流水并行vpp模式下的编排代码，使其支持非均衡切分vpp

下周工作

1. 完善支持非均衡切分vpp的代码
2. vpp去尾工作支持
3. 局部pipeline支持

详细周报链接：

• [WeeklyReport] zty-king 2024.09.09~2024.09.23 #390

[zeroRains]

姓名

卢林军

本周工作

1. 调研Hugging Face中的设计，并在PaddleNLP中设计并实现了AutoInferenceModel类，实现了推理模型的自动加载。
2. 调研TRT-LLM推理流程，学习用户端推理使用流程。尝试在PaddleNLP中设计AutoPredictor。

下周工作

1. 在PaddleNLP中完善AutoPredictor设计并实现
2. 参考append_atten的集成PR，思考SageAttention集成到PaddleNLP中的方式

详细周报链接：

• [WeeklyReport] zeroRains 2024.10.28~2024.11.22 #415

[lvdongyi]

姓名

吕东翼

本周工作

1. 升级CacheKV，构建Cache基类和DynamicCache
2. 调研当答案包含在问题中时出现异常的修复方式，为Gemma手动修复此问题。

下周工作

1. 继续修复当答案包含在问题中时出现异常的问题
2. CacheKV升级

详细周报链接：

• [WeeklyReport] lvdongyi 2024.10.28~2024.11.22 #416

[NKNaN]

姓名

李睿文

本周工作

1. 排查 distribution API 的 0D 输入问题
2. 数学计算类API支持整数类型输入
3. 修复 paddle.Tensor.square_
4. 增强 paddle.bernoulli

下周工作

1. 完善已修改 API 的映射文档以及 PaConvert 中的 json 映射规则/mathcer/单测
2. 根据新的需求列表继续进行其他任务的开发

详细周报链接：

• [WeeklyReport] NKNaN 2024.10.28~2024.11.22 #417

[javey-q]

姓名

仇嘉伟

本周工作

1. 支持 StableDiffusion3 Controlnet 模型, 完成推理流程初步搭建；
2. 完善 StableDiffusion3 Controlnet 模型，完成精度对齐以及增加单测；
3. 适配 StableDiffusion3.5 模型，代码已修改完成，待测试；
4. 论文阅读计划：结合代码，对StableDiffusion3论文进行解读（未完成）。

下周工作

1. 完成StableDiffusion3.5模型测试
2. 完成StableDiffusion3论文解读。

详细周报链接：

• [WeeklyReport] javey-q 2024.11.11~2024.11.22 #421
• [WeeklyReport] javey_q 2024.10.28~2024.11.08 #420

[guozixu2001]

姓名

郭子旭

本周工作

1. 排查 GPU 和 Distributed 的 CI 问题
2. 新增 torchvision 映射文档 33 个，修复首页文档中累积的目录的问题
3. 新增 torchvision 到 paddle 的转换规则以及单侧 33 个
4. 调研并设计对辅助函数的重构方法

下周工作

1. 完成对辅助函数的改造的工作

详细周报链接：

• [WeeklyReport] guozixu2001 2024.10.24~2024.11.22 #422

[Xuxuanang]

姓名

许轩昂

本周工作

1. 新增torch.copysign,torch.cuda.device等约20个算子的映射规则以及Matcher，并提交了PR。且已经成功合入主分支。
2. 修改torch.Tensor.sinc，torch.pi, torch.linalg.qr等算子的零散存量问题，并提交了PR。且已经成功合入主分支。
3. 新增，修改torch.Tensor.sinc，torch.nn.DataParallel等约20余个api算子的映射文档，目前以及完成所有缺失文档的api文档。

下周工作

1. 继续完成文档不对齐以及bug修复，单测规范化等相关工作

详细周报链接：

• [WeeklyReport] Xuxuanang 2024.10.28~2024.11.22 #423

[Hanyonggong]

姓名

韩用功

实习项目

推理Predictor 及 IR Pass建设

本周工作

实现cumsum到tensorrt的转换,test文件int32转int64

• 相关pr：[Paddle TensorRT No.19] Add pd_op.cumsum converter PaddlePaddle/Paddle#69330

• 相关pr：[Paddle Tensorrt] change int32 to int64 in test file PaddlePaddle/Paddle#69191

下周工作

继续算子到tensorrt转换相关工作

详细周报链接

#424

[gouzil]

姓名

gouzil

本周工作

1. 适配 SOT Python 3.13

• SOT Python3.13 支持任务汇总 PaddlePaddle/Paddle#69245
• SOT Python3.13 单测支持情况 PaddlePaddle/Paddle#69246

下周工作

1. 学习 SOT Guard 机制性能优化, 并尝试适配部分 Guard

详细周报链接：

• [WeeklyReport] gouzil 2024.10.28~2024.11.22 #426

[zrr1999]

姓名

詹荣瑞

实习项目

PIR 专项

本周工作

1. 在 C++ 端实现基础的 guard 并添加对应单元测试

• [SOT][Faster Guard] add ENV_SOT_ENABLE_FASTER_GUARD PaddlePaddle/Paddle#69263
• [SOT][Faster Guard] add some basic guard  PaddlePaddle/Paddle#69313

2. 对 make_stringified_guard 方法 适配 C++ 端 guard

• [SOT][Faster Guard] add FasterStringifiedExpression PaddlePaddle/Paddle#69353
• [SOT][Faster Guard] adapt to faster guard for more variables PaddlePaddle/Paddle#69411
• [SOT][Faster Guard] adapt to faster guard for more variables PaddlePaddle/Paddle#69672

3. 修复 BooleanEnvironmentVariable 的实例可能被意外当成布尔值的问题

• [SOT] Prohibit treating instances of BooleanEnvironmentVariable directly as boolean values PaddlePaddle/Paddle#69412

4. 搭建了基本的 Benchmark 仓库

• zrr1999/PaddleGuardBenchmark

下周工作

1. Guard 树及其优化机制的调研和基本方案的确定

详细周报链接：

• [WeeklyReport] zrr1999 2024.10.28~2024.11.22 #425