周赛情况
半小时完成 3 题,WA 两发,最终 509 名。
第四题隐约有点思路,可惜了。
预期新分数在 2050。
学习情况
本周主要实践 LLM 的微调,成功用 int8 量化加 LoRA 对 InternLM 进行微调。
下一步写写推理和 web demo。
此外,也尝试写一个更通用的脚本。
其他
- 微调 InternLM 见:LLM 微调——InternLM(非 transformers)以及从微调 InternLM 中学到的
- 通过视频学习了一点代码细节,见【Code Review】传参的时候有这么多细节要考虑?冗余循环变量你也写过么?
- 学习了 logging 库的使用,并在微调代码中实践,见如何使用 Python 的 logging 库
Comments NOTHING