Peacher's Blog

最近在 Windows 上使用 Codex 时，遇到了一个比较奇怪的性能问题：电脑运行一段时间后，内存占用越来越高，虚拟内存几乎被耗尽（分页缓冲池）；在 Codex 中点击或切换会话时，还会出现明显卡顿。最终排查发现，ChatGPT/Codex 桌面应用在切换会话时，会异常频繁地启动 git.exe。一次采样中（约1min），ChatGPT.exe 直接创建了 1325 个 Git 子进程，...

先新建一个目录，将需要用到的项目文件都拷贝进来，例如，我在目录中放了一个flask_app.py作为需要启动的脚本。在目录下添加一个空文件，文件名为Dockerfile，里面指定了创建docker镜像的基本信息。vim Dockerfile文件夹结构：================= - .. - flask_app.py - Dockerfile - requirements.txtre...

本文讲的是神经网络中提取知识，也就是我们熟知的 知识蒸馏 。传统方法：使用不同的网络模型对数据集进行学习，然后将预测结果取平均，得到最终的预测结果。传统方法的缺点：计算密集本文贡献：①将一堆模型的知识蒸馏到一个模型中；②实现快速并行训练。背景：在大规模学习（语音、目标检测等）中，需要大量、冗余的数据集，不要求实时，但对计算量要求大；在部署阶段，则对计算资源的要求严格许多。大体的思路：先训练一...