Comments (17)
我没遇到过这个情况,我只能帮你debug一下。训练中的测试使用的是simple下的self.student.simple_test,你可以试试把这改成self.teacher.simple_test,看看训练中eval是不是老师的精度。或者可以把训练完1轮的model进行transfer后,使用dist_test.sh进行推理一下,看看学生是否正确训练
from fgd.
from fgd.
还有两个你可以debug注意的点,1是你可以试试使用蒸馏框架,但不带蒸馏损失看看能不能正常训练。2是可能问题在于学生的初始化self.studnet.init_weights和train.py的model.init_weights(),不同版本mmdet使用的方法是不同的。
from fgd.
from fgd.
还有两个你可以debug注意的点,1是你可以试试使用蒸馏框架,但不带蒸馏损失看看能不能正常训练。2是可能问题在于学生的初始化self.studnet.init_weights和train.py的model.init_weights(),不同版本mmdet使用的方法是不同的。
你好,我按照你说的做了2个实验:
1、第一个实验是让teacher去val,val的结果如下图,但是相比于直接预测val精度降低了,并且训练着第2个epoch相比于第一个epoch精度有变化,按理说不是应该没有变化吗;
2、用fgd的框架训练,但是不用fgd的loss,student能正常训练,但是精度依旧为0,下图是这个实验的的loss和结果,不知道什么原因导致的。。。我太菜了,希望能够指点指点,万分感谢;
from fgd.
还有两个你可以debug注意的点,1是你可以试试使用蒸馏框架,但不带蒸馏损失看看能不能正常训练。2是可能问题在于学生的初始化self.studnet.init_weights和train.py的model.init_weights(),不同版本mmdet使用的方法是不同的。
from fgd.
你试试这个框架蒸馏其他的模型,看看retinanet啥的有没有问题,还不行就重新clone设置代码把
from fgd.
你试试这个框架蒸馏其他的模型,看看retinanet啥的有没有问题,还不行就重新clone设置代码把
好的
from fgd.
还有两个你可以debug注意的点,1是你可以试试使用蒸馏框架,但不带蒸馏损失看看能不能正常训练。2是可能问题在于学生的初始化self.studnet.init_weights和train.py的model.init_weights(),不同版本mmdet使用的方法是不同的。
你好,我按照你说的做了2个实验: 1、第一个实验是让teacher去val,val的结果如下图,但是相比于直接预测val精度降低了,并且训练着第2个epoch相比于第一个epoch精度有变化,按理说不是应该没有变化吗;
2、用fgd的框架训练,但是不用fgd的loss,student能正常训练,但是精度依旧为0,下图是这个实验的的loss和结果,不知道什么原因导致的。。。我太菜了,希望能够指点指点,万分感谢;
from fgd.
你试试这个框架蒸馏其他的模型,看看retinanet啥的有没有问题,还不行就重新clone设置代码把
你好,我用了retinanet试了fgd,训练正常,下面是前4epoch的结果;
from fgd.
我也整不明白了 你来个完整log我看看
from fgd.
我也整不明白了 你来个完整log我看看
我的训练在服务器,不能下载才来。。。。
from fgd.
那你自己dubug一下吧,试试学生也像老师那样load一个训练好的模型进行初始化,看看能不能正常eval
from fgd.
模型进行初始化
这个我试过,也是0
from fgd.
我看issue其他同学是可以正常跑出来的,你从头整一下代码把,对齐mmdet和mmcv-full版本
from fgd.
我看issue其他同学是可以正常跑出来的,你从头整一下代码把,对齐mmdet和mmcv-full版本
好的,非常感谢
from fgd.
这个我试过,也是0
嗨,你最后改出来了吗,你用的哪个版本的mmdet和mmcv-full啊,用低版本的mmdet的话里面没有yolox算法,高版本的话会报sgd optimizer错误
from fgd.
Related Issues (20)
- Using fgd_retina_r101_fpn_2x_distill_retina_r50_fpn_2x_coco.py to find retina_ R50 distillation result AP is 37.3%? HOT 1
- Why does inference slow down with weights generated by FGD? HOT 1
- How Can I install mmdet 2.11.0 while its latest version is 2.28.1? HOT 1
- no module named 'mmdet.distillation' HOT 1
- Whether additional monitoring training is required for gc-block? HOT 2
- The pre-trained model for Solo_r101_3x.pth HOT 1
- 1 HOT 1
- ConfigDict has no attribute "model" HOT 6
- 请问作者有在yolov5上实现效果吗 HOT 2
- Welcome update to OpenMMLab 2.0
- hello,I want to ask a question about yolox distillation HOT 7
- KeyError: 'neck.fpn_convs.4.conv'
- invalid pre-training HOT 7
- Why the mAP is lower after distillation in VOC? HOT 1
- Can the network be replicated using the 2023 version of mmdetection? HOT 4
- YoloX-l distill Yolox-s with coco pretrained weights HOT 1
- Drop in mAP after Retinanet Distillation HOT 10
- How to output the Params or FLOPs after FGD distillation? HOT 5
- Some questions about gcblock HOT 1
- 你好,我看到您在GitHub更新了yolox的相关蒸馏的数据
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from fgd.