딥러닝 학습 문제 진단과 디버깅
Loss, 과적합, 평가 지표, 데이터 분포, Gradient, GPU 메모리 등 딥러닝 학습 문제의 진단 항목을 정리한다.
Loss가 줄지 않는 원인 Loss가 NaN이 되는 원인 Training Loss만 낮아지는 경우 Validation Loss가 계속 상승하는 경우 Overfitting 진단 방법 Underfitting 진단 방법 Accuracy가 높은데 모델이 쓸모없는 이유 Confusion Matrix 읽는 방법 False Positive와 False Negative 분석 Precision과 Recall 중 무엇을 봐야 하는가 Threshold 조정 방법 Class별 성능 분석 데이터 분포 변화 감지 Gradient가 사라지거나 폭발하는 경우 GPU 메모리 부족 원인 학습 속도가 느린 원인 DataLoader가 병목인 경우 모델이 배경만 학습하는 경우 Shortcut Learning Domain Shift
COMMENTS
GitHub 계정으로 로그인하여 댓글을 남길 수 있습니다. 댓글은 GitHub Discussions에 공개 저장되며, 작성 내용과 GitHub 프로필 정보가 다른 방문자에게 보일 수 있습니다.