cosine 스케쥴러에 prodigy 옵티마이저 사용
prodigy는 좀 활발하게 움직인다만 얘도 dadaptation 계열이니까 귀찮은건 넘어가자고
스케쥴러를 constant로 설정했을 때
대충 dadaptation 계열 옵티마이저들은 이런 느낌으로 움직인다 생각하면 됨
cosine 스케쥴러에 prodigy 옵티마이저 사용
prodigy는 좀 활발하게 움직인다만 얘도 dadaptation 계열이니까 귀찮은건 넘어가자고
스케쥴러를 constant로 설정했을 때
대충 dadaptation 계열 옵티마이저들은 이런 느낌으로 움직인다 생각하면 됨