torchscript about til HOT 1 OPEN

trace, script

• torchscript를 생성하는 방법으로는 trace와 script가 있다.
• trace의 경우 예시 인풋을 하나 넣어주고, 여기서 발생하는 연산을 추적해서 torchscript를 생성한다.
• 이 경우, 인풋 값에 따라 분기 문을 처리하는 control-flow를 torchscript에 반영하지 못한다.
• 만일 control-flow 반영이 필요할 경우에는 명시적으로 annotation을 달아서 torchscript compiler에게 전달해주는 script 기법을 사용해야 한다.

모델 직렬화, 파일로 저장

traced_script_module.save("traced_resnet_model.pt")

• 간단하게 save 메서드 호출만으로 torchscript를 직렬화 하여 파일로 저장이 가능하다.

from til.