PyTorchのDataParallelのモデルを保存する
PyTorchで複数GPUで学習させる場合,
model = nn.DataParallel(model, device_ids=[0,1,2])
のようにDataParallelで保存しますが,このモデルを保存したい場合にcuda runtime error : out of memoryが出ることがあります.
その場合は,下のようにDataParallelから元のモデルを取り出してCPUのモデルに変えてあげることで保存できるようになります.
torch.save(model.module.cpu(),file_path)
読み込み時はこうすればOK
new_model = torch.load(file_path)
参考
Optional: Data Parallelism — PyTorch Tutorials 1.0.0.dev20181002 documentation
過去問サイトを自動生成する
Mercari BOLD Internshipでアメリカに行ってきた話
この記事はCAMPHOR- Advent Calendar 2017 13日目の記事です. CAMPHOR- は京都のIT系学生のためのコミュニティです.興味がある人は,遊びに来てくれると嬉しいです.
はじめに
この記事には,Mercari BOLD Internship 2017 GLOBALというインターンに参加した時の記録を日記のような形でまとめた.このインターンについてざっくり言うと,学生エンジニアと学生プランナーが2人1組でアメリカやイギリスに行って,メルカリが世界で戦うためのアイディアを考えてくる,ということだ.
続きを読む