みーのぺーじ

みーが趣味でやっているPCやソフトウェアについて.Python, Javascript, Processing, Unityなど.

PyTorch

PyTorch の学習速度をなるべく速くする

PyTorch の学習に時間がかかるとイライラするので,利用可能な計算資源をなるべく効率的に使用するための工夫をまとめました. 以下は インテル Core i5 12400 と GeForce RTX 4080 を搭載したパソコンに Ubuntu をインストールした環境で検証しています. G…

PyTorch はミニバッチ学習に自動的に対応する

PyTorch のチュートリアルのソースコードを見ていて,理解できない部分がありました.該当部分を抜粋して引用します. class NeuralNetwork(nn.Module): def __init__(self): super().__init__() self.flatten = nn.Flatten() self.linear_relu_stack = nn.S…

PyTorch の Tensor.to() と nn.Module.to() の違い

RuntimeError: Placeholder storage has not been allocated on MPS device! というエラーを修正するために調べたことをまとめます. torch.Tensor は保存するデバイスを指定でき,Tensor.device プロパティで確認できます. Tensor Attributes — PyTorch 2.…

PyTorch でモデル構築の比較

PyTorch でモデルを構築する方法として, torch.nn.Sequential を使用する torch.nn.Module のサブクラスを作る torch.nn.Module のサブクラスで torch.nn.functional を使用する の3個の方法があります*1. 1.torch.nn.Sequential を使用する nn.Sequential…

PyTorch の自動微分 (torch.autograd)

torch.autograd provides classes and functions implementing automatic differentiation of arbitrary scalar valued functions. *1 PyTorch のドキュメントを読んでもよく分からなかったので,こちらのサンプルを参考にしました. 任意の関数の勾配を自動…

PyTorch で三角関数を学習する

PyTorch で時系列データを学習させてみたかったので,このサンプルを参考に,long short-term memory (LSTM) cell を使った,Recurrent neural network を作成し,ある区間の sin 関数を学習させて,その続きを予測させてみました. sin 関数は,振幅と周波…