Paperspace gradientの利点
Last updated
Last updated
NovelAIはとても便利なWebサービスだが、モデルをローカルの自前のPCで動かすことができれば限度を超えてstepsを増やせたり、モデルのマージや追加学習が行えるなど、より自由度の高い画像生成を行うことができる。
一方でNovelAIもとい、その基盤となるstable diffusionモデルを十分な速度で動かすには高性能なPC、GPUが必要となる。快適に動かすための最低限のスペックのものでもGPU（Geforce 3060）だけで5万程度、PC含めれば7-10万程度はかかる。それらをもともと持っていない人間がそろえるのは金銭的ハードルが高い。
私自身普段うまいことこのハードルを回避できる方法がないか色々試してきた。初期投資を抑える方法のひとつとして、GCP、AWS、Vast.aiなどのクラウドGPUを用いる方法がある。これを使えばネットサーフィン程度しかできないノートパソコンしか自宅になくても画像生成が快適に行える。しかし、これらのサービスは大抵従量課金制で結果的に金銭的消費がかなり激しい。相場はざっくり1$/1hourくらいで、こまめに停止して使えばカラオケやゲーセンのような娯楽を思えばそんなにコスパは悪くはないが、私のようなズボラな人間が雑に使うと結局簡単に月100$以上の出費になってしまった。
Google Colabを使った方法も試した。Google colabでは無課金でも低水準のGPUを使うことができる。また、検索すれば数クリックでNovelAIローカル板導入ができるnotebookファイルが配布されているため、導入が非常に楽で便利である。しかし、Google colabの無料GPUの性能は低く、本家NovelAI Web版と比較しても3倍くらいの時間がかかる。課金をすればGoogle Colabでも高性能なマシンが使えるが従量課金仕様になっておりコスパが良くない。また、Google Colabでは毎回起動のたびに1つ4gbあるようなモデルファイルをダウンロードやアップロードして用意しなければならない。
そうしていくつかのサービスを試した中で、恒常的にコスパよく使えそうだと思われたのがPaperspace Gradientのサービスである。
Paperspace GradientはGoogle colabと類似したサービスだが、従量課金制ではなく月定額のサブスクでGPUをいくらでも使うことができ、また共有して使用するストレージが付属するため、毎回モデルのダウンロードに手間をかける必要もないし、生成画像はインスタンスを再起動しても勝手に削除されたりしない。
値段のコスパも高く月8ドルプラン（Proプラン）でGeforce 3060と同等以上の性能を持つQuandro A4000をいくらでも借りることができ、月39ドルプラン（Growthプラン）にすればGeforce 3090以上の性能を持つA100(VRAM 80GB)やA6000を借りることができる。
Proプランは月額8ドルで、年間96ドル程度の出費であるのに対し、Geforce 3060の購入費は一台5万(300-400$程度)とすると、3-4年くらい使い続けない限りサブスクの方が得だということになる。
Growthプランについても、Geforce 3090が1台1300$程度なのでもとが取れるのに33ヶ月、つまりだいたい3年程度かかる計算になる。
もちろんローカルでGPUを買うのも良い選択肢だとは思うが、イマイチハードウェアに疎く、画像生成以外にGPUを使うアテもさして無い自分のような人間がとりあえず試すにはPaperspace gradientはかなり良い選択肢だと思えた。
なおpaperspace gradientには無料プランも存在し、そちらでもおそらく低速ではあるが回すことはできると思う。だがstorageが5GBしかないためどうなるか不明。ここではProプランに加入した場合の流れを記載する。
褒めてばかりでもなんなのでPaperspace gradientの欠点も下に注意点として列挙して挙げておく。
たくさんの人がGPUを使って空きがない時は高性能なGPUが借りれない。
マシンの連続起動時間が最大6時間なのでちょこちょこ起動しなおす必要あり。（データなどは保持したままにできるのでさほど問題はないが）
ローカルからサーバーPCにssh接続できない
GCP、AWS等大手と比較してサービスの信頼性が低い、情報が少ない
繰越可能なストレージは大きくない。（8ドルプランだと15GB、39ドルプランで50GB、0.29$/GB月で課金される）
今後サービスの料金体系等変更される可能性がある
無償マシンはアカウントひとつにつき同時に1つしか動かせない
アカウントが基本一人ひとつしか作れない。（電話番号と紐づける）
課金は登録時と月初に発生するため月末に登録すると損する
サービスが不安定でGPUが借りれないときがある
Paperspace gradientについては下記リンクのページなどにも詳細に述懐されている。
次の章でこのPaperspace Gradientを用いてNovelAIローカル版を動かす方法を解説していく。
