Ray Tune を使用していて，このような警告が表示されました． The object store is using /tmp instead of /dev/shm because /dev/shm has only * bytes available. This will harm performance! You may be able to free up space by deleting files in /de…

Linux でグラフィックボードを使わない時は電源を切って節電したいと思ったので調べました． 検証方法 Ubuntu 22.04.3 LTS NVIDIA GeForce RTX 4080 NVIDIA Driver 535 マザーボード MSI PRO B660-A DDR4 パソコン全体の消費電力をELPA電力計で測定します． …

「小説家になろう」では「縦書きPDF」を提供してくれています．以下の小説の縦書きPDFをダウンロードして Kindle Scribe で読もうとしましたが，文字が表示されませんでした． https://ncode.syosetu.com/n9669bk/ 仕方がないので，MacOS の Preview.app で …

環境 接続するディスプレイ端子 nvidia-driver をインストール Secure Boot のための追加の設定 Docker をインストール NVIDIA Container Toolkit をインストール 環境 下記の構成で検証しました． Ubuntu 22.04.3 LTS GG-RTX4080-E16GB/OC/TP (GeForce RTX …

Evernote は，2015年から2023年まで，学習用やメモ用のアプリケーションとしてお世話になりましたが，退会しました．この記事は，みーの人生の一部を8年間にわたり支えてくれた Evernote に感謝をするために書きました． 2015年当時は，ノート機能のアプリケ…

自分用メモです． autoencoding autoregressive batch normalization broadcasting causal computational graph convolution convolutional criterion derivative dropout embedding finetune gradient gradient descent method large language models (LLM)…

Ray は Apache-2.0 license *1 で公開されている， AI 関連や Python の処理を簡単に並列化して大規模に実行可能にするフレームワークです*2．この中に Ray Tune というライブラリがあります． Ray Tune: Hyperparameter Tuning Ray Tune: Hyperparameter Tu…

もともとの論文には，Transformer は encoder と decoder を含む構造として記載されています． *1 もう少しわかりやすい図があったので紹介します． *2 Encoder / Decoder 実際には encoder と decoder はどちらかがあればモデルとして成立するので， encode…

機械学習では，たくさんのデータを利用してモデルを学習させる手法なので，データを統計学的に適切に扱う必要があります． 機械学習では，モデルの訓練と評価に同じデータセットを使用してはいけないという原則があります．モデルは単純にデータセットを丸暗…