やっとこさGPUをブン回せた。けど…

ローカルAIで遊ぼうと、いろいろ試してみております。まぁ、いわゆる「おもちゃ」的に遊んでいる状況です。

で、ちょっと苦労したのが「どうやったらＧＰＵを使ってくれるのよ」ってところ。

具体的にはLemonade Serverなんですが、最初はStandaloneのサーバとしてインストールしていました。この時も、いくつかのモデルを使ってもＣＰＵの負荷が上がるだけでＧＰＵは静かな状態のまま。その後、Docker/Dockhandの環境に移行しましたが、状況は全く変わらず。最初は構成ファイル中に /dev/kfd, /dev/dri の Device を記述してなかったので「ああ、それだったか」と思ったのですが、それを記述しても状況は変わらず。使用したモデルのBackendに ROCｍ を指定しても変わらず。

config set rocm_channel=nightly を指定して backends install llamacpp:rocm をやっても、なんら状況は変わりません。

Lemonade Serverのバージョンは 11.5.2でしたが「こりゃダメか」と諦めました。

が、Standalone サーバの時には apt install したそのままで動かしてただけだったのを思い出し、lemonade config set rocm_channel=nightly して、lemonade backends install llamacpp:rocm して、もっかいトライしてみたら、冒頭の絵の通りＧＰＵを使ってくれることが分かりました。

とりあえず、少しばかり望んだ状況に近づいたワケですが、それにしても、どうも応答がもっさりしてる…。

Docker環境には比較用に ollama も導入してあり、Lemonade Serverと同じModelを使って同じプロンプトで試してみたら、極めてスムースに応答してくれました。ＣＰＵはほとんど使用されずＧＰＵがほぼ１００％の負荷で処理されていました。

ってことで、Lemonade Serverは「もう少し改善が望まれるね」という状況のように思いました。ｎＶｉｄｉａのＧＰＵなら結果が違うのかもしれませんが、ＣＰＵもＡＭＤ製、ＧＰＵもＡＭＤ製。の上にLemonade Serverの開発にもＡＭＤが大きく関与しているはずで、今の状況ってのはちょっと寂しい感じがします。

そうではなくて、自分の環境／設定が悪い？

いろいろ調べて試してみたんですけどねぇ…。まだ何かあるのかもしれません。

フロントタイヤを23Cにしてみた

例によって「とてつもなく暑い」日ですが、週に１度ぐらいは運動しないと…ということで、頑張って雁多尾畑の金山媛神社まで参拝サイクリングにいってきました。

目的は、神社にお礼参りをしたかった事と、フロントタイヤをグランボワ・コルデマドレーヌ（２３Ｃ）に替えてみた結果を確認したかった事、の２点でした。

前後異サイズながらも同じExtra Legerで作りもトレッド面の様子も同じで「乗った感触に大差が無いなら前だけ２３Ｃを常用しても良いかな〜」なんて思いましてね。ま、単なる思いつきなだけですけど。

で結果は、やっぱ手に伝わる感触が少し硬め。細身でエアボリュームが少ないので高圧にせざるをえず、なので路面振動が強めに伝わるんでしょうね。

とは言え２３Ｃにガチガチに不満を持ったわけではありません。２６Ｃを知らなければ「これでエエやんか」と思ってたはず。もうしばらくはこのままで乗ってみようと思います。

内幅１３ｍｍの同じリムに装着した時の２６Ｃ（左）と２３Ｃ（右）のクリアランス差はこの通り。まぁ、サイズ表記の差の通り、という感じです。

２６Ｃでは、タイヤに正圧の空気が入った状態ではブレーキシューに挟まってホイールを抜けませんが、２３Ｃではそうした問題（？）はありません。

パンク時は、空気が抜けてるのでホイールを抜く時は問題ありませんが、修理を終えた時は、先に空気を正圧まで入れてからホイールを装着しますので、こうした「引っかかり」があるとストレスになると思います。輪行時なら余計にストレスを感じるでしょうけど、自分はトラブル時以外の輪行はあまり考えてないので…。

ATHENAのブレーキキャリパにはクイックレリーズ機能が無いので、アウター調整ボルトを使って逃げれるようにしていますが、それでも２６Ｃの場合はちょっと厳しい感じです。

そういったストレスも２３Ｃには無いので、これで問題無ければ「２３Ｃタイヤの方がフールプルールやね」ということになります。ま、大した話ではないですけども。

Docker環境をDockhandで一括管理

先日導入したimmichで初めてDockerを利用し始めて、けっこう便利なモンやなぁ…と味をしめて、稼働中のサービスでDocker環境に切り替えれるものをDockerを利用する方法に変更しました。

で、そういうことをしてると「もっと便利に管理する方法は無いのか」と思うのが当然のなりゆきで、少し調べたら「Portainerなんてのがあるやーん」と分かり、早速それを使ってみることに…。

でも、なんとなーく気に入らなくて、もう少し掘り下げて調べてみたところDockhandに到達しました。

ということで、冒頭の絵の通り、あれも・これもDocker化してDockhand管理にしてしまいました。

まだ記事には書いておりませんが、RADEON RX9060XT も導入してローカルAIを（いちおう）目指せるハードになったので、Lemonade Serverなども導入しそれを利用するOpen WebUIとかSearXNG+VANEも導入したり。単体で導入していたAdGuard HomeもDocker版があると分かり、これもDocker/Dockhand環境に移設しました。

PortainerにせよDockhandにせよこうした管理ツール（GUI）が「必要」と思った理由は、サービスの追加や削除・停止／開始はもちろん構成変更をする機会が多いことを予想してのことです。「使うサービスが決まってて構成も決まってて起動したらしっぱなし」という安定した状態ならCLIベースでDockerを操作するので十分です。まだそういう状態ではないしこの先も「あれこれ試したい」というのもあって「手軽に構成変更できる環境」が欲しかったのでDockhandを利用することにしました。

【閑話休題】

できてみれば「そういうことか」と分かるのですが、やってる途中は分からないことだらけで、ぜんぜん上手くいかなかったり苦労しまくっておりました。（全ては歳のせいで理解力が劣化しているため…でしょう）

もうあと数ヶ月で正真正銘の「高齢者」に分類される歳になります（＝年金生活者になります）が、こうして自分の自由にできるツール（＝お遊び道具）を使って楽しんでいきたいと思っております。

山坂を（できるだけ）避けて法隆寺まで

道路各所にある気温表示はいずれも３？℃を示す中、元気よくヘロヘロ・ヘコヘコと走ってきました。

行き先は「いつもの」法隆寺ですが、この季節＆気温ですので、山坂をできるだけ減らしたコース取りにしました。おかげで、斑鳩町の龍田神社や藤ノ木古墳に立ち寄れました。

そういうのもあって、まだローギア３２Ｔを使うような場面には出会ってなくて亀の瀬辺りも２８Ｔまでで対応できております。２６Ｃタイヤも至って快調、空気圧７．０ｂａｒで乗ってますが問題無し。

細かめの砂程度の未舗装路であれば何ら心配なく乗れますね。少し大きめの石があるような路面は…試してみないと分からないですね。今日それを少し試そうかと思って出発したんですが、（短いけど）斜度がきつい箇所を通らんとあかんのでやめておきました。走路選択と抜重さえ気をつけておけば大丈夫なような気がするんですけどね…。

フォト画像の管理環境をリニューアル

これまで色々なやり方をしてきました。基本はローカルディスク上のPictureなりPhotoなりのフォルダを使い、その下に撮影日付のフォルダツリーを作ってそこに撮った写真画像ファイルを置く、で、しかるべきツールで表示する、という感じ。

以前はShotwellとかを使っていましたが、カメラ（＝スマホ）をパソコンに有線接続せなあかんしスマホ側を写真同期モードに設定せなあかんし…「あかん」てことは無いんですけど、とにかくまぁ、手間が鬱陶しくなってこの方法は縁遠くなりました。直近はGoogle Photoアプリを使ってGoogle Driveに同期する、という方法でやってきましたが、これにしても、現用中スマホ（Sharp AQUOS sense9）からアップロードするとドライブ領域の使用量カウントに計上されてしまうので、それを避けるためにいちいちPixel 4aにQuick Shareで転送してから 4a のGoogle Photoでアップロードする、なんていう小賢しいことをやっておりました。

が、これも「めんどっせーなー…」と…

そういう流れで、「じゃぁこの際、ローカルマシン上に自家製Google Driveもどきを用意して、そこでファイル管理するか」ということにしました。

使用したのは冒頭の絵の通り immichサーバでスマホアプリもimmich。世の中にゴマンとある情報を元に自パソコンにヘコヘコとインストール＆セットアップしました。

時間を要したのは写真データの移行で、Google Drive上の写真をどっさり取得して、Exifの無いファイルの対応とか移行しやすいフォルダへのファイルコピーとかいろいろ手間をかけて作業して、15000ファイルほどを移行しました。

ローカルマシンでもほどほどの安全性を持たせておきたいので、メタデータと実体ファイルを同じタイミングでバックアップする（質素な）スクリプトを作って対応しました。この環境を使うのは自分だけですし24h運転なんてしないので、バックアップは自分の好きなタイミングで手動で実行する方式にしました。

ってことで、まぁ、なんとか使える状態にできました。

スマホアプリの使用感は全く悪くないです。こと同期に関してはGoogle Photoより圧倒的に素早い。immichサーバと通信できない環境では写真データをダウンロードしたりはできないのですが、画面表示できればＯＫなので全く問題無し。

immichをインストール＆セットアップした時は v3.0.3 が最新でしたが、7/30にv3.1.0がリリースされました。「アップデートする前には、Metadataを含めバックアップしておけ」と説明されてますし、世の中の情報にも「immichのバージョンアップでは、DBが壊れても対応できるぐらいに備えておけ」的な話もありましたが、バージョンアップの説明手順通りにやったら、すんなりいけてひと安心。

Dockerを使うのも初めてでしたし、いろいろ知らないことばかりで大変でしたが勉強になりました。