世の中の流行に乗っかってLLMを使ってみたい そう思ったので入れてみました GPUは当時でもローエンドのRADEON 5500XT(8GB) LM Studioは こちら からインストール 本当は世の中の人が使ってるようなGeForce 5000シリーズで最低でもメモリは16GB無くちゃダメだよなー とか言いたかったんだけどね お金が無いから今ある機材で頑張るしか無いのよ お金欲しい インストール 大抵のアプリと一緒でインストーラーでインストールするだけ こんな感じのインストール画面 最初っから「お前に最適なモデルはこれだ」って言われるので言われるままにインストール ちなみにインストールしたのは「google/gemma-4-e4b」というやつ 最初の設定 なんだかわからないけど、とりあえず両方ともチェックした 最初の質問 そして画面が英語だったので日本語化の方法を聞いたけど実はこの後 「LM Studioのメイン画面を日本語化したい」という質問に対しては 「一般的には歯車のマークを選択し、 languageを変更すれば日本語になります」 という酷い答えが・・・ マジかよ 仕方ないのでgeminiに質問 したらちゃんと教えて貰ったけどLLMはメモリ8GBだと油断ならない感じ スピード 速度は意外と速かった どこもかしこもRadeon5000シリーズなんかカスみたいなことばっかり書いてあったし心配だったけど まあ、初っぱなからなんじゃそりゃって感じの返答だし、多分長文を質問すると酷くなっていくのかも これから 今日は遅くなってしまったのでここで打ちきるけど、後日コーディング用のモデルをインストールしてVS codeに結びつけるのだ Github copilotがチケットの消費が恐ろしいことになってるのでコーディングコスト削減じゃー 6/4なのに位置からアプリを実験的に作っただけでもうチケット8割使っちゃったよ GPU おまけにGPUの使用状態 今までひたすら遊んでいることの多かったGPUがこんなに頑張って働くようになったぜ キリキリ働け