Windowsでllama.cpp llama.cpp本家サイトは↓です https://llama-cpp.com/ ■ llama.cppをインストール https://github.com/ggml-org/llama.cpp/releases 「Windows x64 (Vulkan)」を選択するとzipファイルが落ちてきます llama-b11889-bin-win-vulkan-x64.zip このzipファイルを解凍しフォルダを "llama-cpp" にリネーム(好きな名前に) ターミナル画面を開いて実行確認 > llama-cpp\llama-cli.exe --version version: 0.7.0-dev (build 11889, commit d854d98ba) built with Clang 20.1.8 for Windows x86_64 ■ LLMモデルを入手 HuggingFace からモデルをダウンロード https://huggingface.co/ https://huggingface.co/models 例えば、 左ペインで/Libraries/GGUFを選択し、 検索窓に"Gemma-4-E4B"と入力すると、いろいろ表示されます。 今回は "ggml-org/gemma-4-E4B-it-GGUF" をクリックし、 https://huggingface.co/ggml-org/gemma-4-E4B-it-GGUF/tree/main 表示されたGGUFファイルリストから gemma-4-E4B-it-Q4_0.gguf (4.5GB) を選択 ■ 実行 まず、使えるGPU名を調べます > llama-cpp\llama-cli.exe --list-devices Available devices: Vulkan0: GeForce GT 710 (2007 MiB, 1706 MiB free) Vulkan1: Ryzen 5 (20284 MiB, 19270 MiB free) そして実行(-dev にGPU名を指定) > llama-cpp\llama-cli.exe -m gemma-4-E4B-it-Q4_0.gguf -dev Vulkan1 -ngl 99 チャット画面が表示されます(/exitで終了) ■ コマンド登録(もし必要なら。管理者権限で。) 1. llama-cpp をフォルダごと "C:\Program Files\" 下にコピー 2. 環境設定でパスを通す -- Gemma-4-E4B-it-Q4の場合、GPU専用メモリ消費は約62%でした。 生成速度は約21トークン/秒で、応答も快適。 十分使えると思った(^.^;

GeForce GT710を購入 ¥5,150- @海女さん 安い! GDDR5 2GBでファンレス...でも古い、Tensorコアが無い; こいつはディスプレイ出力専用にして、 Ryzen内蔵グラフィックス(Radeon 740M)の方をローカルLLMに使います。 BIOS(GIGABYTE)のSettings/IO Ports画面で以下を設定 - Initial Display Output: PCIe 1 (GT710) - Integrated Graphics: Force - UMA Mode: UMA Spacified - UMA Frame Buffer Size: 8GB Windows11を起動したら、 タスクマネージャでGPU0,GPU1を確認。 無事 Radeon 740M の方に固定メモリが8GB割り当てられてた。 軽量なAIモデルなら、動くのではないかな? -- ついでに AMD Adrenalin Edition(26.10.1)をダウンロード。 https://www.amd.com/ja/products/software/adrenalin.html 最新情報を提供し、Vulkanドライバも更新してくれるとのこと

パイプ記号が入力ができない > 20 [¥｜]キー入力が出来なくなりました; Windowsの設定をいじっても変わらず、 結局は remmina の設定で解決。 1. Remminaの設定画面を開く 2. キーボードレイアウトを <auto-detect> から 00000411-Japanese に変更 (ちなみに 00110C00-Javanese と間違わないように;p) 3. 閉じる 4. Windowsに再接続 で、無事にパイプ"|"入力可能となりました(^.^)

突然キーボードが英語配列に Windows Update の直後です google先生曰く 「リモート専用のレジストリが書き換わってるかも」 果たして、 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Terminal Server\KeyboardTypeMapping\JPN=kbd101.dll これを kbd106.dll に書き換えて再起動... 無事直りましたとさ(^.^;

Windows11pro用マシン組み立て https://bowrow.jp/djnote/pc/GIGA-B650M-K/ Windows11pro 最新バージョン 24H2 です 個人用設定・ローカルアカウントでインストールできた 早速、海女さんにWindows11proを注文 参考サイト: 後藤PC塾 https://youtu.be/qg5d4-5j4Uw?t=124 途中で迷子になったけど、アカウント作成画面からShift+F10でシェルに入り、 > oobe¥BypassNRO.cmd これで、ログイン時にネット接続が不要になった＼(^.^)／

第4世代インテルにWin11をインストール できるみたい https://www.youtube.com/watch?v=VTKAiGpDBoM https://www.youtube.com/watch?v=oWsbGZk25qM https://www.youtube.com/watch?v=cT-fPpmoNik 肝はRufusでブータブルUSB作成する時に、 https://rufus.ie/ja/ TMPを無視するオプションを選択するだけみたい。

Windows11マシン組み立て https://bowrow.jp/djnote/pc/ASUS-B550M-A-W11/ 良さそう。

HP Pavilion g6 をSSD化 http://owa.as.wakwak.ne.jp/zope/docs/PC/HP-Pvilion-g6 HD320GB=>SSD500GBにクローンコピー SeaGateのDiskWizardを利用した https://www.seagate.com/support/downloads/discwizard/ 全部自動で行ったのが間違い。パーティションサイズが変わってしまった。 ちゃんとやるには、きちんと手動で設定するのが良い。

ドライブC,DをSSDに 1TBを500GBのSSD２個に移植。 M.2なのでかなり速くなりました。 https://bowrow.jp/djnote/pc/GIGA-H270M-D3H/ Diskクローンを試して少し遠回りしてみましたが、 結局はクリーンインストールが一番安心。 バックアップはこまめに取ることが肝心と気がついた;

システムドライブ容量不足 急遽 Seagate HD 1.0TB に換装しました。 http://owa.as.wakwak.ne.jp/zope/docs/PC/GIGABYTE-770TA-UD3 初めてクローンコピーツール使ってみました。とても便利ですね。 正直に MBR までコピーしてくれました (笑; http://knowledge.seagate.com/articles/ja/FAQ/005920ja?language=ja Windows7 インストールディスクで修復を実行しても grub が残ってます。 再度修復モードに入りコマンドプロンプト画面で、 X:> bootrec /fixboot X:> bootrec /fixmbr X:> exit で新しい MBR が無事に作成された。