Windows 64bit
Windows7バランスがとれてて良い感じ。これが最期になると思ってたら10が出た。そして11...
投稿フォーム:
zlib-1.3.2をビルド
https://zlib.net/
zlib-1.3.2.tar.gz を取得し、展開します。
今回からVisualStudio用の設定フォルダが無くなったようです。
cmakeを使って自分用に作ります。
■ 最初にcmakeをインストール
cmakeダウンロードサイトを開く
https://cmake.org/download/
Latest/Stableを選択
Binary distributions: Windows x64 installer
をダウンロードしてインストール
cmake-4.4.5-windows-x86_64.msi
ここでターミナル(PowerShell)を開いて
PS D:> cmake --version
cmake version 4.4.5
■ そしてソリューション(プロジェクト)ファイルを作る
まずターミナルで、zlib-1.3.2.tar.gzを展開したフォルダに入ります
PS D:\zlib-1.3.2> mkdir build
PS D:\zlib-1.3.2> cd build
PS D:\zlib-1.3.2\build> cmake .. -A x64 -DCMAKE_INSTALL_PREFIX="D:\zlib-1.3.2"
...(色々表示されるが省略)
-- Build files have been writen to: D:\zlib-1.3.2\build
buildフォルダ内に zlib.sln が生成されるので、
これを VisualStudio で開いてビルドすると、
z.lib,z.dll(Debugモードの場合はzd.lib,zd.dll)が生成されます。
■ zlibターゲット名の変更
zlib-1.3.1 まではVisualStudio用のフォルダが存在し、
ターゲット名は zlibwapi となってました。
もし同じにするならzlibプロジェクト(プロパティ)の設定で変更します
Windowsでllama.cpp
llama.cpp本家サイトは↓です
https://llama-cpp.com/
■ llama.cppをインストール
https://github.com/ggml-org/llama.cpp/releases
「Windows x64 (Vulkan)」を選択するとzipファイルが落ちてきます
llama-b11889-bin-win-vulkan-x64.zip
このzipファイルを解凍しフォルダを "llama-cpp" にリネーム(好きな名前に)
ターミナル画面を開いて実行確認
> llama-cpp\llama-cli.exe --version
version: 0.7.0-dev (build 11889, commit d854d98ba)
built with Clang 20.1.8 for Windows x86_64
■ LLMモデルを入手
HuggingFace からモデルをダウンロード
https://huggingface.co/
https://huggingface.co/models
例えば、
左ペインで/Libraries/GGUFを選択し、
検索窓に"Gemma-4-E4B"と入力すると、いろいろ表示されます。
今回は "ggml-org/gemma-4-E4B-it-GGUF" をクリックし、
https://huggingface.co/ggml-org/gemma-4-E4B-it-GGUF/tree/main
表示されたGGUFファイルリストから
gemma-4-E4B-it-Q4_0.gguf (4.5GB) を選択
■ 実行
まず、使えるGPU名を調べます
> llama-cpp\llama-cli.exe --list-devices
Available devices:
Vulkan0: GeForce GT 710 (2007 MiB, 1706 MiB free)
Vulkan1: Ryzen 5 (20284 MiB, 19270 MiB free)
そして実行(-dev にGPU名を指定)
> llama-cpp\llama-cli.exe -m gemma-4-E4B-it-Q4_0.gguf -dev Vulkan1 -ngl 99
チャット画面が表示されます(/exitで終了)
■ コマンド登録(もし必要なら。管理者権限で。)
1. llama-cpp をフォルダごと "C:\Program Files\" 下にコピー
2. 環境設定でパスを通す
--
Gemma-4-E4B-it-Q4の場合、GPU専用メモリ消費は約62%でした。
生成速度は約21トークン/秒で、応答も快適。
十分使えると思った(^.^;
GeForce GT710を購入
¥5,150- @海女さん
安い! GDDR5 2GBでファンレス...でも古い、Tensorコアが無い;
こいつはディスプレイ出力専用にして、
Ryzen内蔵グラフィックス(Radeon 740M)の方をローカルLLMに使います。
BIOS(GIGABYTE)のSettings/IO Ports画面で以下を設定
- Initial Display Output: PCIe 1 (GT710)
- Integrated Graphics: Force
- UMA Mode: UMA Spacified
- UMA Frame Buffer Size: 8GB
Windows11を起動したら、
タスクマネージャでGPU0,GPU1を確認。
無事 Radeon 740M の方に固定メモリが8GB割り当てられてた。
軽量なAIモデルなら、動くのではないかな?
--
ついでに AMD Adrenalin Edition(26.10.1)をダウンロード。
https://www.amd.com/ja/products/software/adrenalin.html
最新情報を提供し、Vulkanドライバも更新してくれるとのこと
パイプ記号が入力ができない > 20
[¥|]キー入力が出来なくなりました;
Windowsの設定をいじっても変わらず、
結局は remmina の設定で解決。
1. Remminaの設定画面を開く
2. キーボードレイアウトを <auto-detect> から 00000411-Japanese に変更
(ちなみに 00110C00-Javanese と間違わないように;p)
3. 閉じる
4. Windowsに再接続
で、無事にパイプ"|"入力可能となりました(^.^)
突然キーボードが英語配列に
Windows Update の直後です
google先生曰く
「リモート専用のレジストリが書き換わってるかも」
果たして、
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Terminal Server\KeyboardTypeMapping\JPN=kbd101.dll
これを kbd106.dll に書き換えて再起動...
無事直りましたとさ(^.^;
Windows11pro用マシン組み立て
https://bowrow.jp/djnote/pc/GIGA-B650M-K/
Windows11pro 最新バージョン 24H2 です
個人用設定・ローカルアカウントでインストールできた
早速、海女さんにWindows11proを注文
参考サイト: 後藤PC塾
https://youtu.be/qg5d4-5j4Uw?t=124
途中で迷子になったけど、アカウント作成画面からShift+F10でシェルに入り、
> oobe¥BypassNRO.cmd
これで、ログイン時にネット接続が不要になった\(^.^)/
第4世代インテルにWin11をインストール
できるみたい
https://www.youtube.com/watch?v=VTKAiGpDBoM
https://www.youtube.com/watch?v=oWsbGZk25qM
https://www.youtube.com/watch?v=cT-fPpmoNik
肝はRufusでブータブルUSB作成する時に、
https://rufus.ie/ja/
TMPを無視するオプションを選択するだけみたい。
Windows11マシン組み立て
https://bowrow.jp/djnote/pc/ASUS-B550M-A-W11/
良さそう。
HP Pavilion g6 をSSD化
http://owa.as.wakwak.ne.jp/zope/docs/PC/HP-Pvilion-g6
HD320GB=>SSD500GBにクローンコピー
SeaGateのDiskWizardを利用した
https://www.seagate.com/support/downloads/discwizard/
全部自動で行ったのが間違い。パーティションサイズが変わってしまった。
ちゃんとやるには、きちんと手動で設定するのが良い。
ドライブC,DをSSDに
1TBを500GBのSSD2個に移植。
M.2なのでかなり速くなりました。
https://bowrow.jp/djnote/pc/GIGA-H270M-D3H/
Diskクローンを試して少し遠回りしてみましたが、
結局はクリーンインストールが一番安心。
バックアップはこまめに取ることが肝心と気がついた;