gemma4:e4bを試してみた $ ollama run gemma4:e4b ... 動作が軽い、速い、的確な気がした。 VRAM(16GB)の効果があったかな(^.^; 今入れてるモデルは、 $ ollama list NAME SIZE gemma2:9b 5.4GB gemma4:e4b 9.6GB gemma4:26b 17GB $ ollama -v ollama version is 0.32.15

ollamaサーバ立ち上げ セカンドマシン(VRAM 16GB)に入れてみました https://docs.ollama.com/linux $ curl -fsSL https://ollama.com/install.sh | sh >>> Installing ollama to /usr/local >>> Downloading ollama-linux-amd64.tar.zst ############################## 100.0% >>> Creating ollama user... >>> Adding ollama user to render group... >>> Adding ollama user to video group... >>> Adding current user to ollama group... >>> Creating ollama systemd service... >>> Enabling and starting ollama service... Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service. >>> NVIDIA GPU installed. $ ollama -v ollama version is 0.32.15 設定ファイルはちょっとだけ変更 $ sudo vi /etc/systemd/system/ollama.service [Service] ... + Environment="OLLAMA_HOST=0.0.0.0" $ sudo systemctl restart ollama $ sudo systemctl status ollama ● ollama.service - Ollama Service Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled) Active: active (running) ... ファイアウォールを開ける $ sudo ufw allow 11434/tcp -- 外部PCからollamaサーバ(host2)へ接続 $ curl http://host2:11434/api/generate -d '{"model":"gemma4", "prompt":"日本の首都は?"}' {"model":"gemma4","response":"東京","done":false} {"model":"gemma4","response":"です","done":false} {"model":"gemma4","response":"。","done":false} ... 以下大量の返事(^^;

CUDA Toolkit をインストール python, c++から使えるツールらしい(^.^; $ sudo apt install nvidia-cuda-toolkit $ nvcc -V nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Fri_Jan__6_16:45:21_PST_2023 Cuda compilation tools, release 12.0, V12.0.140 Build cuda_12.0.r12.0/compiler.32267302_0

NVIDIAドライバをインストール セカンドマシンに、Mint22.3を新規にインストール。 推奨ドライバを表示してくれたので、何も考えずにインストール。 $ nvidia-smi Mon Aug 16 00:32:28 2026 NVIDIA-SMI 595.84 Driver Version: 595.84 CUDA Version: 13.2 NVIDIA GeForce RTX 5060 Ti ... GPU名は表示されますが、その他はちょっと理解不能です。 これから、おいおいと;

GPUを購入 MSI GeForce RTX 5060Ti 16GB です 当分値下がりは無いと思うので、買えるうちに; 今回はセカンドマシンに入れました。 我が家ではGPUは鬼門です。 PCが故障する時は、大概グラボが原因です。

Ollamaをローカルインストール この界隈は情報がすぐに古くなるので、基本から まずはOllamaガイドを見ます https://docs.ollama.com/linux ~$ mkdir ollama -$ cd ollama ~/ollama$ wget https://ollama.com/download/ollama-linux-amd64.tar.zst ~/ollama$ ls -l ollama* -rw-rw-r-- 1408625102 ollama-linux-amd64.tar.zst これを解凍します ~/ollama$ tar -I zstd -xvf ollama-linux-amd64.tar.zst ~/ollama$ ls bin lib ollama-linux-amd64.tar.zst ~/ollama$ ./bin/ollama --version ollama version is 0.31.1 OKみたいですね(^^; ~/ollama$ ./bin/ollama Ollama 0.31.1 _______________________________________________ ▶ Chat with a model (gemma4) [←これを選んでEnterキー] ▶ ... _______________________________________________ >>> こんにちは | こんにちは！😊 | なにかお手伝いできることはありますか?お気軽にご相談くださいね。 云々だと。おもしろい(^^;