皆様こんにちは。最近ローカルLLMにはまっている私です。
Ollamaを使って翻訳やStable Diffusionのプロンプト作成を頼むのが便利なことを過去の記事で書いていますが、モデルを起動してから最初に翻訳してくださいなどのプロンプトを書くのは面倒ですね。今回はそんな初回のプロンプトを省略して、モデルを起動したらすぐに翻訳やStable Diffusionのプロンプトを考えてもらえるようにする設定方法を紹介します。
1.今回の設定でできること
例えば翻訳をしてもらいたいとき、最初にこんなプロンプトを書くと思います。
You are a professional translator.
If the input is in Japanese, translate it into natural and fluent English.
If the input is in English, translate it into natural and fluent Japanese.
Only output the translated sentence. Do not explain or add anything.
まぁ、これを入力すれば、この後は日本語を書けば英語に、英語を書けば日本語に・・・といった感じで無限に翻訳してくれるわけですが、翻訳をよく頼む人にとっては面倒ですね。重たいモデルを使っている場合は、これを入力しているだけでも時間がとられてしまいます。
でも大丈夫！以下に各設定をすると、モデルを立ち上げた後に翻訳してほしい文章を書けば、無言で翻訳してくれるようになります。
2.Modelfileを作成する
①Modelfileを作成する
メモ帳を立ち上げて、以下の内容をコピーしてください。
FROM gemma3:27b
SYSTEM “””You are a professional translator.
If the input is in Japanese, translate it into natural and fluent English.
If the input is in English, translate it into natural and fluent Japanese.
Only output the translated sentence. Do not explain or add anything.”””
これはモデルにgemma3:27bを使っている場合です。皆様それぞれで使っているモデルが違うと思うので、FROMの後のモデル名は適宜置き換えてください。
②Cドライブに保存する
インストールしたOllamaは「C:\Users\ユーザー名\.ollama」という場所に格納されています。①で作成したModelfileもここに保存します。具体的には、「C:\Users\ユーザー名\.ollama\models」に保存しましょう。
ファイル名は自由に決めてよいですが、拡張子は付けてはいけないので、その点だけ注意が必要です。今回は「Modelfile」というタイトルで保存した前提で説明を続けます。
③Modelfileを保存したフォルダ内で右クリック→「ターミナルで開く」を選んでください。
すると、Modelfileを保存したフォルダがカレントディレクトリになっている状態でコマンドプロンプトが開くので、次のコマンドを実行しましょう。
ollama create 作成したいモデル名 -f Modelfile名
作成したいモデル名は今後起動する際に呼び出すモデルの名前です。自由に決めて大丈夫ですが、今回は翻訳用のモデルなので、「translator」としましょう。
Modelfile名は作成して保存したModelfileのタイトルです。今回①で作成したメモ帳は「Modelfile」というタイトルで保存しているので、この事例ではModelfileと入力します。
以上より、今回の事例に当てはめると、実行するコマンドは「ollama create translator -f Modelfile」となります。
④これで完成です。通常のモデル起動時と同様にrunコマンドを使うと起動できます。
ollama run 作成したモデル名
今回の事例では、「ollama run translator」となります。起動すると、最初に翻訳してくれとか言わなくても、翻訳してほしい文書を入力するだけで、訳文を返してくれます！
3.最後に
ここまで読んでくださってありがとうございました。今回の設定は、初めて知ったときはちょっと興奮しました。皆様もこの興奮を共感してもらえると嬉しい限りです！
コメント