【真鶴・三島】ひねくれ夫婦の年越し。そして風邪を引いた
【北海道】羽幌炭鉱跡と 道の駅 しほろ温泉のモール泉（2025/10 北海道旅行 Part 4）
【北海道】2025年個人的ベスト街賞 音調津（2025/10 北海道旅行 Part 2）
【新潟県】大正から続く湯治の宿 自在館 滞在記（2025/12）
年末旅行として自在館に行ってきました。自在館は新潟の山奥、魚沼から会津に抜ける途中の「栃尾又温泉」にある温泉です。歴史は深く、400年ほど前に創業しており、現代に至るまで湯治湯として生き続けています。
電波も弱く（実はWiFiがある）何もしない贅沢ができる温泉宿。堪能してきたので時系列で記載したいと思います。
- 10:40 東京駅発
- 13:10 浦佐駅着
- 13:30 送迎バスで自在館へ
- 14:00 自在館に到着と貸し切り温泉予約
- 14:30 貸し切り露天風呂・うげつの湯
- 15:30 部屋で昼寝
- 16:00 ロビーを散策
- 16:30 大浴場 おくの湯へ
- 18:00 夕食
- 23:30 貸切風呂・「たぬきの湯」
- 8:00 朝食
- 9:00 大浴場・「うえの湯」
【富山県】清水の街 生地
湧水が清水（しょうず）と呼ばれ親しまれている生地に行って来ました。
ikuji-machiaruki-guide.webes.jp
- 清水巡り
生地は建築学科出身の妻が知っており終始ドヤ顔状態でした。確かに自分が好きな街でした。
「生成AIアプリケーション開発入門」を読んでみて（Part2）
の続き
今回は主にプロンプトエンジニアリングについて。
- 感想
- プロンプトエンジニアリング
- プロンプトの構成要素
- プロンプトエンジニアリングのガイド
- 明確な指示を書く
- モデルの何らかの役割を演じさせる
- 区切り記号で入力を明確に区切る
- タスク遂行に必要なステップを明示する
- 例を提示する
- 出力の長さを指定する
- 参考テキストを提供する
- タスクを簡単なサブタスクに分割する
- 質問内容を分類させ、分類ごとに次の出力に入れる
- 以前の会話を要約する
- モデルに考える時間を与える
- 結論を急がずに、もう回答が正しいか判断させる
- プロンプトのフォーマット
- ハルシネーション
- 生成AIサービスの例
- AI駆動開発
【青森県】青森駅周辺を歩く（青函連絡船メモリアルシップ八甲田丸〜津軽海峡冬景色歌謡碑〜青森ベイブリッジ）
【青森県】津軽半島を巡る（中泊 下前漁港・竜飛岬）
この後３時間くらいかけて五所川原まで車を走らせ、次の日に津軽半島を周りました。せっかくなので竜飛岬に向かいました。途中に良さげな漁港があったので寄ることに。
下前漁港
急斜面と海の間のわずかな土地に作られた漁港なのですが、イカ釣りが盛んなようで、家も新しいものが多く元気な印象を受けました。
ここから30分程度で竜飛岬なのですが、景色が良くところどころ止まりながら向かいました。
眺瞰台からは竜飛岬が見えます。猿が多すぎてふてぶてしくてムカついた思い出しかないです。
竜飛岬
津軽岬の先端、青函トンネルの真上になります。青函トンネル建造時の本州側の基地があったようで今も竜飛海底駅まで行くことができます。
竜飛岬からは北海道が見えます。北海道までは約20km
竜飛岬といえばみんなだいすきな大音量津軽海峡・冬景色。
-------------------------
このバトルが好きでした。晋平太はR指定と戦ったり、バキ童のエンディングを作ってくれたりYoutubeやったり偉大な気のいいおっちゃんのイメージでした。
「生成AIアプリケーション開発入門」を読んでみて（Part1）
生成AIは使っているけど実際よくわかってないという不安に駆られ、業務でもAIをちゃんと使っていこう！（遅い）という方針になったので読んでみたのが「生成AIアプリケーション開発入門」。まだ最初の方しか読んでいないけどAIの基本みたいなのがよくわかってよい。個人的には「AIを業務で使う」と「AIを業務でちゃんと使う」の間にはすげーレベル差があると感じていて、この本は後者のかなり実践的なところまで扱っていそうだったので購入してみた。
プロンプトが大切！深津式がいい！もう古い！とか色々聞くけど、自分はプロンプトのどこにどういう意味があってなんでこんな書き方するんだ？とか色々気になる面倒な性格なのである。この本を読むことで疑問が少し解消していると思う。
特に印象的だったのはLLMの進化とLLMの設定。
LLM=Large Language Modelで大規模言語モデルのこと（ちなみに特定の分野に特化させた使い方をするようなSLMもある）。
Copilotの右上に「GPT云々を使用中」とか書いてあるけどあれが代表的なLLMであるGPT。ClaudeとかGeminiもLLMの一つ。
生成AIって言うけどLLMがその構成要素の一つになっている。人の言葉（プロンプト）を解釈して自然なテキストを生成する役割を担っているのがLLM。
LLMの進化
LLMが進化した！というときに言われるものを抜粋してみた（AIって理論的には大昔にある程度完成していて、CPU、GPUの進化という脳筋パワープレイで最近のし上がってきたやつという偏見は消えないのだが）
マルチモーダル
最近のChatGPTとかだと当たり前になっているが、テキストだけではなく音声や画像をあわせて理解・生成できる機能
トークンの増大
トークンっていろんな文脈で出てくるので難しい。。。文章をモデルが理解できる単位に分割したものをトークンと呼ぶ。
「いっぴきこあらの大冒険です」なら、「いっぴき」「こあら」「の」「大」「冒険」になるのかな？AIが思考するために使える情報量もトークンと呼ばれるらしい。なのでトークンの増大とは思考に使えるコンテキストが増えたということ。最近のモデルでは128K以上はあり、10000語以上の文脈を思考のコンテキストとして使える。
ちなみに入力テキストと出力テキストもトークンとして管理され、例えばOpenAIでは入力と出力のトークンを合わせたもので課金される。
トークン量によってどれだけ入力を食わせられるかが決まるから意識すべきパラメータと理解している
パラメータの増大
ニューラルネットワークを理解できていないのだけど、点と点を結ぶ「ノード」の数と重み、バイアスをパラメータと呼ぶらしく、それが増えたと考えることができるらしい。ここらへんは全然理解できていない。。。パラメータ数が増大するほどニューラルネットワークは繊細になる
LLMの設定
プロンプトを作る段階で意識したほうがいいと思っている。というか世の簡単な「プロンプトエンジニアリング」ってこれらのパラメータを意識して言語化しているだけに感じてる。
特徴としてCopilotでここらを直接いじることはできないらしい。だからこそ上記のようなプロンプトで間接的にいじってやる必要がある。
一方でOpenAIはこれらを直接指定してやることができる。専門的に使うならOpenAI一択なのでは？という気分。ていうかCopilotってモデルにぶち込むためのモデルみたいなのを作っているだけなのでは？という推測
Temperature
生成されるテキストの多様性を制御するパラメータ。低い値だと決定論的に、高い値だと多様になる。
例えばCopilotだと現状は直接指定できないがプロンプトで間接的に決定できる。
ex.)温度の高い書き方：創造的に回答してください。多少のずれは許容します
温度の低い書き方：簡潔に事実に基づいて一貫した回答をしてください
Open AIにはTemperatureをしているAPIがあるっぽい。
Top PとTop K
生成AIが次の単語を決めるときにどう決めるかを決定する方法。例えば「あの犬は」に続く文章を考えてください。と聞いたとき、AIはいくつかの候補を内部的に出す。
( )内は確率として、
かわいい（0.5）、かっこいい（0.2）、うるさい（0.1）、たかそう（0.05）、くさい（0.01）みたいな...
Top Pは確率を意味していて、確率の合計が一定になった候補の中からランダムに選ぶ。例えばP=0.8だったら、かわいい（0.5）、かっこいい（0.2）、うるさい（0.1）の確率の合計が0.8なので、この3つが候補にあがり、その中からランダムに選ばれる。
一方、Top Kは個数を表していて、上位K個の中からランダムに選ぶ。例えばK=4なら、かわいい（0.5）、かっこいい（0.2）、うるさい（0.1）、たかそう（0.05）の4子が候補にあがり、その中からランダムに選ばれる。
Max Tokens
これはシンプルで、生成するテキストの最大のトークン量
Stop Sequences
生成を停止するシーケンス
例えば11にすると項目が10に達したら打ち切る感じ。これは「3つ理由を回答してください」みたいなプロンプトで無意識に使っているかも
Frequency Penalty
繰り返しを減らすように働くパラメータ。AIはうんぬん、AIはあれこれ、みたいな言葉の繰り返しを避けるために使える
Seed
同じシード値を使うと同じ生成をすることができる。乱数を固定することができるらしい。
Copilotでは設定できない
LLMの選定（おまけ）
モデルサイズ
SLMも場合によっては良い。特定の領域に特化したものもある
学習データ
モデルデータがどこの時点の情報まで含んでいるか把握することは大切
マルチモーダル
コスト
例えばOpen AIでは入力と出力トークンを合わせたもので課金される
推論速度
