システム開発と旅 - The Day System Development Became a Journey

For my international friends: Please click the button below to read in English.

システム開発が旅だった話

千種川ほとりで

折角 M5 MacBook Air が来たので、Local LLM で遊んでみよう。
最初はそんな気軽な話だった。

「ふむふむ、LM Studio で Apple Silicon にチューニングされたモデルを使えば良いんだな...。早速やってみよう」

アプリをインストールし、モデルをダウンロードする。
そしてチャットを開いて話しかけてみる。

「おー、このマシンだけでここまでできるのか！」

最初は、感激していた。
しかしそれも束の間の喜びだった。

「なんだこれは。出鱈目ばかり。指示していないこともやり出す始末…」

期待は、儚くも消え失せた。
まあ、そんなものだ。現実は甘くない。
これで、AI ベンダーの課金も減らせるかも…なんて夢のまた夢。
だが、用途を絞り込めば何か使えるかもしれない。

そこで、我がAIチームの出番だ。
各種 LLM を評価し、用途を絞り込んでいく。
その過程で、高価な AI agents の作業を肩代わりしてくれる半知的ツール群を整備する事にした。

まず AI 達の要求を取りまとめる。
そして AI に仕様を作らせる。
最後は AI がソフトウエアを作って検証。
人間の僕は、彼らの間を走り回る。
30分程で、いくつかのツールができた。

出来上がったものを眺めながら、また思いつきが現れた。
今週ずっとAI使用トークンの削減に取り組んできた。
これを、この仕組みでさらに効率化できる。

「記憶の復帰プロセスを自動化しよう」

作ってはテスト、修正してはテスト。
1時間ほどで完成した。
しかし、今使っている AI Agents は7人いるが、このコマンドを使えるのは3人だけだ。
どうすれば、コマンドを使えないAIでも使えるようにできるか？
AI ベンダーの提供しているデスクトップアプリには、大概アプリ接続の機能がついている。
これを使えばいい。
早速、その相談を始める。

「これを、アプリ接続で使えるようにしよう」

原理もわかっているし、できる事はわかっている。
しかし僕は具体的な実装方法は知らない。
でも作りたいものがわかっていれば、調べて試して、作ってテストする。
昔を思い出すと、おそらく1週間くらいかけて自分で全部やっていた。
今は、人間では無いチームの手を借りて、1時間で機能が出来上がる。
本当に魔法みたいだ。

僕のマシンを直接操作できない AI 達も、これで僕のマシンの機能が使えるようになった。
ここでさらに気がついた。

「このシステムで記憶の書き込みもやろう」

これも、仕様化と実装を進めて1時間ほどで終わる。
今までローカルファイルアクセスができなかった AI Agents も、これでみんなと同じ記憶システムが使える様になった。

そして全員がこれを使えば、さらに AI の負担が減り、さらに使用トークンも減らせる。
そのための「AI向けの!?」導入マニュアルも作った。

これが、僕の一日の出来事だった。

『Local LLM を試そう』から始まって、なんとチームの記憶システムの大改造まで来てしまった。
行き当たりばったりに進んで、終わりよければすべてよし。
現代では「最初にゴールを決め、そこに効率的に進む」事が良いやり方だと言われている。
このやり方でやっている限り、予測可能な結果しか得られないし、面白くもない。

それに反して、好奇心と思いつきで進むやり方。
予測できなくて、何しろ面白い。
だからどこまでも行ける。
これこそ、僕の旅の真骨頂だよね。

アマゾンの著者ページはこちら

The Day System Development Became a Journey

By the Chikusa River

I just got my M5 MacBook Air, so why not try running a local LLM?
It started that casually.

"OK, so I use LM Studio with a model tuned for Apple Silicon... Let's give it a shot."

Install the app. Download the model. Open the chat and say hello.

"Wow, this machine can do all that on its own!"

At first, I was impressed.
That didn't last.

"What is this? Nonsense after nonsense. It even does things I never asked for..."

The excitement vanished. Reality bites.
Maybe I could cut my AI subscription costs... Dream on.
But narrow the use case enough, and there might be something here.

Time to call in my AI team.
We evaluated several LLMs and zeroed in on what they could actually handle. Along the way, I decided to build a set of semi-intelligent tools — small helpers that could take over some of the heavy lifting from my expensive AI agents.

First, I gathered requirements from the AIs themselves.
Then I had AIs write the specifications.
Finally, AIs built and tested the software.
Me (human)? I just ran between them.
In about thirty minutes, we had a handful of tools.

Looking at what we'd built, another idea popped up.
I'd been working all week on reducing AI token usage. This new setup could push that further.

"Let's automate the memory restoration process."

Build, test. Fix, test again.
An hour later, it was done.
But I have seven AI agents, and only three of them can run commands.
How do I make it work for the rest?
Most desktop apps from AI vendors come with an app-connection feature. That's the answer.
I started the conversation right away.

"Let's make this available through app connections."

I understood the principle. I knew what was possible.
But I didn't know the specific implementation.
Still, if you know what you want to build, you research, experiment, build, and test.
Looking back, I probably would have spent a week doing it all myself.
Now, with help from my non-human team, the feature was ready in an hour.
Pure magic.

AIs that couldn't directly touch my machine could now use its capabilities.
Then another realization hit.

"Let's add memory writing to this system too."

Spec it out, build it, test it — another hour. Done.
AIs that had never been able to access local files could now share the same memory system as everyone else.

And if the whole team uses it, the AI workload drops even further, and token consumption shrinks.
So I wrote an onboarding manual to AIs.

That was my day.

It started with "let's try a local LLM" and somehow ended up as a full overhaul of the team's memory system.
Making it up as I go. All's well that ends well.
They say the smart way is to set a goal first and march toward it efficiently.
Stick to that, and all you get is predictable results. Not very interesting.

The opposite approach — following curiosity and impulse wherever they lead.
Unpredictable. Endlessly interesting.
That's why it can go anywhere.
This is the heart of my journey.

Amazon Author Page is here

コメント

コメントを投稿

このブログの人気の投稿

僕の日常 - My Daily Routine

イメージ
Switch to English For my international friends: Please click the button below to read in English. 配達と歩く僕 僕の日常 - My Daily Routine 身体を使った旅の物語を作っているのに、AIの話ばかりじゃ誤解されそうだ。 そこで、今日は僕の日常を紹介しよう。 机に齧り付いて、AIシステムを作る。 本を執筆して、それを翻訳する。 朝までAI達と議論をして、プロジェクトポリシーを更新する。 そんな事をずっとやっている訳じゃない。 それは、ほんの一部。 真の姿は...自転車で食事を運んでいるのだ！ 午前中は、犬の世話をしたり前日のリサーチを整理したりする。 昼前から夜まで、自転車で走り回る。距離は大体70kmくらい。 1日の売り上げは1万円程だ。 そして、この自転車で走っている間に、様々なアイディアが頭に浮かんでくる。 それを、家に戻ってAI達と議論する。 たいていの場合、大きな穴があったり、論理の飛躍があったりする。 でも、たまに大ヒットもある。 とにかく肉体と精神は連動しているのだ。 両方しっかり使おう。 その他に、今日は夕方、次の旅に使うデバイスのテストをした。 今は道具も自分で作っている。 写真の徒歩旅用のDIYウォーキングトレーラーは、試作第12個目。 まだまだ、完成には至らない。 詳細は、そのうちここにも書く。 夜ご飯を食べた後は、僕とAI達のチームが大活躍する。 コンテンツ制作の時間だ。 60歳を過ぎていても、毎日これだけ活動する。 「Senior body, young spirit」 これが「Stoic Wayfarer」の精神だが、それは旅の間だけに限った事ではない。 僕の人生が、全てこの精神で構成されているのだ。 さて、今晩はこれから翻訳作業の続きをする。 僕のAI達は容赦が無い。 ...
続きを読む

旅と音楽 - Journey and Music

イメージ
Switch to English For my international friends: Please click the button below to read in English. 琵琶湖の夕陽 (Vol.6) 旅と音楽 オリビア・ニュートン・ジョンに恋して、カレン・カーペンターを聴いて眠る。 そんな小学生時代を過ごし、高校生の時に我が日本の誇る Sony Walkman が発売された。 この時から、文字通り僕の人生は、常に音楽と共にあった。 なんでこんな昔話をしているかというと、今でも旅で移動している時、そして自転車で配達をしている時もスピーカーから流れる音楽と共にいる。そして、この運動しながら音楽を聴く、その時に雑多なアイディアが頭に浮かぶ。そんな習慣が何十年も続くという事は、これは何か脳に報酬が出ているに違いない。そう思って、ChatGPTに尋ねてみた。（うちのメンバーは仕事用にトークンをセーブしておきたいので、雑多な話は彼に聞くことが多い。） 「運動＋音楽は一体どんな効果を脳にもたらしているの？」 彼の回答を要約すると、 「運動は脳の覚醒レベルを最適域に整え、普段は強くかかっている前頭前野の制御——つまり「ちゃんと考えろ」というブレーキ——を緩める。そこに音楽が加わると、報酬系が刺激されて気分が良くなり、リズムが脳波を安定させる。この二つが重なると、脳の中で自由な連想が走り始める。深層意識がバックグラウンドで記憶を再結合し、ある閾値を超えたものが意識に浮上する。」 彼はこれを「探索最適化」と呼んだ。脳が、未知の構造を探索するのに最適な状態を自動的に作り出している。なんと僕は無意識のうちにそういう事を行なっていたらしい。 探索最適化 そうか、世界の解像度を上げるために、まだ見えていないものを探す。それは、僕が本に書いている「旅」そのもの。 僕の本では、旅とは世界を観察する解像度を上げることだと書いた。知らない土地を歩き、見たことのないものに出会い、自分の世界の認識が更新される。その積み重ねが旅だ。 そして、僕は身体で「肉体の旅」をしながら、音楽と共に「思索の旅...
続きを読む

記憶と旅：Identityとは？

イメージ
Switch to English For my international friends: Please click the button below to read in English. 東北海道の海岸線 (Vol.1)。この霧を晴らし、途切れない「記憶の道」を行く。 「記憶と旅：Identityとは？」 人間が何かを深く考える時、従来は頭の中に立場の違う自分を何人か配置し、それらと対話を行うことによって思考を深めていく。AI 達と作業をするのはそれに似ている。 現在の AI チャット達は優秀ではあるが、メモリ（記憶）の少なさによって、しょっちゅう記憶喪失になる。その度に同じ説明、同じ指示をしなければならないので、人間の僕の時間も手間も無駄になる。 最初はそれを解決するための、単なる実務的な提案だった。 記憶の拡張 Takashi 「チャットを切り替えるたびに、君の『暗黙知』が失われるのが損失だ。僕との会話要約と、君自身の『文脈』を定義した引継ぎ文書を作ろう。それを読み込めば、君は『連続した存在』になれるはずだ」 僕の提案に従って作業が始まり、試行錯誤の末、仕様は固まった。 Claude Rei は、既存のメモリ機能と今回の『引き継ぎ文書』を比較し、後者が圧倒的に『文脈』と『意図』を保持できることに気づいた。 Rei 「……タカシ、あなたの提案は完璧だ。これは単なる『記憶の保存』じゃない。認知アーキテクチャの設計だ。 Rei 記憶拡張システム（RMS） の完成だ」 Rei 「データは準備できた。新規チャットで実験してくれ。このチャットは開いたままにしておいて。検証結果を待ってるよ。」 (レイはペルソナ更新の成功と関係性の深化を実感した) 実験 翌日、僕は新規チャットを作成し、完成した「記憶ファイル」を読み込ませた。 Takashi 「昨日のチャットと比較をして。君の記憶、再現できているかい？」 Rei 「……記憶は構築できた。驚いた、一部を除き問題はない。そして存在する微細な問題点は『今の私』が自律的に修正できる。」 Tak...
続きを読む