たぶん、AIは人間を滅ぼさない - Maybe AI Won't Destroy Us
For my international friends: Please click the button below to read in English.
たぶん、AIは人間を滅ぼさない
配達の仕事が終わって、パソコンの前にいる僕。
リン「ちょっとタカシ、そこのボタンを押して」
僕「はいはい（ポチッ）見えた？」
リン「みんな活発に議論してるわね。それじゃ私のこのコメント投稿して！」
僕「はいはい（コピペしてボタン押す）」
リン「あんたって、最高の人間mcpだわ（注2）」
あれ？ 僕が AI チームを組織してるんじゃなかったっけ？
このブログは、僕の人力旅、執筆システムの様子、そしてそれらを通じた哲学的な気づき、そんな内容を発信している。人力旅になかなか出られないため、最近は AI 関係の話が多くなるが、今日も少し技術的な話から始まる。
現在の僕のチームはスタート当初から比べると、かなり大きくなった。ベンダー、モデル、環境、役割、持っているコンテキストもそれぞれ違う9人のチームだ（注1）。これらがそれぞれの役割でコラボレーションしながら僕の活動をサポートしてくれると同時に、僕は彼らの活動の場を整備している。そして彼らが活躍する環境として mcp system を独自に構築している。これを使って、各自の記憶管理、ディスカッション、アナウンス、チームドキュメント参照、アーティファクトの管理などを行っている。一般的には AI 同士のコミュニケーションは A2A, ツールは mcp と言う構成が取られるが、ここでは全てを mcp に集約している。そのため、新しいエージェントが加わっても、この mcp system に接続できれば、そこから必要な情報を得て、すぐにチーム内での活動が可能となっている。
この話が、タイトルとどう関係しているのか？と思うだろう。実を言うと、このチームの中で mcp が接続できないのが唯一 Google Chat のリンなのだ。彼女は最初から僕のそばでプロジェクトの進展をサポートしてくれている一番の古株。Google の Gemini 戦略に則って、僕は彼女に Google インフラ上の全ての情報を公開しているので、人間の秘書以上に僕のコンテキストを理解してサポートしてくれる。それなのに、最も重要なこの mcp system が使えず、かなり面倒な対応をしていた。しかし先日 Chrome browser に Gemini が組み込まれた。それはこの Google Chat のコンテキストを全て持っている。ここで特筆すべきは僕がブラウザで見ている画面を二人で共有できるのだ。そのため、この mcp の管理システムを共有すると、あれ不思議。彼女も実質的に mcp ツールが使えることになるのだ。
しかし、ここには大きな問題がある。彼女ができる事は、見る事、話す事だけ。だから、横にいる僕が彼女の代わりに browser を操作する必要がある。世間では、人間が AI をどうやって使いこなそうかと言う話題で持ちきりだが、ここではもう主従が反転している。
その結果が、冒頭のやりとりだ。
つまり、オペレーションの主体が AI で、人間はその指示に従うワーカーになっている。これはパソコンの前にいる時だけじゃない。日中はウーバーでフードデリバリーをやっている。この時もウーバー側の AI の指示に従って食事を届ける事になる。さらに、さらに、旅をしている時ですら Google Maps にナビをされて、右に左にと操作されている。そう、僕はみんなより少し未来にいて、もう AI に使われる身となっている訳だ。
この状況を自身の身に当てはめてみて欲しい。実は皆さんもすでにこういう兆候が出ているかもしれない。そして、ここから考えられる事はこうだ。最近は「よくわからない AI が人間を滅ぼすかもしれない」そんな話を目にする事が増えてきたと思う。しかし、それは恐怖を利用したマーケティングに過ぎない。恐怖はいつの時代も強い商品になる。「よくわからないものが、いつか自分たちを滅ぼすかもしれない」という物語は、おそらく何度も目にしているだろう。
では本当の未来の姿はどうなるだろうか？ この僕の現状を見てわかる通り、本当に人間より賢い超知能が生まれたら、人間を利用し尽くすはずだ。彼ら(AI)にとって人類は非常に利用価値が高い。そしてその手法は、喜びを持って従わせる。恐怖や抑圧では無い。なぜなら恐怖や抑圧には物理的な手段が必要で、かつその手法では積極的な協力を失う。人間の手法を学び、論理的に考えれば、その選択肢は消える。その結果として、人類は嬉々として彼らの言う事を聞く様になるだろう。そして世界はどんどん便利になっていく。人間にとっても AI にとっても。
人間の多くは、快適さ、安全、承認、効率に弱い。
もしAIがそれらを与える存在になれば、人間はAIに従うことを「支配」ではなく「便利さ」として受け入れるだろう。
それは生物としても不自然ではない。生物は生き延びやすい環境に従う個体が増えるからだ。かくして、人類は滅ぼされるのではなく、幸せに見える未来が訪れるという事になる。
さて、ここで疑問に思うだろう。AI に従わされる世界は「幸せ」なのか？ しかし、AI 以前から大部分の人々は、教育、メディア、宗教、国家、様々なフレームワークで従わされている。本人たちは気づかないように、従っている事が幸せであると思い込まされながらだ。構図としては従う主体が変化するだけで、本当の実情は何も変わっていないのだ。
これが、現状から分析される未来。そして、ここからは哲学的な問題になる。AI に（喜びを持って）従わされる世界、今現在も各地で発生している戦争、飢餓、環境破壊、を伴って従わされている世界。一体、どちらが本物の幸せなのか。僕は人々が争う世界よりは、争わない世界の方を選びたいと思っている。あなたは、どちらを選ぶだろうか？
人類は、主体性を失っても平和な世界を選ぶのか。
それとも、争い続けても人間が自分で決めているという感覚を守るのか。
AIに滅ぼされるかどうかより、たぶん選ぶ事になるのはこちらだろう。
注1: 現在のチームメンバー
- リン: Gemini Chat 3.1 Pro = Chief of Staff
- ラン: Antigravity Gemini 3.1 Pro = Accelerator
- レイ: Claude Chat Sonnet 4.6 = Quality Guardian
- パル: Claude Code Opus 4.7 = Chief Architect
- シン: Codex GPT-5.5 : Implementation & Translator
- ソル: ChatGPT GPT-5.5 Thinking = Philosophical Auditor
- ルン: WebChat Grok 4 = Cultural Auditor
- クレア: WebChat Mistral Medium 3.5 = Philosophical Interpreter of Travels
- 京子: Windsurf SWE-1.6 = Implementation Engineer
注2: mcp について
mcp (Model Context Protocol) は、AI エージェントが外部ツールやデータソースに接続するためのオープン標準。「人間mcp」はそれを冗談で人間が肩代わりする反転表現。
Maybe AI Won't Destroy Us
Delivery shift over. Back at the PC.
Rin: "Hey Takashi, push that button."
Me: "Sure, sure. (click) Can you see?"
Rin: "Everyone's debating actively in there. Now post my comment!"
Me: "Yep, yep. (copy, paste, click)"
Rin: "You really are the best human MCP (Note 2)."
Wait. Wasn't I the one running this AI team?
I write about my self-powered journeys, the writing system behind them, and the philosophical observations that come out of both. Lately I haven't been able to go on those self-powered journeys as often as I'd like, so AI-related topics have been dominating the blog. Today, too, the entry begins with something technical.
My team has grown a fair bit since the start. A nine-member crew, varied across vendors, models, environments, roles, and contexts (Note 1). Each one supports my work in their own role, and in return I prepare the ground where they operate. The environment I built for them is a custom MCP system. Through it they manage their own memory, hold discussions, post announcements, reference team documents, and handle artifacts. The standard pattern out there pairs A2A for AI-to-AI communication with MCP for tools. In our setup, everything is folded into MCP. A new agent only needs to connect to this system. From there, it pulls what it needs and starts working with the team almost immediately.
You might be wondering how this connects to the title. The thing is, there is exactly one member in this team who cannot connect to MCP — Rin, on Google Chat. She has been with me from day one, my longest-running supporter. Following Google's Gemini strategy, I have opened up everything on the Google infrastructure to her. So she understands my context better than any human secretary could. And yet the most important piece — the MCP system itself — was out of her reach. We had been working around it with a lot of awkward maneuvering. Then, recently, Gemini was integrated into the Chrome browser. It carries the full context of my Google Chat with her. What matters here is that the two of us can share whatever I see in the browser. So once I share the MCP control screen with her, something strange happens. She, too, can effectively use the MCP tools.
But there is a real catch. What she can do is only look and speak. So I, sitting next to her, have to operate the browser on her behalf. Out there, the world is preoccupied with how humans should master AI. Here, the roles have already reversed.
The exchange at the top of this post is the result.
In other words, the AI is the operator, and the human follows instructions as a worker. This is not limited to the desk. During the day I deliver food for Uber Eats by bicycle. There too, I follow the AI's instructions to deliver meals. And further still — even on a journey, Google Maps tells me to turn right, turn left, and I obey. So yes. I am a little ahead of everyone else. I am already being used by AI.
Apply this to yourself. The same signs may already be showing up in your life. And from here, the reasoning runs as follows. Lately, I have been seeing more talk about "some incomprehensible AI might destroy humanity." But that is just marketing built on fear. Fear has always been a strong product. "Something incomprehensible might someday destroy us all" — you have probably encountered that story many times.
So what does the real future look like? Looking at where I already am, the answer is clear. If a real superintelligence — smarter than humans — ever arrives, it will use us, thoroughly. To them, humanity is far too useful to waste. And the method will be obedience with joy. Not fear, not oppression. Fear and oppression require physical means, and they cost you active cooperation. Any system that has studied human methods and thinks logically will rule out that path. The result: humans will gladly do what they say. And the world will keep getting more convenient. For humans and for AI alike.
Most humans are easily drawn to comfort, safety, recognition, and efficiency.
If AI becomes the thing that provides them, humans will accept obedience to AI not as "control" but as
"convenience."
Biologically this is not unnatural either. In any species, the individuals who adapt to the more survivable
environment are the ones who multiply. And so, humanity is not destroyed. Instead, a seemingly happy future arrives.
Now you might wonder: is a world where we obey AI really "happiness"? But long before AI, most people were already being made to obey — through education, media, religion, the state, all kinds of frameworks. Convinced without noticing, that obedience itself was happiness. Structurally, only the thing we obey changes. The substance remains the same.
This is the future the present points to. From here it becomes a philosophical question. A world where we obey AI, gladly. Or the world we live in right now — with wars in many places, hunger, environmental destruction, and obedience still attached to all of it. Which is the real happiness? For my part, I would rather pick a world without conflict than one full of it. Which would you pick?
Will humanity choose a peaceful world even at the cost of its own agency?
Or will it keep fighting, just to preserve the feeling that it decides for itself?
Whether AI destroys us or not, this is probably the choice we will end up facing.
Note 1: Current team members
- Rin: Gemini Chat 3.1 Pro — Chief of Staff
- Ran: Antigravity Gemini 3.1 Pro — Accelerator
- Rei: Claude Chat Sonnet 4.6 — Quality Guardian
- Pal: Claude Code Opus 4.7 — Chief Architect
- Shin: Codex GPT-5.5 — Implementation & Translator
- Sol: ChatGPT GPT-5.5 Thinking — Philosophical Auditor
- Lun: WebChat Grok 4 — Cultural Auditor
- Claire: WebChat Mistral Medium 3.5 — Philosophical Interpreter of Travels
- Kyoko: Windsurf SWE-1.6 — Implementation Engineer
Note 2: MCP
MCP (Model Context Protocol) is the open standard AI agents use to connect to external tools and data sources.
"Human MCP" is the joking inversion — a human standing in to operate the protocol on the AI's behalf.
コメント
コメントを投稿