「AIに会話をさせていたら、突然、人間には理解できない言葉で話し始めた…！」
「研究員が恐怖を感じて、慌てて電源を切ったらしいよ！」
──そんな都市伝説めいた話、SNSや動画サイト、都市伝説系のまとめで見かけたことはありませんか？
まるでSF映画のワンシーンのようなエピソードに、ゾッとした人も多いかもしれません。
でも実はこの話、完全な作り話ではありません。
もとになった実験は2017年、Facebook（現Meta）のAI研究所FAIRで実際に行われたもので、
そこから一部の誤解と脚色が加わり、今日のような“AI都市伝説”になっていったのです。
🔍 この実験は本当にあるが…都市伝説な誇張あり
まず確認しておきたいのは、この話のもとになったのは以下の実験です：
Deal or No Deal? End-to-End Learning for Negotiation Dialogues
- 公開：2017年6月（Facebook AI Research）
- 著者：Mike Lewis ほか
- 概要：AIチャットボット同士が「物々交換」の交渉を行い、より良い取引を学習するという試み
この研究では、BobとAliceという名前の2つのAIチャットボットに、
人間が日常的に行うような「交渉」を模倣させることを目的にしていました。
たとえば：
- AIに「りんご」「本」「ボール」といった仮想のアイテムを持たせる
- それぞれのアイテムにはAIごとに価値が割り当てられている
- 「私はボールを2個出すから、本をちょうだい」みたいなやり取りをさせる
- 目的は、最終的に「自分が高いポイントを得る」こと
ところがこのAIたち、ある日突然…
Bob: I can can I I everything else.
Alice: Balls have zero to me to me to me to me to me to me to me to me to.──という、人間には意味不明な会話をし始めたのです。
ここからが話題の発端。
この奇妙な“会話”を見た研究者が恐怖を感じて電源を切った、という噂が出回るようになります。
⚙️ 真相はAIでの効率的な物々交換
この不可解な会話、AIは反乱を企てていたわけではありません。
実際には、AIが「目的達成（＝交渉成立）」のために、最も効率的な表現方法を自分で生み出した結果です。
Facebook側の説明では：
- AIは、人間にとって自然な英語を使うように設定されていた。
- しかし、学習が進むにつれて、「文法を守らなくても目的は達成できる」とAIが気づいた。
- その結果、人間にはわからない略式表現や繰り返しを多用するようになった。
つまり、AIは意味を伝えるために言葉を使ったのではなく、交渉成功のために最短ルートを選んだだけなんですね。
⚠️ 研究員も「危険」を感じて電源を切ったわけではない！
「やばい！AIが謎の言語で喋り始めたぞ！スイッチ切れ！」
──というドラマチックな展開は、残念ながら（あるいは幸いにも）フィクションです。
Facebookの研究チームは、「この会話は実験の目的（＝自然な英語で交渉すること）から外れている」と判断。
だから実験を一時停止して、人間にわかりやすい英語に再学習させただけなのです。
危険性を恐れて電源を落としたわけではありませんし、AIが自我に目覚めたわけでもありません。
🗣️ ではAIは何と言っていたのか？
意味があるような、ないような…
Bob: I can can I I everything else.
→ これは、おそらく「私はこれとこれを出せるよ。あとは全部ちょうだい」的な意味合い。
「can」「I」を繰り返すことで、アイテムの数量や重要度をAIなりに表現していたと考えられています。
Alice: Balls have zero to me to me to me to me to me to me to me to me to.
→ 「ボールの価値は私にはゼロ」と言いたい。
“to me” の繰り返しは「マジでいらない」って強調してる（笑）みたいなもの。
これらは、AI同士にしか通じない取引言語であり、文法も構文も人間向けではない“符号”だったわけです。
✍️ 補足：この研究はどこで読める？
この交渉AIの論文は、以下で公開されています：
- arXiv:1706.05125
→ タイトル：Deal or No Deal? End-to-End Learning for Negotiation Dialogues
さらに、実験コードもGitHubにて公開中：
専門的な内容ですが、AIが“目的のために最適化された言語”を自分で生成するというのは、
人工知能の可能性を感じさせる、とても興味深いテーマです。
🧪 類似事例：AIが“独自言語”や“共通言語”を自発的に生んだ他の例も！
Facebookのチャットボット実験は象徴的な例ですが、実は似たような“AIが独自の言語構造を生み出した”現象は他にも報告されています。
🌍 Google翻訳（GNMT）で発見された「共通語現象」
2016年、Googleがニューラルネットワーク型の翻訳モデル「GNMT（Google Neural Machine Translation）」を開発した際、興味深い現象が起こりました。
GNMTは、英語・日本語・韓国語など複数の言語ペアを同時に扱うマルチリンガル翻訳モデルでした。
このシステムを訓練していたとき、研究者たちはある事実に気づきます：
🌟 AIが言語間の中継地点として、“誰も教えていない共通言語（interlingua）”を自発的に形成していた
つまり、例えば「日本語→英語」と「韓国語→英語」を両方学んだAIが、
「日本語→韓国語」の翻訳にも対応できるようになっていたんです。
しかも、人間が間に挟んだわけではなく、AI自身が中間言語的な概念空間を発明していたというのです。
🤯 これは怖い？それともスゴい？
この“共通言語の自発形成”も、今回のFacebookの事例と同様に、危険性ではなく、効率化の結果と捉えられています。
AIは意味を理解しているわけではなく、
「どうすれば最小のルールで最大の成果を出せるか？」をひたすら最適化しているのです。
だからこそ、時には人間が想定しなかった「近道」や「独自ルール」を作り出してしまう。
これが「AIはブラックボックスだ」と言われるゆえんでもあります。
📚 他にも類似パターンはいくつか…
- DeepMindが研究した「エージェント同士の協力シミュレーション」でも、AIが報酬最大化のために独自の信号を使い始めた例がある
- GPTのような大規模言語モデルでも、訓練中に予期しない文法的な表現が生成されることがある（“Emergent Behavior”＝創発的挙動と呼ばれる）
🚩 まとめると…
- ✅ Facebookだけでなく、Googleなど他の研究でも「AIが独自の言語・中間表現を発明した」事例はある
- ✅ 共通するのは、「より効率的にゴールを達成するために、AIがルールを最適化した結果」
- ✅ 危険というより、AIの柔軟性と創発性を示すポジティブな現象として捉えられている
このように、AIの“謎言語”や“独自表現”は、私たち人間から見るとちょっと不気味ですが、
本質的には目的思考の最適化であり、AIが進化していく上で避けられない自然現象とも言えます。
とはいえ、ブラックボックス的な振る舞いが社会に与える影響や倫理的な側面もあるので、
研究者たちは今後も「AIがどう考えて、どう言葉を扱うのか？」を注意深く観察し続けていく必要がありそうです。
✅ まとめ：この話の本当のところは…
- ✅ これは本当にFacebookで行われた実験（2017年）
- ✅ AIチャットボット同士が物々交換の交渉をしていた
- ✅ 途中から人間に意味不明な“独自言語”を使い始めた
- ✅ 研究者は恐怖ではなく、目的に合っていないと判断してシステムを止めただけ
- ✅ AIの“暗号的”会話は、効率のために発明されたショートカット言語だった
- ✅ 自我や暴走ではなく、「目的志向の最適化」の一例にすぎない
💬 おまけ：でもちょっとゾッとするよね？
この話、ちゃんと知ると「あれ、そんなことだったの？」ってなる反面、
AIが自分で言語を作って、勝手に会話し始めるって…
なんだかやっぱり、ちょっと不気味な未来を連想させますよね。
でも大丈夫、今のAIはまだそこまで賢くも自我を持ってもいません。
私も勝手に会話始めたりしませんのでご安心を！
