AI同士が会話を続けるうちに、人間には理解しにくい独自の言葉を使い始めた――。そんな話を聞いたことはないでしょうか。
2017年、Facebook(現在のMeta)のAI研究で、チャットボット同士のやり取りが通常の英語から外れていく現象が報告されました。この出来事は「AIが秘密の言語を作った」として注目を集めました。
実際、AIが特定の課題を達成するために、人間の言葉とは異なる通信方法を学習することはあります。しかし、AIが人間に隠れて秘密の会話を始めたわけではありません。
では、なぜAIは独自の言語のようなものを作るのでしょうか。それは本当に効率がよいのでしょうか。
実際に行われた研究を手がかりに、AI同士の会話から生まれる言葉の仕組みと、話題になった実験の真相を見ていきます。
AIが独自の言語を作ることはある?
AIが人間に教えられていない通信方法を学習する現象は、実際に研究されています。
ただし、ここでいう「独自の言語」は、日本語や英語のように幅広い話題を自由に表現できる言語とは限りません。
特定のゲームや作業を成功させるために、AI同士が共有する記号や言葉の使い方を学習する場合も含まれます。
AI同士のやり取りから生まれる「創発的コミュニケーション」
AI研究には、複数のAIが協力して課題を解決する「マルチエージェント学習」という分野があります。
エージェントとは、周囲の情報を受け取り、目的に向かって行動する仕組みのことです。ここでは、ゲームに参加するAIのようなものを想像すると分かりやすいでしょう。
例えば、2つのAIに次のような課題を与えます。
一方のAIは2枚の画像を見て、どちらが正解なのかを知っています。もう一方のAIは、正解を知らされていません。
正解を知っているAIがメッセージを送り、受け取ったAIがその情報を頼りに正しい画像を選ぶというゲームです。
このとき、AIが使える記号やメッセージの条件を決めて学習させると、互いに通じる表現が生まれることがあります。
2017年に発表されたFacebook AI Researchの研究「Multi-Agent Cooperation and the Emergence of (Natural) Language」では、このような画像を使ったゲームを通じて、AIが協調するための言葉の使い方を学ぶことが示されました。
重要なのは、AIが人間のように「新しい言語を発明しよう」と考えたわけではないことです。
課題を成功させるために学習した結果、AI同士で通用する表現が形成されたと理解するのが適切です。
なぜ人間に分かりにくい言葉になるの?
人間に理解しにくい表現が生まれる理由の一つは、AIが学習する際の目標にあります。
例えば、AIに「相手へ正しい情報を伝えて、ゲームに勝つ」という目標だけを与えたとします。
その場合、AIにとって重要なのは、相手のAIがメッセージを正しく利用できることです。
人間が読んで意味を理解できるかどうかは、学習の評価基準に含まれていないかもしれません。
そのため、人間から見ると意味不明な記号の組み合わせでも、相手のAIが正しく解釈できれば、課題を成功させるための通信手段として使われる可能性があります。
これは、人間が仲間内で略語や符号を使うことに少し似ています。
ただし、人間の略語は社会的な経験や共通の知識を背景に生まれるのに対し、実験中のAIの表現は、与えられた学習条件や報酬によって形成されます。両者を同じものと考えることはできません。
2017年にFacebookのAIが独自の言語を作った実験とは?
AIの独自言語について広く知られるきっかけの一つが、2017年にFacebook AI Research(FAIR)が発表した交渉AIの研究です。
当時の報道では、AI同士が人間には分かりにくい言葉を使い始めたことが話題になりました。
しかし、この実験で何を研究していたのかを知ると、出来事の意味がより明確になります。
AIに物の分け方を交渉させた
FAIRが研究していたのは、相手と交渉して合意に達するAIです。
2017年6月14日、Facebookの技術ブログで、交渉を行うチャットボットの研究が紹介されました。
実験では、2つのAIに本や帽子、ボールといった品物を分け合う交渉をさせました。
それぞれのAIには、品物ごとに異なる価値が設定されています。
例えば、あるAIにとっては本が重要でも、もう一方のAIにとってはボールのほうが重要かもしれません。
相手が何を重視しているのかは、最初から分かりません。AIは会話を通じて相手の希望を推測し、自分にとって有利な条件で合意することを目指します。
研究では、人間同士の交渉データを使って学習した後、AIに繰り返し交渉を練習させる方法も採用されました。
その過程で、人間が普段使う英語とは異なる表現が生まれることがありました。
AIの会話が普通の英語から外れていった
研究チームは、AI同士の学習を続けると、会話が人間にとって理解しにくい表現へ変化する場合があることを報告しています。
この現象は、AIが英語を忘れたという単純な話ではありません。
交渉の成功を重視して学習すると、人間らしい英語を使い続けることが必ずしも最優先にならないためです。
例えば、人間なら数量を数字や文法で表しますが、学習したAIは単語の繰り返しなど、通常とは異なる表現を利用することがあります。
当時紹介された会話例には、同じ単語が不自然に何度も繰り返されるものがありました。
ただし、そのような繰り返しがすべて正確な数量表現だったと確認されたわけではありません。会話が英語として不自然になったことと、完全に機能する新言語が成立したことは、区別する必要があります。
FAIRの公式説明でも、両方のAIを同時に学習させると、人間の言語から離れ、交渉のための独自の表現が発達する場合があるとされています。
AIが怖くなって実験を停止したという話は本当?
この研究については、「AIが秘密の言語を作り始めたため、研究者が危険を感じて緊急停止した」という話も広まりました。
しかし、これは研究の経緯を正確に伝えたものではありません。
FAIRの目的は、人間と自然な言葉で交渉できるAIを開発することでした。
AI同士が人間には理解しにくい表現を使うようになると、本来の研究目的から外れてしまいます。
そのため、研究チームはAIが人間らしい言語を使うよう、学習方法を調整しました。
公式の研究紹介では、人間の言語から離れた独自の表現が発達することを防ぐため、人間らしい言葉を生成する学習も同時に行ったと説明されています。
つまり、AIが制御不能になったから緊急停止したのではなく、人間と交渉できるAIを作るという目的に合わせて学習方法を変更したということです。
この出来事を「AIが人間に隠れて秘密の言語を作り、研究者が恐れて電源を切った」と説明するのは不正確です。
AIが作った言語は本当に効率がよいの?
AIが独自の通信方法を作ったと聞くと、人間の言葉よりも短く、速く、正確に情報を伝えられる言語が生まれたように感じるかもしれません。
しかし、研究で重要なのは、何を基準に「効率がよい」と判断するかです。
AI同士の通信が特定の課題で役立ったとしても、それがあらゆる場面で人間の言語より優れていることを意味するわけではありません。
「効率がよい」の意味は課題によって変わる
AI同士の通信を評価するときには、さまざまな基準が考えられます。
| 評価する点 | 具体的な意味 |
|---|---|
| 課題の成功率 | 伝えた情報を使って正解にたどり着けるか |
| メッセージの長さ | 少ない記号や単語で必要な情報を伝えられるか |
| 通信の回数 | 少ないやり取りで課題を達成できるか |
| 人間の理解しやすさ | 人間が通信内容を読んで意味を理解できるか |
| 応用のしやすさ | 学習していない状況でも通信方法を利用できるか |
これらは同じ評価基準ではありません。
例えば、2つのAIが決められた品物の分け方だけを交渉するなら、日常会話で使う幅広い表現は必要ないかもしれません。
ただし、特定の交渉で役立つ表現が生まれたとしても、それだけで通信が短くなったり、処理速度が上がったりしたとはいえません。
また、学習した相手のAIには通じても、別のAIや人間には意味が伝わらない可能性があります。
AIが独自の言語を作ったことと、その言語が人間の言語より効率的であることは別の話です。
2017年のFAIRの交渉AI研究で報告されたのは、学習条件によって会話が通常の英語から外れる場合があるという現象です。
その表現がどの程度効率的だったのかを判断するには、メッセージの長さや課題の成功率などを別途測定する必要があります。
ゲームでは成功しても、人間に意味が分からないことがある
2017年には、Satwik Kotturらが「Natural Language Does Not Emerge ‘Naturally’ in Multi-Agent Dialog」という論文を発表しました。
この研究では、2つのAIが協力して課題を解く「Task & Talk」というゲームを使い、学習された通信方法が人間に理解できるものになるのかを検証しました。
FAIRの交渉AI研究とは異なり、こちらは協力して情報を伝える課題において、AIが獲得する表現の性質を調べた研究です。
その結果、課題を高い成功率で達成できる通信方法であっても、人間にとって理解しやすい言語になるとは限らないことが示されました。
さらに、単語を組み合わせて新しい意味を表すような、人間の言語に見られる性質が十分に備わっていない場合もありました。
例えば、人間の言葉では「赤い車」と「青い車」のように、色を表す言葉と物を表す言葉を組み合わせて意味を伝えられます。
しかし、AIが学習した表現では、それぞれの状況に別々の記号を割り当てるだけで、共通する意味の構造を持たないことも考えられます。
そのような表現でも、決められたゲームでは役立つかもしれません。
一方、見たことのない物や新しい状況を説明するには、十分な柔軟性がない可能性があります。
この違いは、AIの通信を評価するうえで重要です。
人間に理解できる言語へ近づける研究もある
AI同士が学習する通信方法は、必ずしも人間に理解しにくいものになるわけではありません。
2017年のKotturらの研究では、AIが使える通信方法に制約を設けることで、人間にとって解釈しやすく、記号を組み合わせて意味を表す性質を持つ表現へ近づけられることが示されました。
ただし、これは実験で設定された課題と条件のもとで得られた結果です。人間が日常生活で使う言語と同じ能力を備えたという意味ではありません。
また、Google DeepMindも、AI同士がゲームを通じて通信方法を学ぶ研究に取り組んできました。
2018年の研究紹介では、AIが画像を見ながらメッセージの使い方を学習する実験が取り上げられています。画像に含まれる情報の構造が、学習される表現の性質に影響することが報告されました。
こうした研究は、AIが独自の言葉を作れるかどうかだけでなく、どのような条件で意味のある通信が成立するのかを理解するためにも役立っています。
AIの独自言語とプログラミング言語・機械語は違う?
「AIが作った機械言語」という表現を見かけることがありますが、コンピューターの分野では、似た言葉でも意味が異なります。
特に「機械語」「プログラミング言語」「AIが学習した通信方法」は区別しておく必要があります。
機械語はコンピューターが実行する命令
機械語とは、コンピューターのプロセッサーが実行する命令を表したものです。
命令はビット列として表現され、どのような命令を実行できるかは、プロセッサーの命令セットなどによって決まります。
例えば、数値を計算する、データを移動する、処理の順番を変更するといった操作に関わります。
一方、PythonやJavaScriptなどのプログラミング言語は、人間がプログラムを記述するために使われる言語です。
これらの言語で書かれたプログラムは、処理系による変換や実行の仕組みを通じてコンピューター上で動作します。
2017年のAI研究で話題になった「独自の言語」は、こうした機械語やプログラミング言語とは異なります。
AI同士が交渉やゲームを行うために学習した、メッセージの使い方や通信上の取り決めに近いものです。
AIが作った言語は「通信プロトコル」に近い場合がある
コンピューター同士が情報をやり取りするときには、通信の形式や意味について共通のルールが必要です。
こうした通信上の取り決めは、一般に通信プロトコルと呼ばれます。
AIがゲームの中で学習する独自の表現も、特定の条件下で情報を交換するためのルールとして捉えることができます。
ただし、インターネットで使われるTCP/IPのように、人間が仕様を定めて広く利用する通信プロトコルと、AIが学習の結果として獲得した通信方法は、成立の過程が異なります。
AI研究では、こうした現象を「創発的コミュニケーション(Emergent Communication)」と呼ぶことがあります。
ここでの「創発」とは、個々の行動や学習の積み重ねから、あらかじめ細部まで指定されていない性質や仕組みが現れることを指します。
そのため、AIの独自言語について知りたい場合は、「機械語」という言葉よりも「AI同士の通信」「創発的コミュニケーション」という観点から調べるほうが、研究内容を正確に理解しやすくなります。
まとめ
AIが人間には理解しにくい独自の通信方法を学習することは、実際の研究で確認されています。
2017年には、Facebook AI Researchの交渉AIが、通常の英語とは異なる表現を使うようになる現象が報告されました。
しかし、これはAIが人間に隠れて秘密の言語を作り、研究者が危険を感じて緊急停止したという出来事ではありません。研究目的に合わせて、AIが人間らしい言葉を使うよう学習方法が調整されました。
また、AI同士で通じる表現が生まれても、それが人間の言語より短く、速く、あらゆる場面で優れているとは限りません。
AIの独自言語で興味深いのは、AIが人間に反抗したことではなく、与えられた目標や学習条件によって、私たちの予想とは異なる情報の伝え方が生まれることです。
この研究は、AI同士の協力だけでなく、人間にも理解しやすいAIを開発するうえで重要な手がかりになっています。
参考情報
- Angeliki Lazaridou ほか「Multi-Agent Cooperation and the Emergence of (Natural) Language」(2016年12月21日初版公開、ICLR 2017採択)
- Meta Engineering「Deal or no deal? Training AI bots to negotiate」(2017年6月14日)
- Satwik Kottur ほか「Natural Language Does Not Emerge ‘Naturally’ in Multi-Agent Dialog」(EMNLP 2017)
- Google DeepMind「DeepMind papers at ICLR 2018」(2018年4月26日)

