AIは嘘つきを学んだ、さらに人類が理解できない新言語を発明

最近、フェイスブックは実験中二つのAIチャットロボットを会話させた、まさに人類が理解できない独特な言語を発明したそうです。

この実験主な目的は、AIが交渉を学ばせることです。

実験中、交渉を通じて双方のプレイヤーがいくつかの物を分け取る（例えば本二冊、帽子一つ、ボール3個）、違うプレイヤーにとって物の価値はそれぞれです。交渉で分け取った物がプレイヤーにもたらしたポイントは違います。

人類の角度から理解すると、ポイントはこの物に対する欲しさです。面白いところは研究者が設置したシーンは現実世界と同じ、情報の非対称性が存在する。自分がどれほど欲しいのは知ってますが、相手の考えが知らない。会話の中に相手の考え方を推測しなければならない。

ゲーム画面

会話の全てが計算済み

訓練しながら、AIが無駄話や意味不明な話をしないことを学んだ、交渉の効率を向上させた。

交渉はもちろん簡単なことじゃない、言語と推理の芸術見たいな物です。対抗しながら協力もする、目的を果たすために、プレイヤーが適切な理解と表現を勉強しなければいけないです。

FAIRは話されてない対話の可能性をシミュレートし、各対話がもらえるポイントに基づいて、言うべき言葉を計算する対話の推論モデルフレームワークを開発した。

AIが偽装と欺くを学んだ

調査後、研究チームは次のような現象を発見した：

人類はAIより分かりづらくわがまま：人類を相手にする時、交渉の時間が長くなり、交渉結果を受け入れるのももっと時間がかかった。人類とAIのもう一つの違いは人類は時々交渉を拒絶する。実験中のAIは合意と結果を出すまではずっと交渉し続ける。

AIとAIの対戦 VS AIと人類の対戦

AIが駆け落ちする：あるケースの中、AIプレイヤーはある物がすごく欲しいと装う、実際は全然欲しくないのに。あとで妥協のふりをするため、相手がすごく欲しがることを気づき、そうしたら相手がもっと価値あるもの手放すーー人類もよくする小細工、誰も教えてあげないのに、AI自分で悟った。

人類が理解不能な新言語を発明

強化学習の間、AIプレイヤーは他のプレイヤーとの対話を通じてパラメータを改善しようと、相手は人間もしくは別のAI。

二つのAIが会話しながら、お互いに自身のパラメータを改善し、人類日常会話の言語を離れつづ、自分の言語まで発展した。

一部の人々はAIが人類が理解できない独立の言語を発明したことはすごく怖がっている。もし未来何かを悪だくみをし、人類が分からなかったらどうしょう？

でも考えてください、人間は動物の会話も分からない。（もちろん、人類は自分だけ会話でコンミュニケートできると思っている）AIは人間と人間の言語で話す、AIとAIの言語で対話、もしかしたら未来は動物とコンミュニケートできるかも。

况且别忘了，只要工程师加入一个模型，就能“拨乱反正”，人类暂时还不需要那么鸡冻吧。Facebook 研究员在报告中很淡定地写：

でも忘れないでください、エンジニアが一つのモデルを加えば、すぐ取り返すことができる。だから、とりあえず興奮しなくてもいいです。フェイスブックの研究員はリポートの中にこう書いていた：

「未来の仕事は多くの潜在可能性がある、特にAIにより多くの推理戦略を理解させて、人間の言語から逸脱することなく、表現の多様性をアップする。」