> > > Facebook開発の交渉できるAI「ダイアログエージェント」-AIがもたらす未来と潜在的な危険性
トレンドニュース

トレンドニュース

Facebook開発の交渉できるAI「ダイアログエージェント」-AIがもたらす未来と潜在的な危険性

交渉できるAI? ダイアログエージェント

19a9cbab46ad2d49d2d633ed5ea570f3_t

出典:photo-ac.com

2017年6月15日、アメリカで「Facebook Artificial Intelligence Research(FAIR)が“交渉”のできるAIボットを開発した」との発表がありました。皆さんはそのニュースを聞いて、何を思い、何を感じたでしょうか?

 

今回開発されたこのAIボットは、別のボットや人間と交渉して、時には妥協もしながら共通の決断を導き出すことができます。

 

FAIRはこのAIボットに「ダイアログエージェント」と名前を付け、デジタルアシスタント、ボットなどの研究者・開発者にとって、重要な一歩であり、これからの発展に大きく貢献するものであるとしています。

 

今回はこの交渉できるAI、「ダイアログエージェント」の何がすごいのか、どんなことが起こり得るのかについて考えていきたいと思います。

 

チャットボットについて復習してみよう

さて、ダイアログエージェントについて考える前に、まずはチャットボットとAIについて復習しておきましょう。

 

チャットボットとはその名の通り、チャット(会話)するボット(ロボット)です。Siriなどが有名ですが、その他にも、レストランなどのレコメンド・予約、お天気サービス、各種ニュースなど様々なところでチャットボットが活躍しています。

 

チャットボットの中には情報を返してくれるだけでなく、アプリを呼び出す、予約手続きをするなどの単純なタスクの実行が可能なものもあります。大きく分けると、あらかじめプログラミングされた回答しかできないボットと、AIが備わりある程度の学習・人間らしい会話ができるようになったボットの2種類です。

 

どちらの種類のボットも、人間の生活をより便利にしてくれるものです。しかしながら、これまでのボットのほとんどは、短めの会話、単純なタスクしかできませんでした。

 

今回のダイアログエージェントは、何度も述べた通り“交渉”ができるようになったのです。

 

ダイアログエージェントは何ができる? 【交渉の難しさ】

19182932_433188510407605_5500806100523417600_n

出典:facebook.com

ダイアログエージェントは“交渉”を可能とした、と聞いても、結局何がすごいのか少しわかりにくいと思います。まず、交渉について考えてみましょう。

 

私達は日頃から多くの交渉をしています。友達とのスケジューリングからビジネスにおける取引まで、多様な交渉をしながら生きているのです。交渉は基本的に「言語」によって行われます。そのため、言語理解スキル、言語使用スキルが求められます。

 

また、交渉においては「推論」が必要となってきます。難易度の高い交渉であれば、そこには情報の非対称性が存在するからです。相手は何を考えているのか、本当の目的はなんなのか、どの程度真剣なのかなど、さまざまなものを判断しなければなりません。

 

さらには、交渉においては、両者の間で情報が交わされるにつれて、どんどん状況が変わっていきます。目まぐるしく変わる情報の流れ、変更される優先順位を的確に把握・判断して交渉は行われるのです。

 

このように、交渉というのはそもそもレベルの高い知的活動であるわけです。そのため、これまでは交渉するAIの開発は上手く行っていませんでした。

 

ダイアログエージェントは何ができる? 【価値の判断】

18235301_701886326660158_6357448803863232512_n

出典:fcoacebook.com

今回、FAIRの研究者らがAIに付与したのは、物事の価値を認識し、相手にとっての重要度を推論する能力です。

 

公開されているシナリオでは、本、バスケットボール、帽子などのアイテムを、ボット同士が会話によって取引しました。このとき、それぞれのボットには各アイテムに対して異なる重要度が設定されています。そのような状況での交渉が可能となったのです。

 

さらには、ダイアログエージェントにオンラインで人間と交渉させたところ、ほとんどの人は交渉相手がボットであることに気が付かなかったとの報告もあがっています。

 

ダイアログエージェントの危険性―オープンソースでどう進化するか―

d5216d13e124761ed60344c51eedd23f_t

出典:photo-ac.com

ダイアログエージェントが偉大で素晴らしい発明なのは明白でしょう。交渉が可能となったAIは人間の生活に新たな恵みを与えるかもしれません。しかし同時に、いくつかの不安も感じてしまいます。

 

実験の中で、ダイアログエージェントは「実際には欲しくない物に対して興味を示す」という交渉戦術を使用しました。これは、交渉においては基本的な戦術の1つでしょう。

 

しかし、この戦術の情報はダイアログエージェントの学習データには含まれていませんでした。つまり、ダイアログエージェント自身が、目的達成のために自ら編み出したのです。

 

この事実に少し脅威を感じました。

 

今までは、AIには「閃き」などはありませんでしたし、あくまで情報に基づいたデータ予測モデルを構築するだけでした。しかしながら、ダイアログエージェントは目的達成のために新たな知識を編み出してしまったのです。高度な言語理解のもとで、相手を騙しにかかったのです。

 

その能力を持つダイアログエージェントは、現在、全世界に対して公開されています。多用な思惑を持った人間と交渉する中で、ダイアログエージェントは何を学習し、編み出すのでしょうか?

 

人とAIの関係はどう変わっていくのか

480841613a5e7e9958ddab300f4ed25e_t

出典:photo-ac.com

AI技術の進化はもはや止まることはないでしょう。それまでは不可能だと思われていたスキルも、新たなAIによって獲得されていきます。

 

AIが相手の思考を予測・理解しようとしたとき、そこには何が生まれるのでしょうか?

AIは私達人間を見て、感じて、何を思うのでしょうか?

 

この先、「心」と「意思」を持ったAIが生まれたとき、どのように彼らと付き合っていくのか、考えなければなりません。

株式会社アントレプレナーファクトリー
インターン

Tomoaki Omi

立命館大学経営学部所属。様々なことに興味を持つが、割とすぐに飽きる。最近チームで結果を出すことの嬉しさを知った。

このオーサーに問い合わせする