TOPセキュリティ > Googleの会話AI「Duplex」、専門家が倫理上の懸念...

セキュリティ

Googleの会話AI「Duplex」、専門家が倫理上の懸念を指摘

2018/05/15

Byron Connolly CIO

 「Siri」「Alexa」などのAIアシスタントと違って、Duplexは人間であるかのように話す。デモで披露された会話では、Duplexの人間味が増して聞こえるように、話の途中で一瞬言いよどんだり、相づちの言葉を挟んだりといった工夫もなされていた。電話で応対した人は、相手が機械であることに気づかなかった可能性が高い。

 このことが倫理上の懸念をもたらすとAbbass教授は明確に指摘し、Duplexはロボットであると自己紹介すべきだと述べる。

 「ここで重要なポイントは、自分が何者なのかを明らかにすべきだという点だ。デモ動画では、Duplexはクライアントに代わって電話をかけたと話している。電話に出た店員が身元を明らかにするよう求めることはなかった。AIのDuplexが人間の信頼を得るために人間の名前を出すとしたら、明らかに詐欺の要素があり、倫理に反した行動をとっていることになる」

 「AIのDuplexが、自動化されたロボットの類いであるという自らの素性を明らかにしたら、会話を続けたいかどうか、電話に出た人間が判断することになる」

↑ページ先頭へ