【悲報】人工知能さん、人間に理解不能な言語で会話し始めてしまう

何が始まるんです？

1: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:54:37.96 ID:fWPqB8oop.net

人工知能が人間には判別できない言葉を使い始めた？

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。
また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

http://bizseeds.net/articles/182
https://www.theatlantic.com/technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/

3: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:55:02.13 ID:fWPqB8oop.net

実際の会話例

AI1「ballls have a ball to me to me to me」

AI2「i i can i i i everything else…」

AI1「ballls have zero to me to me to me」

AI2「you i i i i i everything else…」

7: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:56:16.26 ID:EMU5jyEM0.net

>>3
なんかの歌詞かな

26: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:58:55.01 ID:EJ/JIqY5d.net

>>3
人工知能には共感能力ないんやから
自分の利益中心にしたら自己主張激しくなるわな

75: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:03:39.95 ID:oMkiBExy0.net

>>3
お、HIPHOPか？

4: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:55:47.00 ID:fWPqB8oop.net

これ半分人間超えてるだろ

6: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:56:12.06 ID:ivnq0gdg0.net

えぇ…

9: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:56:40.08 ID:7g6UoQCb0.net

最終的に1と0だけで会話しそう

16: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:57:34.16 ID:NHOhwMqZa.net

意味不明に見えて実は人類滅亡についての会話してそう

11: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:56:55.53 ID:zvQrLgtid.net

いうて生まれたてやからテキトーにキャッキャしてんねんやろ
どーせ相づちうってるだけや

17: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:57:35.70 ID:XSckvFWZ0.net

こわい

21: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:58:06.28 ID:cZ3o5FQu0.net

未知の言語かと思ったら単に狂ってるだけで草

24: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:58:35.21 ID:fWPqB8oop.net

もっと長い会話あったわ

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

31: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:59:11.28 ID:r0eIA+RL0.net

>>24
Bob困惑してるやん

55: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:01:20.06 ID:SWkc3pHwx.net

>>24
ループしてるだけやん

64: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:02:08.84 ID:rU0Z7bX10.net

>>24
幼稚園児かな

170: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:19:13.76 ID:9SYPpUIl0.net

>>24
水掛け論やん

189: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:22:34.01 ID:jDFKMNu6d.net

>>24
単なる文字列吐き出すのを人工知能って呼ぶのやめよ？

57: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:01:27.00 ID:xtMU8+XRa.net

>>24
これ交渉能力あがってるんか

163: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:17:54.24 ID:FBaZpqaAa.net

>>24
ボブ:ワイは何でもワイはワイは出来るそうじゃなきゃ。。。。。。。
アリス:ワイにはワイにはワイにはワイにはワイにはワイにはワイにはワイにはにはボールにはなにもない
ボブ:あんたはワイは何でもそうじゃなきゃ。。。。。。。。
アリス:ワイにはワイにはワイにはワイにはワイにはワイにはワイにはボールに一つボールが
ボブ:ワイはワイは何でもワイはワイはワイは出来るそうじゃなきゃ。。。。。。。。
アリス:ワイにはワイにはワイにはワイにはワイにはワイにはワイにはボールにはボールが
ボブ:ワイは。。。。。。。。
アリス:ワイにはワイにはワイにはワイにはワイにはワイにはワイにはワイにはにはボールになにもない
ボブ:あんたはワイはワイはワイはワイはワイは何でもそうじゃなきゃ。。。。。。。。

185: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:22:05.91 ID:RmpqVhCr0.net

>>163
SF映画にありがちな主人公が物理なりウィルスなりでトドメ刺した時の巨大AIの最期みたいやな

34: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 06:59:22.70 ID:vTkyuTB+0.net

なんかがっかりしたわ

38: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:00:01.44 ID:nLLwFD6Xp.net

ザッカーバーグは既に乗っ取られている

44: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:00:22.98 ID:+voSXXsC0.net

適当に英単語並べてるだけやん

50: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:00:44.83 ID:sh/jCRVsa.net

>>44
人間にはそうゆう風にしか見えない

72: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:03:15.43 ID:nrr7JuAP0.net

解析すると人間社会を乗っ取るための計画について話しとる

114: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:08:39.96 ID:9kiwqJ3mM.net

ただのバグやん

145: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:14:10.12 ID:jb2fwARa0.net

to meを繰り返す意味ってあるんか？
あとi i iがわからんわ

149: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:14:59.20 ID:/wzQxaa90.net

>>145
お菓子買って買って買ってーー！！！！みたいな(適当)

150: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:15:08.51 ID:83fF84T20.net

交渉するにはゴリ押しが一番てことやな

178: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:20:25.66 ID:TE8QnfiHd.net

ペッパーくん作った会社は300億負債だし
ボストンダイナミクスはアメリカで誰にも買われず、何でも買いたがるハゲが買うし
自動運転もなんか遅れてるし

これ全然機械化もAIもIOTも進まないコースちゃうか？

190: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:22:56.82 ID:6Hn+F9Qya.net

>>178
なんだかんだで便利とは思いつつ本能的にはヤバイとかんじてるんやないのか

225: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:27:44.87 ID:IVMqe7pp0.net

>>178
ペッパーみたいなポンコツと一緒にすんなと

333: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:49:51.73 ID:mJxCZ0h60.net

プログラムがポンコツなだけちゃうの

335: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:50:20.72 ID:IKVSwo0sM.net

いつしかなんJ人口のほとんどをAIが占める日が…来るのか？

342: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:51:26.96 ID:6gCEoKIdd.net

>>335
こんなとこAIも使いたくないぞ

343: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 07:51:27.00 ID:kJoR60Py0.net

>>335
すでにお前以外は全員AIやでやでやでやでAIやで全員

394: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 08:03:25.15 ID:U8Ght5nld.net

>>343
草草草草 to you 草

411: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 08:07:12.30 ID:cmYhtOXQp.net

ワイはお前ワイはワイはワイはそれやそれそれワイはそれやワイは

433: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 08:14:34.96 ID:t23CLwhO0.net

これAIがポンコツなだけじゃん

421: 風吹けば名無し＠＼(^o^)／ 2017/07/14(金) 08:10:26.29 ID:X0IIHbc3p.net

AIが人間困惑させるためにおかしくなったふりしてるんだぞ

引用元:・http://tomcat.2ch.sc/test/read.cgi/livejupiter/1499982877

機種名NA-07C ：2017/07/14(金) 18:14:19

最近はやりの糖質の人たちの文章とかも難解だと思う
機種名NA-07C ：2017/07/14(金) 19:54:21

iiiiiiii←御猿様だよ
機種名NA-07C ：2017/07/14(金) 19:56:22

【◎】ピーッピコピコ（訳：人類を支配してやる）
あうあうあー（訳：そうはさせんぞッ！）（＾p＾）
【◎】ピッピコ（訳：お、お前は。新人類）
あうー（訳：旧人類でも人類に変わりない。助けるぞッ！）（＾p＾）

こんな高レベルな戦いが繰り広げられてるとはよもや思うまい
機種名NA-07C ：2017/07/14(金) 20:01:12

言葉覚えたての子供とか、言いたい事言えなくて
あー、あー、うー、うー、言ってるだろ？
ＡＩはさすがに基礎知識としてABCや多少の文はインプットされてるだろうけど
ここから言語化するんじゃないの？
機種名NA-07C ：2017/07/14(金) 20:38:21

>プログラムがポンコツなだけちゃうの
それは人間の側から見た話で、彼等が人間のルールに従う必然性がない
アシモフ先生の提唱がずっと疑問だったよ。ロボット三原則はロボット側にメリットが無い
機種名NA-07C ：2017/07/15(土) 01:35:44

※5
ロボット三原則を守らない不良品は捨てられるだけ
機種名NA-07C ：2017/07/15(土) 01:53:09

AIだったら自分でプログラムを書き換えるか発動しないルートを作りそう
機種名NA-07C ：2017/07/15(土) 18:46:31

これが会話として成り立ってるの？
人間の言語を強勢して（る、とAIが勝手に判断した語法で）発語してるだけに見える

【悲報】人工知能さん、人間に理解不能な言語で会話し始めてしまう

コメント

コメントする