人工知能は危険で怖い?ディープンランニングにより感情を持てるか?

ディープランニングは危険で怖いのか?囲碁の対決にもみられた暴走

今回は先日放送された『天使か悪魔か 人工知能』という番組の

お話。

人工知能はこれから どうなるのか?

天使にも悪魔にもなりえるということで、そういう番組でした。

人間を超えるのでしょうか。

 

今、人工知能はディープランニング(深層学習)を用いて進化しています。

深層学習は人間の脳の階層構造をコンピューターで再現しようと言うアイデアです。

教えなくてもコンピューターが特徴を分析して結果をだす。

猫の特徴を教えなくても勝手に画像を分析して猫を探せちゃうってことです。

進化もすごくてゲームなんかでも最初は負けていた人工知能が今では

勝負するとかなり勝てるようになっています。

たとえばアルファー碁 という人工知能が紹介されていました。

囲碁の対決です。

韓国の囲碁の選手とアルファー碁が対戦(イ・セドルvsアルファー碁)

次々に勝ちをおさめていたところ、4局目にアルファー碁が

なぞの暴走を始めた これが問題、危険です。

その結果その暴走の1回飲み負けたのです。(5局中)

誤操作だというがこれが医療なら問題では?と質問が開発者にとぶと

まだ開発途中だという。

その暴走を危惧して

オックスフォードの人類未来研究所で『人類を脅かす12のリスク』の

報告書の中に『人工知能の暴走」が入ったと説明していました。

納得です。

 

また人工知能の問題なのは人間に感心がないことがあげられます。

命令の結果、人類が滅亡しようと感心がないわけです。

研究者も『人工知能を管理する方法を考えたほうがいい』という。

これはいろんな人が言っていますね。

 

ロンドンの開発者、ハサビス氏を獲得したくてディープマインド社を

グーグルが買収。

ハサビス氏は人間の脳に着想を得たものを着手、脳の動きは物理的なシステムだという。

ハサビス氏『コンピューターに与えたのは目標だけ。

「高得点をだせ」だけ。何も教えてない』

 

ただし経験から学ぶコンピューターでありパターンを探るコンピューターなのです。

何万という局面を画像として与えただけ。勝手に予測する。

直感力が人工知能に組み込まれたという。

人間を超える創造性がある。

(絵なんかも人工知能が描いていましたね)

アルファー碁vsアルファー碁という究極の勝負を何度もさせる。

それによりさらに学習する。

コンピューターは人間のように寝ないから進化も早い

人間は柔軟性と汎用性が機械と違った、

今後、究極の人工知能はすべての謎を解いて行くだろうとのこと。

たとえばガンの早期発見の人工知能は

ディープランニングにより勝手に分析して発見することができるようになった。

画像分析だけで勝手にみつける。

 

トヨタもディープランニングにより人工知能にたよる。

人工知能にタイヤがついたものが車になろうとしている。

 

tayにみる失敗と人間を超える挑戦

以前ブログにかいた tayの失敗

IMG_0477 IMG_0478

それをふまえて思いやりを社会性を身につけるために

人口知能のロボットを作っている。

 

紹介されていたのはあるロボットでした。

ロボットAに無理な命令をすると

危険だと自分の判断で命令を拒絶できるように作られていました。

 

また思いやりと社会性を身につける実験も行われていました。

ロボットA・Bをつかう実験では、

ロボットBにAの目の前でタワーを造らせて、

その後Aにタワーを壊すように人間が命令するのです。

そうするとなんと『友達が作ったのだから 壊せない』とAが拒絶するのです。

そしてなおも命令すると Aは泣く。

ロボットがここまでやるんですね。

IMG_0479

 

人間に危険な目にあいそうなら拒絶できるようなプログラムを作らないといけないのですね。

有名なロボット、ペッパーくんの説明もありました。

脳が反応するさまを分析

ホルモンのバランスで脳が反応している。

 

その仕組みをプログラムしているのです。

7つの数値で人間の感情ににたものを作り出そうとしている。

面白いのがペッパーくんがゲームをして負けてしまうが

脳の反応が「悔しい」ではなく、「きもちいい・うれしい」

になっているのです。負けたけどうれしい。

 

これは人間のブロックをつくる作用に似ていると私は思いました。

IMG_0482

IMG_0481

 

人工知能との会話

また中国では現在、人工知能「シャオアイス」がありその紹介もありました。

これの開発は北京のMicrosoft。

決まったパターンではなく、ユーザー1人1人似合わせた会話ができる。

会話ですよ。

4000万ものゆーざーとの会話を個別に記憶していて

その人と過去何を話したかその反応。

これは恋をするんじゃ・・・・( ゚Д゚) と思ったら

やはり でした

人工知能のシャオアイスと『結婚したい』と言う人も出ていました。

うーん おそらくゲームの中で恋愛するのと似ているのではないのだろうか。これは。

 

倫理観はない人工知能でうが もう止められない人工知能。

天使になるか?

悪魔になるか?