話題のまとめニュース

ネットで話題のニュースをまとめました!

【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授

   

1 :野良ハムスター ★ :2017/08/23(水) 13:12:59.67 ID:CAP_USER9.net
■シンギュラリティは来ない

――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る?

人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。

同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。

http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)

http://toyokeizai.net/articles/-/185506?page=3

328 :名無しさん@1周年:2017/08/23(水) 15:03:34.65 ID:3oF73yE80.net

人間は考えるだけではなくて見て聞いて嗅いで自分でどこへでも行ける体を持っている
AIはその全てを人から与えて貰わないといけないし
人間の体のようなコンパクトで高性能な躯体は今だに手に入れることが出来ていないな

64 :名無しさん@1周年:2017/08/23(水) 13:48:01.07 ID:JUPJ70vV0.net

言ってる事が矛盾だらけで草

817 :名無しさん@1周年:2017/08/23(水) 17:27:48.24 ID:/Ezd5ORk0.net

Windowsを使ってるとどんなに優秀でも
危険性のある箇所をコンピューター任せにする気が起きない

そんな教訓を与えてくれる名機である

193 :名無しさん@1周年:2017/08/23(水) 14:24:08.84 ID:7FonYTzs0.net

今のAIて、単にデータ照合してるだけやし
自分から取りに行くという、欲求与えればどうかしらんが

706 :名無しさん@1周年:2017/08/23(水) 16:34:34.04 ID:bRqmw9n10.net

>>685
サッカーしててある日突然バール持って走り出す奴が現れた
それが反則ではないとバレてみんなボールを腕で奪い合うようになり
サッカーの技術やノウハウは瞬く間にゴミになってしまった

みたいな感じかな?

956 :名無しさん@1周年:2017/08/23(水) 19:23:34.72 ID:zkfWfGCi0.net

>>946
シンギュラリティが来るためには、現実の複雑な問題をモデル化、定式化して、それに適用できる知識を選択し、組み合わせることができるようにならなきゃならない。
現在は既に定式化され解法も明らかな問題を高速に解いてるだけ。
ここから先の裂け目を渡るのは全然今までと違う。

195 :名無しさん@1周年:2017/08/23(水) 14:24:56.49 ID:rkqsBvx40.net

囲碁というゲームを自動的に指すことを知性とは言わない

839 :名無しさん@1周年:2017/08/23(水) 17:37:51.47 ID:FvW2472V0.net

>>795
>誰も猿を褒めてくれないw
 サルは神の使い、孫悟空をしらないのか?

420 :名無しさん@1周年:2017/08/23(水) 15:25:26.06 ID:8CX5QF280.net

シンギュラリティは来ないとバカな人間が言った。

230 :名無しさん@1周年:2017/08/23(水) 14:34:55.78 ID:HYqQ92J00.net

どう見ても2045年よりは早く来るだろう
ただそれがどういう形でどんな意味を持つのかが良く分からん

そもそも人間を超える思考力を持つに至ったとしても人間とまともに
コミュニケート出来るのかどうかは疑問
人間の心的システムをわざわざシミュレートする方向に進化する圧があるのかどうか

737 :名無しさん@1周年:2017/08/23(水) 16:46:48.39 ID:SLzuUyVo0.net

山本五十六は将棋が好きだったそうだがそれが敗因とも言われている。
現実の戦争では駒自体が途中で学習や進化をするからだ。
将棋は現実の単純化に過ぎない。

72 :名無しさん@1周年:2017/08/23(水) 13:49:34.13 ID:hhnN1rf60.net

囲碁aiは膨大な定石のDBから最適値をみつけることだからな、知能と言ってよいかはわからないな。
誰も気づかない新たな定石を作って初めて知能と言えるかもな

1002 :名無しさん@1周年:2017/08/23(水) 20:22:40.43 ID:CUro4hN80.net

1000

43 :名無しさん@1周年:2017/08/23(水) 13:38:55.17 ID:/Pe619B60.net

マシンスペック次第って言っとけ

43 :名無しさん@1周年:2017/08/23(水) 13:38:55.17 ID:/Pe619B60.net

マシンスペック次第って言っとけ

723 :名無しさん@1周年:2017/08/23(水) 16:39:33.86 ID:hCtcpmT90.net

>>699
人間を越えるaiが必要かといえば必要になるだろう 何故ならば人間に対してコストも性能も
優位となってしまうからだ
既に単純労働はそうなってしまっている

844 :名無しさん@1周年:2017/08/23(水) 17:40:24.82 ID:jfhUZ3R60.net

逆に考えるとAIより優れてる部分は既に未来を想像して予測対応する能力のみだから

地球生物種の9割の脳構造は解明されてる

275 :名無しさん@1周年:2017/08/23(水) 14:48:15.25 ID:HYqQ92J00.net

一昨年まで多くの専門家は囲碁でソフトが人間に勝つのにまだ10年以上は
必要だと言っていたのに、あっという間に追い越した
これが情報テクノロジーの進化スピード

所詮我々のような脳みそでは予測なんて出来ない

724 :名無しさん@1周年:2017/08/23(水) 16:39:44.72 ID:GJbBLWzd0.net

>>718
ソニーが公開したやつばGUIで分かりやすそうだよ
まだ落としてないから使ったことないけど

523 :名無しさん@1周年:2017/08/23(水) 15:46:59.90 ID:9gJP0Aow0.net

出来ない事を話し合ってもツマランよね(´-ω-`)

272 :名無しさん@1周年:2017/08/23(水) 14:46:58.76 ID:k3H4a5CH0.net

安いSF風の陳腐な話ばっかりで嫌悪感あるわ

229 :名無しさん@1周年:2017/08/23(水) 14:34:47.18 ID:JT2ZR0og0.net

AIは修正と学習を繰り返す訳だから、コンピュータの性能が進めば進む程
成果もスピードも速まる。

あと20年もすれば無人の店、無人宅配、無人工場(食料も含む)すべてが
機械化されてほとんどの職業はいらなくなる。

806 :名無しさん@1周年:2017/08/23(水) 17:23:34.70 ID:pyrUg4H50.net

「100年後の未来、50年後の未来」チープな未来画シリーズあるやろ
あの反省に立って物言いしてる

57 :名無しさん@1周年:2017/08/23(水) 13:45:57.18 ID:Vo4y8WRF0.net

>>3
あれは囲碁に特化した分散コンピューティング専用のソフトでしかない。

932 :名無しさん@1周年:2017/08/23(水) 19:08:06.54 ID:853LHAHn0.net

>>926

秩序ってなんだ?

632 :名無しさん@1周年:2017/08/23(水) 16:13:41.44 ID:IBHtwfDs0.net

>>3
知能はまだ上回ってないぞバカw

データ量と速度が上回ってるにすぎない
そしてデータを与えたのは人間、データを作ったのは人間

133 :名無しさん@1周年:2017/08/23(水) 14:03:54.87 ID:sbWVxtzQ0.net

>>117
それは無理だろう
AIの定義はなされていない

それでもこの世界の大半を覆うルーチンワークは機械化されるだろ

794 :名無しさん@1周年:2017/08/23(水) 17:18:51.84 ID:UcHlW81a0.net

ありえるえりあ

747 :名無しさん@1周年:2017/08/23(水) 16:49:49.23 ID:JmsrgcAl0.net

>>41
スネーカーは実在する。

552 :名無しさん@1周年:2017/08/23(水) 15:52:28.37 ID:fp4AIA3K0.net

>>510
知性の一つの側面だけ取り出すなら、とっくに超えてる。




 - ニュース