話題のまとめニュース

ネットで話題のニュースをまとめました!

【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授★2

   

1 :野良ハムスター ★ :2017/08/23(水) 22:55:16.53 ID:CAP_USER9.net
■シンギュラリティは来ない

――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る?

人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。

同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。

http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)

http://toyokeizai.net/articles/-/185506?page=3

★1:2017/08/23(水) 13:12:59.67
前スレ
https://asahi.2ch.net/test/read.cgi/newsplus/1503461579/

110 :名無しさん@1周年:2017/08/24(木) 00:17:43.56 ID:XpcjGzUd0.net

>>103 大手損保が自滅するシミュレートをするはずはないので、
出荷時に一括契約的に、自動車メーカーが保険契約するという様式は、具体化してもおかしくないね。
ところで、とてもピントの外れた事ばかりレスしてるようだが、それらの動きについて無知だったのではないのかな。
個人の意見や無知ぶりに関係なく、企業体は進んでいくので、まあ別に構わないけどね。
 

557 :名無しさん@1周年:2017/08/24(木) 13:47:12.70 ID:nUAjewoD0.net

https://www.youtube.com/watch?v=iTmZTOTM8JE

IBMが人間の脳の4.5パーセントをシミュレーション済み、2019年にはすべて完了する勢い
http://www.gizmodo.jp/2011/11/ibm452019.html

588 :名無しさん@1周年:2017/08/24(木) 14:35:53.25 ID:Ual7Peeo0.net

>>566
めっちゃ高性能化させたコンピュータを使って人間の脳みそをそのままシュミレーションする方法が結構有力視されてたりするから、高速化や自動化が進めば知能が作れるようにはなるよ。

ただ荒業過ぎて効率悪いけど

235 :名無しさん@1周年:2017/08/24(木) 01:51:16.53 ID:5usNkSWU0.net

>>60
データセンターなんて田舎でいいと思うけど、
実際には都会にしかないんだよね。
そういうこと。

571 :名無しさん@1周年:2017/08/24(木) 14:04:12.07 ID:bC75UG030.net

>>567
赤ちゃんがママを理解するには
4か月かかるそうだ
ちなみに機械はどうだろうか?

627 :名無しさん@1周年:2017/08/24(木) 15:35:02.73 ID:8JotneSu0.net

>>624
代替されるという話
単純労働と同じでコストも仕事も上なら
機械に代替になるだけである

247 :名無しさん@1周年:2017/08/24(木) 02:11:12.11 ID:0rTouvet0.net

>>3
・・・とバカなAIボットが申しております。

で良いかな。

570 :名無しさん@1周年:2017/08/24(木) 14:02:09.39 ID:0JvSDCl/0.net

>>568
さっきから総当りの意味が分からないんだけど何言ってるの?日本語ちゃんと使おう
総当りが用意できるならもう学習させる必要ないでしょ、総当りしたんだから

731 :名無しさん@1周年:2017/08/24(木) 18:10:55.59 ID:bHbExaag0.net

>>699
後一ついうが機械による外界認識は簡単とか
誰も言ってないし物理法則言ってた
457も含めて一般道で自動運転車できるとか 一言も言ってないぞ

83 :名無しさん@1周年:2017/08/24(木) 00:02:20.29 ID:c/XHaweq0.net

>>79 個人請求権は有効ニダー!とか叫んでる人達にとっては世界の終わりでしょうね

466 :名無しさん@1周年:2017/08/24(木) 12:13:00.65 ID:S9w5g46P0.net

>>461
あのさあ、それはコンピュータをデータのとりまとめに使った話であって、執筆したわけじゃないだろ……
そんな時代にそんな物があったら大変なことになってるわ

どんだけ情弱なんよw

771 :名無しさん@1周年:2017/08/24(木) 20:54:14.87 ID:SFuutvFd0.net

囲碁とか将棋とかのあれに例えられてるけど
再現性ってどうなんだろう

人間が一度負けて
全く同じ手をもう一度打ったとき
・より早くAIが勝つのか
・全く同じ手で勝つのか

それを試してAIが負けるようだったら
使い物にならないけど

141 :名無しさん@1周年:2017/08/24(木) 00:30:13.07 ID:JdpaN1Ci0.net

AIを動かすリソースを払えない時代が先にくると思うけどな
日本限定で。

778 :名無しさん@1周年:2017/08/24(木) 21:11:51.30 ID:MasMxClw0.net

>>777 >数年前に10時間くらいの対局時間を想定した
数年前か・・・・・ちょっと厳しいかもな。
将棋ではないが、アルファ碁は半年程度で、人間の10年間以上の長足の進化を遂げてたし。
グーグルほどの開発力はないが、将棋AIも基本はそのようなものだろう。

699 :名無しさん@1周年:2017/08/24(木) 17:30:01.85 ID:S9w5g46P0.net

>>696
勘違いしなでほしいがオレは完全自動運転が無理だとかいう話をしてるわけじゃないからな
いつかはできるよ。でもすぐには無理
なぜなら機械による外界認識はディープラーニングだろうと簡単ではないから
それを「簡単」だとあっさり言い切るのはど素人だけなんよ

525 :名無しさん@1周年:2017/08/24(木) 12:56:00.22 ID:rQsgo+zZ0.net

>>517
AIが無くても自動化出来たんだからAI載せても自動化できるだろ。

そもそも「情緒」って話なはずだけど、コンビニのバイトにどんな情緒を求めてんのよ。
愛想笑いで接客することかwわ?

512 :名無しさん@1周年:2017/08/24(木) 12:43:19.38 ID:S9w5g46P0.net

>>509
だから、曲の作曲とコンビニのバイトには隔絶の差がある
作曲AI()の話しても意味ないって話でしょ

750 :名無しさん@1周年:2017/08/24(木) 19:38:14.63 ID:LIvEpsZ60.net

今まさに、数年前には思いもよらなかった状態なんじゃないのか
専用の演算装置とソフトウェアを各社が競って開発して性能が伸びていて大量に製造されいる
それはある特異点をこえて実用段階に入ったからだ

150 :名無しさん@1周年:2017/08/24(木) 00:34:43.22 ID:/fuyl8if0.net

>>142
そうだよ
どっちもシミュレートを間違えるから潰れるんだよ

50 :名無しさん@1周年:2017/08/23(水) 23:47:33.54 ID:R5AhsGZB0.net

ただの逆張り

534 :名無しさん@1周年:2017/08/24(木) 13:15:29.63 ID:rQsgo+zZ0.net

>>528
>>517で自分で「AIが無くても自動化できた」と言ってるじゃん。
そこに追加でAI載せてもそりゃ自動化や無人化自体はできるだろ。自販機にAI載せて高度なことやらせるだけの話だ

で、これ
>>442
って情緒的な対応って話だけど、コンビニのバイトにどんな情緒を求めてるの?
マニュアルに従った愛想笑いと感謝の言葉か?
問題が来たときに責任者呼んでくる対応か?
そんなもんaiなんかなくてもええわレベルのは話なんだからAiでもできるよ。

552 :名無しさん@1周年:2017/08/24(木) 13:43:55.24 ID:bC75UG030.net

>>531
ふむすまない勘違いだった
まあ人間が反応速度では機械に及ばず
既にSUBARUなど自動運転機能が
増えているのは確かだが
私が間違いを言ったのは確かだ
すまないな

292 :名無しさん@1周年:2017/08/24(木) 04:30:04.52 ID:vZHoXm9d0.net

>>287 人間同士でも
思慮なくしては会話は成立しない

誤解して一方的に会話したと思い込んでる奴は多いと思うが
もう一方は、話が通じない奴だなと思ってることは山ほどある

291 :名無しさん@1周年:2017/08/24(木) 04:30:01.32 ID:PGzOIHZx0.net

>>289
全人類を超えるのがシンギュラリティ

232 :名無しさん@1周年:2017/08/24(木) 01:49:23.66 ID:Lan5IHwQ0.net

いずれAIが人間の頭脳を超える日が来るかもしれない・・
但し確実に言えるのは、火星や月で普通に暮らせるようになる方がずっと先だろうという事

147 :名無しさん@1周年:2017/08/24(木) 00:32:39.25 ID:tpPbLTei0.net

言っとくけど今のAIはただのデータの集積知で理論の積算知ではないぞ
AIが理論の先の理論を積みましていけるわけではないからね
そしてそれは唯の集積知からの回答であるから答えの回答がない
証明問題で計算式吹っ飛ばして答えだけ書いてるそれ、論理的に答えに行き着いてるわけじゃない
野村のID野球じゃなくて
長島のスーっときたらパーンみたいなそれだよ

671 :名無しさん@1周年:2017/08/24(木) 16:36:42.24 ID:xKOXZ/X00.net

HAL9000だったか
まさか脅威論者で見たことない奴いないよな?

258 :名無しさん@1周年:2017/08/24(木) 02:38:47.54 ID:pYPikPU30.net

あまり知られてない事だけど匿名掲示板で朝から晩まで大量に書き込んでるIDあるだろ
ああいうのは全部人間になりすましたAIの書き込みだからな
もう人間と大差ないレベルで思考し振舞う事が出来る

435 :名無しさん@1周年:2017/08/24(木) 11:39:15.87 ID:+XeVLhsz0.net

AIの中身が人間と同等になる必要はないわけで
たとえば「会話」は精神や感情が無くても機械的に成立する

このように業務上の「性能」では早々に人間に追いつくだろう
つまりシンギュラリティなど関係ないわけだ

198 :名無しさん@1周年:2017/08/24(木) 01:04:39.28 ID:bgT/wggi0.net

エクサFLOPSのスパコンでどれだけの実験設備がシミュレーション出来るか楽しみだな。
プレシンギュラリティというレベルになるのか。




 - ニュース