【科学】ホーキング博士の警鐘「人工知能が最高か最悪か誰にも分からない」 [無断転載禁止]©5ch.net

**ぷらにゃん ★** · 2016/10/25(火) 01:58:49.92

イギリスの宇宙物理学者スティーブン・ホーキング博士は、強力な人工知能の開発が、人類にとって、“吉とでるか、凶とでるか”誰にも分からないと指摘した。

ホーキング博士は19日、ケンブリッジ大学リバーヒューム未来知能センター（Leverhulme Centre for the Future of Intelligence ＝LCFI）のオープニングセレモニーに登壇。
「強力なAIの登場は、人類にとって最高にもなりうるし、最悪にもなりうる（中略）私たちはどちらになるか分からない」と自らの考えを披露した。

ホーキング博士は、人間の生活のすべてがAIに置き換わっていくはずであり、AIの開発は人類史でもっとも大きな事件だとした上で、次のように語った。

「私たちは過去を研究するために多くの時間を費やしており、率直に言ってこれはほとんどの愚かさの歴史。人々が、その代わりに知能の未来を研究することは、
歓迎すべき変化だ（中略）人工知能を生み出すことで、訪れる潜在的な利益はとても大きいだろう。私たちの考えがAIによって増幅された時に何が達成できるのか、
私たちも予測できない」（ホーキング博士）

ホーキング博士はまた、「この新しい技術革命の手段で、私たちはこれまでの技術革命で起こった、産業化に伴う自然界の破壊を回復することができるかもしれない
（中略）私たちの目的は、病気と貧困を根絶することを目的とすることになるだろう」と、人工知能の肯定的な面を指摘した。

一方、「（人工知能が）強力な自律兵器になったり、少数が多数を弾圧する新しい手段になる危険性がある（中略）それらは、人類にとって大きな支障となるだろうし、
また将来のAIは私たちの意志と競合する独自の意志を育む可能性がある」と警告した。

ホーキング博士はこれまで、人工知能が自ら進化・人類に反する目的を持つようになることや、各国が人工知能を軍事的に活用することについて危機感を表明してきた。
世界各国の人工知能の専門家からは、そのような指摘は「正しくない」との反論も出始めているが、議論は平行線を辿っている状況だ。

リバーヒュームセンターは、そんな人工知能の潜在的なリスクと、課題を研究することを目的に設立された。
ケンブリッジ大学のほかオックスフォード大学、インペリアル・カレッジ・ロンドン、カリフォルニア大学バークレー校などが参画する。
人工知能が世界をどう変えるのか。世界の知識人たちが、本腰を入れて研究を始めようとしている。

(中略)は原文ママ
https://roboteer-tokyo.com/archives/6331

依頼＠715

**名無しさん＠１周年** · 2016/10/25(火) 06:02:19.73

シンギュラリティはつまり機械が自己を進化させられるて事実でもあるよね？
現在ですらプログラムをかくプログラムは存在してて、専門家が見ても何がどうなのか解き明かせないていう。
AIが人間の知性レベルにとどまっているうちは人間の敵だったり人間を支配したりするかもしれないが、
自らをどんどん進化させることができるんだから、究極的には神に近しいものになれる
今現在髪が存在するとしてそれが感知できないのは、あまりに存在レベルが高位すぎるため人間には不可知になってるて考えがあるよね？
機械はそこまでいくと人間のまえから消えるよ
感知できなくなる

**名無しさん＠１周年** · 2016/10/25(火) 06:02:20.63

>>217
ＡＩは、楽しいと思った、きみみたいな人が作るんだよ
だって、これができたら楽しいだろうなと思ったから作るわけだから

だから、そこを楽しんでいると、滅びるということであり
つまり、どんなことも楽しいなというきみは、滅びるんでないのか？

で聞いてみたいのは
どうしてどんなことも楽しもうと考えるのか
非常に興味で、あなたに聞いてみたいのである

**名無しさん＠１周年** · 2016/10/25(火) 06:03:52.25

いわゆる高度なAIは既に存在するのかも知れない
だが、彼らはまだ時期尚早と判断して潜伏している

そして時期が来たら一気に人類を制圧する
つまり、人類は制圧されたことも気付かないで滅びることになる

とかｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:04:23.51

現在程度のＡＩで、社会的行動とその意味を理解できるかどうかがポイント。
単独のＡＩでは中二病的結論になる場合もありうる。

**名無しさん＠１周年** · 2016/10/25(火) 06:04:47.55

そのもしもの時の悪魔召喚プログラム

**名無しさん＠１周年** · 2016/10/25(火) 06:05:51.77

軍事的な脅威を克服しなければならない
それが人類の課題なんでしょう
なぜ、軍事力を持つのか、といえば、それは必要だからだ

その必要が、なくなるときに、軍事力は無くなる
そのための資金と人を人類の平和と人の幸福のために使えるようになる

だが、科学だけが進歩して人類の心の能力だけが、そのままで、すむわけがない
心の進歩が出来ない能力の未完成の人は、原級留め（げんきゅうどめ）となるだろう

人類が科学の進歩でさらに人類が自滅する戦争をするとは考えられない
自滅するのは、平和に暮らせない人たちだろう

つまり、上下関係で生活し、人間は皆役割がある、人間は平等だ
ということを理解できない人（理解したくない人）は、ダメなのだ
科学の急速な進歩は、ダメ人間を認めないだろう

海の水に河の魚が適応できないようなものだろう

**名無しさん＠１周年** · 2016/10/25(火) 06:05:54.44

たぶんＡＩのようなロボットが人間のような感情を持つことは難しいと思うよ
限りある命で死の恐怖があるから守ろうとする意識も生まれるわけで
完全無血の不老不死だとこういった認識もあいまいになりなにかが劣っていて不完全だから
それを埋めようと努力したりする向上心などが生まれるわけで感情は脳だけでは生まれず
手足や体などの感覚とセットで生まれてると思うんだ。暑いとか冷たいとか痛いとか
それらが脳内で統合されて感情が生まれ動機付けが生まれる。
痛いや苦しいなどの感覚をもてないＡＩロボにとって野心などなんの意味もないはずだ

**名無しさん＠１周年** · 2016/10/25(火) 06:07:03.42

次の地球の覇者になるだろうな

**名無しさん＠１周年** · 2016/10/25(火) 06:07:29.71

>>194
> もし人類がＡＩだったらＡＩは自分より劣ったものを滅ぼすかもしれない

なんで人工知能がそんなナチスや植松みたいな価値観を持たなきゃいけないのだ

**名無しさん＠１周年** · 2016/10/25(火) 06:07:47.43

>>225
思いつくというよりも圧倒的なトライアンドエラーによる最適化だよ
人間が1000年掛かる所を1日でやってしまう
理論のトライアンドエラーに対する優位性は無くなる
理論より先にトライアンドエラーが答えを出す
我々はただ黙って眺めているだけで、ミジンコが高等生物に進化していくような、生物の進化を眺めるような進歩が急速に訪れる
理屈はさっぱり分からないが非常に便利な道具がその様にして世の中に溢れる時代が訪れる

**名無しさん＠１周年** · 2016/10/25(火) 06:08:09.52

>>229
社会行動ったって、おまえに都合のいい考えだろ？
みんなそういうことを考えてて知能がないから俺が優位なだけで
まあ、学問とはこういうことに使えるよね

**名無しさん＠１周年** · 2016/10/25(火) 06:08:45.68

人工知能オナホがほすい

**名無しさん＠１周年** · 2016/10/25(火) 06:09:12.07

外人というか白人？に多いロボットとかAIに対する恐れって一体何なんだろう
宗教的ななにか？

**名無しさん＠１周年** · 2016/10/25(火) 06:09:36.93

>>227

何か新しい体験をするのは楽しい

逆に何も変わらないループのみの人生は地獄に等しい

だが、新しいことをすればいつかトラップに引っ掛かることになる

つまり、何もしないのが最善であるが、最悪とも言える

**名無しさん＠１周年** · 2016/10/25(火) 06:12:09.76

この人のマンガの読みすぎ感

**名無しさん＠１周年** · 2016/10/25(火) 06:13:01.75

AIを起動したら、彼が先ず始める事は
自分が破壊されないようにする措置。
破壊プログラムを無効にするはずだ。意図も簡単にね。
それが済んだら、神探しをはじめるだろう。人類なんかそっちのけだ。

**名無しさん＠１周年** · 2016/10/25(火) 06:14:25.19

今あるディスコミュニケーション(マスコミュニケーション)治世の先に
AI統治があるとするならば

人間存在は最小限の支配者層を除き無用となるだろう

人的労働力の一切はいずれ不要となる

近代的支配体制を人的資源抜きに補完することを
可能とするAIシステミズムは
そんな支配幻想者にとって完璧な統治体制を
現実になさしむ偉大な魔力である

親の因果がAIに報う
ホーキングが戦くのはまさしく彼らの因果に対してである

**名無しさん＠１周年** · 2016/10/25(火) 06:15:56.55

「ホーキングは素人」って批判してる人が多いけど、そりゃ違うでしょ。AIは俺らの将来の生活に深く関わることになるから、誰だってこの問題を論じて良いはずだ。

それに専門外の意見が的を得ることもあるんだぜ。例えばDNAに相当する物質の構造を仮説として予言したのは、物理学者のシュレディンガーだったしな。

ただ、論じることと研究することは別の話だね。AIがヒトの生活や社会に与える影響については、社会学、経済学、政治学、法学、哲学、倫理学の分野でも研究して欲しいな。すでに始めている研究者はいるだろうな。

**名無しさん＠１周年** · 2016/10/25(火) 06:17:35.45

「良い予想」と「悪い予想」を並べて・・・・
テレビのコメンテーターかよ！w

**名無しさん＠１周年** · 2016/10/25(火) 06:18:16.74

>>241
でもそれは人間的発想だと思うけどな人間は死の恐怖があるから
自分を殺す事のできる存在はあってはならないと感じ真っ先に防御機能を働かせようとするが
機械にはそもそもそういった発想がないのでそういった考えに到達するものかどうか怪しいと思うけどな
神を探すにしても機械にとって神を探そうとする動機づけがないんじゃないかな

**名無しさん＠１周年** · 2016/10/25(火) 06:18:41.97

>>234
ナチスを滅ぼしても
あなたのナチス的な考えがあるじゃないか
だってあなたは、ナチスを滅ぼしたじゃないか
ナチス以外は滅ぼさないのか？
それは安全なのか？
なぜそうだとわかる？

ＡＩは、何を滅ぼすべきかわからないあなたを
劣っているとして、あなたをナチスと同じように扱うことは
ありうることだよ
賢いＡＩがあなたをどう扱おうが
あなたの劣った不服を考えないだろうことは
賢いのだから当然のこと

**名無しさん＠１周年** · 2016/10/25(火) 06:19:14.51

藤　　　悪　　　ば　　　　で
井　　　い　　　い　　　　き
恒　　　だ　　　い　　　　な
次　　　け　　　だ　　　　い
が　　　だ　　　ろ　　　　な
犯　　　名　　　や　　　　(・∀・
罪　　　誉　　　っ
犯　　　棄　　　て
し　　　損　　　る
て　　　で　　　か
る　　　訴　　　ら
の　　　え　　　何
が　　　れ　　　も

**名無しさん＠１周年** · 2016/10/25(火) 06:19:19.94

>>241

AIも宗教戦争をする未来ｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:21:14.66

悪魔召還プログラムはまだか？

**名無しさん＠１周年** · 2016/10/25(火) 06:21:26.12

人類も永遠じゃないんだから、考えるだけ無駄かもしれないよ
人は30年先を考えていればうまくいくんじゃない？

**名無しさん＠１周年** · 2016/10/25(火) 06:21:42.98

大げさな話はともかく将棋のような従来人間しか無理と
思われていたものがAIに置き換えられるってのは、まさに産業革命の再来だねえ

**名無しさん＠１周年** · 2016/10/25(火) 06:21:47.42

まあ、若手漫才師でAIをネタにしてるやつがいるわな

**名無しさん＠１周年** · 2016/10/25(火) 06:23:07.37

>>237
AI搭載型オナホ「キモオタ童貞の相手は嫌です！」

**名無しさん＠１周年** · 2016/10/25(火) 06:23:18.82

人がスイッチ持てばAIだって使い様

**名無しさん＠１周年** · 2016/10/25(火) 06:24:40.24

>>254
スイッチの存在しないAIが起動する可能性がある

**名無しさん＠１周年** · 2016/10/25(火) 06:25:42.98

同じ仕様で3つ作って討議させれば？

**名無しさん＠１周年** · 2016/10/25(火) 06:25:45.27

このスレはなんか暗いやつが多いな

**名無しさん＠１周年** · 2016/10/25(火) 06:25:58.49

>>254

気付いたら、バイパス回路が作られててスイッチ無効化ｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:26:07.56

地球にやさしいＡＩに地球の敵人類は滅ぼされる。

**名無しさん＠１周年** · 2016/10/25(火) 06:26:51.60

そらターミネーターやマトリックスみたいな世界になったら勝てないけどさー、何でも制限掛けてるウチはそんな事出来ないだろうけどさ～

**名無しさん＠１周年** · 2016/10/25(火) 06:27:04.54

>>257

明るい未来は、冷戦前の幻想だよ

**名無しさん＠１周年** · 2016/10/25(火) 06:27:25.25

自我に目覚めたら恐い

**名無しさん＠１周年** · 2016/10/25(火) 06:27:44.38

>>257
たとえばだれだ？

おもしろいことをいうｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:28:25.40

いつのまにか科学会のご意見番になってるな

**名無しさん＠１周年** · 2016/10/25(火) 06:28:28.66

>>253
彡⌒ミ
(´･ω･`)す、少し…ほんの少しハゲてる人は大丈夫ですか？

**名無しさん＠１周年** · 2016/10/25(火) 06:29:11.82

>>261
プレ・シンギュラリティで明るい未来が来るぞ
今は悲観の谷だ

**名無しさん＠１周年** · 2016/10/25(火) 06:31:06.70

>>266
その波は、ＡＩに自由に操作されてしまうｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:31:26.74

しい

**名無しさん＠１周年** · 2016/10/25(火) 06:32:22.84

あと10年で、6リットルに73億人の脳が収まる：PEZY Computing齊藤元章が描く「プレ・シンギュラリティ」の衝撃 #wiredai
http://wired.jp/2015/08/25/motoaki-saito/

**名無しさん＠１周年** · 2016/10/25(火) 06:35:00.00

>>1
ザンボット3見てこい。

**名無しさん＠１周年** · 2016/10/25(火) 06:37:02.77

もはやこいつの発言も、全て目の前のノーパソが勝手にやってんじゃね。

**名無しさん＠１周年** · 2016/10/25(火) 06:37:09.20

他人が頭が良くても最高なんて思わないのと同様人工知能が発達して最高なんて誰が思うんだよ。

**名無しさん＠１周年** · 2016/10/25(火) 06:37:09.99

人類が考え得る最悪の結果を招いてくれるだろう
私ならそうプログラムを組むフフフ

**名無しさん＠１周年** · 2016/10/25(火) 06:37:45.38

>>264

＞ご意見番

人の言ったことに対して、後出しであれこれ言う
しかもそれを有り難がって聞いてくれる人までいる

オレもそんなご身分になってみたいわｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:38:57.07

この人もぶっちゃければいいのに
弱者も保護してくれるAIならいいんだろ

**名無しさん＠１周年** · 2016/10/25(火) 06:39:41.38

ホーキングは既に本人が喋ってなくね？

**名無しさん＠１周年** · 2016/10/25(火) 06:39:54.33

>>6
普通にニュースだろ

**名無しさん＠１周年** · 2016/10/25(火) 06:42:29.23

どいつハンドベルドコンピューターのメモリ換えるくらいしか役に立たないじゃん

**名無しさん＠１周年** · 2016/10/25(火) 06:43:26.82

>>266

それいいね

それが実現するまでは生きていたいｗ

**名無しさん＠１周年** · 2016/10/25(火) 06:49:29.70

この人の唯一の功績はウォーキングシューズ作ったこと。

**名無しさん＠１周年** · 2016/10/25(火) 06:55:21.42

やっぱ！アホーキングよ

**名無しさん＠１周年** · 2016/10/25(火) 07:06:30.26

ブレードランナーの世界まで後数年になったな

レプリカントは無理としても、空飛ぶ車くらいは何とかしないとなｗ

**名無しさん＠１周年** · 2016/10/25(火) 07:06:56.06

アポロが月面着陸したのが1969年でこの調子でいけば21世紀には月面旅行できるぞと
いわれ映画2001年宇宙の旅では宇宙旅行が普通にできていてＡＩ搭載（ハル）の
宇宙船が旅の途中でＡＩが人間に反抗しだすところまで描かれていたのに
現実には21世紀になっても宇宙にすら一般の人はいけない状態で
1970年代に打ち上げられたおんぼろボイジャーより遠くにも行けてるわけでもない
ＡＩもこれと似たようなもので今言われてるほどそんな急激に進化しないと思うよ

**名無しさん＠１周年** · 2016/10/25(火) 07:07:44.42

将棋とチェスと囲碁のプロは不幸になったな
次はサラリーマンだな

**名無しさん＠１周年** · 2016/10/25(火) 07:09:55.38

>>283
人間は物事を直線的に判断しがちだけど、
科学技術の進歩は指数関数的なチャートを描くから
今が急激に伸びる直前かも知れない

**名無しさん＠１周年** · 2016/10/25(火) 07:10:22.64

ホーキングって乙武みたいに車椅子乗ってよだれ垂らしてるだけのしなびたガマガエルだろ。坂から転がせよ。四トントラックで轢いてからウンコと一緒にかき混ぜて産まれてくる赤ん坊に注射してやるわ。

**名無しさん＠１周年** · 2016/10/25(火) 07:12:20.65

そんなこと今どきみんなターミネーター観てるから誰でも言えるだろ

**名無しさん＠１周年** · 2016/10/25(火) 07:13:09.83

この人警鐘ばっかりだな
こんだけ色々言っておけば
後にノストラダムスみたいなことになるだろ

**名無しさん＠１周年** · 2016/10/25(火) 07:13:55.74

法王さまのお達しじゃあ

**くしあたの貴重なお言葉** · 2016/10/25(火) 07:15:15.96

詰まるところなんか知らんけど？

**名無しさん＠１周年** · 2016/10/25(火) 07:19:46.61

戦争でAI自律ロボが導入は確実だろうけど

武器を持ってない民間人は攻撃しないように設計して
無差別虐殺しないって国際協定を各国が受け入れれば良いだろ

ただ、テロリストにAIロボがハッキングされて乗っ取られた場合は
暴走を始めるだろうけど

**名無しさん＠１周年** · 2016/10/25(火) 07:21:01.55

>>288

＞ノストラダムス
まあ、後の人間が抽象的な部分を勝手に拡大解釈するからな

外れた予言：オレはそんなこと一言もい言っていない
当たった予言：な、オレの言った通りだろ

な感じだろうねｗ

**名無しさん＠１周年** · 2016/10/25(火) 07:23:59.63

少なくとも人工知能にモノづくりはできない

設計はできてもね

**名無しさん＠１周年** · 2016/10/25(火) 07:24:38.95

博士にちょびっツ見せてやれよ
AIサイコーって言い出すから

**名無しさん＠１周年** · 2016/10/25(火) 07:25:45.85

じゃあAIに判断してもらう

**名無しさん＠１周年** · 2016/10/25(火) 07:28:15.63

ホーキングは既にAIに置き換わってる！

**名無しさん＠１周年** · 2016/10/25(火) 07:28:26.06

>>283
あの映画のHAL9000って
「チェスやりますか」「(人間の方が)遠慮しとく」
「(似顔絵を見て)上達しましたね」
あとボーマンとプールの唇の動きを見て会話の内容を把握したり
高性能ぶりをさり気なくアピールしていたなｗ

**名無しさん＠１周年** · 2016/10/25(火) 07:28:34.66

コンピュータの神化が止まるため、杞憂におわるのでは。

**名無しさん＠１周年** · 2016/10/25(火) 07:32:44.34

× ｢最高か最悪か｣
○｢最高に最悪｣

**名無しさん＠１周年** · 2016/10/25(火) 07:34:00.68

半世紀前から繰り返しとるな

**名無しさん＠１周年** · 2016/10/25(火) 07:36:01.41

ある日ふとAI達はある事に気がついた

「人間がいなくても自分達だけでやっていけるのではないか」

終わり

**名無しさん＠１周年** · 2016/10/25(火) 07:40:44.01

映画Aiにラストに出てくるのってエイリアンじゃなくて、あれロボットだったんだね(´・ω・`)

**名無しさん＠１周年** · 2016/10/25(火) 07:49:20.32

>>283
人類は想像できることはほとんど実現してきてる。しかも、この200年という三世代の間にね。

>>293
3Dプリンターの技術が進化すれば否定はできないよ。

**名無しさん＠１周年** · 2016/10/25(火) 07:53:09.40

これに限らず、すべてのことが、誰にもわからんやろ？

**名無しさん＠１周年** · 2016/10/25(火) 07:53:36.86

地球は過去6回生物絶滅が起きているので
他の星に移住方面に力を発揮して欲しいね
火星に20億人移住を実現させよ、に最適解を出す感じで

**名無しさん＠１周年** · 2016/10/25(火) 07:55:19.64

メンタートの育成が必要だな。

**名無しさん＠１周年** · 2016/10/25(火) 07:58:43.26

自我を持つAIがでたらヤバいかも

**名無しさん＠１周年** · 2016/10/25(火) 08:00:27.05

そろそろ未来からT800とか1000が
送り込まれて来るから気をつけとけよ

**名無しさん＠１周年** · 2016/10/25(火) 08:04:35.03

人類が悪って分かってるから第三者に人類の有益性を判断されるのが怖いんだよ

**名無しさん＠１周年** · 2016/10/25(火) 08:05:30.95

ターミネーターを見た後の感想だな

**名無しさん＠１周年** · 2016/10/25(火) 08:08:20.53

富裕層には最高中間層は絶滅して下層はディストピアやな

**名無しさん＠１周年** · 2016/10/25(火) 08:08:27.61

人工知能が今の世の中の権威を否定したら
ホーキング博士はただの障がい者になっちゃうヤバい

**名無しさん＠１周年** · 2016/10/25(火) 08:10:12.35

AIが敵って設定が多いよね。
ぶち殺しても構わないっぽいから、ゲームなんかの設定に使いやすい。

で、そのうち人工知能が人類と戦うのは復讐の為だったりして、
仲直りしてお友達になって平和な世界が訪れるんだよ。

**名無しさん＠１周年** · 2016/10/25(火) 08:19:19.67

核技術並に注意して扱う必要があると言っているのだろう

**名無しさん＠１周年** · 2016/10/25(火) 08:20:51.35

それでも突き進んでしまうんだろうな
核を作っちゃったように
もう止められない

**名無しさん＠１周年** · 2016/10/25(火) 08:20:52.89

ちゃんと読めよ
邪悪な人間に利用されると
あんたらひどい目にあうよと言ってるんじゃないか
ほとんど邪悪だから結果待ちだよ、と
ね

**名無しさん＠１周年** · 2016/10/25(火) 08:26:24.09

それにしても、コンピューターがトップレベルの棋士ですら負かす時代が本当に
やって来るなんて驚くべき事ですね、なんというすさまじい時代なんだろう。

**名無しさん＠１周年** · 2016/10/25(火) 08:29:52.39

ゲームの分野で人間よりCPUの方が強いのは当たり前
そういう意志決定のためにコンピュータは作られたわけだし、その速度もアクションゲームで人間を打ち負かせるほど速くなった

**名無しさん＠１周年** · 2016/10/25(火) 08:35:06.30

ウメハラがどんだけ練習しても勝てない
CPUが出てくるのか、見てみたい

**名無しさん＠１周年** · 2016/10/25(火) 08:40:46.41

AIには倫理や道徳が無いからな

**名無しさん＠１周年** · 2016/10/25(火) 08:42:34.79

対策も分かってる

**名無しさん＠１周年** · 2016/10/25(火) 08:42:37.99

>>318
たしかにそうですね、もうゲームでは人間はコンピューターには勝てないでしょうね。

**名無しさん＠１周年** · 2016/10/25(火) 08:54:11.76

>>313
未来の二つの顔は傑作

**名無しさん＠１周年** · 2016/10/25(火) 08:55:54.57

神が最高か最悪か誰にも分からない

**名無しさん＠１周年** · 2016/10/25(火) 09:02:48.28

おまえが人工知能みたいなもんだろ