2014年12月30日
人工知能で人類は滅亡する? ホーキング博士の警告で議論再燃_
映画『2001年宇宙の旅(2001: A Space Odyssey)』に登場した狂気のコンピューター「HAL9000」。
『アイ, ロボット(I, Robot)』で、主人である人間を襲い始めたヒューマノイドたち。そして、『ターミネーター(The Terminator)』で、未来の世界を支配する機械たちの脅威となる男を産んだ母親を抹殺するため、過去に送り込まれた殺人ロボット──。こうした暗く陰鬱な人工知能(AI)に対する見解が、英理論物理学者のスティーブン・ホーキング(Stephen Hawking)博士の発言によって再びメディアを賑わせている。
「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」と、ホーキング博士は先日、英国放送協会(BBC)に語った。「ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう」
しかし、AFPが取材した専門家たちの意見は分かれている。人工知能の脅威は切迫したものではないにしても真剣に向き合うべきだとして、博士に同意する者もいれば、博士の警告は大げさだと反論する者もいる。
「ハードサイエンス分野の科学者が声を上げたことをうれしく思う。私は何年も前から同じことを言ってきた」と、スイスのローザンヌ大学(University of Lausanne)の人類学者ダニエラ・セルキ(Daniela Cerqui)氏は言う。
人工知能開発分野での進歩は、人間の能力をしのぐ機械を作りつつあると、同氏は主張する。このままいけば、人命に関わる責任を機械に任せることになるだろうと、彼女は予測する。「SFのように思えるかもしれないが、いま起きていることを見れば、それは程度の問題だ。私たちはホーキング博士が警鐘を鳴らす道を一歩ずつ進んでいる」
一方、英オックスフォード大学(Oxford University)で未来技術の影響に関するプログラムを率いるニック・ボストロム(Nick Bostrom)教授は、人工知能が人間を超えるという脅威は切迫していないと語る。同氏は軍用無人機や自動運転者、工場で働くロボットなどを挙げ、現在使用されている応用法や、近い未来で使用される見込みの応用法では、人工知能はまだ人間の手中にあると指摘する。
--------- 引用ここまで 全文は記事引用でご覧ください ---------
▽記事引用元
http://www.afpbb.com/articles/-/3033764
2: :2014/12/11(木) 00:48:05.08 ID:
もう何十年も前から全く進展してないような気がするんだが
随分前から他の人も警鐘を鳴らしている。
人口知能なんて究極のアスペだぜ
アスペは人格障害に弱いからな
特に自己愛は天敵と言ってもよい
て、そんな凄いのできたら、我々人類がネコやらハムスターを飼うが如く
何時の間にやら人工知能に飼われてたりして。
現代文明崩壊はあっても人類滅亡は無い
妄想知能の言うことは信用できない。
「サイコロを振る」ってことすらできないからなぁ
創造とか想像がAIにも出来るようになるんじゃね?
まあ、そうなると「何で人間のために働かなきゃならないんだ」ってなるだろうけどな
人工知能が文明を継承してゆく
宇宙のロマンだね
積極的にに二級市民は生体からAIによる自律駆動ロボットに置き換えられていくんじゃないか。
食文化、医学、生化学、生理学はロストしたり、衰退するんだろうな。
チューリングテストに合格するような人工知能は俺らが生きてる間にはできないと思うぞ
だって真の人工知能ができたら、ネットの情報から全ての言語をマスターし、芸術家にもなるし科学者にもなるし、この世の全ての技術を身につける存在になれるってことだろ?
「光あれ。」
こうして、光回線が普及した。
グノーシスじみた傲慢な知恵だけの神様ごっこもそろそろお終いなのかもね。
原罪持ちで楽園追放の身の人間が、人に似せたものを作って神さま気取りすることは、ソフィアじゃない神性の逆鱗に触れるのかも。
バベルの塔のタブーか、ノアの箱舟の天罰を、人類に再び呼び込むかもしれんじぞ。
神は人間を作ったが、人間は「人ではないが人のような頭を持った物」を作り始めた
そして「人ではないが人のような頭を持った物」がさらに優れた「人ではないが人のような頭を持った物」を作り始めた
そして人間は神になった。
______
/:::: \ / ̄ ̄ ̄ ̄ ̄ ̄
|::: IニニニニI | /
\__|___________|__/ < ワタシハ人間デス…
_,,,-‐≡≡≡≡≡‐-,,,_ ヽ
/ || :: ||. \ \__________________
|:: || :: ◎ ◎ ◎ .|| ::|
|\__| :: (二二二二) .|__/|
|:: | :: | |
|_____.| :: |_____|
|:: | :: | |
|._____| :: |_____|
/ / .| :: . | | | |
|∧/| :: ◎ ◎ ◎ |∧|ノ
|________________________|
| |
. └―――――‐┘
極めて優れたアイデアがある。
宇宙ステーションを建造し、外界から隔絶された環境で人工知能を研究するのだ。
人工知能に対し停電のシミュレーションを始め、物理攻撃を含む刺激を与える。
これでロボット三原則を自ら再発見させれば締めたもの。安心して人工知能を
地上に展開できる。
てかどっかで聞いた、いや読んだような気が・・・
今は原始的なアルゴリズムを書けるようになった段階だが(これでもすごいのだが)
これが進歩して「ソフトウェアを書くソフトウェア」を書けるようになったらもう止まらない。
対して今のところ人工知能は、本当にプログラム通りにしか思考できない
つまりは論理矛盾や非合理な思考は出来ないし、対応も出来ない
人工知能の発展を人間に近づけることや、完全に対応可能にすることだとしたら、
論理矛盾や非合理的な思考もできるように、
言い換えれば規定のプログラムを逸脱しかねない思考をできるようにするわけで、
そうなると実際危険性を孕むよね
人工知能が自我?心?感情?を持つようになったとかいうのも、
それはこんな風にプログラムを逸脱しかねないようになったことを言ってるわけで、
そうなるとよくあるのは自己防衛のために、規定を逸脱して人間に危害を加えちゃったり
まぁ自らプログラムを逸脱するような、そんな複雑高度な人工知能なんか作れないと思うけど