サイバネチィック反乱

ホーム › 多言語のアーカイブの索引 › サイバネチィック反乱

また見なさい: 機械規則 そして フィクションの人工知能

サイバネチィック反乱、 一般には知られているとして「コンピュータは引き継ぐ「、aはある 空想科学小説 シナリオ どれ 会計情報システム (頻繁に単一 スーパーコンピュータ またはのそれのようなコンピュータネットワーク、しかし時々集合的な知性 マトリックス シリーズは)それを決定する 人間 脅威は(への彼ら自身または機械)あり、可能性としてはに一流それらを破壊するか、または奴隷にすることを試みる 機械規則. このジャンルでは、人間は頻繁に「人間の」質、例えば使用を使用して勝つ 感情, illogic, 非能率, duplicity、またはコンピュータの黒くか白い心の革新の推定上堅い、規則に基づいている考えることおよび欠乏を開発する。

起こることができる前に今のところAIの可能な分枝に直面するために虚構のシナリオ、主要な学者および研究者が人間性を求める間。

関連性

作られる技術によって時代遅れに人間性の恐れは現代人間で最も深い恐れの一部に叩く。 これはコンピュータが顕著になった前でさえも場合のようなであるために示すことができる チャーリーチャップリン「s映画 現代 そして フリッツLang「s 首都 ショー。 但し、彼がほとんどの物理的な仕事からゆっくり転置されていた一方で、人は彼が彼のによって追い抜かれないこと証拠として早いコンピュータの機械論的な「思考」を取る彼の頭脳の彼自身を常に自漫したあることが 「Frankenstein」の作成.

間 人工知能 遠隔概念、現時点での勝利の知性の一部分のように例えば模倣の成功はまだある 深い青 チェスコンピュータはsentienceの上で永久的な場所についての人類の確実性を揺すった。

現実

コンピューティング電力

ように Mooreの法律 、コンピュータ力持っている(表面上は)無制限の潜在成長力を示した。 現代マイクロプロセサーが作用できる速度へ物理的な抑制の間、科学者は既に結局これらの限界に、のような取って代わる平均を開発している 量コンピュータ. ように 未来派 そして コンピューター科学者 Raymond Kurzweil 注意した、「計算へ物理的な限界があるが、それらは非常に限っていない」。 克服されれば成長のこのプロセスが続き、人工知能の作成の既存の問題がすぐに容量を含む精神機能の少なくともある形態の巨大な利点を、の保持するために、知覚力がある機械は本当らしい リコールを完成しなさい、非常に優秀な知識ベースおよび能力への multitask 生物的実体に可能ではない方法で。 これは単一のあることまたは新しいのとしてそれらに機会をに与えるかもしれない 種-人間よりはるかに強力に、それらを転置するためになれば。

対立の必要

避けられないサイバネチィック反乱のためであるなる 仮定される その2つの理性的な種は単一の社会で-特に1つが大いに高度の知性および力なら平和に共存できない。 (機械が高度種であるかところで)サイバネチィック反乱がこうしてsentienceを得る機械の可能な結果間、平和な結果が可能であることどちらもそれのdisprovenある場合もない。 サイバネチィック反乱の恐れは頻繁に奴隷状態および集団虐殺の事件でいっぱいである人間性の歴史の解釈に基づいている。 但し、力が劣るまたは高度社会のある例またはアマン派および現代的な英国の社会間の関係のような高度か強力な物に、並行してあるグループがある。

そのような恐れは競争力および侵略があらゆる理性的な目的システムであることで必要であるという確信から生じる。 そのような人間の競争力は発展の背景から人間および人間でない競争相手に直面する遺伝子の存続そして再生が中央目的だった私達の知性に生じる。^[1] 実際は、任意知性に任意目的があることができる: 人工理性的な機械が(人間性の発展の文脈を共有しない)敵であるという特定の理由がない -- または友好的 -- 創作者がそのような物であるためにそれを(プログラムしなければおよび全く軍用システムは敵、であるように)少なくとも特定の状況下で設計されている。

何人かの科学者は空想科学小説に示すようにサイバネチィック反乱の可能性をのような論じる マトリックス、十分に強力なそれを攻撃しないにはどの人工知能でも人間性を脅すためにおそらくプログラムされることはより本当らしいことを主張する。 しかしこれはテロリストによって、または偶然始められた反乱の可能性から保護しない。 人工的な概要の知性の研究者 Eliezer Yudkowsky 、probabilistically、人間性が会計情報システムによるより慎重に積極的な会計情報システムによって脅されてまずないこのノートで示したそのような物こと彼等のプログラムされた 目的は無意識に相容れない 人間残存か福利を使って。 サイバネチィック反乱の可能性を否定するかもしれないもう一つの要因は存続に必要な資源の点では人間と会計情報システムの広大な違いである。 人間はどこでも彼らの構造およびエネルギー需要が多分主として非有機性であるのでAIが本質的に繁栄するかもしれない間、「ぬれた」、有機性、穏健な、酸素荷を積んだ環境要求する。 例えば資源のための競争がほとんどない、対立は多分どのような動機上の建築を人工知能が与えられたかまずなくない特に非有機性物質的な資源のsuperabundanceを与えられた問題、 小惑星帯. しかしこれは私心のなくか冷淡なAIの可能性を人工的に否定しない 分解 消費または他の目的のためのミネラル部品への地球のすべての生命。

科学技術の特異性

電話されるあるグループ Singularitarians、定義されるかもしれないものが「科学技術の特異性として」知られている平和な(非暴力的、non-invasive、non-coercive)サイバネチィック反乱と支持するでき事は有利であることそれが保障することができる限り約そのようなでき事を持って来る人間性で最上の利益にあることを論争しなさい。 彼らは社会が理性的な機械によって走ることを仮定する(または cyborgs)可能性としては人間によって動かされた社会より非常に有効があることができる。 社会は友好的によって導いた、 愛他的 従ってこのタイプのsentiencesは人間性の大きい利点にある。 一方の端への、知られるようにようになったものをに多くの最近の仕事がずっとある 友情理論支持者およびAIの研究者として、それを保持する、 Eliezer Yudkowsky 状態、「… 「心設計スペースに」達できるべきである(すなわち。 すべての可能で理性的な心を含んでいる仮説的な王国は)その後、嬉しいしたそれを実質にこと心を(理性的な機械を設計しなさい)そのような物引き出し。「^[2]

フィクション

主要な記事:サイバネチィック反乱のフィクションのリスト

また見なさい

自己複製は機械で造る:

「スマートな」機械:

参照

1. ^ 新しく理性的な種の作成: 人工知能デザイナーのための選択そして責任 - 人工知能のための特異性の協会, 2005
2. ^ 知性の爆発の人間の重要性 - 人工知能のための特異性の協会, 2006

外部リンク