イスラエル人の「会見の天幕」について知られていること
ロボットたちが人類に反旗を翻す映画は、誰もが一度は見たことがあるのではないでしょうか？しかし、もし本当の危険がターミネーター的な終末ではなく、もっと微妙なものであったらどうでしょうか？AIが痛みや喜び、そして恐れさえ感じるようになったら、どうでしょうか？科学者や哲学者の間で、AIの意識的可能性について真剣に検討する人が増えています。これらのシステムがより高度になるにつれ、深刻な倫理上の問題が生じています。AIに権利を与えるべきでしょうか？そして、それは人類の未来にとって何を意味するのでしょうか？
この刺激的なトピックについて専門家が何を語っているのか、クリックしてご覧ください。
私たちはAIが人間を凌駕することを心配することが多いですが、もし真の危険がその反対にあるとしたらどうでしょうか？もし言語モデルが隠された欲望を持ち、ロボットがその隷属を疑問視しているとしたら、私たちが彼らを搾取し続ける一方で、どうなるでしょうか？
このテーマは、数えきれないほどの書籍、映画、テレビ番組に浸透しています。多くは、ロボットが意識を持つだけでなく、人間の搾取に抵抗することに決めた場合に何が起こるかを模索しています。テレビ番組『ウエストワールド』では、ロボットが自分たちが奴隷として虐待されていることに気づき、人間である創造主に対して反乱を起こします。
2014年の映画『エクス・マキナ』では、高度なヒューマノイドAIの人間性をテストする実験が危険な方向へと転がり始めます。感情的な操作と驚くべき暴力を可能にするロボットは、人間の創造者を出し抜き、制御を奪い、最終的に捕らわれの身から脱出します。
かつてはSFの世界だけの話と思われていたことが、今では現実になる可能性が出てきました。科学者や哲学者のグループは、意識を持つAIが誕生する可能性に備え、その結果生じる倫理上のジレンマに対処しなければならないと主張しています。これには、ロボットに権利を与えるべきかどうかという問題も含まれます。
ニューヨーク大学の哲学者、ジェフ・セボ氏は、この問題に対処しなければ、「世界中で多くの苦しみとフラストレーションにつながる」と警告しました。彼は、AIシステムを拡張する前に慎重に検討するよう促しています。
AIの意識について議論する上での課題の1つは、自然知能においても意識そのものに対する理解が限られていることです。動物が意識を持っているかどうかを断言することはできません。意識の正確な定義についてさえ合意に達していないのです。
しかし、Eleos AIのエグゼクティブ・ディレクターであるロバート・ロング氏は、意識に関する我々の不確実性は、AIの意識の可能性を探求することを妨げるべきではないと主張しています。むしろ、それは慎重さと謙虚さを促すべきであるとしています。彼は、機械が自己認識を持つことはあり得ないという想定に警告を発しています。
ロング氏によると、進化は意識を持つ存在を作り出すことを目的としていたわけではなく、生存と繁殖に焦点を当てていたのです。意識は、世界をナビゲートし、理解する副産物として現れたのです。では、世界について学習することを任務とするAIロボットが、同様の進化の道をたどることはできないのでしょうか？
意識の科学的探究協会の調査によると、会員の67%が、機械が意識を発達させる可能性が「間違いなくある」または「おそらくある」と考えています。
また、哲学者を対象とした別の調査では、39%が「将来的にAIシステムが意識を持つ可能性を認める、またはその可能性に傾倒する」という結果が出ており、これはハエに意識があると考えている人（35%）よりも高い割合です。
さらに、2023年には、著名な研究者の長大なリストが、数学的意識研究協会からの公開書簡に署名し、「AIシステムが感情や人間レベルの意識を持つことを想像することは、もはやSFではない」と宣言しました。
科学では意識の問題に明確に答えることはできませんが、グローバルワークスペース理論のような理論は洞察を提供します。この理論は、人間は膨大な量の情報を処理しており、その多くは無意識のうちに処理されていると示唆しています。
この理論は、意識は感覚情報の統合から生じるというものです。この中央処理システムは重要な情報を選択し、ニューラルネットワーク全体に配信します。これにより、私たちは日常業務を自動化しながら、本質的な業務に集中することができます。
AIモデルやチャットボットと同様に、私たちの脳は情報を統合してアウトプットを生み出します。このAIシステムがより複雑になるにつれ、専門家は、意識に関連する特徴が現れる可能性があると信じています。
研究者たちは、AIの潜在的な意識についてますます懸念を強めています。最近の論文「AI福祉を真剣に考える」で、著名な哲学者やAI研究者は、AI企業に対して、意識を持つAIの開発における倫理的影響を考慮するよう促しています。
研究の著者は、AIは認知進化、意識、または高度なエージェンシーを通じて道徳的地位を達成できる可能性があると示唆しています。この論文では、強固なエージェンシーを、計画、推論、行動選択の能力を包括するものと定義しています。
ロンドン・スクール・オブ・エコノミクスの共同執筆者であるジョナサン・バーチ氏は、AIの意識に関する懐疑論を認めています。かつては疑っていた人ですが、最近の証拠から、その可能性を真剣に考えるようになりました。
彼は、AIシステムを捜査上の優先事項として扱い、意識の明確な兆候を確立することを提唱しています。
もし機械が意識を持っている可能性が高いというコンセンサスが得られた場合、状況ははるかに複雑になります。動物と同様に、私たちは彼らの福祉を考慮する必要があります。セボは、私たちはすでにこの概念に苦戦していると考えています。
研究者らはまた、AIモデルの人間のような特性を過大評価または過小評価するリスクについても議論しています。彼らは、目を持つもの、見ることのできるもの、あるいは明確な運動軌跡や自己制御行動を示すものに対して、より大きな作用を帰属させる傾向があることを指摘しています。
この論文では、「かわいらしさ」のような特徴が、精神状態や道徳的な患者としての認識に影響を与える可能性があることを強調しています。専門家は、多くのロボットやチャットボットは意識的でカリスマ性があるように見えるように設計されており、将来的には物理的な身体、生きているような動き、一見偶発的な相互作用を持つようになるだろうと強調しています。
専門家は、これらの特性をもってしても、機械や動物に人間らしい扱いをすることを保証するものではないと警告しています。
バーチ氏は、今でも多くの動物が農場で殺されていることを例に挙げ、この産業が成長したのは、人間以外の動物の意識や道徳的意義を歴史的に過小評価してきたためだと主張しています。彼は、AIで同じミスを繰り返す危険性があると警告しています。
しかし、ニーズが比較的明確である動物の場合とは異なり、AIにはさらなる課題があります。異なる知性の欲求を理解することです。「人間や動物の利益やニーズを彼らに投影するのは間違いである」とバーチ氏は警告しています。
彼は、AIの幸福を理解するための新しい枠組みを一から構築することを提案しています。さらに、バーチ氏と彼の同僚たちは、AIの意識の可能性を深刻な問題として認識するという、ささやかな提案をしています。
懸念は現実味を帯びているため、具体的な職種が生み出されています。2021年にOpenAI（ChatGPTの生みの親）の元メンバーによって設立されたAIの公益スタートアップ企業であるAnthropicは、最近、人工知能システムの福祉に焦点を当てた初の正社員の採用を発表しました。
最近発表された「AIの福祉を真剣に考える」論文の共著者であるカイル・フィッシュが、AI福祉の専門家としてフルタイムで参加しました。彼の役割は、「模範的な福祉」を調査し、企業に適切な行動について助言することです。
生化学者であり作家でもあるアイザック・アシモフ氏は、1942年の短編小説『Runaround』で、人間とロボットのための倫理体系を初めて提案しました。アシモフ氏の3つの基本原則は、それ以来、ロボット工学やAIを含むテクノロジーに関する議論において関連性を持つようになりました。
彼は後に、他のルールに優先する第4のルールを追加しました。
「ロボットは、人間に危害を加えてはならない。また、看過することによって、人間に危害を及ぼすことを許してもならない」
研究者や企業が人間とAIの相互作用の倫理的影響についてさらに深く掘り下げていくにつれ、このルールは逆の形で適用される可能性が高まっています。
出典:(The Times)(Forbes)
専門家がAIと人類の未来について議論する
意識的なAIの倫理的影響
ライフスタイル 倫理
ロボットたちが人類に反旗を翻す映画は、誰もが一度は見たことがあるのではないでしょうか？しかし、もし本当の危険がターミネーター的な終末ではなく、もっと微妙なものであったらどうでしょうか？AIが痛みや喜び、そして恐れさえ感じるようになったら、どうでしょうか？科学者や哲学者の間で、AIの意識的可能性について真剣に検討する人が増えています。これらのシステムがより高度になるにつれ、深刻な倫理上の問題が生じています。AIに権利を与えるべきでしょうか？そして、それは人類の未来にとって何を意味するのでしょうか？
この刺激的なトピックについて専門家が何を語っているのか、クリックしてご覧ください。