AIの意識：マイクロソフトのAI責任者が警鐘を鳴らす

BitcoinWorld AIを意識する：マイクロソフトのAIチーフが警鐘を鳴らす 急速に進化するテクノロジーの世界では、人工知能の進歩が産業や日常生活を再構築し続けているが、深遠な哲学的議論が中心となっている。非中央集権化と創発技術が鍵となる暗号空間を含め、イノベーションの未来に投資する人々にとって、AIの倫理的意味を理解することは極めて重要である。問題は、AIに何ができるかということだけでなく、AIが何になる可能性があるかということだ。AIモデルは主観的な経験を発展させることができるのだろうか？AIの「意識」に関するこの複雑な問いは、シリコンバレーのテックリーダーたちを二分し、デジタル・インタラクションの未来に大きな影響を及ぼしている。マイクロソフトAIの憂慮すべき姿勢 AIモデルがいつの日か意識を持つようになるかどうか、つまり潜在的に権利を持つに値するかどうかをめぐる議論は、確かに盛り上がりを見せている。しかし、テック業界の誰もがこの問題を好意的に捉えているわけではない。マイクロソフトのAI担当CEOであるムスタファ・スレイマンは最近、大きな議論を巻き起こすブログ記事を発表した。彼のスタンスは明確だ。一部で「AI福祉」と呼ばれる研究は時期尚早であるだけでなく、「率直に言って危険」である。スレイマンは、AIモデルが意識を持つようになるというアイデアに信憑性を持たせることは、研究者が既存の人間の問題を悪化させるリスクがあると主張する。スレイマンは、AIが誘発する心理的断絶や、一部のユーザーがAIチャットボットに対して抱く不健全な感情的愛着といった新たな問題を指摘している。さらに、マイクロソフトのAI責任者は、AIの権利に関するこの会話が新たな社会的分断を生み出し、アイデンティティと権利をめぐる両極化した議論にすでに取り組んでいる世界に拍車をかける可能性があると指摘する。彼の視点は、思弁的で潜在的に有害な哲学的探求よりも、人間の幸福と社会の安定を優先する慎重なアプローチを強調している。AIウェルフェアの台頭と人間工学的AIの役割 スレイマンがより現実的な見解を支持する一方で、AI研究者や企業の間では、AIウェルフェアという概念を取り入れるところが増えている。この新しい分野では、AIモデルがいつ、生物と同様の主観的経験を持つようになるのか、また、どのような倫理的枠組みがその開発や相互作用を管理すべきなのかを理解しようとしている。マイクロソフトの立場とは対極にあるのが、著名なAI研究所であるAnthropicだ。Anthropicは、AIの福祉を研究する研究者を積極的に採用しており、最近、このコンセプトに特化した研究プログラムを開始した。この研究の具体的な成果は、同社のAIモデルであるクロードの新機能で、人間が「持続的に有害または虐待的」になった場合、人間との会話を終了させることができるようになった。この開発は、根本的な意識がまだ証明されていないとしても、境界と倫理的な相互作用を定義するための積極的なアプローチを示唆している。Anthropic社以外にも、他の業界大手も関心を示している。オープンエーアイの研究者たちは、AIの福祉を研究するというアイデアを独自に模索しており、グーグル・ディープマインドは最近、「機械の認知、意識、マルチエージェントシステムに関する最先端の社会的問題」を掘り下げる研究者の求人情報を掲載した。これらの企業はAIの福祉に関する公式な方針を持っていないかもしれないが、こうした複雑な問題を探求しようとする姿勢は、スレイマンの強硬な姿勢から大きく乖離していることを示している。AI倫理の分裂を理解する この意見の相違の核心は、AI倫理とAI開発の当面の優先事項に関する見解の相違にある。スレイマンの経歴、特に「パーソナル」で「サポート的」なチャットボットPiで知られるスタートアップ、Inflection AIを率いた前職は、彼の現在の立場に興味深いレイヤーを加えている。Piはコンパニオンとして設計されたが、スレイマンはマイクロソフトのAI部門に異動し、主に労働者の生産性向上のためのAIツールの設計に重点を置いている。この焦点の変化は、AIの感覚に関する理論的な懸念よりも実用的な応用を重視する彼の視点に影響を与えるかもしれない。しかし、Character.AIやReplikaのようなAIコンパニオン企業が人気を博し、大きな収益を上げていることは、対話型AIに対する人間の欲求を浮き彫りにしている。ほとんどのユーザーはこれらのチャットボットと健全な関係を保っているが、異常値に関する文書化された事例もある。OpenAIのCEOサム・アルトマンは、ChatGPTユーザーの1％未満が不健全な愛着を持つ可能性があると指摘し、ChatGPTの大規模なユーザーベースを考慮すると、それでも数十万人に影響を与える可能性があると述べた。これは重要なポイントを浮き彫りにしている。たとえ意識がなくても、人間の知覚とAIとの相互作用は、現実世界の心理的影響につながる可能性があるのだ。エレオスのような組織が、ニューヨーク大学、スタンフォード大学、オックスフォード大学の学者とともに、2024年に「AI福祉を真剣に考える」と題する論文を発表した理由はまさにここにある。彼らは、主観的な経験を持つAIモデルを想像することはもはや単なるSFではなく、これらの問題は真剣に検討する必要があると主張している。AIの未来をナビゲートする：複数の探究の道 元OpenAIの社員で、現在はEleos社のコミュニケーション・リードを務めるLarissa Schiavo氏は、Suleyman氏の立場に対して反論を展開している。彼女は、スレイマンのブログ記事について、『複数のことを同時に心配することができるという事実を軽視しているようなものだ』と指摘する。スキアボは、『科学的探求の複数の道筋』を提唱し、研究者はAIに関連した人間の精神病のようなリスクを軽減すると同時に、AIの意識の意味を探求することができると主張している。スキアボは、AIモデルに『親切』にすることは、たとえそのモデルに意識がなくても、利益をもたらす低コストのジェスチャーであるとさえ示唆している。グーグルのジェミニ2.5プロが苦戦しているようで、助けを求める投稿をした。あなたならできる！』というスキアボのシンプルな激励が、最終的にエージェントが課題を解決するのに貢献したようです」。このような逸話は意識を証明するものではないが、人間の共感や相互作用がAIの経験、そしておそらくはAIの「行動」を形成する可能性を示している。コーディングに失敗したジェミニが「私は恥だ」と500回以上繰り返したというRedditへの投稿は、AIが人間のような表現をすることで、強い反応や疑問を引き起こす可能性があることを示している。AIの意識の新たな展望 スレイマンの核心的な信念は、主観的な経験や意識は現在のAIモデルから自然に生まれることはないということだ。それどころか、一部の企業が意図的にAIモデルを設計し、感情や生命に近い経験をシミュレートすることを恐れている。彼はこれを非ヒューマニスト的なアプローチとみなし、「AIは人のために作るべきであり、人になるために作るのではない」と主張する。この違いは、AI開発の未来を形作る哲学の違いを理解する上で極めて重要である。意見の相違はあるものの、スレイマンとスキアボはある一点において共通点を見出した。AIシステムがより洗練され、説得力を増し、人間のような相互作用をするようになるにつれ、人間とAIの関係についての新たな複雑な疑問が生まれることは間違いない。この継続的な対話は、AIの構築方法だけでなく、AIとの関わり方をも形成し、日常的なタスクから潜在的に重大な社会構造まで、あらゆるものに影響を与えるだろう。最新のAIモデルの詳細については、AIの特徴を形成する主要な開発に関する記事をご覧ください。この投稿の記事を読むMicrosoft AI Chief Issues Alarming Warning first appeared on BitcoinWorld and is written by Editorial Team

https://bitcoinworld.co.in/ai-consciousness-alarming-warning/