AIの幻覚：OpenAI、大規模言語モデルのための重要なソリューションを発表

BitcoinWorld AI幻覚：OpenAIが大規模言語モデルのための重要なソリューションを発表 ペースの速い暗号通貨の世界では、正確な情報が最も重要です。投資家、トレーダー、開発者は同様に、情報に基づいた意思決定を行うためにデータに依存しています。そのため、大規模言語モデルのような最先端のAIツールが、AIの幻覚として知られる、自信に満ち溢れた誤った発言を生成することは、AI開発者だけでなく、このような強力なシステムを活用するすべての人にとって重要な課題となる。GPT-5のような高度なモデルやChatGPTのような人気のあるチャットボットでさえ、なぜ情報を捏造し続けるのか、そして重要なことは、AIの信頼性を劇的に向上させるために何ができるのか、ということです。AIの幻覚の謎を理解する AIの幻覚とは一体何なのか？OpenAIは、彼らの新しい研究論文を要約したブログ投稿の中で、「言語モデルによって生成された、もっともらしいが誤った発言」と定義している。これらは単なる些細な間違いではなく、絶対的な確信を持って提示される捏造であり、特に人を欺くものである。AI技術の著しい進歩にもかかわらず、このような幻覚は「すべての大規模言語モデルにとって基本的な課題のまま」であり、研究者たちによれば、おそらく完全になくなることはないだろうという。この点を説明するために、研究者たちはシンプルだが、興味深い実験を行った。広く使われているチャットボットに、アダム・タウマン・カライの博士論文のタイトルを尋ねたのだ。カライは論文の共著者の一人である。チャットボットは3つの異なる答えを返したが、すべて不正解だった。彼の誕生日を尋ねると、またもや3つの異なる日付を提示したが、どれも正確ではなかった。このシナリオは、核心的な問題を浮き彫りにしている。AIシステムは、どうしてこれほど決定的に間違うことができるのだろうか？大規模言語モデルの核心的課題 このような持続的な幻覚の根源は、大規模言語モデルの事前学習プロセスにあることを、この論文は示唆している。この段階では、モデルは主に連続する単語の次の単語を予測するように訓練される。ここで決定的に欠けているのは、学習文に真偽のラベルを付けないことである。研究者たちが説明するように、"モデルは流暢な言語の肯定的な例しか見ないので、全体的な分布を近似しなければならない"。つまり、AIは自然で首尾一貫した響きを持つテキストを生成するように学習するが、必ずしも事実上正しいとは限らないということだ。予測可能なパターンと恣意的な事実の違いを考えてみよう。スペルや括弧は一貫したパターンに従うので、規模が大きくなればエラーはなくなります」。十分なデータがあれば、モデルは文法ルールや構造ルールをマスターできる。しかし、「ペットの誕生日のような低頻度の恣意的事実は、パターンだけでは予測できず、それゆえ幻覚につながる」。学習データに強く表現されていない曖昧な事実についての質問に直面すると、モデルは答えを提供せざるを得なくなり、その真偽にかかわらず、学習した言語パターンの中でもっともらしく聞こえる答えを捏造することが多い。OpenAIの洞察：悪いトレーニングだけでなく、悪いインセンティブ 事前トレーニングのプロセスも問題の一因ではあるが、OpenAIの論文は、より直接的で対処可能な問題は、これらのモデルが現在どのように評価されているかにあると提案している。研究者たちは、既存の評価モデルが直接幻覚を引き起こすのではなく、むしろ "誤ったインセンティブを設定している "と主張している。これは極めて重要な違いであり、モデル固有の限界から、その行動を形成する外的圧力へと焦点を移すものである。彼らは、多肢選択式テストに説得力のある類似を描いている。そのようなテストでは、不正解に対するペナルティがない場合、生徒は推測するインセンティブを与えられる。なぜなら、「運が良ければ正解するかもしれない」からである。一方、答えを空欄にすると「0点が保証される」からである。これは、不確実性を認めることよりも、推測で解答する戦略を奨励することになる。同様に、AIモデルが正確さ（正解率）のみで評価される場合、"わからない "と表現するよりも推測することが効果的に奨励される。このシステムは、正しい答えが得られない場合に、自信に満ちた捏造に不注意に報いることになる。ChatGPTの信頼性を高める：新しい評価パラダイム OpenAIが提案する解決策は、AIの信頼性を高めるために評価基準を見直すことに焦点を当てています。研究者は、SATのような標準化されたテストのようなシステムを提唱しています。"ブラインド推測を阻止するために、間違った回答に対するマイナス（採点）、または空欄のままの問題に対する部分的なクレジット "を含みます。このアプローチは、インセンティブ問題に直接対処するものである。具体的には、OpenAIは、モデル評価は、"不確実性にペナルティを与えるよりも、自信のあるエラーにペナルティを与え、不確実性の適切な表現に部分的なクレジットを与える "必要があると提案しています。そうすることで、ChatGPTのようなモデルが、もっともらしく聞こえるが虚偽の発言をするのではなく、十分な情報が不足していることを認めるようになるだろう。この論文では、"不確実性を考慮した新しいテスト "を導入するだけでは不十分だと強調している。その代わりに、「広く使われている正確さに基づいた検査は、その採点が推測を抑制するように更新される必要がある」。メッセージは明確だ。"主要なスコアボードが幸運な推測に報い続けるなら、モデルは推測を学習し続けるだろう"。このような変更を実施することは、高い事実精度が要求されるアプリケーションを含む様々なアプリケーションにおいて、AIシステムに対する信頼を構築するために最も重要である。AIの信頼性向上への道 OpenAIの研究が意味するところは、大規模な言語モデルの将来と、より広範なAIの展望にとって深い。評価パラダイムを転換することで、開発者はAIの行動をより正直で透明性の高いものに導くことができる。これは、単なる流暢さや一貫性を超えて、検証可能な真実性や適切な疑義表現を優先させることを意味する。ユーザーにとって、これは説得力のある虚偽を生成する傾向が少ない、より信頼性の高いAIアシスタントに変換される可能性があり、それによって研究から金融分析に至るまで、重要なアプリケーションにおける信頼性と有用性が強化される。このようなAIの信頼性向上を実現するには、研究者、開発者、評価者が一丸となって、このような新しいスコアリング・メカニズムを採用する必要がある。それは、AIシステムが人間と同じようにインセンティブに反応することを認めることである。本物の知識に報酬を与え、自信に満ちた無知にはペナルティを与えるような評価を設計することで、強力なだけでなく信頼できるAIモデルの世代を育成することができる。この革新的なアプローチは、複雑な情報ランドスケープをナビゲートする上で、AIをより信頼できるパートナーにすることを約束する。OpenAIの論文は、AIの幻覚を軽減するための重要なロードマップを提供し、より信頼性の高いAIへの道は、より良いトレーニングデータやより複雑なアーキテクチャにあるのではなく、学習とパフォーマンスを支配するインセンティブを根本的に変えることにあることを強調している。確信犯的なエラーにはペナルティを課し、真の不確実性には報酬を与えることで、ChatGPTのような大規模な言語モデルが真に信頼できる情報源となり、最終的にはブロックチェーンやデジタル資産のダイナミックな世界を含むあらゆる分野で、これらの強力なツールに対する信頼が高まる未来への道を開くことができる。最新のAIモデル評価トレンドの詳細については、AI機能と制度的採用を形成する主要な開発に関する当社の記事をご覧ください。この投稿は AI Hallucinations です：OpenAI Unveils a Critical Solution for Large Language Models first appeared on BitcoinWorld and is written by Editorial Team

https://bitcoinworld.co.in/ai-hallucinations-openai-solution/