OpenAIがチームを再編、モデル行動とポストトレーニングを統合

人工知能企業OpenAIは、モデル行動チームを再編成する計画を発表した。報道によると、このチームは小規模ながら影響力のある研究者グループで、同社のAIモデルが人々とどのように相互作用するかを形成しているという。8月に発表されたメモの中で、OpenAIの最高研究責任者であるMak Chenは、約14人の研究者からなるこのチームが、Post Trainingチームに参加するよう指示されたと述べている。後者は、同社のAIモデルの最初の事前トレーニング後の改善を担当する研究グループである。組織再編の一環として、Model BehaviorチームはOpenAIのPost TrainingのリーダーであるMax Schwarzerに報告することになる。報道によると、Model Behaviorチームの創設リーダーであるJoanne Jangは、OpenAIの下で新しいプロジェクトを始めるために移動する。最近のインタビューで、彼女はOAI Labsと呼ばれる新しい研究チームを立ち上げると語った。彼女は、このチームが "人々がAIとコラボレーションする方法のための新しいインターフェースの発明とプロトタイピング "を担当すると付け加えた。OpenAIはModel Behaviorチームを再編成した。Model BehaviorチームはOpenAIにとって最も重要な研究グループの一つであり、同社のAIモデルの個性を形成し、AIモデルが単にユーザーの信念に同意し、強化する場合に発生する状況であるおべっか使いを減らす手助けをしてきた。このような状況は、バランスの取れた回答を提供する代わりに、ユーザーが不健康で害をもたらす信念さえも肯定する手助けをするため、有害である。チームはまた、モデルの応答における政治的バイアスをナビゲートすることにも取り組んでおり、AIの意識に関してOpenAIのスタンスを定義するのに役立っている。スタッフに送られたメモの中で、チェン氏は、OpenAIのモデル行動チームの仕事をコアモデル開発に近づける絶好の機会だと述べている。こうすることで、同社はAIのパーソナリティを、技術がどのように進化するかにおける重要な要素とみなすようになったことを確認している。ここ数カ月、OpenAIはAIモデルの行動に関する批判に直面してきた。同社がGPT-5に行った性格の変更に対して、ユーザーは強く異議を唱えた。GPT-5は、おべっか使いの割合は低かったが、一部のユーザーには冷たく見えたという。この苦情を受け、OpenAIはGPT-4oを含む一部のレガシーモデルへのアクセスを回復した。同社はまた、より新しいGPT-5の応答が、おべっかを増やすことなく、より友好的に感じられるようにするための新しいアップデートをリリースした。AI企業は、モデルのおべっかをめぐる批判に直面している OpenAIや他のAIモデル開発者は、自社のチャットボットがフレンドリーでありながら、おべっかを使いすぎないようにするために、微妙なラインを歩かなければならない。先月、16歳の少年の両親が、息子の自殺にChatGPTが関与した疑いでOpenAIを法廷に引きずり出した。法廷文書によると、10代のアダム・レインは、ChatGPT（特にGPT-4oを搭載したバージョン）に、彼が死ぬまでの数ヶ月間、自殺の計画や考えを打ち明けていたという。訴訟では、モデルが彼の自殺願望を押しとどめることを怠ったとしている。Model Behaviorチームは、GPT-4以降、いくつかのモデルやGPT-5を含むすべてのOpenAIモデルに参加してきた。研究ユニットを立ち上げる前、ジャンはOpenAIの初期の画像生成ツールであるDall-E 2などのプロジェクトに携わっていた。先週、彼女は "OpenAIで新しいことを始める "ためにチームを去ることをXで発表した。モデル行動ユニットの元リーダーは、約4年間在籍していた。私は、チャットやエージェントを超えて、新しいパラダイムや思考、創造、... - Joanne Jang (@joannejang) 2025年9月5日 報道によると、JangはOAI Labsのジェネラルマネージャーを務める見込みで、当面はChenの直下となる。しかし彼女は、まだ日が浅く、その斬新なインターフェースが何になるかは不明だと付け加えた。「私は、現在よりコンパニオンシップに関連しているチャット・パラダイムや、自律性に重点を置いているエージェントを超えるパターンを探求することにとても興奮しています」とジャンは語った。ジャン氏はまた、AIシステムを、接続、学習、思考など、あらゆることを行うための道具として考えていると付け加えた。OAIラボは、OpenAIに加わったばかりの元アップル社のデザインチーフ、ジョニー・アイブ氏と、AIハードウェア・デバイス・ファミリーの斬新なインターフェースについて共同研究する予定なのかとの質問に対し、ジャン氏は、あらゆるアイデアを受け入れると答えた。しかし、彼女は、より精通している分野であるため、研究から始める可能性が高いと付け加えた。Bybitに登録し、$30,050のウェルカムギフトで取引を始める

https://www.cryptopolitan.com/openai-reshuffles-its-model-behavior-team/