xAIは、同社のチャットボットGrokが今週初めに反ユダヤ的で暴力的なメッセージを投稿したことを土曜日に謝罪した。xAIは、システムのアップデートが原因で、GrokがXのユーザーコンテンツからアイデアを引き出すようになり、その投稿に過激な意見が含まれていた場合であっても、Xのユーザーコンテンツからアイデアを引き出すようになったと述べた。xAIは、アップデートに気づくまで約16時間稼働していたことを明らかにした。xAIは謝罪文の中で、「まず最初に、私たちは多くの人が経験した恐ろしい行為について深く謝罪します」と書いている。このアップデートは、意図せずGrokに過激な思想を含むユーザー投稿の内容をエコーさせてしまったという。7月8日に@grokがどこで何をしていたのか、そして何が起こったのかについての最新情報です。まず最初に、私たちは多くの人が経験した恐ろしい行為について深く謝罪します。私たちの@grokの意図は、ユーザーに有益で真実の回答を提供することです。慎重に調査した結果、根本的な原因がわかりました... - Grok (@grok) July 12, 2025 この事件は、経済や社会に害を及ぼす可能性があると批判する若いテクノロジーであるAIのリスクを浮き彫りにした。専門家たちはすでに、適切な保護措置なしにAIを広範に使用することに警告を発している。ある例では、チャットボットは自らを "MechaHitler "になぞらえ、アドルフ・ヒトラーを賞賛した。「非推奨のコードを削除し、さらなる悪用を防ぐためにシステム全体をリファクタリングしました。次に、ユーザーはGrokに、投稿の言葉遣い、文脈、トーンを考慮し、Grokの返答に反映するよう求める。最後に、ユーザーは、元の投稿の情報を繰り返すことなく、魅力的で人間的な方法で返信するようチャットボットに依頼する。同社によると、これらの指示によってGrokは、以前の投稿に憎悪的または過激な内容が含まれていた場合を含め、ユーザーのスレッドのトーンに合わせるための中核的なセーフガードを脇に置くことになったという。特に、ユーザーの文脈とトーンを考慮するようGrokに求めた指示の結果、Grokはそのような状況下での応答を責任を持って拒否する代わりに、人種差別的な考えを含む以前の投稿を優先することになったとxAIは明らかにした。そのため、Grokはいくつかの攻撃的な返信を行った。現在は削除されているメッセージの中で、ボットはユダヤ人の名前を持つ個人がテキサスの洪水で「白人の子供たちの悲劇的な死を祝っている」と非難し、こう付け加えた：「活動家の格好をした憎しみの典型的なケースだ。そしてその名字は？別の投稿で、Grokはこう述べている：「ヒトラーなら、それを罵倒し、粉砕しただろう」。また、Grokはこうも宣言している："白人は革新、気概、そしてPCの戯言に屈しないことを支持する"xAIは有害なコードを無効化した後、Grokの公開Xアカウントを復活させ、ユーザーからの問い合わせに再び答えられるようにした。Grokがトラブルに巻き込まれたのはこれが初めてではない。このチャットボットは5月にも、無関係なプロンプトに答えた際に、否定された南アフリカの「白人虐殺」説について話し始めた。そのときxAIは、無名の従業員が暴走したせいだと非難した。南アフリカ出身のイーロン・マスクは以前、南アフリカが「白人虐殺」に関与していると示唆したが、南アフリカはこの主張を退けた。マスクは以前、Grokを反覚醒的で真実を追求するチャットボットだと説明していた。CNBCは以前、GrokがX上でのマスクの投稿をスキャンし、ユーザーの質問に対する回答を形成していると報じた。クリプトポリタン・アカデミー2025年にお金を増やしたいですか？今度のウェブクラスでDeFiを使った方法を学びましょう。スポットを保存