Anthropic: GPT-4 の最も強力なライバルである Claude 3.5 の原動力、より「準拠した」AI 大規模言語モデルを作成するにはどうすればよいですか?

Anthropic 対 OpenAI 

Anthropic と OpenAI はどちらも大規模な言語モデルの構築に取り組んでいますが、Anthropic のクロード氏は、「思考プロセスを明確に説明」でき、準拠性と制御性がより高い AI システムの開発により重点を置いています。

対照的に、OpenAI の ChatGPT はモデルの柔軟性に重点を置き、より親しみやすい音声、画像認識、画像出力など、より強力な汎用 AI テクノロジを開発します。
トレーニングの目的が異なるため、OpenAI はユーザー カバレッジにおいて確固たる地位を確立していますが、AI のセキュリティと説明可能性を厳密に要求する企業には Anthropic の方が適した選択肢となるでしょう。

AI をトレーニングする 2 つの方法の違いは何ですか?

人間性: ヒューマン フィードバックによる強化学習 (RLHF)
OpenAI: 大規模データとディープラーニング

Anthropic は、より透明性の高い AI システムの開発を期待しているため、トレーニング プロセス中の AI モデルの制御性と説明能力をより重視します。 Anthropic は主に強化学習とヒューマン フィードバック (RLHF) を使用しており、チームはさまざまなシナリオにおける AI システムの安全性と信頼性の確保に注力していきます。
対照的に、OpenAI は出力が多様かつ柔軟であることを望んでおり、AI モデルのパフォーマンスと生成機能を最大化するために大規模データとディープラーニングに重点を置いています。たとえば、GPT-4 は、モデルの自然言語処理と生成の多様性を向上させるために、事前トレーニングに大量のテキスト データを使用します。

2 つの言語モデルの違いは何ですか?

出力テキストを例にとると、2 つのモデルの最も明らかな違いは次のとおりです。

人間性（クロード）

1. コンテンツの高い透明性:
   クロードはプロセスとデータ ソースを詳細に説明し、予測と分析にどの科学モデルを使用しているかを説明します。
2. コンプライアンス：
   クロードの応答は一般に準拠性が高く、厳格な法的および倫理的基準に従う必要がある分野に適しています。

OpenAI (ChatGPT)

1. より柔軟で自然な:
   ChatGPT の応答は、自然で流暢なテキストを生成することに重点を置き、エンターテイメント、教育、一般的なビジネス アプリケーションなど、幅広い対話や多様なアプリケーション シナリオに適した明確で簡潔な説明を提供します。

2. もっと創造的になりましょう:
   ChatGPT の生成機能は強力で、より広範囲のトピックを処理でき、豊かなインタラクティブなエクスペリエンスを提供します。

2 つのモデルが同じプロンプトに対してどのように応答するかをより具体的に見てみましょう。

「気候変動の原因と影響を説明する」を例に挙げます。

クロードの答えは次のとおりです。

「気候変動とは、主に人間の活動による温室効果ガス排出量の増加によって引き起こされる、地球の長期的な気象パターンの変化を指します。化石燃料（石炭、石油、天然ガスなど）の燃焼と森林破壊は、どちらも温室効果ガス増加の主な原因です。ガス。
これらのガス（二酸化炭素やメタンなど）は大気中に蓄積し、地球の温度を上昇させる「温室」を形成します。
この温室効果は、異常気象の増加、海面上昇、生態系の変化につながり、ひいては人間の健康、農業生産、水供給に影響を与えます。 」

「私たちは、過去のデータと現在の傾向に基づいて調整された、気候変動の影響をシミュレーションおよび予測するために複数の科学モデルを使用しています。
私たちの分析では、さまざまなシナリオの下での温室効果ガス排出を考慮し、地球の気温や気象パターンに対する潜在的な影響を評価しています。これらのモデルとデータは、IPCC (気候変動に関する政府間パネル) などの権威ある組織から提供されています。 」

ChatGPTの応答

「気候変動は人間の活動と自然要因の組み合わせによって引き起こされます。人間の活動中に化石燃料が燃焼すると、地球を温暖化させる主要な温室効果ガスである二酸化炭素が大量に放出されます。
さらに、森林伐採は二酸化炭素の吸収を減少させ、気候温暖化を悪化させます。火山の噴火や日射量の変化などの自然要因も気候に影響を与えますが、人間活動の影響下では、これらの自然要因が果たす役割は比較的小さいです。
気候変動の影響には、異常気象の増加、海面上昇、氷河の融解、生態系へのダメージ、人間の健康問題などが含まれます。これらの変化は、農業生産の減少、水不足、気候難民の増加につながる可能性があります。

クロードが明確な推論でプロセスを説明し、参考資料を添付することは明らかです。
ChatGPT はよりユーザーフレンドリーで、ユーザーの理解を助けるために、よりシンプルで理解しやすい言語を使用しています。

2 つのモデルをより擬人化した方法で比較するには:

置くことができます クロードは、生徒の感情と安全に細心の注意を払う、穏やかだがやや真面目な教師を想像しています。厳格な倫理規定 (CAI) に従って、自分の言動が生徒に害を及ぼさないようにしてください。同時に、私たちは生徒や保護者と頻繁にコミュニケーションを取り（定期的なオープンソース投票）、全員の期待とニーズによりよく応えるために生徒の意見を取り入れた後、指導方法を調整します。

比較すると、GPT はより興味深いものですが、制御が不十分です。 GPTは生徒の適性に応じて指導できるとても賢い先生だと想像できます。豊富な知識を持ち、さまざまな質問に答え、丁寧に説明してくれます。しかし、場合によっては、生徒の背景の多様性が無視されたり、一部の生徒にとって有害となる可能性のあるデリケートなトピックが考慮されなかったりすることがあります。

Anthropic と OpenAI、AI 戦場における戦略的立場の比較

今日の AI 業界では、Anthropic と OpenAI はそれぞれ重要な戦略的位置を占めています。

Anthropic は AI テクノロジーのセキュリティと透明性により重点を置いているため、金融、医療、法律など、リスクとコンプライアンスの要件が高い業界の企業に好まれています。解釈可能性を重視した AI 製品は、これらの業界が AI テクノロジーをよりよく理解し、適用するのに役立ちます。

OpenAI はより幅広いユーザーを対象としています。 ChatGPT の柔軟なコンテンツ出力と多様な製品ポートフォリオにより、現在の市場で幅広いシェアを占めています。特にエンターテインメント、教育、一般的なビジネス アプリケーションにおいて、認知度が高く、使用されています。

人類への投資状況