Anthropic: GPT-4의 가장 강력한 라이벌인 Claude 3.5의 원동력, 보다 "규정을 준수하는" AI 대규모 언어 모델을 만드는 방법은 무엇입니까?

인류학 대 OpenAI 

Anthropic과 OpenAI 모두 대규모 언어 모델을 구축하는 데 전념하고 있지만 Anthropic의 Claude는 "사고 과정을 명확하게 설명"할 수 있고 더 규정을 준수하고 제어할 수 있는 AI 시스템을 개발하는 데 더 중점을 두고 있습니다.

반면 OpenAI의 ChatGPT는 모델 유연성에 더 중점을 두고 보다 접근하기 쉬운 음성, 이미지 인식, 이미지 출력 등과 같은 보다 강력한 일반 AI 기술을 개발합니다.
교육 목적이 다르기 때문에 OpenAI가 사용자 범위에서 확고한 위치를 확립했지만 AI 보안과 설명 가능성을 엄격하게 요구하는 기업에는 Anthropic이 더 적합한 선택이 될 것입니다.

AI를 훈련하는 두 가지 방법의 차이점은 무엇입니까?

Anthropic: 인간 피드백을 통한 강화 학습(RLHF)
OpenAI: 대규모 데이터 및 딥 러닝

Anthropic은 더욱 투명한 AI 시스템 개발을 기대하고 있으므로 훈련 과정에서 AI 모델의 제어 가능성과 설명 기능에 더욱 중점을 둘 것입니다. Anthropic은 강화 학습과 인간 피드백(RLHF)을 주로 사용하며, 팀은 다양한 시나리오에서 AI 시스템의 안전성과 신뢰성을 보장하는 데 중점을 둘 것입니다.
반면 OpenAI는 출력이 다양하고 유연할 수 있기를 바라기 때문에 AI 모델의 성능과 생성 능력을 극대화하기 위해 대규모 데이터와 딥러닝에 더 중점을 둡니다. 예를 들어 GPT-4는 모델의 자연어 처리 및 세대 다양성을 개선하기 위해 사전 학습에 대량의 텍스트 데이터를 사용합니다.

두 언어 모델의 차이점은 무엇입니까?

출력 텍스트를 예로 들면 두 모델 간의 가장 분명한 차이점은 다음과 같습니다.

인류학(클로드)

1. 높은 콘텐츠 투명성:
   Claude는 프로세스와 데이터 소스에 대한 자세한 설명을 제공하고 예측 및 분석에 사용하는 과학적 모델을 설명합니다.
2. 규정 준수:
   Claude의 답변은 일반적으로 더 규정을 준수하며 엄격한 법적 및 윤리적 표준을 따라야 하는 영역에 적합합니다.

오픈AI(ChatGPT)

1. 더욱 유연하고 자연스러워졌습니다.
   ChatGPT의 응답은 자연스럽고 유창한 텍스트를 생성하고 명확하고 간결한 설명을 제공하는 데 더 중점을 두고 있으며 엔터테인먼트, 교육 및 일반 비즈니스 애플리케이션과 같은 광범위한 상호 작용 및 다양한 애플리케이션 시나리오에 적합합니다.

2. 더욱 창의적으로 행동하세요:
   ChatGPT의 생성 기능은 강력하고 광범위한 주제를 처리할 수 있으며 풍부한 대화형 경험을 제공합니다.

좀 더 구체적인 경험을 해보자. 두 모델은 동일한 프롬프트에 어떻게 반응할 것인가?

'기후변화의 원인과 영향을 설명하다'를 예로 들어보겠습니다.

클로드의 답변:

“기후 변화는 주로 인간 활동으로 인한 온실가스 배출 증가로 인해 발생하는 지구의 장기적인 기상 패턴 변화를 의미합니다. 화석 연료(석탄, 석유, 천연가스 등) 연소와 삼림 벌채는 모두 온실가스 증가의 주요 원인입니다. 가스.
이러한 가스(예: 이산화탄소 및 메탄)는 대기에 축적되어 지구의 온도를 높이는 '온실'을 형성합니다.
이러한 온실 효과는 기상 이변의 증가, 해수면 상승, 생태계 변화로 이어져 인간의 건강, 농업 생산 및 물 공급에 영향을 미칩니다. "

“우리는 과거 데이터와 현재 추세를 기반으로 조정된 기후 변화의 영향을 시뮬레이션하고 예측하기 위해 여러 과학 모델을 사용합니다.
우리의 분석은 다양한 시나리오에서 온실가스 배출을 고려하고 지구 온도와 날씨 패턴에 대한 잠재적 영향을 평가합니다. 이러한 모델과 데이터는 IPCC(기후 변화에 관한 정부 간 패널)와 같은 권위 있는 조직에서 제공됩니다. "

ChatGPT의 응답

"기후 변화는 인간 활동과 자연적 요인이 결합하여 발생합니다. 인간 활동 중에 화석 연료를 태우면 지구를 따뜻하게 하는 주요 온실가스인 이산화탄소가 대량으로 방출됩니다.
게다가 삼림 벌채는 이산화탄소 흡수를 감소시켜 기후 온난화를 악화시킵니다. 화산 폭발, 태양 복사 변화 등 자연적 요인도 기후에 영향을 미치지만 인간 활동의 영향을 받으면 이러한 자연적 요인은 상대적으로 작은 역할을 합니다.
기후 변화의 영향에는 기상 이변의 증가, 해수면 상승, 빙하 녹는 현상, 생태계 손상, 인간 건강 문제 등이 포함됩니다. 이러한 변화는 농업 생산량 감소, 물 부족 및 기후 난민 증가로 이어질 수 있습니다.

Claude가 명확한 추론으로 프로세스를 설명하고 참고 자료를 첨부할 것은 분명합니다.
ChatGPT는 더욱 사용자 친화적이며 더 간단하고 이해하기 쉬운 언어를 사용하여 사용자의 이해를 돕습니다.

보다 의인화된 방식으로 두 모델을 비교하려면 다음을 수행하십시오.

넣을 수 있다 Claude는 학생들의 감정과 안전에 매우 세심한 주의를 기울이는 온화하지만 다소 진지한 교사를 상상합니다. 엄격한 윤리강령(CAI)을 통해 자신의 말과 행동이 학생에게 피해를 주지 않도록 하십시오. 동시에 우리는 학생 및 학부모와 자주 소통하고(정기 오픈 소스 투표) 모든 사람의 기대와 요구에 더 잘 부응하기 위해 학생들의 의견을 채택한 후 교육 방법을 조정합니다.

이에 비해 GPT는 더 흥미롭지만 덜 통제됩니다. GPT는 학생들의 적성에 맞춰 가르칠 수 있는 매우 똑똑한 선생님이라고 상상할 수 있습니다. 그는 풍부한 지식을 가지고 있으며 다양한 질문에 대답하고 자세한 설명을 제공합니다. 그러나 때로는 학생들의 배경의 다양성이 간과될 수도 있고, 일부 학생들에게 해로울 수 있는 민감한 주제가 고려되지 않을 수도 있습니다.

Anthropic과 OpenAI, AI 전장에서의 전략적 위치 비교

오늘날 AI 산업에서 Anthropic과 OpenAI는 각각 중요한 전략적 위치를 차지하고 있습니다.

Anthropic은 AI 기술의 보안과 투명성에 더 중점을 두기 때문에 금융, 의료, 법률과 같이 위험과 규정 준수 요구 사항이 높은 산업 분야의 기업이 선호합니다. 해석성을 강조하는 AI 제품은 이들 산업이 AI 기술을 더 잘 이해하고 적용하는 데 도움이 될 수 있습니다.

OpenAI는 더 넓은 범위의 사용자를 대상으로 합니다. ChatGPT의 유연한 콘텐츠 출력과 다양한 제품 포트폴리오로 인해 현재 시장에서 넓은 점유율을 차지하고 있습니다. 특히 엔터테인먼트, 교육 및 일반 비즈니스 애플리케이션에서 가시성과 활용도가 더 높습니다.

인류학적 투자현황