Anthropic: GPT-4의 가장 강력한 라이벌인 Claude 3.5의 원동력, 보다 "규정을 준수하는" AI 대규모 언어 모델을 만드는 방법은 무엇입니까?

0710 인류학

머리말

2024년 6월 20일, 전 OpenAI 엔지니어링 팀이 결성한 AI 스타트업인 Anthropic은 Claude 3.5 Sonnet을 출시했습니다. Anthropic은 Twitter에서 Sonnet이 이전 Claude 3 Opus보다 두 배 더 빠르게 실행되며 추론, 프로그래밍 및 많은 기능이 더 뛰어나다고 밝혔습니다. 시각화와 같은 테스트는 OpenAI의 GPT-4를 능가했습니다.

인류3

AI 분야에 막대한 기술산업 자금이 유입되는 가운데 다양한 AI 스타트업의 자금조달 현황과 개념을 이해함으로써 미래 인공지능 트렌드에 대해서도 보다 명확하게 이해할 수 있다.

생성 AI 및 대규모 언어 모델 생성을 예로 들면, OpenAI만이 뛰어난 기술을 자랑하는 Amazon과 Google의 막대한 투자를 바탕으로 올해 가장 주목받는 유니콘이 되었습니다. OpenAI 이후.

앤트로픽은 어떤 회사인가요? 창업자들이 OpenAI에서 분리된 이유는 무엇입니까? 두 회사의 전략적 위치의 차이점은 무엇입니까?

오늘은 인류학 이야기를 여러분과 공유하겠습니다!

인류4

1분밖에 시간이 없다면 3가지 테이크아웃

  1. Anthropic과 OpenAI의 차이점:
    Anthropic은 안전하고 투명한 AI 기술 개발에 중점을 두고 AI 시스템의 설명 가능성과 제어 가능성에 전념하고 있습니다. 동시에 훈련 방법은 인간 피드백(RLHF)을 통해 모델을 결정합니다. 비서구적, 비부유적 또는 산업화된 문화의 가치는 높은 수준의 신뢰성과 윤리를 요구하는 응용 분야에 적합합니다. 반면 OpenAI는 강력한 생성 기능과 자연어 처리 유연성에 중점을 두고 있으며 엔터테인먼트, 교육, 일반 비즈니스 애플리케이션 등 다양한 시나리오에 적합합니다.

  2. 쇼핑몰 전략적 포지션의 차이:
    Anthropic은 금융, 의학, 법률 등 고위험 산업에서 인기가 높습니다. 제품이 데이터 소스와 의사결정 프로세스에 대한 자세한 설명을 제공하여 인간과의 상호작용 프로세스를 더욱 투명하고 신뢰할 수 있게 만들어주기 때문입니다.
    OpenAI는 시장, 특히 유연하고 자연스러운 발전 기능이 필요한 엔터테인먼트 및 교육과 같은 산업에서 더 넓은 가시성과 적용 범위를 보유하고 있습니다.

  3. 인류학적 전망:
    사업 영역 확장 측면에서는 OpenAI가 GPT 4o를 출시한 직후 Anthropic도 Claude가 유럽에 출시되었으며 프랑스어, 독일어, 이탈리아어, 스페인어 등 다국어를 지원하기 시작했으며 더욱 다각화를 향해 나아가고 있다고 발표했습니다. 그리고 더 높은 범위를 빠르게 발전시키세요.
    유럽은 항상 인공지능 안전 및 규제 문제에 대해 가장 큰 목소리를 내는 지역 중 하나였기 때문에 특히 올해 초 인공지능법이 통과되었습니다. 공동 창업자인 Amodei는 Anthropic이 EU GDPR과 같은 공공 정보 규정을 준수하기 위해 노력해 왔으며 유럽 프레임워크 내에서 운영할 준비가 되어 있다고 말했습니다.

    사용자 경험 측면에서 Anthropic은 사용자가 휴대폰, 개인용 컴퓨터 또는 API 자체를 통해 가장 직관적인 방식으로 Claude와 상호 작용할 수 있기를 바랍니다. 현재 그들은 Claude 사용자가 다른 계정과 장치 간에 자유롭게 전환할 수 있도록 매우 원활한 경험을 적극적으로 만들고 있습니다.

 

창립 배경

인류1

Anthropic은 전 OpenAI 임원인 Dario와 Daniela Amodei 남매가 2021년에 설립했습니다. 나머지 5명의 멤버도 OpenAI 출신입니다. Anthropic은 AI 응용 프로세스가 투명하고 안전하게 유지될 수 있도록 보다 엄격한 훈련 방법을 통해 인간적이고 안전한 AI 시스템을 개발할 수 있는 또 다른 방법을 찾고자 OpenAI 개발 프로세스에 대한 의구심에서 설립되었습니다.

Anthropic의 핵심 철학: Create CAI (헌법인공지능)

CAI(헌법 AI) 무엇인가요?

CAI는 'Constitutional AI'의 약자이다.

CAI를 한 문장으로 설명하십시오. 현재 규정을 충족하는 일련의 표준으로 훈련된 AI입니다.

AI를 훈련하는 과정에는 '헌법'이 있다고 생각할 수 있습니다. 이 헌법은 AI에게 다양한 상황에서 무엇을 해야 하는지를 정확하고 안전하게 알려줌으로써 출력 내용이 오늘날의 도덕적, 법적 규범에 더 부합할 수 있도록 합니다. 동시에 교육 과정을 더욱 투명하게 만듭니다.
Anthropic이 만든 "AI 헌법"은 UN 세계 인권 선언과 같은 문서와 내부 팀의 AI 상호 작용 경험을 바탕으로 규정을 도출합니다.

인류7

CAI의 AI 헌법은 어떻게 만들어졌나요?

Anthropic은 주로 여론 조사를 통해 AI 헌법을 개발했습니다.

그들은 다양한 연령, 성별, 소득 및 지역을 가진 약 1,000명의 미국인을 초대하여 오픈 소스 투표 플랫폼인 Polis의 AI 헌법 제정에 참여하여 그들이 자신의 인종 그룹과 직위에 따라 기존 AI 규칙에 투표할 수 있도록 했습니다. 제안.
Anthropic 팀은 약 1,200개의 다양한 제안과 38,200개의 투표를 수집한 후 대부분의 사람들이 동의하는 규칙을 추가로 필터링했습니다. 마지막으로 이러한 규칙은 AI 헌법으로 구성되어 새로운 AI 시스템을 훈련하기 위한 지침으로 사용됩니다.

인류2

AI 정렬: AI를 인간의 가치에 맞추나요?

AI 정렬은 AI를 인간의 가치와 "일관되게" 만드는 것을 의미하며, Anthropic의 CAI 방법은 이러한 목표를 달성하기 위해 설계되었습니다.

하지만 어떻게?
Anthropic은 핵심 기술인 기계적 해석성(기계적 해석성/모델 설명 능력)을 연구함으로써 로봇의 두뇌를 절단하는 것과 유사하여 개발자가 내부 AI 시스템의 작동 방식, 각 문장 생성 방식, 사고 방식을 명확하게 이해할 수 있도록 합니다. 단순히 결과의 질에만 집중하기보다는 인공지능의 사고 과정을 엄격하게 감독합니다.

인류5

인류학 대 OpenAI 

 

Anthropic과 OpenAI 모두 대규모 언어 모델을 구축하는 데 전념하고 있지만 Anthropic의 Claude는 "사고 과정을 명확하게 설명"할 수 있고 더 규정을 준수하고 제어할 수 있는 AI 시스템을 개발하는 데 더 중점을 두고 있습니다.

반면 OpenAI의 ChatGPT는 모델 유연성에 더 중점을 두고 보다 접근하기 쉬운 음성, 이미지 인식, 이미지 출력 등과 같은 보다 강력한 일반 AI 기술을 개발합니다.
교육 목적이 다르기 때문에 OpenAI가 사용자 범위에서 확고한 위치를 확립했지만 AI 보안과 설명 가능성을 엄격하게 요구하는 기업에는 Anthropic이 더 적합한 선택이 될 것입니다.

AI를 훈련하는 두 가지 방법의 차이점은 무엇입니까?

Anthropic: 인간 피드백을 통한 강화 학습(RLHF)
OpenAI: 대규모 데이터 및 딥 러닝

Anthropic은 더욱 투명한 AI 시스템 개발을 기대하고 있으므로 훈련 과정에서 AI 모델의 제어 가능성과 설명 기능에 더욱 중점을 둘 것입니다. Anthropic은 강화 학습과 인간 피드백(RLHF)을 주로 사용하며, 팀은 다양한 시나리오에서 AI 시스템의 안전성과 신뢰성을 보장하는 데 중점을 둘 것입니다.
반면 OpenAI는 출력이 다양하고 유연할 수 있기를 바라기 때문에 AI 모델의 성능과 생성 능력을 극대화하기 위해 대규모 데이터와 딥러닝에 더 중점을 둡니다. 예를 들어 GPT-4는 모델의 자연어 처리 및 세대 다양성을 개선하기 위해 사전 학습에 대량의 텍스트 데이터를 사용합니다.

 

두 언어 모델의 차이점은 무엇입니까?

출력 텍스트를 예로 들면 두 모델 간의 가장 분명한 차이점은 다음과 같습니다.

인류학(클로드)

  1. 높은 콘텐츠 투명성:
    Claude는 프로세스와 데이터 소스에 대한 자세한 설명을 제공하고 예측 및 분석에 사용하는 과학적 모델을 설명합니다.
  2. 규정 준수:
    Claude의 답변은 일반적으로 더 규정을 준수하며 엄격한 법적 및 윤리적 표준을 따라야 하는 영역에 적합합니다.

오픈AI(ChatGPT)

  1. 더욱 유연하고 자연스러워졌습니다.
    ChatGPT의 응답은 자연스럽고 유창한 텍스트를 생성하고 명확하고 간결한 설명을 제공하는 데 더 중점을 두고 있으며 엔터테인먼트, 교육 및 일반 비즈니스 애플리케이션과 같은 광범위한 상호 작용 및 다양한 애플리케이션 시나리오에 적합합니다.
  1. 더욱 창의적으로 행동하세요:
    ChatGPT의 생성 기능은 강력하고 광범위한 주제를 처리할 수 있으며 풍부한 대화형 경험을 제공합니다.

 

좀 더 구체적인 경험을 해보자. 두 모델은 동일한 프롬프트에 어떻게 반응할 것인가?

'기후변화의 원인과 영향을 설명하다'를 예로 들어보겠습니다.

클로드의 답변:

“기후 변화는 주로 인간 활동으로 인한 온실가스 배출 증가로 인해 발생하는 지구의 장기적인 기상 패턴 변화를 의미합니다. 화석 연료(석탄, 석유, 천연가스 등) 연소와 삼림 벌채는 모두 온실가스 증가의 주요 원인입니다. 가스.
이러한 가스(예: 이산화탄소 및 메탄)는 대기에 축적되어 지구의 온도를 높이는 '온실'을 형성합니다.
이러한 온실 효과는 기상 이변의 증가, 해수면 상승, 생태계 변화로 이어져 인간의 건강, 농업 생산 및 물 공급에 영향을 미칩니다. "

“우리는 과거 데이터와 현재 추세를 기반으로 조정된 기후 변화의 영향을 시뮬레이션하고 예측하기 위해 여러 과학 모델을 사용합니다.
우리의 분석은 다양한 시나리오에서 온실가스 배출을 고려하고 지구 온도와 날씨 패턴에 대한 잠재적 영향을 평가합니다. 이러한 모델과 데이터는 IPCC(기후 변화에 관한 정부 간 패널)와 같은 권위 있는 조직에서 제공됩니다. "

ChatGPT의 응답

"기후 변화는 인간 활동과 자연적 요인이 결합하여 발생합니다. 인간 활동 중에 화석 연료를 태우면 지구를 따뜻하게 하는 주요 온실가스인 이산화탄소가 대량으로 방출됩니다.
게다가 삼림 벌채는 이산화탄소 흡수를 감소시켜 기후 온난화를 악화시킵니다. 화산 폭발, 태양 복사 변화 등 자연적 요인도 기후에 영향을 미치지만 인간 활동의 영향을 받으면 이러한 자연적 요인은 상대적으로 작은 역할을 합니다.
기후 변화의 영향에는 기상 이변의 증가, 해수면 상승, 빙하 녹는 현상, 생태계 손상, 인간 건강 문제 등이 포함됩니다. 이러한 변화는 농업 생산량 감소, 물 부족 및 기후 난민 증가로 이어질 수 있습니다.

 

Claude가 명확한 추론으로 프로세스를 설명하고 참고 자료를 첨부할 것은 분명합니다.
ChatGPT는 더욱 사용자 친화적이며 더 간단하고 이해하기 쉬운 언어를 사용하여 사용자의 이해를 돕습니다.

보다 의인화된 방식으로 두 모델을 비교하려면 다음을 수행하십시오.

넣을 수 있다 Claude는 학생들의 감정과 안전에 매우 세심한 주의를 기울이는 온화하지만 다소 진지한 교사를 상상합니다. 엄격한 윤리강령(CAI)을 통해 자신의 말과 행동이 학생에게 피해를 주지 않도록 하십시오. 동시에 우리는 학생 및 학부모와 자주 소통하고(정기 오픈 소스 투표) 모든 사람의 기대와 요구에 더 잘 부응하기 위해 학생들의 의견을 채택한 후 교육 방법을 조정합니다.

이에 비해 GPT는 더 흥미롭지만 덜 통제됩니다. GPT는 학생들의 적성에 맞춰 가르칠 수 있는 매우 똑똑한 선생님이라고 상상할 수 있습니다. 그는 풍부한 지식을 가지고 있으며 다양한 질문에 대답하고 자세한 설명을 제공합니다. 그러나 때로는 학생들의 배경의 다양성이 간과될 수도 있고, 일부 학생들에게 해로울 수 있는 민감한 주제가 고려되지 않을 수도 있습니다.

Anthropic과 OpenAI, AI 전장에서의 전략적 위치 비교

 

오늘날 AI 산업에서 Anthropic과 OpenAI는 각각 중요한 전략적 위치를 차지하고 있습니다.

Anthropic은 AI 기술의 보안과 투명성에 더 중점을 두기 때문에 금융, 의료, 법률과 같이 위험과 규정 준수 요구 사항이 높은 산업 분야의 기업이 선호합니다. 해석성을 강조하는 AI 제품은 이들 산업이 AI 기술을 더 잘 이해하고 적용하는 데 도움이 될 수 있습니다.

OpenAI는 더 넓은 범위의 사용자를 대상으로 합니다. ChatGPT의 유연한 콘텐츠 출력과 다양한 제품 포트폴리오로 인해 현재 시장에서 넓은 점유율을 차지하고 있습니다. 특히 엔터테인먼트, 교육 및 일반 비즈니스 애플리케이션에서 가시성과 활용도가 더 높습니다.

 

인류학적 투자현황

인류6

 

 Anthropic은 지금까지 약 80억 달러를 모금했으며, 투자 후 가치는 약 184억 달러에 달합니다. 이 중 70억 달러 이상이 AWS에서 스마트 챗봇 구축에 협력하기 위한 Amazon의 40억 달러 투자와 Google의 후속 투자인 2달러에서 나왔습니다. 10억 달러 증가에 따라 DeepMind AI 연구 센터와 협력하여 보다 안전한 AI 애플리케이션을 만들 수 있기를 기대합니다.

이러한 투자는 아직 마이크로소프트가 OpenAI에 투자한 100억 달러에 미치지 못하지만, 앞으로 AI 전장에는 더욱 다양한 얼굴이 나올 것임을 보여주고 있다.



인류학의 미래

사업 영역 확장 측면에서는 OpenAI가 GPT 4o를 출시한 직후 Anthropic도 Claude가 유럽에 출시되었으며 프랑스어, 독일어, 이탈리아어, 스페인어 등 다국어를 지원하기 시작했으며 더욱 다각화를 향해 나아가고 있다고 발표했습니다. 그리고 더 높은 범위를 빠르게 발전시키세요.
유럽은 항상 인공지능 안전 및 규제 문제에 대해 가장 큰 목소리를 내는 지역 중 하나였기 때문에 특히 올해 초 인공지능법이 통과되었습니다. 공동 창업자인 Amodei는 Anthropic이 EU GDPR과 같은 공공 정보 규정을 준수하기 위해 노력해 왔으며 유럽 프레임워크 내에서 운영할 준비가 되어 있다고 말했습니다.

사용자 경험 측면에서 Anthropic은 사용자가 휴대폰, 개인용 컴퓨터 또는 API 자체를 통해 가장 직관적인 방식으로 Claude와 상호 작용할 수 있기를 바랍니다. 현재 그들은 Claude 사용자가 다른 계정과 장치 간에 자유롭게 전환할 수 있도록 매우 원활한 경험을 적극적으로 만들고 있습니다.

3가지 시사점

 

  1. Anthropic과 OpenAI의 차이점:
    Anthropic은 안전하고 투명한 AI 기술 개발에 중점을 두고 AI 시스템의 설명 가능성과 제어 가능성에 전념하고 있습니다. 동시에 훈련 방법은 인간 피드백(RLHF)을 통해 모델을 결정합니다. 비서구적, 비부유적 또는 산업화된 문화의 가치는 높은 수준의 신뢰성과 윤리를 요구하는 응용 분야에 적합합니다. 반면 OpenAI는 강력한 생성 기능과 자연어 처리 유연성에 중점을 두고 있으며 엔터테인먼트, 교육, 일반 비즈니스 애플리케이션 등 다양한 시나리오에 적합합니다.

  2. 쇼핑몰 전략적 포지션의 차이:
    Anthropic은 금융, 의학, 법률 등 고위험 산업에서 인기가 높습니다. 제품이 데이터 소스와 의사결정 프로세스에 대한 자세한 설명을 제공하여 인간과의 상호작용 프로세스를 더욱 투명하고 신뢰할 수 있게 만들어주기 때문입니다.
    OpenAI는 시장, 특히 유연하고 자연스러운 발전 기능이 필요한 엔터테인먼트 및 교육과 같은 산업에서 더 넓은 가시성과 적용 범위를 보유하고 있습니다.

  3. 인류학적 전망:
    사업 영역 확장 측면에서는 OpenAI가 GPT 4o를 출시한 직후 Anthropic도 Claude가 유럽에 출시되었으며 프랑스어, 독일어, 이탈리아어, 스페인어 등 다국어를 지원하기 시작했으며 더욱 다각화를 향해 나아가고 있다고 발표했습니다. 그리고 더 높은 범위를 빠르게 발전시키세요.
    유럽은 항상 인공지능 안전 및 규제 문제에 대해 가장 큰 목소리를 내는 지역 중 하나였기 때문에 특히 올해 초 인공지능법이 통과되었습니다. 공동 창업자인 Amodei는 Anthropic이 EU GDPR과 같은 공공 정보 규정을 준수하기 위해 노력해 왔으며 유럽 프레임워크 내에서 운영할 준비가 되어 있다고 말했습니다.

    사용자 경험 측면에서 Anthropic은 사용자가 휴대폰, 개인용 컴퓨터 또는 API 자체를 통해 가장 직관적인 방식으로 Claude와 상호 작용할 수 있기를 바랍니다. 현재 그들은 Claude 사용자가 다른 계정과 장치 간에 자유롭게 전환할 수 있도록 매우 원활한 경험을 적극적으로 만들고 있습니다.

 

결론

Anthropic CEO지난주 인터뷰보고서는 인공지능 훈련 비용이 여전히 끔찍할 정도로 높다고 언급했다. 저가형 기본 모델의 비용은 약 1억 달러이며, 보유하고 있는 Cluade의 훈련 비용은 10억 달러 이상이다.

그에 따라 인공 지능 개발에 드는 엄청난 비용으로 인해 OpenAI 또는 Anthropic과 경쟁하기 위해 자체 모델을 훈련하려는 스타트업에 높은 기준이 설정되었으며 단기적으로는 대규모 언어 모델의 전쟁터가 지배하게 될 것입니다. 엄청난 돈을 가진 기술 대기업에 의해.

Anthropic의 등장은 AI 대규모 언어 모델의 등장에 대해 사람들이 더욱 다양한 상상을 할 수 있게 해주고, 향후 AI가 야기할 수 있는 윤리적 문제에 대한 솔루션도 미리 배치할 수 있게 해준다.

이 기사를 읽어주셔서 감사합니다!
아직 배울 내용이 더 많이 남아 있다고 생각하시면 제 뉴스레터 [Roxanne's Tech Talk]를 구독해 주세요.
이에 대한 더 흥미로운 과학기술 이야기를 공유하겠습니다! 🥳

500명과 함께 최신 기술과 지식을 함께 배워보세요 Roxanne의 기술 토크 구독
Linkedin을 통해 소통하실 수도 있습니다👩🏻‍💻 록산느 첸



코멘트를 남겨주세요

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

ko_KR한국어