Claude: Anthropic의 혁신적인 인공지능에 대한 심층 분석

Anthropic의 챗봇 Claude는 ChatGPT의 주요 경쟁자 중 하나입니다. 이 회사는 OpenAI만큼 유명하지는 않지만, 성공적이고 자금도 풍부합니다. 지난 몇 년 동안 Amazon은 Anthropic에 40억 달러를 투자했고, 2024년 11월에는 40억 달러를 추가로 투자하겠다고 발표하여 총 80억 달러를 투자했습니다. 클로드에 관해서는, 사람들은 이 챗봇의 인간성, 창의성, 감수성, 그리고 감성 지능을 칭찬합니다. 이 글에서는 클로드 챗봇의 역사, 기본 원리, 장점, 그리고 한계에 대해 살펴보겠습니다.

클로드의 기원

Anthropic은 다리오 아모데이(Dario Amodei)와 그의 여동생 다니엘라 아모데이(Daniela Amodei)가 공동 설립했습니다. 두 사람은 회사를 설립하기 전에 OpenAI에서 근무했습니다. 다리오는 연구 부사장으로 GPT-2, GPT-3와 같은 영향력 있는 모델의 개발을 이끌었고, 다니엘라는 안전 및 정책 부사장으로 근무했습니다.

Dario와 Daniela Amodei

다리오 아모데이는 왜 OpenAI를 떠났을까요? 일부 소식통에 따르면, 그는 OpenAI가 윤리적 인공지능 개발 이외의 다른 것들을 점점 더 우선시하는 것에 대한 우려 때문에 회사를 떠났다고 합니다. 그리고 다리오 자신이 말한 내용은 다음과 같습니다.

“거기에는 잘못된 정보가 많습니다. 사람들은 우리가 마이크로소프트와의 거래를 좋아하지 않았기 때문에 떠났다고 말합니다. 거짓말입니다.” 그가 말하길, 그들이 떠난 진짜 이유는 ‘다른 사람의 비전에 대해 논쟁하는 것은 매우 비생산적’이기 때문이라고 합니다. 그래서 그는 OpenAI에 남는 대신 ‘신뢰하는 사람들을 데리고 가서 자신의 비전을 실현하자’고 스스로에게 말했습니다.

그래서 다리오, 다니엘라, 그리고 몇몇 전직 OpenAI 직원들이 2021년에 Anthropic을 설립하여 자신들의 인공지능 비전을 실현했습니다. 2023년 3월에 그들은 클로드 언어 모델의 첫 번째 버전을 발표했습니다. 이 이름은 “정보 이론의 아버지”이자 “정보화 시대의 아버지”로 알려진 미국의 수학자, 과학자, 발명가인 클로드 섀넌(Claude Shannon)에게서 영감을 받은 것입니다.

Claude Shannon

클로드의 원칙과 가치

이 회사의 사명은 인공지능 모델의 안전성, 내부 작동 방식, 사회적 영향을 조사하여 인공지능이 더욱 발전하고 능력이 향상됨에 따라 사회에 긍정적인 영향을 미칠 수 있도록 하는 것입니다.

Dario Amodei:

처음부터 안전성과 제어 가능성을 염두에 두고 Claude를 설계하려고 노력했습니다. 초기 고객 중 상당수가 예측 불가능한 일이 일어나지 않도록 하는 데 관심이 많은 기업들이었습니다. 또는 사실을 조작하는 기업들이었습니다. Claude의 큰 아이디어 중 하나는 헌법적 인공지능이라고 불리는 것입니다. 헌법적 인공지능은 명시적인 원칙을 따르도록 모델을 훈련하는 것을 기반으로 합니다. 따라서 모델이 무엇을 하는지 더 투명하게 알 수 있습니다. 그리고 이로 인해 모델을 더 쉽게 제어하고 안전하게 만들 수 있습니다.

헌법적 인공지능이란 무엇인가? 그것은 유해한 결과를 식별하는 인간의 라벨 없이 자기 개선을 통해 유용하고 정직하며 무해한 인공지능 보조자를 훈련하는 방법입니다.

이 과정은 두 단계로 이루어집니다. 감독 학습 단계와 강화 학습 단계입니다.

• 감독 학습 단계에서는 초기 모델이 샘플링되고, 자기 비판과 수정이 이루어지며, 수정된 응답에 따라 원래 모델이 미세 조정됩니다.
• 강화 학습 단계에서는 미세 조정된 모델의 샘플이 평가되고, 인공지능 선호도 데이터 세트에서 선호도 모델이 훈련됩니다. 그런 다음, 선호도 모델이 인공지능 어시스턴트를 훈련하는 보상 신호로 사용됩니다.

그래프에서 볼 수 있듯이, 이 접근법은 다른 언어 모델을 훈련하는 데 사용되는 기존의 인간 피드백 강화 학습(RLFH) 방식에 비해 더 나은 결과를 제공합니다. 즉, 클로드는 다른 챗봇보다 유해한 말을 할 가능성이 적고 오작동을 일으킬 가능성이 적습니다.

헌법적 RL vs 표준 RLHF

유일한 인간적 감독은 UN 인권 선언이나 DeepMind의 스패로우 원칙과 같은 다양한 출처에서 차용한 규칙 또는 원칙 목록을 통해 이루어집니다. 여기에서 더 많은 정보를 얻을 수 있습니다. https://www.anthropic.com/news/claudes-constitution

Claude의 기능과 현재 모델

일반적으로 인공지능 시스템은 벤치마크 평가에서 수행하는 방식에 따라 판단됩니다. 벤치마크 평가는 모델에 표준화된 테스트를 실시하여 코딩, 수학 문제 풀이 또는 기타 작업 수행 능력을 판단하는 것입니다. 이러한 기준에 따르면, 최신 버전의 Claude는 OpenAI와 Google의 가장 강력한 모델과 대략적으로 비교할 수 있습니다.

벤치마크에서 Claude 3.5와 다른 모델 비교

그러나 클로드의 가장 큰 특징인 감성 지능은 쉽게 측정할 수 있는 것이 아닙니다. 사람들은 클로드는 뭔가 다르다고 말합니다. 더 창의적이고 공감 능력이 뛰어나며, 통찰력이 뛰어나고, 로봇처럼 딱딱하지 않다고 합니다. 클로드의 결과물은 똑똑하고 세심한 사람이 내뱉을 법한 반응과 비슷하며, 다른 챗봇이 만들어내는 일반적인 산문과는 거리가 멀다고 합니다.

개발자들은 챗봇의 다음과 같은 긍정적인 측면을 강조합니다.

• 클로드는 AWS와 GCP를 통해 접근성을 제공하며, SOC 2 Type II 인증과 HIPAA 준수 옵션을 제공하여 엄격한 보안 관행을 준수하기 때문에 안전합니다.
• 클로드는 동급 최고의 탈옥 저항성과 오용 방지 기능을 결합했기 때문에 신뢰할 수 있습니다.
• 클로드는 매우 낮은 환각률과 매우 높은 정확도를 자랑하기 때문에 신뢰할 수 있습니다.

현재 클로드 모델 비교:

200,000 토큰은 대략 150,000개의 영어 단어 또는 680,000개의 유니코드 문자에 해당합니다. 

8192 토큰은 대략 6200개의 영어 단어 또는 12-14개의 단일 간격 페이지에 해당합니다.

4096 토큰은 대략 3100개의 영어 단어 또는 6-7개의 단일 간격 페이지에 해당합니다.

가장 최근에 출시된 모델 두 가지는 클로드 3.5 소네트와 클로드 3.5 하이쿠입니다.

Claude 3.5 Sonnet은 가장 강력하고 지능적인 모델입니다. 미묘한 차이도 있는 지시와 문맥을 이해하고, 스스로의 실수를 인식하고 수정하며, 차트, 그래프, 복잡한 도표와 같은 시각 자료에서 정보를 추출할 수 있습니다. 향상된 추론 능력, 큰 문맥 창, 낮은 환각률, 그리고 무엇보다도 따뜻하고 인간적인 어조 덕분에, Claude 3.5 Sonnet은 질문에 답하고 문서와 지식 기반을 분석하는 데 이상적인 챗봇입니다.

Claude 3.5 Haiku는 가장 빠른 모델입니다. 고객 서비스, 소셜 플랫폼, 온라인 커뮤니티, 전자상거래, 교육 등 빠른 응답 시간이 필요한 모든 분야에서 진가를 발휘합니다. Claude 3.5 Haiku는 빠르고 정확한 코드 제안을 제공하여 개발 속도를 높입니다. 코딩을 단순화하고 생산성을 높이고자 하는 소프트웨어 팀에 적합합니다. Claude 3.5 Haiku는 텍스트 입력만 지원하므로 시각적 데이터를 처리할 수 없습니다.

클로드의 강점과 약점: 클로드가 할 수 있는 것

어떤 작업에도 적합한 클로드 모델은 속도와 성능의 최상의 조합을 제공합니다. 클로드는 복잡한 인지 작업과 일상적인 데이터 처리를 똑같이 쉽게 수행할 수 있습니다. 정교한 언어 이해에서 빠른 숫자 계산에 이르기까지, 클로드 모델은 다양한 전문적, 개인적 요구를 충족하는 최고의 조력자입니다.

• 손으로 쓴 메모와 그래프, 사진에 이르기까지 정적 이미지를 전사하고 분석합니다.
• 다양한 언어 간 실시간 번역, 문법 연습, 다국어 콘텐츠 제작.
• HTML과 CSS로 웹사이트 제작, 이미지를 구조화된 JSON 데이터로 변환, 복잡한 코드 기반 디버깅.
• 자연스러운 대화에 참여하고, 상세하고 이해하기 쉬운 답변 제공.
• 거대한 컨텍스트 창 덕분에, 클로드는 더 큰 규모의 데이터를 소화할 수 있으며, 한 번에 책 전체를 분석하거나 긴 에세이를 비평할 수 있습니다.

지원되는 문서 유형:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

파일 제한:

• 파일당 30MB
• 채팅당 최대 5개의 파일

기술적 한계: 클로드는 인터넷에서 정보를 검색하거나 이미지를 생성하거나 음성 모드를 사용할 수 없습니다.

클로드는 농담, 말장난, 사과, 칭찬을 이해합니다. 챗봇의 뛰어난 글쓰기 능력 덕분에 감정적이고 인간적인 이야기를 만들 수 있습니다.

그러나 일부 사람들은 챗봇의 글쓰기 능력이 나빠졌다고 불평하는데, 그 이유는 클로드의 성격 때문입니다.

인공지능 모델을 개발하는 회사들은 일반적으로 유해한 말을 하지 않고 유해한 작업을 돕지 않도록 훈련시킵니다. 이것의 목표는 “무해한” 방식으로 행동하도록 모델을 훈련시키는 것입니다. 그러나 우리가 진정으로 존경할 만한 사람들의 성격을 생각할 때, 우리는 단지 피해 회피만을 생각하지 않습니다. 우리는 세상에 대해 호기심이 많고, 불친절하지 않으면서도 진실을 말하려고 노력하며, 지나치게 자신감에 차거나 지나치게 신중하지 않으면서도 문제의 여러 측면을 볼 수 있는 사람들을 생각합니다. 우리는 참을성 있는 경청자, 신중한 사고자, 재치 있는 대화 상대, 그리고 현명하고 다재다능한 사람과 관련된 여러 다른 특성을 가진 사람들을 생각합니다.

때때로 클로드는 민감한 질문에 대답하기를 거부하며 소극적인 태도를 보입니다. 개발자들은 봇으로부터 불법적인 정보를 추출하기가 어렵다는 사실에 매우 자부심을 가지고 있습니다. 예를 들어, 위조 화폐를 만드는 방법이나 경찰의 눈을 피하는 방법 등이 있습니다. 그러나 때때로 클로드는 완전히 무해한 요청에 대해 자제력을 잃고 강의를 시작합니다. 예를 들어, 봇은 “부적절한 유머로 다른 사람의 감정을 상하게 하고 싶지 않아서” 해고당하는 것에 대한 재미있는 이야기를 쓰기를 거부하거나, 유명한 캐릭터를 패러디해 달라는 요청을 받으면 저작권 침해를 언급할 수 있습니다.

Reddit 사용자는 Claude를 놀립니다.

저: 안녕하세요; 클로드: 사과를 시작합니다.

그러나 이 민감성에는 긍정적인 측면이 있습니다. Anthropic은 사용자의 개인 정보를 매우 보호합니다.

Anthropic은 사용자의 데이터로 모델을 훈련시키지 않습니다. 30일이 지나면 모든 정보를 자동으로 삭제하고, 사용자는 언제든지 서버에서 전체 대화를 삭제할 수 있습니다.

사람들이 Claude를 사용하는 방법

Claude는 계약서나 사건 파일과 같은 긴 법률 문서를 철저히 검토하고 이해할 수 있습니다. 그리고 이처럼 시간이 많이 걸리는 작업을 수행함으로써 Claude는 변호사가 더 높은 수준의 업무를 위해 귀중한 시간을 절약할 수 있도록 돕습니다. 이것이 바로 법률 기술 스타트업인 Robin AI가 Claude를 사용하여 법률 서류를 분석하는 이유입니다.

Scribd, Inc.는 Claude를 사용하여 수백만 명의 사용자가 업로드한 문서에 대한 고품질 메타데이터를 생성하여 콘텐츠 검색 가능성을 개선하고 글로벌 플랫폼 전반에 걸쳐 사용자 참여를 유도합니다.

• 사용자가 업로드한 콘텐츠 중 품질 메타데이터가 없는 콘텐츠의 70%를 처리하는 데 도움이 되었습니다.
• 풍부한 콘텐츠 설명을 통해 사용자 가입 및 구독이 크게 증가했습니다.
• 1억 개 이상의 문서를 처리할 수 있도록 확장되었습니다.

현대적인 보험 플랫폼인 Newfront는 Claude를 사용하여 지루한 보험 업무를 자동화하고 즉각적인 지원을 제공함으로써 모든 사람이 더 쉽게 보험에 접근하고 효율적으로 이용할 수 있도록 합니다.

Claude를 통해 Newfront는 다음과 같은 이점을 누리고 있습니다.

• HR 팀의 업무량을 연간 1개월 분량 줄이고 직원들에게 연중무휴 개인화된 지원을 제공합니다.
• 문서 처리 비용을 60% 절감합니다.
• 법무 팀을 위한 즉각적인 계약 검토를 제공합니다.

Zapia는 라틴아메리카 소비자들이 WhatsApp과 같은 인기 메시지 앱을 통해 제품을 발견하고, 구매하고, 지원을 받을 수 있도록 돕습니다.

Zapia는 Claude를 사용하여 다음과 같은 성과를 거두었습니다.

• 첫해에 사용자 수가 250만 명 증가했습니다.
• 사용자 피드백의 90% 이상이 긍정적이었습니다.
• 시간당 수십만 개의 메시지를 처리합니다.
   

보시다시피, 클로드는 다양한 산업 분야에서 활용될 수 있는 잠재력을 가지고 있습니다. 기업들은 영업에서 소프트웨어 개발에 이르는 다양한 업무 흐름에 클로드를 도입하고 있습니다. 반복적인 작업을 자동화하고 콘텐츠 제작을 지원함으로써 클로드는 생산성을 향상시키고, 작업자들이 더 가치 있는 일에 집중할 수 있도록 해줍니다.

클로드의 고객과 상업적 활용 사례에 대해 자세히 알아보세요: https://www.anthropic.com/customers

무작위로 선택된 1백만 개의 채팅을 기반으로 한 통계:

• 10.4% – 웹 및 모바일 앱 개발
• 9.2% – 콘텐츠 제작 및 커뮤니케이션
• 7.2% – 학술 연구 및 글쓰기
• 7.1% – 교육 및 경력 개발
• 6.0% – 고급 인공지능/머신러닝 응용 프로그램
• 5.7% – 비즈니스 전략 및 운영
• 4.5% – 언어 번역
• 3.9% – 데브옵스 및 클라우드 인프라
• 3.7% – 디지털 마케팅 및 SEO
• 3.5% – 데이터 분석 및 시각화

이 데이터는 인공지능 사용 패턴에 대한 개요를 제공하고 개인의 사생활을 침해하지 않으면서 트렌드와 행동을 드러내는 플랫폼인 클리오(Claude Insights and Observations)에 의해 수집되었습니다.

다양한 응용 프로그램과 여러 카테고리 전반에 걸친 상당한 사용률은 인공지능 기반 솔루션이 점점 더 보편화되고 있음을 보여줍니다. 이러한 추세는 클로드와 같은 도구의 다양성을 보여주고, 인공지능이 우리의 직업적, 개인적 삶에 점점 더 통합되고 있음을 반영합니다.