Claude: En närmare titt på Anthropics innovativa AI

Chatbot Claude från Anthropic är en av ChatGPT:s huvudkonkurrenter. Företaget kanske inte är lika känt som OpenAI, men det är framgångsrikt och välfinansierat. Under de senaste åren har Amazon investerat 4 miljarder dollar i Anthropic, och i november 2024 tillkännagav de en ny investering på ytterligare 4 miljarder dollar, vilket ger totalt 8 miljarder dollar. När det gäller Claude berömmer människor chatbot för sin mänsklighet, kreativitet, känslighet och emotionella intelligens. I den här artikeln kommer vi att titta på Claude-chatbotens historia, dess grundläggande principer, fördelar och begränsningar.

Claudes ursprung

Anthropic är medgrundat av Dario Amodei och hans syster Daniela Amodei. Innan de grundade sitt företag arbetade de båda på OpenAI: Dario var vice president för forskning och ledde skapandet av inflytelserika modeller som GPT-2 och GPT-3, medan Daniela var vice president för säkerhet och policy.

Dario och Daniela Amodei

Varför lämnade Dario Amodei OpenAI? Vissa källor säger att han avgick på grund av oro för att OpenAI alltmer prioriterade allt annat än etisk utveckling av artificiell intelligens. Och här är vad Dario själv säger:

”Det finns en hel del felaktig information där ute. Folk säger att vi lämnade för att vi inte gillade avtalet med Microsoft. Det stämmer inte.” Den verkliga anledningen till att vi lämnade, sa han, är att ”det är otroligt improduktivt att försöka argumentera med någon annans vision”. Så i stället för att stanna kvar på OpenAI sa Amodei till sig själv: ”Ta med dig några personer du litar på och förverkliga din vision.”

Dario, Daniela och några andra tidigare OpenAI-anställda bildade därför Anthropic 2021 för att förverkliga sin vision om artificiell intelligens. I mars 2023 släppte de den första versionen av språkmodellen Claude. Namnet är inspirerat av Claude Shannon, en amerikansk matematiker, vetenskapsman och uppfinnare som är känd som ”informationsteorins fader” och ”informationsålderns fader”.

Claude Shannon

Claudes principer och värderingar

Bolagets uppdrag är att undersöka AI-modellers säkerhet, inre funktion och samhällspåverkan och säkerställa att artificiell intelligens har en positiv inverkan på samhället i takt med att den blir mer avancerad och kapabel.

Dario Amodei:

Vi har försökt att konstruera Claude med säkerhet och kontrollerbarhet i åtanke från början. Många av våra tidiga kunder har varit företag som bryr sig mycket om att se till att modellen inte gör något oförutsägbart. Eller hittar på fakta. En av de stora idéerna bakom Claude är något som kallas konstitutionell AI. Konstitutionell AI bygger på att modellen tränas att följa en uttrycklig uppsättning principer. På så sätt kan man vara mer transparent med vad modellen gör. Och det gör det lättare att kontrollera modellen och göra den säker.

Vad är konstitutionell AI? Det är en metod för att utbilda hjälpsamma, ärliga och ofarliga AI-assistenter genom självförbättring utan några mänskliga etiketter som identifierar skadliga utgångar.

Denna process omfattar två faser: en övervakad inlärningsfas och en förstärkningsinlärningsfas:

• I den övervakade fasen samplas en initial modell, självkritik och revideringar genereras, och den ursprungliga modellen finjusteras utifrån de reviderade svaren.
• I den förstärkande inlärningsfasen utvärderas prov från den finjusterade modellen och en preferensmodell tränas från datasetet med AI-preferenser. Preferensmodellen används sedan som belöningssignal för att träna AI-assistenten.

Som framgår av diagrammet ger den här metoden bättre resultat jämfört med den konventionella metoden Reinforcement learning from human feedback (RLFH) som används för att träna andra språkmodeller. Det innebär att Claude är mindre benägen att säga skadliga saker och beter sig illa mindre ofta än andra chatbottar.

Konstitutionell RL vs Standard RLHF

Den enda mänskliga övervakningen sker genom en lista med regler eller principer som lånats från olika källor, t.ex. FN:s deklaration om de mänskliga rättigheterna eller Sparrow Principles från DeepMind. Du kan lära dig mer om det här: https://www.anthropic.com/news/claudes-constitution

Claudes funktioner och aktuella modeller

Vanligtvis bedöms system för artificiell intelligens baserat på hur de presterar på benchmarkutvärderingar - standardiserade tester som ges till modeller för att avgöra hur kapabla de är att koda, svara på matematiska frågor eller andra uppgifter. Med dessa mått mätt är de senaste versionerna av Claude ungefär jämförbara med de mest kraftfulla modellerna från OpenAI och Google.

Claude 3.5 jämfört med andra modeller i benchmarks

Men Claudes främsta egenskap - dess emotionella intelligens - är inte något som lätt kan mätas. Folk säger att Claude bara känns annorlunda. Mer kreativ och empatisk. Mer insiktsfull och mindre gnisslande robotaktig. Claudes utgångar, säger de, är som de svar som en smart, uppmärksam människa skulle ge, och mindre som den generiska prosa som genereras av andra chatbots.

Utvecklarna lyfter fram följande positiva aspekter av chatboten:

• Claude är säker eftersom den erbjuder tillgänglighet via AWS och GCP, SOC 2 typ II-certifiering och HIPAA-efterlevnadsalternativ, som följer rigorösa säkerhetsrutiner.
• Claude är trovärdig eftersom den kombinerar klassens bästa jailbreakmotstånd och förebyggande av missbruk.
• Claude är pålitlig eftersom den har mycket låg hallucinationsfrekvens och mycket hög noggrannhet, även när den arbetar med långa dokument.

Jämförelse av nuvarande Claude-modeller:

200 000 tokens motsvarar ungefär 150 000 engelska ord eller 680 000 Unicode-tecken.

8192 tokens motsvarar ungefär 6200 engelska ord eller 12-14 sidor med enkelt radavstånd.

4096 tokens motsvarar ungefär 3100 engelska ord eller 6-7 sidor med enkelt radavstånd.

Två av de nyaste modellerna heter Claude 3.5 Sonnet och Claude 3.5 Haiku.

Claude 3.5 Sonnet är den mest kraftfulla och intelligenta modellen. Den kan förstå nyanserade instruktioner och sammanhang, känna igen och korrigera sina egna misstag, extrahera information från visuella element som tabeller, grafer och komplexa diagram. Förbättrad resonemangsförmåga, ett stort kontextfönster, låg hallucinationsfrekvens och en varm, människoliknande ton gör Claude 3.5 Sonnet till en idealisk chatbot för att svara på frågor, analysera dokument och kunskapsbaser.

Claude 3.5 Haiku är den snabbaste modellen. Den briljerar verkligen överallt där du behöver snabba svarstider, oavsett om det gäller kundtjänst, sociala plattformar, onlinegemenskaper, e-handel eller utbildning. Claude 3.5 Haiku ger snabba och exakta kodförslag som snabbar upp utvecklingen. Det är perfekt för programvaruteam som vill förenkla kodningen och öka produktiviteten. Claude 3.5 Haiku stöder endast textinmatning, vilket innebär att den inte kan bearbeta visuella data.

Vad Claude kan göra: dess styrkor och svagheter

Claude-familjen har rätt storlek för alla uppgifter och erbjuder den bästa kombinationen av hastighet och prestanda. Claude kan utföra komplexa kognitiva uppgifter och rutinmässig databehandling med lika stor lätthet. Från sofistikerad språkförståelse till snabb sifferexercis - Claude-modellerna är dina assistenter för ett brett spektrum av professionella och personliga behov:

• Transkribera och analysera statiska bilder, från handskrivna anteckningar och grafer till fotografier.
• Översätt mellan olika språk i realtid, öva grammatik och skapa flerspråkigt innehåll.
• Skapa webbplatser i HTML och CSS, omvandla bilder till strukturerad JSON-data och felsöka komplexa kodbaser.
• Delta i naturliga konversationer och ge detaljerade, lättförståeliga svar.
• Tack vare det stora kontextfönstret kan Claude smälta större datamängder, analysera en hel bok eller kritisera en lång uppsats på en gång.

Dokumenttyper som stöds:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Filbegränsningar:

• 30 MB per fil
• Upp till 5 filer per chatt

Tekniska begränsningar: Claude kan inte söka efter information på Internet, generera bilder och har inget röstläge.

Claude förstår skämt, ordvitsar, ursäkter och komplimanger. Chatbotens exceptionella skrivförmåga gör det möjligt för den att skapa känslomässiga, människoliknande berättelser.

Vissa människor klagar dock på att chatboten har blivit sämre på att skriva, och anledningen till detta är Claudes karaktär.

Företag som utvecklar AI-modeller tränar dem i allmänhet att undvika att säga skadliga saker och att undvika att hjälpa till med skadliga uppgifter. Målet med detta är att träna modellerna att bete sig på ett sätt som är ”ofarligt”. Men när vi tänker på karaktären hos dem som vi tycker är genuint beundransvärda tänker vi inte bara på att undvika skador. Vi tänker på dem som är nyfikna på världen, som strävar efter att säga sanningen utan att vara ovänliga och som kan se många sidor av en fråga utan att bli överdrivet självsäkra eller alltför försiktiga i sina åsikter. Vi tänker på dem som är tålmodiga lyssnare, noggranna tänkare, kvicka konversatörer och många andra egenskaper som vi förknippar med att vara en klok och allsidig person.

Ibland agerar Claude blygt och vägrar att svara på känsliga frågor. Utvecklarna är mycket stolta över att det är svårt att få ut olaglig information från boten, till exempel hur man förfalskar pengar eller hur man gömmer sig för polisen. Men ibland slår Claude på självcensur och föreläsningar som svar på helt ofarliga förfrågningar. Till exempel vägrar boten att skriva en rolig historia om att bli avskedad eftersom ”inte vill skada någons känslor med olämplig humor”; eller kan citera upphovsrättsintrång om han ombeds att parodiera en berömd karaktär.

Reddit-användare gör narr av Claude:

Jag: Hej; Claude: börjar be om ursäkt

Men det finns en bra sida av denna känslighet - Anthropic värnar mycket om din integritet:

Anthropic tränar inte sina modeller på dina data. De raderar automatiskt all din information efter 30 dagar, och du kan ta bort hela chattar från deras servrar när du vill.

Hur människor använder Claude

Claude kan noggrant granska och förstå långa juridiska dokument, t.ex. avtal eller ärendeakter. Och genom att ta på sig denna tidskrävande uppgift hjälper Claude advokater att spara sin värdefulla tid för arbete på högre nivå. Det är därför som den juridiska teknikstartupen Robin AI använder Claude för att analysera juridiskt pappersarbete.

Scribd, Inc. använder Claude för att generera metadata av hög kvalitet för miljontals dokument som laddats upp av användare, vilket förbättrar möjligheten att hitta innehåll och ökar användarnas engagemang på företagets globala plattformar.

• Hjälpte till att åtgärda 70 % av det användaruppladdade innehållet som saknade metadata av hög kvalitet.
• Rikare innehållsbeskrivningar ledde till betydligt fler användarregistreringar och prenumerationer.
• Skalades för att bearbeta över 100 miljoner dokument.

Newfront, en modern försäkringsplattform, använder Claude för att automatisera tråkiga försäkringsuppgifter och ge omedelbar support, vilket gör försäkringar mer tillgängliga och effektiva för alla.

Med Claude kan Newfront:

• Sparar HR-teamen en månad per år och ger de anställda personlig support dygnet runt.
• Minskar kostnaderna för dokumenthantering med 60 %.
• Tillhandahåller omedelbara avtalsgranskningar för juridiska team.

Zapia hjälper latinamerikanska konsumenter att upptäcka produkter, göra inköp och få support via populära meddelandeappar som WhatsApp.

Genom att använda Claude kunde Zapia:

• Växte med 2,5 miljoner användare under sitt första år.
• Genererade över 90 % positiv feedback från användarna.
• Hanteras hundratusentals meddelanden per timme.

Som du kan se visar Claudes mångsidighet inom olika branscher dess kommersiella potential. Företag använder det för arbetsflöden inom allt från försäljning till mjukvaruutveckling. Genom att automatisera repetitiva uppgifter och hjälpa till med att skapa innehåll kan Claude öka produktiviteten och frigöra personal som kan fokusera på arbete med högre värde.

Läs mer om Claudes kunder och kommersiella användningsområden här: https://www.anthropic.com/customers

Statistik baserad på 1 miljon slumpmässigt utvalda chattar:

• 10,4% - Utveckling av webb- och mobilappar
• 9,2% - Skapande av innehåll och kommunikation
• 7,2% - Akademisk forskning och skrivande
• 7,1% - Utbildning och karriärutveckling
• 6,0% - Avancerade tillämpningar för artificiell intelligens och maskininlärning
• 5,7% - Affärsstrategi och affärsverksamhet
• 4,5% - Språköversättning
• 3,9% - DevOps och molninfrastruktur
• 3,7% - Digital marknadsföring och SEO
• 3,5% - Dataanalys och visualisering

Uppgifterna samlades in av Clio (Claude Insights and Observations), en plattform som ger en översikt över AI-användningsmönster och avslöjar trender och beteenden utan att äventyra den personliga integriteten.

Det stora utbudet av applikationer och de höga användningsgraderna i olika kategorier visar att AI-drivna lösningar blir allt vanligare. Denna trend visar hur mångsidiga verktyg som Claude är och speglar den växande integrationen av AI i våra yrkes- och privatliv.