Claude: Bližší pohled na inovativní umělou inteligenci společnosti Anthropic

Chatbot Claude od společnosti Anthropic je jedním z hlavních konkurentů ChatGPT. Tato společnost sice není tak známá jako OpenAI, ale je úspěšná a dobře financovaná. V posledních několika letech Amazon do společnosti Anthropic investoval 4 miliardy dolarů a v listopadu 2024 oznámil novou investici ve výši dalších 4 miliard dolarů, takže celková částka dosáhne 8 miliard dolarů. Pokud jde o Clauda, lidé chatbota chválí za jeho lidskost, kreativitu, citlivost a emoční inteligenci. V tomto článku se podíváme na historii chatbota Claude, jeho základní principy, výhody a omezení.

Původ chatu Claude

Společnost Anthropic spoluzaložili Dario Amodei a jeho sestra Daniela Amodei. Před založením společnosti oba pracovali ve společnosti OpenAI: Dario byl viceprezidentem pro výzkum a vedl tvorbu vlivných modelů, jako jsou GPT-2 a GPT-3, zatímco Daniela byla viceprezidentkou pro bezpečnost a politiku.

Dario a Daniela Amodeiovi

Proč Dario Amodei opustil OpenAI? Některé zdroje uvádějí, že odešel kvůli obavám, že OpenAI stále více upřednostňuje cokoli jiného než etický vývoj umělé inteligence. A tady je to, co říká sám Dario:

„Existuje mnoho dezinformací. Lidé říkají, že jsme odešli, protože se nám nelíbila dohoda se společností Microsoft. To je lež.“ Skutečným důvodem odchodu je podle něj to, že „je neuvěřitelně neproduktivní snažit se polemizovat s vizí někoho jiného“. Amodei si tedy místo setrvání v OpenAI řekl: „Vezmi pár lidí, kterým věříš, a jdi uskutečnit svou vizi.“

Dario, Daniela a několik dalších bývalých zaměstnanců OpenAI proto v roce 2021 založili společnost Anthropic, aby realizovali svou vizi umělé inteligence. V březnu 2023 vydali první verzi modelu jazyka Claude. Název byl inspirován zejména Claudem Shannonem, americkým matematikem, vědcem a vynálezcem známým jako „otec teorie informace“ a „otec informačního věku“.

Claude Shannon

Claudovy zásady a hodnoty

Posláním společnosti je zkoumat bezpečnost, vnitřní fungování a společenský dopad modelů umělé inteligence a zajistit, aby umělá inteligence měla pozitivní dopad na společnost, protože se stává stále pokročilejší a schopnější.

Dario Amodei:

Od začátku jsme se snažili navrhovat Claude s ohledem na bezpečnost a ovladatelnost. Mnoho našich prvních zákazníků byly podniky, kterým velmi záleží na tom, aby model nedělal nic nepředvídatelného. Nebo aby si vymýšlely skutečnosti. Jednou z velkých myšlenek, které stojí za modelem Claude, je něco, čemu se říká konstituční umělá inteligence. Konstituční AI je založena na trénování modelu, aby se řídil explicitním souborem zásad. Takže můžete být transparentnější ohledně toho, co model dělá. A díky tomu je snazší model kontrolovat a zajistit jeho bezpečnost.

Co je konstituční umělá inteligence? Jedná se o metodu výcviku užitečného, poctivého a neškodného asistenta AI prostřednictvím sebezdokonalování bez jakýchkoli lidských štítků identifikujících škodlivé výstupy.

Tento proces zahrnuje dvě fáze fázi učení pod dohledem a fázi učení s posilováním:

• Ve fázi učení pod dohledem je vzorkován počáteční model, jsou generovány sebekritiky a revize a původní model je dolaďován na základě revidovaných odpovědí.
• Ve fázi posilování učení se vyhodnocují vzorky z vyladěného modelu a z datové sady preferencí AI se trénuje model preferencí. Preferenční model je pak použit jako signál odměny pro trénink asistenta AI.

Jak je vidět z grafu, tento přístup poskytuje lepší výsledky ve srovnání s konvenční metodou učení posilováním z lidské zpětné vazby (RLFH), která se používá k trénování jiných jazykových modelů. To znamená, že Claude méně často říká škodlivé věci a méně často se chová špatně než ostatní chatboti.

Konstituční RL vs. standardní RLHF

Jediný lidský dohled je zajištěn prostřednictvím seznamu pravidel nebo zásad převzatých z různých zdrojů, jako je Deklarace lidských práv OSN nebo Principy Sparrow od společnosti DeepMind. Více se o nich můžete dozvědět zde: https://www.anthropic.com/news/claudes-constitution

Funkce a aktuální modely Claude

Systémy umělé inteligence se obvykle posuzují podle toho, jak si vedou ve srovnávacích hodnoceních - standardizovaných testech, které se zadávají modelům, aby se určilo, jak jsou schopné kódovat, odpovídat na matematické otázky nebo plnit jiné úkoly. Podle těchto měřítek jsou nejnovější verze systému Claude zhruba srovnatelné s nejvýkonnějšími modely společností OpenAI a Google.

Claude 3.5 vs. ostatní modely v benchmarcích

Ale Claudova klíčová vlastnost - jeho emoční inteligence - není něco, co by se dalo snadno změřit. Lidé říkají, že Claude je prostě jiný. Je kreativnější a empatičtější. Je pronikavější a méně robotický. Říkají, že Claudovy výstupy jsou podobné odpovědím, které by poskytl chytrý a pozorný člověk, a méně se podobají generické próze generované jinými chatboty.

Vývojáři vyzdvihují následující pozitivní aspekty chatbota:

• Claude je bezpečný, protože nabízí přístupnost prostřednictvím AWS a GCP, certifikaci SOC 2 typu II a možnosti shody s HIPAA, přičemž dodržuje přísné bezpečnostní postupy.
• Claude je důvěryhodný, protože kombinuje nejlepší odolnost proti útěku z vězení a prevenci zneužití ve své třídě.
• Claude je spolehlivý, protože se může pochlubit velmi nízkou mírou halucinací a velmi vysokou přesností, a to i při práci s dlouhými dokumenty.

Srovnání současných modelů Claude:

200 tisíc tokenů zhruba odpovídá 150 tisícům anglických slov nebo 680 tisícům znaků unicode.

8192 tokenů zhruba odpovídá 6200 anglickým slovům nebo 12-14 jednostránkovým textům.

4096 tokenů zhruba odpovídá 3100 anglickým slovům nebo 6-7 jednostránkovým stránkám.

Dva nejnovější modely se jmenují Claude 3.5 Sonnet a Claude 3.5 Haiku.

Claude 3.5 Sonnet je nejvýkonnější a nejinteligentnější model. Dokáže porozumět nuancovaným pokynům a kontextu, rozpoznat a opravit vlastní chyby, extrahovat informace z vizualizací, jako jsou tabulky, grafy a složitá schémata. Vylepšené schopnosti uvažování, velké kontextové okno, nízká míra halucinací a vřelý tón podobný lidskému ke všemu dělají z Claude 3.5 Sonnet ideální chatbot pro zodpovídání otázek, analýzu dokumentů a znalostních bází.

Claude 3.5 Haiku je nejrychlejší model. Skutečně zazáří všude tam, kde potřebujete rychlou odezvu, ať už v oblasti zákaznického servisu, sociálních platforem, online komunit, e-commerce nebo vzdělávání. Claude 3.5 Haiku poskytuje rychlé a přesné návrhy kódu, které urychlují vývoj. Je ideální pro softwarové týmy, které chtějí zjednodušit kódování a zvýšit produktivitu. Claude 3.5 Haiku podporuje pouze textový vstup, což znamená, že nedokáže zpracovávat vizuální data.

Co umí Claude: jeho silné a slabé stránky

Modelová řada Claude, která je vhodná pro jakýkoli úkol, nabízí nejlepší kombinaci rychlosti a výkonu. Claude dokáže stejně snadno provádět složité kognitivní úlohy i rutinní zpracování dat. Od sofistikovaného porozumění jazyku až po rychlé počítání čísel - modely Claude jsou vašimi pomocníky pro širokou škálu profesních i osobních potřeb:

• Přepisujte a analyzujte statické obrázky, od ručně psaných poznámek a grafů až po fotografie.
• Překládejte mezi různými jazyky v reálném čase, procvičujte gramatiku a vytvářejte vícejazyčný obsah.
• Vytvářejte webové stránky v jazycích HTML a CSS, převádějte obrázky na strukturovaná data JSON a odstraňujte chyby ve složitých bázích kódu.
• Zapojujte se do přirozených rozhovorů a poskytujte podrobné a snadno srozumitelné odpovědi.
• Díky obrovskému kontextovému oknu dokáže Claude na jeden zátah zpracovat větší množství dat, analyzovat celou knihu nebo zkritizovat dlouhou esej.

Podporované typy dokumentů:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Limity souborů:

• 30 MB na soubor
• Až 5 souborů na chat

Technická omezení: Claude nemůže vyhledávat informace na internetu, generovat obrázky, nemá hlasový režim.

Claude rozumí vtipům, slovním hříčkám, omluvám a komplimentům. Výjimečné schopnosti chatbota v oblasti psaní mu umožňují vytvářet emotivní příběhy podobné lidským.

Někteří lidé si však stěžují, že chatbot se v psaní zhoršil, a důvodem je Claudův charakter.

Společnosti vyvíjející modely umělé inteligence je obvykle trénují, aby neříkaly škodlivé věci a nepomáhaly se škodlivými úkoly. Cílem je vycvičit modely tak, aby se chovaly „neškodně“. Když však přemýšlíme o charakteru těch, které považujeme za skutečně obdivuhodné, nemyslíme jen na vyhýbání se škodám. Myslíme na ty, kteří jsou zvědaví na svět, kteří se snaží říkat pravdu, aniž by byli nelaskaví, a kteří jsou schopni vidět mnoho stran problému, aniž by byli ve svých názorech příliš sebevědomí nebo příliš opatrní. Myslíme na ty, kteří jsou trpělivými posluchači, pečlivými mysliteli, vtipnými konverzačními specialisty a mnoha dalšími vlastnostmi, které si spojujeme s moudrým a všestranným člověkem.

Claude se občas chová nesměle a odmítá odpovídat na citlivé otázky. Vývojáři jsou velmi hrdí na to, že je obtížné z bota získat nelegální informace, například jak padělat peníze nebo jak se skrýt před policií. Někdy však Claude zapne autocenzuru a poučuje v reakci na zcela neškodné dotazy. Bot například odmítne napsat vtipný příběh o tom, že ho vyhodili z práce, protože „nechce nikoho ranit nevhodným humorem“; nebo se může odvolávat na porušení autorských práv, pokud je požádán o parodování slavné postavy.

Uživatelé Redditu si z Clauda dělají legraci:

Já: Ahoj; Claude: začne se omlouvat

Tato citlivost má však i dobrou stránku - Anthropic si velmi chrání vaše soukromí:

Anthropic netrénuje své modely na vašich datech. Po 30 dnech automaticky odstraní všechny vaše údaje a kdykoli můžete z jejich serverů odstranit celé konverzace.

Jak lidé používají Clauda

Claude dokáže důkladně prohlédnout a pochopit dlouhé právní dokumenty, jako jsou smlouvy nebo spisy. A tím, že Claude přebírá tento časově náročný úkol, pomáhá právníkům šetřit jejich drahocenný čas pro práci na vyšší úrovni. Proto startup Robin AI, který se zabývá právními technologiemi, používá Claude k analýze právních dokumentů.

Scribd, Inc. používá Claude k vytváření vysoce kvalitních metadat pro miliony dokumentů nahraných uživateli, čímž zlepšuje vyhledatelnost obsahu a podporuje zapojení uživatelů na svých globálních platformách.

• Pomohl vyřešit 70 % uživatelsky nahraného obsahu, který postrádal kvalitní metadata.
• Bohatší popisy obsahu výrazně zvýšily počet registrací a odběrů ze strany uživatelů.
• Škálování pro zpracování více než 100 milionů dokumentů.

Newfront, moderní pojišťovací platforma, využívá Clauda k automatizaci zdlouhavých pojišťovacích úkonů a k okamžité podpoře, díky čemuž je pojištění dostupnější a efektivnější pro každého.

S Claudem Newfront:

• Ušetří HR týmům jeden měsíc ročně a poskytuje zaměstnancům nepřetržitou personalizovanou podporu.
• Snižuje náklady na zpracování dokumentů o 60 %.
• Poskytuje okamžité kontroly smluv pro právní týmy.

Zapia pomáhá latinskoamerickým spotřebitelům objevovat produkty, nakupovat a získávat podporu prostřednictvím oblíbených aplikací pro zasílání zpráv, jako je WhatsApp.

Pomocí aplikace Claude Zapia:

• V prvním roce se počet uživatelů zvýšil o 2,5 milionu.
• Získala více než 90 % pozitivní zpětné vazby od uživatelů.
• Zpracovává stovky tisíc zpráv za hodinu.

Jak vidíte, všestrannost aplikace Claude napříč odvětvími podtrhuje její komerční potenciál. Společnosti jej nasazují pro pracovní postupy od prodeje až po vývoj softwaru. Automatizací opakujících se úkolů a asistencí při tvorbě obsahu může Claude zvýšit produktivitu a uvolnit lidské pracovníky, aby se mohli soustředit na práci s vyšší hodnotou.

Další informace o zákaznících a komerčních případech využití systému Claude najdete zde: https://www.anthropic.com/customers.

Statistiky vycházejí z 1 milionu náhodně vybraných chatů:

• 10,4 % - Vývoj webových a mobilních aplikací
• 9,2 % - Tvorba obsahu a komunikace
• 7,2 % - Akademický výzkum a psaní
• 7,1 % - Vzdělávání a kariérní rozvoj
• 6,0 % - Pokročilé aplikace umělé inteligence / strojového učení
• 5,7 % - Obchodní strategie a provoz
• 4,5 % - Jazykové překlady
• 3,9 % - DevOps a cloudová infrastruktura
• 3,7 % - Digitální marketing a SEO
• 3,5 % - Analýza a vizualizace dat

Data byla shromážděna pomocí platformy Clio (Claude Insights and Observations), která poskytuje přehled o vzorcích používání UI a odhaluje trendy a chování, aniž by bylo ohroženo soukromí jednotlivců.

Široká škála aplikací a značná míra využití napříč různými kategoriemi poukazují na to, jak se řešení využívající UI stávají stále běžnějšími. Tento trend ukazuje všestrannost nástrojů, jako je Claude, a odráží rostoucí integraci UI do našeho profesního i osobního života.