Claude: Bližší pohľad na inovatívnu umelú inteligenciu spoločnosti Anthropic

Chatbot Claude od spoločnosti Anthropic je jedným z hlavných konkurentov ChatGPT. Táto spoločnosť síce nie je taká známa ako OpenAI, ale je úspešná a dobre financovaná. V posledných rokoch Amazon investoval do spoločnosti Anthropic 4 miliardy dolárov a v novembri 2024 oznámil novú investíciu vo výške ďalších 4 miliárd dolárov, čím celková suma dosiahla 8 miliárd dolárov. Pokiaľ ide o Clauda, ľudia chatbota chvália za jeho ľudskosť, kreativitu, citlivosť a emocionálnu inteligenciu. V tomto článku sa pozrieme na históriu chatbota Claude, jeho základné princípy, výhody a obmedzenia.

Pôvod Clauda

Spoločnosť Anthropic spoluzakladajú Dario Amodei a jeho sestra Daniela Amodei. Pred založením spoločnosti obaja pracovali v OpenAI: Dario bol viceprezidentom pre výskum a viedol tvorbu vplyvných modelov, ako sú GPT-2 a GPT-3, zatiaľ čo Daniela bola viceprezidentkou pre bezpečnosť a politiku.

Dario a Daniela Amodeiovci

Prečo Dario Amodei opustil OpenAI? Niektoré zdroje uvádzajú, že odišiel kvôli obavám, že OpenAI čoraz viac uprednostňuje čokoľvek iné ako etický vývoj umelej inteligencie. A tu je to, čo hovorí sám Dario:

„Existuje veľa dezinformácií. Ľudia hovoria, že sme odišli, pretože sa nám nepáčila dohoda so spoločnosťou Microsoft. To je lož.“ Skutočným dôvodom odchodu je podľa neho to, že „je neuveriteľne neproduktívne snažiť sa polemizovať s víziou niekoho iného“. Namiesto toho, aby zostal v OpenAI, si Amodei povedal: „Vezmi ľudí, ktorým dôveruješ, a choď realizovať svoju víziu.“

Dario, Daniela a niekoľko ďalších bývalých zamestnancov OpenAI preto v roku 2021 založili spoločnosť Anthropic, aby zrealizovali svoju víziu umelej inteligencie. V marci 2023 vydali prvú verziu modelu jazyka Claude. Názov bol inšpirovaný najmä Claudom Shannonom, americkým matematikom, vedcom a vynálezcom známym ako „otec teórie informácií“ a „otec informačného veku“.

Claude Shannon

Claudove zásady a hodnoty

Poslaním spoločnosti je skúmať bezpečnosť, vnútorné fungovanie a spoločenský vplyv modelov umelej inteligencie a zabezpečiť, aby umelá inteligencia mala pozitívny vplyv na spoločnosť, pretože sa stáva stále pokročilejšou a schopnejšou.

Dario Amodei:

Od začiatku sme sa snažili navrhnúť model Claude s ohľadom na bezpečnosť a ovládateľnosť. Mnohí z našich prvých zákazníkov boli podniky, ktorým veľmi záleží na tom, aby model nerobil nič nepredvídateľné. Alebo si vymýšľali fakty. Jednou z veľkých myšlienok, ktoré stoja za modelom Claude, je niečo, čo sa nazýva konštitučná umelá inteligencia. Konštitučná UI je založená na tréningu modelu, aby sa riadil explicitným súborom zásad. Takže môžete byť transparentnejší v tom, čo model robí. A vďaka tomu je jednoduchšie model kontrolovať a zabezpečiť jeho bezpečnosť.

Čo je konštitučná umelá inteligencia? Je to metóda na výcvik užitočného, čestného a neškodného asistenta umelej inteligencie prostredníctvom sebazdokonaľovania bez akýchkoľvek ľudských značiek, ktoré by identifikovali škodlivé výstupy.

Tento proces zahŕňa dve fázy fázu učenia pod dohľadom a fázu posilňovania učenia:

• Vo fáze pod dohľadom sa vyberie počiatočný model, vytvoria sa sebakritiky a revízie a pôvodný model sa doladí na základe revidovaných odpovedí.
• Vo fáze posilneného učenia sa vyhodnocujú vzorky z vyladeného modelu a model preferencií sa trénuje zo súboru údajov o preferenciách umelej inteligencie. Model preferencií sa potom použije ako signál odmeny na trénovanie asistenta UI.

Ako je vidieť na grafe, tento prístup poskytuje lepšie výsledky v porovnaní s konvenčnou metódou Reinforcement learning from human feedback (RLFH) používanou na trénovanie iných jazykových modelov. To znamená, že Claude menej často hovorí škodlivé veci a menej často sa správa nesprávne ako iní chatboti.

Konštitučný RL vs. štandardný RLHF

Jediný ľudský dohľad je zabezpečený prostredníctvom zoznamu pravidiel alebo zásad prevzatých z rôznych zdrojov, ako je Deklarácia ľudských práv OSN alebo Sparrow Principles od spoločnosti DeepMind. Viac informácií o nich sa dozviete tu: https://www.anthropic.com/news/claudes-constitution

Claudeove funkcie a aktuálne modely

Systémy umelej inteligencie sa zvyčajne posudzujú na základe toho, ako si vedú v referenčných hodnoteniach - štandardizovaných testoch, ktoré sa zadávajú modelom s cieľom určiť, ako sú schopné kódovať, odpovedať na matematické otázky alebo iné úlohy. Podľa týchto ukazovateľov sú najnovšie verzie systému Claude približne porovnateľné s najvýkonnejšími modelmi od OpenAI a Google.

Claude 3.5 oproti iným modelom v referenčných testoch

Ale Claudova kľúčová vlastnosť - jeho emocionálna inteligencia - sa nedá jednoducho zmerať. Ľudia hovoria, že Claude je jednoducho iný. Je kreatívnejší a empatickejší. Je vnímavejší a menej robotický. Hovoria, že Claudove výstupy sú podobné odpovediam, ktoré by poskytol inteligentný a pozorný človek, a menej sa podobajú generickej próze, ktorú generujú iné chatboty.

Vývojári zdôrazňujú nasledujúce pozitívne aspekty chatbota:

• Claude je bezpečný, pretože ponúka prístupnosť prostredníctvom AWS a GCP, certifikáciu SOC 2 typu II a možnosti dodržiavania HIPAA, pričom dodržiava prísne bezpečnostné postupy.
• Claude je dôveryhodný, pretože v sebe spája najlepšiu odolnosť voči úniku z väzenia a prevenciu zneužitia vo svojej triede.
• Claude je spoľahlivý, pretože sa môže pochváliť veľmi nízkou mierou halucinácií a veľmi vysokou presnosťou, a to aj pri práci s dlhými dokumentmi.

Porovnanie súčasných modelov Claude:

200K tokenov približne zodpovedá 150K anglických slov alebo 680K znakov unicode.

8192 tokenov približne zodpovedá 6200 anglickým slovám alebo 12-14 stranám s jedným riadkovaním.

4096 tokenov približne zodpovedá 3100 anglickým slovám alebo 6-7 stranám s jedným riadkovaním.

Dva z najnovších modelov sa nazývajú Claude 3.5 Sonet a Claude 3.5 Haiku.

Claude 3.5 Sonnet je najvýkonnejší a najinteligentnejší model. Dokáže porozumieť diferencovaným inštrukciám a kontextu, rozpoznať a opraviť vlastné chyby, extrahovať informácie z vizualizácií, ako sú tabuľky, grafy a zložité diagramy. Rozšírené schopnosti uvažovania, veľké kontextové okno, nízka miera halucinácií a teplý, ľudský tón ku všetkému robia z Claude 3.5 Sonnet ideálneho chatbota na odpovedanie na otázky, analýzu dokumentov a znalostných databáz.

Claude 3.5 Haiku je najrýchlejší model. Skutočne zažiari všade tam, kde potrebujete rýchlu odozvu, či už v oblasti služieb zákazníkom, sociálnych platforiem, online komunít, elektronického obchodu alebo vzdelávania. Claude 3.5 Haiku poskytuje rýchle a presné návrhy kódu na urýchlenie vývoja. Je ideálny pre softvérové tímy, ktoré chcú zjednodušiť kódovanie a zvýšiť produktivitu. Claude 3.5 Haiku podporuje iba textový vstup, čo znamená, že nedokáže spracovať vizuálne údaje.

Čo dokáže Claude: jeho silné a slabé stránky

Rodina modelov Claude, ktorá je vhodná na akúkoľvek úlohu, ponúka najlepšiu kombináciu rýchlosti a výkonu. Claude dokáže rovnako ľahko vykonávať zložité kognitívne úlohy aj rutinné spracovanie údajov. Od sofistikovaného porozumenia jazyku až po rýchle prepočítavanie čísel - modely Claude sú vašimi asistentmi pre širokú škálu profesionálnych a osobných potrieb:

• Prepisujte a analyzujte statické obrázky, od ručne písaných poznámok a grafov až po fotografie.
• Prekladajte medzi rôznymi jazykmi v reálnom čase, precvičujte gramatiku a vytvárajte viacjazyčný obsah.
• Vytvárajte webové stránky v jazykoch HTML a CSS, premieňajte obrázky na štruktúrované údaje JSON a ladte zložité databázy kódu.
• Zapojte sa do prirodzených rozhovorov a poskytnite podrobné a zrozumiteľné odpovede.
• Vďaka obrovskému kontextovému oknu dokáže Claude spracovať väčšie množstvo údajov, analyzovať celú knihu alebo kriticky posúdiť dlhú esej na jeden záťah.

Podporované typy dokumentov:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Limity súborov:

• 30 MB na súbor
• Maximálne 5 súborov na chat

Technické obmedzenia: Claude nemôže vyhľadávať informácie na internete, generovať obrázky, nemá hlasový režim.

Claude rozumie vtipom, slovným hračkám, ospravedlneniam a komplimentom. Výnimočné schopnosti chatbota v oblasti písania mu umožňujú vytvárať emotívne príbehy podobné ľudským.

Niektorí ľudia sa však sťažujú, že chatbot sa v písaní zhoršil, a dôvodom je Claudov charakter.

Spoločnosti vyvíjajúce modely umelej inteligencie ich zvyčajne trénujú, aby nehovorili škodlivé veci a nepomáhali pri škodlivých úlohách. Cieľom je vycvičiť modely tak, aby sa správali spôsobom, ktorý je „neškodný“. Keď však premýšľame o charaktere tých, ktorých považujeme za skutočne obdivuhodných, nemyslíme len na vyhýbanie sa škodám. Myslíme na tých, ktorí sú zvedaví na svet, ktorí sa snažia hovoriť pravdu bez toho, aby boli neláskaví, a ktorí sú schopní vidieť mnoho strán problému bez toho, aby boli vo svojich názoroch príliš sebavedomí alebo príliš opatrní. Myslíme na tých, ktorí sú trpezlivými poslucháčmi, pozornými mysliteľmi, vtipnými konverzátormi a mnohými ďalšími vlastnosťami, ktoré si spájame s múdrym a rozhľadeným človekom.

Niekedy sa Claude správa nesmelo a odmieta odpovedať na akékoľvek citlivé otázky. Vývojári sú veľmi hrdí na to, že z bota je ťažké získať nezákonné informácie, napríklad ako falšovať peniaze alebo ako sa schovať pred políciou. Niekedy však Claude zapne autocenzúru a prednáša v reakcii na úplne neškodné žiadosti. Bot napríklad odmietne napísať vtipný príbeh o tom, že ho vyhodili z práce, pretože „nechce nikoho zraniť nevhodným humorom“; alebo sa môže odvolávať na porušenie autorských práv, ak ho požiadajú, aby parodoval známu postavu.

Používatelia Redditu si z Clauda robia srandu:

Ja: Ahoj; Claude: začne sa ospravedlňovať

Táto citlivosť má však aj dobrú stránku - spoločnosť Anthropic veľmi chráni vaše súkromie:

Anthropic netrénuje svoje modely na vašich údajoch. Po 30 dňoch automaticky odstráni všetky vaše informácie a kedykoľvek môžete z ich serverov odstrániť celé chaty.

Ako ľudia používajú Clauda

Claude dokáže dôkladne preskúmať a pochopiť dlhé právne dokumenty, napríklad zmluvy alebo spisy. A tým, že Claude preberá túto časovo náročnú úlohu, pomáha právnikom šetriť ich drahocenný čas na prácu na vyššej úrovni. Preto startup Robin AI, ktorý sa zaoberá právnymi technológiami, používa Clauda na analýzu právnych dokumentov.

Spoločnosť Scribd, Inc. používa spoločnosť Claude na generovanie vysokokvalitných metadát pre milióny dokumentov nahraných používateľmi, čím zlepšuje nájditeľnosť obsahu a podporuje zapojenie používateľov na svojich globálnych platformách.

• Pomohlo vyriešiť 70 % obsahu nahraného používateľmi, ktorému chýbali kvalitné metadáta.
• Bohatšie popisy obsahu výrazne zvýšili počet registrácií a predplatných používateľov.
• Rozšírenie na spracovanie viac ako 100 miliónov dokumentov.

Newfront, moderná poisťovacia platforma, využíva spoločnosť Claude na automatizáciu zdĺhavých poisťovacích úloh a poskytovanie okamžitej podpory, vďaka čomu je poistenie dostupnejšie a efektívnejšie pre každého.

S Claudom, Newfront:

• Ušetrí personálnym tímom jeden mesiac ročne a poskytuje zamestnancom personalizovanú podporu 24 hodín denne, 7 dní v týždni.
• Znižuje náklady na spracovanie dokumentov o 60 %.
• Poskytuje okamžité preskúmanie zmlúv pre právne tímy.

Zapia pomáha latinskoamerickým spotrebiteľom objavovať produkty, nakupovať a získavať podporu prostredníctvom populárnych aplikácií na zasielanie správ, ako je WhatsApp.

Pomocou Clauda Zapia:

• V prvom roku sa počet používateľov zvýšil o 2,5 milióna.
• Vytvorila viac ako 90 % pozitívnej spätnej väzby od používateľov.
• Spracuje stovky tisíc správ za hodinu.

Ako vidíte, všestrannosť aplikácie Claude v rôznych odvetviach zvýrazňuje jej komerčný potenciál. Spoločnosti ho nasadzujú na pracovné postupy od predaja až po vývoj softvéru. Automatizáciou opakujúcich sa úloh a asistenciou pri tvorbe obsahu môže Claude zvýšiť produktivitu a uvoľniť ľudských pracovníkov, aby sa mohli sústrediť na prácu s vyššou hodnotou.

Viac informácií o zákazníkoch a komerčných prípadoch využitia systému Claude nájdete tu: https://www.anthropic.com/customers.

Štatistiky založené na 1 milióne náhodne vybraných rozhovorov:

• 10,4 % - Vývoj webových a mobilných aplikácií
• 9,2 % - Tvorba obsahu a komunikácia
• 7,2 % - Akademický výskum a písanie
• 7,1 % - Vzdelávanie a kariérny rozvoj
• 6,0 % - Pokročilé aplikácie umelej inteligencie / strojového učenia
• 5,7 % - Obchodná stratégia a prevádzka
• 4,5 % - Jazykové preklady
• 3,9 % - DevOps a cloudová infraštruktúra
• 3,7 % - Digitálny marketing a SEO
• 3,5 % - Analýza a vizualizácia údajov

Údaje boli zozbierané prostredníctvom platformy Clio (Claude Insights and Observations), ktorá poskytuje prehľad o vzoroch používania UI, odhaľuje trendy a správanie bez toho, aby bolo ohrozené súkromie jednotlivcov.

Široká škála aplikácií a značná miera používania v rôznych kategóriách poukazuje na to, ako sa riešenia využívajúce UI stávajú čoraz bežnejšími. Tento trend poukazuje na všestrannosť nástrojov, ako je Claude, a odráža rastúcu integráciu UI do nášho pracovného a osobného života.