Claude: Podrobnejši pregled inovativne umetne inteligence podjetja Anthropic

Klepetalni robot Claude podjetja Anthropic je eden glavnih konkurentov ChatGPT. Podjetje morda ni tako znano kot OpenAI, vendar je uspešno in dobro financirano. V zadnjih nekaj letih je Amazon v podjetje Anthropic vložil 4 milijarde dolarjev, novembra 2024 pa je napovedal novo naložbo v višini dodatnih 4 milijard dolarjev, tako da bo skupna vrednost znašala 8 milijard dolarjev. Kar zadeva Clauda, ljudje klepetalnega robota hvalijo zaradi njegove človečnosti, ustvarjalnosti, občutljivosti in čustvene inteligence. V tem članku si bomo ogledali zgodovino klepetalnega robota Claude, njegova temeljna načela, prednosti in omejitve.

Claudeov izvor

Podjetje Anthropic sta soustanovila Dario Amodei in njegova sestra Daniela Amodei. Pred ustanovitvijo podjetja sta oba delala pri OpenAI: Dario je bil podpredsednik za raziskave in vodil oblikovanje vplivnih modelov, kot sta GPT-2 in GPT-3, Daniela pa je bila podpredsednica za varnost in politiko.

Dario in Daniela Amodei

Zakaj je Dario Amodei zapustil OpenAI? Nekateri viri pravijo, da je odšel zaradi zaskrbljenosti, da OpenAI vse bolj daje prednost vsemu drugemu kot etičnemu razvoju umetne inteligence. Dario sam pravi naslednje:

„Obstaja veliko napačnih informacij. Ljudje pravijo, da smo odšli, ker nam ni bil všeč dogovor z Microsoftom. Ne drži.“ Pravi razlog za odhod je, da je „neverjetno neproduktivno poskušati ugovarjati viziji nekoga drugega“. Zato si je Amodei, namesto da bi ostal pri OpenAI, rekel: „Vzemi nekaj ljudi, ki jim zaupaš, in uresničite svojo vizijo.“

Zato so Dario, Daniela in nekaj drugih nekdanjih zaposlenih v OpenAI leta 2021 ustanovili podjetje Anthropic, da bi uresničili svojo vizijo umetne inteligence. Marca 2023 so objavili prvo različico jezikovnega modela Claude. Ime je navdihnil predvsem Claude Shannon, ameriški matematik, znanstvenik in izumitelj, znan kot „oče teorije informacij“ in „oče informacijske dobe“.

Claude Shannon

Claudova načela in vrednote

Poslanstvo podjetja je raziskovanje varnosti, notranjega delovanja in družbenega vpliva modelov umetne inteligence ter zagotavljanje, da bo umetna inteligenca z naraščajočo naprednostjo in sposobnostjo pozitivno vplivala na družbo.

Dario Amodei:

Že od samega začetka smo se trudili oblikovati Claude z mislijo na varnost in možnost upravljanja. Veliko naših prvih strank so bila podjetja, ki jim je bilo zelo pomembno, da model ne naredi česa nepredvidljivega. ali si izmišljuje dejstva. Ena od velikih idej v ozadju Clauda je nekaj, kar se imenuje ustavna umetna inteligenca. Ustavna umetna inteligenca temelji na usposabljanju modela, da sledi izrecnemu naboru načel. Tako lahko bolj pregledno vidite, kaj model počne. Tako je model lažje nadzorovati in ga narediti varnega.

Kaj je ustavna umetna inteligenca? To je metoda za usposabljanje koristnega, poštenega in neškodljivega pomočnika umetne inteligence s samouresničevanjem brez človeških oznak, ki prepoznajo škodljive rezultate.

Ta postopek vključuje dve fazi, in sicer fazo nadzorovanega učenja in fazo okrepljenega učenja:

• V nadzorovani fazi se vzorči začetni model, ustvarijo se samokritike in popravki, prvotni model pa se prilagodi na podlagi popravljenih odzivov.
• V fazi okrepljenega učenja se ocenijo vzorci iz uglašenega modela in iz nabora podatkov o preferencah umetne inteligence se usposobi model preferenc. Model preferenc se nato uporabi kot signal nagrajevanja za usposabljanje pomočnika umetne inteligence.

Kot je razvidno iz grafa, ta pristop daje boljše rezultate v primerjavi z običajnim načinom učenja z okrepitvijo na podlagi povratnih informacij od človeka (RLFH), ki se uporablja za usposabljanje drugih jezikovnih modelov. To pomeni, da je manj verjetno, da bo Claude izrekel škodljive stvari, in da se bo manj pogosto obnašal napačno kot drugi klepetalni boti.

Ustavni RL proti standardnemu RLHF

Edini človeški nadzor je zagotovljen s seznamom pravil ali načel, izposojenih iz različnih virov, kot so Deklaracija ZN o človekovih pravicah ali Sparrow Principles podjetja DeepMind. Več o tem si lahko preberete tukaj: https://www.anthropic.com/news/claudes-constitution

Claudeove funkcije in trenutni modeli

Sistemi umetne inteligence se običajno ocenjujejo na podlagi uspešnosti pri primerjalnih ocenjevanjih - standardiziranih testih, s katerimi modeli ugotavljajo, kako sposobni so pri kodiranju, odgovarjanju na matematična vprašanja ali drugih nalogah. Po teh merilih so najnovejše različice Clauda približno primerljive z najzmogljivejšimi modeli OpenAI in Googla.

Claude 3.5 v primerjavi z drugimi modeli v primerjalnih testih

Toda Claudove ključne lastnosti - čustvene inteligence - ni mogoče preprosto izmeriti. Ljudje pravijo, da je Claude preprosto drugačen. Je bolj ustvarjalen in empatičen. Bolj pronicljiv in manj grozeče robotski. Pravijo, da so Claudovi odgovori podobni odzivom, ki bi jih dal pameten in pozoren človek, in manj podobni splošni prozi, ki jo ustvarjajo drugi klepetalni roboti.

Razvijalci poudarjajo naslednje pozitivne vidike klepetalnega robota:

• Claude je varen, saj ponuja dostopnost prek sistemov AWS in GCP, certifikat SOC 2 tipa II in možnosti skladnosti s HIPAA, pri čemer upošteva stroge varnostne prakse.
• Claude je vreden zaupanja, ker združuje v svojem razredu najboljšo odpornost na pobeg iz zapora in preprečevanje zlorab.
• Claude je zanesljiv, ker se ponaša z zelo nizko stopnjo halucinacij in zelo visoko natančnostjo, tudi pri delu z dolgimi dokumenti.

Primerjava trenutnih modelov Claude:

200 tisoč tokenov približno ustreza 150 tisoč angleškim besedam ali 680 tisoč znakom unicode.

8192 tokenov približno ustreza 6200 angleškim besedam ali 12-14 stranem z enojnim razmikom.

4096 tokenov približno ustreza 3100 angleškim besedam ali 6-7 stranem z enojnim razmikom.

Dva najnovejša modela se imenujeta Claude 3.5 Sonet in Claude 3.5 Haiku.

Claude 3.5 Sonnet je najzmogljivejši in najinteligentnejši model. Razume niansirana navodila in kontekst, prepozna in popravi lastne napake ter pridobi informacije iz vizualnih prikazov, kot so preglednice, grafi in zapleteni diagrami. Zaradi izboljšanih zmožnosti sklepanja, velikega kontekstnega okna, nizke stopnje halucinacij in toplega, človeku podobnega tona povrhu vsega je Claude 3.5 Sonnet idealen klepetalni robot za odgovarjanje na vprašanja, analiziranje dokumentov in baz znanja.

Claude 3.5 Haiku je najhitrejši model. Resnično blesti povsod, kjer potrebujete hiter odzivni čas, bodisi pri storitvah za stranke, družabnih platformah, spletnih skupnostih, e-trgovini ali izobraževanju. Claude 3.5 Haiku zagotavlja hitre in natančne predloge kode, ki pospešujejo razvoj. Odličen je za ekipe, ki se ukvarjajo s programsko opremo in želijo poenostaviti kodiranje ter povečati produktivnost. Claude 3.5 Haiku podpira samo besedilni vnos, kar pomeni, da ne more obdelati vizualnih podatkov.

Kaj lahko naredi Claude: njegove prednosti in slabosti

Družina modelov Claude je primerna za vsako nalogo in ponuja najboljšo kombinacijo hitrosti in zmogljivosti. Claude lahko z enako lahkoto opravlja zapletene kognitivne naloge in rutinsko obdelavo podatkov. Od zahtevnega razumevanja jezika do hitrega preračunavanja številk - modeli Claude so vaši pomočniki za številne poklicne in osebne potrebe:

• Prepisujte in analizirajte statične slike, od rokopisnih zapiskov in grafov do fotografij.
• V realnem času prevajajte med različnimi jeziki, vadite slovnico in ustvarjajte večjezične vsebine.
• Ustvarjajte spletna mesta v jezikih HTML in CSS, spreminjajte slike v strukturirane podatke JSON in odpravljajte napake v zapletenih kodnih bazah.
• Sodelujte v naravnih pogovorih in zagotovite podrobne, lahko razumljive odgovore.
• Zaradi velikega kontekstnega okna lahko Claude v enem zamahu prebavi večje količine podatkov, analizira celotno knjigo ali kritizira dolg esej.

Podprte vrste dokumentov:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Omejitve datotek:

• 30 MB na datoteko
• Do 5 datotek na klepet

Tehnične omejitve: Claude ne more iskati informacij na internetu, ustvarjati slik, ni glasovnega načina.

Claude razume šale, besedne igre, opravičila in komplimente. Izjemne pisne sposobnosti klepetalnega robota mu omogočajo ustvarjanje čustvenih, človeku podobnih zgodb.

Vendar se nekateri pritožujejo, da je klepetalni robot postal slabši v pisanju, razlog za to pa je Claudov značaj.

Podjetja, ki razvijajo modele umetne inteligence, jih običajno usposabljajo, da ne govorijo škodljivih stvari in da ne pomagajo pri škodljivih nalogah. Cilj tega je usposobiti modele, da se obnašajo na načine, ki so „neškodljivi“. Toda ko pomislimo na značaj tistih, ki se nam zdijo resnično občudovanja vredni, ne pomislimo le na izogibanje škodi. Pomislimo na tiste, ki so radovedni glede sveta, ki si prizadevajo povedati resnico, ne da bi bili neprijazni, in ki so sposobni videti več strani vprašanja, ne da bi postali preveč samozavestni ali pretirano previdni v svojih stališčih. Mislimo na tiste, ki so potrpežljivi poslušalci, skrbni misleci, duhoviti sogovorniki in številne druge lastnosti, ki jih povezujemo z modro in vsestransko osebo.

Včasih se Claude obnaša plaho in noče odgovarjati na občutljiva vprašanja. Razvijalci so zelo ponosni na dejstvo, da je iz bota težko izvleči nezakonite informacije, na primer kako ponarediti denar ali kako se skriti pred policijo. Toda včasih Claude vklopi samocenzuro in predava v odgovor na povsem neškodljive zahteve. Bot na primer noče napisati smešne zgodbe o tem, da so ga odpustili, ker „ne želi z neprimernim humorjem prizadeti čustev kogar koli“; ali pa se lahko sklicuje na kršitev avtorskih pravic, če je zaprošen, da parodira znan lik.

Uporabniki Reddita se iz Clauda norčujejo:

Jaz: Zdravo; Claude: začne se opravičevati

Ta občutljivost pa ima tudi dobro plat - Anthropic zelo varuje vašo zasebnost:

Anthropic svojih modelov ne usposablja na vaših podatkih. Po 30 dneh samodejno izbriše vse vaše podatke, kadar koli pa želite, lahko z njihovih strežnikov odstranite celotne klepete.

Kako ljudje uporabljajo Clauda

Claude lahko temeljito pregleda in razume dolge pravne dokumente, kot so pogodbe ali spisi. S tem, ko Claude prevzame to zamudno opravilo, pomaga odvetnikom prihraniti dragoceni čas za delo na višji ravni. Zato startup Robin AI, ki se ukvarja s pravno tehnologijo, uporablja Clauda za analizo pravne dokumentacije.

Družba Scribd, Inc. uporablja Claude za ustvarjanje visokokakovostnih metapodatkov za milijone dokumentov, ki jih naložijo uporabniki, s čimer izboljšuje odkrivanje vsebine in spodbuja sodelovanje uporabnikov na svojih globalnih platformah.

• Pomagal je odpraviti 70 % uporabniško naložene vsebine, ki ni imela kakovostnih metapodatkov.
• Bogatejši opisi vsebine so znatno povečali število prijav in naročnin uporabnikov.
• Povečano za obdelavo več kot 100 milijonov dokumentov.

Newfront, sodobna zavarovalniška platforma, uporablja Claude za avtomatizacijo napornih zavarovalniških opravil in takojšnjo podporo, s čimer zavarovanje postane dostopnejše in učinkovitejše za vse.

S Claudom Newfront:

• Prihrani en mesec na leto kadrovskim službam in zagotavlja 24-urno prilagojeno podporo zaposlenim.
• Zmanjša stroške obdelave dokumentov za 60 %.
• Zagotavlja takojšnje preglede pogodb za pravne ekipe.

Zapia latinskoameriškim potrošnikom pomaga odkrivati izdelke, opravljati nakupe in dobiti podporo prek priljubljenih aplikacij za sporočanje, kot je WhatsApp.

Z uporabo Clauda Zapia:

• V prvem letu povečala za 2,5 milijona uporabnikov.
• Ustvarila več kot 90 % pozitivnih povratnih informacij uporabnikov.
• Obdela več sto tisoč sporočil na uro.

Kot lahko vidite, je Claudova vsestranskost v različnih panogah poudarila njegov komercialni potencial. Podjetja ga uporabljajo za delovne tokove od prodaje do razvoja programske opreme. Z avtomatizacijo ponavljajočih se opravil in pomočjo pri ustvarjanju vsebine lahko Claude poveča produktivnost in sprosti človeške delavce, da se osredotočijo na delo z večjo vrednostjo.

Več o Claudovih strankah in primerih komercialne uporabe si lahko preberete tukaj: https://www.anthropic.com/customers.

Statistični podatki temeljijo na 1 milijonu naključno izbranih klepetov:

• 10,4 % - Razvoj spletnih in mobilnih aplikacij
• 9,2 % - Ustvarjanje vsebin in komuniciranje
• 7,2 % - Akademsko raziskovanje in pisanje
• 7,1 % - Izobraževanje in razvoj kariere
• 6,0 % - Napredne aplikacije umetne inteligence / strojnega učenja
• 5,7 % - Poslovna strategija in poslovanje
• 4,5 % - Jezikovno prevajanje
• 3,9 % - DevOps in infrastruktura v oblaku
• 3,7 % - Digitalno trženje in SEO
• 3,5 % - Analiza in vizualizacija podatkov

Podatke je zbrala platforma Clio (Claude Insights and Observations), ki omogoča pregled vzorcev uporabe umetne inteligence ter razkriva trende in vedenje, ne da bi pri tem ogrozila zasebnost posameznikov.

Velika raznolikost aplikacij in znatne stopnje uporabe v različnih kategorijah poudarjajo, kako postajajo rešitve, ki jih poganja umetna inteligenca, vse bolj razširjene. Ta trend kaže na vsestranskost orodij, kot je Claude, in odraža vse večje vključevanje UI v naše poklicno in zasebno življenje.