Klods: tuvāks ieskats Anthropic inovatīvajā mākslīgajā intelektā

Viens no galvenajiem ChatGPT konkurentiem ir Chatbot Claude no Anthropic. Šis uzņēmums varbūt nav tik slavens kā OpenAI, taču tas ir veiksmīgs un labi finansēts. Dažu pēdējo gadu laikā Amazon ieguldīja 4 miljardus ASV dolāru Anthropic, un 2024. gada novembrī tā paziņoja par jaunām investīcijām vēl 4 miljardu ASV dolāru apmērā, tādējādi kopējais ieguldījums sasniedz 8 miljardus ASV dolāru. Runājot par Claude, cilvēki slavē čatbotu par tā cilvēcīgumu, radošumu, jutīgumu un emocionālo inteliģenci. Šajā rakstā aplūkosim tērzēšanas robota Claude vēsturi, tā pamatprincipus, priekšrocības un ierobežojumus.

Claude pirmsākumi

Anthropic līdzdibinātāji ir Dario Amodei un viņa māsa Daniela Amodei. Pirms uzņēmuma dibināšanas abi strādāja OpenAI: Dario bija pētniecības viceprezidents un vadīja tādu ietekmīgu modeļu kā GPT-2 un GPT-3 izveidi, bet Daniela bija drošības un politikas viceprezidente.

Dario un Daniela Amodei

Kāpēc Dario Amodejs pameta OpenAI? Daži avoti apgalvo, ka viņš aizgāja, jo bija nobažījies, ka OpenAI aizvien vairāk priekšroku dod nevis ētiskai mākslīgā intelekta izstrādei, bet gan citiem jautājumiem. Lūk, ko saka pats Dario:

“Ir daudz dezinformācijas. Cilvēki saka, ka mēs aizgājām, jo mums nepatika darījums ar Microsoft. Meli.” Viņš teica, ka patiesais aiziešanas iemesls ir tas, ka “ir neticami neproduktīvi mēģināt apstrīdēt kāda cita redzējumu”. Tā vietā, lai paliktu OpenAI, Amodejs sev teica: “Ņem dažus cilvēkus, kuriem uzticies, un ej īstenot savu redzējumu.”

Tāpēc Dario, Daniela un daži citi bijušie OpenAI darbinieki 2021. gadā izveidoja Anthropic, lai īstenotu savu redzējumu par mākslīgo intelektu. 2023. gada martā viņi publicēja pirmo Claude valodas modeļa versiju. Nosaukumu īpaši iedvesmoja amerikāņu matemātiķis, zinātnieks un izgudrotājs Klods Šenons, kas pazīstams kā “informācijas teorijas tēvs” un “informācijas laikmeta tēvs”.

Klods Šenons

Claude's principi un vērtības

Uzņēmuma misija ir pētīt mākslīgā intelekta modeļu drošību, iekšējo darbību un ietekmi uz sabiedrību, nodrošinot, ka mākslīgais intelekts, kļūstot arvien attīstītāks un spējīgāks, pozitīvi ietekmē sabiedrību.

Dario Amodei:

Jau no paša sākuma esam centušies projektēt Claude, domājot par drošību un vadāmību. Daudzi no mūsu pirmajiem klientiem ir bijuši uzņēmumi, kuriem ir svarīgi, lai modelis nedarītu neko neparedzamu. Vai izdomāt faktus. Viena no svarīgākajām idejām, kas ir Claude pamatā, ir tā sauktais konstitucionālais mākslīgais intelekts. Konstitucionālais mākslīgais intelekts ir balstīts uz modeļa apmācību, lai tas ievērotu skaidru principu kopumu. Tādējādi jūs varat būt pārredzamāks par to, ko modelis dara. Tādējādi ir vieglāk kontrolēt modeli un padarīt to drošu.

Kas ir konstitucionālais mākslīgais intelekts? Tā ir metode, kā apmācīt noderīgu, godīgu un nekaitīgu mākslīgā intelekta asistentu, izmantojot pašpilnveidi bez cilvēku etiķetēm, kas identificē kaitīgus rezultātus.

Šis process ietver divus posmus - uzraudzītas mācīšanās posmu un pastiprinātas mācīšanās posmu:

• Uzraudzītajā fāzē tiek atlasīts sākotnējais modelis, tiek ģenerēta paškritika un labojumi, un sākotnējais modelis tiek precizēts, ņemot vērā labotās atbildes.
• Pastiprinātās mācīšanās fāzē tiek novērtēti precizētā modeļa paraugi, un no mākslīgā intelekta preferenču datu kopas tiek apmācīts preferenču modelis. Pēc tam preferenču modeli izmanto kā atalgojuma signālu, lai apmācītu mākslīgā intelekta asistentu.

Kā redzams grafikā, šī pieeja dod labākus rezultātus salīdzinājumā ar parasto pastiprinājuma mācīšanās metodi no cilvēka atsauksmēm (RLFH), ko izmanto, lai apmācītu citus valodas modeļus. Tas nozīmē, ka Klods retāk saka kaitīgas lietas un retāk uzvedas nepareizi nekā citi tērzēšanas roboti.

Konstitucionālais RL pret standarta RLHF

Vienīgā cilvēciskā uzraudzība tiek nodrošināta, izmantojot noteikumu vai principu sarakstu, kas aizgūti no dažādiem avotiem, piemēram, ANO Cilvēktiesību deklarācijas vai Sparrow Principles no DeepMind. Vairāk par to var uzzināt šeit: https://www.anthropic.com/news/claudes-constitution

Claude funkcijas un pašreizējie modeļi

Parasti mākslīgā intelekta sistēmas tiek vērtētas, pamatojoties uz to, kā tās darbojas salīdzinošajos novērtējumos - standartizētos testos, kas tiek veikti modeļiem, lai noteiktu, cik spējīgi tie ir kodēt, atbildēt uz matemātiskiem jautājumiem vai veikt citus uzdevumus. Pēc šiem rādītājiem jaunākās Claude versijas ir aptuveni salīdzināmas ar jaudīgākajiem OpenAI un Google modeļiem.

Claude 3.5 salīdzinājumā ar citiem modeļiem salīdzinošajos testos

Taču Claude galveno iezīmi - tā emocionālo inteliģenci - nav viegli izmērīt. Cilvēki saka, ka Claude vienkārši jūtas citāds. Radošāks un empātiskāks. Gudrāks un mazāk robotisks. Viņi saka, ka Claude atbildes ir līdzīgas atbildēm, ko sniegtu gudrs, uzmanīgs cilvēks, un mazāk līdzīgas vispārīgai prozai, ko ģenerē citi tērzēšanas roboti.

Izstrādātāji uzsver šādus tērzēšanas robota pozitīvos aspektus:

• Claude ir drošs, jo tas piedāvā pieejamību, izmantojot AWS un GCP, SOC 2 II tipa sertifikāciju un HIPAA atbilstības iespējas, ievērojot stingru drošības praksi.
• Claude ir uzticams, jo tas apvieno savā klasē labāko izturību pret ielaušanos un ļaunprātīgas izmantošanas novēršanu.
• Claude ir uzticams, jo tas var lepoties ar ļoti zemu halucinācijas līmeni un ļoti augstu precizitāti, pat strādājot ar gariem dokumentiem.

Pašreizējo Claude modeļu salīdzinājums:

200 tūkstoši tokenu aptuveni atbilst 150 tūkstošiem angļu valodas vārdu vai 680 tūkstošiem Unicode rakstzīmju.

8192 tokeni aptuveni atbilst 6200 angļu valodas vārdiem jeb 12-14 vienrindas lapām.

4096 tokeni aptuveni atbilst 3100 angļu valodas vārdiem jeb 6-7 lappusēm ar vienu intervālu.

Divi no jaunākajiem modeļiem ir Claude 3.5 Sonnet un Claude 3.5 Haiku.

Claude 3.5 Sonnet ir jaudīgākais un inteliģentākais modelis. Tas spēj saprast niansētas instrukcijas un kontekstu, atpazīt un labot savas kļūdas, iegūt informāciju no vizuāliem attēliem, piemēram, diagrammām, grafikiem un sarežģītām diagrammām. Uzlabotas spriešanas spējas, liels konteksta logs, zems halucināciju līmenis un silts, cilvēkam līdzīgs tonis visam pāri, padara Claude 3.5 Sonnet par ideālu tērzēšanas robotu atbilžu sniegšanai uz jautājumiem, dokumentu un zināšanu bāžu analīzei.

Claude 3.5 Haiku ir ātrākais modelis. Tas patiesi spīd visur, kur nepieciešama ātra reakcija, - klientu apkalpošanā, sociālajās platformās, tiešsaistes kopienās, e-komercijā vai izglītībā. Claude 3.5 Haiku nodrošina ātrus un precīzus koda ieteikumus, lai paātrinātu izstrādi. Tas ir ideāli piemērots programmatūras komandām, kas vēlas vienkāršot kodēšanu un palielināt produktivitāti. Claude 3.5 Haiku atbalsta tikai teksta ievadi, tas nozīmē, ka tas nevar apstrādāt vizuālus datus.

Ko spēj paveikt Claude: tā stiprās un vājās puses

Claude modeļu ģimene ir piemērota jebkuram uzdevumam un piedāvā vislabāko ātruma un veiktspējas kombināciju. Claude var vienlīdz viegli veikt sarežģītus izziņas uzdevumus un rutīnas datu apstrādi. No sarežģītas valodas izpratnes līdz ātrai skaitļu apstrādei - Claude modeļi ir jūsu palīgi visdažādākajām profesionālām un personīgām vajadzībām:

• Pārrakstiet un analizējiet statiskus attēlus, sākot no ar roku rakstītām piezīmēm un grafikiem un beidzot ar fotogrāfijām.
• Tulkojiet starp dažādām valodām reāllaikā, praktizējiet gramatiku un veidojiet daudzvalodu saturu.
• Veidojiet tīmekļa vietnes HTML un CSS, pārvērsiet attēlus strukturētos JSON datos un atkļūdojiet sarežģītas kodu bāzes.
• Iesaistieties dabiskās sarunās un sniedziet detalizētas, viegli saprotamas atbildes.
• Pateicoties milzīgajam konteksta logam, Claude var apstrādāt lielākus datu apjomus, vienā piegājienā analizējot veselu grāmatu vai kritiski novērtējot garu eseju.

Atbalstītie dokumentu tipi:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Failu ierobežojumi:

• 30 MB uz failu
• Līdz 5 failiem vienā tērzēšanā

Tehniskie ierobežojumi: Klods nevar meklēt informāciju internetā, ģenerēt attēlus, nav balss režīma.

Claude saprot jokus, kalambūrus, atvainošanos un komplimentus. Čatbota ārkārtas rakstīšanas prasmes ļauj tam veidot emocionālus, cilvēkam līdzīgus stāstus.

Tomēr daži cilvēki sūdzas, ka čatbots ir kļuvis sliktāks rakstīšanā, un iemesls tam ir Kloda raksturs.

Uzņēmumi, kas izstrādā mākslīgā intelekta modeļus, parasti tos apmāca, lai tie izvairītos no kaitīgu vārdu teikšanas un nepalīdzētu veikt kaitīgus uzdevumus. Tā mērķis ir apmācīt modeļus uzvesties tā, lai tie uzvestos “nekaitīgi”. Taču, domājot par to cilvēku raksturu, kurus mēs uzskatām par patiesi apbrīnojamiem, mēs nedomājam tikai par izvairīšanos no kaitējuma. Mēs domājam par tiem, kuri ir zinātkāri par pasauli, kuri cenšas teikt patiesību, nebūdami nelaipni, un kuri spēj saskatīt daudzas problēmas puses, nekļūstot pārāk pašpārliecināti vai pārāk piesardzīgi savos uzskatos. Mēs domājam par tiem, kuri ir pacietīgi klausītāji, uzmanīgi domātāji, asprātīgi sarunu biedri un daudzas citas īpašības, kas mums asociējas ar gudru un vispusīgu cilvēku.

Dažkārt Claude rīkojas kautrīgi, atsakoties atbildēt uz jutīgiem jautājumiem. Izstrādātāji ļoti lepojas ar to, ka no bota ir grūti izvilināt nelikumīgu informāciju, piemēram, kā viltot naudu vai kā slēpties no policijas. Taču dažkārt Claude ieslēdz pašcenzūru un lekcionē, atbildot uz pilnīgi nekaitīgiem pieprasījumiem. Piemēram, robots atsakās uzrakstīt smieklīgu stāstu par atlaišanu no darba, jo “nevēlas aizskart kāda jūtas ar nepiemērotu humoru”; vai arī var atsaukties uz autortiesību pārkāpumu, ja tiek lūgts parodēt kādu slavenu personāžu.

Reddit lietotāji smejas par Claude:

Es: Sveiki; Claude: sāk atvainoties

Taču šim jutīgumam ir arī labā puse - Anthropic ļoti aizsargā jūsu privātumu:

Anthropic neapmāca savus modeļus ar jūsu datiem. Viņi automātiski dzēš visu jūsu informāciju pēc 30 dienām, un jūs varat jebkurā laikā no saviem serveriem izdzēst visas tērzēšanas.

Kā cilvēki izmanto Claude

Claude var rūpīgi pārskatīt un saprast garus juridiskus dokumentus, piemēram, līgumus vai lietas materiālus. Un, uzņemoties šo laikietilpīgo uzdevumu, Claude palīdz juristiem ietaupīt savu vērtīgo laiku augstākā līmeņa darbam. Tāpēc juridisko tehnoloģiju jaunuzņēmums Robin AI izmanto Claude, lai analizētu juridiskos dokumentus.

Scribd, Inc. izmanto Claude, lai ģenerētu augstas kvalitātes metadatus miljoniem lietotāju augšupielādētu dokumentu, uzlabojot satura atrodamību un veicinot lietotāju iesaisti savās globālajās platformās.

• Palīdzēja novērst 70 % lietotāju augšupielādētā satura, kam trūka kvalitatīvu metadatu.
• Pilnīgāki satura apraksti ievērojami palielināja lietotāju reģistrāciju un abonēšanu.
• Paplašināts, lai apstrādātu vairāk nekā 100 miljonus dokumentu.

Newfront ir mūsdienīga apdrošināšanas platforma, kas izmanto Claude, lai automatizētu garlaicīgus apdrošināšanas uzdevumus un sniegtu tūlītēju atbalstu, padarot apdrošināšanu pieejamāku un efektīvāku ikvienam.

Izmantojot Claude, Newfront:

• Ietaupīt personāla komandām vienu mēnesi gadā un nodrošina 24/7 personalizētu atbalstu darbiniekiem.
• Samazina dokumentu apstrādes izmaksas par 60 %.
• Nodrošina tūlītēju līgumu pārskatīšanu juridiskajām komandām.

Zapia palīdz Latīņamerikas patērētājiem atrast produktus, veikt pirkumus un saņemt atbalstu, izmantojot populāras ziņapmaiņas lietotnes, piemēram, WhatsApp.

Izmantojot Claude, Zapia:

• Pirmajā gadā lietotāju skaits pieauga par 2,5 miljoniem.
• Radīja vairāk nekā 90 % pozitīvu lietotāju atsauksmju.
• Apstrādā simtiem tūkstošu ziņojumu stundā.

Kā redzams, Claude daudzpusība dažādās nozarēs izceļ tā komerciālo potenciālu. Uzņēmumi to izmanto darba plūsmām no pārdošanas līdz programmatūras izstrādei. Automatizējot atkārtojošos uzdevumus un palīdzot satura veidošanā, Claude var palielināt produktivitāti un atbrīvot cilvēkresursus, lai tie varētu pievērsties vērtīgākiem darbiem.

Uzziniet vairāk par Claude klientiem un komerciālajiem izmantošanas gadījumiem šeit: https://www.anthropic.com/customers.

Statistika balstīta uz 1 miljonu nejauši atlasītu tērzēšanu:

• 10,4% - Web un mobilo lietotņu izstrāde
• 9,2 % - Satura veidošana un komunikācija
• 7,2 % - Akadēmiskā pētniecība un rakstīšana
• 7,1 % - Izglītība un karjeras attīstība
• 6,0 % - Progresīvas mākslīgā intelekta / mašīnmācīšanās lietojumprogrammas
• 5,7 % - Biznesa stratēģija un darbības
• 4,5 % - Valodu tulkošana
• 3,9 % - DevOps un mākoņu infrastruktūra
• 3,7 % - Digitālais mārketings un SEO
• 3,5% - Datu analīze un vizualizācija

Datus apkopoja Clio (Claude Insights and Observations) - platforma, kas sniedz pārskatu par mākslīgā intelekta izmantošanas modeļiem, atklājot tendences un uzvedību, neapdraudot personas privātumu.

Plašais lietojumprogrammu klāsts un ievērojamie lietojuma rādītāji dažādās kategorijās liecina par to, ka ar mākslīgo intelektu darbināmi risinājumi kļūst arvien izplatītāki. Šī tendence parāda tādu rīku kā Claude daudzpusību un atspoguļo pieaugošo mākslīgā intelekta integrāciju mūsu profesionālajā un personīgajā dzīvē.