Claude: Pogled izbliza na inovativnu umjetnu inteligenciju tvrtke Anthropic

Chatbot Claude tvrtke Anthropic jedan je od glavnih konkurenata ChatGPT-a. Tvrtka možda nije tako poznata kao OpenAI, ali je uspješna i dobro financirana. Tijekom posljednjih nekoliko godina Amazon je uložio 4 milijarde dolara u Anthropic, au studenom 2024. najavili su novo ulaganje od još 4 milijarde dolara, čime je ukupan iznos dosegao 8 milijardi dolara. Što se tiče Claudea, ljudi hvale chatbota zbog njegove humanosti, kreativnosti, osjetljivosti i emocionalne inteligencije. U ovom ćemo članku pogledati povijest Claude chatbota, njegova temeljna načela, prednosti i ograničenja.

Claudeovo podrijetlo

Anthropic suosnivači Dario Amodei i njegova sestra Daniela Amodei. Prije osnivanja svoje tvrtke oboje su radili u OpenAI-ju: Dario je bio potpredsjednik za istraživanje i vodio je stvaranje utjecajnih modela poput GPT-2 i GPT-3, dok je Daniela bila potpredsjednica za sigurnost i politiku.

Dario i Daniela Amodei

Zašto je Dario Amodei napustio OpenAI? Neki izvori kažu da je otišao zbog zabrinutosti da OpenAI sve više daje prioritet svemu osim etičkom razvoju umjetne inteligencije. A evo što sam Dario kaže:

“Postoji mnogo dezinformacija. Ljudi kažu da smo otišli jer nam se nije sviđao dogovor s Microsoftom. Netočno.” Pravi razlog odlaska, rekao je, jest to što je "nevjerojatno neproduktivno pokušavati raspravljati s tuđom vizijom". Dakle, umjesto da ostane u OpenAI-ju, Amodei je rekao sebi: "Uzmi neke ljude kojima vjeruješ i ostvari svoju viziju."

Tako su Dario, Daniela i još nekoliko bivših zaposlenika OpenAI-ja osnovali Anthropic 2021. kako bi ostvarili svoju viziju umjetne inteligencije. U ožujku 2023. objavili su prvu verziju jezičnog modela Claude. Naziv je inspirirao Claude Shannon, američki matematičar, znanstvenik i izumitelj poznat kao "otac teorije informacija" i "otac informacijskog doba".

Claude Shannon

Claudeova načela i vrijednosti

Misija tvrtke je istražiti sigurnost, unutarnji rad i društveni utjecaj modela umjetne inteligencije, osiguravajući da umjetna inteligencija ima pozitivan utjecaj na društvo kako ono postaje naprednije i sposobnije.

Dario Amodei:

Pokušali smo dizajnirati Claude imajući na umu sigurnost i upravljivost od samog početka. Mnogi od naših ranih kupaca bile su tvrtke kojima je jako stalo do, znate, brige o tome da model ne učini ništa nepredvidivo. Ili izmišljati činjenice. Jedna od velikih ideja iza Claudea je nešto što se zove ustavna umjetna inteligencija. Ustavna umjetna inteligencija temelji se na osposobljavanju modela da slijedi eksplicitni skup načela. Tako možete biti transparentniji o tome što model radi. A to olakšava upravljanje modelom i čini ga sigurnim.

Što je ustavna umjetna inteligencija? To je metoda za obuku korisnog, poštenog i bezopasnog UI pomoćnika kroz samousavršavanje bez ikakvih ljudskih etiketa koje identificiraju štetne rezultate.

Ovaj proces uključuje dvije faze, fazu nadziranog učenja i fazu učenja s potkrepljenjem:

• U nadziranoj fazi uzorkuje se inicijalni model, generiraju se samokritike i revizije, a izvorni model se fino podešava na revidiranim odgovorima.
• U fazi učenja s pojačanjem, procjenjuju se uzorci iz fino podešenog modela, a model preferencija se uvježbava iz skupa podataka o preferencijama umjetne inteligencije. Model preferencija se zatim koristi kao signal nagrade za obuku UI pomoćnika.

Kao što se može vidjeti na grafikonu, ovaj pristup daje bolje rezultate u usporedbi s konvencionalnom metodom učenja s pojačanjem putem ljudske povratne informacije (RLFH) koja se koristi za obuku drugih jezičnih modela. To znači da je manja vjerojatnost da će Claude govoriti štetne stvari i rjeđe se nedolično ponašati od drugih chatbota.

Ustavni RL u odnosu na standardni RLHF

Jedini ljudski nadzor pruža se kroz popis pravila ili načela posuđenih iz različitih izvora, kao što je UN-ova Deklaracija o ljudskim pravima ili Sparrow načela iz DeepMinda. Više o tome možete saznati ovdje: https://www.anthropic.com/news/claudes-constitution

Claudeove karakteristike i trenutni modeli

Obično se sustavi umjetne inteligencije ocjenjuju na temelju njihove izvedbe na referentnim procjenama — standardiziranim testovima koji se daju modelima kako bi se utvrdilo koliko su sposobni za kodiranje, odgovaranje na matematička pitanja ili druge zadatke. Prema tim pokazateljima, najnovije verzije Claudea su otprilike usporedive s najmoćnijim modelima OpenAI-ja i Googlea.

Claude 3.5 u odnosu na druge modele u mjerilima

Ali Claudeova ubojita osobina - njegova emocionalna inteligencija - nije nešto što se može lako izmjeriti. Ljudi kažu da se Claude jednostavno osjeća drugačije. Kreativniji i empatičniji. Pronicljiviji i manje grubo robotski. Claudeovi rezultati, kažu, nalik su odgovorima koje bi dao pametan, pažljiv čovjek, a manje nalik generičkoj prozi koju generiraju drugi chatbotovi.

Programeri ističu sljedeće pozitivne aspekte chatbota:

• Claude je siguran jer nudi pristupačnost putem AWS-a i GCP-a, certifikata SOC 2 tipa II i mogućnosti usklađenosti s HIPAA, pridržavajući se rigoroznih sigurnosnih praksi.
• Claude je vjerodostojan jer kombinira najbolju otpornost na bjekstvo iz zatvora i sprječavanje zlouporabe.
• Claude je pouzdan budući da se može pohvaliti vrlo niskim stopama halucinacija i vrlo visokom preciznošću, čak i pri radu s dugim dokumentima.

Usporedba trenutnih Claude modela:

200 tisuća tokena otprilike odgovara 150 tisuća engleskih riječi ili 680K unicode znakova.

8192 tokena otprilike odgovara 6200 engleskih riječi ili 12-14 stranica s jednim proredom.

4096 tokena otprilike odgovara 3100 engleskih riječi ili 6-7 stranica s jednim proredom.

Dva najnovija modela zovu se Claude 3.5 Sonnet i Claude 3.5 Haiku.

Claude 3.5 Sonnet je najmoćniji i najinteligentniji model. Može razumjeti nijansirane upute i kontekst, prepoznati i ispraviti vlastite pogreške, izvući informacije iz vizualnih elemenata poput grafikona, grafikona i složenih dijagrama. Poboljšane mogućnosti razmišljanja, veliki kontekstni prozor, niske stope halucinacija i topao, ljudski ton povrh svega, čine Claude 3.5 Sonnet idealnim chatbotom za odgovaranje na pitanja, analizu dokumenata i baza znanja.

Claude 3.5 Haiku je najbrži model. Uistinu blista gdje god trebate brzo vrijeme odgovora, bilo u korisničkoj službi, društvenim platformama, online zajednicama, e-trgovini ili obrazovanju. Claude 3.5 Haiku pruža brze, točne prijedloge koda za ubrzavanje razvoja. Savršeno je za softverske timove koji žele pojednostaviti kodiranje i povećati produktivnost. Claude 3.5 Haiku podržava samo unos teksta, što znači da ne može obraditi vizualne podatke.

Što Claude može učiniti: njegove prednosti i slabosti

Prave veličine za svaki zadatak, Claude obitelj modela nudi najbolju kombinaciju brzine i performansi. Claude s jednakom lakoćom može obavljati složene kognitivne zadatke i rutinsku obradu podataka. Od sofisticiranog razumijevanja jezika do brzog drobljenja brojeva, modeli Claude vaši su pomoćnici za širok raspon profesionalnih i osobnih potreba:

• Prepišite i analizirajte statične slike, od rukom pisanih bilješki i grafikona do fotografija.
• Prevodite između različitih jezika u stvarnom vremenu, vježbajte gramatiku i stvarajte višejezični sadržaj.
• Izradite web stranice u HTML-u i CSS-u, pretvorite slike u strukturirane JSON podatke i otklonite pogreške u složenim bazama kodova.
• Uključite se u prirodne razgovore i dajte detaljne, lako razumljive odgovore.
• Zbog velikog prozora konteksta, Claude može probaviti veće dijelove podataka, analizirati cijelu knjigu ili kritizirati dugi esej u jednom potezu.

Podržane vrste dokumenata:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Ograničenja datoteke:

• 30 MB po datoteci
• Do 5 datoteka po chatu

Tehnička ograničenja: Claude ne može pretraživati ​​informacije na internetu, generirati slike, nema glasovnog načina.

Claude razumije šale, dosjetke, isprike i komplimente. Iznimne vještine pisanja chatbota omogućuju mu stvaranje emotivnih, ljudskih priča.

Međutim, neki se ljudi žale da je chatbot postao lošiji u pisanju, a razlog tome je Claudeov lik.

Tvrtke koje razvijaju modele umjetne inteligencije općenito ih obučavaju da izbjegavaju izgovaranje štetnih stvari i izbjegavanje pomaganja u štetnim zadacima. Cilj ovoga je obučiti modele da se ponašaju na načine koji su "bezopasni". Ali kada razmišljamo o karakteru onih koji su nam doista vrijedni divljenja, ne mislimo samo na izbjegavanje štete. Mislimo na one koji su znatiželjni o svijetu, koji nastoje govoriti istinu, a da ne budu neljubazni, i koji su u stanju vidjeti mnoge strane problema, a da ne postanu previše samouvjereni ili pretjerano oprezni u svojim stavovima. Mislimo na one koji su strpljivi slušatelji, pažljivi mislioci, duhoviti sugovornici i mnoge druge osobine koje povezujemo s mudrošću i dobro razvijenom osobom.

Ponekad se Claude ponaša bojažljivo, odbijajući odgovoriti na osjetljiva pitanja. Programeri su vrlo ponosni na činjenicu da je teško izvući ilegalne informacije iz bota, poput krivotvoriti novac ili kako se sakriti od policije. Ali ponekad Claude uključi autocenzuru i drži predavanja kao odgovor na potpuno bezopasne zahtjeve. Na primjer, bot odbija napisati smiješnu priču o otkazu jer "ne želi povrijediti ničije osjećaje neprikladnim humorom"; ili može navesti kršenje autorskih prava ako se od njega traži parodiranje poznatog lika.

Korisnici Reddita ismijavaju Claudea:

Ja: Bok; Claude: počinje se ispričavati

Ali postoji dobra strana ove osjetljivosti - Anthropic jako štiti vašu privatnost:

Anthropic ne trenira svoje modele na vašim podacima. Oni automatski brišu sve vaše podatke nakon 30 dana, a vi možete ukloniti cijele chatove s njihovih poslužitelja kad god želite.

Kako ljudi koriste Claude

Claude može temeljito pregledati i razumjeti dugačke pravne dokumente, poput ugovora ili spisa predmeta. Preuzimajući ovaj dugotrajni zadatak, Claude pomaže odvjetnicima uštedjeti svoje dragocjeno vrijeme za rad na višoj razini. Zato startup pravne tehnologije Robin AI koristi Claudea za analizu pravne papirologije.

Scribd, Inc. koristi Claude za generiranje visokokvalitetnih metapodataka za milijune dokumenata koje su prenijeli korisnici, poboljšavajući vidljivost sadržaja i potičući angažman korisnika na svojim globalnim platformama.

• Pomogao je u rješavanju 70% sadržaja koji su prenijeli korisnici koji nije imao kvalitetne metapodatke.
• Bogatiji opisi sadržaja značajno su povećali prijave i pretplate korisnika.
• Skalirano za obradu preko 100 milijuna dokumenata.

Newfront, moderna platforma za osiguranje, koristi Claude za automatizaciju zamornih zadataka osiguranja i pružanje trenutne podrške, čineći osiguranje pristupačnijim i učinkovitijim za sve.

S Claudeom, Newfrontom:

• Štedi HR timovima jedan mjesec godišnje i pruža personaliziranu podršku 24/7 za zaposlenike.
• Smanjuje troškove obrade dokumenata za 60%.
• Omogućuje trenutne preglede ugovora pravnim timovima.

Zapia pomaže latinoameričkim potrošačima u otkrivanju proizvoda, kupnji i dobivanju podrške putem popularnih aplikacija za razmjenu poruka poput WhatsAppa.

Korištenjem Claude, Zapia:

• Porastao je za 2,5 milijuna korisnika u prvoj godini.
• Dobili više od 90% pozitivnih povratnih informacija korisnika.
• Obrađuje stotine tisuća poruka na sat.

Kao što vidite, Claudeova svestranost u različitim industrijama naglašava njegov komercijalni potencijal. Kompanije ga upotrebljavaju za tijekove rada od prodaje do razvoja softvera. Automatiziranjem zadataka koji se ponavljaju i pomaganjem pri stvaranju sadržaja, Claude može povećati produktivnost i osloboditi ljudske radnike da se usredotoče na posao veće vrijednosti.

Ovdje saznajte više o Claudeovim klijentima i slučajevima komercijalne upotrebe: https://www.anthropic.com/customers

Statistika temeljena na 1 milijun nasumično odabranih chatova:

• 10,4% – Razvoj weba i mobilnih aplikacija
• 9,2% – Stvaranje sadržaja i komunikacija
• 7,2% – Akademsko istraživanje i pisanje
• 7,1% – Obrazovanje i razvoj karijere
• 6,0% – Napredne aplikacije umjetne inteligencije/strojnog učenja
• 5,7% – Poslovna strategija i operacije
• 4,5% – Jezični prijevod
• 3,9% – DevOps & Cloud Infrastructure
• 3,7% – Digitalni marketing i SEO
• 3,5% – Analiza podataka i vizualizacija

Podatke je prikupio Clio (Claude Insights and Observations), platforma koja pruža pregled obrazaca korištenja umjetne inteligencije, otkrivajući trendove i ponašanja bez ugrožavanja privatnosti pojedinca.

Širok izbor aplikacija i značajne stope korištenja u različitim kategorijama naglašavaju kako rješenja koja pokreće umjetna inteligencija postaju sve češća. Ovaj trend pokazuje svestranost alata kao što je Claude i odražava sve veću integraciju umjetne inteligencije u naše profesionalne i osobne živote.