Claude: Ein genauerer Blick auf die innovative KI von Anthropic

Chatbot Claude von Anthropic ist einer der Hauptkonkurrenten von ChatGPT. Das Unternehmen ist vielleicht nicht so bekannt wie OpenAI, aber es ist erfolgreich und gut finanziert. In den letzten Jahren hat Amazon 4 Milliarden US-Dollar in Anthropic investiert, und im November 2024 kündigte das Unternehmen eine neue Investition von weiteren 4 Milliarden US-Dollar an, wodurch sich die Gesamtsumme auf 8 Milliarden US-Dollar erhöht. Was Claude betrifft, so loben die Menschen den Chatbot für seine Menschlichkeit, Kreativität, Sensibilität und emotionale Intelligenz. In diesem Artikel werden wir uns mit der Geschichte des Chatbots Claude, seinen Grundprinzipien, Vorteilen und Grenzen befassen.

Die Ursprünge von Claude

Anthropic wurde von Dario Amodei und seiner Schwester Daniela Amodei mitbegründet. Vor der Gründung ihres Unternehmens arbeiteten beide bei OpenAI: Dario war Vizepräsident für Forschung und leitete die Entwicklung einflussreicher Modelle wie GPT-2 und GPT-3, während Daniela Vizepräsidentin für Sicherheit und Richtlinien war.

Dario und Daniela Amodei

Warum hat Dario Amodei OpenAI verlassen? Einige Quellen sagen, dass er aus Sorge gegangen ist, dass OpenAI zunehmend alles andere als eine ethische Entwicklung der künstlichen Intelligenz priorisiert. Und hier ist, was Dario selbst sagt:

„Es gibt viele Fehlinformationen da draußen. Die Leute sagen, wir seien gegangen, weil uns der Deal mit Microsoft nicht gefallen hat. Das ist falsch.“ Der wahre Grund für den Ausstieg sei, dass es ‚unglaublich unproduktiv ist, mit der Vision eines anderen zu argumentieren‘. Anstatt also bei OpenAI zu bleiben, sagte sich Amodei: “Nimm ein paar Leute, denen du vertraust, und setze deine Vision um.“

Also gründeten Dario, Daniela und einige andere ehemalige OpenAI-Mitarbeiter 2021 Anthropic, um ihre Vision von künstlicher Intelligenz zu verwirklichen. Im März 2023 veröffentlichten sie die erste Version des Claude-Sprachmodells. Der Name wurde insbesondere von Claude Shannon inspiriert, einem amerikanischen Mathematiker, Wissenschaftler und Erfinder, der als „Vater der Informationstheorie“ und „Vater des Informationszeitalters“ bekannt ist.

Claude Shannon

Claudes Prinzipien und Werte

Die Mission des Unternehmens besteht darin, die Sicherheit, die Funktionsweise und die gesellschaftlichen Auswirkungen von KI-Modellen zu untersuchen und sicherzustellen, dass künstliche Intelligenz einen positiven Einfluss auf die Gesellschaft hat, während sie immer fortschrittlicher und leistungsfähiger wird.

Dario Amodei:

Wir haben von Anfang an versucht, Claude mit Blick auf Sicherheit und Kontrollierbarkeit zu entwickeln. Viele unserer ersten Kunden waren Unternehmen, die sehr darauf bedacht waren, dass das Modell nichts Unvorhersehbares tut. Oder sich Fakten ausdenkt. Eine der großen Ideen hinter Claude ist die sogenannte konstitutionelle KI. Konstitutionelle KI basiert auf dem Training des Modells, um einer expliziten Reihe von Prinzipien zu folgen. So kann man transparenter machen, was das Modell tut. Und das macht es einfacher, das Modell zu kontrollieren und sicher zu machen.

Was ist konstitutionelle KI? Es handelt sich um eine Methode, mit der nützliche, ehrliche und harmlose KI-Assistenten durch Selbstverbesserung trainiert werden, ohne dass menschliche Labels schädliche Ergebnisse identifizieren.

Dieser Prozess umfasst zwei Phasen: eine Phase des überwachten Lernens und eine Phase des verstärkenden Lernens:

• In der überwachten Phase wird ein erstes Modell abgetastet, Selbstkritik und Überarbeitungen werden generiert und das ursprüngliche Modell wird anhand der überarbeiteten Antworten feinabgestimmt.
• In der Phase des verstärkenden Lernens werden Proben aus dem feinabgestimmten Modell ausgewertet und ein Präferenzmodell wird aus dem Datensatz der KI-Präferenzen trainiert. Das Präferenzmodell wird dann als Belohnungssignal verwendet, um den KI-Assistenten zu trainieren.

Wie in der Grafik zu sehen ist, liefert dieser Ansatz bessere Ergebnisse als die herkömmliche Methode des Reinforcement Learning from Human Feedback (RLFH), die zum Trainieren anderer Sprachmodelle verwendet wird. Das bedeutet, dass Claude weniger wahrscheinlich schädliche Dinge sagt und sich seltener danebenbenimmt als andere Chatbots.

RL gemäß Satzung vs. RLHF gemäß Standard

Die einzige menschliche Kontrolle wird durch eine Liste von Regeln oder Grundsätzen gewährleistet, die aus verschiedenen Quellen stammen, wie z. B. der UN-Menschenrechtserklärung oder den Sparrow-Prinzipien von DeepMind. Mehr dazu erfahren Sie hier: https://www.anthropic.com/news/claudes-constitution 

Claudes Funktionen und aktuelle Modelle

In der Regel werden Systeme der künstlichen Intelligenz anhand ihrer Leistung in Benchmark-Bewertungen beurteilt – standardisierte Tests, die an Modelle durchgeführt werden, um festzustellen, wie gut sie in der Lage sind, zu codieren, mathematische Fragen zu beantworten oder andere Aufgaben zu bewältigen. Nach diesen Maßstäben sind die neuesten Versionen von Claude in etwa mit den leistungsstärksten Modellen von OpenAI und Google vergleichbar.

Claude 3.5 vs andere Modelle im Benchmarking

Aber Claudes wichtigstes Merkmal – seine emotionale Intelligenz – lässt sich nicht einfach messen. Die Leute sagen, dass Claude einfach anders fühlt. Kreativer und einfühlsamer. Aufschlussreicher und weniger nervig wie ein Roboter. Claudes Ergebnisse, so sagen sie, sind wie die Antworten, die ein kluger, aufmerksamer Mensch geben würde, und weniger wie die generische Prosa, die von anderen Chatbots erzeugt wird.

Die Entwickler heben die folgenden positiven Aspekte des Chatbots hervor:

• Claude ist sicher, da er über AWS und GCP zugänglich ist, über eine SOC 2 Typ II-Zertifizierung verfügt und HIPAA-Compliance-Optionen bietet, die strenge Sicherheitspraktiken einhalten.
• Claude ist vertrauenswürdig, da er erstklassige Jailbreak-Resistenz und Missbrauchsprävention kombiniert.
• Claude ist zuverlässig, da er sehr niedrige Halluzinationsraten und eine sehr hohe Genauigkeit aufweist, selbst bei der Arbeit mit langen Dokumenten.

Vergleich der aktuellen Claude-Modelle:

200.000 Token entsprechen etwa 150.000 englischen Wörtern oder 680.000 Unicode-Zeichen.

8192 Token entsprechen in etwa 6200 englischen Wörtern oder 12–14 Seiten mit einfachem Zeilenabstand.

4096 Token entsprechen in etwa 3100 englischen Wörtern oder 6–7 Seiten mit einfachem Zeilenabstand.

Zwei der neuesten Modelle heißen Claude 3.5 Sonnet und Claude 3.5 Haiku.

Claude 3.5 Sonnet ist das leistungsstärkste und intelligenteste Modell. Es kann nuancierte Anweisungen und Zusammenhänge verstehen, eigene Fehler erkennen und korrigieren sowie Informationen aus visuellen Darstellungen wie Tabellen, Grafiken und komplexen Diagrammen extrahieren. Verbesserte Argumentationsfähigkeiten, ein großes Kontextfenster, geringe Halluzinationsraten und ein warmer, menschlicher Ton machen Claude 3.5 Sonnet zu einem idealen Chatbot für die Beantwortung von Fragen, die Analyse von Dokumenten und Wissensdatenbanken.

Claude 3.5 Haiku ist das schnellste Modell. Es ist überall dort von Vorteil, wo schnelle Reaktionszeiten erforderlich sind, sei es im Kundenservice, auf sozialen Plattformen, in Online-Communities, im E-Commerce oder im Bildungsbereich. Claude 3.5 Haiku bietet schnelle und präzise Code-Vorschläge, um die Entwicklung zu beschleunigen. Es ist perfekt für Softwareteams, die die Codierung vereinfachen und die Produktivität steigern möchten. Claude 3.5 Haiku unterstützt nur die Texteingabe, d. h. es kann keine visuellen Daten verarbeiten.

Was Claude kann: seine Stärken und Schwächen

Die Claude-Modellfamilie ist für jede Aufgabe geeignet und bietet die beste Kombination aus Geschwindigkeit und Leistung. Claude kann komplexe kognitive Aufgaben und routinemäßige Datenverarbeitung gleichermaßen einfach ausführen. Von ausgefeiltem Sprachverständnis bis hin zu schneller Datenverarbeitung sind die Claude-Modelle Ihre idealen Assistenten für eine Vielzahl beruflicher und privater Anforderungen:

• Transkribieren und analysieren Sie statische Bilder, von handschriftlichen Notizen und Grafiken bis hin zu Fotos.
• Übersetzen Sie in Echtzeit zwischen verschiedenen Sprachen, üben Sie Grammatik und erstellen Sie mehrsprachige Inhalte.
• Erstellen Sie Websites in HTML und CSS, wandeln Sie Bilder in strukturierte JSON-Daten um und debuggen Sie komplexe Codebasen.
• Führen Sie natürliche Gespräche und geben Sie detaillierte, leicht verständliche Antworten.
• Dank seines riesigen Kontextfensters kann Claude größere Datenmengen verarbeiten und ein ganzes Buch analysieren oder einen langen Aufsatz in einem Zug kritisieren.

Unterstützte Dokumenttypen:

• PDF
• DOCX
• CSV
• TXT
• HTML
• ODT
• RTF
• EPUB
• JSON

Dateigrößenbeschränkung:

• 30 MB pro Datei
• Bis zu 5 Dateien pro Chat

Technische Einschränkungen: Claude kann nicht im Internet nach Informationen suchen, keine Bilder generieren und verfügt über keinen Sprachmodus.

Claude versteht Witze, Wortspiele, Entschuldigungen und Komplimente. Die außergewöhnlichen Schreibfähigkeiten des Chatbots ermöglichen es ihm, emotionale, menschenähnliche Geschichten zu verfassen.

Einige Leute beschweren sich jedoch, dass der Chatbot schlechter im Schreiben geworden ist, und der Grund dafür ist Claudes Charakter.

Unternehmen, die KI-Modelle entwickeln, trainieren diese in der Regel so, dass sie keine verletzenden Dinge sagen und keine verletzenden Aufgaben unterstützen. Das Ziel dabei ist, die Modelle so zu trainieren, dass sie sich „harmlos“ verhalten. Aber wenn wir an den Charakter derer denken, die wir wirklich bewundern, denken wir nicht nur an die Vermeidung von Schaden. Wir denken an diejenigen, die neugierig auf die Welt sind, die danach streben, die Wahrheit zu sagen, ohne unfreundlich zu sein, und die in der Lage sind, viele Seiten eines Problems zu sehen, ohne in ihren Ansichten übermütig oder übervorsichtig zu werden. Wir denken an diejenigen, die geduldige Zuhörer, sorgfältige Denker, witzige Gesprächspartner und viele andere Eigenschaften sind, die wir mit einer weisen und vielseitigen Person verbinden.

Manchmal verhält sich Claude schüchtern und weigert sich, sensible Fragen zu beantworten. Die Entwickler sind sehr stolz darauf, dass es schwierig ist, dem Bot illegale Informationen zu entlocken, z. B. wie man Geld fälscht oder sich vor der Polizei versteckt. Manchmal zensiert sich Claude jedoch selbst und hält Vorträge als Antwort auf völlig harmlose Anfragen. So weigert sich der Bot beispielsweise, eine lustige Geschichte über eine Kündigung zu schreiben, weil er „niemanden mit unangemessenem Humor verletzen“ möchte, oder er beruft sich auf Urheberrechtsverletzungen, wenn er gebeten wird, eine berühmte Persönlichkeit zu parodieren.

Reddit-Nutzer machen sich über Claude lustig:

Ich: Hallo; Claude: beginnt sich zu entschuldigen

Aber diese Sensibilität hat auch eine gute Seite – Anthropic schützt Ihre Privatsphäre sehr:

Anthropic trainiert seine Modelle nicht mit Ihren Daten. Alle Informationen werden nach 30 Tagen automatisch gelöscht, und Sie können jederzeit ganze Chats von den Servern entfernen.

Wie Menschen Claude nutzen

Claude kann lange Rechtsdokumente wie Verträge oder Fallakten gründlich prüfen und verstehen. Indem er diese zeitaufwendige Aufgabe übernimmt, hilft Claude Anwälten, ihre wertvolle Zeit für anspruchsvollere Aufgaben zu nutzen. Deshalb nutzt das Legal-Tech-Startup Robin AI Claude zur Analyse von Rechtsdokumenten.

Scribd, Inc. verwendet Claude, um hochwertige Metadaten für Millionen von Dokumenten zu generieren, die von Benutzern hochgeladen wurden, wodurch die Auffindbarkeit von Inhalten verbessert und die Benutzerinteraktion auf den globalen Plattformen gefördert wird.

• 70 % der von Benutzern hochgeladenen Inhalte, denen hochwertige Metadaten fehlten, konnten behoben werden.
• Umfassendere Inhaltsbeschreibungen führten zu einer deutlichen Zunahme der Benutzeranmeldungen und -abonnements.
• Skaliert, um über 100 Millionen Dokumente zu verarbeiten.

Newfront, eine moderne Versicherungsplattform, nutzt Claude, um mühsame Versicherungsaufgaben zu automatisieren und sofortigen Support zu bieten, wodurch Versicherungen für alle zugänglicher und effizienter werden.

Mit Claude:

• - spart Newfront den Personalabteilungen einen Monat Arbeit pro Jahr und bietet den Mitarbeitern rund um die Uhr personalisierten Support.
• - werden die Kosten für die Dokumentenverarbeitung um 60 % gesenkt.
• - erhalten die Rechtsabteilungen sofortige Vertragsprüfungen.

Zapia hilft lateinamerikanischen Verbrauchern, Produkte zu entdecken, Einkäufe zu tätigen und Unterstützung über beliebte Messaging-Apps wie WhatsApp zu erhalten.

Durch den Einsatz von Claude konnte Zapia:

• im ersten Jahr um 2,5 Millionen Nutzer wachsen.
• über 90 % positives Nutzerfeedback generieren.
• Hunderttausende von Nachrichten pro Stunde verarbeiten.

Wie Sie sehen, unterstreicht Claudes branchenübergreifende Vielseitigkeit sein kommerzielles Potenzial. Unternehmen setzen es für Arbeitsabläufe vom Vertrieb bis zur Softwareentwicklung ein. Durch die Automatisierung sich wiederholender Aufgaben und die Unterstützung bei der Erstellung von Inhalten kann Claude die Produktivität steigern und menschliche Arbeitskräfte entlasten, damit sie sich auf höherwertige Arbeit konzentrieren können.

Erfahren Sie hier mehr über Claudes Kunden und kommerzielle Anwendungsfälle:

Die Statistiken basieren auf 1 Million zufällig ausgewählten Chats:

• 10,4 % – Entwicklung von Websites und mobilen Apps
• 9,2 % – Erstellung von Inhalten und Kommunikation
• 7,2 % – Akademische Forschung und Schreiben
• 7,1 % – Bildung und Karriereentwicklung
• 6,0 % – Fortgeschrittene Anwendungen der künstlichen Intelligenz/des maschinellen Lernens
• 5,7 % – Geschäftsstrategie und -betrieb
• 4,5 % – Sprachübersetzung
• 3,9 % – DevOps und Cloud-Infrastruktur
• 3,7 % – Digitales Marketing und SEO
• 3,5 % – Datenanalyse und -visualisierung

Die Daten wurden von Clio (Claude Insights and Observations) gesammelt, einer Plattform, die einen Überblick über KI-Nutzungsmuster bietet und Trends und Verhaltensweisen aufzeigt, ohne die Privatsphäre des Einzelnen zu gefährden.

Die Vielzahl der Anwendungen und die hohen Nutzungsraten in verschiedenen Kategorien zeigen, dass KI-gestützte Lösungen immer häufiger eingesetzt werden. Dieser Trend verdeutlicht die Vielseitigkeit von Tools wie Claude und spiegelt die zunehmende Integration von KI in unser berufliches und privates Leben wider.