Claude (Sprachmodell)

Claude ist ein von Anthropic entwickeltes Sprachmodell. Die Entwicklung von Claude zielt auf die Vereinigung der Sprachverarbeitung (mittels maschinellem Lernen und großer Sprachmodelle) mit ethischen Standards und Sicherheit in der künstlichen Intelligenz (kurz KI) ab.

Überblick

Die Claude-Modellreihe, insbesondere die dritte Generation, bekannt als Claude 3, besteht aus drei Versionen: Haiku, Sonnet und Opus. Jedes dieser Modelle bietet unterschiedliche Leistungsniveaus und ist für spezifische Anwendungen optimiert.

Geschichte

Anthropic wurde von ehemaligen Forschern von OpenAI mit dem Ziel gegründet, Claude als Antwort auf bestehende Sprachmodelle auf den Markt zu bringen. Die neueste Version, Claude 3, wurde im Jahr 2024 eingeführt und bietet im Vergleich zu seinen Vorgängern sowie den Modellen anderer führender Technologieunternehmen verbesserte Fähigkeiten.

Technische Spezifikationen

Claude 3 ist in drei Hauptvarianten verfügbar:

1. Haiku: Das schnellste und kostengünstigste Modell, geeignet für Echtzeitinteraktionen.
2. Sonnet: Bietet eine Balance zwischen Geschwindigkeit und Intelligenz, geeignet für Geschäftsanwendungen.
3. Opus: Das leistungsfähigste Modell, konzipiert für Aufgaben, die hohe Genauigkeit und fortgeschrittene Sprachverständnisfähigkeiten erfordern.

Diese Modelle können Kontextfenster von bis zu 200.000 Token verarbeiten, was erheblich mehr ist als die vergleichbarer Modelle anderer Anbieter.

Anthropic plant kontinuierliche Aktualisierungen und Verbesserungen für die Claude-Modellreihe. Diese Entwicklungen zielen darauf ab, die Modelle sowohl leistungsfähiger als auch effizienter zu machen und gleichzeitig die Kosten für kleinere Modelle zu senken.

Training

Claude-Modelle sind generative, vortrainierte Transformatoren. Sie wurden darauf trainiert, das nächste Wort in großen Textmengen vorherzusagen. Anschließend wurden die Claude-Modelle mit Constitutional AI feinabgestimmt, um sie hilfsbereit, ehrlich und harmlos zu machen.

Constitutional AI

Constitutional AI ist ein Ansatz, der von Anthropic entwickelt wurde, um KI-Systeme, insbesondere Sprachmodelle wie Claude, so zu trainieren, dass sie harmlos und hilfreich sind, ohne auf umfangreiches menschliches Feedback angewiesen zu sein. Die Methode, die im Artikel Claude’s Constitution beschrieben wird, umfasst zwei Phasen: überwachtes Lernen und Verstärkungslernen.

In der Phase des überwachten Lernens generiert das Modell Antworten auf Eingabeaufforderungen, selbstkritisiert diese Antworten anhand einer Reihe von Leitprinzipien (einer "constitution") und überarbeitet die Antworten. Anschließend wird das Modell auf diesen überarbeiteten Antworten feinabgestimmt.

In der Phase des Verstärkungslernens aus KI-Feedback werden Antworten generiert, und eine KI vergleicht deren Übereinstimmung mit der Konstitution. Dieses Datenset aus KI-Feedback wird verwendet, um ein Präferenzmodell zu trainieren, das Antworten danach bewertet, wie sehr sie der Konstitution entsprechen. Claude wird dann so feinabgestimmt, dass es mit diesem Präferenzmodell übereinstimmt. Diese Technik ähnelt dem Verstärkungslernen aus menschlichem Feedback (RLHF), mit dem Unterschied, dass die Vergleiche zur Erstellung des Präferenzmodells von der KI generiert werden und auf der Konstitution basieren.

Dieser Ansatz ermöglicht das Training von KI-Assistenten, die sowohl hilfreich als auch harmlos sind und die ihre Einwände gegen schädliche Anfragen erklären können, wodurch die Transparenz erhöht und die Abhängigkeit von menschlicher Überwachung verringert wird.

Die "Konstitution" für Claude umfasste 75 Punkte, darunter Abschnitte aus der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen.

Leistungsvergleiche

In mehreren Benchmarks übertraf Claude 3 Opus beispielsweise sowohl Googles Sprachmodell Gemini als auch OpenAIs GPT-4, insbesondere in Bereichen wie Allgemeinwissen und Mathematik. Die Tests zeigen, dass Claude 3 im Vergleich zu früheren Modellen und Konkurrenzprodukten weniger voreingenommen und präziser in seinen Antworten ist.

Trotz seiner fortgeschrittenen Fähigkeiten und der verbesserten Sicherheitsmerkmale bleibt Claude in der breiten Anwendung hinter einigen seiner Konkurrenten zurück. Dies liegt teilweise an der stärkeren Fokussierung auf Geschäftskunden und den hohen Kosten für die leistungsfähigsten Modelle.

Anwendungen

Claude wird hauptsächlich von Geschäftskunden genutzt, die komplexe Datenanalysen und andere anspruchsvolle Aufgaben durchführen müssen. Mit seiner Fähigkeit, große Textmengen zu verarbeiten, eignet sich Claude auch für die Analyse und Zusammenfassung umfangreicher Dokumente.

Sicherheits- und Ethikstandards

Anthropic legt großen Wert auf die Sicherheit und ethische Aspekte der KI-Entwicklung. Claude ist mit verschiedenen Mechanismen ausgestattet, die sicherstellen sollen, dass das Modell innerhalb ethischer Grenzen operiert und keine schädlichen oder voreingenommenen Outputs produziert.

Weblinks

• Claude ab sofort auch in Europa erhältlich – Heise, am 14. Mai 2024
• Introducing the next generation of Claude (amerikanisches Englisch) – Anthropic, am 4. Mai 2024
• Chatbot-Arena: Claude 3 stößt GPT-4 vom Sockel – Golem, am 1. Mai 2024