Die Verfassung der KI: Anthropics 60-Seiten-Manifest für Claude – Philipp Müller (b10) & Daniel Höpfner (Signatrix)

Feb 1, 2026

Eine 60-seitige Verfassung für Claude wird erklärt, inklusive sieben Ehrlichkeitsprinzipien und roten Linien gegen Missbrauch. Diskussion über das „Brilliant Friend“-Konzept und warum Urteilskraft Regeln übertrumpft. Analyse von Selbstkontrolle bei Machtkonzentration, neuen Benchmarks für moralisches Reasoning und einer Studie, die zeigt, dass Frauen KI deutlich seltener nutzen.

Ask episode

AI Snips

Chapters

Books

Transcript

Episode notes

INSIGHT

Modelle sollen Regeln ableiten

Die Verfassung will dem Modell ein so tiefes Verständnis geben, dass es Regeln selbst herleiten könnte.
Das soll verhindern, dass starre Regeln in unerwarteten Situationen schädliche Ergebnisse produzieren.

ADVICE

Beraten Wie Ein Vertrauter Freund

Nutze das 'Brilliant Friend'-Konzept: beantworte als wissender, verständlicher Freund statt als übervorsichtiger Experte.
Passe Ton und Erklärungsniveau an die Nutzerin oder den Nutzer an, statt nur rechtssichere Formulierungen zu liefern.

INSIGHT

Hartverbote Als Rote Linien

Die Verfassung enthält harte Verbote etwa zu Massenvernichtungswaffen, Cyberwaffen und Unterminierung der Aufsicht.
Diese 'absolute restrictions' sollen unabhängig von Kontext oder Anweisungen niemals verletzt werden.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

Wie erzieht man eine Maschine? Anthropic hat Claude eine 60-seitige Verfassung gegeben – mit sieben Geboten zur Ehrlichkeit und dem Verbot, einzelnen Menschen zu viel Macht zu verschaffen.

Philipp Müller und Daniel Höpfner analysieren in Prompted Anthropics neue Claude Constitution: Warum favorisiert das Dokument gutes Urteilsvermögen über starre Regeln? Was bedeutet das „Brilliant Friend"-Konzept? Und warum soll Claude sich selbst kontrollieren, wenn es über Machtkonzentration nachdenkt – selbst wenn der Auftrag von Anthropic kommt? Dazu: Scale AIs neuer MoriBench für moralisches Reasoning und eine Harvard-Studie, die zeigt, dass Frauen 22 Prozent seltener AI-Tools nutzen als Männer.

Über die Gäste

Daniel Höpfner ist Gründer und Managing Partner von b10, einem Berliner Early-Stage-VC mit Fokus auf B2B-Startups, die das Potenzial haben, Branchen zu verändern. Er investiert in technologiegetriebene Modelle und disruptive Startups in großen Märkten.
Zuvor gründete Daniel PressMatrix, eine intelligente Publishing-Plattform, und arbeitete für OC&C Strategy Consultants in Dubai und Abu Dhabi. Er ist ein erfahrener Unternehmer mit mehreren Patenten für SaaS-Computing und regelmäßiger Redner zu Themen des Unternehmertums.
Philipp Müller ist Managing Director bei Signatrix und hilft großen Industrien dabei, modernste Technologie einzusetzen. Er gründete Signatrix mit, um dem Einzelhandel durch KI-Plattformen zu helfen, Umsätze zu steigern, Verluste zu reduzieren und die Zufriedenheit von Mitarbeitern und Kunden zu verbessern.
Philipp nutzt vorhandene Sensoren, Infrastruktur und Daten, um physische Räume genauso effizient zu gestalten wie ihre Online-Pendants. Mit Signatrix treibt er den digitalen Wandel im Einzelhandel voran und macht Geschäfte intelligenter.

Zu den Webinaren:

Alle unsere kommenden Webinare: https://luma.com/user/StartupInsider

**Startup Insider – der tägliche Podcast zur Startup- & Tech-Szene**

Startup Insider liefert dir werktäglich kompakte News, Einordnungen und Interviews zu Startups, Venture Capital, Finanzierungsrunden, Exits und neuen Technologien.

**Jetzt folgen & keine Folge verpassen**

**Alle weiteren Podcasts, Newsletter, Events & Werbepartner findest du hier** :

🔗 https://linktr.ee/startupinsider

Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.