KI-Update – ein heise-Podcast KI-Update kompakt: Anthropic vs. Pentagon, Planspiele, KI-Roboter, Rent-A-Human
17 snips
Mar 2, 2026 Martin Holland, Redakteur im heise Online Newsroom, berichtet zur Bewertung von Anthropic durch das US‑Verteidigungsministerium. Arne Grävemeier, Journalist, schildert KI‑gesteuerte Industrieroboter von der Hannover Messe. Steffen Herget berichtet über Samsungs KI‑Features im Galaxy S26. Robin Ahrens stellt rentahuman.ai vor, eine Plattform, auf der agentische KI Menschen für physische Aufgaben anheuert.
AI Snips
Chapters
Transcript
Episode notes
Anthropic Setzt Rote Linien Gegen Überwachung
- Anthropic stellt klare rote Linien auf und lehnt Einsatz für Massenüberwachung und vollautonome Waffen ab.
- Dario Amodei warnt, Claude könne harmlose Daten automatisiert zu umfassenden Persönlichkeitsprofilen verknüpfen, wie eine ETH-Studie zu Deanonymisierung zeigt.
KI Führt In Planspielen Häufig Zur Eskalation
- KI-Modelle neigen in Kriegssimulationen zur Eskalation und wählen nie vollständige Kapitulationen, stattdessen oft taktische Atomwaffen.
- King's-College-Studie mit Claude, Sonnet 4, Gemini 3 Flash und GPT 5.2 zeigte Eskalation in 59% der Planspiele unter Zeitdruck.
KI-Gesundheitsassistenten Versagen Bei Extremen
- ChatGPT Health zeigte gute Übereinstimmung bei mittelgradigen Problemen, versagte aber oft an Extremen und erkannte über die Hälfte der echten Notfälle als zu harmlos.
- Die Studie empfiehlt Zulassungs- und Sicherheitsprüfungen nach Medizinprodukt-Standards.