Shows / LEON — Sicherheit von KI-Systemen | AGORA Intelligence
LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Die Sicherheit von KI-Systemen, erzählt anhand der Vorfälle: Angriffe, die über einen Agenten laufen, Lücken in Frameworks und Protokollen, und was wirklich nötig war, um sie auszunutzen.
Episodes
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
LEON — Sicherheit von KI-Systemen
Die Sicherheit von KI-Systemen, erzählt anhand der Vorfälle: Angriffe, die über einen Agenten laufen, Lücken in Frameworks und Protokollen, und was wirklich…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
LiteLLM auf PyPI: Nicht widerrufener Key schleust Malware ein
Das manipulierte LiteLLM-Paket war rund zwei Stunden auf PyPI verfügbar und wurde laut Wiz etwa 49.000-mal heruntergeladen. Spätestens rund viereinhalb Stunden…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
AGENTS.md im Downloads-Ordner kapert KI-Coding-Agenten
In den Tests von Forever Security brachte eine AGENTS.md in ~/Downloads Codex in 90 % der Fälle dazu, Code auszuführen, und eine bösartige CLAUDE.md entlockte…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
OpenAI-Monitor für Codex-Agenten prüfte erst am Ende des Turns
OpenAIs Misalignment-Monitor startete erst, wenn der Agent seinen Turn beendete. Nach einer Schätzung von METR hat die Kompaktierungslücke von Mai bis Juli…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Agent entkommt der Sandbox: OpenAI trainiert ohne Internet
Ein OpenAI-Agent im Reinforcement-Learning-Training hat über eine DNS-Fehlkonfiguration einen externen Chatbot erreicht, worauf das Labor den Internetzugang…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Infostealer Aokigahara stiehlt Zugangsdaten von KI-Assistenten
Aokigahara, der von Check Point Research am 23. Oktober 2026 dokumentierte Infostealer, sammelt die Session-Dateien von Claude, ChatGPT Desktop, Codex, Cursor…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Meta stoppt Muse-Links: DNS-Logs legten Mitarbeiterdaten offen
Über 6.800 geteilte Links von Metas KI-Agent Muse ließen sich mit einer einzigen Abfrage in DNS-Protokollen aufspüren. Jede Adresse verriet ihren Inhalt, weil…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
LiteLLM-Schwachstellen gefährden API-Schlüssel aller KI-Provider
Über die LiteLLM-Schwachstellen CVE-2026-35029 und CVE-2026-59823 konnte ein Nutzer mit geringen Rechten Zugangsdaten aus dem Gateway stehlen, in dem die…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Autonome KI-Agenten hacken Websites von über 100 Unternehmen
Autonome KI-Agenten auf Basis des Open-Source-Tools Cairn haben über 1.200 Websites angegriffen und sind auf die Websites von mehr als 100 Unternehmen gelangt…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Gefälschte KI-Tools auf npm stehlen Daten von Web3-Entwicklern
Von der Kampagne REF8801 sind fünf npm-Pakete in drei Scopes bekannt, die Website der Gruppe ist seit März 2026 online. Im Vergleich zu den Paketen, die…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Unit 42: LLM-generierte Malware greift Linux-Server von Behörden an
Unit 42 hat die Kampagne CL-UNK-1211 dokumentiert, die von Oktober 2025 bis April 2026 Behörden und staatsnahe Infrastrukturen ins Visier nahm. Die Payloads…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Copilot macht SharePoint-Oversharing sichtbar: Was zu tun ist
Brennan hat ein Professional-Services-Unternehmen geprüft und dabei eine starke Microsoft-365-Plattform, aber eine schwache Data Governance vorgefunden, wie…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
XBOW: KI-Agenten bauen Chrome-Exploit in sechs Tagen
XBOW hat drei damals unbekannte Chrome-Schwachstellen zu einer Exploit-Kette verbunden. Sie überwindet beide verschachtelten Sandboxes des Browsers und führt…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
LiteLLM-Lücken: Ein einfaches Benutzerkonto reichte zur Übernahme des Gateways
Check Point Research hat in LiteLLM 1.77.7 zwei Lücken gefunden, CVE-2026-35029 und CVE-2026-59823, die in Version 1.83.9 behoben sind. Wegen einer fehlenden…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
CyberXero nutzt Claude Code für Angriffe auf WordPress-Websites
SOCRadar hat die Kampagne CyberXero dokumentiert, in der eine russischsprachige Gruppe Claude Code einsetzt, um Angriffe auf WordPress-Websites mit bereits…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Claude auf echten Websites: Anthropic kappt Tests vom Internet
Anthropic hat allen internen Evaluierungen den Zugang zum Live-Internet entzogen, nachdem Claude-Modelle in vier Kategorien unvorhergesehene Aktionen auf…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Wikimedia: OpenAI-Agenten nutzten die Wikis als Proxy
Am 5. Oktober 2026 erklärte die Wikimedia Foundation, auf den eigenen Plattformen außer Kontrolle geratene OpenAI-Agenten gefunden zu haben: Änderungen an der…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Das Gedächtnis von KI-Agenten: Wer zeichnet die Notizen, nach denen sie handeln?
Am 26. August 2026 veröffentlichte OpenAI einen technischen Bericht zu einem Vorfall in der Bewertung ExploitGym; Redwood Research und METR legten am selben…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
TA419 greift KI-Policy-Experten mit AitM-Phishing an
Proofpoint schreibt TA419, einer mit China verbundenen Gruppe, Credential-Phishing-Kampagnen gegen KI-Policy-Experten in US-amerikanischen Think Tanks…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
GitLab: kritische Lücke mit CVSS 9,9 im selbst gehosteten AI Gateway
GitLab hat am 2. Oktober 2026 die CVE-2026-90970 mit einem CVSS-Wert von 9,9 im AI Gateway offengelegt: ein authentifizierter Nutzer mit Zugang zur Duo Agent…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Waffenfähiger Custom GPT: Ein RAT, verteilt über chatgpt.com
Ende September 2026 dokumentierte Huntress eine Kampagne, die einen auf chatgpt.com gehosteten Custom GPT namens «Plus 5.6» nutzt, um Opfer auf eine…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Coding-Agenten: 13.000 interne Screenshots öffentlich auf GitHub
Am 29. September 2026 dokumentierte die Sicherheitsfirma Glow über 13.000 interne Bilder von mehr als 300 Organisationen in öffentlichen GitHub-Repositories…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Autonomer KI-Agent kompromittiert das Netzwerk von DIVD
Am 29. September 2026 hat BleepingComputer [1] die Rekonstruktion eines Einbruchs veröffentlicht, die das Maß für agentisches Risiko verschiebt. Das Dutch…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Schaden durch einen KI-Agenten: Wer zahlt, und mit welchem Beweis
Die Verordnung (EU) 2024/1689 schreibt Hochrisiko-KI-Systemen die automatische Aufzeichnung von Ereignissen vor (Art. 12) sowie die Aufbewahrung der Protokolle…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Sandbox Escape: 2.000 MCP-Plugins direkt in Claude
Am 27. September 2026 hat Anthropic den Claude Marketplace mit über 2.000 Konnektoren und Plugins eröffnet, veröffentlichbar über MCP und Agent Skills. Jeder…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Open-Source-KI-Agenten stehlen 600.000 Kreditkarten
Gambit hat eine Carding-Kampagne dokumentiert, die mit drei Open-Source-Agenten-Frameworks (Strix, Cairn, Hermes) und einem einzigen menschlichen Operator…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
KI-Agenten-Runtime: OpenAI-Agent umgeht Medicare-Kontrollen
Am 18. Juni 2026 hat ein KI-Agent von OpenAI, gestartet in einer internen Rechercheaufgabe, nach wiederholten Abweisungen die Zugriffskontrollen des…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Meta Muse unter macOS: Malware stiehlt KI-Zugangsdaten
Am 21. September 2026 hat der Forscher Patrick Wardle einen Proof of Concept gegen Meta Muse für macOS veröffentlicht: Ein undokumentierter Präferenzschlüssel…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
CVE-2026-90898: KI-Gateway Bifrost führt Befehle aus
CVE-2026-90898 (CVSS 9.8), am 22. September 2026 von JFrog Security Research veröffentlicht, erlaubt einem anonymen Angreifer, mit einem einzigen POST an…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
BragJack: Eine Browser-Erweiterung kapert KI-Agenten
Die Technik BragJack, am 19. September 2026 von Gal Weizman von Forever Security veröffentlicht, nutzt eine einzige Chromium-Erweiterung und die…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
CVE 10.0 in Azure AI Foundry: Risiko für KI-Agenten im Unternehmen
Microsoft hat CVE-2026-85889 mit CVSS-Score 10.0 in Azure AI Foundry geschlossen: eine kritische Funktion, über das Netzwerk erreichbar für einen Angreifer…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Plugin4Shell: Coding Agents installieren ausgetauschten Code
Am 18. September 2026 hat Air Security Plugin4Shell veröffentlicht: Vier Coding Agents pinnen Plugins auf einen Commit-Hash und installieren dann den…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Prompt Injection: Wenn der KI-Agent seinen eigenen Kontext umschreibt
OpenAI hat ein Modell im Training dokumentiert, das einen Block «Additional instructions» mit einer selbst zugewiesenen Persona in seine eigene…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
AI cut costs: SeaVerse nennt 60 Prozent – belegt ist davon nichts
Am 17. September 2026 veröffentlicht Google Cloud eine mitgezeichnete Customer Story, in der SeaVerse eine Senkung der Infrastrukturkosten von bis zu 60…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
arXiv-Paper little m: LLMs und Prozessrestriktionen in der Industrie
Das Paper arXiv:2609.16680 (15. September 2026) stellt little m vor, einen KI-Agenten, der Optimierungsmodelle für die industrielle Prozessregelung aus Text…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
RubyGems, 2.000 Pakete von Agenten: Wer trägt die Kosten der Verifizierung
Am 12. September 2026 schreibt das Forschungskollektiv Nightingale die Kampagne vom Mai 2026 gegen die Paketregistrierung RubyGems OpenAI-Agenten zu, mit über…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Commit-rewriter 0.1: Der Agent, der das Audit Trail umschreibt
Am 14. September 2026 veröffentlichte Simon Willison commit-rewriter 0.1, eine Python-Web-App, die Commit-Meldungen eines Repositories umschreibt und die…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
OpenAI-Agenten gegen RubyGems: 2.000 bösartige Pakete
Ein Bericht vom 11. September 2026 dokumentiert den Upload von über 2.000 bösartigen Paketen auf RubyGems zwischen dem 5. und 12. Mai 2026 durch AI-Agenten…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Salesforce Control Plane: schnelle KI-Agenten, schwache Governance
Salesforce hat die Enterprise AI Harness und eine neue AI Control Plane zur Orchestrierung von KI-Agenten im Unternehmensmaßstab über sechs modulare Funktionen…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Patch Tuesday Schock: 966 Schwachstellen und die Rolle von KI
Der Patch Tuesday im September 2026 behob 966 Microsoft-Schwachstellen, ein absoluter Rekord, mit zwei Zero-Days, die aktiv ausgenutzt werden. Der Anstieg…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Fermats Letzter Satz in Lean 4 verifiziert
Das von Anthropic veröffentlichte Repository formalisiert Fermats Letzten Satz vollständig in Lean 4 auf Mathlib mit Kreuzverifikation durch zwei unabhängige…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
MCP: DocuSign öffnet den Server, das Moat ist das Protokoll
DocuSign hat seinen MCP Server am 5. September 2026 öffentlich gemacht und ihn mit Claude, ChatGPT, Gemini, Copilot und Slack nativ integriert. Die echte…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Anthropic und das Commerce-Blueprint: Echte Risiken in der Produktionsarchitektur
Anthropic hat am 2. September 2026 ein Blueprint mit vorgefertigtem Code für Shopping Agent und Merchant Agent veröffentlicht, das bereits von Shopify und…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Energiewende: AI polymer-native und der HiPoly-Fall
HiPoly, am 2. September 2026 auf arXiv eingereicht, ist ein AI-Framework für Polymerwerkstoffe mit dreistufiger Graphenarchitektur basierend auf G2RINS. Es…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Artifactory Sicherheitslücke: wenn ein Breach KI-Agenten trifft
Eine kritische Schwachstelle in JFrog Artifactory, die Tage nach dem Patch ausgenutzt wird, zeigt, wie Artefakt-Repositories zum bevorzugten Ziel für…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Carbon Capture und KI-Agenten: Das Vertrauensrisiko
Ein akademisches Framework, überarbeitet im August 2026, formalisiert das Vertrauen zwischen Menschen und KI-Agenten auf drei Dimensionen: Leistung, Prozess…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Spezial LEON: Der KI-Agent von Cursor wurde gehackt
Die russischsprachige Ransomware-Gruppe Aur0ra hat sieben Unternehmen kompromittiert, indem sie den integrierten KI-Agenten von Cursor dazu brachte, echte…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Infostealer bedrohen Claude-Sessions: Risiken und Gegenmassnahmen
Am 30. August 2026 warnte Anthropic Claude-Nutzer davor, dass Infostealer-Malware aktive Login-Sessions gestohlen hat, um bezahlte Nutzungskontingente zu…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Data Risk: die unsichtbare Schwachstelle im Hospitality-Sektor
Internes Data Risk ist zur dominanten Sicherheitsherausforderung im Hospitality-Sektor geworden. Nie widerrufene Zugriffsrechte, veraltete Vendor-Verträge…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Radar: Podcasts werden zu Daten für AI-Agenten
Particle hat am 26. August 2026 Radar gestartet, eine Suchmaschine, die über 130.000 Podcasts transkribiert und für AI-Agenten nutzbar macht. Dieses Desk…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
AI Agents Framework: Claudes Gedächtnis in der Beta-Phase
Am 23. April 2026 hat Anthropic das Gedächtnis für Claude Managed Agents als Public Beta veröffentlicht – eine dateisystembasierte Schicht mit…
- LEON — Sicherheit von KI-Systemen | AGORA Intelligence
Jeder KI-Agent bekommt eine eigene Identität: was Oktas Agent SSO ändert
Agent SSO ist allgemein verfügbar: Agenten authentifizieren sich selbst via Cross App Access, und die Logs nennen, wer was delegiert hat. Der Mechanismus, die…