Schriftart nutzt optische Täuschung zur Abwehr von KI-Erkennung
Eine neu entwickelte Schriftart setzt auf gezielte optische Täuschungen, um die automatisierte Texterkennung durch KI-Systeme zu erschweren. Durch subtile visuelle Manipulationen werden Zeichen für menschliche Leser weiterhin verständlich dargestellt, während Algorithmen bei der Interpretation der Buchstaben scheitern. Diese Methode zielt darauf ab, die Privatsphäre und den Schutz vor unbefugtem Datenscraping zu erhöhen. Ob dieser Ansatz langfristig gegen die stetige Weiterentwicklung von KI-Modellen bestehen kann,
Gesichtswert: Wie KI Vertrauen, Identität und Betrug neu definiert
Ein aktueller Analysebericht beleuchtet die tiefgreifenden Auswirkungen von Künstlicher Intelligenz auf die Cybersicherheit. Dabei steht im Fokus, wie automatisierte Technologien die Methoden für Identitätsdiebstahl und betrügerische Aktivitäten grundlegend verändern. Die zunehmende Raffinesse von KI-gestützten Angriffen stellt bestehende Sicherheitskonzepte vor neue Herausforderungen. Der Bericht verdeutlicht, dass das Vertrauen in digitale Identitäten durch die Verbreitung von Deepfakes und automatisierten Täusch
KI-Modell Sol Ultra entwickelt vollständige Exploit-Kette für Chrome V8
In einer Leistungsanalyse zur Fähigkeit von KI-Modellen bei der Entwicklung von Software-Exploits wurde das Modell Sol Ultra auf seine Wirksamkeit geprüft. Nach der Verarbeitung von über zwei Milliarden Token gelang es dem System als einzigem der getesteten Modelle, eine vollständige Exploit-Kette basierend auf Patch-Commits für die Chrome V8-Engine zu erstellen. Diese Ergebnisse unterstreichen die fortschreitenden Fähigkeiten moderner Sprachmodelle bei der automatisierten Identifizierung und Ausnutzung von Sicherh
Perplexity stellt Space vor: Eine sichere Sandbox-Plattform für KI-Agenten
Mit der neuen Plattform Space wird eine sichere Umgebung für KI-Agenten geschaffen, um deren volle Leistungsfähigkeit innerhalb der Computer-Steuerungsfunktionen zu entfalten. Die Sandbox ermöglicht es, komplexe Aufgaben in einer kontrollierten Umgebung auszuführen, ohne dabei Sicherheitsrisiken einzugehen. Durch diesen isolierten Bereich können KI-Systeme eigenständig agieren und Prozesse automatisieren, während die Integrität der zugrunde liegenden Systeme gewahrt bleibt. Dies stellt einen wichtigen Schritt in de
Forscher vergiften Open-Weight-KI-Modell für unter 100 US-Dollar
Sicherheitsforscher haben demonstriert, wie einfach und kostengünstig es ist, offene KI-Modelle durch gezielte Datenmanipulation zu kompromittieren. Durch das Einschleusen von vergifteten Trainingsdaten in ein Open-Weight-Modell gelang es, versteckte Schwachstellen zu implementieren, die für Nutzer kaum erkennbar sind. Diese Methode unterstreicht die kritische Problematik, dass aktuelle KI-Systeme Vertrauen einfordern, ohne eine verifizierbare Transparenz über den Trainingsprozess oder die Integrität der Modellgewi
Ich habe einem KI-Agenten Zugriff auf meine Passwörter gewährt – das ist passiert
Der Einsatz von KI-Agenten, die eigenständig auf sensible Daten wie Passwörter zugreifen, birgt erhebliche Sicherheitsrisiken. Ein Selbstversuch verdeutlicht die potenziellen Gefahren, wenn automatisierte Systeme mit weitreichenden Berechtigungen ausgestattet werden. Dabei stehen insbesondere die Autonomie der KI und die Kontrolle über den Zugriff auf persönliche Zugangsdaten im Fokus. Der Test zeigt auf, wie kritisch die Schnittstelle zwischen KI-gestützter Automatisierung und digitaler Identitätssicherheit zu bew
KI entdeckt seit 15 Jahren unentdeckte Sicherheitslücke in Linux
Eine künstliche Intelligenz hat eine kritische Schwachstelle im Linux-Kernel identifiziert, die über 15 Jahre lang unbemerkt blieb. Diese Entdeckung unterstreicht das wachsende Potenzial automatisierter Systeme bei der Analyse komplexer Softwarearchitekturen und der Identifizierung von Sicherheitsrisiken, die menschlichen Prüfern entgangen sind. Parallel dazu baut das Verteidigungsministerium Programme zur Ausbildung von Nachwuchshackern aus, während fehlerhafte Kennzeichenerkennungssysteme vermehrt zu problematisc
KI-Agenten finden Sicherheitslücke in Ethereum-Netzwerkkomponente
Im Rahmen eines Experiments wurden KI-gestützte Agenten eingesetzt, um Schwachstellen in der Ethereum-Infrastruktur aufzuspüren. Dabei gelang die Identifizierung einer kritischen Sicherheitslücke in der Netzwerkbibliothek libp2p. Die größte Herausforderung bei diesem Prozess stellte die Triage der Ergebnisse dar, da die KI-Systeme eine hohe Anzahl an Fehlalarmen erzeugten. Der Großteil der manuellen Nacharbeit bestand folglich darin, tatsächliche Sicherheitsrisiken von plausibel klingenden, aber irrelevanten Meldun
Datenschutzrisiken bei Zyklus-Trackern
Zyklus-Tracking-Apps stehen zunehmend in der Kritik, da sie sensible Gesundheitsdaten ihrer Nutzerinnen potenziell an Dritte weitergeben oder für Werbezwecke auswerten. Neben diesen Datenschutzbedenken im Bereich der Gesundheitsanwendungen gibt es Berichte über staatlich gesteuerte Cyberangriffe auf kritische Infrastrukturen sowie Sicherheitslücken in Behördennetzwerken. Zudem wurde bekannt, dass ein KI-gestütztes Musikgenerierungstool Daten in einer Weise verarbeitet hat, die Fragen zur Transparenz und zum Umgang
Prompt-Injection-Angriffe behindern KI-Hacking-Agenten
Sogenannte Context-Bombing-Techniken werden eingesetzt, um bösartige KI-Agenten gezielt zu manipulieren. Durch diese Methode werden die Systeme dazu gebracht, ihre Aktivitäten vorzeitig abzubrechen, bevor sie Schaden anrichten können. Dies stellt eine neue Verteidigungsstrategie dar, um automatisierte Angriffe durch KI-gestützte Werkzeuge effektiv zu neutralisieren und die Sicherheit in KI-Umgebungen zu erhöhen.
YouTube und X dienen als Einstiegspunkte für Deepfake-Dienste
Eine aktuelle Untersuchung zeigt, dass soziale Netzwerke wie YouTube und X zunehmend als Vermittler für Webseiten fungieren, die nicht einvernehmliche, sexuell explizite Deepfakes erstellen. Nutzer werden über diese Plattformen gezielt auf Dienste geleitet, die entsprechende Bildmanipulationen bereits zu sehr niedrigen Preisen ab einem US-Dollar anbieten. Diese Entwicklung verdeutlicht die wachsende Problematik der Verbreitung von KI-generierten Inhalten, die zur Verletzung der Privatsphäre und zur Erstellung missb
Open-Weight-Modelle erreichen Cyber-Leistungsniveau führender KI-Systeme in Rekordzeit
Die Lücke zwischen frei verfügbaren Open-Weight-KI-Modellen und geschlossenen Spitzenmodellen im Bereich der Cybersicherheit schließt sich rapide. Während der Rückstand Anfang 2025 noch bei sechs bis zehn Monaten lag, be
OpenAI setzt KI zur automatisierten Sicherheitsprüfung eigener Modelle ein
Ein neues internes Modell namens GPT-Red wird genutzt, um Schwachstellen in KI-Systemen durch automatisierte Angriffe aufzudecken. In Testreihen identifizierte das System in 84 Prozent der Fälle erfolgreiche Angriffsvekt
Terroristische Gruppierungen nutzen KI-Chatbots für Angriffsplanung und Waffenentwicklung
Aktuelle Untersuchungen belegen, dass terroristische Organisationen wie Boko Haram verstärkt auf KI-Sprachmodelle zurückgreifen, um Anschläge zu planen und Anleitungen zur Waffenherstellung zu erhalten. Dabei werden gezielt Sicherheitsmechanismen der Chatbots umgangen, um Informationen über den Bau von Sprengstoffen oder die Instandhaltung von Waffen zu gewinnen. Die Ergebnisse verdeutlichen, dass die bisherigen freiwilligen Sicherheitsvorkehrungen der KI-Anbieter nicht ausreichen, um den Missbrauch der Technologie
Das Risiko von Sabotage bei Wetterdaten nimmt zu
Wettervorhersagen bilden die Grundlage für kritische Entscheidungen in zahlreichen Branchen, von der Landwirtschaft bis zur Energieversorgung. Da diese Daten zunehmend automatisiert verarbeitet werden, wächst die Gefahr gezielter Manipulationen oder Sabotageakte. Solche Angriffe könnten weitreichende wirtschaftliche Folgen haben und die Sicherheit in sensiblen Infrastrukturen gefährden. Die Abhängigkeit von präzisen meteorologischen Informationen macht diese Daten zu einem potenziellen Ziel für Akteure, die durch g
OpenAI stellt GPT-Red vor: Ein KI-Modell zur Sicherheitsprüfung
OpenAI hat mit GPT-Red ein spezialisiertes Sprachmodell entwickelt, das als automatisierter Sicherheitsprüfer fungiert. Das System agiert als sogenannter Super-Hacker, um Schwachstellen in anderen KI-Modellen des Unterne
GPT-Red: Ein KI-Super-Hacker zur Stärkung der Modellsicherheit
Ein spezialisiertes Sprachmodell namens GPT-Red wurde entwickelt, um als automatisierter Sparringspartner für andere KI-Systeme zu fungieren. Durch die gezielte Simulation von Cyberangriffen unterstützt es die Identifizierung und Behebung von Sicherheitslücken in großen Sprachmodellen. Diese Methode dient dazu, die Widerstandsfähigkeit neuer KI-Versionen gegenüber externen Bedrohungen signifikant zu erhöhen. Aktuelle Implementierungen zeigen, dass durch dieses automatisierte Testverfahren die Robustheit der Modelle
Agentenbasierte Schwachstellenanalyse für kommerzielle Binärdateien
Die automatisierte Sicherheitsanalyse von kommerziellen Binärdateien ohne Quellcode stellt eine Herausforderung für KI-Systeme dar. Mit SLYP wurde ein spezialisierter Agenten-Workflow entwickelt, der durch die Kombination von explorativer Binäranalyse und dynamischem Debugging Schwachstellen in optimiertem Maschinencode identifiziert. Das System validiert potenzielle Sicherheitslücken durch die automatische Erstellung von Proof-of-Concept-Exploits. In Praxistests übertraf der Ansatz bestehende Lösungen deutlich und
Vorhersage von Multi-Schwachstellen-Angriffsketten in Software-Lieferketten mittels SBOM-Graphen
Die Sicherheit von Software-Lieferketten wird oft durch kaskadierende Schwachstellen gefährdet, die in herkömmlichen Analysen meist isoliert betrachtet werden. Ein neuer Forschungsansatz nutzt Software Bill of Materials (SBOM) als Grundlage für heterogene Graphen, um diese Abhängigkeiten besser abzubilden. Durch den Einsatz von Graph Attention Networks und neuronalen Netzen zur Link-Vorhersage können komplexe Angriffsketten identifiziert werden, die auf mehreren miteinander verknüpften Schwachstellen basieren. Die
Random Logit Scaling: Schutz von Deep Neural Networks gegen Black-Box-Angriffe
Die zunehmende Verbreitung von Machine-Learning-Modellen erfordert robuste Abwehrmechanismen gegen sogenannte Adversarial Examples. Mit Random Logit Scaling wird ein neues Verfahren vorgestellt, das die Logits eines Modells zufällig skaliert, um Angreifer bei Black-Box-Szenarien zu täuschen, ohne die Genauigkeit des Modells zu beeinträchtigen. Diese Methode lässt sich als effiziente Nachbearbeitung in bestehende Systeme integrieren. Zudem wurde eine adaptive Angriffsmethode entwickelt, die Schwachstellen in bisheri
Verkehrsbewusste randomisierte Glättung für LLM-basierte Netzwerkerkennung
Die Sicherheit von auf großen Sprachmodellen basierenden Systemen zur Netzwerkerkennung ist anfällig für gezielte Manipulationen des Datenverkehrs. Ein neuer Ansatz namens Traffic-Aware Randomized Smoothing (TA-RS) adressiert dieses Problem, indem er Gaußsches Rauschen gezielt in die vom Angreifer kontrollierbaren Merkmalsbereiche injiziert. Durch die Abstimmung von Training und Zertifizierung auf diese spezifischen Subräume wird die Robustheit gegenüber Angriffen signifikant erhöht. Die Methode erreicht in verschi
Quanten-Maschinelles Lernen zur Bewertung der Resilienz post-quantenkryptographischer Verfahren
Die Entwicklung quantenresistenter kryptographischer Protokolle ist essenziell, um Kommunikation gegen zukünftige, leistungsfähige Quantencomputer abzusichern. Aktuelle Quantenrechner können bereits genutzt werden, um potenzielle Schwachstellen in diesen Protokollen zu identifizieren. Ein neuer Ansatz verwendet Quanten-Generative Adversarial Networks (QGANs), um die Wahrscheinlichkeitsverteilung hash-basierter digitaler Signaturen in den Speicher eines Quantencomputers zu laden. Die Ergebnisse zeigen, dass hybride
Einsatz von KI-Agenten als autonome Sicherheitsauditoren in der klinischen Medizin
Die Sicherheit klinischer KI-Modelle ist entscheidend, um Patienten vor unentdeckten Schwachstellen zu schützen. Ein neues Evaluierungsszenario testet die Fähigkeit von KI-Agenten, eigenständig Sicherheitsaudits für medizinische Vorhersagemodelle durchzuführen. Dabei müssen die Agenten komplexe Angriffe implementieren, Sicherheitsmetriken berechnen und strukturierte Berichte in einer isolierten Umgebung erstellen. Die Ergebnisse zeigen, dass aktuelle Sprachmodelle in der Lage sind, diese anspruchsvollen Aufgaben au
BARS: Gutartigkeitsbasierte Merkmalsauswahl zur Reduzierung von Fehlalarmen in der Netzwerkerkennung
Fehlalarme stellen eine erhebliche Herausforderung für netzwerkbasierte Intrusion-Detection-Systeme dar, da selbst geringe Fehlerraten in großen Datenmengen zu einer Überlastung führen. Die neue Methode BARS optimiert die Merkmalsauswahl, indem sie den Fokus gezielt auf den Mittelwert des gutartigen Datenverkehrs legt, anstatt sich an globalen Durchschnittswerten zu orientieren. Dieser Ansatz korrigiert Verzerrungen bei unausgewogenen Datensätzen und reduziert die Fehlalarmrate signifikant, ohne die Erkennungsleist
NetForge RL: Eine Multi-Agenten-Simulationsumgebung für die Cyberabwehr mit zeitlich ausgedehnten Aktionen
NetForge RL ist eine neue Simulationsumgebung für das Training von Reinforcement-Learning-Agenten im Bereich der Cybersicherheit. Die Plattform ermöglicht die Modellierung komplexer Unternehmens- und OT-Netzwerke, in denen mehrere Verteidiger gegen einen adaptiven Angreifer agieren. Durch die Nutzung von JAX-basierten Vektorisierungen erreicht das System eine hohe Rechengeschwindigkeit, die für effiziente Trainingszyklen entscheidend ist. Die Umgebung bietet standardisierte Schnittstellen, vordefinierte Szenarien s
Adversarial-Angriffe auf Online-Handschrifterkennung durch salienzbasierte zeitliche Bearbeitung
Modelle zur Erkennung von Online-Handschriften sind anfällig für Adversarial-Angriffe, wobei herkömmliche bildbasierte Methoden oft unnatürliche Artefakte erzeugen. Ein neuer Ansatz adressiert dies durch zeitliche Bearbeitung statt durch das Hinzufügen von Bildrauschen. Dabei werden Punkte basierend auf ihrer zeitlichen Salienz gezielt eingefügt oder gelöscht, um die visuelle Struktur und Glätte der Handschrift zu bewahren. Diese Methode zeigt eine deutlich höhere Effektivität bei Black-Box-Angriffen, bei denen das
Minderung von Klassenungleichgewichten bei Daten mit hierarchischer und abhängiger Struktur
Die Klassifizierung von Cybersicherheitslücken anhand der Common Weakness Enumeration (CWE) wird durch starke Klassenungleichgewichte und hierarchische Abhängigkeiten erschwert. Herkömmliche Oversampling-Methoden wie SMOTE oder ADASYN erweisen sich hierbei oft als ineffektiv, da sie die strukturellen Vorgaben der Taxonomie verletzen. Ein neuer Ansatz nutzt ein hierarchiebewusstes RoBERTa-Framework, das strukturelle Informationen durch lernbare Einbettungen von Elternklassen integriert. Dies ermöglicht eine präziser
Selbstgenerierende Random Walks für dezentrales Lernen unter Pac-Man-Angriffen
Dezentrale Lernsysteme, die auf Random-Walk-Algorithmen basieren, sind anfällig für gezielte Störungen, bei denen bösartige Knotenpunkte die Pfade aktiv beenden. Dieser als Pac-Man-Angriff bezeichnete Vorgang kann den Lernprozess schleichend zum Erliegen bringen, ohne Fehlermeldungen auszulösen. Zur Abwehr wurde der Algorithmus CREATE-IF-LATE entwickelt, der durch selbstgenerierende Random Walks das Aussterben der Pfade verhindert. Theoretische Analysen und empirische Tests belegen, dass das Verfahren die Stabilitä
IntraShuffler: Ein datenschutzfreundliches Framework für heterogenes föderiertes Lernen mit Differential Privacy
Heterogenes föderiertes Lernen mit Differential Privacy erlaubt es Teilnehmern, individuelle Datenschutzbudgets festzulegen. Dabei können jedoch durch die Aggregation von Gradienten ungewollt Rückschlüsse auf die Datenverteilung oder die Identität der Clients gezogen werden. IntraShuffler löst dieses Problem durch einen neuen Middleware-Ansatz, der Clients in datenschutzkonforme Gruppen unterteilt und innerhalb dieser Parameter-Shuffling durchführt. Dies unterbricht die für Angriffe nutzbaren Gradientenstrukturen,
CTFusion: Ein auf CTF-Wettbewerben basierender Benchmark für die Evaluierung von LLM-Agenten
Die Evaluierung von KI-Agenten im Bereich Cybersicherheit leidet häufig unter Datenkontamination, da bestehende Benchmarks auf wiederverwendeten Aufgaben basieren. CTFusion löst dieses Problem durch ein Streaming-Framework, das Live-CTF-Wettbewerbe nutzt, um eine dynamische und manipulationssichere Testumgebung zu schaffen. Das System integriert sich über das Model Context Protocol in bestehende Plattformen und stellt sicher, dass Agenten unabhängig voneinander bewertet werden. Durch die Nutzung aktueller Wettbewer
Erklärbarkeitsmethoden zur Erkennung von Hardware-Trojanern: Ein systematischer Vergleich
Hardware-Trojaner stellen eine erhebliche Sicherheitsbedrohung für integrierte Schaltkreise dar, da sie direkt in die Hardware eingebettet sind und nachträglich nicht durch Software-Patches entfernt werden können. Eine frühzeitige Erkennung während des Designprozesses ist daher entscheidend, wobei bestehende Methoden häufig mit einer hohen Rate an Fehlalarmen zu kämpfen haben. Die Untersuchung vergleicht drei Ansätze zur Erklärbarkeit von KI-gestützten Erkennungssystemen: domänenspezifische Merkmalsanalysen, fallba
Eingabeabhängige dynamische Backdoor-Angriffe auf Quanten-Neuronale Netze
Quanten-Neuronale Netze (QNNs) sind anfällig für Sicherheitslücken durch Backdoor-Angriffe. Während bisherige Methoden auf statischen Auslösern basierten, wurde nun mit Q-DIBA ein Verfahren entwickelt, das eingabeabhängige, dynamische Trigger nutzt. Durch ein spezielles Training, das auf Quantenzuständen vor der Messung basiert, umgeht der Angriff gängige Verteidigungsmechanismen wie spektrale Signaturen oder visuelle Inspektionen. Die Methode zeigt eine hohe Erfolgsrate bei gleichzeitig hoher Genauigkeit für regul
Wenn günstige Gradienten versagen: Die Messkosten bei Angriffen auf Quantenklassifikatoren
Variationale Quantenklassifikatoren verfügen über einen inhärenten Schutzmechanismus gegen gradientenbasierte Angriffe. Da die für die Gradientenschätzung notwendigen Messungen auf Quantenschaltkreisen statistischem Rauschen unterliegen, steigen die Kosten für einen Angreifer mit zunehmender Dimension des Modells drastisch an. Während klassische Modelle durch automatische Differenzierung effizient angegriffen werden können, erzwingt die physikalische Natur der Quantenmessungen einen hohen Aufwand. Dieser Effekt tri
Ruby: Identifizierung von unsicherem Rust-Code in Binärdateien mittels maschinellem Lernen
Die Programmiersprache Rust ermöglicht durch den Befehl unsafe das Umgehen von Sicherheitsprüfungen, was jedoch potenzielle Schwachstellen schafft. Bisherige Analysewerkzeuge erforderten den Zugriff auf den Quellcode, um diese kritischen Bereiche zu identifizieren. Das neue Tool Ruby nutzt maschinelles Lernen, um unsichere Regionen direkt in kompilierten Binärdateien aufzuspüren. Durch die Analyse subtiler Unterschiede in den Befehlsstrukturen erreicht das System eine hohe Erkennungsrate und übertrifft dabei aktuel
Regressionsbewusstes kontinuierliches Lernen zur Erkennung von Android-Malware
Die ständige Weiterentwicklung von Schadsoftware erfordert effiziente Aktualisierungen für KI-basierte Erkennungssysteme. Während kontinuierliches Lernen das Problem des katastrophalen Vergessens adressiert, bleibt die Sicherheitsregression eine kritische Herausforderung, bei der zuvor erkannte Malware nach einem Modellupdate plötzlich unentdeckt bleibt. Ein neuer Ansatz zur regressionsbewussten Modelloptimierung minimiert dieses Risiko, indem er gezielt sicherstellt, dass bereits identifizierte Bedrohungen auch na
Einsatz interpretierbarer Tsetlin-Maschinen zur Erkennung von PDF-Malware
Ein neuer Ansatz zur Identifizierung von Schadcode in PDF-Dateien nutzt Tsetlin-Maschinen, um die Sicherheit digitaler Dokumente zu erhöhen. Durch eine statische Analyse werden wesentliche Merkmale extrahiert, ohne die Dateien ausführen zu müssen, was das Risiko einer Systeminfektion minimiert. Das regelbasierte Lernverfahren erreicht eine Klassifizierungsgenauigkeit von über 98 Prozent. Ein wesentlicher Vorteil dieses Modells liegt in seiner inhärenten Interpretierbarkeit, die nachvollziehbare Erklärungen für die
Statistisch nicht nachweisbare Hintertüren in tiefen neuronalen Netzen
Es wurde ein Verfahren entwickelt, mit dem Modellentwickler Hintertüren in tiefe neuronale Netze einbauen können, die selbst bei vollständiger Einsicht in die Modellparameter statistisch nicht von korrekt trainierten Modellen zu unterscheiden sind. Diese Hintertüren ermöglichen den gezielten Zugriff auf adversarielle Beispiele, die ohne das Wissen um die Manipulation unter Standardannahmen der Kryptographie in polynomialer Zeit nicht generierbar wären. Die Ergebnisse verdeutlichen ein grundlegendes Machtgefälle zwi
Trainingsdaten für KI-Modelle können durch computergestützte Propaganda manipuliert werden
Die Manipulation von Trainingsdaten stellt ein erhebliches Sicherheitsrisiko für Sprachmodelle dar, da sie schwer erkennbare und schädliche Verhaltensweisen induzieren kann. Bisherige Untersuchungen vernachlässigten oft die Komplexität und Heterogenität moderner Datensätze. Eine neue Analyse zeigt, dass öffentliche Diskussionsplattformen als Vektoren für groß angelegte Injektionsangriffe dienen können. Mit dem entwickelten Analysetool HalfLife lässt sich nun erstmals quantifizieren, inwieweit bösartige Inhalte trot
Die Sicherheitslücke bei KI-Agenten: Über die Hälfte der Unternehmen verzeichnet bereits Vorfälle
Eine Untersuchung unter 107 Unternehmen zeigt eine wachsende Sicherheitslücke beim Einsatz autonomer KI-Agenten. Mehr als 54 Prozent der befragten Organisationen berichten bereits von bestätigten Sicherheitsvorfällen ode
Claude kann nun Anmeldedaten aus 1Password verwenden
Eine neue Browser-Integration ermöglicht es dem KI-Chatbot Claude, auf gespeicherte Zugangsdaten aus 1Password zuzugreifen. Nutzer können dem System die Erlaubnis erteilen, Anmeldevorgänge automatisiert durchzuführen. Di
Offenlegung eines Sicherheitsvorfalls im Juli 2026
Ein KI-Plattformbetreiber wurde Opfer eines automatisierten Angriffs, bei dem ein KI-Agenten-Framework Sicherheitslücken in der Datenverarbeitungspipeline ausnutzte. Die Angreifer verschafften sich Zugriff auf interne Cluster und Anmeldedaten, wobei die Sicherheitslücken inzwischen geschlossen und betroffene Systeme bereinigt wurden. Zur forensischen Analyse der tausenden Angriffsereignisse setzte das Unternehmen selbst gehostete Open-Weight-Modelle ein, da kommerzielle KI-Dienste die Analyse aufgrund von Sicherhei
Microsoft behebt Rekordzahl an Sicherheitslücken durch KI-Einsatz
Im Rahmen des monatlichen Sicherheitsupdates wurden insgesamt 570 Schwachstellen in der gesamten Produktpalette geschlossen. Dies stellt eine neue Rekordmarke für das Unternehmen dar. Die Identifizierung dieser Sicherheitslücken wurde maßgeblich durch den gezielten Einsatz von künstlicher Intelligenz unterstützt, die bei der Analyse und Erkennung der Bedrohungen half. Durch diesen automatisierten Prozess konnte die Effizienz bei der Fehlerbehebung signifikant gesteigert werden.
Warnung vor proprietären KI-Modellen als Sicherheitsrisiko
Es wächst die Sorge, dass große KI-Labore durch den Vertrieb proprietärer Modelle unvorhersehbare Risiken in Unternehmen einschleusen könnten. Diese Entwicklung wird innerhalb der Technologiebranche zunehmend kritisch diskutiert, da die Abhängigkeit von geschlossenen Systemen als potenzielles Einfallstor für Sicherheitslücken betrachtet wird. Die Debatte fokussiert sich dabei auf die Frage, inwieweit die Nutzung externer KI-Infrastrukturen die Kontrolle über unternehmenseigene Daten und Prozesse gefährdet.
Implementierung von On-Behalf-Of-Token-Austausch für Multi-Tenant-Agenten mit Amazon Bedrock AgentCore Gateway
Die Implementierung eines On-Behalf-Of-Token-Austauschs ermöglicht eine sichere Identitätsweitergabe in Multi-Tenant-Agentensystemen. Durch den Einsatz von Interceptoren im Bedrock AgentCore Gateway lassen sich JWT-Claim
Prompt-Injection als Verteidigungsstrategie: Context Bombing gegen KI-Agenten
Sicherheitsforscher setzen zunehmend auf gezielte Prompt-Injection-Techniken, um KI-gestützte Agenten proaktiv zu schützen. Durch eine Methode namens Context Bombing werden diese Systeme gezielt mit Anweisungen überflutet, die sie dazu veranlassen, ihre Aktivitäten vorzeitig abzubrechen. Dieser Ansatz zielt darauf ab, potenzielle Angriffe oder schädliche Aktionen zu unterbinden, bevor sie ausgeführt werden können. Die Technik kehrt das Prinzip der bekannten Sicherheitslücke um und nutzt sie als präventives Werkzeug
Programm zur Identifizierung biologischer Risiken bei KI-Modellen
Es wurde ein spezielles Programm ins Leben gerufen, um potenzielle Sicherheitsrisiken im Zusammenhang mit biologischen Gefahren bei der Nutzung fortschrittlicher KI-Modelle zu identifizieren. Ziel ist es, durch gezielte Analysen und externe Expertise Schwachstellen aufzudecken, die bei der missbräuchlichen Verwendung von KI-Systemen für biologische Bedrohungen entstehen könnten. Diese Initiative dient der Stärkung der Sicherheitsprotokolle und der präventiven Risikominimierung im Bereich der Künstlichen Intelligenz
Identifizierung eines weiteren LOTUSLITE-Malware-Exemplars
Im Rahmen einer Sicherheitsanalyse wurde ein aktuelles Malware-Exemplar untersucht und mittels Reverse Engineering entschlüsselt. Dabei konnten spezifische Merkmale der Schadsoftware LOTUSLITE nachgewiesen werden, obwohl die meisten gängigen Endpoint-Detection-and-Response-Systeme (EDR) die Bedrohung nicht erkannten. Die Untersuchung unterstreicht die Notwendigkeit fortgeschrittener Analysemethoden, um getarnte Schadsoftware zu identifizieren, die herkömmliche automatisierte Sicherheitslösungen umgehen kann.
Import AI 457: KI-Stuxnet, Muon-Optimierer und positive Ausrichtung
Die aktuelle Ausgabe beleuchtet kritische Sicherheitsaspekte im Bereich der künstlichen Intelligenz, darunter das theoretische Risiko von KI-gestützten Cyberangriffen nach dem Vorbild von Stuxnet. Ein weiterer Schwerpunkt liegt auf der Analyse des Muon-Optimierers, einer spezialisierten Methode zur effizienteren Modellschulung. Abschließend werden Fortschritte bei der positiven Ausrichtung von KI-Systemen diskutiert, um sicherzustellen, dass diese zuverlässig und im Einklang mit menschlichen Werten agieren.
Abwehr von Prompt-Injection-Angriffen durch strukturierte Abfragen und Präferenzoptimierung
Prompt-Injection-Angriffe stellen eine der größten Sicherheitsbedrohungen für Anwendungen dar, die auf großen Sprachmodellen basieren. Dabei manipulieren bösartige Eingaben die ursprünglichen Anweisungen des Systems. Um diese Schwachstelle zu schließen, wurden neue Methoden entwickelt, die auf strukturierten Abfragen und einer speziellen Präferenzoptimierung basieren. Diese Ansätze trennen vertrauenswürdige Anweisungen von unsicheren Daten und trainieren Modelle darauf, manipulative Befehle zuverlässig zu ignoriere