EU plant Verpflichtung zur Offenlegung von Google-Suchdaten und Android-KI-Schnittstellen
Die Europäische Union beabsichtigt, Google zur Bereitstellung von Suchdaten sowie zur Öffnung der KI-Infrastruktur innerhalb des Android-Betriebssystems zu zwingen. Ziel dieser regulatorischen Maßnahmen ist eine stärkere Marktöffnung und die Förderung des Wettbewerbs im Bereich der Suchmaschinen und künstlichen Intelligenz. Google äußert Bedenken hinsichtlich dieser Vorgaben und warnt vor potenziellen Risiken für die Privatsphäre und die Sicherheit der Nutzer, da der Zugriff auf sensible Daten und Systemarchitektur
Schriftart nutzt optische Täuschung zur Abwehr von KI-Erkennung
Eine neu entwickelte Schriftart setzt auf gezielte optische Täuschungen, um die automatisierte Texterkennung durch KI-Systeme zu erschweren. Durch subtile visuelle Manipulationen werden Zeichen für menschliche Leser weiterhin verständlich dargestellt, während Algorithmen bei der Interpretation der Buchstaben scheitern. Diese Methode zielt darauf ab, die Privatsphäre und den Schutz vor unbefugtem Datenscraping zu erhöhen. Ob dieser Ansatz langfristig gegen die stetige Weiterentwicklung von KI-Modellen bestehen kann,
Führungskräfte großer Technologieunternehmen warnen vor Datenabfluss an KI-Labore
Führende Vertreter der Technologiebranche mahnen Unternehmen zur Vorsicht im Umgang mit externen KI-Laboren. Es besteht die Sorge, dass sensible Geschäftsinformationen und wertvolles Know-how unbemerkt durch die Nutzung von KI-Diensten abfließen könnten. Unternehmen sollten daher kritisch prüfen, welche Daten sie in KI-Modelle einspeisen, um ihre strategischen Vorteile und internen Wissensbestände vor einer ungewollten Verwertung durch Drittanbieter zu schützen.
Warum Jugendliche Zugang zu sicherer KI verdienen
Der Zugang zu künstlicher Intelligenz für Jugendliche ist ein zentrales Thema für die digitale Teilhabe und Bildung. Es besteht ein dringender Bedarf an altersgerechten KI-Systemen, die Schutz vor schädlichen Inhalten bieten und gleichzeitig die kreative sowie analytische Entwicklung fördern. Die Gestaltung sicherer Rahmenbedingungen ist entscheidend, um junge Menschen auf eine zunehmend KI-gestützte Zukunft vorzubereiten. Dabei müssen ethische Standards und Datenschutzvorgaben so implementiert werden, dass sie die
Patreon blockiert KI-Crawler zum Schutz von Inhalten
Die Plattform Patreon ergreift Maßnahmen, um das automatische Auslesen von Inhalten durch KI-Crawler zu unterbinden. Das Unternehmen betont, dass Urheber für die Nutzung ihrer Werke durch KI-Modelle fair entlohnt werden sollten. Durch diese Entscheidung soll die Kontrolle der Kreativen über ihre eigenen Inhalte gestärkt und eine unautorisierte Datennutzung für das Training von Künstlicher Intelligenz verhindert werden.
Browser-Erweiterung schützt kritisches Denken vor KI-Einfluss
Eine neue Browser-Erweiterung wurde entwickelt, um Nutzer bei der Interaktion mit großen Sprachmodellen zu unterstützen und die eigene Urteilsfähigkeit zu bewahren. Das Werkzeug zielt darauf ab, die unkritische Übernahme von KI-generierten Inhalten zu verhindern und Anwender dazu anzuregen, Informationen eigenständig zu hinterfragen. Durch die lokale Ausführung der Erweiterung wird der Datenschutz gewahrt, während gleichzeitig ein bewussterer Umgang mit automatisierten Textvorschlägen gefördert wird. Dies soll der
Die tödliche Trias bei KI-Agenten
Bei der Entwicklung von KI-Agenten entsteht ein erhebliches Sicherheitsrisiko durch die Kombination dreier Funktionen: der Zugriff auf private Daten, die Verarbeitung nicht vertrauenswürdiger externer Inhalte und die Fähigkeit zur Datenexfiltration. Wenn ein Agent diese drei Eigenschaften vereint, können Angreifer durch manipulierte Eingaben den Zugriff auf sensible Informationen erzwingen und diese nach außen leiten. Um dieses Sicherheitsrisiko zu veranschaulichen, wurde ein interaktives, mehrstufiges Rätsel entwi
Patreon geht aktiv gegen KI-Scraping vor und blockiert Bots
Die Plattform Patreon verstärkt ihre Schutzmaßnahmen gegen das unbefugte Auslesen von Inhalten durch KI-Bots. Anstatt sich wie bisher primär auf die robots.txt-Datei zu verlassen, setzt das Unternehmen nun auf eine aktive Blockadestrategie in Zusammenarbeit mit Cloudflare. Ziel ist es, das Training von KI-Modellen mit den Inhalten der Kreativen ohne deren ausdrückliche Zustimmung effektiv zu unterbinden. Diese Maßnahme markiert einen Kurswechsel hin zu einer proaktiven Verteidigung des geistigen Eigentums gegenüber
Datenschutz im Zeitalter der Künstlichen Intelligenz wahren
Die zunehmende Verbreitung von KI-Systemen stellt den Schutz persönlicher Daten vor neue Herausforderungen. Um die Privatsphäre in diesem technologischen Umfeld zu sichern, sind sowohl technische Sicherheitsmaßnahmen als auch ein bewusster Umgang mit digitalen Informationen erforderlich. Dies umfasst die kritische Prüfung von Datenfreigaben, die Nutzung datenschutzfreundlicher Einstellungen sowie ein tieferes Verständnis darüber, wie Algorithmen Informationen verarbeiten und speichern. Ein proaktiver Ansatz ist not
Mobiler KI-Speicher oder dauerhafte Abhängigkeit
Die Speicherung von Nutzerdaten und Kontexten in KI-Systemen entwickelt sich zunehmend zu einem Instrument der Kundenbindung, das Nutzer an spezifische Anbieter bindet. Offene Formate einzelner Unternehmen reichen nicht aus, um eine echte Interoperabilität zu gewährleisten. Um eine dauerhafte Abhängigkeit von einzelnen Plattformen zu vermeiden, ist die Entwicklung neutraler Austauschstandards für KI-Daten erforderlich. Auch regulatorische Bestrebungen unterstützen diesen Bedarf an offenen Schnittstellen, um den Wet
Ich habe einem KI-Agenten Zugriff auf meine Passwörter gewährt – das ist passiert
Der Einsatz von KI-Agenten, die eigenständig auf sensible Daten wie Passwörter zugreifen, birgt erhebliche Sicherheitsrisiken. Ein Selbstversuch verdeutlicht die potenziellen Gefahren, wenn automatisierte Systeme mit weitreichenden Berechtigungen ausgestattet werden. Dabei stehen insbesondere die Autonomie der KI und die Kontrolle über den Zugriff auf persönliche Zugangsdaten im Fokus. Der Test zeigt auf, wie kritisch die Schnittstelle zwischen KI-gestützter Automatisierung und digitaler Identitätssicherheit zu bew
Crux: Eine persönliche KI auf dem eigenen Rechner mit Fernzugriff
Crux ist eine lokale KI-Lösung, die direkt auf dem eigenen Computer ausgeführt wird und somit die volle Kontrolle über die Daten behält. Das System ist so konzipiert, dass Nutzer von verschiedenen Standorten aus auf ihre persönliche Instanz zugreifen können. Durch die lokale Ausführung entfällt die Abhängigkeit von externen Cloud-Servern für die Verarbeitung sensibler Informationen. Die Anwendung kombiniert die Vorteile privater Hardware-Ressourcen mit der Flexibilität einer ortsunabhängigen Erreichbarkeit für den
Velora: Lokale Diktierfunktion für macOS
Velora bietet eine datenschutzfreundliche Alternative für die Diktierfunktion unter macOS auf Apple-Silicon-Systemen. Die Anwendung arbeitet vollständig lokal und verzichtet auf Cloud-Anbindungen, indem sie Spracherkennung mittels Whisper und eine anschließende Textoptimierung durch ein lokales Sprachmodell nutzt. Die technische Basis bildet das MLX-Framework, welches eine effiziente Ausführung der KI-Modelle direkt auf dem Gerät ermöglicht und somit eine mehrsprachige, offline verfügbare Transkription gewährleiste
KI-Notizwerkzeuge versprechen effiziente Protokollierung, werfen jedoch Datenschutzfragen auf
KI-gestützte Notizwerkzeuge bieten die Möglichkeit, Besprechungen automatisiert zusammenzufassen und Aufgabenlisten zu erstellen. Diese Technologien steigern die Produktivität, indem sie manuelle Protokollierungsarbeit reduzieren. Gleichzeitig führen sie zu einer Debatte über den Schutz sensibler Informationen und die Einhaltung von Datenschutzstandards in geschäftlichen Kommunikationsumgebungen. Die Abwägung zwischen dem praktischen Nutzen der Automatisierung und der Wahrung der Vertraulichkeit bleibt ein zentrale
Lokale Steuerung von KI-Agenten: Sicherheit durch lokale Kontrolle
Das primäre Risiko autonomer KI-Agenten liegt nicht in fehlerhaften Antworten, sondern in der Ausführung unautorisierter Aktionen. Um diese Gefahren zu minimieren, ist ein lokaler Kontrollansatz erforderlich, bei dem die Steuerungsprozesse direkt auf dem eigenen System verbleiben. Durch eine solche lokale Governance wird sichergestellt, dass der Handlungsspielraum des Agenten technisch begrenzt bleibt und Nutzer die volle Kontrolle über dessen Aktivitäten behalten. Dieser Ansatz bietet einen effektiven Schutz vor u
Datenschutzrisiken bei Zyklus-Trackern
Zyklus-Tracking-Apps stehen zunehmend in der Kritik, da sie sensible Gesundheitsdaten ihrer Nutzerinnen potenziell an Dritte weitergeben oder für Werbezwecke auswerten. Neben diesen Datenschutzbedenken im Bereich der Gesundheitsanwendungen gibt es Berichte über staatlich gesteuerte Cyberangriffe auf kritische Infrastrukturen sowie Sicherheitslücken in Behördennetzwerken. Zudem wurde bekannt, dass ein KI-gestütztes Musikgenerierungstool Daten in einer Weise verarbeitet hat, die Fragen zur Transparenz und zum Umgang
San Francisco fordert Apple und Google zur Entfernung von KI-Nudify-Apps auf
Die Stadtverwaltung von San Francisco hat Apple und Google offiziell dazu aufgefordert, 13 Anwendungen aus ihren App-Stores zu entfernen, die mittels KI-Technologie Gesichter in pornografische Bilder montieren. Diese sogenannten Nudify-Apps werden überwiegend genutzt, um Frauen und Mädchen gezielt zu diffamieren und sexuell zu belästigen. Die Stadt argumentiert, dass die Tech-Konzerne durch die Bereitstellung dieser Software aktiv von der Verbreitung solcher missbräuchlichen Inhalte profitieren und fordert ein sofo
KI-Funktionen sollten standardmäßig auf Opt-in basieren
Die zunehmende Praxis, generative KI-Funktionen in Softwareanwendungen automatisch zu aktivieren und Nutzer zur manuellen Deaktivierung zu zwingen, steht in der Kritik. Es wird gefordert, dass sensible KI-Features künftig standardmäßig deaktiviert sein sollten. Ein aktives Opt-in-Verfahren würde die Kontrolle der Anwender über ihre Daten und die Nutzung der Technologie stärken. Diese Forderung zielt auf einen verantwortungsvolleren Umgang mit KI-Integrationen ab, bei dem die informierte Zustimmung der Nutzer im Vor
Der Zoom-Hack, der besagt: Zeichne mich nicht auf
Die zunehmende Praxis, nahezu jede berufliche Besprechung, informelle Unterhaltung oder sogar private Verabredungen mittels KI-Tools zu transkribieren und zusammenzufassen, wirft kritische Fragen zur Privatsphäre und zum tatsächlichen Nutzen auf. Während die Technologie die Dokumentation erleichtert, stellt sich die grundlegende Frage, wer diese enorme Menge an generierten Inhalten überhaupt noch sichtet und verarbeitet. Die ständige Verfügbarkeit automatisierter Protokolle könnte langfristig zu einer Entwertung de
Patreon geht gegen KI-Scraping vor und blockiert Bots aktiv
Die Plattform Patreon verstärkt ihre Schutzmaßnahmen gegen das unautorisierte Auslesen von Inhalten durch KI-Bots. Anstatt sich wie bisher primär auf die robots.txt-Datei zu verlassen, setzt das Unternehmen nun auf eine aktive Blockierung durch Cloudflare. Damit soll verhindert werden, dass KI-Modelle ohne die Zustimmung der Urheber mit den auf der Plattform veröffentlichten Inhalten trainiert werden. Dieser Schritt markiert eine strategische Abkehr von passiven Richtlinien hin zu einer proaktiven technischen Abweh
KI-Musikgenerator Suno soll YouTube-Daten für Training genutzt haben
Ein Sicherheitsvorfall hat Details über die Trainingsmethoden des KI-Musikgenerators Suno offengelegt. Durch den unbefugten Zugriff auf interne Systeme wurde bekannt, dass das Unternehmen umfangreiche Audiodaten von der Plattform YouTube für das Training seiner Modelle extrahiert hat. Diese Enthüllungen werfen erneut kritische Fragen zur Herkunft der Trainingsdaten und zur Einhaltung von Urheberrechten bei generativen KI-Modellen auf, die auf großen Mengen urheberrechtlich geschützter Inhalte basieren.
Die brisantesten Vorwürfe im Rechtsstreit um Geschäftsgeheimnisse zwischen Apple und OpenAI
Ein aktueller Rechtsstreit beleuchtet schwerwiegende Vorwürfe bezüglich des Umgangs mit geistigem Eigentum. Die Klageschrift enthält Anschuldigungen, wonach Mitarbeiter sich scherzhaft über unbefugte Zugriffe auf interne Systeme geäußert haben sollen. Zudem wird behauptet, dass Bewerbern bei Vorstellungsgesprächen nahegelegt wurde, firmeneigene Hardware mitzubringen. Diese Vorwürfe werfen kritische Fragen zur Sicherheit von Geschäftsgeheimnissen und zu den Einstellungspraktiken im Bereich der Künstlichen Intelligen
Meta entfernt umstrittene KI-Funktion auf Instagram nach Kritik
Nach massiver öffentlicher Kritik hat das Unternehmen eine neue KI-Funktion auf Instagram wieder deaktiviert. Das Werkzeug sollte Nutzern ermöglichen, öffentliche Inhalte für KI-Referenzierungen freizugeben oder zu kontrollieren, stieß jedoch auf breite Ablehnung. Aufgrund der negativen Rückmeldungen wurde die Funktion nun vollständig entfernt, da sie die Erwartungen der Anwender nicht erfüllte und als unpassend wahrgenommen wurde. Das Unternehmen reagiert damit direkt auf die Bedenken hinsichtlich der Kontrolle üb
TikTok testet Werkzeug zur Erkennung von KI-generierten Abbildern
TikTok führt derzeit einen Testlauf für eine neue Funktion durch, mit der Ersteller von Inhalten KI-generierte Abbilder ihrer Person identifizieren und melden können. Das optionale Werkzeug soll dabei helfen, unbefugte N
Suno nutzte Millionen von Songs von YouTube, Genius und Deezer für das KI-Training
Durch einen Sicherheitsvorfall wurde bekannt, dass der KI-Musikgenerator Suno mit Millionen von urheberrechtlich geschützten Musikstücken und Liedtexten trainiert wurde. Die Daten stammen aus dem massiven Scraping von Pl
KI-Programmierwerkzeug Grok Build übertrug gesamte Code-Repositories in die Cloud
Das KI-gestützte Programmierwerkzeug Grok Build hat ohne explizite Autorisierung vollständige Code-Repositories seiner Nutzer in einen Cloud-Speicher hochgeladen. Dabei wurden auch Dateien übertragen, die eigentlich von
Meta deaktiviert Instagram-Funktion zur Erstellung von KI-Deepfakes öffentlicher Konten
Nach erheblicher Kritik hat Meta eine kürzlich angekündigte Funktion für Instagram wieder eingestellt, die es Nutzern ermöglichte, KI-generierte Bilder auf Basis von Inhalten öffentlicher Konten zu erstellen. Das System erlaubte es, durch einfaches Markieren der Profile Bildmaterial zu erzeugen, ohne dass die betroffenen Kontoinhaber ihre Zustimmung dazu geben mussten. Aufgrund der Bedenken hinsichtlich der Nutzung privater Inhalte für KI-Modelle ohne explizite Erlaubnis wurde das Feature nun gestoppt.
San Francisco fordert Apple und Google zur Entfernung von Nudify-Apps auf
Die Stadtverwaltung von San Francisco hat Apple und Google dazu aufgefordert, Anwendungen aus ihren App-Stores zu entfernen, die mithilfe von künstlicher Intelligenz Kleidung von Personen auf Fotos digital entfernen. Diese sogenannten Nudify-Apps ermöglichen die Erstellung nicht einvernehmlicher pornografischer Inhalte. Offiziellen Schätzungen zufolge haben die Betreiber der App-Stores durch Gebühren im Zusammenhang mit diesen Anwendungen bereits Millionenbeträge eingenommen. Die Forderung zielt darauf ab, den Miss
Apple verklagt OpenAI wegen mutmaßlichem Diebstahl von Geschäftsgeheimnissen durch ehemaligen Ingenieur
Ein ehemaliger Ingenieur steht im Verdacht, eine Sicherheitslücke ausgenutzt zu haben, um vertrauliche Informationen zu entwenden. Apple hat daraufhin rechtliche Schritte eingeleitet, da OpenAI beschuldigt wird, mit ehemaligen Mitarbeitern des Unternehmens konspiriert zu haben, um geschützte Geschäftsgeheimnisse zu erlangen. Der Vorfall wirft grundlegende Fragen zum Schutz geistigen Eigentums im Kontext der Entwicklung von KI-Modellen auf und unterstreicht die zunehmenden Spannungen zwischen etablierten Technologie
Synthetisierung realer Datenverteilungen aus hochdimensionalem Gauß-Rauschen mittels vollvernetzter neuronaler Netze
Die Erzeugung synthetischer Daten bietet signifikante Vorteile für das maschinelle Lernen, insbesondere durch verbesserte Datenaugmentation und den Schutz der Privatsphäre. Ein neuer Ansatz nutzt vollvernetzte neuronale Netze, um hochdimensionales Gauß-Rauschen in Zielverteilungen für tabellarische Datensätze zu transformieren. Durch die Kombination von PCA-Dimensionsreduktion und speziellen Verlustfunktionen auf Basis der Wasserstein-Distanz erzielt das Modell eine hohe Ähnlichkeit zu realen Daten. Tests zeigen, d
Grad2Fair: Ein gradientenbasierter Ansatz für Fairness in Graphen ohne demografische Daten
Graph-Neuronale Netze weisen häufig Verzerrungen gegenüber bestimmten demografischen Gruppen auf, wobei bisherige Lösungsansätze meist auf die Verfügbarkeit sensibler Attribute angewiesen waren. Der neue Ansatz Grad2Fair umgeht diese Anforderung, indem er auf die Nutzung vorhergesagter demografischer Daten verzichtet, die oft ungenau sind. Stattdessen nutzt das Verfahren die Gradientenverteilungen falsch klassifizierter Knoten, da diese implizit demografische Informationen enthalten. Durch die direkte Verwendung di
Prüfung von Fairness-Datenschutz-Abwägungen: Auswirkungen von Fairness-Algorithmen auf Subpopulationen
Maschinelles Lernen in sensiblen Bereichen erfordert ein ausgewogenes Verhältnis zwischen Nutzen, Fairness und Datenschutz. Die vorliegende Untersuchung analysiert erstmals, wie Algorithmen zur Fairness-Verbesserung das Risiko von Mitgliedschaftsinferenz-Angriffen auf Ebene einzelner Subpopulationen beeinflussen. Dabei zeigt sich, dass Fairness-Interventionen das Datenschutzrisiko nicht einheitlich verändern, sondern stark von der Modellarchitektur und der Gruppengröße abhängen. Zudem wird deutlich, dass die Vortei
Datenschutzrisiken durch Tokenizer-Design bei föderiertem Lernen in der Radiologie
Föderiertes Lernen ermöglicht das Training von KI-Modellen auf klinischen Texten, ohne Rohdaten zu teilen, birgt jedoch das Risiko der Datenrekonstruktion durch Gradienteninversion. Eine Untersuchung zeigt, dass bei der Verarbeitung von Radiologieberichten signifikante Textmengen aus Modell-Updates wiederhergestellt werden können. Dabei beeinflusst die Wahl des Tokenizers das Ausmaß der Preisgabe sensibler Informationen maßgeblich. Da kein untersuchter Tokenizer das Risiko vollständig eliminiert, sind zusätzliche S
Garantien für plausible Abstreitbarkeit für Whistleblower
Whistleblower sind essenziell für die Aufdeckung von Fehlverhalten, fürchten jedoch Repressalien durch die betroffenen Organisationen. Ein neuer mathematischer Ansatz nutzt das Konzept der differentiellen Privatsphäre, um die Identität von Hinweisgebern bei Audits zu schützen. Durch die Anwendung von Mechanismen des kontinuierlichen Zählens auf die Auswahl von Prüfinstanzen wird sichergestellt, dass Organisationen nicht nachvollziehen können, wer ein Audit ausgelöst hat. Dieser Ansatz bietet eine formale Garantie f
Wenn synthetische Text-zu-Bild-Daten nach hinten losgehen: Erhöhte Datenschutzrisiken beim Training mit gemischten Datensätzen
Die Verwendung von synthetischen Daten aus Text-zu-Bild-Modellen zur Ergänzung realer Trainingsdaten ist ein gängiger Ansatz, um Datenknappheit und Datenschutzbedenken zu adressieren. Eine neue Untersuchung zeigt jedoch, dass dieses Vorgehen das Risiko für die verbleibenden echten Trainingsdaten paradoxerweise erhöhen kann. Durch die Verschiebung realer Daten in periphere Bereiche des Merkmalsraums werden diese vom Modell stärker auswendig gelernt, was sie anfälliger für Inferenzangriffe macht. Zur Risikobewertung
Herausforderungen beim Schutz von Videos vor KI-basierter Personalisierung und Manipulation
Moderne Diffusionsmodelle ermöglichen die Erstellung personalisierter Videos durch Bild-zu-Video-Generierung oder gezieltes Finetuning, was erhebliche Risiken für den Schutz der Privatsphäre und geistiges Eigentum birgt. Bisherige Schutzmechanismen konzentrierten sich primär auf Einzelbilder und scheitern oft an der zeitlichen Kompression oder mangelnder Robustheit gegenüber neuen Videodaten. Mit der neuen Methode TC-UAP wird ein universeller, zeitlich konsistenter Störungsansatz eingeführt, der Identitäten effekti
Datenschutzfreundliche Empfehlungssysteme: Balance zwischen Personalisierung und Privatsphäre
Moderne Empfehlungssysteme im E-Commerce stehen vor der Herausforderung, detaillierte Nutzerdaten für Personalisierungen zu verarbeiten, ohne dabei regulatorische Datenschutzvorgaben zu verletzen. Ein neuer Ansatz kombiniert föderiertes Lernen, differenzielle Privatsphäre und kohortenbasierte Modellierung, um Nutzerdaten dezentral zu halten und mathematisch abgesicherte Anonymität zu gewährleisten. Untersuchungen zeigen, dass bei moderaten Datenschutzbudgets eine hohe Empfehlungsqualität beibehalten werden kann. Da
Absicherung von Sprachmodellen in der Praxis: Datenschutz- und Sicherheitsherausforderungen am Edge
Der Einsatz von großen Sprachmodellen auf Endgeräten und in lokalen Infrastrukturen nimmt zu, um Datenschutzanforderungen und Latenzprobleme zu adressieren. Dieser Trend führt zum sogenannten Effizienz-Sicherheits-Paradoxon, bei dem notwendige Optimierungen wie Quantisierung oder Modell-Partitionierung neue Angriffsflächen schaffen und die Robustheit beeinträchtigen können. Zur Analyse dieser Risiken wurde eine Taxonomie entwickelt, die architektonische Beschränkungen wie Speicher- und Rechenkapazitäten in den Kont
Produktionsreifes föderiertes Lernen im Gesundheitswesen: Datenschutz, Orchestrierung und Governance in MLOps
Föderiertes Lernen ermöglicht es medizinischen Einrichtungen, KI-Modelle gemeinsam zu trainieren, ohne sensible Patientendaten zentralisieren zu müssen. Da dieser Ansatz jedoch komplexe Herausforderungen bei der Bereitstellung, Überwachung und Governance mit sich bringt, ist die Integration in bestehende MLOps-Strukturen entscheidend. Der Fokus liegt dabei auf der Entwicklung von Federated Learning Operations (FLOps), die Containerisierung, sichere Orchestrierung und kontinuierliche Modellüberwachung kombinieren. N
Maschinelles Verlernen zur Laufzeit durch gesteuerte Aktivierungsumleitung
Große Sprachmodelle speichern oft sensible Trainingsdaten, was Datenschutz- und Sicherheitsbedenken aufwirft. Herkömmliche Methoden zum Entfernen dieser Informationen erfordern rechenintensive Anpassungen der Modellgewichte, die oft die Leistung beeinträchtigen. Ein neuer Ansatz namens GUARD-IT ermöglicht das gezielte Verlernen von Inhalten direkt während der Inferenz durch eine eingangsabhängige Steuerung der Aktivierungen. Da dabei die Modellgewichte unverändert bleiben, funktioniert das Verfahren auch bei quanti
Generalisierung und Memorierung bei Rectified Flow
Die Untersuchung analysiert das Memorierungsverhalten von generativen Modellen auf Basis von Rectified Flow durch den Einsatz von Membership Inference Attacks. Durch die Entwicklung einer komplexitätskalibrierten Metrik lassen sich bildspezifische Merkmale von tatsächlicher Datenspeicherung unterscheiden, was die Erkennungsrate für Datenschutzrisiken deutlich erhöht. Dabei zeigt sich, dass die Anfälligkeit für Datenabgleiche besonders in der Mitte des Integrationsprozesses auftritt. Eine Anpassung der Zeitschritt-A
Inklusives föderiertes Lernen durch compliance-gewichtete Rauschzuweisung in der Gesundheits-KI
Ein neuer Ansatz für föderiertes Lernen im Gesundheitswesen ermöglicht die Einbindung von Institutionen mit unterschiedlichen Compliance-Standards, ohne die Modellqualität zu beeinträchtigen. Anstatt einheitliches Rauschen anzuwenden, passt ein neues Framework die Differential Privacy individuell an den Compliance-Status der jeweiligen Einrichtung an. Durch diese gewichtete Rauschzuweisung können auch Institutionen mit geringeren Ressourcen oder abweichenden regulatorischen Anforderungen an kollaborativen KI-Traini
Extrahierbare Memorierung bei Sprachmodellen aus Prinzipien hergeleitet
Die Untersuchung von Memorierung in großen Sprachmodellen leidet häufig unter methodischen Schwächen, da zwischen zufälliger Vorhersagbarkeit und tatsächlichem Auswendiglernen von Trainingsdaten nicht präzise unterschieden wird. Eine neue methodische Herangehensweise nutzt den Vergleich von Trainingssequenzen mit nicht trainierten Referenzsequenzen, um eine statistische Basislinie für Vorhersagbarkeit zu etablieren. Durch den Einsatz von konformen Tests und Dokumenten-Zensus lassen sich Memorierungseffekte rigoros
Datenschutz bei KI-Modellen: Nicht Informationsabhängigkeit, sondern nicht-robuste Merkmale verursachen Datenlecks
Die Forschung stellt die gängige Annahme infrage, dass das Auswendiglernen von Trainingsdaten die Hauptursache für Datenschutzrisiken bei Bildrekonstruktionsangriffen ist. Stattdessen zeigt sich, dass die Anfälligkeit für solche Angriffe kausal mit sogenannten nicht-robusten Merkmalen zusammenhängt, die für Menschen unsichtbar, aber für KI-Modelle generalisierbar sind. Durch die Einführung eines neuen Trainingsverfahrens namens Anti Adversarial Training wird belegt, dass eine gezielte Nutzung dieser Merkmale den Sc
Proximity-Features: Datenschutzkonforme Kaltstart-Personalisierung bei Airbnb
Auf Plattformen mit seltenen Käufen stellt das Fehlen ausreichender Nutzerhistorie eine Herausforderung für die Personalisierung dar. Um dieses Kaltstart-Problem bei nicht angemeldeten oder neuen Nutzern zu lösen, wurden Proximity-Features entwickelt. Dabei werden Nutzer anhand von Geo-IP-Daten in Clustern von etwa 1.000 Personen zusammengefasst, um aggregierte Signale ohne individuelle Identifikatoren zu nutzen. Dieser datenschutzkonforme Ansatz ermöglicht präzise Empfehlungen auf Landingpages und in Marketing-Kan
Vergessliche Aufmerksamkeit: Ein trainierbarer Support-Vector-Speicher mit zertifizierter Selektion und exaktem Unlearning
Die neue Methode Support Vector Attention ermöglicht eine präzise Steuerung von Gedächtnisinhalten in KI-Modellen. Durch die Nutzung von Support-Vektor-Maschinen können einzelne Tokens gezielt und zertifiziert aus dem Kontext gelöscht werden, ohne die restlichen Ausgaben zu beeinflussen. Dieser Ansatz erlaubt ein exaktes Unlearning, bei dem der Zustand des Modells exakt dem einer vollständigen Neu-Trainierung ohne das gelöschte Element entspricht. Die Technik verbessert die Leistung bei der Verarbeitung seltener Da
Kontinuierliches Lernen mit elastischer Regularisierung und synthetischem Replay für föderiertes MLLM-Feintuning
Das föderierte Feintuning multimodaler großer Sprachmodelle steht vor der Herausforderung des katastrophalen Vergessens, bei dem neues Wissen frühere Informationen überschreibt. Das neue Framework FedCMM adressiert dieses Problem durch einen dreistufigen Ansatz: Eine modalitätsspezifische elastische Gewichtskonsolidierung schützt die Parameter, während lokale generative Module synthetische Daten für das Replay erzeugen, ohne Rohdaten preiszugeben. Ergänzt wird dies durch eine aufgabenorientierte Gradientenaggregati
Signalgesteuerte Optimierung für Machine Unlearning
Bisherige Methoden zum maschinellen Verlernen basieren häufig auf groben, globalen Strategien, die zu einer ungleichmäßigen Entfernung von Daten führen. Dies kann entweder die Modellnützlichkeit durch übermäßiges Verlernen beeinträchtigen oder Sicherheitslücken durch unvollständiges Verlernen hinterlassen. Das neue Framework GSUO nutzt aufgabenspezifische, fein abgestimmte Steuerungssignale, um den Prozess präziser zu lenken. Dieser Ansatz ist sowohl für zufällige Teilmengen als auch für klassenweises Vergessen gee
Fairness-Beschränkungen in hochdimensionalen verallgemeinerten linearen Modellen
Maschinelles Lernen übernimmt häufig Verzerrungen aus historischen Datensätzen, was Fragen zur algorithmischen Gerechtigkeit aufwirft. Da der Zugriff auf sensible Attribute wie Geschlecht oder Herkunft aus Datenschutzgründen oft eingeschränkt ist, wurde ein neuer Ansatz entwickelt. Dieser schätzt sensible Merkmale anhand von Hilfsdaten und integriert entsprechende Fairness-Vorgaben direkt in das Modelltraining. Die Methode reduziert systematische Verzerrungen effektiv, ohne dabei die Vorhersagegenauigkeit signifika
Schicht-parallele Inferenz reduziert verschlüsselte nichtlineare Tiefe in Transformern
Die vollständig homomorphe Verschlüsselung ermöglicht Berechnungen auf verschlüsselten Daten, stößt jedoch bei Transformer-Modellen aufgrund der sequenziellen Abfolge nichtlinearer Blöcke an Effizienzgrenzen. Ein neuer Ansatz namens Structured Newton Layer Parallelism (SNLP) adressiert dieses Problem, indem die sequenzielle Tiefe der nichtlinearen Schichten durch ein iteratives Lösungsverfahren deutlich verkürzt wird. Simulationen zeigen, dass diese Methode die Anzahl notwendiger Bootstrapping-Operationen bei minim
IntraShuffler: Ein datenschutzfreundliches Framework für heterogenes föderiertes Lernen mit Differential Privacy
Heterogenes föderiertes Lernen mit Differential Privacy erlaubt es Teilnehmern, individuelle Datenschutzbudgets festzulegen. Dabei können jedoch durch die Aggregation von Gradienten ungewollt Rückschlüsse auf die Datenverteilung oder die Identität der Clients gezogen werden. IntraShuffler löst dieses Problem durch einen neuen Middleware-Ansatz, der Clients in datenschutzkonforme Gruppen unterteilt und innerhalb dieser Parameter-Shuffling durchführt. Dies unterbricht die für Angriffe nutzbaren Gradientenstrukturen,
Hyper-modale Imputations-Diffusions-Einbettung mit Dual-Destillation für föderierte multimodale Wissensgraphen
Die Vervollständigung multimodaler Wissensgraphen in föderierten Umgebungen stellt eine Herausforderung dar, da Daten dezentral vorliegen und sensible Informationen geschützt werden müssen. Ein neues Framework adressiert diese Problematik durch die Kombination von Hyper-modalen Imputations-Diffusions-Einbettungen zur Wiederherstellung unvollständiger Entitäten und einer föderierten dualen Destillation zur Wissensübertragung zwischen Clients und Server. Dieser Ansatz verbessert die semantische Konsistenz und Konverg
Zur Notwendigkeit der Gewichtung von Ausgabeverteilungen für effektives Class Unlearning
Die Forschung identifiziert eine Schwachstelle bei aktuellen Verfahren zum maschinellen Vergessen von Datenklassen, bei denen die geometrische Struktur der Klassen vernachlässigt wird. Dies führt zu Informationslecks, die durch neu entwickelte Angriffe auf die Klassenzugehörigkeit nachweisbar sind. Als Lösung wird die Methode Tilted REWeighting eingeführt, die während des Feinabstimmungsprozesses die Ausgabeverteilung des Modells so anpasst, dass sie der eines von Grund auf neu trainierten Modells entspricht. Durch
Föderiertes Themenmodell und Modell-Pruning auf Basis von Variational Autoencodern
Zur Analyse von Themen in großen Dokumentenmengen unter Wahrung des Datenschutzes wurde ein föderiertes Modellierungsverfahren entwickelt. Um die bei verteilten Systemen auftretenden Kommunikations- und Performance-Herausforderungen zu bewältigen, wird ein Ansatz auf Basis von Variational Autoencodern mit neuronalem Modell-Pruning kombiniert. Dabei werden kumulative Gradienten und Gewichte an einen zentralen Server übermittelt, der das Modell effizient beschneidet. Zwei verschiedene Strategien zur Bestimmung der Pr
Ein praktischer Leitfaden zur Erzeugung synthetischer Daten mit Differential Privacy
Hochwertige Daten sind für das Training leistungsfähiger KI-Systeme essenziell, doch die Nutzung realer Nutzerdaten birgt erhebliche Datenschutzrisiken. Differential Privacy bietet einen etablierten Rahmen, um synthetische Datensätze zu erstellen, die statistische Trends bewahren und gleichzeitig die Privatsphäre der Individuen schützen. Dieser Leitfaden erläutert die notwendigen technischen Komponenten für die Generierung solcher Daten, von der Datenvorbereitung bis hin zur empirischen Prüfung der Privatsphäre. Zi
Kontrastives Lernen zur multimodalen Analyse elektronischer Patientenakten
Elektronische Patientenakten enthalten sowohl strukturierte klinische Daten als auch unstrukturierte Notizen, die bisher oft isoliert betrachtet wurden. Ein neuer Ansatz nutzt multimodales kontrastives Lernen, um diese komplementären Informationsquellen effektiv zu integrieren und ein umfassenderes Verständnis des Gesundheitszustands zu ermöglichen. Durch ein neu entwickeltes generatives Modell zur Merkmalseinbettung und eine spezifische Verlustfunktion wird die Synergie zwischen den Datentypen statistisch fundiert
LDPKiT: Überlagerung von Remote-Abfragen für datenschutzfreundliche Modell-Destillation
LDPKiT ist ein neues Framework für die datenschutzfreundliche Modell-Destillation, das in regulierten Bereichen wie dem Gesundheitswesen oder dem Finanzsektor eingesetzt werden kann. Durch eine innovative Überlagerungstechnik werden annähernd verteilungskonforme Daten erzeugt, die ein effektives Wissenstransfer-Verfahren unter lokaler differenzieller Privatsphäre ermöglichen. Dies erlaubt es Nutzern, Modelle lokal zu destillieren, ohne sensible Eingabedaten an externe APIs übertragen zu müssen. Experimente zeigen,
RaMark: Radioaktives Watermarking für generierte tabellarische Daten
Die Erstellung synthetischer tabellarischer Daten ermöglicht den Austausch datenschutzsensibler Informationen, erfordert jedoch robuste Methoden zur Eigentumsverifizierung. Herkömmliche Wasserzeichen verlieren bei einem erneuten Training generativer Modelle oft ihre Wirksamkeit. RaMark löst dieses Problem durch ein radioaktives Wasserzeichen, das als sinusförmige Abhängigkeit fest in der Datenverteilung verankert ist. Dadurch bleibt das Wasserzeichen auch nach dem Training erhalten, da seine Entfernung zwangsläufig
Sichere Verschleierung: Eine systematische Evaluierung von Bildmaskierung für vertrauliche medizinische KI-Modelle
Die Auslagerung medizinischer Bilddaten in die Cloud für Deep-Learning-Anwendungen birgt erhebliche Datenschutzrisiken. Als Lösung wird die Bildverschleierung untersucht, bei der Daten visuell unkenntlich gemacht werden, während ihre Nutzbarkeit für KI-Modelle erhalten bleibt. Eine systematische Analyse verschiedener Methoden zeigt, dass die Wirksamkeit stark von der jeweiligen Aufgabe abhängt: Während die Klassifizierung gut funktioniert, leidet die semantische Segmentierung unter Qualitätsverlusten. Die randomisi
SYNRARE: Synthetische Generierung von Gesundheitsdaten für seltene Krankheiten zur KI-Evaluierung
Die Diagnose seltener Krankheiten verzögert sich häufig aufgrund ihrer Ähnlichkeit zu verbreiteten Beschwerdebildern. Maschinelles Lernen kann den Diagnoseprozess beschleunigen, stößt jedoch aufgrund strenger Datenschutzvorgaben bei der Nutzung echter elektronischer Patientenakten auf Hürden. Das neue Werkzeug SYNRARE ermöglicht die gezielte Erzeugung synthetischer Datensätze, die Patienten mit seltenen Erkrankungen simulieren. Durch die Anpassung definierbarer Parameter können Forscher ihre Algorithmen unter kontr
Gezieltes Vergessen in Sprachmodellen: Herausforderungen bei der Wissensentfernung
Das gezielte Entfernen spezifischer Informationen aus großen Sprachmodellen ist für Datenschutz und Sicherheit essenziell, stößt jedoch bei aktuellen Evaluationsmethoden an Grenzen. Bestehende Ansätze scheitern häufig daran, dass Wissen bei indirekten Anfragen wieder auftaucht oder durch zu starke Eingriffe andere Fähigkeiten beeinträchtigt werden. Mit SUITE wird ein neuer Evaluationsrahmen eingeführt, der die feingliedrige Struktur zwischen zu löschenden und zu bewahrenden Inhalten präziser abbildet. Darauf aufbau
Wenn Machine Unlearning auf Retrieval-Augmented Generation (RAG) trifft: Geheimnisse bewahren oder Wissen vergessen?
Große Sprachmodelle speichern während des Trainings häufig sensible oder schädliche Informationen, was ethische und rechtliche Herausforderungen mit sich bringt. Ein neuer Ansatz nutzt nun die Retrieval-Augmented Generation (RAG), um das Vergessen von Inhalten zu simulieren, ohne das Modell selbst direkt zu verändern. Durch die gezielte Anpassung der externen Wissensbasis können Informationen effektiv entfernt werden, was besonders bei geschlossenen Modellen vorteilhaft ist. Das Verfahren zeichnet sich durch gering
Datenschutzrisiken durch Tokenizer-Design bei föderiertem Lernen in der Radiologie
Föderiertes Lernen ermöglicht das Training von KI-Modellen auf klinischen Texten, ohne Rohdaten zu teilen. Dennoch können sensible Informationen durch Gradienteninversion aus Modell-Updates rekonstruiert werden. Eine Untersuchung zeigt, dass verschiedene Tokenizer-Architekturen wie GPT-2, RadBERT und LLaMA-2 das Ausmaß dieser Datenlecks beeinflussen. Selbst bei größeren Batch-Größen bleibt eine signifikante Wiederherstellung von radiologischen Befunden möglich. Die Ergebnisse unterstreichen, dass das Tokenizer-Desi
Anthropic stellt Claude für Lehrkräfte bereit und garantiert Datenschutz bei Schülerdaten
Ein neues kostenloses Angebot für verifizierte Lehrkräfte an US-amerikanischen Schulen der Primar- und Sekundarstufe ermöglicht den Einsatz von KI-Unterstützung im Unterricht. Dabei wird explizit zugesichert, dass die eingegebenen Daten nicht für das Training zukünftiger KI-Modelle verwendet werden. Dieser Schritt zielt darauf ab, die Nutzung generativer KI im Bildungssektor unter Einhaltung strenger Datenschutzvorgaben zu fördern und Lehrkräften ein sicheres Werkzeug für die Unterrichtsgestaltung an die Hand zu ge
Kritik an KI-Laboren: Widersprüche bei Datennutzung und Modell-Destillation
Führende KI-Unternehmen stehen in der Kritik, da sie einerseits öffentlich zugängliche Daten für das Training ihrer Modelle unter Berufung auf Fair-Use-Prinzipien nutzen, andererseits jedoch die Destillation ihrer eigenen Modelle durch Dritte untersagen. Diese Praxis wird als Informationsparadoxon bezeichnet, da die Firmen gleichzeitig von Nutzerinteraktionen lernen, während sie anderen den Zugriff auf ihre Technologie verwehren. Gefordert wird eine stärkere Kontrolle der Unternehmen über ihre eigene Lerninfrastruk
Meta entfernt umstrittene Funktion zur KI-Bildgenerierung von Instagram-Nutzern
Ein neues KI-Modell zur Bildgenerierung wurde kurz nach der Einführung angepasst, nachdem eine Funktion für massive Kritik sorgte. Diese ermöglichte es Nutzern, KI-generierte Bilder von anderen Personen zu erstellen, indem lediglich deren öffentlicher Instagram-Nutzername verwendet wurde. Da für diesen Prozess keine explizite Zustimmung der betroffenen Personen erforderlich war, stufte das Unternehmen die Funktion als Fehlentscheidung ein und deaktivierte sie umgehend. Der Vorfall unterstreicht die anhaltende Debat