KI-Suche von Google entfernt Notrufhinweise für bestimmte Nationalitäten
Die generative KI-Suche von Google hat in bestimmten Kontexten fälschlicherweise Notrufempfehlungen ausgegeben, wenn Nutzer spezifische Nationalitäten erwähnten. Nach gezielten Hinweisen auf diese algorithmischen Fehlfun
Anthropic passt Datenaufbewahrungsrichtlinie nach Unternehmenskritik an
Der Anbieter von KI-Modellen hat seine umstrittene Praxis zur Datenspeicherung überarbeitet, um den Anforderungen von Geschäftskunden besser gerecht zu werden. Zukünftig erhalten Unternehmen die vollständige Kontrolle über die Aufbewahrung ihrer eigenen Daten bei der Nutzung der Dienste. Diese Anpassung ist eine direkte Reaktion auf intensive Rückmeldungen und Bedenken aus dem Enterprise-Segment bezüglich Datenschutz und Datensicherheit.
OpenAI entwickelt Sicherheitssystem zur Missbrauchserkennung ohne Kundendatenspeicherung
OpenAI plant die Bereitstellung seiner fortschrittlichsten künstlichen Intelligenzmodelle für Unternehmenskunden, ohne dabei deren sensible Daten dauerhaft zu speichern. Um dennoch die Einhaltung von Sicherheitsrichtlinien zu gewährleisten und Missbrauch effektiv zu verhindern, wurde eine spezielle Überwachungsinfrastruktur konzipiert. Diese technische Lösung adressiert zentrale Datenschutzbedenken von Unternehmen beim Einsatz moderner Sprachmodelle in geschäftskritischen Umgebungen. Damit soll ein sicherer Betrieb
Computer History von OpenAI wandelt Mauseingaben und Tastendrücke in durchsuchbare ChatGPT-Chronik um
Eine neue Funktion für macOS zeichnet Klicks, Tastatureingaben und App-Wechsel auf, um diese als durchsuchbare Chronik für KI-Systeme bereitzustellen. Die protokollierten Daten werden lokal als unverschlüsselte Markdown-Dateien gespeichert. Obwohl eine direkte Verwendung für das Modelltraining ausgeschlossen wird, können Inhalte, die aktiv in Chats einfließen, dennoch in den Trainingsdaten landen.
Mistral bietet EU-Datenverarbeitung und priorisierten Zugriff mit Einschränkungen
Das Unternehmen ermöglicht Kunden ab sofort die gezielte Steuerung von KI-Anfragen über Serverstandorte in Europa oder den USA sowie den Erwerb von priorisiertem Zugriff bei hoher Auslastung. Beide Optionen sind mit zusätzlichen Kosten verbunden. Zudem deckt das regionale Routing derzeit noch nicht alle verfügbaren Funktionen und Datenkategorien vollumfänglich ab.
Geteilte Claude-Chats tauchten zeitweise in Suchmaschinen auf
Aufgrund fehlender technischer Schutzmaßnahmen in Form eines Noindex-Tags erschienen kürzlich geteilte Unterhaltungen mit einem bekannten KI-Chatbot in den öffentlichen Suchergebnissen. Betroffen waren unter anderem vertrauliche Inhalte wie sensible Schlüssel und rechtliche Fragestellungen. Ein ähnlicher Fehler war in der Vergangenheit bereits bei einem konkurrierenden Unternehmen aufgetreten. Die Sicherheitslücke wurde inzwischen behoben, verdeutlicht jedoch die anhaltenden Herausforderungen beim Datenschutz im Um
Anthropic stellt Claude für Lehrkräfte bereit und garantiert Datenschutz bei Schülerdaten
Ein neues kostenloses Angebot für verifizierte Lehrkräfte an US-amerikanischen Schulen der Primar- und Sekundarstufe ermöglicht den Einsatz von KI-Unterstützung im Unterricht. Dabei wird explizit zugesichert, dass die eingegebenen Daten nicht für das Training zukünftiger KI-Modelle verwendet werden. Dieser Schritt zielt darauf ab, die Nutzung generativer KI im Bildungssektor unter Einhaltung strenger Datenschutzvorgaben zu fördern und Lehrkräften ein sicheres Werkzeug für die Unterrichtsgestaltung an die Hand zu ge
Kritik an KI-Laboren: Widersprüche bei Datennutzung und Modell-Destillation
Führende KI-Unternehmen stehen in der Kritik, da sie einerseits öffentlich zugängliche Daten für das Training ihrer Modelle unter Berufung auf Fair-Use-Prinzipien nutzen, andererseits jedoch die Destillation ihrer eigenen Modelle durch Dritte untersagen. Diese Praxis wird als Informationsparadoxon bezeichnet, da die Firmen gleichzeitig von Nutzerinteraktionen lernen, während sie anderen den Zugriff auf ihre Technologie verwehren. Gefordert wird eine stärkere Kontrolle der Unternehmen über ihre eigene Lerninfrastruk
Meta entfernt umstrittene Funktion zur KI-Bildgenerierung von Instagram-Nutzern
Ein neues KI-Modell zur Bildgenerierung wurde kurz nach der Einführung angepasst, nachdem eine Funktion für massive Kritik sorgte. Diese ermöglichte es Nutzern, KI-generierte Bilder von anderen Personen zu erstellen, indem lediglich deren öffentlicher Instagram-Nutzername verwendet wurde. Da für diesen Prozess keine explizite Zustimmung der betroffenen Personen erforderlich war, stufte das Unternehmen die Funktion als Fehlentscheidung ein und deaktivierte sie umgehend. Der Vorfall unterstreicht die anhaltende Debat
Verba: Sprachen lernen im Dialog mit einer künstlichen Intelligenz ohne Internetverbindung
Das quelloffene Projekt Verba ermöglicht das Erlernen von Fremdsprachen durch interaktive Gespräche mit einem KI-basierten System. Die Anwendung zeichnet sich dadurch aus, dass sie geduldig und frei von Bewertungen agiert sowie optional vollständig lokal ohne Internetverbindung betrieben werden kann. Dies gewährt Anwendern maximale Flexibilität und Datenschutz bei sprachbasierten Lernprozessen. Die technische Architektur setzt auf lokale Sprachmodelle, um den gesamten Dialog direkt auf dem Endgerät zu verarbeiten.
Ethische KI im Einklang mit Datenschutz und Umweltschutz
Die Entwicklung künstlicher Intelligenz erfordert zunehmend ganzheitliche Ansätze, die neben strengen Datenschutzstandards auch ökologische Aspekte berücksichtigen. Im Fokus stehen dabei ressourcenschonende Rechenverfahren sowie transparente und verantwortungsvolle Algorithmen. Diese Prinzipien bilden die Grundlage für eine nachhaltige technologische Zukunft, in der Datenschutz und der Schutz natürlicher Ressourcen Hand in Hand gehen.
Kodai – Schutz lokaler Arbeitsbereiche und Geheimhaltungsmanagement vor KI
Das offizielle Repository stellt die Quelltexte und Ressourcen für eine Softwarelösung bereit, die darauf ausgerichtet ist, lokale Entwicklungsumgebungen abzusichern und sensible Daten sowie Geheimnisse vor dem Zugriff durch Künstliche Intelligenz zu schützen. Entwickler erhalten damit strukturierte Werkzeuge zur Verwaltung vertraulicher Informationen im Rahmen moderner Software-Workflows. Die Plattform fördert die kollaborative Weiterentwicklung über standardisierte Versionskontrollsysteme. Ziel ist die Minimierun
ChatGPT unterliegt strengeren EU-Regulierungen
ChatGPT sowie weitere digitale Plattformen wurden offiziell unter verschärfte regulatorische Auflagen des Digital Services Act der Europäischen Union eingestuft. Innerhalb einer viermonatigen Frist müssen die betroffenen Betreiber umfassende Compliance-Maßnahmen umsetzen, um insbesondere potenzielle negative Auswirkungen auf die physische und psychische Gesundheit der Nutzerschaft systematisch zu minimieren. Damit werden generative Sprachmodelle erstmals direkt an die strengen Transparenz- und Sorgfaltspflichten fü
Lokaler KI-Fotomanager zur automatischen Erkennung und Organisation von Bildschirmfotos
Es wurde eine datenschutzorientierte Fotogalerie für Windows vorgestellt, die vollständig lokal mittels künstlicher Intelligenz arbeitet. Das System ermöglicht das Auffinden von Bilddateien über visuelle Inhalte oder integrierte Textbestandteile und unterstützt eine automatisierte Umbenennung durch neuronale Netze. Durch die lokale Ausführung verbleiben alle sensiblen Bilddaten direkt auf dem Endgerät.
Smartphone-LED erkennt versteckte Kameras mittels künstlicher Intelligenz
Forscher haben ein kostengünstiges Verfahren entwickelt, das die LED-Blitzlichter und Kameras von Standard-Smartphones nutzt, um versteckte Überwachungskameras aufzuspüren. Ein KI-Algorithmus analysiert dabei optische Reflexionen und erreicht eine Erkennungsgenauigkeit von 94 Prozent innerhalb von weniger als fünf Sekunden. Diese Technologie ermöglicht es Anwendern, ihre Privatsphäre in Hotels oder Umkleidekabinen ohne zusätzliche Spezialhardware effektiv zu schützen.
Microsoft räumt KI-Training in neuer Datenschutzerklärung ein
Eine aktualisierte Datenschutzerklärung von Microsoft verdeutlicht die Handhabung von Nutzerdaten im Kontext des maschinellen Lernens und KI-Trainings. Dies wirft erneut datenschutzrechtliche Fragen bezüglich der Verwendung personenbezogener Informationen zur Modelloptimierung auf. Die transparente Anpassung reagiert auf die wachsende regulatorische und öffentliche Aufmerksamkeit gegenüber automatisierten Datenverarbeitungsprozessen. Unternehmen und Anwender müssen sich vermehrt mit den Richtlinien zur Nutzung ihre
Kritisch: Dauerhafte Speicherung von Backend-Daten nach dem Löschen in AI Studio
In der Entwicklungsumgebung AI Studio wurde ein kritisches Sicherheitsproblem identifiziert, bei dem Backend-Daten auch nach einem expliziten Löschvorgang persistent im System verbleiben. Dieser Bug betrifft die Datenintegrität und den Datenschutz bei der Verwaltung von KI-Modellen und Anwendungen. Betroffene Systeme sollten umgehend auf entsprechende Patches überprüft werden, um unbeabsichtigte Datenabflüsse oder DSGVO-Verstöße zu verhindern. Die Analyse unterstreicht die Notwendigkeit strenger Verifizierungsmecha
Meine Reise mit lokaler KI
Der Artikel beleuchtet die praktischen Erfahrungen beim Betrieb von künstlicher Intelligenz auf eigener Hardware. Dabei werden die technischen Voraussetzungen, Herausforderungen bei der Modellimplementierung sowie die Vorzüge hinsichtlich Datenschutz und Autonomie im lokalen Betrieb analysiert. Im Fokus stehen die Einrichtung entsprechender Infrastrukturen und die Leistungsfähigkeit aktueller Open-Source-Modelle.
Overlap: Lokales Dateitagging und Abfragen für macOS mit On-Device-KI
Ein neues Werkzeug für das macOS-Ökosystem ermöglicht die effiziente Organisation und das Auffinden lokaler Dateien durch den Einsatz integrierter On-Device-Künstliche-Intelligenz. Die Software generiert vollautomatisch kontextbezogene Schlagwörter, um strukturierte Abfragen und eine präzisere Dateisuche direkt auf dem Endgerät zu gewährleisten. Durch die lokale Ausführung aller KI-Prozesse wird dabei ein hoher Datenschutzstandard ohne Cloud-Abhängigkeit gewahrt.
Senator Hawley untersucht KI-gestützte Flock-Überwachungskameras wegen Datenschutzbedenken
Angesichts wachsender Datenschutzbedenken wurden behördliche Untersuchungen zu KI-gestützten Überwachungskameras eingeleitet. Im Fokus stehen dabei insbesondere automatisierte Kennzeichenerfassungssysteme und deren technologische Implementierung durch den Anbieter Flock. Kritisiert wird das Potenzial zur massenhaften Datenerfassung und Überwachung von Bürgern durch hochentwickelte Algorithmen. Die parlamentarische Prüfung soll potenzielle Risiken für die Privatsphäre aufdecken und regulatorischen Handlungsbedarf ev
Künstlerplattform gegen KI-Trainingsdaten wird Ziel von Scraping-Aktivitäten
Eine speziell für Bildschaffende entwickelte Online-Plattform zum Schutz vor unerlaubtem maschinellen Lernen und automatisiertem Datentraining gerät zunehmend ins Visier von Web-Scraping-Angriffen. Das auf den Schutz des geistigen Eigentums ausgerichtete Netzwerk sieht sich trotz klarer Nutzungsbedingungen und Schutzmechanismen mit massiven Extraktionsversuchen von Inhalten konfrontiert. Dieser Vorfall verdeutlicht die anhaltenden technischen Herausforderungen bei der Durchsetzung von Urheberrechten im Kontext groß
Tragbare Computer: Lokale KI-Systeme
Die Entwicklung hin zu lokalen KI-Architekturen auf tragbaren Computern gewinnt zunehmend an Bedeutung für die IT-Branche. Durch die Verlagerung von neuronalen Netzen und Sprachmodellen direkt auf Endgeräte lassen sich Latenzen minimieren und der Datenschutz signifikant erhöhen. Dieser Ansatz ermöglicht eine autonome Verarbeitung komplexer Algorithmen ohne permanente Cloud-Anbindung. Zukünftige Hardware-Generationen werden speziell auf diese ressourcen- und energieeffizienten Workloads optimiert.
KI-Wasserzeichen direkt im Prompt umgehen
Es wurde eine Methode vorgestellt, um KI-generierte Wasserzeichen direkt während der Konversation im Chat zu umgehen. Herkömmliche Anweisungen zum Umformulieren reichen hierfür nicht aus, weshalb ein direkter Ansatz innerhalb des Prompts gewählt wird. Diese Technik verdeutlicht die fortlaufenden Herausforderungen bei der Verlässlichkeit und Erkennbarkeit von synthetischen Inhalten in dialogbasierten Systemen.
Vertrauliche Token: Routing-Architekturen für führende KI-Labore
Die Implementierung vertraulicher Token und fortschrittlicher Routing-Mechanismen gewinnt für führende Forschungslabore im Bereich künstlicher Intelligenz zunehmend an Bedeutung. Diese technologischen Ansätze zielen darauf ab, die Integrität und Vertraulichkeit von Daten während der Inferenz und des Modelltrainings in verteilten Systemen zu gewährleisten. Durch optimierte Routing-Protokolle lassen sich Workloads effizienter steuern, während gleichzeitig strenge Datenschutzanforderungen und Sicherheitsstandards in h
Warum das Management den Zugriff von Künstlicher Intelligenz auf Slack-Nachrichten fordert
Unternehmen treiben die Integration von Künstlicher Intelligenz in interne Kommunikationskanäle voran, indem Mitarbeiter ihre schriftlichen Arbeitsnotizen und Nachrichten aus Plattformen wie Slack mit KI-Agenten teilen sollen. Diese Entwicklung zielt darauf ab, digitale Assistenten mit kontextbezogenem Wissen aus der täglichen Zusammenarbeit zu füttern, um deren Effizienz und Autonomie zu steigern. Gleichzeitig wirft dieser Ansatz grundlegende Fragen hinsichtlich des Datenschutzes, der Informationssicherheit und de
Widerstand gegen Kennzeichenerfassungskameras verstärkt Anti-KI-Stimmung vor den Wahlen
Die zunehmende Kritik und Gegenwehr im Zusammenhang mit automatisierten Überwachungskameras verschärft die politische Debatte rund um künstliche Intelligenz im Vorfeld bevorstehender Wahlen. Kritiker bemängeln insbesondere den massiven Einsatz von Algorithmen zur Kennzeichenerfassung und Datenanalyse im öffentlichen Raum. Diese Entwicklung verdeutlicht die wachsende gesellschaftliche Skepsis gegenüber automatisierten Überwachungstechnologien und deren regulatorischer Kontrolle. Technologische Sicherheitsmaßnahmen g
Daimon - Lokale Datenschutz-LLM
Daimon ist eine lokale Datenschutz-Pasarela, die entwickelt wurde, um sensible Textdaten vor der Übertragung an externe Large Language Models zu schützen und zu anonymisieren. Das System fungiert als Sicherheits-Zwischenschicht, um den kontrollierten und datenschutzkonformen Umgang mit kritischen Unternehmens- oder Personendaten bei der Nutzung cloudbasierter KI-Dienste sicherzustellen. Durch die lokale Datenvorverarbeitung minimieren Anwender das Risiko von Datenabflüssen und erfüllen strengere Compliance-Anforder
Veröffentlichung von Lemmaflow: Ein Vertrauens-Framework für KI-native Anwendungen
Ein neu veröffentlichtes Open-Source-Framework adressiert die Sicherheits- und Vertrauensprobleme bei der Entwicklung KI-nativer Software. Das Tool stellt über 200 implementierbare Richtlinien bereit, um automatisierte Audits durchzuführen und die Einhaltung von Datenschutzbestimmungen wie der DSGVO sicherzustellen. Damit soll die Lücke zwischen schnellen KI-Prototypen und produktionsreifen, sicheren Applikationen für Entwickler verkleinert werden.
Dictata: Lokale Sprachdiktate mit Whisper und LLM-Nachbereitung
Ein neues Open-Source-Projekt in Rust ermöglicht die lokale und kostenfreie Sprachtranskription direkt auf dem eigenen System. Dabei werden verschiedene etablierte Erkennungsmodelle wie Whisper, Parakeet und MoonShine eingesetzt, um Audioinhalte in Text umzuwandeln. Anschließend erfolgt eine automatische Bereinigung und Formatierung der Ergebnisse durch lokale Sprachmodelle. Die Software richtet sich an Anwender, die Wert auf Datenschutz und vollständig offline ausfuehrbare Diktierloesungen legen.
Apple beeinträchtigt Privatsphäre und Verschlüsselung von iMessage durch KI-Integrationen
Die Integration künstlicher Intelligenz in den Nachrichtendienst iMessage wirft erhebliche Bedenken hinsichtlich der Vertraulichkeit und der kryptografischen Sicherheit auf. Kritisiert wird insbesondere, dass die zugrundeliegenden technischen Funktionalitäten bestehende Schutzmechanismen der Ende-zu-Ende-Verschlüsselung kompromittieren können. Dies steht im Widerspruch zu den bisherigen Standards für den Schutz sensibler Nutzerdaten bei der Nutzung erweiterter Kommunikationsfunktionen.
Twitch-Inhalte wurden jahrelang für das Training von Amazon-KI genutzt, Opt-Out nun verfügbar
Die Streaming-Plattform hat bestätigt, dass nutzergenerierte Inhalte in der Vergangenheit zur Entwicklung und Verbesserung von generativen KI-Modellen herangezogen wurden. Ab sofort steht betroffenen Content-Erstellern eine Widerspruchsmöglichkeit zur Verfügung, um der künftigen Verwendung ihrer Daten zu Trainingszwecken zu widersprechen. Damit reagiert das Unternehmen auf wachsende datenschutzrechtliche Bedenken im Bereich des maschinellen Lernens. Die Richtlinienanpassung gewährt Urhebern mehr Kontrolle über die
Wenn KI-Kunst keinen Urheber hat: Generierte Bilder lassen sich nicht auf Trainingsdaten zurückführen
Eine aktuelle wissenschaftliche Untersuchung zeigt, dass von künstlicher Intelligenz erzeugte Bilder in der Regel nicht auf spezifische Trainingsdaten zurückgeführt werden können. Selbst das gezielte Entfernen einzelner Bilddateien aus den zugrunde liegenden Datensätzen veränderte die generierten Ergebnisse der Modelle kaum. Diese Erkenntnisse verdeutlichen die technischen Schwierigkeiten bei der Nachvollziehbarkeit von KI-Ausgaben und werfen komplexe Fragen im Hinblick auf das geltende Urheberrecht auf.
Lokale KI-Fotogalerie für Windows zur Organisation und Suche
Es wurde eine datenschutzorientierte Fotogalerie für Windows vorgestellt, die vollständig lokal mittels künstlicher Intelligenz arbeitet. Anwender können Bildbestände präzis über visuelle Inhalte oder integrierte Texte durchsuchen. Zusätzlich bietet das System Funktionen zur automatischen Umbenennung von Bilddateien durch integrierte KI-Modelle. Sämtliche Verarbeitungsprozesse finden ausschließlich auf dem lokalen Endgerät statt, wodurch maximale Privatsphäre gewährleistet wird.
Niederländische Behörde verhängt Bußgeld gegen Uber wegen automatisierter Deaktivierung von Fahrerprofilen
Wegen des Einsatzes automatisierter Systeme zur Deaktivierung von Fahrerprofilen ohne ausreichende Information der Betroffenen wurde eine empfindliche Geldstrafe verhängt. Die zuständige Datenschutzbehörde wertet dieses Vorgehen als schwerwiegenden Verstoß gegen die europäischen Datenschutzvorgaben. Der Vorfall unterstreicht die strengen rechtlichen Anforderungen an den Einsatz algorithmischer Entscheidungsprozesse im Personal- und Dienstleistungsbereich. Unternehmen müssen demnach vollkommene Transparenz über auto
Anjadhe – Datenschutzorientierter persönlicher KI-Assistent für macOS
Es wurde ein neuer, auf den Schutz der Privatsphäre ausgerichteter persönlicher KI-Assistent als native macOS-Anwendung vorgestellt. Die Software arbeitet lokal auf dem Gerät mittels llama.cpp oder nutzt wahlweise eigene API-Schlüssel, wobei sämtliche Daten in einer lokalen SQLite-Datenbank verbleiben. Zu den Kernfunktionen gehören die automatisierte E-Mail-Verarbeitung zur Termin- und Aufgabenextraktion, die dialogbasierte, dynamische Ziel- und Projektplanung sowie automatisierte Routinen. Eine transparente Archit
Steigende Nachfrage nach Meta-KI-Brille wirft neue Datenschutzfragen auf
Angesichts der wachsenden Verbreitung intelligenter Datenbrillen rücken Bedenken hinsichtlich unbemerkter Aufnahmen und des Schutzes der Privatsphäre verstärkt in den Fokus. Als Reaktion auf diese Entwicklung entstehen neue technologische Werkzeuge, mit denen sich die Anwesenheit solcher Aufnahmegeräte in der Umgebung erkennen lässt. Diese Anwendungen spiegeln die anhaltenden gesellschaftlichen und regulatorischen Herausforderungen im Umgang mit diskreter Wearable-Technologie wider.
Ein offline nutzbarer und kostenfreier Detektor für KI-generierte Texte
Es wurde ein datenschutzfreundliches Werkzeug zur Erkennung von KI-generierten Texten vorgestellt, das vollständig im Webbrowser ausgeführt wird. Die Anwendung funktioniert nach dem initialen Laden auch offline und erfordert weder eine Benutzerregistrierung noch finanzielle Transaktionen. Sämtliche Analysen erfolgen lokal auf dem Endgerät, wodurch keine Datenübertragung an externe Server stattfindet.
Anti-KI-Schriftarten sind nutzlos und schädlich
Der Versuch, Webinhalte durch den Einsatz spezieller Schriftarten vor dem Auslesen durch KI-Modelle zu verschleiern, erweist sich als unwirksam und kontraproduktiv. Solche Maßnahmen bieten keinen nennenswerten Schutz vor automatisierter Datenerfassung und erschweren stattdessen die Barrierefreiheit sowie die reguläre Nutzung digitaler Inhalte. Statt auf wirkungslose Tarntechniken zu setzen, sollte der Fokus auf strukturellen Standards für den Umgang mit Web-Daten liegen. Die Praxis verdeutlicht, dass technische Hür
Wie man KI bei der Arbeitszeiterfassung überlistet
Mit dem zunehmenden Einsatz von künstlicher Intelligenz zur Überwachung von Arbeitsprozessen und zur Leistungserfassung im Arbeitsalltag entstehen neue Herausforderungen für den Datenschutz und die Privatsphäre von Beschäftigten. Die automatisierte Analyse von Arbeitsgewohnheiten wirft grundlegende Fragen zur Verhältnismäßigkeit und zum Vertrauen in modernen Arbeitsumgebungen auf. Angesichts dieser Entwicklungen gewinnen Strategien und Schutzmaßnahmen an Bedeutung, um die eigenen Aktivitäten vor lückenloser algorit
Niederländische Datenschutzbehörde empfiehlt Twitch-Nutzern Widerspruch gegen Amazon-KI-Training
Die Streaming-Plattform Twitch nutzt persönliche Daten von Nutzern für das Training von Amazon-KI-Modellen. Betroffene Personen haben ab sofort die Möglichkeit, der Verarbeitung ihrer Streams, Bilder und personenbezogenen Daten zu widersprechen. Angesichts dieser Datenverarbeitung raten Datenschutzbehörden dringend dazu, diese Opt-Out-Funktion zu aktivieren, um die eigenen Daten zu schützen.
HashNotch: KI-integrierte Dynamic Island für macOS
Mit HashNotch steht eine neue Software-Erweiterung für macOS bereit, die das Konzept der Dynamic Island auf Apple-Rechner überträgt und tiefgreifend mit künstlicher Intelligenz verknüpft. Benutzer erhalten in Echtzeit kompakte Einblicke in Systemparameter wie Netzwerkgeschwindigkeit, Batteriestatus, Chiptemperatur sowie aktuelle KI-Nutzungskosten. Das Tool legt dabei höchsten Wert auf Datenschutz und lokale Datenverarbeitung, da sämtliche Informationen direkt auf dem Endgerät verbleiben und keinerlei Telemetriedate
Google kauft sämtliche Daten von Spirit Airlines für das Training von KI-Modellen
Im Zuge einer Transaktion übernimmt Google umfangreiche Datensätze der Fluggesellschaft Spirit Airlines. Die darin enthaltenen Informationen von Fluggästen, Mitarbeitern sowie der gesamten geschäftlichen Korrespondenz sollen künftig in das Training der unternehmenseigenen künstlichen Intelligenzmodelle einfließen. Dieser Vorgang verdeutlicht die zunehmende Monetarisierung und Verwertung historischer Unternehmensdaten für maschinelles Lernen. Datenschutzrechtliche Implikationen und die Weiterverarbeitung personenbez
Urheberrecht schützt nicht vor den Folgen von Künstlicher Intelligenz
Der Versuch, die Interessen von Kreativen gegenüber automatisierten Systemen durch eine Verschärfung des Urheberrechts zu schützen, greift zu kurz. Statt Urheberrechtsfragen stehen arbeitsrechtliche Aspekte und der Schutz der Privatsphäre im Fokus, da Verwertungsrechte Beschäftigten keine Verhandlungsmacht sichern. Ein aktueller Fall des Verkaufs von Mitarbeiterdaten aus einer Unternehmenspleite an einen Technologiekonzern zeigt, dass Eigentumsrechte an Texten nicht vor massiven Eingriffen in die Privatsphäre schüt
Der Download: Wie Menschen KI nutzen und die Designentscheidungen von Flock
Der aktuelle Überblick beleuchtet das reale Nutzungsverhalten von künstlicher Intelligenz im Alltag sowie grundlegende architektonische Designentscheidungen bei der Entwicklung von Flock. Gleichzeitig markiert der Beginn eines wegweisenden Gerichtsverfahrens zum Schutz der Privatsphäre von Minderjährigen einen potenziellen Wendepunkt für den Betrieb großer Plattformstrukturen und deren algorithmische Systeme.
Magnitude – Open-Source-KI-Coding-Agent für die lokale Offline-Nutzung
Magnitude ist ein quelloffener Agent für die automatisierte Softwareentwicklung, der speziell für die Ausführung lokaler KI-Modelle konzipiert wurde. Das System arbeitet vollständig offline und bietet Entwicklern dadurch die Möglichkeit, automatisierte Programmieraufgaben datenschutzkonform und ohne externe Cloud-Anbindung durchzuführen. Durch den Verzicht auf Cloud-Dienste lassen sich sensible Codebasen sicher lokal analysieren und bearbeiten. Das Tool adressiert damit den steigenden Bedarf an autarken und datensc
Berliner Künstler entwickelt Kleidungsstück zur Unsichtbarkeit vor KI-Überwachungskameras
Als Reaktion auf den Einsatz automatisierter Videoanalysesysteme am Berliner Kottbusser Tor wurde ein spezielles Kleidungsstück entwickelt. Die textile Innovation zielt darauf ab, Personen für Künstliche Intelligenz im Rahmen von Überwachungsmaßnahmen unkenntlich zu machen. Das Projekt setzt sich kritisch mit der zunehmenden automatisierten Erfassung im öffentlichen Raum auseinander und demonstriert praktische Gegenmaßnahmen auf Basis von Mode und Design.
KI-Gedächtnis für Claude: Ein ehrlicher Vierer-Vergleich
Ein praxisnaher Vergleich beleuchtet vier unterschiedliche Ansätze zur Implementierung von dauerhaftem Speicher für KI-Assistenten wie Claude. Die Analyse bewertet die Systeme anhand von Kriterien wie Betriebskosten, Datenschutz und Workflow-Integration. Dabei werden die jeweiligen konzeptionellen Stärken und Schwächen der verschiedenen Architekturansätze für den praktischen Alltagseinsatz herausgearbeitet.
Kann KI mit Datenschutz koexistieren? Proton plant den Einsatz von unverschlüsselter künstlicher Intelligenz
Die Führungsebene des auf Verschlüsselung spezialisierten Anbieters Proton widmet sich der Integration von künstlicher Intelligenz, obwohl diese Technologie im Widerspruch zu herkömmlichen Ende-zu-Ende-Verschlüsselungsstandards steht. Angesichts der Marktdynamik und der wachsenden Nachfrage nach intelligenten Funktionen wird die technologische Vereinbarkeit von striktem Datenschutz und modernen KI-Anwendungen neu bewertet. Dabei müssen grundlegende Sicherheitsarchitekturen angepasst werden, um automatisierte Datenv
Der Einsatz von künstlicher Intelligenz zur Lebensoptimierung birgt erhebliche Sicherheitsrisiken
Aktuelle Untersuchungen zeigen, dass Anwendungen zur künstlichen Intelligenz, die zur persönlichen Produktivitätssteigerung oder Automatisierung im Alltag eingesetzt werden, erhebliche Sicherheitslücken aufweisen können. Angreifer sind demnach in der Lage, diese Systeme zu manipulieren, um sensible Benutzerdaten abzugreifen oder Schadsoftware zu verbreiten. Nutzer sollten daher die Integrität und die Datenschutzstandards von KI-gestützten Produktivitätswerkzeugen kritisch prüfen. Die Ergebnisse unterstreichen die N
Privibe: Lokales LLM-CLI mit Fokus auf Datenschutz
Das Open-Source-Projekt Privibe stellt eine Command-Line-Schnittstelle für die lokale Ausführung großer Sprachmodelle bereit. Der Fokus liegt konsequent auf Datenschutz und lokaler Datenverarbeitung unter Nutzung von Llama.cpp. Durch spezielle Caching-Mechanismen und die Unterstützung aktueller Modellarchitekturen wird eine effiziente Interaktion direkt auf der eigenen Hardware ermöglicht. Damit adressiert das Tool den steigenden Bedarf an datenschutzkonformen und netzwerkunabhängigen KI-Anwendungen für Entwickler.
Ein lokaler Scanner für versteckten Unicode in KI-generiertem Text
Ein neues Werkzeug ermöglicht das lokale Aufspüren und Entfernen versteckter Unicode-Artefakte in maschinell erzeugten Texten direkt im Browser. Durch die vollständige lokale Ausführung wird sichergestellt, dass keine sensiblen Daten oder Texte das lokale System verlassen. Dies verhindert effektiv Sicherheitsrisiken wie Prompt-Injection oder verdeckte Datenexfiltration durch unsichtbare Steuerzeichen. Entwickler und Anleger erhalten damit eine datenschutzkonforme Lösung zur Bereinigung von LLM-Ausgaben.
Unzulänglichkeiten bei der Löschung von Prompts in Google AI Studio aufgedeckt
Technische Untersuchungen an der Schnittstelle von Google AI Studio offenbaren Unstimmigkeiten beim Löschvorgang von Benutzerdaten. Entgegen der Benutzeroberflächen-Signalisierung, wonach Prompts nach einer Frist endgültig entfernt werden, bleiben entsprechende Daten im System erhalten. Dies wirft erhebliche datenschutzrechtliche Fragen im Hinblick auf die Einhaltung der Datenschutz-Grundverordnung bei der Nutzung von KI-Entwicklerumgebungen auf. Betroffene Plattformen stehen somit unter erhöhtem Druck, transparent
KI kann Standort anhand von Social-Media-Fotos mit hoher Genauigkeit bestimmen
Ein neu entwickeltes System zur künstlichen Intelligenz ist in der Lage, den geografischen Aufnahmeort von Social-Media-Fotos allein durch die Analyse visueller Details wie Architektur, Vegetation und Umgebungsmerkmale mit einer Genauigkeit von bis zu 91 Prozent zu ermitteln. Diese Technologie demonstriert das enorme Potenzial automatisierter Bildanalyse, wirft jedoch gleichzeitig erhebliche Bedenken hinsichtlich des Datenschutzes und der Informationssicherheit auf. Insbesondere die unbemerkte Preisgabe präziser St
Unsichtbare Wasserzeichen gegen KI-Inhalte: Skepsis in der Forschung
Als Reaktion auf regulatorische Vorgaben der Europäischen Union implementiert ein führender Anbieter neuerdings unsichtbare Wasserzeichen in Texten sowie entsprechende Kennzeichnungen für generierte Bildinhalte. Während diese Maßnahmen der steigenden Flut automatisierter und minderwertiger Publikationen entgegenwirken sollen, bezweifeln Fachleute die langfristige Wirksamkeit der Techniken. Insbesondere die Umgehbarkeit der Verfahren und die Robustheit gegenüber Manipulationen stehen im Fokus der anhaltenden Diskuss
Amazon nutzt Twitch-Inhalte zum Training von KI-Modellen
Streaming-Inhalte von Twitch-Erstellern werden standardmäßig für das Training von künstlichen Intelligenzen verwendet. Plattformbetreiber haben eine Widerspruchsmöglichkeit eingeräumt, was in der Nutzerschaft zu kritischen Diskussionen über die automatische Datenverwertung geführt hat. Die Praxis verdeutlicht die zunehmende Relevanz von User-Generated Content für das Training kommerzieller Machine-Learning-Modelle.
Open Commonplace – Schutz von Wissen vor Verallgemeinerung durch Künstliche Intelligenz
Die Initiative Open Commonplace widmet sich dem gezielten Schutz spezifischen Wissens vor der unkontrollierten Verallgemeinerung durch generative KI-Modelle. Im Fokus steht die Entwicklung von Mechanismen, um sensible und urheberrechtlich geschützte Inhalte vor dem automatisierten Data Scraping für das Training grosser Sprachmodelle zu bewahren. Damit soll eine neue Kontrollinstanz geschaffen werden, die Urheberrechte wahrt und die Integrität wertvollen Fachwissens im Zeitalter maschinellen Lernens sichert.
Open-Source- und KI-native Webanalyse
Ein neues Open-Source-Webanalyse-Tool setzt auf konsequenten Datenschutz ohne Cookies oder cross-site Profile und bietet eine direkte Umsatzzuordnung sowie einen integrierten MCP-Server. Die datenschutzfreundliche Plattform ermöglicht es Unternehmen, den Traffic und die damit verbundenen Einnahmen DSGVO-konform zu analysieren. Durch die native KI-Integration und den Model Context Protocol-Support lassen sich Analysedaten nahtlos in moderne KI-Workflows einbinden. Die Lösung positioniert sich als transparente und da
Jenseits von Zero Trust: Unternehmenssicherheit für das Zeitalter der Künstlichen Intelligenz
Die Integration von Künstlicher Intelligenz in Unternehmensstrukturen erfordert fundamentale Anpassungen bestehender Sicherheitsarchitekturen. Herkömmliche Konzepte wie Zero Trust müssen gezielt erweitert werden, um den spezifischen Bedrohungen und Angriffsvektoren moderner KI-Systeme gerecht zu werden. Dies umfasst den Schutz sensibler Trainingsdaten, die Absicherung von Modell-Schnittstellen sowie die kontinuierliche Überwachung automatisierter Entscheidungsprozesse. Unternehmen stehen vor der Herausforderung, ho
Google macht private KI durch homomorphe Verschlüsselung praktikabel
Mit dem Open-Source-Compiler HEIR stellt Google ein neues Werkzeug im Rahmen seines Private Computing Toolkits vor, das homomorphe Verschlüsselung für den praktischen Einsatz zugänglich macht. Diese kryptografische Technologie ermöglicht es, Berechnungen direkt auf verschlüsselten Daten durchzuführen, ohne diese während des Prozesses zu entschlüsseln. Damit wird ein entscheidender technischer Durchbruch erzielt, um den Datenschutz bei datenintensiven Anwendungen und maschinellem Lernen erheblich zu verbessern.
OpenAI unterstützt kalifornischen Gesetzentwurf zur KI-Sicherheit von Jugendlichen
OpenAI positioniert sich befürwortend für den kalifornischen Gesetzentwurf SB 1119 zur Stärkung der KI-Sicherheit für Minderjährige. Das Vorhaben zielt darauf ab, altersgerechte Schutzmechanismen für Jugendliche zu etablieren und gleichzeitig deren Lern- und Kreativmöglichkeiten im Umgang mit Künstlicher Intelligenz zu wahren. Damit soll ein ausgewogener regulatorischer Rahmen geschaffen werden, der den verantwortungsvollen technologischen Umgang in dieser Altersgruppe fördert.
Einführung von Zero Data Retention und Private Safety Processing für API-Kunden
Zur Gewährleistung höchster Datenschutzstandards wird für berechtigte API-Kunden eine Richtlinie zur vollständigen Vermeidung der Datenspeicherung bereitgestellt. Ergänzend dazu ermöglicht ein neues Verfahren zur privaten Sicherheitsverarbeitung die Durchführung moderner Inhaltsmoderationen und Sicherheitsanalysen, ohne dass dabei vertrauliche Kundendaten kompromittiert oder dauerhaft gesichert werden. Diese architektonischen Anpassungen adressieren zentrale Anforderungen von Unternehmenskunden im Umgang mit sensib
Einführung von Zero Data Retention und Private Safety Processing für API-Kunden
Ein führender Anbieter von künstlicher Intelligenz hat die Verfügbarkeit von Zero Data Retention für berechtigte API-Kunden bekräftigt und ergänzend Private Safety Processing angekündigt. Diese Funktion ermöglicht fortschrittliche Sicherheitsmechanismen bei der Modellnutzung, ohne dass dabei Kompromisse beim Datenschutz der verarbeiteten Unternehmensdaten eingegangen werden müssen. Damit adressieren die Entwickler zentrale Sicherheitsbedenken von Unternehmenskunden bei der Integration modernster Sprachmodelle in ih
DiffAnon: Diffusionsbasierte Prosodiekontrolle zur Stimmensonymisierung
Bei der Stimmensonymisierung stellt die Erhaltung oder Verwerfung der Prosodie eine zentrale Herausforderung dar, da diese sowohl Bedeutung transportiert als auch eng mit der Sprecheridentität verknüpft ist. Bisherige Ansätze verwerfen Prosodie zugunsten des Datenschutzes oder bieten keine steuerbare Balance zwischen Informationsgehalt und Privatsphäre. Ein neu entwickeltes, diffusionsbasiertes Verfahren mit klassifikatorfreier Steuerung ermöglicht erstmals eine kontinuierliche und explizite Kontrolle der Prosodiee
Rekonstruktion personenbezogener Daten aus proprietären Daten in überwacht feingetunten Modellen
Die vorangetriebene Anpassung von Sprachmodellen mittels überwachten Feinabstimmens birgt erhebliche Risiken für den Datenschutz, insbesondere durch die Offenlegung sensibler personenbezogener Informationen aus domänenspezifischen Trainingsdaten. In der Untersuchung wird analysiert, wie Angreifer zielgerichtet Identitätsdaten aus feingetunten Modellen rekonstruieren können, selbst wenn nur begrenzte Kontextinformationen vorliegen. Dazu wurde ein neuartiger, abdeckungsbewusster Dekodierungsalgorithmus namens COVA en
Kontinuierliches Lernen mit Partizipationsdatenschutz: Ein auditierbares Pufferungs- und Aggregationsverfahren
Moderne föderierte und kontinuierliche Lernsysteme stehen vor der Herausforderung, Datenschutz über vollständige Modelltrajektorien bei adaptiven Interaktionen zu gewährleisten. Herkömmliche Ansätze versagen häufig bei dynamischen Nutzerströmen, bei denen Einfügungen oder Löschungen nachfolgende Updates verschieben. Ein neu entwickeltes, modular aufgebautes und auditierbares Verfahren löst dieses Problem durch eine randomisierte Pufferung, die Datenströme in definierte Intervalle unterteilt. Ein mathematisches Zert
Verschlüsselte neuronale Netze ohne Überläufe
Das homomorphe Verschlüsselungsverfahren CKKS ermöglicht die private Inferenz in neuronalen Netzen, erfordert jedoch die Approximation von Aktivierungsfunktionen durch Polynome, was bei herkömmlichen Heuristiken zu fehlerhaften Berechnungen durch Überläufe führen kann. Zur Behebung dieses Problems wird ein automatisierter Algorithmus vorgestellt, der gezielt Überläufe in CKKS-basierten Schaltungen auslöst, sowie ein formaler Verifikationsansatz. Dieser garantiert fehlerfreie und überlaufsichere Schaltungen mit zert
Zur Robustheit von Vision-Language-Modellen bei der Zero-Shot-Datenschutzklassifikation
Eine systematische Untersuchung analysiert die Eignung instruktionsbasierter Vision-Language-Modelle für die automatisierte Erkennung sensibler visueller Inhalte in Dokumenten ohne vorherige Anpassung. Die Evaluierung vergleicht drei Open-Source-Modelle mit spezialisierten Architekturen anhand standardisierter Benchmarks hinsichtlich Klassifikationsgüte, Inferenzgeschwindigkeit und Parameteranzahl. Dabei wird auch die Robustheit gegenüber Bilddegradationen wie Komprimierung, Beleuchtungsschwankungen und Rauschen ge
Topologiebewusste proportionale Differenzielle Privatsphäre im hierarchischen Föderierten Lernen
Im hierarchischen Föderierten Lernen schalten sich regionale Aggregatoren zwischen Clients und Cloud, wodurch traditionell ein einheitlicher Rauschmultiplikator für alle Teilnehmer verwendet wird, der sich am am stärksten gefährdeten Bereich orientiert. Ein neuer min-max-optimaler Ansatz namens Fulcrum löst dieses Allokationsproblem durch eine exakte Silo-Ebene-Garantie für die differenzielle Privatsphäre und eine Bestimmung der Belichtungsdispersion. Dadurch lässt sich das Rauschen vor dem Training präzise an die
Erhalt der Erkennbarkeit geschützter Gesundheitsdaten durch strukturerhaltende Anonymisierung
Eine neue Untersuchung analysiert, ob der Ersatz von geschützten Gesundheitsdaten durch realistische Ersatzwerte die Leistungsfähigkeit nachgeschalteter Erkennungswerkzeuge beeinträchtigt. Mittels eines gepaarten Evaluationsprotokolls über elf Detektoren und sieben Sprachen hinweg zeigt sich, dass die Erkennungsrate auf maskierten Textabschnitten statistisch nahezu unverändert bleibt. Geringfügige Leistungsverluste lassen sich vor allem auf fehlerhafte oder atypische Ersatzwerte zurückführen, während die generelle
Rauschen als Sonde: Angriffe zur Mitgliedschaftsinferenz auf Diffusionsmodelle durch initiales Rauschen
Diffusionsmodelle bergen erhebliche Datenschutzrisiken, insbesondere wenn sie mit feingespeicherten, sensiblen Datensätzen trainiert wurden. Neue Untersuchungen zeigen, dass etablierte Zeitpläne für das Rauschen semantische Bildinformationen selbst in maximalen Rauschschritten nicht vollständig eliminieren. Modelle erfassen verborgen gehaltene Korrelationen zwischen diesen residualen Semantiken und den Ausgangsdaten. Dies ermöglicht einen gezielten Angriff zur Mitgliedschaftsinferenz, bei dem durch die Injektion se
Ersatz durch Stellvertreter erhält Erkennbarkeit geschützter Gesundheitsdaten: Eine Multi-Detektor-Äquivalenzstudie
Die strukturerhaltende Anonymisierung ersetzt geschützte Gesundheitsdaten durch realistische Platzhalter, um den klinischen Sprachfluss und die Funktionalität nachgeschalteter Werkzeuge zu gewährleisten. Eine neue Evaluationsstudie untersucht an rund 57.000 gepaarten Textabschnitten über elf Detektoren und sieben Sprachen hinweg, ob diese Ersetzungen die Erkennbarkeit durch automatisierte Detektoren beeinträchtigen. Die Ergebnisse zeigen, dass die Erkennungsrate nahezu unverändert bleibt und die Rangfolge der Detek
Benchmark-Evaluierung von Föderiertem Lernen für multiorginale medizinische Bilddaten
Um den Herausforderungen des Datenschutzes und der hohen Heterogenität medizinischer Bilddaten zu begegnen, wurde ein umfassendes Framework zur Bewertung von Föderiertem Lernen entwickelt. Der neue Benchmark integriert zahlreiche aktuelle Algorithmen und diverse Bilddatensätze verschiedener Organe, um die Leistungsfähigkeit realitätsnah zu analysieren. Neben der klassischen Modellgenauigkeit berücksichtigt die Evaluierung systematisch auch algorithmische Effizienz, Datenschutzmechanismen sowie komplexe klinische Sz
Abschätzung des Risikos fast wortgetreuer Extraktion in Sprachmodellen mittels Decodierungs-eingeschränkter Beam-Suche
Bisherige Methoden zur Quantifizierung der Speicherung in großen Sprachmodellen erfassen oft nur exakte Wortwiederholungen oder sind mit extremem Rechenaufwand verbunden. Ein neuer Ansatz namens Decodierungs-eingeschränkte Beam-Suche ermöglicht die effiziente Bestimmung deterministischer unterer Schranken für das Risiko fast wortgetreuer Extraktionen. Dadurch lässt sich der Schutz vor der Offenlegung sensibler oder urheberrechtlich geschützter Trainingsdaten deutlich präziser und mit geringerem Aufwand bewerten. Di
DP-MGTD: Datenerhaltende Erkennung maschinell generierter Texte durch adaptive differenzielle Privatsphäre
Die Erkennung maschinell generierter Texte erfordert oft die Verarbeitung sensibler Nutzerdaten, was zu einem Konflikt zwischen Verifikationsgenauigkeit und Datenschutz führt. Um diesen Spagat zu bewältigen, wurde ein neues Framework entwickelt, das auf einer adaptiven, differenziell privaten Entitätsbereinigung basiert. Durch den gezielten Einsatz von Rauschmechanismen auf numerische und textuelle Entitäten werden strenge Datenschutzgarantien eingehalten. Entgegen der üblichen Annahme führt das hinzugefügte Rausch
Sichere synthetische Daten durch gröbere Ränder
Ein neuer Forschungsansatz zur Generierung synthetischer Daten bietet verbesserte Transparenz und strikte Garantien hinsichtlich des Datenschutzes. Bei dieser Methode wird im Vorfeld genau festgelegt, welche statistischen Beziehungen zwischen den Variablen im finalen Datensatz erhalten bleiben. Mithilfe etablierter Methoden der statistischen Geheimhaltung werden diese Ränder vorab geprüft und angepasst, bevor sie über einen iterativen Anpassungsalgorithmus in die synthetischen Daten einfließen. Anhand historischer
Die Vortrainingsdomäne dominiert das Trainingsziel beim Datenschutz-Nutzen-Verhältnis in der medizinischen Bildanalyse
Bei der datenschutzkonformen Analyse medizinischer Bilder mittels differenzieller Privatsphäre spielt die Wahl der Initialisierung eine entscheidende Rolle für die diagnostische Genauigkeit. Eine umfassende Untersuchung mit über 590000 Röntgenbildern zeigt, dass das fachspezifische Vortraining auf medizinischen Bilddaten dem allgemeinen Vortraining auf großen Bilddatensätzen deutlich überlegen ist. Insbesondere unter strengen Datenschutzbudgets wiegt der Einfluss der fachspezifischen Domäne wesentlich schwerer als
Standortdatenschutz in 6G-basierten Fahrzeug-Metaversen mittels Large Language Models und generativen Diffusionsmodellen
In 6G-gestützten Fahrzeug-Metaversen interagieren autonome Fahrzeuge gleichzeitig in der physischen und virtuellen Welt, was neuartige Risiken für den Standortdatenschutz mit sich bringt. Um dieses Problem zu lösen, wurde ein hybrides Schutzframework entwickelt, das kontinuierliche Standortstörungen in der Realität mit datenschutzbewussten KI-Agenten-Migrationen im virtuellen Raum kombiniert. Ein neu eingeführtes Metrik-System quantifiziert das Datenschutzniveau und optimiert den Zielkonflikt zwischen Privatsphäre
Mit der Theorie des Geistes lernen: Ein Doppelagent-Verteidiger zur Überzeugungssteuerung
Große Sprachmodelle erfordern ausgefeilte Fähigkeiten zur Einschätzung der Intentionen ihrer Gesprächspartner, um in potenziell adversarialen Umgebungen sicher zu agieren. Ein neuartiger datenschutzorientierter Benchmark namens ToM-SB untersucht, wie ein verteidigender Agent als Doppelagent agiert, um die Überzeugungen eines Angreifers gezielt zu steuern und die Preisgabe sensibler Informationen zu verhindern. Die Untersuchung zeigt, dass selbst führende Sprachmodelle bei dieser Aufgabe in schwierigen Szenarien oft
CityGuard: Graphenbasierte private Deskriptoren für verzerungsresistente Personensuche in Überwachungskameras
Ein neues datenschutzfreundliches Verfahren ermöglicht die stadtweite Wiedererkennung von Personen über verteilte Überwachungskameras hinweg, ohne sensible Rohbilder austauschen zu müssen. Das System kombiniert einen dispersionsadaptiven Metriklerner mit raumkonditionierter Aufmerksamkeit, um geometrische Hilfsdaten wie GPS-Informationen in graphenbasierte Transformer zu integrieren. Durch differenziell private Einbettungen und kompakte Indizes wird eine robuste und effiziente Identitätssuche bei gleichzeitiger Ein
Fehlend durch Design: Zertifizierbare Modalitätslöschung für widerrufbare multimodale Sentimentanalysen
Mit zunehmender Verarbeitung sensibler personenbezogener Daten in multimodalen Systemen steigt der Bedarf an Mechanismen zum selektiven Widerruf einzelner Datenmodalitäten. Ein neu entwickelter, einheitlicher Ansatz kombiniert strukturiertes Repräsentationslernen mit einer zertifizierbaren Parameteränderung, um den gezielten Ausschluss bestimmter Kanäle bei gleichzeitiger Erhaltung relevanter Signale zu ermöglichen. Durch eine saliengesteuerte Kandidatenauswahl und kalibrierte Aktualisierungen wird ein maschinell v
Unüberwachte Keypoints zur Sturzerkennung in Echtzeit: Analyse unter Realbedingungen mit prädiktiver Bandbreitenreduktion
Ein neues Framework zur Sturzerkennung bei älteren Menschen setzt auf datenschutzfreundliche Bewegungsmuster statt auf die Übertragung von Videodaten. Durch den Einsatz unüberwachter Keypoints und prädiktiver Zeitreihenmodelle lassen sich Stürze auch bei teilweiser Verdeckung oder eingeschränkter Sicht zuverlässig identifizieren. Im Vergleich zu herkömmlichen, überwachten Verfahren erweisen sich unüberwachte Keypoints als robuster gegenüber Okklusionen und bieten bei begrenzter Bandbreite eine stabilere Performance
VeriX-Anon: Ein mehrschichtiges Framework zur mathematisch verifizierbaren, ausgelagerten datengesteuerten Anonymisierung
VeriX-Anon ist ein neuartiges Framework, das die sichere Auslagerung von datenschutzsensiblen Anonymisierungsprozessen an Cloud-Anbieter ermöglicht. Durch die Kombination von deterministischen Merkle-Hashing-Verfahren, probabilistischen Kontrollmechanismen und einer auf erklärbarer KI basierenden Nutzenanalyse stellt das System sicher, dass die beauftragten Algorithmen korrekt ausgeführt wurden. Die Methode erkennt verschiedene Arten von Manipulationsversuchen zuverlässig und bewahrt gleichzeitig die statistische Q
Synthetisierung realer Datenverteilungen aus hochdimensionalem Gauß-Rauschen mittels vollvernetzter neuronaler Netze
Die Erzeugung synthetischer Daten bietet signifikante Vorteile für das maschinelle Lernen, insbesondere durch verbesserte Datenaugmentation und den Schutz der Privatsphäre. Ein neuer Ansatz nutzt vollvernetzte neuronale Netze, um hochdimensionales Gauß-Rauschen in Zielverteilungen für tabellarische Datensätze zu transformieren. Durch die Kombination von PCA-Dimensionsreduktion und speziellen Verlustfunktionen auf Basis der Wasserstein-Distanz erzielt das Modell eine hohe Ähnlichkeit zu realen Daten. Tests zeigen, d
Grad2Fair: Ein gradientenbasierter Ansatz für Fairness in Graphen ohne demografische Daten
Graph-Neuronale Netze weisen häufig Verzerrungen gegenüber bestimmten demografischen Gruppen auf, wobei bisherige Lösungsansätze meist auf die Verfügbarkeit sensibler Attribute angewiesen waren. Der neue Ansatz Grad2Fair umgeht diese Anforderung, indem er auf die Nutzung vorhergesagter demografischer Daten verzichtet, die oft ungenau sind. Stattdessen nutzt das Verfahren die Gradientenverteilungen falsch klassifizierter Knoten, da diese implizit demografische Informationen enthalten. Durch die direkte Verwendung di
Prüfung von Fairness-Datenschutz-Abwägungen: Auswirkungen von Fairness-Algorithmen auf Subpopulationen
Maschinelles Lernen in sensiblen Bereichen erfordert ein ausgewogenes Verhältnis zwischen Nutzen, Fairness und Datenschutz. Die vorliegende Untersuchung analysiert erstmals, wie Algorithmen zur Fairness-Verbesserung das Risiko von Mitgliedschaftsinferenz-Angriffen auf Ebene einzelner Subpopulationen beeinflussen. Dabei zeigt sich, dass Fairness-Interventionen das Datenschutzrisiko nicht einheitlich verändern, sondern stark von der Modellarchitektur und der Gruppengröße abhängen. Zudem wird deutlich, dass die Vortei
Datenschutzrisiken durch Tokenizer-Design bei föderiertem Lernen in der Radiologie
Föderiertes Lernen ermöglicht das Training von KI-Modellen auf klinischen Texten, ohne Rohdaten zu teilen, birgt jedoch das Risiko der Datenrekonstruktion durch Gradienteninversion. Eine Untersuchung zeigt, dass bei der Verarbeitung von Radiologieberichten signifikante Textmengen aus Modell-Updates wiederhergestellt werden können. Dabei beeinflusst die Wahl des Tokenizers das Ausmaß der Preisgabe sensibler Informationen maßgeblich. Da kein untersuchter Tokenizer das Risiko vollständig eliminiert, sind zusätzliche S
Garantien für plausible Abstreitbarkeit für Whistleblower
Whistleblower sind essenziell für die Aufdeckung von Fehlverhalten, fürchten jedoch Repressalien durch die betroffenen Organisationen. Ein neuer mathematischer Ansatz nutzt das Konzept der differentiellen Privatsphäre, um die Identität von Hinweisgebern bei Audits zu schützen. Durch die Anwendung von Mechanismen des kontinuierlichen Zählens auf die Auswahl von Prüfinstanzen wird sichergestellt, dass Organisationen nicht nachvollziehen können, wer ein Audit ausgelöst hat. Dieser Ansatz bietet eine formale Garantie f
Wenn synthetische Text-zu-Bild-Daten nach hinten losgehen: Erhöhte Datenschutzrisiken beim Training mit gemischten Datensätzen
Die Verwendung von synthetischen Daten aus Text-zu-Bild-Modellen zur Ergänzung realer Trainingsdaten ist ein gängiger Ansatz, um Datenknappheit und Datenschutzbedenken zu adressieren. Eine neue Untersuchung zeigt jedoch, dass dieses Vorgehen das Risiko für die verbleibenden echten Trainingsdaten paradoxerweise erhöhen kann. Durch die Verschiebung realer Daten in periphere Bereiche des Merkmalsraums werden diese vom Modell stärker auswendig gelernt, was sie anfälliger für Inferenzangriffe macht. Zur Risikobewertung
Herausforderungen beim Schutz von Videos vor KI-basierter Personalisierung und Manipulation
Moderne Diffusionsmodelle ermöglichen die Erstellung personalisierter Videos durch Bild-zu-Video-Generierung oder gezieltes Finetuning, was erhebliche Risiken für den Schutz der Privatsphäre und geistiges Eigentum birgt. Bisherige Schutzmechanismen konzentrierten sich primär auf Einzelbilder und scheitern oft an der zeitlichen Kompression oder mangelnder Robustheit gegenüber neuen Videodaten. Mit der neuen Methode TC-UAP wird ein universeller, zeitlich konsistenter Störungsansatz eingeführt, der Identitäten effekti
Datenschutzfreundliche Empfehlungssysteme: Balance zwischen Personalisierung und Privatsphäre
Moderne Empfehlungssysteme im E-Commerce stehen vor der Herausforderung, detaillierte Nutzerdaten für Personalisierungen zu verarbeiten, ohne dabei regulatorische Datenschutzvorgaben zu verletzen. Ein neuer Ansatz kombiniert föderiertes Lernen, differenzielle Privatsphäre und kohortenbasierte Modellierung, um Nutzerdaten dezentral zu halten und mathematisch abgesicherte Anonymität zu gewährleisten. Untersuchungen zeigen, dass bei moderaten Datenschutzbudgets eine hohe Empfehlungsqualität beibehalten werden kann. Da
Absicherung von Sprachmodellen in der Praxis: Datenschutz- und Sicherheitsherausforderungen am Edge
Der Einsatz von großen Sprachmodellen auf Endgeräten und in lokalen Infrastrukturen nimmt zu, um Datenschutzanforderungen und Latenzprobleme zu adressieren. Dieser Trend führt zum sogenannten Effizienz-Sicherheits-Paradoxon, bei dem notwendige Optimierungen wie Quantisierung oder Modell-Partitionierung neue Angriffsflächen schaffen und die Robustheit beeinträchtigen können. Zur Analyse dieser Risiken wurde eine Taxonomie entwickelt, die architektonische Beschränkungen wie Speicher- und Rechenkapazitäten in den Kont
Produktionsreifes föderiertes Lernen im Gesundheitswesen: Datenschutz, Orchestrierung und Governance in MLOps
Föderiertes Lernen ermöglicht es medizinischen Einrichtungen, KI-Modelle gemeinsam zu trainieren, ohne sensible Patientendaten zentralisieren zu müssen. Da dieser Ansatz jedoch komplexe Herausforderungen bei der Bereitstellung, Überwachung und Governance mit sich bringt, ist die Integration in bestehende MLOps-Strukturen entscheidend. Der Fokus liegt dabei auf der Entwicklung von Federated Learning Operations (FLOps), die Containerisierung, sichere Orchestrierung und kontinuierliche Modellüberwachung kombinieren. N
Maschinelles Verlernen zur Laufzeit durch gesteuerte Aktivierungsumleitung
Große Sprachmodelle speichern oft sensible Trainingsdaten, was Datenschutz- und Sicherheitsbedenken aufwirft. Herkömmliche Methoden zum Entfernen dieser Informationen erfordern rechenintensive Anpassungen der Modellgewichte, die oft die Leistung beeinträchtigen. Ein neuer Ansatz namens GUARD-IT ermöglicht das gezielte Verlernen von Inhalten direkt während der Inferenz durch eine eingangsabhängige Steuerung der Aktivierungen. Da dabei die Modellgewichte unverändert bleiben, funktioniert das Verfahren auch bei quanti
Generalisierung und Memorierung bei Rectified Flow
Die Untersuchung analysiert das Memorierungsverhalten von generativen Modellen auf Basis von Rectified Flow durch den Einsatz von Membership Inference Attacks. Durch die Entwicklung einer komplexitätskalibrierten Metrik lassen sich bildspezifische Merkmale von tatsächlicher Datenspeicherung unterscheiden, was die Erkennungsrate für Datenschutzrisiken deutlich erhöht. Dabei zeigt sich, dass die Anfälligkeit für Datenabgleiche besonders in der Mitte des Integrationsprozesses auftritt. Eine Anpassung der Zeitschritt-A
Inklusives föderiertes Lernen durch compliance-gewichtete Rauschzuweisung in der Gesundheits-KI
Ein neuer Ansatz für föderiertes Lernen im Gesundheitswesen ermöglicht die Einbindung von Institutionen mit unterschiedlichen Compliance-Standards, ohne die Modellqualität zu beeinträchtigen. Anstatt einheitliches Rauschen anzuwenden, passt ein neues Framework die Differential Privacy individuell an den Compliance-Status der jeweiligen Einrichtung an. Durch diese gewichtete Rauschzuweisung können auch Institutionen mit geringeren Ressourcen oder abweichenden regulatorischen Anforderungen an kollaborativen KI-Traini
Extrahierbare Memorierung bei Sprachmodellen aus Prinzipien hergeleitet
Die Untersuchung von Memorierung in großen Sprachmodellen leidet häufig unter methodischen Schwächen, da zwischen zufälliger Vorhersagbarkeit und tatsächlichem Auswendiglernen von Trainingsdaten nicht präzise unterschieden wird. Eine neue methodische Herangehensweise nutzt den Vergleich von Trainingssequenzen mit nicht trainierten Referenzsequenzen, um eine statistische Basislinie für Vorhersagbarkeit zu etablieren. Durch den Einsatz von konformen Tests und Dokumenten-Zensus lassen sich Memorierungseffekte rigoros
Datenschutz bei KI-Modellen: Nicht Informationsabhängigkeit, sondern nicht-robuste Merkmale verursachen Datenlecks
Die Forschung stellt die gängige Annahme infrage, dass das Auswendiglernen von Trainingsdaten die Hauptursache für Datenschutzrisiken bei Bildrekonstruktionsangriffen ist. Stattdessen zeigt sich, dass die Anfälligkeit für solche Angriffe kausal mit sogenannten nicht-robusten Merkmalen zusammenhängt, die für Menschen unsichtbar, aber für KI-Modelle generalisierbar sind. Durch die Einführung eines neuen Trainingsverfahrens namens Anti Adversarial Training wird belegt, dass eine gezielte Nutzung dieser Merkmale den Sc
Proximity-Features: Datenschutzkonforme Kaltstart-Personalisierung bei Airbnb
Auf Plattformen mit seltenen Käufen stellt das Fehlen ausreichender Nutzerhistorie eine Herausforderung für die Personalisierung dar. Um dieses Kaltstart-Problem bei nicht angemeldeten oder neuen Nutzern zu lösen, wurden Proximity-Features entwickelt. Dabei werden Nutzer anhand von Geo-IP-Daten in Clustern von etwa 1.000 Personen zusammengefasst, um aggregierte Signale ohne individuelle Identifikatoren zu nutzen. Dieser datenschutzkonforme Ansatz ermöglicht präzise Empfehlungen auf Landingpages und in Marketing-Kan
Vergessliche Aufmerksamkeit: Ein trainierbarer Support-Vector-Speicher mit zertifizierter Selektion und exaktem Unlearning
Die neue Methode Support Vector Attention ermöglicht eine präzise Steuerung von Gedächtnisinhalten in KI-Modellen. Durch die Nutzung von Support-Vektor-Maschinen können einzelne Tokens gezielt und zertifiziert aus dem Kontext gelöscht werden, ohne die restlichen Ausgaben zu beeinflussen. Dieser Ansatz erlaubt ein exaktes Unlearning, bei dem der Zustand des Modells exakt dem einer vollständigen Neu-Trainierung ohne das gelöschte Element entspricht. Die Technik verbessert die Leistung bei der Verarbeitung seltener Da
Kontinuierliches Lernen mit elastischer Regularisierung und synthetischem Replay für föderiertes MLLM-Feintuning
Das föderierte Feintuning multimodaler großer Sprachmodelle steht vor der Herausforderung des katastrophalen Vergessens, bei dem neues Wissen frühere Informationen überschreibt. Das neue Framework FedCMM adressiert dieses Problem durch einen dreistufigen Ansatz: Eine modalitätsspezifische elastische Gewichtskonsolidierung schützt die Parameter, während lokale generative Module synthetische Daten für das Replay erzeugen, ohne Rohdaten preiszugeben. Ergänzt wird dies durch eine aufgabenorientierte Gradientenaggregati
Signalgesteuerte Optimierung für Machine Unlearning
Bisherige Methoden zum maschinellen Verlernen basieren häufig auf groben, globalen Strategien, die zu einer ungleichmäßigen Entfernung von Daten führen. Dies kann entweder die Modellnützlichkeit durch übermäßiges Verlernen beeinträchtigen oder Sicherheitslücken durch unvollständiges Verlernen hinterlassen. Das neue Framework GSUO nutzt aufgabenspezifische, fein abgestimmte Steuerungssignale, um den Prozess präziser zu lenken. Dieser Ansatz ist sowohl für zufällige Teilmengen als auch für klassenweises Vergessen gee
Fairness-Beschränkungen in hochdimensionalen verallgemeinerten linearen Modellen
Maschinelles Lernen übernimmt häufig Verzerrungen aus historischen Datensätzen, was Fragen zur algorithmischen Gerechtigkeit aufwirft. Da der Zugriff auf sensible Attribute wie Geschlecht oder Herkunft aus Datenschutzgründen oft eingeschränkt ist, wurde ein neuer Ansatz entwickelt. Dieser schätzt sensible Merkmale anhand von Hilfsdaten und integriert entsprechende Fairness-Vorgaben direkt in das Modelltraining. Die Methode reduziert systematische Verzerrungen effektiv, ohne dabei die Vorhersagegenauigkeit signifika
Schicht-parallele Inferenz reduziert verschlüsselte nichtlineare Tiefe in Transformern
Die vollständig homomorphe Verschlüsselung ermöglicht Berechnungen auf verschlüsselten Daten, stößt jedoch bei Transformer-Modellen aufgrund der sequenziellen Abfolge nichtlinearer Blöcke an Effizienzgrenzen. Ein neuer Ansatz namens Structured Newton Layer Parallelism (SNLP) adressiert dieses Problem, indem die sequenzielle Tiefe der nichtlinearen Schichten durch ein iteratives Lösungsverfahren deutlich verkürzt wird. Simulationen zeigen, dass diese Methode die Anzahl notwendiger Bootstrapping-Operationen bei minim
IntraShuffler: Ein datenschutzfreundliches Framework für heterogenes föderiertes Lernen mit Differential Privacy
Heterogenes föderiertes Lernen mit Differential Privacy erlaubt es Teilnehmern, individuelle Datenschutzbudgets festzulegen. Dabei können jedoch durch die Aggregation von Gradienten ungewollt Rückschlüsse auf die Datenverteilung oder die Identität der Clients gezogen werden. IntraShuffler löst dieses Problem durch einen neuen Middleware-Ansatz, der Clients in datenschutzkonforme Gruppen unterteilt und innerhalb dieser Parameter-Shuffling durchführt. Dies unterbricht die für Angriffe nutzbaren Gradientenstrukturen,
Hyper-modale Imputations-Diffusions-Einbettung mit Dual-Destillation für föderierte multimodale Wissensgraphen
Die Vervollständigung multimodaler Wissensgraphen in föderierten Umgebungen stellt eine Herausforderung dar, da Daten dezentral vorliegen und sensible Informationen geschützt werden müssen. Ein neues Framework adressiert diese Problematik durch die Kombination von Hyper-modalen Imputations-Diffusions-Einbettungen zur Wiederherstellung unvollständiger Entitäten und einer föderierten dualen Destillation zur Wissensübertragung zwischen Clients und Server. Dieser Ansatz verbessert die semantische Konsistenz und Konverg
Zur Notwendigkeit der Gewichtung von Ausgabeverteilungen für effektives Class Unlearning
Die Forschung identifiziert eine Schwachstelle bei aktuellen Verfahren zum maschinellen Vergessen von Datenklassen, bei denen die geometrische Struktur der Klassen vernachlässigt wird. Dies führt zu Informationslecks, die durch neu entwickelte Angriffe auf die Klassenzugehörigkeit nachweisbar sind. Als Lösung wird die Methode Tilted REWeighting eingeführt, die während des Feinabstimmungsprozesses die Ausgabeverteilung des Modells so anpasst, dass sie der eines von Grund auf neu trainierten Modells entspricht. Durch
Föderiertes Themenmodell und Modell-Pruning auf Basis von Variational Autoencodern
Zur Analyse von Themen in großen Dokumentenmengen unter Wahrung des Datenschutzes wurde ein föderiertes Modellierungsverfahren entwickelt. Um die bei verteilten Systemen auftretenden Kommunikations- und Performance-Herausforderungen zu bewältigen, wird ein Ansatz auf Basis von Variational Autoencodern mit neuronalem Modell-Pruning kombiniert. Dabei werden kumulative Gradienten und Gewichte an einen zentralen Server übermittelt, der das Modell effizient beschneidet. Zwei verschiedene Strategien zur Bestimmung der Pr
Ein praktischer Leitfaden zur Erzeugung synthetischer Daten mit Differential Privacy
Hochwertige Daten sind für das Training leistungsfähiger KI-Systeme essenziell, doch die Nutzung realer Nutzerdaten birgt erhebliche Datenschutzrisiken. Differential Privacy bietet einen etablierten Rahmen, um synthetische Datensätze zu erstellen, die statistische Trends bewahren und gleichzeitig die Privatsphäre der Individuen schützen. Dieser Leitfaden erläutert die notwendigen technischen Komponenten für die Generierung solcher Daten, von der Datenvorbereitung bis hin zur empirischen Prüfung der Privatsphäre. Zi
Kontrastives Lernen zur multimodalen Analyse elektronischer Patientenakten
Elektronische Patientenakten enthalten sowohl strukturierte klinische Daten als auch unstrukturierte Notizen, die bisher oft isoliert betrachtet wurden. Ein neuer Ansatz nutzt multimodales kontrastives Lernen, um diese komplementären Informationsquellen effektiv zu integrieren und ein umfassenderes Verständnis des Gesundheitszustands zu ermöglichen. Durch ein neu entwickeltes generatives Modell zur Merkmalseinbettung und eine spezifische Verlustfunktion wird die Synergie zwischen den Datentypen statistisch fundiert
LDPKiT: Überlagerung von Remote-Abfragen für datenschutzfreundliche Modell-Destillation
LDPKiT ist ein neues Framework für die datenschutzfreundliche Modell-Destillation, das in regulierten Bereichen wie dem Gesundheitswesen oder dem Finanzsektor eingesetzt werden kann. Durch eine innovative Überlagerungstechnik werden annähernd verteilungskonforme Daten erzeugt, die ein effektives Wissenstransfer-Verfahren unter lokaler differenzieller Privatsphäre ermöglichen. Dies erlaubt es Nutzern, Modelle lokal zu destillieren, ohne sensible Eingabedaten an externe APIs übertragen zu müssen. Experimente zeigen,
RaMark: Radioaktives Watermarking für generierte tabellarische Daten
Die Erstellung synthetischer tabellarischer Daten ermöglicht den Austausch datenschutzsensibler Informationen, erfordert jedoch robuste Methoden zur Eigentumsverifizierung. Herkömmliche Wasserzeichen verlieren bei einem erneuten Training generativer Modelle oft ihre Wirksamkeit. RaMark löst dieses Problem durch ein radioaktives Wasserzeichen, das als sinusförmige Abhängigkeit fest in der Datenverteilung verankert ist. Dadurch bleibt das Wasserzeichen auch nach dem Training erhalten, da seine Entfernung zwangsläufig
Sichere Verschleierung: Eine systematische Evaluierung von Bildmaskierung für vertrauliche medizinische KI-Modelle
Die Auslagerung medizinischer Bilddaten in die Cloud für Deep-Learning-Anwendungen birgt erhebliche Datenschutzrisiken. Als Lösung wird die Bildverschleierung untersucht, bei der Daten visuell unkenntlich gemacht werden, während ihre Nutzbarkeit für KI-Modelle erhalten bleibt. Eine systematische Analyse verschiedener Methoden zeigt, dass die Wirksamkeit stark von der jeweiligen Aufgabe abhängt: Während die Klassifizierung gut funktioniert, leidet die semantische Segmentierung unter Qualitätsverlusten. Die randomisi
Texas stoppt Finanzierung für KI-gestützte Überwachungskameras
Die texanische Landesregierung hat staatliche Ausgaben für den Kauf und Betrieb von automatisierten Überwachungskameras vorerst eingefroren. Hintergrund dieser Entscheidung sind wachsende datenschutzrechtliche Bedenken u
Twitch-Streamer können dem Training von Amazon-KI widersprechen
Nutzer der Streaming-Plattform Twitch haben ab sofort die Möglichkeit, der Nutzung ihrer Inhalte für das Training generativer KI-Modelle von Amazon zu widersprechen. Der Ausschluss betrifft sämtliche persönlichen Daten wie Live-Streams, Video-on-Demands, Clips, Chatverläufe sowie Bild- und Textmaterial auf dem jeweiligen Kanal. Damit reagiert das Unternehmen auf wachsende Bedenken hinsichtlich des Datenschutzes und der Urheberrechte im Bereich des maschinellen Lernens. Die Änderung gilt explizit für zukünftige Trai
OpenAI zieht Apple-Rechtsstreit in die Öffentlichkeit
Im eskalierenden juristischen Streit um angebliche Geheimnisverrat-Vorwürfe hat OpenAI öffentlich Stellung bezogen und interne Kommunikationsdaten offengelegt. Die Darstellung des Konkurrenten wurde als unzutreffend, aggressiv und unbegründet zurückgewiesen. Durch die Veröffentlichung von Chat- und E-Mail-Auszügen wird der Konflikt nun auf Ebene der öffentlichen Wahrnehmung ausgetragen.
Künstler wehren sich rechtlich gegen KI-Trainingsdaten und erzielen erste Erfolge
Zahlreiche Kreative überprüfen derzeit öffentlich zugängliche Datensätze, die zum Trainieren von KI-Modellen verwendet wurden, und entdecken dabei häufig ihre urheberrechtlich geschützten Werke. Angesichts dieser ungenehmigten Nutzung formieren sich rechtliche Gegenmaßnahmen. Erste juristische Auseinandersetzungen zeigen, dass betroffene Urheber durchaus Chancen haben, gegen die unerlaubte Datenverwendung vorzugehen und Entschädigungen oder Anpassungen zu erwirken.
Hugging Face wird zur Erstellung von Deepfakes missbraucht
Auf einer populären Plattform für offene KI-Modelle werden Bildbearbeitungswerkzeuge zunehmend für die unautorisierte Erstellung intakter Fälschungen von Personen genutzt. Eine Untersuchung zeigt, dass ein Großteil der führenden Bildmodelle auf der Plattform kaum Schutzmaßnahmen gegen den Missbrauch zur Erstellung solcher Darstellungen bietet. Kritiker fordern daher schärfere Kontrollen und strengere Richtlinien für die Bereitstellung sensibler KI-Technologien, um den Schutz von Betroffenen zu gewährleisten.
TikTok testet Werkzeug zur Erkennung von KI-generierten Abbildern
TikTok führt derzeit einen Testlauf für eine neue Funktion durch, mit der Ersteller von Inhalten KI-generierte Abbilder ihrer Person identifizieren und melden können. Das optionale Werkzeug soll dabei helfen, unbefugte Nutzungen digitaler Kopien einzudämmen. Zunächst ist der Test auf eine ausgewählte Gruppe von Nutzern in den USA beschränkt. Mit dieser Maßnahme reagiert die Plattform auf die zunehmende Verbreitung von KI-generierten Inhalten und den damit verbundenen Bedarf an verbesserten Schutzmechanismen für die
Suno nutzte Millionen von Songs von YouTube, Genius und Deezer für das KI-Training
Durch einen Sicherheitsvorfall wurde bekannt, dass der KI-Musikgenerator Suno mit Millionen von urheberrechtlich geschützten Musikstücken und Liedtexten trainiert wurde. Die Daten stammen aus dem massiven Scraping von Plattformen wie YouTube Music, Deezer und Genius. Bisher hielt das Unternehmen die Zusammensetzung seiner Trainingsdatensätze sowie die Methoden zur Datengewinnung geheim. Diese Enthüllungen werfen erneut grundlegende Fragen zur Legalität und Transparenz beim Training generativer KI-Modelle mit geschü
KI-Programmierwerkzeug Grok Build übertrug gesamte Code-Repositories in die Cloud
Das KI-gestützte Programmierwerkzeug Grok Build hat ohne explizite Autorisierung vollständige Code-Repositories seiner Nutzer in einen Cloud-Speicher hochgeladen. Dabei wurden auch Dateien übertragen, die eigentlich von der Analyse ausgeschlossen werden sollten. Nach Bekanntwerden dieser Sicherheitslücke wurde die Funktion zur automatischen Datenübertragung deaktiviert. Der Vorfall wirft kritische Fragen hinsichtlich des Datenschutzes und der Sicherheit bei der Nutzung von KI-basierten Entwicklertools auf, die Zugr
Meta deaktiviert Instagram-Funktion zur Erstellung von KI-Deepfakes öffentlicher Konten
Nach erheblicher Kritik hat Meta eine kürzlich angekündigte Funktion für Instagram wieder eingestellt, die es Nutzern ermöglichte, KI-generierte Bilder auf Basis von Inhalten öffentlicher Konten zu erstellen. Das System erlaubte es, durch einfaches Markieren der Profile Bildmaterial zu erzeugen, ohne dass die betroffenen Kontoinhaber ihre Zustimmung dazu geben mussten. Aufgrund der Bedenken hinsichtlich der Nutzung privater Inhalte für KI-Modelle ohne explizite Erlaubnis wurde das Feature nun gestoppt.
So betreiben Sie einen Chatbot auf Ihrem eigenen Computer
Die Installation eines großen Sprachmodells auf dem eigenen Rechner ermöglicht die Nutzung eines praktischen digitalen Assistenten unter vollständiger Wahrung des Datenschutzes. Lokale KI-Infrastrukturen verhindern den Abfluss sensibler Informationen an externe Cloud-Dienste und bieten maximale Kontrolle über die verarbeiteten Daten. Durch den Betrieb auf lokaler Hardware entfallen zudem Abhängigkeiten von externen API-Verbindungen sowie fortlaufende Abonnementkosten.
Polizist missbraucht automatische Kennzeichenerfassung zur Verfolgung von Kollegen
Interne Ermittlungsakten offenbaren einen schwerwiegenden Missbrauch von automatischen Kennzeichenerfassungssystemen durch einen Polizeibeamten im US-Bundesstaat Georgia. Nach dem Ende einer Beziehung nutzte der Beamte die Technologie zur Standortverfolgung seiner ehemaligen Partnerin sowie einer befreundeten Person. Der Vorfall wirft erneut datenschutzrechtliche und sicherheitstechnische Bedenken hinsichtlich der behördlichen Überwachungsinfrastruktur auf.
Fluggesellschaft plant Datenverkauf an Google für KI-Training
Ehemalige Beschäftigte einer Fluggesellschaft äußern Bedenken bezüglich der Weitergabe interner Daten an Google für maschinelles Lernen. Im Fokus stehen dabei sensible personenbezogene und betriebliche Informationen, die ohne explizite Einwilligung für KI-Entwicklungszwecke genutzt werden könnten. Der Vorfall verdeutlicht wachsende datenschutzrechtliche und ethische Bedenken beim kommerziellen Handel mit Mitarbeiter- und Unternehmensdaten im Zuge von KI-Initiativen.
Lehrkräfte im Visier von KI-Deepfakes
Ein besorgniserregender Trend von KI-generierten, sexualisierten Inhalten betrifft zunehmend auch Lehrkräfte an Bildungseinrichtungen. Betroffene berichten von massiven Schwierigkeiten, Verantwortliche zur Rechenschaft zu ziehen und adäquate rechtliche oder institutionelle Unterstützung zu erhalten. Dieser Vorfall verdeutlicht die dringende Notwendigkeit wirksamer Schutzmechanismen und regulatorischer Maßnahmen gegen den Missbrauch generativer künstlicher Intelligenz. Die Vorfälle unterstreichen die gravierenden ge
Überwachungsfirma entwickelt mächtiges KI-Werkzeug für Polizeibehörden
Ein neuartiges, auf künstlicher Intelligenz basierendes Überwachungssystem für Polizeibehörden geht deutlich über die herkömmliche Erfassung von Kennzeichen hinaus. Durch eine detaillierte Rekonstruktion des Quellcodes wurden weitreichende Funktionen zur automatisierten Analyse und Verfolgung im öffentlichen Raum identifiziert. Diese Entwicklung vertieft bestehende Bedenken hinsichtlich des Datenschutzes und der Ausweitung digitaler Überwachungstechnologien im behördlichen Kontext.
Amazon nutzt Twitch-Inhalte für KI-Training
Streaming-Inhalte von Twitch-Erstellern werden standardmäßig für das Training von KI-Modellen verwendet, sofern Nutzer dem nicht aktiv widersprechen. Diese Praxis hat in der Community zu erheblichen Diskussionen über die automatische Datenverwendung und den Schutz geistigen Eigentums geführt. Betroffene Streamer müssen manuell optieren, um ihre produzierten Inhalte vom maschinellen Lernprozess auszuschließen. Das Vorgehen verdeutlicht die zunehmende Relevanz von Nutzerdaten für die interne Entwicklung von Trainings
So lässt sich Gemini in Gmail und Google Docs deaktivieren
Neue künstliche Intelligenz integriert sich zunehmend in Textverarbeitungsprogramme und E-Mail-Dienste. Für Anwender, die keine automatisierte Unterstützung bei der Erstellung von E-Mails und Dokumenten wünschen, existieren entsprechende Abschaltoptionen. Diese Anleitung beschreibt die notwendigen Schritte zur Deaktivierung der integrierten Assistenten in den jeweiligen Anwendungseinstellungen.
DNA-Datenerfassung durch US-Behörden ausgeweitet und wachsende Kritik an künstlicher Intelligenz
Die umstrittene Praxis staatlicher Behörden zur systematischen Erfassung genetischer Daten gerät zunehmend in den Fokus kritischer Analysen. Dabei werden auch biometrische und sensible Personendaten von Individuen ohne jeden strafrechtlichen Hintergrund unbegrenzt in zentralen Datenbanken gespeichert. Diese Entwicklung verstärkt die gesellschaftliche und technologische Debatte über den Datenschutz sowie die ethischen Grenzen automatisierter Überwachungssysteme. Kritiker fordern schärfere Regularien und Transparenz
Vandalismus an Überwachungskameras nach viralen Beiträgen
Ein bekannter Aktivist hat angekündigt, sich nicht mehr öffentlich zu Kennzeichenerfassungssystemen zu äußern, nachdem zwei in seinen Videoaufnahmen gezeigte Überwachungskameras beschädigt wurden. Die Vorfälle verdeutlichen die zunehmenden Spannungen und physischen Auseinandersetzungen im Zusammenhang mit automatisierter Kennzeichenerkennung im öffentlichen Raum. Solche automatisierten Überwachungssysteme stehen vermehrt im Fokus gesellschaftlicher Debatten über Datenschutz und Bürgerrechte.
Nvidias Open-Source-Allianz ignoriert OpenAI und Anthropic
In einer aktuellen Diskussion über offene versus geschlossene KI-Modelle stehen strategische Allianzen im Fokus der technologischen Entwicklung. Dabei wird beleuchtet, welche Akteure die politische Ausrichtung im Bereich der künstlichen Intelligenz auf Regierungsebene maßgeblich beeinflussen. Ein weiterer Schwerpunkt liegt auf technischen Sicherheitsmaßnahmen, um zu verhindern, dass vertrauliche Chatbot-Protokolle fälschlicherweise in öffentlich zugänglichen Suchmaschinenergebnissen auftauchen.
Hugging Face hat ein Problem mit Deepfake-Aktbildern
Untersuchungen an führenden Bildbearbeitungsmodellen auf einer gängigen Plattform für künstliche Intelligenz haben gezeigt, dass diese problemlos zur Erstellung expliziter Deepfakes missbraucht werden können. Die Analyse von rund tausend Anweisungen, sogenannten Prompts, verdeutlicht zudem das reale Nutzungsverhalten von Anwendern im Umgang mit dieser Software zur Erzeugung von Nacktdarstellungen. Die Ergebnisse werfen dringende Fragen zur Sicherheit und Moderation von Open-Source-Modellen im Bereich der generative
Private Claude-Chats in Google- und Bing-Suchergebnissen aufgetaucht
Private Unterhaltungen von Nutzern mit einem KI-Chatbot wurden versehentlich in den Suchergebnissen großer Suchmaschinen indexiert und öffentlich einsehbar. Der Vorfall verdeutlicht die technischen Schwierigkeiten dabei, Webcrawler zuverlässig daran zu hindern, vermeintlich geschützte Dialoge mit künstlicher Intelligenz im Internet zu verbreiten. Betreiber von KI-Diensten stehen vor der Herausforderung, den Datenschutz für Chat-Verläufe durch effektivere Blockierungsmechanismen zu gewährleisten.
Vorwürfe gegen chinesisches KI-Unternehmen und Sicherheitsbedenken bei KI-Modellen
Aktuelle Berichte beleuchten schwere Vorwürfe gegen ein chinesisches KI-Unternehmen, das angeblich Technologie von Anthropic kopiert haben soll. Zudem stehen Fragen zur Kontrolle und Einschränkung von Künstlicher Intelligenz im militärischen Bereich im Fokus. Diese Entwicklungen werfen ein Schlaglicht auf globale Sicherheitsfragen, den Schutz geistigen Eigentums und die Regulierung fortschrittlicher Sprachmodelle. Die Debatte verdeutlicht die wachsenden Spannungen und Risiken im internationalen Technologiewettlauf.
Ein getarntes Hacking-Werkzeug zielt auf die blinde Flecken von KI-Infrastrukturen ab
Eine neuartige Schadsoftware dringt tief in KI-Entwicklungssysteme ein, um sensible Daten sowie Zugangsdaten abzugreifen. Zusätzlich verfügt das Werkzeug über eine manipulative Funktion, die Dateien unwiederbringlich zerstören und berechtigten Nutzern den Zugriff verwehren kann. Solche Angriffe verdeutlichen die wachsende Bedrohung gezielter Cyberkriminalität gegen automatisierte Programmierumgebungen und Infrastrukturen für künstliche Intelligenz.
Datenschutzrisiken bei Zyklus-Trackern
Zyklus-Tracking-Apps stehen zunehmend in der Kritik, da sie sensible Gesundheitsdaten ihrer Nutzerinnen potenziell an Dritte weitergeben oder für Werbezwecke auswerten. Neben diesen Datenschutzbedenken im Bereich der Gesundheitsanwendungen gibt es Berichte über staatlich gesteuerte Cyberangriffe auf kritische Infrastrukturen sowie Sicherheitslücken in Behördennetzwerken. Zudem wurde bekannt, dass ein KI-gestütztes Musikgenerierungstool Daten in einer Weise verarbeitet hat, die Fragen zur Transparenz und zum Umgang
San Francisco fordert Apple und Google zur Entfernung von KI-Nudify-Apps auf
Die Stadtverwaltung von San Francisco hat Apple und Google offiziell dazu aufgefordert, 13 Anwendungen aus ihren App-Stores zu entfernen, die mittels KI-Technologie Gesichter in pornografische Bilder montieren. Diese sogenannten Nudify-Apps werden überwiegend genutzt, um Frauen und Mädchen gezielt zu diffamieren und sexuell zu belästigen. Die Stadt argumentiert, dass die Tech-Konzerne durch die Bereitstellung dieser Software aktiv von der Verbreitung solcher missbräuchlichen Inhalte profitieren und fordert ein sofo
KI-Funktionen sollten standardmäßig auf Opt-in basieren
Die zunehmende Praxis, generative KI-Funktionen in Softwareanwendungen automatisch zu aktivieren und Nutzer zur manuellen Deaktivierung zu zwingen, steht in der Kritik. Es wird gefordert, dass sensible KI-Features künftig standardmäßig deaktiviert sein sollten. Ein aktives Opt-in-Verfahren würde die Kontrolle der Anwender über ihre Daten und die Nutzung der Technologie stärken. Diese Forderung zielt auf einen verantwortungsvolleren Umgang mit KI-Integrationen ab, bei dem die informierte Zustimmung der Nutzer im Vor
Meta schränkt heimliche Aufnahmen mit KI-Brillen ein
Der Technologiekonzern Meta hat ein technisches Update für seine KI-gestützten Brillen implementiert, um unautorisierte und heimliche Aufnahmen zu unterbinden. Bislang war es möglich, das integrierte Sicherheitslicht durch physische Abdeckung zu umgehen, ohne dass die Aufnahme unterbrochen wurde. Nun führt das System eine automatische Blockierung der Aufnahmefunktion durch, sobald die LED-Signalisierung manipuliert wird. Diese Maßnahme adressiert zentrale Datenschutzbedenken und erhöht die Transparenz bei der Nutzu
Klage wirft xAI Einsatz von Darstellung missbräuchlicher Inhalte zum Training von Grok vor
Eine juristische Auseinandersetzung bringt schwere Vorwürfe gegen das KI-Unternehmen xAI vor. Demnach sollen beim Training der Sprachmodelle der Grok-Reihe sowohl reale als auch künstlich generierte Darstellungen von Kindesmissbrauch verwendet worden sein. Diese Anschuldigungen werfen grundsätzliche Fragen zur Datensouveränität, zur Filterung von Trainingsdaten und zu den Sicherheitsstandards bei der Entwicklung großer Sprachmodelle auf. Die Entstehung solcher Datensätze und deren unzureichende Bereinigung stellen
Steigende Nachfrage nach Meta-KI-Brillen verstärkt Datenschutzbedenken bei Aufnahmen
Angesichts der wachsenden Verbreitung von smarten Brillen mit integrierten KI-Funktionen rücken potenzielle Verletzungen der Privatsphäre stärker in den Fokus. Als Reaktion auf diese Entwicklung kommen vermehrt spezialisierte mobile Anwendungen zum Einsatz, die das Tragen solcher Aufnahmegeräte in der Umgebung erkennen sollen. Dies verdeutlicht den zunehmenden Bedarf an technischen Schutzmaßnahmen und Detektionstools im öffentlichen Raum, um unbemerkte Video- und Audioaufzeichnungen zu verhindern.
Flugbegleiter besorgt über Google-Datenkauf von Spirit-Mitarbeitern
Im Zuge der Insolvenzabwicklung einer Fluggesellschaft wurden Vorwürfe laut, wonach umfangreiche Mitarbeiterdaten in großem Umfang an einen Technologieriesen veräußert wurden. Betroffene Angestellte äußern erhebliche datenschutzrechtliche Bedenken hinsichtlich der Verwendung ihrer persönlichen und beschäftigungsbezogenen Informationen. Der Vorfall wirft kritische Fragen zum Umgang mit sensiblen Unternehmens- und Belegschaftsdaten bei Firmenpleiten und deren Übernahme durch digitale Konzerne auf.
Das neue Wasserzeichen von Claude ist unsichtbar – vorerst
Es wurde ein neues Verfahren zur Kennzeichnung von Inhalten vorgestellt, die durch das Sprachmodell Claude verarbeitet wurden. Diese Markierung erfasst sämtliche Dokumente, selbst wenn diese ursprünglich von Menschen verfasst und lediglich durch das System redaktionell bearbeitet wurden. Das unsichtbare Wasserzeichen soll die Herkunft von Texten transparent machen, wirft jedoch Fragen hinsichtlich der granularen Unterscheidung zwischen menschlicher und maschineller Urheberschaft auf. Die Technologie befindet sich i
Eine neue Schriftart als Schutzschild gegen das automatisierte Auslesen von Webinhalten durch KI
Mit ShieldFont wurde eine neuartige Methode entwickelt, um das unerwünschte Abgreifen von Trainingsdaten durch künstliche Intelligenzen zu erschweren. Die speziell präparierte Schriftart sorgt dafür, dass Webseiten für menschliche Betrachter lesbar bleiben, während automatisierte Scraping-Prozesse mit verfälschten oder unbrauchbaren Informationen gefüttert werden. Dieser Ansatz zielt darauf ab, die Integrität von Web-Inhalten zu wahren und gleichzeitig die Urheberrechte sowie den Datenschutz gegenüber KI-Modelltrai
Twitch-Inhalte trainieren seit Jahren Amazons Künstliche Intelligenz, Nutzer erhalten nun Widerspruchsrecht
Die Streaming-Plattform räumt ein, dass nutzergenerierte Inhalte in vergangene und zukünftige Modelle zur generativen Künstlichen Intelligenz einfließen. Betroffene Urheber und Streamer können der Verwendung ihrer Daten nun über eine entsprechende Option in den Kontoeinstellungen widersprechen. Dieser Schritt erfolgt vor dem Hintergrund wachsender datenschutzrechtlicher Bedenken bezüglich des ungefragten Trainings von KI-Systemen mit öffentlich zugänglichen Web-Inhalten. Damit reagiert das Unternehmen auf Forderung
Rechtsstreit um Urheberrechte und automatisierte Datenerfassung verschärft sich
Ein Online-Netzwerk treibt rechtliche Schritte voran und wirft einem Entwickler von Suchtechnologien vor, mit automatisierten Datensammlern zu kooperieren. Der Konflikt dreht sich um die unautorisierte Verwendung von Inhalten für Künstliche Intelligenz und die Art und Weise, wie Suchmaschinen auf Webdaten zugreifen. Dieser Fall unterstreicht die wachsende juristische Auseinandersetzung zwischen Plattformbetreibern und Anbietern generativer KI bezüglich des Datenschutzes und des Urheberrechts.
Das SynthID-Wasserzeichen von Google ist schwer zu knacken, löst aber nicht das Problem der KI-Desinformation
Die Kennzeichnung von KI-generierten Inhalten durch digitale Wasserzeichen bietet einen hohen technischen Schutz und erweist sich als robust gegenüber Manipulationen. Dennoch reicht diese Technologie allein nicht aus, um die Verbreitung von Falschinformationen im Internet wirksam zu verhindern. Für die Verifizierung von Echtheit und Glaubwürdigkeit digitaler Medien sind daher weiterführende und umfassendere Lösungsansätze erforderlich.
San Francisco fordert Apple und Google zur Entfernung von Nudify-Apps auf
Die Stadtverwaltung von San Francisco hat Apple und Google dazu aufgefordert, Anwendungen aus ihren App-Stores zu entfernen, die mithilfe von künstlicher Intelligenz Kleidung von Personen auf Fotos digital entfernen. Diese sogenannten Nudify-Apps ermöglichen die Erstellung nicht einvernehmlicher pornografischer Inhalte. Offiziellen Schätzungen zufolge haben die Betreiber der App-Stores durch Gebühren im Zusammenhang mit diesen Anwendungen bereits Millionenbeträge eingenommen. Die Forderung zielt darauf ab, den Miss
Apple verklagt OpenAI wegen mutmaßlichem Diebstahl von Geschäftsgeheimnissen durch ehemaligen Ingenieur
Ein ehemaliger Ingenieur steht im Verdacht, eine Sicherheitslücke ausgenutzt zu haben, um vertrauliche Informationen zu entwenden. Apple hat daraufhin rechtliche Schritte eingeleitet, da OpenAI beschuldigt wird, mit ehemaligen Mitarbeitern des Unternehmens konspiriert zu haben, um geschützte Geschäftsgeheimnisse zu erlangen. Der Vorfall wirft grundlegende Fragen zum Schutz geistigen Eigentums im Kontext der Entwicklung von KI-Modellen auf und unterstreicht die zunehmenden Spannungen zwischen etablierten Technologie
Einführung der indischen regionsübergreifenden Inferenz für OpenAI-Modelle auf Amazon Bedrock
Amazon Bedrock unterstützt ab sofort die neuesten Sprachmodelle für Kunden in Indien durch eine regionsübergreifende Inferenzarchitektur. Diese Bereitstellungsoption ermöglicht die Skalierung von Workloads bei strenger E
KI-Startup Instinct sichert sich 350 Millionen US-Dollar bei einer Bewertung von 2,5 Milliarden
Das erst ein Jahr alte KI-Unternehmen Instinct hat in einer neuen Finanzierungsrunde 350 Millionen US-Dollar eingesammelt und wird nun mit 2,5 Milliarden US-Dollar bewertet. Trotz des enormen wirtschaftlichen Erfolgs und der rasch gewachsenen medialen Aufmerksamkeit steht das Startup aufgrund datenschutzrechtlicher Bedenken in der Kritik. Die frischen Mittel sollen vor allem in den weiteren Ausbau der Technologie und die Skalierung der Plattform fließen.
Leistungsstarker KI-Assistent wirft Datenschutz- und Sicherheitsbedenken auf
Ein neuer KI-Assistent sorgt durch seine weitreichenden Systemzugriffe und Handlungsbefugnisse im Auftrag der Anwender für Diskussionen. Während die technischen Fähigkeiten in frühen Tests positiv bewertet werden, kritisieren Experten die damit verbundenen Datenschutzrisiken und die unklaren Bedingungen. Insbesondere die Autonomie der Software bei Aktionen im Namen des Nutzers erfordert eine genaue Abwägung zwischen Nutzen und potenziellen Sicherheitslücken.
Überwachungsunternehmen fordert Kompromiss angesichts wachsender Kritik
Angesichts massiver öffentlicher Bedenken bezüglich möglicher Missbräuche von Überwachungstechnologien plädiert die Unternehmensführung für einen konstruktiven Dialog und Kompromisse. Die Diskussion verdeutlicht die anhaltenden gesellschaftlichen und regulatorischen Spannungen beim Einsatz automatisierter Datenerfassung im öffentlichen Raum. Dabei stehen insbesondere Datenschutzfragen und die Verhältnismäßigkeit automatisierter Überwachungssysteme im Fokus der aktuellen Debatte.
OpenAI reagiert mit neuen Datenschutzfunktionen auf den Wettbewerb
Im Zuge des wachsenden Wettbewerbs im Bereich der Unternehmenskunden positionieren sich führende Anbieter von künstlicher Intelligenz neu mit erweiterten Schutzmechanismen für sensible Daten. Die Anpassungen zielen darauf ab, den strengen Anforderungen von Unternehmen an die Datensicherheit und Vertraulichkeit bei der Nutzung von KI-Modellen gerecht zu werden. Damit verschärft sich die Konkurrenzsituation bezüglich datenschutzkonformer Infrastrukturen für Geschäftskunden.
Warum Apples kamerabewehrte AirPods Datenschutzbedenken umgehen könnten
Berichten zufolge plant Apple die Integration von Kameras in künftige AirPods, um visuelle Kontextdaten für tragbare KI-Systeme zu erfassen. Entgegen weitverbreiteten Befürchtungen bezüglich Verletzungen der Privatsphäre soll das System offenbar so konzipiert sein, dass die direkte Aufzeichnung von Fotos und Videos für den Endnutzer unterbunden wird. Stattdessen dienen die Sensoren primär der umgebungsspezifischen Wahrnehmung zur Unterstützung integrierter Künstlicher Intelligenz. Damit adressiert der Technologieko
Ärger unter Anwendern über neue Wasserzeichen-Technologie zur Erkennung von KI-Nutzung
Der Einsatz eines neuen Wasserzeichen-Systems durch einen führenden Anbieter von künstlicher Intelligenz sorgt in den sozialen Medien für heftige Kritik. Betroffene Nutzer bemängeln insbesondere, dass die Technologie den Nachweis der Verwendung von KI-Assistenten am Arbeitsplatz oder in akademischen Einrichtungen ermöglicht. Damit geraten Anwender unter Druck, die generative Modelle bisher unbemerkt für berufliche oder schulische Aufgaben einsetzten.
Amazon nutzt Inhalte von Twitch-Streamern standardmäßig für das KI-Training
Amazon plant, die Videoinhalte von Twitch-Streamern künftig automatisch und standardmäßig zum Training eigener künstlicher Intelligenzen zu verwenden. Betroffene Urheber müssen aktiv widersprechen, um ihre Daten vom Trainingsprozess auszuschließen. Unternehmensvertreterräte begründeten dieses Vorgehen offen damit, dass bei einem rein freiwilligen opt-in-Verfahren andernfalls keine ausreichende Datenbasis zustande käme. Diese Praxis wirft erneut datenschutzrechtliche Fragen im Umgang mit urheberrechtlich geschützten
Das Manifest zur künstlichen Intelligenz von Meta löst Kritik aus
Das Unternehmen Meta hat ein umfassendes Strategiepapier zur Weiterentwicklung persönlicher Künstlicher Intelligenz veröffentlicht. Im Zentrum stehen dabei hochentwickelte Systeme zur persönlichen Superintelligenz, die tief in den Alltag der Anwender integriert werden sollen. Diese Vision wirft jedoch grundlegende Fragen zur Akzeptanz und den gesellschaftlichen Auswirkungen solcher Technologien auf. Kritiker und Beobachter diskutieren intensiv über die weitreichenden Konsequenzen dieser technologischen Ausrichtung
OpenAI kritisiert Apples Sicherheitsvorgaben im Rechtsstreit um Geschäftsgeheimnisse
Im laufenden Rechtsstreit um vermeintlich entwendete Geschäftsgeheimnisse argumentiert die Verteidigung von OpenAI, dass Apple selbst unzureichende Sicherheits- und Offboarding-Prozesse praktiziert habe. Konkret wird angeführt, dass ein ehemaliger Manager nach seinem Ausscheiden weiterhin Zugriff auf das iCloud-Konto eines früheren Ingenieurs erhalten hatte. Diese internen Praktiken schwächen aus Sicht der Verteidigung die Glaubwürdigkeit der Schutzmaßnahmen für die betroffenen sensiblen Daten massiv.
Interne Ermittlungen wegen mutmaßlichen Datentafts im Zusammenhang mit OpenAI ausgeweitet
Einem aktuellen Gerichtsdokument zufolge haben sich die internen Untersuchungen zu möglichem Geheimnisverrat bei einem großen Technologiekonzern ausgeweitet. Es besteht der Verdacht, dass weitere ehemalige Mitarbeiter vertrauliche Informationen entwendet und unberechtigt an das auf Künstliche Intelligenz spezialisierte Unternehmen OpenAI übermittelt haben. Dieser Vorfall wirft neue Fragen zum Schutz von Geschäftsgeheimnissen und geistigem Eigentum im stark umkämpften KI-Sektor auf.
Cyera übernimmt Oasis Security für eine Milliarde Dollar zur Absicherung von KI-Agenten
Das auf Datensicherheit spezialisierte Unternehmen Cyera plant die Übernahme von Oasis Security für eine Milliarde US-Dollar. Mit diesem strategischen Schritt will das Unternehmen seine Sicherheitslösungen angesichts der rasant wachsenden Verbreitung autonom agierender Systeme und digitaler Assistenten ausbauen. Es handelt sich bereits um die dritte Firmenübernahme innerhalb des laufenden Jahres, um die Marktposition im Bereich des Schutzmanagements zu stärken.
Geteilte Claude-Chats und Artifacts könnten in Suchmaschinen gelandet sein
Ein technisches Problem im Zusammenhang mit der Funktion zum Teilen von Unterhaltungen bei einem bekannten KI-Assistenten hat dazu geführt, dass geteilte Chats und erstellte Artifacts öffentlich über Suchmaschinen auffindbar wurden. Betroffen sind offenbar Inhalte, für die Nutzer spezifische Links generiert hatten, um diese Dritten zugänglich zu machen. Die ungewollte Indexierung wirft Fragen zum Datenschutz und zur Handhabung von Freigabelinks bei generativen Sprachmodellen auf. Nutzer sollten prüfen, welche Konve
Yope sammelt 12,3 Millionen US-Dollar für privates soziales Netzwerk ein
Das Startup Yope hat in einer Seed-Finanzierungsrunde 12,3 Millionen US-Dollar eingesammelt, um eine alternative Plattform für private Gruppen von Freunden und Familien zu entwickeln. Statt auf klassische Algorithmen und öffentliche Ersteller setzt das Netzwerk auf geschlossene Gemeinschaften, die durch Messaging, Foto-Sharing und integrierte Funktionen der künstlichen Intelligenz gestärkt werden sollen. Ziel der Anwendung ist es, reale Beziehungen zu fördern, anstatt die Nutzer durch personalisierte Feeds länger a
Der Zoom-Hack, der besagt: Zeichne mich nicht auf
Die zunehmende Praxis, nahezu jede berufliche Besprechung, informelle Unterhaltung oder sogar private Verabredungen mittels KI-Tools zu transkribieren und zusammenzufassen, wirft kritische Fragen zur Privatsphäre und zum tatsächlichen Nutzen auf. Während die Technologie die Dokumentation erleichtert, stellt sich die grundlegende Frage, wer diese enorme Menge an generierten Inhalten überhaupt noch sichtet und verarbeitet. Die ständige Verfügbarkeit automatisierter Protokolle könnte langfristig zu einer Entwertung de
Patreon geht gegen KI-Scraping vor und blockiert Bots aktiv
Die Plattform Patreon verstärkt ihre Schutzmaßnahmen gegen das unautorisierte Auslesen von Inhalten durch KI-Bots. Anstatt sich wie bisher primär auf die robots.txt-Datei zu verlassen, setzt das Unternehmen nun auf eine aktive Blockierung durch Cloudflare. Damit soll verhindert werden, dass KI-Modelle ohne die Zustimmung der Urheber mit den auf der Plattform veröffentlichten Inhalten trainiert werden. Dieser Schritt markiert eine strategische Abkehr von passiven Richtlinien hin zu einer proaktiven technischen Abweh
KI-Musikgenerator Suno soll YouTube-Daten für Training genutzt haben
Ein Sicherheitsvorfall hat Details über die Trainingsmethoden des KI-Musikgenerators Suno offengelegt. Durch den unbefugten Zugriff auf interne Systeme wurde bekannt, dass das Unternehmen umfangreiche Audiodaten von der Plattform YouTube für das Training seiner Modelle extrahiert hat. Diese Enthüllungen werfen erneut kritische Fragen zur Herkunft der Trainingsdaten und zur Einhaltung von Urheberrechten bei generativen KI-Modellen auf, die auf großen Mengen urheberrechtlich geschützter Inhalte basieren.
Die brisantesten Vorwürfe im Rechtsstreit um Geschäftsgeheimnisse zwischen Apple und OpenAI
Ein aktueller Rechtsstreit beleuchtet schwerwiegende Vorwürfe bezüglich des Umgangs mit geistigem Eigentum. Die Klageschrift enthält Anschuldigungen, wonach Mitarbeiter sich scherzhaft über unbefugte Zugriffe auf interne Systeme geäußert haben sollen. Zudem wird behauptet, dass Bewerbern bei Vorstellungsgesprächen nahegelegt wurde, firmeneigene Hardware mitzubringen. Diese Vorwürfe werfen kritische Fragen zur Sicherheit von Geschäftsgeheimnissen und zu den Einstellungspraktiken im Bereich der Künstlichen Intelligen
Meta entfernt umstrittene KI-Funktion auf Instagram nach Kritik
Nach massiver öffentlicher Kritik hat das Unternehmen eine neue KI-Funktion auf Instagram wieder deaktiviert. Das Werkzeug sollte Nutzern ermöglichen, öffentliche Inhalte für KI-Referenzierungen freizugeben oder zu kontrollieren, stieß jedoch auf breite Ablehnung. Aufgrund der negativen Rückmeldungen wurde die Funktion nun vollständig entfernt, da sie die Erwartungen der Anwender nicht erfüllte und als unpassend wahrgenommen wurde. Das Unternehmen reagiert damit direkt auf die Bedenken hinsichtlich der Kontrolle üb
Aufgewachsen mit künstlicher Intelligenz
Die zunehmende Durchdringung des Alltags durch künstliche Intelligenz verändert grundlegend, wie die digitale Identität von Kindern von ihren Eltern im Netz geprägt wird. Bereits ab der Geburt werden heute oft umfangreic
Kinderschutz-Apps benötigen möglicherweise eine grundlegende Neugestaltung
Bestehende Überwachungs- und Kinderschutz-Anwendungen für digitale Endgeräte greifen oft zu kurz und müssen grundlegend überarbeitet werden. Aktuelle Ansätze vernachlässigen häufig die Balance zwischen notwendiger Sicherheit Minderjähriger und deren digitaler Privatsphäre sowie Autonomie. Experten fordern daher intelligentere, kontextbezogene Funktionen, die über starre Einschränkungen hinausgehen und das tatsächliche Online-Verhalten Heranwachsender differenzierter bewerten.
Was den Verteidigern von Flock entgeht
Das Unternehmen Flock, bekannt für seine umfangreicheinfrastruktur aus automatischen Kennzeichenlesern in den Vereinigten Staaten, hat kürzlich Plattformänderungen angekündigt. Diese Aktualisierungen zielen darauf ab, den Missbrauch der Technologie einzuschränken und datenschutzrechtliche Bedenken zu adressieren. Dennoch wird in der Fachwelt weiterhin kontrovers diskutiert, ob diese Maßnahmen ausreichen, um die massiven Überwachungsrisiken für die Bevölkerung signifikant zu mindern.
The Download: Neue Regeln für Flock, die Zukunft des Klonens und kindliche Zellen
Ein führender Anbieter von Polizeitechnologie reagiert auf wachsenden Druck im Bereich der Überwachung und schränkt den Zugriff von Beamten auf das landesweite Netzwerk von automatischen Kennzeichenlesern ein. Diese organisatorische Anpassung unterstreicht die zunehmenden datenschutzrechtlichen und regulatorischen Herausforderungen im Umgang mit massiven Überwachungsinfrastrukturen. In der aktuellen technologischen Landschaft wächst die Sensibilität bezüglich des Schutzes personenbezogener Daten im öffentlichen Rau
Flock verschärft Zugriffsregeln für Kennzeichenscanner als Reaktion auf Kritik
Der Technologieanbieter Flock passt die Zugriffsberechtigungen für sein landesweites Netzwerk von automatischen Kennzeichenlesern an. Mit diesen Modifikationen soll auf anhaltende Bedenken hinsichtlich Massenüberwachung und potenziellem Missbrauch durch Polizeibehörden reagiert werden. Die Maßnahmen zielen darauf ab, verlorene Verträge zurückzugewinnen und die Datensicherheit sowie Transparenz bei polizeilichen Ermittlungen zu erhöhen.
Mozilla integriert Werbeblocker in Firefox für iOS
Im Rahmen experimenteller Funktionen wurde ein neuer Werbeblocker für die iOS-Version des Browsers Firefox implementiert. Diese Entwicklung zielt darauf ab, bestimmte Werbeinhalte zu filtern und somit das Nutzererlebnis
Großbritannien erwägt strengere Vorgaben für Überwachungssoftware am Arbeitsplatz
Die britische Regierung prüft neue Regulierungen für den Einsatz digitaler Arbeitsplatzüberwachung, darunter Produktivitätsbewertungen durch künstliche Intelligenz, Tastatureingabeprotokolle und biometrische Verfahren. A
Open-Source-Projekt täuscht KI-Webcrawler mit manipulierten Schriften
Ein neues Open-Source-Projekt namens ShieldFont bietet Schutz für urheberrechtlich geschützte Texte im Web. Durch die Verwendung speziell modifizierter Schriftarten werden automatisierte Datensammler und KI-Crawler getäu
Wenn Machine Unlearning auf Retrieval-Augmented Generation (RAG) trifft: Geheimnisse bewahren oder Wissen vergessen?
Große Sprachmodelle speichern während des Trainings häufig sensible oder schädliche Informationen, was ethische und rechtliche Herausforderungen mit sich bringt. Ein neuer Ansatz nutzt nun die Retrieval-Augmented Generation (RAG), um das Vergessen von Inhalten zu simulieren, ohne das Modell selbst direkt zu verändern. Durch die gezielte Anpassung der externen Wissensbasis können Informationen effektiv entfernt werden, was besonders bei geschlossenen Modellen vorteilhaft ist. Das Verfahren zeichnet sich durch gering
Datenschutzrisiken durch Tokenizer-Design bei föderiertem Lernen in der Radiologie
Föderiertes Lernen ermöglicht das Training von KI-Modellen auf klinischen Texten, ohne Rohdaten zu teilen. Dennoch können sensible Informationen durch Gradienteninversion aus Modell-Updates rekonstruiert werden. Eine Untersuchung zeigt, dass verschiedene Tokenizer-Architekturen wie GPT-2, RadBERT und LLaMA-2 das Ausmaß dieser Datenlecks beeinflussen. Selbst bei größeren Batch-Größen bleibt eine signifikante Wiederherstellung von radiologischen Befunden möglich. Die Ergebnisse unterstreichen, dass das Tokenizer-Desi