Inferenzangriffe

Inferenzangriffe sind Angriffe, bei denen ein Angreifer aus scheinbar harmlosen Daten oder aus den Ausgaben eines Systems Rückschlüsse auf sensible Merkmale oder die Zugehörigkeit einzelner Datensätze zieht. Ziel ist es, Informationen abzuleiten, die nicht direkt geteilt wurden, etwa ob eine Person in einem sensiblen Datensatz enthalten ist oder welche Attribute eine Person besitzt.

Typische Angriffsquellen sind Abfrageergebnisse aus einer Datenbank, statistische Veröffentlichungen oder Vorhersagen und Wahrscheinlichkeiten, die von maschinellen Lernmodellen geliefert werden. Angreifer kann extern oder ein interner Akteur sein, der auf Teilinformationen, Vorwissen über die Verteilung der Daten oder auf das Modell selbst zugreifen kann (API-Zugriff, Modell-Ausgaben, Parameterwerte).

Zu den wichtigsten Arten gehören Membership Inference, bei der der Angreifer bestimmen will, ob ein konkreter Datensatzpunkt im Trainingsset war; Attribute Inference, bei der aus bekannten Merkmalen eines Datensatzpunkts auf unbekannte Merkmale geschlossen wird; Model Inversion, bei dem versucht wird, Eingaben oder Merkmale aus dem Modell oder seinen Ausgaben zu rekonstruieren; und Linkage Attacks, bei denen man Datensätze verknüpft, um Personen zu identifizieren.

Schutzmaßnahmen umfassen Datenminimierung und Anonymisierung, den Einsatz von Differential Privacy beim Training oder bei Ausgaben, Zugangsbeschränkungen, Model-Auditing, Rauschhinzufügung, Regularisierung und den Einsatz sicherer Rechentechniken wie Privacy-Preserving Computation (z. B. Multi-Party Computation).

Die Relevanz von Inferenzangriffe steigt bei der Veröffentlichung von Datensätzen, beim Bereitstellen von maschinellem Lernen als Dienst und bei statistischen Veröffentlichungen. Rechts- und regulatorische Anforderungen zielen darauf ab, personenbezogene Daten angemessen zu schützen und Risiken durch Privatsphäreverletzungen zu minimieren.