Art. 22 DSGVO gibt Betroffenen das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Erlaubt ist eine solche Entscheidung nur, wenn sie für einen Vertrag erforderlich ist, ein Gesetz sie zulässt oder eine ausdrückliche Einwilligung vorliegt. Dann müssen Sie ein Eingreifen durch einen Menschen, eine Stellungnahme und eine Anfechtung ermöglichen und über die Logik informieren.
Profiling und automatisierte Entscheidung sind zweierlei
Die beiden Begriffe werden oft in einem Atemzug genannt, meinen aber Unterschiedliches. Profiling ist nach Art. 4 Nr. 4 DSGVO jede automatisierte Auswertung personenbezogener Daten, um persönliche Aspekte zu bewerten oder vorherzusagen, etwa Arbeitsleistung, wirtschaftliche Lage, Interessen, Zuverlässigkeit oder Aufenthaltsort. Eine ausführliche Begriffserklärung finden Sie im Glossar unter Profiling.
Eine automatisierte Einzelentscheidung liegt vor, wenn am Ende ein Ergebnis steht, das ohne inhaltliche Prüfung durch einen Menschen gegenüber einer Person wirkt. Profiling kann die Grundlage dafür sein, muss es aber nicht. Umgekehrt ist nicht jedes Profiling eine Entscheidung im Sinne von Art. 22.
- Ein Newsletter-Tool bildet Interessensegmente: Profiling, aber meist keine erhebliche Entscheidung.
- Ein Shop lehnt Kauf auf Rechnung automatisch ab: automatisierte Entscheidung, gestützt auf ein Profil.
- Eine Software schlägt Bewerbende vor, eine Personalerin wählt aus: Profiling mit menschlicher Entscheidung.
Die drei Merkmale von Art. 22 Abs. 1
Das besondere Schutzregime greift nur, wenn alle drei Voraussetzungen zusammenkommen. Die Prüfung lohnt sich für jedes System, das Personen bewertet.
| Merkmal | Prüffrage | Typische Stolperstelle |
|---|---|---|
| Entscheidung | Steht am Ende ein Ergebnis, das für die Person Folgen hat? | Auch Scorewerte, die faktisch den Ausschlag geben, können darunter fallen. |
| ausschließlich automatisiert | Prüft ein Mensch mit Befugnis und Sachkenntnis das Ergebnis inhaltlich? | Ein bloßes Abnicken ohne Prüfmöglichkeit zählt nicht als menschliche Entscheidung. |
| rechtliche Wirkung oder ähnlich erhebliche Beeinträchtigung | Ändert sich die Rechtsposition oder wird die Person spürbar benachteiligt? | Absage einer Bewerbung, Vertragsablehnung, schlechtere Konditionen. |
Der Knackpunkt in der Praxis ist fast immer das zweite Merkmal. Wenn Mitarbeitende eine Empfehlung der Software nur übernehmen, weil sie weder Zeit noch Einblick haben, ist die Entscheidung trotz Unterschrift im Kern automatisiert.
Wann eine vollautomatische Entscheidung zulässig ist
Art. 22 Abs. 2 DSGVO nennt drei Ausnahmen. Nur wenn eine davon greift, darf die Maschine allein entscheiden:
- Vertrag: Die Entscheidung ist für Abschluss oder Erfüllung eines Vertrags mit der Person erforderlich, etwa die automatisierte Bonitätsprüfung vor dem Rechnungskauf bei hohem Bestellaufkommen.
- Rechtsvorschrift: Ein Gesetz der EU oder eines Mitgliedstaats erlaubt sie ausdrücklich und sieht Schutzmaßnahmen vor.
- Ausdrückliche Einwilligung: Die Person hat klar und gesondert zugestimmt. Die Anforderungen sind hoch, siehe Einwilligung nach DSGVO.
In den Fällen 1 und 3 verlangt Art. 22 Abs. 3 angemessene Schutzmaßnahmen. Mindestens muss die Person verlangen können, dass ein Mensch eingreift, sie ihren Standpunkt darlegen kann und die Entscheidung anfechten darf. Für Gesundheitsdaten, religiöse Überzeugungen und andere besondere Kategorien personenbezogener Daten gelten nach Abs. 4 noch engere Grenzen.
Unsicher, was davon für Ihr Unternehmen gilt? Ich schätze Ihre Situation im kostenlosen Erstgespräch ein.
Erstgespräch anfragenTypische Einsatzfelder im Mittelstand
Bewerbermanagement
Viele Recruiting-Plattformen bieten automatische Vorauswahl, Ranking oder Knock-out-Fragen. Wird eine Bewerbung allein deshalb abgelehnt, weil ein Feld falsch beantwortet ist, liegt eine erhebliche Entscheidung nahe. Sicherer ist es, wenn eine Person jede Absage prüft. Mehr dazu auf der Seite zu Bewerberdaten.
Zahlarten und Bonität im Onlineshop
Zahlungsdienstleister bewerten Bestellungen in Sekunden. Der Shop sollte wissen, ob und wie der Dienstleister entscheidet, und in der Datenschutzerklärung darüber informieren.
Betrugserkennung und Sicherheitssperren
Automatische Kontosperren nach auffälligen Logins sind oft gerechtfertigt, brauchen aber einen schnellen Weg zur menschlichen Überprüfung.
KI-gestützte Auswertungen
Sprachmodelle, die Kundenanfragen priorisieren oder Mitarbeitende bewerten, rücken das Thema neu in den Blick. Hinweise zum Einsatz solcher Werkzeuge stehen unter KI-Tools im Unternehmen; die zusätzlichen Pflichten aus dem europäischen Regelwerk für KI beschreibt die Seite zur KI-Verordnung.
Transparenz: was Sie offenlegen müssen
Wer automatisiert entscheidet, muss das vorab sagen. Nach Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO gehören in die Datenschutzhinweise das Bestehen der automatisierten Entscheidung, aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen. Dieselben Angaben kann die Person später über ihr Auskunftsrecht nach Art. 15 Abs. 1 lit. h verlangen.
Aussagekräftig heißt nicht, den Quellcode offenzulegen. Es reicht in der Regel eine verständliche Beschreibung, welche Faktoren einfließen, wie sie grob gewichtet werden und was ein Ergebnis für die Person bedeutet. Wie Sie solche Hinweise strukturieren, erklärt die Seite zu den Informationspflichten nach Art. 13 und 14.
Unabhängig von Art. 22 können Betroffene einem Profiling, das auf berechtigtem Interesse beruht, nach Art. 21 widersprechen. Bei Direktwerbung ist dieser Widerspruch zwingend zu beachten.
Risikoprüfung und Dokumentation
Eine systematische und umfassende Bewertung persönlicher Aspekte, auf die sich Entscheidungen mit Rechtswirkung stützen, ist in Art. 35 Abs. 3 lit. a DSGVO ausdrücklich als Fall genannt, in dem eine Datenschutz-Folgenabschätzung erforderlich ist. Auch Scoring taucht auf der Liste der deutschen Aufsichtsbehörden auf. Wer solche Verfahren nutzt, sollte also früh prüfen, ob eine Folgenabschätzung fällig ist.
In jedem Fall gehört das Verfahren mit Zweck, Datenkategorien und Logik ins Verarbeitungsverzeichnis. Hilfreich ist zusätzlich eine kurze Beschreibung des menschlichen Prüfschritts: wer prüft, nach welchen Kriterien, und wie Abweichungen von der Systemempfehlung festgehalten werden.
Wie ich Sie bei algorithmischen Verfahren unterstütze
Als Ihr externer Datenschutzbeauftragter gehe ich mit Ihnen die Systeme durch, die Personen bewerten, vom Bewerbertool bis zur Zahlungsprüfung. Ich ordne ein, ob Art. 22 greift, welche Ausnahme trägt und wo ein echter menschlicher Prüfschritt fehlt. Bei Bedarf begleite ich die Folgenabschätzung, formuliere die Transparenzhinweise und prüfe die Verträge mit den Anbietern. Ziel ist ein Verfahren, das Ihnen Effizienz bringt und gegenüber Betroffenen und Aufsicht nachvollziehbar erklärt werden kann.
Prüfschritte für Systeme, die Personen bewerten
- Alle Tools erfassen, die Menschen automatisch einstufen, sortieren oder ablehnen
- Je Tool klären, ob am Ende eine Entscheidung mit spürbarer Wirkung steht
- Menschlichen Prüfschritt mit echter Befugnis und ausreichend Informationen festlegen
- Ausnahme nach Art. 22 Abs. 2 bestimmen, falls vollautomatisch entschieden wird
- Weg für Stellungnahme und Anfechtung schaffen und intern zuweisen
- Logik, Tragweite und Auswirkungen in den Datenschutzhinweisen beschreiben
- Bedarf einer Datenschutz-Folgenabschätzung prüfen und dokumentieren
- Verträge und Unterlagen der Anbieter auf Angaben zur Entscheidungslogik prüfen
Häufige Fragen
Reicht es, wenn ein Mitarbeiter die Entscheidung der Software freigibt?
Nur wenn diese Person das Ergebnis wirklich inhaltlich prüfen und abändern kann. Dafür braucht sie Zugriff auf die maßgeblichen Informationen, die Befugnis zur Abweichung und genug Zeit. Wird die Empfehlung regelmäßig ungeprüft übernommen, bewerten Aufsichtsbehörden das als ausschließlich automatisierte Entscheidung. Dokumentieren Sie deshalb, wie oft und aus welchen Gründen von der Systemempfehlung abgewichen wird.
Ist personalisierte Werbung eine automatisierte Entscheidung?
In der Regel nicht im Sinne von Art. 22, weil das Ausspielen einer Anzeige die Person meist nicht erheblich beeinträchtigt. Anders kann es aussehen, wenn das Profil gezielt Schwächen ausnutzt oder bestimmte Gruppen von Angeboten ausschließt. Unabhängig davon brauchen Sie für das zugrunde liegende Profiling eine Rechtsgrundlage, und Betroffene können der Nutzung für Werbung jederzeit widersprechen.
Müssen wir unseren Algorithmus offenlegen, wenn jemand Auskunft verlangt?
Sie müssen nachvollziehbar erklären, welche Kriterien in die Bewertung einfließen und welche Folgen das Ergebnis hat. Den Programmcode oder Geschäftsgeheimnisse müssen Sie nicht herausgeben. Die Erklärung sollte so gefasst sein, dass die betroffene Person verstehen kann, warum sie wie eingestuft wurde, und auf dieser Basis sinnvoll Stellung nehmen oder widersprechen kann.
Wir nutzen ein Bewerbertool mit KI-Ranking. Was sollten wir zuerst tun?
Klären Sie, ob das Tool Bewerbungen nur sortiert oder auch selbstständig aussortiert und Absagen auslöst. Stellen Sie sicher, dass jede Absage von einer Person geprüft wird, und informieren Sie in den Bewerberhinweisen über den Einsatz. Prüfen Sie außerdem den Vertrag mit dem Anbieter und, ob für das Verfahren eine Datenschutz-Folgenabschätzung nötig ist.
Fällt jede Bonitätsabfrage unter Art. 22?
Nein. Die Abfrage selbst ist zunächst eine Datenübermittlung. Art. 22 wird relevant, wenn der Scorewert die Entscheidung über den Vertrag faktisch vorgibt und niemand mehr inhaltlich prüft. Dann brauchen Sie eine der Ausnahmen, typischerweise die Erforderlichkeit für den Vertrag, und müssen ein menschliches Eingreifen auf Wunsch der Person ermöglichen.