Meta sieht sich erneut Beschwerden von Nutzerinnen und Nutzern ausgesetzt, die sagen, sie seien zu Unrecht unter schweren Vorwürfen gesperrt worden.
WRTV, ein Fernsehsender aus Indianapolis, berichtete über deaktivierte Meta-Konten und sprach mit Geschäftsinhabern aus Indiana, die angaben, zu Unrecht ausgesperrt worden zu sein. Eine von ihnen war Christina Hodgeson, Immobilienmaklerin und Restaurantbesitzerin. Sie sagte, Meta habe ihr sexuelle Ausbeutung von Kindern vorgeworfen und ihr Konto deaktiviert.
Beschwerden über deaktivierte Konten gibt es bei Meta seit Jahren.
TechCrunch, das über die jüngsten Sperrungen berichtet hat, schrieb in einer aktuellen Veröffentlichung, es habe einen konstanten Strom an Meldungen von betroffenen Nutzerinnen und Nutzern erhalten, die darum baten, ihre Fälle Meta vorzulegen.
Das Oversight Board von Meta, das unabhängige Gremium, das einzelne Entscheidungen von Meta überprüft und dem Unternehmen Empfehlungen zu Richtlinien gibt, sagte in seinem Pilotfall vom Juni 2026, dass Meta jedes Jahr Milliarden von Konten deaktiviert. Viele dieser Entfernungen sind legitim. Das Board kritisierte jedoch unklare Sperrregeln, knappe Erklärungen, schwache Einspruchswege und wenig Transparenz darüber, ob Automatisierung an der Entscheidung beteiligt war.
Nun berichtet die Financial Times, dass Meta deutlich mehr Prüfaufgaben an Large Language Models, kurz LLMs, überträgt.
Das Problem ist nicht nur, dass Meta Konten deaktiviert hat.
Es ist, dass Menschen beschuldigt, ausgesperrt und dann allein gelassen wurden, um jemanden zu finden, der erklären kann, was passiert ist.
Ein Unternehmen sollte KI keine schwerwiegenden Entscheidungen treffen lassen, die den Namen, das Einkommen oder den Zugang eines Menschen beschädigen können, solange es niemanden gibt, der die Entscheidung erklären, überprüfen und rückgängig machen kann, wenn sie falsch ist.
Die Gefahr stärkerer Automatisierung
Laut dem aktuellen Bericht der Financial Times hat Meta in diesem Jahr bereits rund 50 Prozent der menschlichen Prüfungsanfragen durch LLMs ersetzt.
Meta sagte, erste Tests seit März hätten gezeigt, dass LLMs bei der Durchsetzung gegen regelwidrige Inhalte im Durchschnitt 13 Prozent weniger Fehler machen als menschliche Prüfer.
„Ziel dieser Arbeit ist es, unsere Durchsetzung zu verbessern. Wir setzen diese fortgeschritteneren KI-Systeme ein, sobald wir sicher sind, dass sie durchgehend besser funktionieren als unsere derzeitigen Methoden zur Durchsetzung der Inhaltsregeln“, erklärte das Unternehmen.
Ich denke, Metas Problem ist nicht nur, dass Konten möglicherweise fälschlicherweise durch automatisierte Systeme deaktiviert wurden. Es ist, dass Menschen vor einer verschlossenen Tür standen, ohne klaren Grund, ohne menschliche Unterstützung und ohne sichtbaren Weg zurück.
Das betrifft nicht mehr nur soziale Medien. Es betrifft jedes Unternehmen, das menschliches Urteil möglicherweise durch automatisierte Entscheidungen ersetzt.
Stellen Sie sich vor, Sie besitzen eine Bank, und Ihr Betrugserkennungssystem friert morgen automatisch 3.000 Kundenkonten ein.
Wüssten Sie:
- Wer überprüft die Entscheidung?
- Welche Erklärung erhalten die Kunden?
- Wie lange dauern Einsprüche?
- Wann muss ein Mensch eingreifen?
Für Führungskräfte lautet die Antwort nicht: „Seid menschlicher.“ Die Antwort lautet: Definieren Sie die Momente, in denen menschliche Prüfung zwingend ist. Zum Beispiel bei dauerhaftem Kontoverlust, Auswirkungen auf die Existenzgrundlage, strafrechtlich aufgeladenen Vorwürfen, besonders schutzbedürftigen Personen, regulatorischem Risiko oder öffentlicher Eskalation.
Statt zu fragen: „Können wir diese Entscheidung automatisieren?“, denn natürlich können Sie das.
Fragen Sie: „Was passiert, wenn die automatisierte Entscheidung falsch, schwerwiegend und für die betroffene Person kaum anfechtbar ist?“
Das gilt branchenübergreifend. Banken frieren Konten ein. Versicherungen lehnen Ansprüche ab. HR-Systeme sortieren Bewerber aus. Gesundheitsplattformen blockieren Zugänge. Fintechs markieren Nutzer als Betrugsrisiko. Marktplätze entfernen Verkäufer.
Sie brauchen eine Übersicht schwerwiegender automatisierter Entscheidungen.
Listen Sie jede automatisierte Entscheidung im Unternehmen auf, die einen Kunden, eine Mitarbeiterin, einen Creator, einen Patienten, eine Verkäuferin oder einen Lieferanten ernsthaft treffen kann.
Für jede dieser Entscheidungen müssen vier Dinge vorhanden sein:
- Ein Grund in verständlicher Sprache.
- Ein sichtbarer Einspruchsweg.
- Ein menschlicher Prüfpunkt bei schwerwiegenden Folgen.
- Und eine nachvollziehbare Spur, die zeigt, warum die Entscheidung getroffen wurde.
Jede Krise ist ein Beweisstück.
Dieser Newsletter handelt von dem Managementsystem, das die Krise offengelegt hat.
Wenn Sie wöchentlich ein Crisis Briefing direkt in Ihr Postfach erhalten möchten, abonnieren Sie den Clifftide Times Newsletter.