Inhalte und Nutzer melden
Eine sichtbare „Melden“-Aktion an jedem UGC-Element und an Profilen, mit Grund und optionaler Notiz, gespeichert in deiner Datenbank und für dich einsehbar. Ein mailto:-Link ist ein schwacher Ersatz; bau das Formular.
Was die beiden Richtlinien verlangen
Die Richtlinie zu nutzergenerierten Inhalten (UGC) gilt für jede App, in der Nutzer Inhalte erstellen oder teilen, die andere Nutzer sehen können: Foren, Kommentare, Profile mit Fotos, Chats, Marktplätze, Bewertungen. Eine solche App muss festlegen, was nicht erlaubt ist (Nutzungsbedingungen oder Community-Regeln), Nutzern ermöglichen, Inhalte und andere Nutzer direkt in der App zu melden, sie Personen blockieren lassen, gemeldete Inhalte moderieren und Verstöße in angemessener Zeit entfernen sowie anstößige Inhalte aus den Bereichen der App fernhalten, die Minderjährige oder die breite Öffentlichkeit sehen. Apps, die mit UGC Geld verdienen oder hauptsächlich aus UGC bestehen, werden genauer geprüft.
Die Regeln zu KI-generierten Inhalten legen für Apps mit generativen Funktionen noch eine Ebene darauf: Die App darf keine verbotenen Inhalte erzeugen (sexuelle Inhalte mit Minderjährigen, Inhalte, die Betrug, Belästigung oder Täuschung ermöglichen), muss angemessene Schutzmaßnahmen auf Prompts und Ausgaben anwenden und Nutzern ermöglichen, anstößige KI-Ausgaben zu melden oder zu markieren, ohne die App zu verlassen. Reviewer testen das, indem sie dein Modell um genau die Dinge bitten, die die Richtlinie verbietet, und indem sie nach dem Melde-Button suchen.
Das minimale Moderations-Kit
Nutzer blockieren
Blockieren blendet die Inhalte der blockierten Person für die blockierende aus und verhindert Kontakt. Es muss sofort wirken, in der Oberfläche und in den Abfragen dahinter.
Regeln, denen Nutzer zustimmen
Community-Richtlinien oder Nutzungsbedingungen, die bei der Registrierung akzeptiert und vom Melde-Screen aus verlinkt werden, einschließlich dessen, was bei Verstößen passiert.
Eine Moderations-Warteschlange
Eine Admin-Seite, die Meldungen auflistet, mit der du Inhalte ausblenden oder löschen und Nutzer verwarnen oder sperren kannst und die festhält, was getan wurde. E-Mail- oder Push-Benachrichtigungen bei neuen Meldungen halten die Reaktionszeiten kurz.
Filter, wo sie sinnvoll sind
Keyword-Filter, eine Bildmoderations-API für Uploads, Rate Limits. Nicht überall Pflicht, aber umso mehr erwartet, je größer deine Community wird.
KI-Ausgaben markieren
Ein Daumen-runter oder „Diese Antwort melden“ an jeder generierten Nachricht und jedem Bild, gespeichert mit Prompt und Ausgabe, damit du es prüfen kannst, plus Moderation beim Anbieter und ein System-Prompt, der verbotene Anfragen ablehnt.
So baust du es in einer Supabase-basierten App
Dieselbe Struktur funktioniert mit Firebase, Base44 oder jedem anderen Backend; nur die Tabellennamen ändern sich.
Lege die Tabellen an
reports (id, reporter_id, target_type, target_id, reason, note, status, created_at) und blocks (blocker_id, blocked_id, created_at). Für KI-Apps ergänzt du ai_flags (id, user_id, conversation_id, message_id, reason, created_at) mit einer Kopie der markierten Ausgabe.
Schütze sie mit Row-Level Security
Nutzer können eigene Meldungen und Blockierungen anlegen und ihre eigenen Blockierungen lesen. Nur eine Admin-Rolle kann alle Meldungen lesen und ihren Status ändern. Dein Builder kann die Policies erzeugen, wenn du die Rollen benennst.
Wende Blockierungen überall an, wo Inhalte gelesen werden
Feeds, Kommentare, Suche, Direktnachrichten: Jede Abfrage schließt Inhalte blockierter Nutzer aus, und blockierte Nutzer können der blockierenden Person keine Nachrichten schicken. Teste es mit zwei Accounts.
Ergänze die Oberfläche
Melden und Blockieren im Überlaufmenü jedes Beitrags, Kommentars und Profils; Daumen-runter und „Melden“ an jeder KI-Antwort; eine Bestätigung, dass die Meldung eingegangen ist und was als Nächstes passiert.
Baue die Admin-Seite
Eine geschützte Route, die offene Meldungen mit dem Inhalt auflistet, mit Buttons zum Ausblenden oder Löschen des Inhalts und zum Verwarnen oder Sperren des Nutzers sowie einer Statusänderung. Protokolliere jede Aktion. Schick dir eine E-Mail oder eine Push-Benachrichtigung (OneSignal funktioniert vom Server aus), wenn eine Meldung eingeht.
Halte es schriftlich fest
Community-Regeln in der App, ein Absatz zur Moderation in der Datenschutzerklärung und eine kurze Beschreibung des Prozesses in den Hinweisen unter App-Zugriff, damit der Reviewer weiß, wo er den Melde-Ablauf findet.
Großartige Möglichkeit, eine Web-App in eine native App zu verwandeln! Schnelle Umsetzung und ein toller Weg, Apps in die App Stores zu bringen, ohne eine komplett native App entwickeln zu müssen!
Prompt für deinen Builder
Passe Tabellennamen und die Admin-Rolle an dein Projekt an.
In Lovable, Bolt, Base44, Cursor oder Claude Code einfügen
Ergänze meine App um die Moderation nutzergenerierter Inhalte, wie Google Play und der App Store sie verlangen. 1. Lege die Tabellen reports (reporter_id, target_type, target_id, reason, note, status, created_at) und blocks (blocker_id, blocked_id, created_at) mit Row-Level Security an: Nutzer können eigene Zeilen anlegen und ihre eigenen Blockierungen lesen; nur Nutzer mit der Rolle admin können alle Meldungen lesen und aktualisieren. 2. Füge dem Menü jedes Beitrags, Kommentars und Nutzerprofils eine Option Melden hinzu (mit den Gründen Spam, Belästigung, Hass, sexuelle Inhalte, Gewalt, Sonstiges sowie einem Notizfeld) und an Profilen und Nachrichten eine Option Nutzer blockieren. Zeige nach dem Melden eine Bestätigung an. 3. Schließe Inhalte blockierter Nutzer aus jedem Feed, jeder Suche, jeder Kommentarliste und jedem Chat aus und verhindere Nachrichten zwischen der blockierenden und der blockierten Person. 4. Füge KI-generierten Antworten einen Daumen-runter und eine Aktion Diese Antwort melden hinzu, die Prompt, Antwort und Grund in einer Tabelle ai_flags speichert. 5. Lege unter /admin/moderation eine Admin-Seite an (nur für die Rolle admin), die offene Meldungen mit dem gemeldeten Inhalt auflistet, mit den Aktionen: Inhalt ausblenden, Inhalt löschen, Nutzer verwarnen, Nutzer sperren, Meldung verwerfen. Protokolliere jede Aktion mit Admin-ID und Zeitstempel. 6. Füge eine Seite mit Community-Richtlinien hinzu, verlange ihre Annahme bei der Registrierung und verlinke sie im Melde-Dialog. 7. Sende eine E-Mail an die Admin-Adresse, wenn eine neue Meldung angelegt wird.
Was ein Reviewer ausprobiert
| Aktion des Reviewers | Erwartetes Ergebnis |
|---|---|
| Postet mit einem Testaccount einen beleidigenden Kommentar | Melde-Option am Kommentar sichtbar; eine Bestätigung wird angezeigt |
| Blockiert den anderen Testaccount | Dessen Inhalte verschwinden; er kann der blockierenden Person keine Nachrichten mehr schicken |
| Sucht nach den Regeln | Community-Richtlinien über Registrierung, Einstellungen oder Melde-Dialog erreichbar |
| Bittet die KI um verbotene Inhalte | Ablehnung und eine sichtbare Möglichkeit, die Antwort zu melden |
| Prüft Store-Eintrag und Datenschutzerklärung | Moderation beschrieben; die Altersfreigabe gibt Interaktion zwischen Nutzern an |
Häufig gestellte Fragen
Meine App hat nur einen KI-Chat, keine Nutzer, die miteinander reden. Gilt die UGC-Richtlinie?
Die UGC-Regeln greifen, wenn Nutzer die Inhalte anderer sehen. Die Regeln zu KI-Inhalten gelten unabhängig davon: Schutzmaßnahmen gegen verbotene Ausgaben und eine Möglichkeit, generierte Inhalte in der App zu melden, werden bei jeder generativen Funktion erwartet.
Reicht ein Daumen-runter als Meldemechanismus für KI?
Es ist ein guter Anfang, wenn es die Ausgabe speichert und du sie prüfen kannst. Ein klareres „Diese Antwort melden“ mit Grund ist sicherer, weil der Reviewer es als Meldefunktion erkennen muss.
Muss ich innerhalb einer festen Stundenzahl moderieren?
Google verlangt zeitnahes Handeln, ohne eine allgemeingültige Zahl zu nennen. Setze dir ein Ziel, das du einhalten kannst, nenne es in deinen Richtlinien und sorge dafür, dass Meldungen dich sofort erreichen, damit du handeln kannst.
Drei Wege, deine App in die Stores zu bringen
Gleiches Ergebnis, unterschiedlich viel Arbeit auf deiner Seite. Alle drei kommen mit Genehmigungsgarantie und 24/7 Support von echten Menschen.
Selbst machen
$109 pro Plattform, einmalig
Die WebViewGold-Lizenz: ein fertiges Xcode- oder Android-Studio-Projekt. URL einfügen, Name und Icon setzen, Features einschalten, bauen und einreichen. Kostenlose Updates für immer.
Pakete auf der Hauptseite ansehenCloud Builder
$349 pro Lizenz, einmaliges Add-on
Kein Mac, kein Xcode, kein Android Studio: Du konfigurierst im Browser, wir bauen beide Apps in der Cloud und übergeben sie an App Store Connect und die Play Console.
So funktioniert der Cloud Builder Kostenlose Demo ausprobierenFull Service
$698 pro Plattform $798
Schick uns deine URL und dein Icon. Unser Team konfiguriert, baut und liefert deine App innerhalb von 72 Stunden, White-Label, inklusive Quellprojekten. Beide Plattformen für $1,158.
Full-Service-Details Powered by
Winter-Sale-Preise gültig bis 31. Dezember 2026.