AI Moderator für DLE — intelligente Moderation von Kommentaren und Nachrichten durch ein neuronales Netzwerk

Das Modul ist besonders nützlich für Websites, auf denen Nutzer aktiv Kommentare schreiben oder Nachrichten hinzufügen. Sie müssen nicht mehr ständig jedes einzelne Beitrag manuell prüfen — die Hauptarbeit übernimmt die künstliche Intelligenz.

Was das Modul macht

Wenn ein Nutzer einen Kommentar hinzufügt, veröffentlicht das Modul ihn nicht sofort in der üblichen Form. Stattdessen erscheint auf der Website eine saubere Informationsmeldung:

«Unser Sicherheitssystem prüft diesen Kommentar, nach der Prüfung wird er veröffentlicht.»

In dieser Zeit wird der eigentliche Text des Kommentars in die Prüfwarteschlange gesendet. Das neuronale Netz analysiert ihn und trifft eine Entscheidung: veröffentlichen oder ablehnen.

Wenn der Kommentar in Ordnung ist — erscheint er automatisch auf der Website.
Wenn der Kommentar gegen die Regeln verstößt — wird er gelöscht oder ausgeblendet, je nach den Einstellungen.

Moderation von Nutzer-Nachrichten

Das Modul kann nicht nur Kommentare, sondern auch Nachrichten prüfen, die von Nutzern hinzugefügt werden.

Vor der Veröffentlichung durchläuft die Nachricht eine KI-Prüfung. Das Modul kann feststellen:

• ob die Nachricht verbotene Themen enthält;
• ob sie bereits veröffentlichten Materialien ähnelt;
• ob der Text Spam ist;
• ob die Nachricht Politik, Beleidigungen oder Provokationen enthält;
• ob sich das Material für die Veröffentlichung auf der Website eignet.

Wenn die Nachricht die Prüfung nicht besteht, wird sie nicht veröffentlicht. Dem Nutzer kann automatisch eine private Nachricht mit dem Ablehnungsgrund gesendet werden.

Prüfung ähnlicher Nachrichten

Eine der nützlichen Funktionen des Moduls — die Suche nach ähnlichen Veröffentlichungen. Wenn ein Nutzer versucht, eine Nachricht hinzuzufügen, die bereits auf der Website vorhanden ist oder einer bestehenden sehr ähnlich ist, kann das Modul die Veröffentlichung stoppen.

Das hilft, Duplikate, Wiederholungen und Müllinhalte im Nachrichten-Feed zu vermeiden.

Unterstützung verschiedener neuronaler Netze

Das Modul kann mit verschiedenen KI-Anbietern arbeiten:

• OpenAI / ChatGPT;
• DeepSeek;
• OpenAI-kompatible API;
• andere Dienste mit kompatibler API.

Block «Meinung der Nutzer»

Zusätzlich kann das Modul eine kurze KI-Zusammenfassung zu den Kommentaren einer Nachricht oder eines Films erstellen.

Zum Beispiel kann vor den Kommentaren ein Block angezeigt werden:

Meinung der Nutzer

Die Nutzer haben das Material überwiegend positiv bewertet. Am meisten gefielen ihnen die Handlung, die Atmosphäre und die schauspielerische Leistung. Einige merkten an, dass das Ende umstritten ausgefallen sei, insgesamt war die Diskussion jedoch eher positiv.

Eine solche Zusammenfassung wird auf Grundlage aller genehmigten Kommentare zur aktuellen Nachricht erstellt. Das ist praktisch für Kino-Websites, Nachrichtenportale, Rezensionen, Artikel und alle Materialien, bei denen es wichtig ist, schnell die allgemeine Meinung des Publikums zu verstehen.

Die Zusammenfassung wird zwischengespeichert, sodass das neuronale Netz nicht bei jedem Öffnen der Seite aufgerufen wird.

Flexible Prüfregeln

Sie können selbst angeben, was genau als verbotene Inhalte zu gelten hat. Zum Beispiel:

• Spam;
• Politik;
• Beleidigungen;
• Schimpfwörter;
• Werbung;
• Links;
• Provokationen;
• sinnlose Nachrichten;
• toxische Kommentare;
• verbotene Themen für Ihre Website.

Sie können eigene Regeln und Anweisungen für die KI hinzufügen, damit das Modul den Inhalt genau für Ihr Projekt prüft.