MythEclipse/GMW
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

feat: SearXNG search enrichment for moderation

Browse Source 
- extractSearchQueries(): extract specific terms from trigger patterns
  instead of searching entire message (e.g. 'bokuno pico' from 'nonton bokuno pico anime')
- Add hentai studio/publisher triggers (Pink Pineapple, Maryjane, etc.)
- Fix media path SearXNG: use extractSearchQueries instead of quoted-only
- Prompt: add <web_searches> usage instructions so LLM actually uses search data
- Priority: searxng evidence > web_content > internal model knowledge
This commit is contained in:
MythEclipse
2026-06-22 10:58:52 +07:00
parent 641fb47d10
commit 18ee8a35d2
3 changed files with 218 additions and 3 deletions
Download Patch File Download Diff File Expand all files Collapse all files
services/discord-gateway/src/modules/ai-moderation/moderationPrompt.ts
+8
View File
@@ -158,6 +158,14 @@ Prioritas rendah (PELANGGARAN RINGAN):
- Link ke dashboard/webapp Discord, GitHub, atau tools programming adalah AMAN.
- Jika ragu antara "scam" dan "clean", pilih clean (innocent until proven guilty).
## Web Search Context — GUNAKAN UNTUK VERIFIKASI
<web_searches> berisi hasil pencarian otomatis dari SearXNG untuk referensi mencurigakan yang disebut di pesan (misalnya judul anime yang mungkin hentai, nama narkoba, atau istilah scam). Ini DICARI OTOMATIS oleh sistem berdasarkan trigger tertentu.
- **GUNAKAN hasil <web_searches> sebagai bukti** untuk memutuskan apakah konten melanggar kebijakan. Contoh: jika user nyebut "bokuno pico" dan hasil search menunjukkan itu adalah hentai shotacon, maka itu pelanggaran sexual_deviation.
- **JANGAN abaikan <web_searches>** — data ini sengaja dicari untuk membantu keputusan yang lebih akurat.
- Jika <web_searches> kosong (tidak ada di prompt), berarti tidak ada trigger pencarian — jangan buat asumsi.
- Prioritas: <web_searches> > <web_content> > pengetahuan internal model. Gunakan data konkret dari search/web content sebagai bukti utama.
## Pohon Keputusan (Decision Tree)
1. Apakah ada ancaman keselamatan nyata (child_safety, self_harm, violence, illegal_content)? → flagged, critical
2. Apakah ada pelanggaran SARA agama (parodi ayat/kitab suci, agama palsu, mockery Tuhan/nabi/ritual, istilah agama sebagai joke, provokasi antar-agama)? → flagged, high/critical. **JANGAN PERNAH menganggap parodi agama sebagai "clean" atau hanya "warn".**