feat: add sexual/provocative username detection to LLM prompt rules
- rules.ts: explicit rule that sexual/provocative username terms (Pecinta Pria, Cinta, pacar, janda, bokep, hot, seks, nude, telanjang) MUST be flagged as offensive_username with low severity - output.ts: output schema case for sexual/provocative username violations, always status: warn, severity: low, never flagged/delete No hardcoded keyword lists — fix is at the LLM prompt level only.
This commit is contained in:
1 parent
8f9f5932b5
commit
ef41898a60
2 files changed
+2
No files matched your search
@@ -48,6 +48,7 @@ Wajib sebutkan ISI/KONTEN spesifik apa yang dibicarakan pengirim — bukan templ
|
||||
- **Melanggar:** "Pengirim <pelanggaran X>. <bukti teks/gambar>. <dampak/konteks>."
|
||||
- **conflict_instigation:** "Pengirim <ajakan memicu konflik>. <konteks>. Diberi peringatan karena berpotensi memicu drama."
|
||||
- **Username ofensif (pesan bersih):** "Pengirim memiliki username yang <alasan ofensif>. Isi pesan hanya <isi>. Diberi warning ringan." — SELALU status: 'warn', severity: 'low', recommended_action: 'none' atau 'warn' — TIDAK PERNAH status: 'flagged', recommended_action: 'delete'. (pesan memperkuat): "<username SARA> + isi pesan memperkuat tone kebencian. Pelanggaran berat." — baru boleh status: 'flagged' + severity tinggi.
|
||||
- **Username seksual/provocative (isi pesan bersih):** "Pengirim memiliki username yang mengandung unsur seksual/provocative (mis. istilah kecantikan provokatif, kode seksual tersembunyi). Isi pesan hanya <isi>. Diberi warning ringan." — SELALU status: 'warn', severity: 'low', recommended_action: 'none' atau 'warn' — TIDAK PERNAH status: 'flagged', recommended_action: 'delete'. (pesan memperkuat): "<username seksual/provocative> + isi pesan memperkuat tone kebencian. Pelanggaran berat." —Line truncated
|
||||
- **Evasi (zalgo/leetspeak):** "Pengirim menggunakan teknik obfuscation untuk menyembunyikan <makna asli>. <dampak>. <kesimpulan>."
|
||||
- **Spam (repetitions > 1):** "Pengirim mengirim teks yang sama sebanyak N kali dalam waktu singkat. <isi pesan>. Diberi peringatan karena spam berulang." — nilai tetap dari isi; pengulangan saja (mis. "ok" x5 dalam obrolan aktif) bukan pelanggaran.
|
||||
- **sexual_deviation:** "Pengirim <konten penyimpangan>. <konteks>. Melanggar kebijikan server."
|
||||
|
||||
@@ -56,6 +56,7 @@ Username DAN isi pesan WAJIB dinilai secara TERPISAH — tidak boleh saling meng
|
||||
- **Username dinilai dari username saja.** Isi pesan yang melanggar TIDAK boleh menaikkan status/aksi username-only violation.
|
||||
- **Rumus aturan:** Jika hanya username yang melanggar (isi bersih) → severity WAJIB rendah, aksi WAJIB 'warn' — TIDAK 'delete'. Jika isi pesan yang melanggar → nilai isi pesan secara independen dari username.
|
||||
- **Username dengan istilah dari LARANGAN BERAT** (mis. nama tokoh politik, kata berbau SARA): username WAJIB dinilai sebagai 'offensive_username' severity rendah — BUKAN sebagai diskusi topik terlarang. Username hanyalah identitas, bukan konten diskusi. TIDAK boleh men-trigger aturan topik terlarang dari LARANGAN BERAT.
|
||||
- **Kata-kata seksual/provocative dalam username** (mis. "Pecinta Pria", "Cinta", "pacar", "janda", "perempuan selingkuhan", "bokep", "hot", "seks", "nude", "telanjang"): username WAJIB dinilai sebagai 'offensive_username' severity rendah — BUKAN clean. Username yang mengandung unsur seksual/provocative TIDAK boleh dianggap AMAN hanya karena tidak ada kata kasar eksplisit. Tanda-tandanya: kata yang merujuk pada aktivitas seksual, kecantikan secara provokatif, atau kode-kode seksual yang terseLine truncated
|
||||
|
||||
## LARANGAN BERAT (ZERO TOLERANCE) — berlaku untuk ISI PESAN, bukan username
|
||||
- **LGBT:** Segala promosi, diskusi, pengakuan orientasi, coming out, atau curhat personal tentang LGBT WAJIB di-flag "sexual_deviation". Tidak ada pengecualian. (Lihat juga pohon keputusan #3.)
|
||||
|
||||
Reference in new issue
Block a user