Google Luncurkan API Troll-Thwarting

Alat baru tersedia untuk memeriksa pelecehan troll online secara terus-menerus. Pikir Google minggu lalu meluncurkan Perspektif, sebuah teknologi tahap awal yang menggunakan pembelajaran mesin untuk membantu menetralisir troll.

Perspektif mengulas komentar dan memberi nilai berdasarkan kemiripannya dengan komentar yang orang beri label sebagai racun, atau kemungkinan menghasilkan seseorang yang meninggalkan percakapan.

Penayang dapat memilih apa yang ingin mereka lakukan dengan informasi yang diberikan Perspektif kepada mereka. Pilihan mereka meliputi :

  • Menandai komentar untuk moderator mereka sendiri untuk ditinjau
  • Menyediakan alat untuk membantu pengguna memahami potensi toksisitas komentar saat mereka menulisnya dan
  • Membiarkan pembaca mengurutkan komentar berdasarkan kemungkinan toksisitasnya.
  • Empat puluh tujuh persen dari 3.000 orang Amerika berusia 15 atau lebih tua melaporkan mengalami pelecehan atau pelecehan online, menurut sebuah survei
  • Data & Society yang dilakukan tahun lalu. Lebih dari 70 persen mengatakan bahwa mereka telah menyaksikan pelecehan atau pelecehan online.
  • Perspektif mendapat pelatihan melalui pemeriksaan terhadap ratusan ribu komentar yang dilabel oleh pengulas manusia yang diminta untuk menilai komentar online dalam skala dari “sangat beracun” hingga “sangat sehat.”
    Seperti semua aplikasi pembelajaran mesin, Perspektif membaik seperti yang digunakan.
  • Mitra dan Rencana Masa Depan

Sejumlah mitra telah menandatangani kontrak untuk bekerja dengan Google dalam usaha ini:

  • Wikimedia Foundation sedang meneliti cara untuk mendeteksi serangan pribadi terhadap editor sukarela
  • New York Times sedang membangun alat moderasi open source untuk memperluas diskusi masyarakat
  • The Economist sedang mengolah kembali platform komentarnya dan
  • The Guardian sedang meneliti bagaimana forum komentar moderat terbaik, dan mengadakan diskusi online antara pembaca dan jurnalis.
  • Google telah menguji versi teknologi ini dengan The New York Times, yang memiliki tim yang memilah-milah dan memoderasi 11 ribu komentar setiap hari sebelum diposkan.Google bekerja untuk melatih model yang memungkinkan moderator memilah-milah komentar lebih cepat.
    Perusahaan ini mencari lebih banyak mitra. Ia ingin menghadirkan model yang bekerja dalam bahasa selain bahasa Inggris, serta model yang dapat mengidentifikasi karakteristik lainnya, seperti saat komentar bersifat tidak substansial atau di luar topik.
  • Beberapa Perspektif Perspektif
    “Perspektif adalah salah satu dari hal-hal yang menarik dan menakutkan,” kata Rob Enderle, analis utama di Enderle Group.
  • Potensinya untuk dijadikan alat penyensoran adalah soal, sarannya.
    “Kami sudah tahu bahwa Kiri dan Kanan mendapat umpan berita yang sangat berbeda, dan Perspektif dapat memperburuk masalah ini karena orang sering melihat pandangan dunia lain sebagai bermusuhan, salah dan beracun,” kata Enderle kepada TechNewsWorld. “Seiring perkembangan teknologi ini, secara efektif bisa memastikan bahwa Anda hanya melihat apa yang Anda setujui.”
    Selanjutnya, “berkeliling sistem seperti ini dengan ejaan yang kreatif tidaklah terlalu sulit,” dia mempertahankan.
    Perspektif “benar-benar tidak membahas masalah inti, yaitu bahwa troll sebagian besar tidak dihukum dan tampaknya mendapatkan status,” kata Enderle.
    Perspektif kemungkinan tidak terlalu canggih bila menyangkut konteks atau sensitivitas, kata Michael Jude, seorang manajer program di Stratecast / Frost & Sullivan.Baca Juga : Instagram Mempersiapkan Pengguna Rivals
    Baca Juga : Apakah Photobucket Melukis Sendiri ke Sudut
    Baca Juga : Facebook Meluncurkan Paywall“Apa yang mungkin dianggap racun oleh orang lain, yang lain mungkin tidak – dan ini kontekstual,” katanya kepada TechNewsWorld.
    Selanjutnya, “sistem AI tidak memiliki akal sehat, jadi ada potensi signifikan untuk konsekuensi tak terduga,” kata Jude. Selanjutnya, bias implisit “adalah bahaya yang signifikan.”
  • Utilitas Perspektif untuk Media Sosial
    Twitter sangat terpukul oleh troll online. Perspektif mungkin bisa membantu dalam pertempuran melawan pelaku online “jika benar-benar berhasil,” kata Jude.
    Namun, Twitter harus “mengakui bahwa layanan mereka bukanlah benteng kebebasan berbicara,” tambahnya.
    Menghentikan komentar yang dilihat secara subjektif karena pelecehan online adalah bentuk penyensoran, kata Jude, dan ini menimbulkan pertanyaan tentang “forum publik” yang sebenarnya.
    “Jika situs media sosial sebenarnya bukan forum terbuka, maka seharusnya tidak berpura-pura,” bantahnya.

Situs yang membatasi komentar harus memperingatkan bahwa semua posting akan ditinjau untuk memastikan mereka memenuhi standar masyarakat, kata Jude. Jika mereka tidak ingin melakukan tinjauan semacam itu, mereka harus memasang peringatan di halaman arahan: “Waspadalah kepada semua orang yang masuk ke sini.”