Yahoo Bangun Alat untuk Deteksi Cyberbullying (Foto: Ubergizmo)
CALIFORNIA – Cyberbullying dan posting-an menyinggung di dunia maya adalah realita yang disayangkan. Ilmuwan Yahoo sepertinya mendukung langkah Twitter untuk melindungi pengguna dengan membuat alat pendeteksi penyalahgunaan internet.
Sebagaimana dilansir Ubergizmo, Jumat (29/7/2016), Yahoo Labs telah menciptakan alogaritma yang memfilter penyalahgunaan secara otomatis. Kebanyakan filter bekerja dengan mendeteksi kata-kata, frasa, dan ekspresi yang umumnya digunakan untuk mem-bully seseorang.
Mereka juga menerapkan pembelajaran mesin untuk mendata komentar kasar atau menyinggung yang ditandai oleh editor Yahoo. Hal ini memungkinkan algoritma untuk memproses kata-kata sebagai ‘vektor’ bukannya memperlakukan kata-kata sebagai yang baik atau buruk. Hasilnya, algoritma bisa memilih string dari kata-kata yang dianggap menyinggung, bahkan jika komentar tidak menggunakan kata-kata yang dianggap menyinggung.
Sejauh ini, tim telah memiliki keberhasilan yang cukup baik dengan algoritma mereka dan telah memiliki 90 persen rating akurasi. Namun belum bisa dipastikan apakah Yahoo akan menerapkan sistem ini atau tidak.
Sekadar informasi, seorang peneliti asal Inggris Alex Krasodomski sebelumnya pernah menyebutkan bahwa mengidentifikasi cuitan menyinggung dan tidak sebenarnya sangat sulit. “Jika diberi 10 tweet, sekelompok manusia jarang semuanya akan setuju pada tweet mana yang harus digolongkan dalam abusive, sehingga Anda dapat membayangkan betapa sulitnya ini untuk dilakukan komputer,” pungkas dia.