Setelah beberapa kali terjadinya peristiwa bunuh diri yang dilakukan sambil menyiarkannya secara langsung melalui layanan Facebook Live, jejaring sosial tersebut kini memperkenalkan sebuah tool baru dalam upaya pencegahan terjadinya peristiwa serupa.
Tool yang dimaksudkan tersebut berupa sebuah program kecerdasan buatan (Artificial Intelligence, AI) yang berfungsi untuk mengidentifikasi para pengguna yang mungkin beresiko untuk melakukan bunuh diri. Melalui algoritma yang dikembangkan pada tool tersebut, Facebook dengan mudah nantinya akan melakukan identifikasi tersebut berdasarkan temuan komentar-komentar bernada khawatir yang ditemukan oleh program kecerdasan buatan tersebut.
Tanggapan dari pengguna lain dengan frase seperti "Apakah kamu baik-baik saja?" atau "Aku khawatir denganmu," akan dijadikan sebagai temuan komentar yang dianggap bernada khawatir oleh Facebook. Selain itu, pembicaraan mengenai kesedihan dan rasa sakit juga akan diindikasikan sebagai sebuah sinyal akan terjadinya tindakan bunuh diri.
Selanjutnya, pihak Facebook akan berupaya untuk menghubungi pengguna yang teridentifikasi tersebut, termasuk dengan menampilkan layar yang berisi informasi-informasi layanan konsultasi. Penanganan dan peninjauan atas hal tersebut juga akan dilakukan secara cepat oleh community team Facebook.
"Kita mengetahui bahwa kecepatan adalah hal yang penting ketika menghadapi sesuatu yang mendesak," kata manajer produk Facebook, Vanessa Callison-Burch, seperti dilansir dari BuzzFeed pada Jumat (3/3/2017).
Sebelum program kecerdasan buatan ini dihadirkan, Facebook hanyalah mengandalkan laporan-laporan dari para pengguna platformnya untuk mengidentifikasi orang yang dianggap memiliki resiko bunuh diri. Laporan-laporan dari pengguna tersebut akhirnya digunakan Facebook untuk "melatih" algoritma AI yang mereka miliki agar bisa lebih baik dalam mengendus dan mengidentifikasi berbagai gejala bunuh diri yang mungkin timbul.
Callison-Burch juga menyebutkan bahwa program kecerdasan buatan yang baru dikembangkan di kalangan pengguna di wilayah Amerika Serikat ini ternyata menghasilkan keakuratan yang lebih baik jika dibandingkan dengan laporan-laporan dari pengguna Facebook.
Ia melanjutkan, program kecerdasan buatan ini akan bekerja secara otomatis pada latar belakang sistem. Namun, dalam kasus-kasus yang dinilai darurat dan membutuhkan penanganan sesegera mungkin, AI secara langsung akan melapor ke anggota community team Facebook.
Selain program kecerdasan buatan tersebut, Facebook juga meluncurkan beberapa tool lain dengan tujuan yang serupa, yaitu layanan chatting dengan organisasi-organisasi pencegahan bunuh diri via Messenger. Ada juga pengiriman informasi konsultasi secara langsung ke penyiar Facebook Live yang terindikasi akan melakukan bunuh diri.
