Microsoft terseret dalam kasus deepfake porno Taylor Swift akibat proses penciptaan gambar tersebut menggunakan Microsoft Designer. Merespon ini, CEO Microsoft menyatakan bahwa mereka akan memerangi deepfake semacam itu.
Satya Nadella yang merupakan CEO Microsoft mengungkapkan bahwa Microsoft akan bertindak cepat dalam memerangi gambar-gambar deepfake secara seksual non-konsensual seperti dilansir dari NBC, Kamis (1/2/2024).
"Ya, kita harus bertindak, saya pikir kita semua mendapat manfaat ketika dunia online adalah dunia yang aman. Jadi, saya tidak berpikir ada orang yang menginginkan dunia online yang sama sekali tidak aman bagi pembuat konten dan konsumen konten. Karena itu, saya pikir penting bagi kita untuk bergerak cepat dalam hal ini," ungkap Nadella.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Nadella juga mengomentari deepfake AI porno soal Taylor Swift ini sebagai sesuatu yang sangat mengkhawatirkan sekaligus mengerikan.
Microsoft dinilai sangat terlibat dari kasus deepfake AI Taylor Swift tersebut. Sebelumnya 404Media melaporkan bahwa di komunitas 4chan dan Telegram yang menghasilkan gambar deepfake AI porno tersebut, AI Microsoft mampu menghasilkan gambar palsu dan eksplisit.
Menanggapi hal ini, Microsoft mengatakan bahwa mereka sedang menyelidiki laporan-laporan yang ada mengenai deepfake dan segera mengambil tindakan.44
"Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan setiap upaya berulang untuk menghasilkan konten yang bertentangan dengan kebijakan kami dapat mengakibatkan hilangnya akses ke layanan," ungkap Microsoft pada 404Media.
Microsoft juga memberi pernyataan terbaru yang mengatakan bahwa mereka berkomitmen untuk memberi rasa aman bagi semua orang dan akan segera mengatasi penyalahgunaan layanan mereka.
"Kami menanggapi laporan ini dengan sangat serius dan berkomitmen untuk memberikan pengalaman yang aman bagi semua orang. Kami telah menyelidiki laporan ini dan belum dapat mereproduksi gambar eksplisit dalam laporan ini," sebut Microsoft.
"Filter keamanan konten kami untuk konten eksplisit sedang berjalan dan kami belum menemukan bukti bahwa mereka dilewati sejauh ini. Karena sangat berhati-hati, kami telah mengambil langkah-langkah untuk memperkuat permintaan penyaringan teks kami dan mengatasi penyalahgunaan layanan kami," tambah mereka.
Nadella memandang bahwa harus ada pagar yang membatasi teknologi agar konten yang dihasilkan AI lebih aman. Ia juga mengungkap bahwa saat ini Microsoft memiliki tim besar yang bertugas untuk memberi pagar keselamatan dengan melakukan penyaringan konten sampai mendeteksi penyalahgunaan sistem.
Dalam pengembangan AI, Microsoft telah berinvestasi menciptakan teknologi AI mereka sendiri dengan menjadi investor utama di OpenAI. Setelah itu, Microsoft mulai mengintegrasikan berbagai produk mereka dengan AI seperti kehadiran Copilot yang merupakan chatbot di mesin pencarian asal Microsoft, Bing.
Simak Video "Melihat Komik Baru Perjalanan Filantropi Taylor Swift"
[Gambas:Video 20detik]
(fyk/fay)