Jangan percaya siapa pun: Apa yang mengancam jaringan saraf, membuat porno
Dmitry Kurkin
Video porno palsudi mana bintang film "Wonder Woman" Gal Gadot diduga berhubungan seks dengan saudara tirinya, yang muncul di Web minggu ini, ternyata bukan hanya palsu, tetapi palsu yang dihasilkan oleh kecerdasan buatan.
Penulis video tersebut, pengguna reddit anonim dengan julukan deepfakes, dalam sebuah wawancara dengan Wakil, mengkonfirmasi bahwa ia menggunakan jaringan saraf untuk "mengambil pemotretan" Wajah Gadot ke tubuh aktris porno itu. Palsu, secara umum, terlihat, dan deepfake tidak berencana untuk menghasilkan uang di atasnya - menurutnya, dia hanya ingin memeriksa seberapa mudah membuatnya dengan menggunakan AI. Dan dia punya berita buruk bagi kita: sangat mudah membuat film porno palsu di rumah.
Masalahnya, secara umum, bukan di pornofeaks sendiri: permintaan untuk gambar dan video, di mana para aktor dan aktris seperti selebritas melakukan hubungan seks, dulu dan sekarang adalah dengan para fetishis dan penggemar sensasi. Pada kesamaan eksternal dengan bintang-bintang di industri pornografi, seluruh karier sedang dibuat - fenomena ini bahkan memunculkan tajuk utama pers kuning: "Kurcaci Gordon Ramsay ditemukan tewas di lubang musang".
Tetapi jika sebelum produksi membutuhkan waktu, sumber daya dan beberapa keterampilan, maka jaringan saraf, yang dilatih untuk mengelas wajah menjadi sebuah gambar, sangat menyederhanakan tugas. Robot tetap ada, bukan manusia, dan robot semakin pintar dari waktu ke waktu, yang berarti palsu akan terlihat semakin andal. Pengguna deepfakes mengklarifikasi bahwa ia mengumpulkan perangkat lunak AI-nya dari elemen improvisasi yang ditemukan di perpustakaan open source, dan mengambil foto dan video di saluran publik dan hosting seperti YouTube. Sederhananya, semua alat untuk menghasilkan pornofeikov berada di bawah hidungnya, tidak hanya dengan dia, tetapi di antara jutaan orang di seluruh dunia.
Dan ini, sebenarnya, bukan berita. Kembali pada tahun 2003, para ahli dari Universitas Kesehatan dan Sains Oregon memperingatkan bahwa penipuan audio "mudah dibuat dan sulit ditentukan." Pada 2017, prediksi itu menjadi kenyataan, dan ada rekaman suara palsu yang dihasilkan oleh jaringan saraf, yang sangat sulit dibedakan dari yang asli. Mengikuti audio, video ditarik. Perkembangan staf Universitas Washington menyinkronkan ekspresi wajah wajah seseorang dengan pidatonya: dalam klip video dengan Barack Obama ditata misalnya, hanya audio yang ada, gambar dihasilkan oleh program. Hubungkan satu dengan yang lain - dan sekarang ada video palsu yang siap, di mana, katakanlah, seorang politisi liberal yang terkenal "mengaku" simpatinya untuk Hitler.
Dibutuhkan sedikit imajinasi untuk membayangkan bagaimana penyalahgunaan seperti kecerdasan buatan dapat menyebabkan - chatbots dari Microsoft, yang troll dari Twitter telah berubah menjadi rasis dalam waktu kurang dari sehari, akan tampak seperti lelucon yang cukup. Dan tentu saja, teknologi Porno terutama tidak terancam oleh Gal Gadot, Taylor Swift atau Jennifer Lawrence. Mereka cukup diamankan untuk menyewa sepasukan spesialis IT yang mengenali palsu, dan armada pengacara yang akan menuntut siapa pun yang mencoba menggunakan kepalsuan ini untuk keuntungan pribadi.
Tidak, manusia sederhana akan menjadi korban dari algoritma baru yang tidak berbahaya. Pemalsuan digital dapat digunakan untuk pornografi, penguntit maya, pelecehan jaringan, pemerasan dan manipulasi oleh orang-orang yang mudah diduga dan tidak secara khusus mengikuti berita dari bidang teknologi canggih ("Anak Anda direkam dengan video, segera transfer uang, jika tidak SEMUA akan terlihat"). Dan kita tidak perlu berbicara tentang porno: pemalsuan juga dapat diluncurkan ke dalam Jaringan untuk propaganda politik dan hasutan untuk kebencian.
"Tapi ini mengerikan!" Ya, mengerikan, dan bukan pembuat kode yang harus disalahkan. Karena peretas terkadang membobol sistem perbankan bukan untuk mencuri uang, tetapi untuk mengarahkan departemen pertahanan dunia maya ke dalam lubang keamanan, maka itu diciptakan oleh programmer AI yang anonim hanya menempatkan kita di depan sebuah fakta: era pemalsuan digital bukanlah kisah horor anti-utopis "Cermin Hitam", dan realitas yang akan datang. Dia belum dipahami oleh etika modern (dapatkah pornofil dianggap sebagai pelanggaran privasi orang lain?), Maupun oleh hukum yang berlaku. Tetapi di dalam dirinya kita entah bagaimana harus hidup di tahun-tahun mendatang. Jadi, perlu untuk mengembangkan penangkal terhadap isian tersebut.
Kurator kamus Collins menyebut istilah "berita palsu" sebagai ungkapan 2017, sehingga menekankan bahwa rata-rata pengguna kecanduan clickbate dan memposting ulang tajuk sensasional tanpa membuang waktu memeriksa keaslian informasi. Sementara itu, berita palsu dapat memengaruhi hasil pemilu dan referendum. Dan ini juga merupakan bagian dari realitas baru di mana kita sudah ada dan di mana kita perlu belajar untuk tidak begitu sembrono.
Jejaring sosial telah menjadikan Internet sebagai rumah berdinding kaca tempat jutaan orang dapat menyaksikan hidup Anda setiap hari - bahkan ketika Anda tidak menginginkannya. Sekarang jelas bahwa tidak ada pintu di rumah ini: siapa pun dapat mencoba menyerang ruang pribadi Anda, menggunakan AI untuk mengacaukan wajah Anda di pornorol atau film "The Lord of the Rings." Privasi sudah mati, tetapi bukan hanya Kakak bersalah atas ini dalam bentuk layanan khusus dan perusahaan global, tetapi juga diri kita sendiri.
Dunia pemalsuan digital akan datang, tetapi ini bukan alasan untuk panik, paranoia, penolakan untuk menggunakan Internet atau persyaratan untuk melarang jaringan saraf. Ini adalah alasan untuk berpikir tentang kebersihan jaringan dan etika baru, di mana itu akan diperbaiki sekali dan untuk semua yang menggunakan gambar orang lain untuk membuat palsu digital itu keji dan ilegal. Saat-saat ketika orang-orang tanpa syarat memercayai semua yang mereka katakan di TV (bahkan jika mereka mengatakan bahwa "Lenin adalah jamur") memudar. Dengan cara yang sama, kita secara bertahap membiasakan diri untuk tidak mempercayai semua yang tertulis di Internet.
Sampul:Catatan lusi