Komisi Eropa pada hari Rabu mengusulkan peraturan baru yang akan mengharuskan perusahaan teknologi untuk memindai materi pelecehan seksual anak (CSAM) dan perilaku perawatan, meningkatkan kekhawatiran bahwa itu dapat merusak enkripsi ujung ke ujung (E2EE).
Untuk itu, penyedia layanan online, termasuk layanan hosting dan aplikasi komunikasi, diharapkan secara proaktif memindai CSAM platform mereka serta melaporkan, menghapus, dan menonaktifkan akses ke konten terlarang tersebut.
Sementara layanan pesan instan seperti WhatsApp sudah mengandalkan versi hash dari CSAM yang dikenal untuk secara otomatis memblokir unggahan gambar atau video baru yang cocok dengannya, paket baru memerlukan platform tersebut untuk mengidentifikasi dan menandai contoh baru CSAM.
“Teknologi deteksi hanya boleh digunakan untuk tujuan mendeteksi pelecehan seksual anak,” kata regulator. “Penyedia harus menerapkan teknologi yang paling tidak mengganggu privasi sesuai dengan keadaan seni di industri, dan yang membatasi tingkat kesalahan positif palsu semaksimal mungkin.”
Pusat Uni Eropa tentang Pelecehan Seksual Anak baru, yang akan didirikan secara independen untuk menegakkan tindakan tersebut, telah ditugaskan untuk memelihara database “indikator” digital pelecehan seksual anak, selain memproses dan meneruskan laporan yang sah untuk tindakan penegakan hukum.
Selain itu, aturan mengharuskan toko aplikasi untuk memastikan bahwa anak-anak dilarang mengunduh aplikasi yang “dapat membuat mereka berisiko tinggi mengajak anak-anak.”
Proposal kontroversial untuk melarang materi pelecehan seksual datang beberapa hari setelah versi rancangan peraturan bocor awal pekan ini, mendorong peneliti keamanan Universitas Johns Hopkins Matthew Green untuk negara bahwa “Ini Apple lagi.”
Raksasa teknologi, yang tahun lalu mengumumkan rencana untuk memindai dan mendeteksi CSAM pada perangkatnya, telah menunda peluncuran untuk “mengambil waktu tambahan selama beberapa bulan mendatang untuk mengumpulkan masukan dan melakukan perbaikan.”
Meta, juga, telah menunda rencananya untuk mendukung E2EE di semua layanan perpesanannya, WhatsApp, Messenger, dan Instagram, hingga sekitar tahun 2023, dengan menyatakan bahwa perlu waktu untuk “melakukan ini dengan benar.”
Masalah privasi dan keamanan utama yang muncul dari pemindaian perangkat untuk gambar ilegal pelecehan seksual adalah bahwa teknologi dapat melemahkan privasi dengan menciptakan pintu belakang untuk mengalahkan perlindungan E2EE dan memfasilitasi pengawasan skala besar.
Ini juga akan memerlukan akses teks biasa yang terus-menerus ke pesan pribadi pengguna, yang secara efektif membuat E2EE tidak kompatibel dan mengikis keamanan dan kerahasiaan komunikasi.
“Gagasan bahwa ratusan juta orang di UE akan memiliki komunikasi pribadi yang intim, di mana mereka memiliki harapan yang masuk akal bahwa itu bersifat pribadi, untuk menjadi semacam tanpa pandang bulu dan umumnya dipindai 24/7 belum pernah terjadi sebelumnya,” Ella Jakubowska , seorang penasihat kebijakan di European Digital Rights (EDRi), mengatakan kepada Politico.
Tetapi privasi yang diberikan oleh enkripsi juga terbukti menjadi pedang bermata dua, dengan pemerintah semakin melawan kekhawatiran bahwa platform terenkripsi disalahgunakan oleh aktor jahat untuk terorisme, kejahatan dunia maya, dan pelecehan anak.
“Enkripsi adalah alat penting untuk perlindungan keamanan siber dan kerahasiaan komunikasi,” kata komisi itu. “Pada saat yang sama, penggunaannya sebagai saluran aman dapat disalahgunakan oleh penjahat untuk menyembunyikan tindakan mereka, sehingga menghambat upaya untuk membawa pelaku pelecehan seksual anak ke pengadilan.”
Perkembangan ini menggarisbawahi perjuangan Big Tech yang sedang berlangsung untuk menyeimbangkan privasi dan keamanan sementara juga secara bersamaan menangani kebutuhan untuk membantu lembaga penegak hukum dalam pencarian mereka untuk mengakses data kriminal.
“Proposal baru ini terlalu luas, tidak proporsional, dan merugikan privasi dan keamanan semua orang,” kata Electronic Frontier Foundation (EFF). “Persyaratan pemindaian tunduk pada perlindungan, tetapi mereka tidak cukup kuat untuk mencegah tindakan mengganggu privasi yang harus dilakukan oleh platform.”