Kekuatan teknologi pengenalan wajah berkembang di berbagai komunitas |  NOVA
PBS

Kekuatan teknologi pengenalan wajah berkembang di berbagai komunitas | NOVA

Teknologi + RekayasaTeknologi & Rekayasa

Ketika lembaga penegak hukum menggunakan sistem pengenalan wajah bertenaga AI, beberapa komunitas menolak, bersikeras untuk mengatakan bagaimana mereka digunakan.

Dengan upaya yang disebut Community Control Over Police Surveillance (CCOPS), ACLU berusaha memberi warga lebih banyak kontrol atas teknologi yang dapat digunakan polisi untuk memantau mereka. Kredit Gambar: iStock, asxsoonxas

Ketika Keith Rose bergabung dengan gerakan Occupy St. Louis pada tahun 2011, dia tidak mengindahkan saran dari sesama demonstran untuk memakai bandana untuk menutupi wajahnya. Polisi telah mengeluarkan kamera, tetapi Rose tidak berpikir mereka melakukan banyak hal dengan foto yang mereka ambil.

Ketika ia bergabung dengan protes Ferguson beberapa tahun kemudian, tampaknya penegak hukum memang mulai mengumpulkan file tentang dirinya. Dia belum ditangkap pada saat itu, tetapi setelah beberapa bentrokan dengan polisi di mana mereka tahu hal-hal seperti di mana dia berada, dengan siapa dia, atau apa yang dia katakan, dia pikir tampaknya cukup jelas bahwa mereka sedang memantau. dia.

“Ini benar-benar membuat saya kesal dan membuat saya lebih peduli dengan pengawasan,” kata Rose.

Selama protes, Departemen Kepolisian Metropolitan St. Louis membuka pusat pengawasan yang disebut Pusat Kejahatan Waktu Nyata (RTCC). Pusat data ini mengumpulkan informasi yang dikumpulkan melalui teknologi seperti pembaca plat nomor, sensor yang dapat mendeteksi dan menemukan lokasi tembakan, dan kamera yang tersebar di seluruh kota. Sebagian besar RTCC, serta sebagian besar teknologi yang mendukungnya, tidak didanai oleh kota, tetapi melalui hibah dan kemitraan publik-swasta dengan perusahaan seperti Motorola. Pendekatan itu, menurut American Civil Liberties Union (ACLU), memungkinkan departemen kepolisian untuk menghindari dewan kota terpilih untuk persetujuan dan dana kota.

“Ini benar-benar mengganggu apa yang dikatakan tentang masa depan teknologi besar yang dapat memperluas kekuatannya sendiri,” kata Rose.

Namun dengan upaya yang disebut Community Control Over Police Surveillance (CCOPS), ACLU berusaha memberi warga lebih banyak kontrol atas teknologi yang dapat digunakan polisi untuk memantau mereka. Diluncurkan pada tahun 2016, CCOPS bertujuan untuk membantu masyarakat setempat menyusun dan mengesahkan undang-undang yang memberi mereka pengawasan terhadap teknologi pengawasan apa pun yang ingin diterapkan oleh lembaga penegak hukum atau pemerintah.

ACLU bekerja dengan anggota parlemen lokal untuk menyusun setiap undang-undang, mengubahnya untuk memenuhi kebutuhan spesifik masyarakat. Selusin kota, ditambah sistem BART San Francisco, telah meloloskan undang-undang CCOPS. Selain St. Louis, setidaknya selusin kota lainnya, ditambah negara bagian Maine, sedang dalam proses mengadopsi undang-undang versi mereka sendiri.

St. Louis Alderman John Collins-Muhammad membantu memperkenalkan undang-undang CCOPS pada tahun 2017 dan 2018, dan baru-baru ini memperkenalkan kembali versi yang diperbarui. Collins-Muhammad mengatakan bahwa dia dan anggota Dewan lainnya mendapat masukan dari komunitas dan memperbarui setiap iterasi. Dia pikir versi terbaru dari RUU itu akan disahkan tahun ini. Undang-undang tersebut akan menciptakan proses persetujuan dewan untuk setiap teknologi pengawasan baru, memerlukan laporan tahunan untuk pembelian peralatan, memperkuat undang-undang sinar matahari seputar data penegakan hukum, dan menyerukan penerbitan statistik pengurangan kejahatan. RUU itu mencoba untuk menyeimbangkan kekhawatiran masyarakat dan polisi, kata Collins-Muhammad.

“Kami tidak ingin mengganggu privasi,” katanya. “Tapi kami juga tidak ingin membatasi polisi dalam menjalankan tugasnya.”

Departemen Kepolisian Metropolitan St. Louis juga memberikan komentar atas RUU tersebut dan secara umum mendukungnya, kata Collins-Muhammad. Dalam sebuah pernyataan, Keith Barrett, seorang sersan di Departemen, mengatakan bahwa kebebasan sipil dan teknologi pengawasan dapat hidup berdampingan jika digunakan secara bertanggung jawab sambil tetap membantu polisi melakukan pekerjaan mereka.

“Kemajuan sumber daya teknologi terus memungkinkan departemen kami untuk mencegah, mendokumentasikan, dan mengurangi kejahatan,” kata Barrett. “Teknologi yang dikerahkan terus membantu upaya kami untuk mencegah kejahatan dan menangkap penjahat. Kami berharap dapat bekerja sama dengan semua mitra komunitas kami dalam memastikan transparansi dan akuntabilitas.”

Privacy Watch, sekelompok organisasi nirlaba di St. Louis, ikut serta dalam diskusi seputar RUU tersebut. Ia ingin undang-undang untuk mengatasi masalah yang berkaitan dengan bias dengan teknologi, privasi, kebebasan berbicara, dan biaya untuk pembayar pajak.

“Ada begitu banyak lapisan keprihatinan,” kata Kendra Tatum, seorang penduduk St. Louis dan penyelenggara Organisasi untuk Perjuangan Hitam, sebuah kelompok anggota dari Privacy Watch. “Orang-orang sering menyebut frasa ‘Kakak’ dengan bercanda, tetapi kita semua tahu bahwa hal semacam ini sering terjadi.”

Collins-Muhammad mengatakan dia mengetahui ancaman itu secara pribadi, setelah mengalami pengawasan ketika dia menjadi aktivis selama protes Ferguson. Dia mengatakan itu “menakutkan” dan membuatnya tertarik untuk membuat kebijakan yang dapat membatasi pengalaman itu bagi orang lain di masa depan.

“Ini adalah sesuatu yang sangat penting bagi saya,” katanya.

Panoptikon AI

Sementara Pusat Kejahatan Waktu Nyata belum menggunakan alat bertenaga AI, secara teknis mudah untuk melapisi perangkat lunak pengenalan wajah setelah kamera digunakan. Undang-undang CCOPS yang diusulkan di St. Louis tidak akan melarang teknologi tersebut, tetapi akan membutuhkan penegakan hukum melalui Dewan Penasihat jika mereka ingin menggunakannya.

Teknologi pengawasan bertenaga AI telah menyebar ke seluruh dunia dengan cepat. Laporan Dawn of Robot Surveillance ACLU menunjukkan bahwa ini terjadi karena teknologi kamera meningkat dengan resolusi yang lebih tinggi dan kemampuan penglihatan malam. Pada saat yang sama, lebih banyak kota memasang sistem pengawasan terpusat, dengan sekitar 350 juta kamera pengintai di seluruh dunia pada tahun 2016.

Dengan kecerdasan buatan, banyak pekerjaan pengawasan dapat diotomatisasi, membuat teknologi pengubah permainan AI. Kredit Gambar: iStock, andreusK

Potensi teknologi pengenalan wajah mungkin paling menonjol di China. Pemerintah tidak hanya menggunakannya untuk memberikan tiket lalu lintas, dan telah mengesahkan undang-undang yang mewajibkan pemindaian wajah bagi mereka yang mendaftar untuk internet atau nomor telepon baru, tetapi telah menerapkannya untuk memantau dan memenjarakan minoritas Uighur. Pada tahun 2020, China berencana untuk memiliki lebih dari 600 juta kamera yang beroperasi.

Di luar kekhawatiran tentang peningkatan pengawasan, perangkat lunak pengenalan wajah telah terbukti berkinerja kurang baik pada kulit gelap. Dalam laporan 2018 berjudul “Gender Shades,” peneliti Joy Buolamwini dan Timnit Gebru menemukan bahwa tiga sistem yang tersedia secara komersial tidak lebih baik daripada peluang dalam mengidentifikasi wanita dengan warna kulit lebih gelap.

ACLU melakukan penelitiannya sendiri yang menunjukkan bahwa Rekognition, perangkat lunak pengenalan wajah Amazon, salah mengidentifikasi 28 anggota Kongres. Empat puluh persen kesalahan algoritme dibuat dalam upaya mengidentifikasi orang kulit berwarna, meskipun mereka hanya terdiri dari 20 persen anggota Kongres. Amazon membantah penelitian tersebut dan menunjukkan bahwa dengan ambang batas kepercayaan yang lebih tinggi yang direkomendasikan, yang hanya memungkinkan algoritme menawarkan kecocokan jika sangat yakin itu benar, kesalahan identifikasi menghilang. Namun, salah satu departemen kepolisian yang menguji perangkat lunak itu mengaku tidak menetapkan ambang batas kepercayaan.

Itu bukan satu-satunya kasus departemen kepolisian menggunakan perangkat lunak dengan cara yang tidak diinginkan oleh pengembang. Sebuah studi oleh Georgetown Law Center tentang Privasi dan Teknologi menemukan bahwa polisi memasukkan foto-foto selebriti ke dalam perangkat lunak pengenalan wajah, bersama dengan sketsa dan gambar hasil photoshop.

Ada sejarah panjang pengawasan di AS menurut Matt Cagle, seorang pengacara di ACLU California Utara. Kelompok-kelompok hak-hak publik dan sipil seperti ACLU telah berjuang melawannya, dengan berbagai tingkat keberhasilan. Namun, dengan AI, banyak pekerjaan pengawasan dapat diotomatisasi, membuat teknologi pengubah permainan AI.

“Jika mereka bisa mengawasi kita, mereka bisa mengendalikan kita,” kata Cagle.

Faktanya, percakapan pengenalan wajah dapat menjadi bagian dari percakapan yang lebih besar tentang pengawasan pemerintah menurut Chad Marlow, penasihat advokasi dan kebijakan senior di ACLU, yang juga mengawasi CCOPS. Proliferasi teknologi seperti kamera pengintai dan ikan pari—yang meniru menara ponsel dan mengirimkan sinyal yang mengelabui ponsel terdekat agar mengirimkan informasi identitas dan data tentang lokasi mereka—dapat dievaluasi ulang. Selain itu, apa pun yang baru dikembangkan, dengan atau tanpa kemampuan AI, dapat diintegrasikan dengan cara yang disadari dan dikendalikan oleh komunitas.

“Dengan cara itu, kami tidak bermain-main,” kata Marlow.

Kekurangan Ban

Empat kota telah melangkah lebih jauh dari pengawasan masyarakat dengan undang-undang CCOPS mereka: Berkeley, Oakland, San Francisco, dan Somerville, Massachusetts telah langsung melarang pengenalan wajah oleh pemerintah. Awal tahun ini, ACLU, bersama dengan 60 kelompok lainnya, mengirim surat ke Kongres meminta moratorium federal tentang penggunaan pengenalan wajah untuk penegakan hukum dan penegakan imigrasi sampai Kongres sepenuhnya memperdebatkan praktik mana yang harus diizinkan.

“Kemampuan ini mengancam untuk menciptakan dunia di mana orang-orang diawasi dan diidentifikasi ketika mereka menghadiri protes, berkumpul di luar tempat ibadah, mengunjungi penyedia medis, atau sekadar menjalani kehidupan sehari-hari mereka,” kata surat itu.

Tetapi Daniel Castro, wakil presiden Yayasan Teknologi dan Inovasi Informasi dan direktur Pusat Inovasi Data, mengatakan kota-kota juga dapat memblokir potensi penggunaan alat pengenalan wajah yang lebih baik karena takut akan keadaan pengawasan.

“Kami belum sampai di sana,” katanya. “Banyak kekhawatiran di sana terlalu dini.”

Penerapan teknologi penegakan hukum lainnya, seperti menemukan tersangka atau anak hilang, dapat dibuat lebih aman dengan undang-undang yang membuat pagar pembatas, seperti menetapkan tingkat akurasi untuk perangkat lunak apa pun yang digunakan. Area-area yang penting digabungkan dengan isu-isu yang lebih luas, seperti apakah polisi harus mengawasi pemrotes sama sekali, kata Castro.

“Kami dapat memisahkan beberapa masalah ini tanpa melarang teknologinya,” katanya.

Undang-undang CCOPS hanya mengatur penggunaan teknologi oleh pemerintah, dan tidak menghentikan perusahaan swasta untuk menggunakannya. St. Louis memiliki beberapa bisnis, seperti toko pojok, menggunakan kamera yang dijalankan oleh perusahaan lokal bernama Blue Line Technology yang mengatakan bahwa ia menggunakan pengenalan wajah. Perusahaan lain bernama Persistent Surveillance Systems (PSS) menawarkan jutaan dolar dalam teknologi pemberantasan kejahatan ke St. Louis secara gratis.

Tetapi jika polisi ingin memasang kamera bertenaga AI dari properti pribadi ke Pusat Kejahatan Waktu Nyata mereka atau menerima tawaran PSS, CCOPS akan masuk, memaksa polisi untuk membawa proyek tersebut ke Dewan Penasihat, kata Marlow. Kemudian masyarakat dan pejabat terpilih akan memutuskan masa depan yang ingin mereka lihat di kota mereka.

“CCOPS mengatur percakapan; itu bukan percakapan itu sendiri,” katanya.

Posted By : togel hongķong 2021