Departemen kepolisian di seluruh negeri sedang mempersiapkan teknologi baru, memuji manfaat perangkat lunak generatif yang didukung AI dan sistem kamera baru untuk meningkatkan keselamatan publik. Musim semi yang lalu, Departemen Kepolisian Portland mengundang wartawan dan masyarakat untuk mempelajari lebih lanjut tentang hal baru ini sistem realitas maya. Petugas berpose dengan headset kikuk dan taser palsu, sambil menggembar-gemborkan manfaat sistem pelatihan yang bernilai lebih dari gaji awal seorang guru.
Portland dan sejumlah departemen kota lainnya saat ini sedang menguji coba perangkat lunak transkripsi AI untuk kamera tubuh. Mainan berteknologi tinggi berikutnya? Drone pengintai. Departemen Kepolisian Portland saat ini meminta satu drone, dengan alasan kekurangan staf dan apa yang mereka lihat sebagai manfaat teknologi yang tidak dapat disangkal dari perangkat pengawasan tersebut. Awal bulan ini, Komite Kesehatan dan Layanan Kemanusiaan Dewan Kota canggih usulan ke dewan penuh tentang perpecahan, 2-2 suara. Diperkirakan akan menerima pemungutan suara penuh dari dewan pada bulan Oktober.
Vendor teknologi yang membuat kamera tubuh, drone, dan perangkat lunak yang mendukung teknologi tersebut membuat klaim yang berani tentang kemanjurannya, kemungkinan besar berharap untuk menciptakan narasi tentang keniscayaan terhadap teknologi yang sebagian besar belum teruji.
Kebijakan pengawasan utama tidak memadai
Ketika lembaga penegak hukum di Maine mengadopsi dan membeli teknologi kepolisian baru, sayangnya undang-undang dan peraturan yang mengatur teknologi tersebut tidak memadai. Ini adalah hal yang serius: teknologi kepolisian yang canggih dapat digunakan untuk menciptakan bukti palsu, mengawasi warga, dan menyebabkan penangkapan yang salah dan hukuman penjara.
Itu hukum yang berlaku di Maine Peraturan yang mengatur penggunaan drone oleh penegak hukum ditulis pada tahun 2015, jauh sebelum sebagian besar teknologi ini memasuki arus utama. Undang-undang tersebut sendiri memberikan beberapa pedoman yang berguna untuk penggunaan drone, namun hampir tidak ada mekanisme transparansi atau penegakan hukum yang menyertainya. Terlepas dari kenyataan bahwa teknologi itu sendiri dilengkapi dengan fitur pelaporan, pelacakan, dan analisis yang ekstensif, informasi ini tidak perlu diberikan kepada publik atau kepada Badan Legislatif Maine. Kita tidak tahu kapan lembaga-lembaga ini menerbangkan drone, ke mana tepatnya mereka pergi, apa yang mereka rekam, atau apakah penggunaan drone bisa dibenarkan. Faktanya, hanya sedikit yang bisa mendefinisikan “kesuksesan” dan tidak ada alat untuk membandingkan penerapan drone antar departemen. Kebijakan kita di seluruh negara bagian mengenai penggunaan AI dalam penegakan hukum bahkan lebih lemah: tidak ada kebijakan komprehensif yang menguraikan bagaimana, kapan, dan di mana departemen dapat menggunakan AI secara bertanggung jawab.
Rangkaian layanan yang terus berkembang
Meskipun menyatakan adanya kebutuhan mendesak akan teknologi canggih yang disediakan oleh perusahaan-perusahaan ini, kapasitas teknologi milik negara masih terbatas pada formulir kertas, PDF, dan dokumen. situs web yang sepertinya tidak berubah sejak tahun 1990-an. Saya telah bekerja di bidang teknologi sipil selama lebih dari sepuluh tahun, mengorganisir dan bekerja untuk meningkatkan dan membangun perangkat lunak untuk kepentingan publik. Kapasitas teknologi di Negara Bagian Maine, termasuk kemampuan untuk mempekerjakan dan mempertahankan manajer produk, insinyur perangkat lunak, dan desainer yang berkualitas, bisa dibilang semakin memburuk selama bertahun-tahun, bahkan ketika kontrak teknologi besar-besaran kepada vendor pihak ketiga mendapatkan persetujuan.
Cara banyak pemerintah daerah membeli dan memelihara perangkat lunak teknologi saat ini dapat disamakan dengan membeli mobil baru tanpa mengetahui apa pun tentang mobil, cara mengemudikannya, atau bahaya apa yang dapat ditimbulkannya. Anda memercayai dealer untuk membuat rekomendasi tentang model mana yang akan Anda dapatkan. Anda memercayai dealer untuk menambahkan fitur yang Anda butuhkan. Anda akan memercayai dealer untuk mengajari Anda cara mengemudi (tentu saja dengan biaya tertentu.) Dan, inilah masalahnya: harga mobil hanya setengah dari total biaya. Daripada hanya membeli peralatan, Anda juga memercayai dealer untuk memberi Anda rencana pemeliharaan dan perangkat lunak berkelanjutan yang hanya dapat disediakan oleh dealer. Paket tersebut tidak mahal saat ini, namun diperbarui setiap tiga tahun, idealnya selamanya. Apa yang salah?
Sama seperti headset VR realitas virtual yang bernilai hampir $70.000, argumen Departemen Kepolisian Portland untuk memperoleh drone tersebut didukung oleh fakta bahwa drone tersebut sudah dibayar! Pembayar pajak lokal tidak akan menanggung biaya tersebut karena berbagai hibah federal dan dana penyitaan menutupi tagihan tersebut.
Namun, itu hanya untuk mendapatkan teknologinya. Program drone juga mencakup seluruh rangkaian perangkat lunak dan pelatihan. Perusahaan-perusahaan ini menghasilkan lebih banyak uang dari perangkat lunak dan layanan mereka daripada perangkat keras. Polisi Portland tidak akan dapat memperbarui atau memperbaiki peralatan mereka sendiri: Semua biaya pemeliharaan, pelatihan, dan perangkat lunak ditanggung oleh vendor perangkat lunak yang model bisnisnya bergantung pada rangkaian layanan yang berkelanjutan dan terus berkembang.
Sayangnya, secara lokal dan di tingkat negara bagian, pemerintah tidak siap untuk mengatur dan mengelola teknologi seperti drone dan transkripsi AI. Komisaris Kabupaten Somerset baru saja disetujui kontrak besar senilai $840.000 dengan Axon, produsen yang sama yang membuat drone yang ingin dibeli Portland. Axon juga membuat kamera tubuh sekarang menjadi hal biasa di dalam departemen di seluruh negara bagian. Kurangnya regulasi dasar Maine adalah keuntungan Axon.
Siapa yang diawasi?
Dengan 29 drone di kepolisiannya, kota Chula Vista, California memberikan studi kasus untuk penggunaan drone dalam penegakan hukum. A Investigasi kabel diterbitkan pada bulan Juni menganalisis 10.000 catatan penerbangan drone polisi dan menemukan bahwa “jalur penerbangan drone menelusuri peta ketidaksetaraan kota, dengan penduduk yang lebih miskin mengalami lebih banyak paparan terhadap kamera dan rotor drone dibandingkan penduduk yang lebih kaya.”
Drone polisi memiliki kamera yang dapat dengan jelas menangkap wajah orang-orang dan memungkinkan badan tersebut untuk secara teratur merekam seluruh wilayah kota. Dapat dimengerti bahwa penduduk di lingkungan yang diawasi secara berlebihan di Chula Vista melaporkan bahwa mereka merasa terus-menerus diawasi. Logika melingkar mendukung upaya ini: carilah kejahatan dan Anda akan menemukannya. Gunakan bukti kejahatan tersebut untuk kemudian mendukung peningkatan pengawasan. Dalam kasus ini dan banyak kasus lainnya, privasi adalah hak yang hanya dinikmati oleh kelompok masyarakat kulit putih yang lebih kaya di kota tersebut.
Sebuah jalan ke depan
Berikut usulan yang masuk akal mengenai penggunaan teknologi di perkotaan: jangan membeli drone. Jangan izinkan penggunaan AI pada kamera tubuh. Jangan membeli headset augmented reality. Jangan membeli kamera atau sensor atau bahkan “lampu jalan pintar” sampai negara bagian Maine dan semua kota yang ingin memanfaatkan teknologi ini dapat membuktikan bahwa setiap pembuat kebijakan yang memberikan suara pada proposal tersebut dapat menjelaskan bagaimana dan mengapa data diperlukan. karya standar, apa itu Antarmuka Pemrograman Aplikasi (atau API), dan bagaimana model AI dilatih.
Oleh karena itu, kita memerlukan undang-undang hak privasi data yang komprehensif yang mencakup setiap orang di negara bagian tersebut. Privasi tidak boleh ditentukan oleh ras atau pendapatan dan harus dilindungi dan ditegakkan. Literasi teknologi dasar harus menjadi landasan dalam mengatur teknologi demi kepentingan publik. Tidaklah berlebihan untuk meminta para pembuat kebijakan dan lembaga yang menggunakan teknologi ini untuk memahami cara kerjanya dan implikasi penggunaannya di luar apa yang tercantum dalam brosur penjualan. Kita tidak boleh buta ketika menyangkut teknologi apa pun, terutama teknologi yang dapat mengawasi dan memenjarakan penduduk.
ANDA MEMBUAT PEKERJAAN KAMI MUNGKIN.