Microsoft telah mengubah kebijakannya untuk mencegah departemen kepolisian AS menggunakan AI pengenalan wajah melalui Layanan Azure OpenAI, yang dikelola oleh perusahaan tersebut, yang berfokus pada bisnis seputar teknologi OpenAI.
Bahasa yang ditambahkan pada hari Rabu ke persyaratan layanan Layanan Azure OpenAI melarang integrasi dengan Layanan Azure OpenAI digunakan oleh “atau” departemen kepolisian untuk pengenalan wajah di AS, termasuk integrasi dengan skrip OpenAI dan pengenalan suara.
RUU baru lainnya mencakup “setiap undang-undang di seluruh dunia,” dan melarang penggunaan “teknologi pengenalan wajah real-time” pada kamera ponsel, seperti kamera tubuh dan kamera depan, untuk mencoba mengidentifikasi seseorang “yang tidak terkendali, masuk- -Alam liar.”
Pembaruan ini terjadi seminggu setelah Axon, pembuat peralatan dan teknologi militer dan penegakan hukum, mengumumkan produk baru yang mendukung model teks generatif GPT-4 OpenAI untuk merangkum audio dari kamera tubuh. Para penentang dengan cepat menunjukkan potensi masalah, seperti halusinasi (bahkan model AI terbaik saat ini menciptakan kenyataan) dan prasangka berdasarkan pelatihan (yang terutama dipengaruhi oleh fakta bahwa orang kulit berwarna lebih mungkin dihentikan oleh polisi dibandingkan rekan-rekan mereka yang berkulit putih).
Tidak jelas apakah Axon menggunakan GPT-4 melalui Layanan Azure OpenAI, dan, jika demikian, apakah protokol yang diperbarui tersebut merupakan respons terhadap peluncuran komersial Axon. OpenAI sebelumnya telah melarang penggunaan modelnya untuk pengenalan wajah melalui API-nya. Kami telah menghubungi Axon, Microsoft, dan OpenAI dan akan memperbaruinya jika kami mendengarnya kembali.
Istilah baru ini memberikan ruang bagi perubahan Microsoft.
Larangan total terhadap penggunaan Layanan Azure OpenAI hanya berlaku di AS, bukan negara bagian, polisi. Dan itu tidak mempengaruhi pengenalan wajah yang dilakukan oleh jangan berhenti kamera masuk untuk dikendalikan lokasi, seperti back office (walaupun istilah tersebut melarang penggunaan pengenalan wajah oleh polisi AS).
Hal ini sejalan dengan inisiatif terbaru Microsoft dan mitra dekatnya OpenAI mengenai peraturan dan perjanjian keamanan terkait AI.
Pada bulan Januari, laporan Bloomberg mengungkapkan bahwa OpenAI bekerja sama dengan Pentagon dalam beberapa proyek termasuk kemampuan keamanan siber – beralih dari larangan awal untuk menyediakan AI-nya kepada militer. Di tempat lain, Microsoft telah meluncurkan alat pemrosesan grafis OpenAI, DALL-E, untuk membantu Departemen Pertahanan (DoD) mengembangkan perangkat lunak untuk operasi militer, menurut The Intercept.
Layanan Azure OpenAI tersedia di produk Microsoft Azure Government pada bulan Februari, menambahkan kemampuan kepatuhan dan manajemen untuk lembaga pemerintah termasuk penegakan hukum. Dalam sebuah postingan blog, Candice Ling, SVP pengawasan pemerintah federal Microsoft, berjanji bahwa Layanan Azure OpenAI akan “dilisensikan” kepada Departemen Pertahanan untuk mendukung lebih banyak operasi Departemen Pertahanan.
Memperbarui: Setelah dipublikasikan, Microsoft mengatakan bahwa perubahan awal pada aplikasi tersebut memiliki kelemahan, dan larangan tersebut sebenarnya berlaku untuk pengenalan wajah di AS.
