Pengawas privasi Google Uni Eropa telah membuka penyelidikan apakah mereka mematuhi undang-undang perlindungan data blok tersebut terkait penggunaan data pribadi untuk melatih kecerdasan buatan atau tidak.
Secara khusus, mereka sedang mempertimbangkan apakah pakar teknologi harus melakukan penilaian perlindungan data (DPIA) untuk secara serius mempertimbangkan risiko yang mungkin ditimbulkan oleh teknologi AI terhadap hak dan kebebasan orang-orang yang informasinya digunakan untuk melatih model tersebut.
Alat AI generatif terkenal karena menciptakan kekeliruan logika. Praktik tersebut, ditambah dengan kemampuan untuk memberikan informasi pribadi sesuai permintaan, menimbulkan risiko hukum bagi pembuatnya. Komisi Perlindungan Data (DPC) Irlandia, yang mengawasi kepatuhan Google terhadap Peraturan Perlindungan Data Umum (GDPR), mempunyai wewenang untuk mendenda Alphabet (perusahaan induk Google) hingga 4% per tahun di seluruh dunia atas pelanggaran apa pun.
Google telah mengembangkan beberapa alat AI, termasuk seluruh rangkaian model bahasa besar (LLM) yang disebut Gemini (sebelumnya Bard). Ia menggunakan teknologi untuk mendukung chatbot AI, termasuk meningkatkan pencarian web. Di antara alat AI yang dapat digunakan oleh konsumen adalah LLM Google yang disebut PaLM2, yang diperkenalkan tahun lalu pada konferensi I/O pengembangnya.
Cara Google mengembangkan AI versi pertamanya adalah apa yang menurut DPC Irlandia sedang diselidiki, berdasarkan Pasal 110 Undang-Undang Perlindungan Data Irlandia tahun 2018 yang menjadikan GDPR sebagai undang-undang nasional.
Pengajaran model GenAI seringkali lebih menuntut, dan jenis informasi yang diperoleh pengembang LLM, serta bagaimana dan di mana mereka memperolehnya, semakin banyak diteliti terkait masalah hukum, termasuk hak cipta dan privasi. .
Terakhir, data yang digunakan sebagai umpan AI yang berisi data pribadi UE tunduk pada undang-undang perlindungan data blok tersebut, baik yang diambil dari Internet atau diperoleh langsung dari pengguna. Inilah sebabnya sejumlah LLM menghadapi pertanyaan – dan persyaratan GDPR lainnya – tentang kepatuhan privasi, termasuk OpenAI, pengembang GPT (dan ChatGPT); dan Meta, yang memproduksi model Llama AI.
Elon Musk milik X juga telah menarik keluhan GDPR dan kemarahan DPC atas penggunaan data manusia dalam pelatihan AI – yang mengarah ke tindakan pengadilan dan langkah X untuk membatasi penyimpanan data tetapi tidak mengizinkannya. Meskipun X bisa saja menghadapi hukuman GDPR jika DPC memutuskan pemrosesan data pengguna untuk melatih alat AI-nya, Grok telah melanggar rezim tersebut.
Penelitian DPIA DPC tentang GenAI Google adalah inisiatif terbaru di bidang ini.
Penyelidikan juga menyangkut pertanyaan apakah Google mengikuti persyaratan yang harus dinilai, sesuai dengan Pasal 35 Peraturan Perlindungan Data Umum (Penilaian Dampak Perlindungan Data), sebelum revisi subjek data pribadi UE/EEA terkait hingga implementasi Model AI pertamanya, Pathways Language Model 2 (PaLM 2),” tulis DPC dalam siaran persnya.
Ia menambahkan bahwa DPIA dapat menjadi “penting dalam memastikan bahwa hak-hak dan kebebasan masyarakat dipertimbangkan dan dilindungi dengan benar ketika pemrosesan data pribadi dapat menimbulkan risiko yang serius.”
“Investigasi resmi ini adalah bagian dari upaya DPC, bekerja sama dengan mitra regulator EU/EEA (Wilayah Ekonomi Eropa), untuk meningkatkan pemrosesan data UE/EEA untuk pengembangan model dan sistem AI,” tambah DPC, merujuk pada terhadap upaya yang dilakukan dengan jaringan blok GDPR untuk mencapai konsensus tentang cara terbaik menerapkan undang-undang privasi pada alat GenAI.
Google dihubungi untuk menjawab pertanyaan DPC.
