Di tengah kekhawatiran yang terus berlanjut tentang bagaimana teknologi besar memanfaatkan data dari masyarakat dan bisnis untuk melatih layanan AI, muncul badai di kalangan pengguna Slack yang frustrasi dengan bagaimana platform media sosial Salesforce bergerak maju dengan visi AI-nya.
Perusahaan ini, seperti banyak perusahaan lainnya, menggunakan datanya untuk melatih beberapa fitur AI barunya. Namun, tampaknya jika Anda tidak ingin Slack menggunakan data Anda, Anda perlu mengirim email ke perusahaan tersebut untuk memilih tidak ikut serta.
Dan rincian pertunangan telah dihapus yang tampaknya sudah ketinggalan zaman, rahasia-rahasia yang mengganggu yang tidak diperhatikan oleh siapa pun. Begitulah yang terjadi dengan Slack, sampai ada orang yang salah arah mempostingnya di situs web favorit komunitas pengembang, dan kemudian beritanya menyebar… dan itulah yang terjadi di sini.
Semuanya dimulai tadi malam, ketika sebuah postingan di Hacker News mengangkat masalah tentang bagaimana Slack melatih layanan AI-nya, dengan tautan langsung ke kebijakan privasinya, tidak diperlukan komentar lebih lanjut. Postingan tersebut memicu diskusi panjang – dan tampaknya menjadi berita bagi pengguna Slack – bahwa Slack secara otomatis mengikutsertakan pengguna dalam pelatihan AI-nya, dan bahwa Anda harus mengirimkan alamat email untuk tidak ikut serta.
Utas Hacker News menginspirasi beberapa diskusi dan pertanyaan di platform lain: Ada fitur baru dan populer yang disebut “Slack AI” yang memungkinkan pengguna untuk mencari jawaban dan meringkas utas diskusi, antara lain, tetapi mengapa hal itu tidak disebutkan satu kali pun . Dapatkah Anda mengacu pada kebijakan privasi dengan cara apa pun, bahkan mengklarifikasi apakah kebijakan privasi tersebut berlaku? Dan mengapa Slack mengacu pada ‘model global’ dan ‘model AI’?
Antara orang-orang yang bingung tentang di mana Slack menggunakan rahasia AI-nya, dan orang-orang yang terkejut dan marah dengan gagasan mengirim email untuk keluar – di perusahaan yang membuat banyak klaim tentang “Mengontrol data Anda” – Slack bersikap tidak jelas .
Kejutannya mungkin baru, tapi kata-katanya tidak. Menurut Internet Archive, istilah tersebut telah berlaku setidaknya sejak September 2023. (Kami telah meminta perusahaan untuk mengonfirmasi.)
Menurut kebijakan privasi, Slack menggunakan data pelanggan secara khusus untuk melatih “model global”, yang digunakan Slack untuk mempromosikan strategi dan rekomendasi emoji serta hasil pencarian. Slack memberi tahu kita bahwa penggunaan datanya memiliki batasan nyata.
“Slack memiliki pembelajaran mesin di platformnya untuk hal-hal seperti strategi emoji, saran, dan hasil pencarian. Kami tidak membangun atau melatih model ini sedemikian rupa sehingga mereka dapat mempelajari, menghafal, atau bahkan menciptakan kembali beberapa pengalaman pelanggan,” sebuah perusahaan juru bicara mengatakan kepada TechCrunch. Namun, kebijakan ini tampaknya tidak memenuhi seluruh kebutuhan perusahaan dan rencananya untuk melatih model AI.
Dalam pernyataannya, Slack mengatakan bahwa jika pelanggan berhenti mengikuti pelatihan data, mereka masih akan mendapatkan manfaat dari “perusahaan AI/ML yang paling terlatih di dunia”. Namun sekali lagi, dalam kasus ini, tidak jelas mengapa perusahaan menggunakan data pelanggan untuk mendukung hal-hal seperti ide emoji.
Perusahaan juga mengatakan tidak menggunakan pelanggan untuk melatih Slack AI.
“Slack AI adalah add-on yang dibeli secara terpisah yang menggunakan Model Bahasa Besar (LLM) namun tidak melatih LLM pada data pelanggan. Slack AI menggunakan LLM yang dihosting langsung dalam infrastruktur AWS Slack, sehingga informasi pelanggan tetap ada di dalam perusahaan dan tidak dibagikan dengan penyedia LLM. Hal ini memastikan bahwa informasi pelanggan tetap berada di tangan organisasi dan untuk digunakan oleh organisasi,” kata juru bicara tersebut.
Beberapa kebingungan perlu segera diselesaikan. Menanggapi kritik Threads dari insinyur dan penulis Gergely Orosz, insinyur Slack Aaron Maurer mengakui bahwa perusahaan perlu memperbarui situs untuk mencerminkan “bagaimana kebijakan privasi ini berlaku dengan Slack AI.”
Maurer menambahkan bahwa pernyataan tersebut ditulis pada saat perusahaan tidak memiliki Slack AI, dan aturan tersebut mencerminkan pekerjaan perusahaan dalam pencarian dan opini. Mungkin ada baiknya meninjau persyaratan untuk pembaruan di masa mendatang, mengingat kekacauan yang dilakukan Slack dengan AI-nya.
Konten di Slack adalah pengingat bahwa, di dunia perkembangan AI yang bergerak cepat, privasi pengguna tidak boleh dianggap remeh dan tindakan perusahaan harus menjelaskan dengan jelas bagaimana data digunakan atau tidak.
