AI adalah pasar terbaru dan paling haus akan superkomputer, dan pengembang bekerja sepanjang waktu untuk memaksimalkan kinerja setiap wattnya. Startup asal Swedia, ZeroPoint, dengan pendanaan baru sebesar €5 juta ($5,5 juta USD), ingin membantu mereka dengan cara baru untuk meningkatkan memori pada tingkat nanodetik – dan ya, hal ini memang sulit kedengarannya.
Idenya adalah ini: menyimpan data tanpa batas waktu sebelum dimasukkan ke dalam RAM, dan membekukannya setelahnya, dan memperluas sistem memori sebesar 50% atau lebih hanya dengan menambahkan chip kecil ke dalam chip.
Kompresi, tentu saja, merupakan teknologi dasar komputer; seperti yang dikatakan CEO ZeroPoint Klas Moreau (di sebelah kiri foto di atas, bersama salah satu pendiri Per Stenström dan Angelos Arelakis), “Saat ini kita tidak dapat menyimpan data di hard drive tanpa kompresi. Penelitian menunjukkan bahwa 70% data yang disimpan tidak diperlukan. Jadi mengapa kita tidak mengompres memorinya?”
Jawabannya adalah kita tidak memilikinya waktu. Mengompresi file besar untuk disimpan (atau mengompresinya, seperti yang kami katakan dengan video atau audio) adalah tugas yang dapat memakan waktu beberapa detik, menit, atau jam tergantung kebutuhan Anda. Namun data melewati memori dalam sepersekian detik, diproses dan dikeluarkan secepat yang dapat dilakukan CPU. Penundaan bahkan satu mikrodetik, menghilangkan bit “yang tidak perlu” dari rangkaian data yang masuk ke memori, dapat berakibat fatal bagi pengoperasian.
Memori tidak selalu berkembang dengan kecepatan yang sama dengan kecepatan CPU, meskipun keduanya (bersama dengan banyak komponen chip lainnya) saling terkait erat. Jika prosesor terlalu lambat, data disimpan dalam memori – dan jika memori terlalu lambat, prosesor membuang-buang waktu untuk menunggu tumpukan bit berikutnya. Semuanya berjalan selaras, seperti yang Anda harapkan.
Meskipun kompresi memori yang sangat cepat telah ditunjukkan, hal ini menyebabkan masalah kedua: Pada dasarnya, Anda harus mengunduh data secepat Anda menyimpannya, dan mengembalikannya ke keadaan semula, atau sistem tidak tahu cara memperbaruinya. untuk menahannya. Jadi kecuali Anda mengubah seluruh arsitektur Anda ke sistem memori baru, itu tidak ada gunanya.
ZeroPoint mengklaim telah memecahkan semua masalah ini dengan kompresi memori tingkat rendah yang sangat cepat yang tidak memerlukan perubahan nyata pada bagian komputer lainnya. Anda menambahkan teknologi mereka ke chip Anda, dan sepertinya Anda telah meningkatkan memori Anda.
Meskipun seluk beluknya mungkin sulit dijangkau oleh orang-orang di bagian ini, dasar-dasarnya cukup mudah dipahami oleh mereka yang belum tahu, seperti yang dibuktikan Moreau ketika dia menjelaskannya kepada saya.
“Apa yang kami lakukan adalah mengambil sejumlah kecil data – sebuah baris cache, terkadang 512 bit – dan mengenali pola di dalamnya,” katanya. “Itu adalah jenis data, jadi Anda memiliki informasi yang tidak lengkap, informasi yang terbatas. Itu tergantung pada datanya: Ketika tidak konsisten, itu sangat terbatas. Namun ketika kita melihat lebih banyak data, kita melihat bahwa kita berada di posisi 2-4. kali (lebih banyak data dari sebelumnya).
Bukan rahasia lagi kalau memori bisa dikompresi. Moreau mengatakan bahwa semua orang di layar lebar tahu tentang potensi tersebut (dia menunjukkan kepada saya sebuah makalah dari tahun 2012 yang menunjukkannya), namun mereka kebanyakan menulisnya sebagai sebuah studi, tidak dapat mengukurnya. Namun ZeroPoint, katanya, telah memecahkan masalah pemadatan – mengatur ulang data yang dikompresi agar lebih efisien – dan transparansi, sehingga teknologi tersebut tidak hanya berfungsi tetapi bekerja dengan lancar pada sistem yang ada. Dan itu semua terjadi dalam beberapa nanodetik.
“Sebagian besar teknologi integrasi, perangkat lunak dan perangkat keras, berada pada urutan ribuan nanodetik. CXL (compute express link, standar interkoneksi berkecepatan tinggi) dapat menurunkannya hingga ratusan,” kata Moreau. “Kita bisa menurunkannya menjadi 3 atau 4.”
Berikut CTO Angelos Arelakis yang menjelaskan pendekatannya:
Inovasi ZeroPoint tepat pada waktunya, karena perusahaan di seluruh dunia mencari komputer yang lebih cepat dan lebih murah yang dapat melatih model AI generasi berikutnya. Kebanyakan hyperscaler (jika kita menyebutnya demikian) menyukai teknologi apa pun yang dapat memberi mereka lebih banyak daya per watt atau memungkinkan mereka menghemat sedikit uang.
Peringatan pertama untuk semua ini adalah, seperti disebutkan, ini harus diintegrasikan pada chip dan diintegrasikan dari awal – Anda tidak bisa begitu saja mengeluarkan dongle ZeroPoint dari soketnya. Untuk mencapai tujuan tersebut, perusahaan ini bekerja sama dengan pembuat chip dan integrator untuk melisensikan teknologi dan desain perangkat keras ke dalam chip yang paling sering kami gunakan di industri komputer.
Tentu saja itu adalah Nvidia dan Intel Anda, tetapi semakin banyak perusahaan seperti Meta, Google, dan Apple, yang telah membangun perangkat komputasi untuk menjalankan AI dan fungsi berbiaya rendah lainnya secara internal. ZeroPoint memposisikan teknologinya sebagai teknologi yang menghemat biaya, bukan yang premium: Tentu saja, dengan meningkatkan efisiensi memori, teknologi ini akan memberikan hasil dalam waktu singkat.
Putaran €5 juta A, yang baru saja ditutup, dipimpin oleh Matterwave Ventures, dengan Industrifonden sebagai pemimpin Nordik, serta investor lama Climentum Capital dan Chalmers Ventures juga.
Moreau mengatakan investasi tersebut akan memungkinkan mereka untuk berekspansi ke pasar Amerika, serta menggandakan pasar Swedia, yang sudah mereka targetkan.
