Ampere dan Qualcomm bukanlah mitra yang paling terkenal. Keduanya menawarkan chip Arm yang memberi daya pada server pusat data (walaupun pasar terbesar Qualcomm tetap mobile). Namun seperti yang diumumkan oleh kedua perusahaan hari ini, mereka kini bekerja sama untuk menyediakan server yang berfokus pada AI yang menggunakan CPU Ampere dan chip inferensi AI Cloud AI 100 Ultra dari Qualcomm untuk menjalankan – bukan melatih – model.
Seperti pembuat chip lainnya, Ampere ingin memanfaatkan ledakan AI. Namun, fokus perusahaan adalah pada chip yang lebih cepat dan efisien, jadi meskipun mereka dapat menggunakan Arm IP untuk menambahkan beberapa fitur ini ke chipnya, hal ini bukanlah keahlian yang diperlukan. Inilah sebabnya Ampere memutuskan untuk bekerja dengan Qualcomm (dan SuperMicro untuk menggabungkan kedua solusi tersebut), kata CTO Arm Jeff Wittich kepada saya.
“Idenya adalah meskipun saya menunjukkan kepada Anda praktik terbaik CPU Ampere yang menjalankan AI pada CPU saja, jika Anda ingin menskalakan model yang sangat besar – misalnya 100 miliar model – seperti semua aplikasi lainnya, AI tidak cukup untuk semuanya. ,’ kata Wittich kepada TechCrunch. “Kami telah bekerja sama dengan Qualcomm dalam solusi ini, menggabungkan CPU Ampere berkinerja tinggi kami untuk menangani banyak tugas inferensi Anda, dan kemudian menggunakan kartu kinerja mereka, kami memiliki solusi tingkat server.”
Terkait kerja sama dengan Qualcomm, Wittich mengatakan Ampere ingin menggabungkan metode produksi terbaik.
“(R)kemitraan terbaik yang pernah kami miliki adalah dengan Qualcomm di sini,” katanya. “Ini adalah salah satu hal yang sedang kami kerjakan, menurut saya kami memiliki minat yang sama, dan itulah mengapa menurut saya ini menarik. Mereka membangun solusi yang nyata, efektif, dan banyak segmen pasar. Kami menciptakan solusi yang sangat efektif untuk CPU server.”
Kesepakatan Qualcomm adalah bagian dari pembaruan jalan tahunan Ampere. Salah satu peta tersebut adalah chip AmpereOne 256-core baru, yang dibuat menggunakan proses 3nm terbaru. Chip baru tersebut belum tersedia, namun Wittich mengatakan chip tersebut sudah siap dan akan dirilis akhir tahun ini.
Selain inti ekstra, keunggulan chip AmpereOne generasi baru ini adalah RAM DDR5 12 saluran, yang memungkinkan pelanggan pusat data Ampere mengelola memori pengguna dengan lebih baik sesuai dengan kebutuhan mereka.
Produk di sini bukan hanya kinerja, namun juga konsumsi daya dan biaya menjalankan banyak chip. Hal ini terutama berlaku dalam hal kontrol AI, di mana Ampere suka membandingkan kinerjanya dengan GPU A10 Nvidia.
Perlu dicatat bahwa Ampere tidak memasukkan chip apa pun yang ada untuk mendukung fitur-fitur baru ini. Wittich membenarkan bahwa chip lama pun masih memiliki banyak kasus penggunaan.
Ampere mengumumkan kesepakatan lain hari ini. Perusahaan ini bekerja sama dengan NETINT untuk mengembangkan sistem komunikasi yang menggabungkan CPU Ampere dengan chip video NETINT. Server baru ini akan dapat melakukan streaming video langsung 360 derajat secara paralel, serta menggunakan model ucapan-ke-teks Whisper OpenAI untuk membuat subtitle 40 aliran.
“Kami memulai proses ini enam tahun lalu karena jelas bahwa ini adalah cara yang tepat,” kata CEO Ampere Renee James dalam pengumuman hari ini. “Daya rendah biasanya disamakan dengan performa rendah. Ampere telah membuktikan hal tersebut. Kami telah memelopori efisiensi komputasi dan memberikan performa melebihi CPU standar dalam wadah yang ringkas.”
