Groq, sebuah startup yang mengembangkan chip untuk menjalankan model AI lebih cepat daripada prosesor konvensional, mengatakan pada hari Senin bahwa pihaknya mengumpulkan $640 juta dalam putaran pendanaan baru yang dipimpin oleh Blackrock. Neuberger Berman, Type One Ventures, Cisco, KDDI dan Samsung Catalyst Fund juga berpartisipasi.
Pembagian tersebut, yang membuat total Groq menjadi lebih dari $1 miliar dan menempatkan perusahaan pada $2,8 miliar, adalah kesuksesan terbesar bagi Groq, yang pada awalnya berupaya mengumpulkan $300 juta dengan harga yang sedikit lebih rendah ($2,5 miliar). Nilai ini melampaui penilaian Groq sebelumnya (~$1 miliar) pada April 2021, ketika perusahaan mengumpulkan $300 juta dalam putaran yang dipimpin oleh Tiger Global Management dan D1 Capital Partners.
Kepala ilmuwan Meta AI Yann LeCun akan bertindak sebagai penasihat teknis untuk Groq dan Stuart Pann, mantan kepala bisnis pengecoran Intel dan mantan CIO di HP, akan bergabung dengan startup tersebut sebagai chief operating officer, Groq juga mengumumkan hari ini. Pemilihan LeCun tidak terduga, mengingat investasi Meta pada chip AI-nya – tetapi tidak diragukan lagi hal ini memberi Groq mitra yang kuat dalam hal ini.
Groq, yang go public pada tahun 2016, sedang mengembangkan mesin pengindeksan LPU (unit pemrosesan bahasa). Perusahaan mengatakan LPU-nya dapat menjalankan model AI yang ada dengan arsitektur serupa dengan ChatGPT dan GPT-4o OpenAI dengan kecepatan 10x dan kekuatan 10x.
Klaim ketenaran Groq Jonathan Ross membantu merancang unit pemrosesan tensor (TPU), perangkat akselerator AI Google yang digunakan untuk melatih dan menjalankan model. Ross bekerja sama dengan Douglas Wightman, seorang pengusaha dan mantan insinyur di laboratorium X moonshot perusahaan induk Google, Alphabet, untuk mendirikan Groq hampir satu dekade lalu.
Groq menawarkan platform pembangkit listrik LPU yang disebut GroqCloud yang menawarkan model “terbuka” seperti keluarga Llama 3.1 Meta, Gemma Google, Whisper OpenAI, dan Mixtral Mistral, serta API yang memungkinkan pelanggan menggunakan chip mereka di cloud. (Groq juga memiliki platform untuk chatbot bertenaga AI, GroqChat, yang diluncurkan akhir tahun lalu.) Pada bulan Juli, GroqCloud memiliki lebih dari 356.000 prospek; Groq mengatakan sebagian dari hasil putaran ini akan digunakan untuk memperluas kapasitas dan menambah warna dan fitur baru.
“Sebagian besar pengembang ini berada di perusahaan besar,” Stuart Pann, COO Groq, mengatakan kepada TechCrunch. “Menurut perkiraan kami, lebih dari 75% dari Fortune 100 terwakili.”
Seiring dengan kemajuan AI yang terus berlanjut, Groq menghadapi persaingan yang semakin ketat dari pesaing baru chip AI dan Nvidia, kekuatan tangguh di sektor perangkat keras AI.
Nvidia menguasai sekitar 70% hingga 95% pasar chip AI yang digunakan untuk melatih dan menerapkan model AI, dan perusahaan mengambil langkah agresif untuk mempertahankan dominasinya.
Nvidia berkomitmen untuk merilis desain chip AI baru setiap tahun, bukan dua tahun sekali seperti sebelumnya. Dan dikatakan akan meluncurkan bisnis baru yang akan fokus pada pembuatan chip untuk perusahaan komputasi awan dan lainnya, termasuk alat AI.
Selain Nvidia, Groq bersaing dengan Amazon, Google, dan Microsoft, yang semuanya menawarkan – atau akan segera – chip utama untuk layanan AI berbasis cloud. Amazon memiliki prosesornya sendiri, Trainium, Inferentia, dan Graviton, yang tersedia melalui AWS; Pelanggan Google Cloud dapat menggunakan TPU yang disebutkan di atas dan, pada akhirnya, chip Axion Google; dan Microsoft baru-baru ini meluncurkan acara Azure untuk melihat pratinjau CPU Cobalt 100, dengan acara Maia 100 AI Accelerator yang akan diadakan dalam beberapa bulan ke depan.
Groq mungkin juga mempertimbangkan Arm, Intel, AMD dan sejumlah pesaing awal di pasar chip AI yang dapat mencapai penjualan tahunan $400 miliar dalam lima tahun ke depan, menurut beberapa ahli. Arm dan AMD khususnya memiliki bisnis chip AI yang sedang berkembang, berkat meningkatnya jumlah uang yang dibelanjakan vendor cloud untuk memenuhi permintaan AI buatan.
D-Matrix akhir tahun lalu mengumpulkan $110 juta untuk memasarkan apa yang diklaimnya sebagai platform pertama dari jenisnya. Pada bulan Juni, Etched menjadi perusahaan swasta dengan dana $120 juta untuk sebuah prosesor yang dirancang untuk mempercepat arsitektur AI saat ini, yaitu switch. Masayoshi Son dari SoftBank mengatakan dia ingin mengumpulkan $100 miliar untuk membuat chip guna bersaing dengan Nvidia. Dan OpenAI dikatakan sedang melakukan pembicaraan dengan perusahaan keuangan untuk mengembangkan cara mengembangkan alat AI.
Untuk menciptakan ceruk pasarnya, Groq berinvestasi besar-besaran dalam jangkauan bisnis dan pemerintah.
Pada bulan Maret, Groq mengakuisisi Definitive Intelligence, penyedia solusi AI bisnis yang berbasis di Palo Alto, untuk menciptakan bisnis baru bernama Groq Systems. Dalam lingkup Groq Systems terdapat organisasi layanan, termasuk lembaga pemerintah AS dan negara-negara independen, yang ingin menambahkan chip Groq ke fasilitas yang ada atau membangun pusat data baru menggunakan prosesor Groq.
Baru-baru ini, Groq bermitra dengan Carahsoft, sebuah perusahaan IT pemerintah, untuk menjual solusinya kepada pelanggan publik melalui pengecer Carahsoft, dan startup tersebut memiliki surat niat untuk memasang puluhan ribu LPU di perusahaan Eropa Earth Wind & Power’s Norwegia. Pusat Data.
Groq juga bermitra dengan perusahaan konsultan Arab Saudi Aramco Digital untuk memasang LPU di pusat data masa depan di Timur Tengah.
Pada saat yang sama dengan membangun hubungan pelanggan, Groq yang berbasis di Mountain View, California sedang bergerak menuju generasi chip berikutnya. Agustus lalu, perusahaan mengumumkan akan bermitra dengan perusahaan semikonduktor Global Foundries untuk memproduksi LPU 4nm, yang diharapkan menawarkan nilai dan kinerja lebih baik daripada chip 13nm generasi pertama Groq.
Groq mengatakan pihaknya berencana mengirimkan lebih dari 108,000 LPU pada akhir Q1 2025.
