Groq (à ne pas confondre avec Grok de xAI) est un fournisseur d'inférence ultra-rapide qui conçoit son propre matériel, les LPU (Language Processing Units). Via GroqCloud, il exécute des modèles open source (Llama, Qwen, GPT-OSS…) à des vitesses record — 280 à 1000 tokens/seconde — pour un coût très bas. Groq ne crée pas de modèles : il les fait tourner plus vite que quiconque.
Capacités IA
Inférence à très faible latence de modèles open source (Llama 3.x/4, Qwen3, GPT-OSS…), streaming rapide, batch API, prompt caching. Idéal pour les agents et applications temps réel.
Canaux supportés
API GroqCloud (compatible OpenAI), SDK ; s'intègre dans tout backend ou orchestrateur (n8n, LangChain).
Intégrations
API compatible OpenAI (migration aisée), intégrations LangChain/LlamaIndex ; catalogue limité aux modèles open source (pas de GPT-4o, Claude ni Gemini).
Personnalisation & Déploiement
Service géré (cloud) ; pas d'infrastructure à administrer ; déploiement entreprise sur devis.
Sécurité & Conformité
Service cloud US ; contrôles d'accès par clé API. À évaluer selon les exigences de résidence des données.
Tarification
À l'usage : ~0,05 à 0,90 $ par million de tokens selon le modèle (souvent 10 à 20× moins cher que les modèles propriétaires équivalents). Tier gratuit utilisable (30 req/min, sans carte). Batch -50 %, prompt caching -50 %.
Support & Maintenance
Documentation développeur claire, support communautaire et entreprise ; service géré (maintenance transparente).
Évolutivité & Robustesse
Vitesse d'inférence de premier plan grâce aux LPU ; conçu pour la montée en charge ; disponibilité cloud. Dépend du catalogue open source supporté.
UX & Analyse
Prise en main très simple (API compatible OpenAI), console claire ; l'atout maître est la vitesse ressentie. Technicité modérée.
Témoignages & Avis
Réputé pour des performances de vitesse spectaculaires ; plebiscité pour les cas d'usage temps réel et les agents. Limite reconnue : uniquement des modèles open source.