Grok-1
BlogAboutCareersMarch 17 2024Open Release of Grok1Nous publions les poids et l'architecture de notre modèle Grok1 MixtureofExperts de 314 milliards de paramètres
Listé dans les catégories:
GitHubTwitterIntelligence artificielle
Description
Grok1 est un modèle MixtureofExperts de 314 milliards de paramètres entraîné à partir de zéro par xAI. Il s'agit d'un point de contrôle de modèle de base publié sous la licence Apache 2.0, non affiné pour une application spécifique telle que le dialogue. Le modèle est conçu pour le traitement des données textuelles avec 25% des poids actifs sur un jeton donné.
Comment utiliser Grok-1?
Pour utiliser Grok1, suivez les instructions fournies sur github.com/xaiorg/grok. Le modèle est prêt pour les tâches de traitement des données textuelles et l'expérimentation.
Fonctionnalités principales de Grok-1:
1️⃣
Grand modèle de langue avec 314 milliards de paramètres
2️⃣
Architecture de modèle MixtureofExperts
3️⃣
Entraîné à partir de zéro par xAI
4️⃣
Publié sous licence Apache 2.0
5️⃣
Non affiné pour des applications spécifiques
Pourquoi pourrait-il être utilisé Grok-1?
| # | Cas d'utilisation | Statut | |
|---|---|---|---|
| # 1 | Traitement des données textuelles | ✅ | |
| # 2 | Modélisation linguistique | ✅ | |
| # 3 | Recherche et expérimentation | ✅ | |
Développé par Grok-1?
xAI est le créateur de Grok1, une entreprise spécialisée dans les modèles d'IA avancés et les techniques de formation.