Grok-1
BlogAboutCareersMarch 17 2024Open Release of Grok1私たちは、3140億のパラメータを持つMixtureofExpertsモデルGrok1の重みとアーキテクチャを公開しています
カテゴリーにリストされています:
GitHubツイッター人工知能
説明
Grok1は、xAIによってゼロからトレーニングされた3140億パラメータのMixtureofExpertsモデルです。このモデルは、Apache 2.0ライセンスの下でリリースされたベースモデルのチェックポイントであり、対話など特定のアプリケーション向けにファインチューニングされていません。モデルは、与えられたトークンに対して25%のウェイトがアクティブになるように設計されています。
使い方 Grok-1?
Grok1を使用するには、github.com/xaiorg/grokで提供されている手順に従ってください。このモデルは、テキストデータ処理タスクや実験に使用する準備が整っています。
の主な機能 Grok-1:
1️⃣
3140億パラメータを持つ大規模言語モデル
2️⃣
MixtureofExpertsモデルアーキテクチャ
3️⃣
xAIによるゼロからのトレーニング
4️⃣
Apache 2.0ライセンスでリリース
5️⃣
特定のアプリケーション向けにファインチューニングされていない
なぜ使用するのか Grok-1?
| # | ユースケース | ステータス | |
|---|---|---|---|
| # 1 | テキストデータ処理 | ✅ | |
| # 2 | 言語モデリング | ✅ | |
| # 3 | 研究と実験 | ✅ | |
開発者 Grok-1?
xAIは、高度なAIモデルとトレーニング技術に特化した企業であり、Grok1の製造元です。