Google DeepmindはGemma 3を発表しました、オープンソースの言語モデルの新しいバージョン。 Gemma 3は、短い画像とビデオを処理する機能、コンテキストの管理、140を超える言語のサポートなど、以前のバージョンと比較して重要な改善を導入しています。
Gemma 3には4つの次元があり、10億から270億まで変化する多数のパラメーターがあり、2つの主要なバージョンで使用できます：特定のタスクのためのPre-eas ModelsとEducatedモデル。 10億パラメーターバージョンは、Gemmaファミリの最初のものであり、非常に軽いものであり、計算容量が低下したデバイスに適しています。
最も重要なニュースの1つはですマルチモダリティの統合、Gemma 3がテキストだけでなく、短い画像やビデオも詳しく説明できるようになります。この機能は、エンコーダーSiglipによって可能になり、視覚コンテンツをモデルで理解できる内部表現に変換します。 Melutodityのおかげで、Gemma 3は画像を分析し、オブジェクトを識別し、視覚コンテンツに基づいて質問に答えることができ、画像のテキストを読んで解釈することもできます。
Gemma 3は、以前のバージョンよりも広いコンテキストを管理でき、1回のセッションでは最大128,000トークンです。これは、モデルがより長いテキストの一貫性を維持できることを意味し、広範な会話や複雑なドキュメントで分析および理解する能力を向上させることを意味します。言語のサポートは大幅に拡大され、GEMMMA 2でサポートされている80の言語からGEM 3の140以上の言語に移行しています。この拡張には、Gemini 2.0の採用が採用された新しいトークン剤の採用が伴います。これにより、モデルは非英語の言語構造をより正確に管理し、翻訳の品質を改善できます。
Gemma 3は、問題解決とコーディングのための特定の最適化も導入していますが、それは「推論」モデルではなく、つまり思考チェーンではありません。改善は、強化学習に基づく高度なトレーニング戦略の結果です。このモデルは、人間および非人間のフィードバックを使用した蒸留および学習技術を使用して改善されました。
Googleはまた、Gemma 3の量子化されたバージョンを利用可能にしました。これにより、応答の品質を損なうことなくメモリ消費を削減します。この機能により、モデルは、単一のGPUやTPUなどのあまり強力なハードウェアでも実行でき、より多くの視聴者がアクセスできるようになります。
技術的な進歩に加えて、Gemma 3は、安全性と信頼性を高めるためのツールも導入しています。メインモデルとともに、Googleは40億パラメーターのうち3つのGemma 3に基づいた制御システムであるShieldGengemma 2 Parallelを起動しました。このツールは、視覚コンテンツを緩和するように設計されており、潜在的に危険、暴力、または不適切な画像を識別およびフィルタリングします。
新しいGemma 3モデルは、Face、Ollama、Jaxなどの多数のオープンソースフレームワークと互換性があり、開発者がプロジェクトに簡単に統合できるようにします。最も奇妙な「普通のユーザー」は、代わりにGoogleを通じてGemma 3 27bを試してみることができます。
ニュースについてどう思いますか？コメントで教えてください。その間。