オープンソースAIの最新情報

Metaの最新モデルであるLlama 4 MaverickとLlama 4 ScoutがHugging Faceプラットフォーム上で公開されました。詳細な仕様については公式ブログにて確認可能です。

Googleは、多言語対応と長大なコンテキスト処理能力を備えた新しいオープンモデルGemma 3をHugging Faceで公開しました。マルチモーダル機能が強化された最新のオープンモデルです。

Answer.AIとLightOnが共同開発したModernBERTは、Flash AttentionやRoPEなどの最新技術を導入し、BERTを大幅に上回る性能を実現しました。最大8192トークンのコンテキスト長に対応し、Hugging Faceから即座に利用可能です。

Answer.AIとLightOnは、BERTを置き換える新しいエンコーダーモデル「ModernBERT」を発表しました。BaseとLargeの2サイズ展開で、最大8192トークンのシーケンス長に対応し、従来のBERTを上回る性能を実現しています。

Metaは405B、70B、8Bのパラメータを持つ「Llama 3.1」シリーズを公開しました。多言語対応が強化され、より長いコンテキストの処理が可能になっています。

Googleが新たに公開したオープンLLM「Gemma 2」について、Hugging Faceが活用ガイドを公開しました。開発者がモデルを導入するための技術的な情報が提供されています。

Metaが開発した大規模言語モデルLlama 2がリリースされ、Hugging Faceプラットフォームを通じて利用可能となりました。

OpenAIは、人間と同等の精度と堅牢性を備えた音声認識モデルWhisperを公開しました。多言語対応のニューラルネットワークとして広く利用可能です。

Hugging FaceとBigScienceは、46の自然言語と13のプログラミング言語に対応した1760億パラメータの巨大言語モデルBLOOMを公開しました。世界中の研究者が協力し、フランスのスーパーコンピュータを用いて開発されました。

原始的なオーディオ形式で音楽を生成するニューラルネットワーク「Jukebox」が公開されました。多様なジャンルやアーティストのスタイルを模倣し、歌声の生成も可能です。

OpenAIはGPT-2の774Mパラメータ版を公開し、段階的なリリースを通じてモデルの悪用リスクと社会的な影響を調査した。また、組織間でのモデル共有を促進するための法的枠組みや、研究コミュニティとの連携に関するガイドラインも発表した。

Transformerと教師なし事前学習を組み合わせた汎用システムが、複数の言語タスクで最高精度（SOTA）を記録しました。OpenAIはこの成果をオープンソースとして公開し、さらなる研究の発展を促しています。