Answer.AIがBERTの後継となる次世代エンコーダーモデル「ModernBERT」を発表
要点：Answer.AIとLightOnが共同開発したModernBERTは、Flash AttentionやRoPEなどの最新技術を導入し、BERTを大幅に上回る性能を実現しました。最大8192トークンのコンテキスト長に対応し、Hugging Faceから即座に利用可能です。
日本の事業者にとって、なぜ重要？
RAGや分類タスクで長年標準だったBERTの代替として、処理速度と精度の向上が期待できるため、既存の自然言語処理パイプラインの刷新を検討する際の重要な選択肢となります。
元記事
Finally, a Replacement for BERT: Introducing ModernBERT
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元：AI HOT