Asayomu Tech
注目★★★★Hugging Face Blog

NeoMME 260M/800M登場、文書検索を255分の1に圧縮

30秒で把握

  • 1H Company がNeoMME 260M/800Mを公開、画像とテキストを単一Encoderで処理
  • 2NeoMME-Retriever 260Mは毎秒51ページ、ColModernVBERT比で約2倍の速度
  • 3索引容量を1.5MBから6kBへ255分の1に圧縮、nDCG@10を95%以上維持

要約

H Company は、画像とテキストを単一の双方向Transformerで処理する多言語・マルチモーダルEncoder「NeoMME」260M版と800M版を公開した。既存の事前学習済み画像塔や因果言語モデルを使わず、32×32の画像パッチとテキストを同じ経路で処理する。検索向けのNeoMME-Retrieverは1回の推論でdense表現とlate-interaction表現を生成し、ViDoRe v3で260M版がnDCG@10 0.523を達成した。2048×2048入力ではNVIDIA L40S上で毎秒約51ページを符号化し、ColModernVBERTの約2倍となった。階層的token poolingと非対称量子化により、late-interaction索引を1ページ約1.5MBから6kBへ255分の1に削減し、ベースラインのnDCG@10を95%以上維持した。全チェックポイントをApache 2.0で公開し、Hugging Face Transformersに対応する。

あなたへの影響

画像PDF検索やvisual RAGを運用する日本のエンジニアは、NeoMME-Retrieverの260M/800M版を既存検索基盤と比較検証し、速度・索引容量・検索精度を測定すべき。

推奨:late-interactionはクエリと画像領域の細かな対応を保持する多ベクトル検索方式で、圧縮設定は必要精度とストレージ予算に合わせて選ぶ必要がある。

詳細を読む → 元記事へ※ 本文は元記事をご確認ください (asayomu は要約のみ提供)

関連する記事

※ 外部記事の権利は原著作者に帰属します。著作権削除要請は copyright@asayomu.jp までご連絡ください(受領確認 24h・実処理 72h 以内)。