Mistral、3B パラメータで7倍大きなモデルに匹敵するマルチモーダル安全監視モデル Shieldstral をオープンソース化

要約

Mistral は Shieldstral という 3B パラメータのオープンウェイツ・マルチモーダル安全分類器を Apache 2.0 でリリースした。従来のガードレール・モデルと異なり、推論時に自然言語ポリシーを受け付け、再学習なしにテキストと画像の安全性を統一的に評価できる。テキスト安全性では同サイズの最大 7 倍のモデルに匹敵・マルチモーダル監視で最先端性能を達成し、単一の 16GB NVIDIA GPU で動作する。