VMware Cloud Foundation
Llama3 の Private AI Model Gallery へのオンボーディング
モデルのガバナンスは簡単ではありません。モデルの安全なオンボーディングやスキャン、継続的なアクセス コントロールといったデプロイや管理における懸念など、モデルを管理するうえでの課題は数多くあります。そこで VMware Explore 2024 では、VMware Private AI Foundation with NVIDIA の新しい重要な機能として Model Gallery を紹介しました。 この記事では、Llama-3-8b-instruct の Model Gallery への安全なオンボーディング、およびプライベートクラウドにおけるガバナンス戦略とデプロイについて解説します。ただし Model Gallery ではほかにも多くのことを行えます。Open Container Initiative...