Spreading the load: How Salesforce met Multi-AZ HA with SageMaker Inference Components

AI 要約

SalesforceはAmazon SageMaker AIの推論コンポーネント配置機能（SchedulingConfigパラメータ）を活用し、複数のアベイラビリティゾーン（Multi-AZ）にモデルのコピーを分散配置することに成功した。これにより、複数モデルの共同ホスティングによるコスト効率を維持しながら、Multi-AZ高可用性のコンプライアンス要件を同時に満たすことが可能になった。クラウド上でAIモデルを大規模運用する企業にとって、可用性とコスト最適化を両立する重要な事例となる。