AmazonBedrockにてOpenAI GPT-5.6の3モデル(Sol、Terra、Luna)が一般提供開始となり、同時に「明示的プロンプトキャッシング」機能が導入された。この機能により、プロンプトのどの部分をキャッシュして再利用するかを開発者が精密にコントロールできるようになる。主にAmazon BedrockでGPTワークロードを運用する企業・開発者に影響があり、推論コストの削減が期待できる。
読み込み中...
コメントを投稿するにはログインしてください