Amazon Bedrock 定價

定價範例

• AI21 Labs

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 AI21 的 Jurassic-2 Mid 模型將輸入文字的 10,000 個字符輸入結果，總結為 2000 個字符的輸出結果。
  

  產生的總成本 = 10,000 個字符/1000 * 0.0125 USD + 2000 個字符/1000 * 0.0125 USD = 0.15 USD
  

• Amazon

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Amazon Titan Text Lite 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.0003 USD + 1000 個字符/1000 * 0.0004 USD = 0.001 USD。

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Amazon Titan 影像產生器模型產生 1000 個 1024 x 1024 大小的標準品質映像。

  產生的總成本 = 1000 個映像 * 每個映像 0.01 USD = 10 USD

  自訂 (微調和持續預先訓練) 定價

  應用程式開發人員使用 1000 個影像/文字配對自訂 Amazon Titan 影像產生模型。訓練後，開發人員會使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  每月微調成本為：微調訓練 (0.005 * 500 * 64 USD)，其中 0.005 USD 是每張看到之影像的定價，500 是步驟數，64 是批次大小 + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (21 USD) = 160 + 1.95 + 21 USD = 182.95 USD
  

  佈建輸送量定價

  應用程式開發人員購買兩個 Amazon Titan Text Express 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本 = 2 個模型單元 * 18.40 USD/小時 * 24 小時 * 31 天 = 27,379.20 USD

  應用程式開發人員購買一個基礎 Amazon Titan 影像產生器模型的模型單元，且使用期限為 1 個月。

  產生的總成本 = 1 個模型單元 * 16.20 USD * 24 小時 * 31 天 = 12,052.80 USD

• Anthropic

  隨需定價

  應用程式開發人員針對美國西部 (奧勒岡) 地區的 Amazon Bedrock 發出下列 API 呼叫：要求 Anthropic 的 Claude 模型將輸入文字的 11,000 個字符輸入結果，總結為 4000 個字符的輸出結果。

  產生的總成本 = 11,000 個字符/1000 * 0.008 USD + 4000 個字符/1000 * 0.024 USD = 0.088 USD + 0.096 USD = 0.184 USD
  

  佈建輸送量定價

  應用程式開發人員在美國西部 (奧勒岡) 地區購買一個 Anthropic Claude Instant 的模型單元：
  

  每月產生的總成本 = 1 個模型單元 * 39.60 USD * 24 小時 * 31 天 = 29,462.40 USD

• Cohere

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Command 模型將輸入文字的 6000 個字符輸入結果，總結為 2000 個字符的輸出結果。

  產生的總成本 = 6000 個字符/1,000 * 0.0015 USD + 2000 個字符/1,000 * 0.0020 USD = 0.013 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Command - Light 模型將輸入文字的 6000 個字符輸入結果，總結為 2000 個字符的輸出結果。

  產生的總成本 = 6000 個字符/1000 * 0.0003 USD + 2000 個字符/1000 * 0.0006 USD = 0.003 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Cohere 的 Embed English 或 Embed Multilingual 模型產生 10,000 個字符輸入結果的嵌入。

  產生的總成本 = 10,000 個字符/1000 * 0.0001 USD = 0.001 USD

  自訂 (微調) 定價

  應用程式開發人員使用 1000 個資料字符自訂 Cohere Command 模型。訓練後，使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  微調每月產生的成本為：微調訓練 (0.004 USD * 1000) + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (49.50 USD) = 55.45 USD
  

  自訂模型的佈建輸送量 (1 個月使用期) 產生的每月成本 = 39.60 USD

  佈建輸送量定價
  

  應用程式開發人員購買一個 Cohere Command 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本 = 1 個模型單元 * 39.60 USD * 24 小時 * 31 天 = 29,462.40 USD

• Meta Llama

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 Meta 的 Llama 2 Chat (130 億) 模型將輸入文字的 2000 個字符輸入結果，總結為 500 個字符的輸出結果。

  產生的總成本 = 2000 個字符/1000 * 0.00075 USD + 500 個字符/1000 * 0.001 USD = 0.002 USD

  自訂 (微調) 定價

  應用程式開發人員使用 1000 個資料字符自訂 Llama 2 預先訓練 (700 億) 模型。訓練後，使用自訂模型佈建輸送量 1 小時來評估模型的效能。微調的模型會儲存 1 個月。評估後，開發人員會使用佈建輸送量 (1 個月使用期) 來託管自訂模型。

  微調每月產生的成本為：微調訓練 (0.00799 USD * 1000) + 每月自訂模型儲存 (1.95 USD) + 1 小時自訂模型推論 (23.50 USD) = 33.44 USD

  自訂模型的佈建輸送量 (1 個月使用期) 產生的每月成本 = 21.18 USD

  佈建輸送量定價

  應用程式開發人員購買一個 Meta Llama 2 模型單元，且其文字摘要使用案例的期限為 1 個月。

  每月產生的總成本為 1 個模型單元 * 21.18 USD * 24 小時 * 31 天 = 15,757.92 USD

• Mistral AI

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mistral 7B 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.00015 USD + 1000 個字符/1000 * 0.0002 USD = 0.0005 USD

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mixtral 8x7B 模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。

  每小時產生的總成本 = 2000 個字符/1000 * 0.00045 USD + 1000 個字符/1000 * 0.0007 USD = 0.0016 USD

  應用程式開發人員針對 Amazon Bedrock 每小時發出下列 API 呼叫：要求 Mistral 大型模型將輸入文字的 2000 個字符輸入結果，總結為 1000 個字符的輸出結果。 

  每小時產生的總成本 = 2000 個字符/1000 * 0.008 USD + 1000 個字符/1000 * 0.024 USD = 0.04 USD
  
  

• Stability AI

  隨需定價

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 SDXL 模型產生 512 x 512 大小、步長為 70 的映像 (高品質)。

  產生的總成本 = 1 個映像 * 每個映像 0.036 USD = 0.036 USD

  應用程式開發人員針對 Amazon Bedrock 發出下列 API 呼叫：要求 SDXL 1.0 模型產生 1024 x 1024 大小、步長為 70 的映像 (高品質)。

  產生的總成本 = 1 個映像 * 每個映像 0.08 USD = 0.08 USD

  佈建輸送量定價

  應用程式開發人員購買一個 SDXL 1.0 模型單元，且使用期為 1 個月。

  產生的總成本 = 1 * 49.86 USD * 24 小時 * 31 天 = 37,095.84 USD

• 模型評估

  模型評估範例 1︰

  隨需定價
  應用程式開發人員在美國東部 (維吉尼亞北部) AWS 區域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant，提交資料集進行人工模型評估。

  資料集包含 50 個提示，開發人員需要 1 名工作者對每個提示回應集進行評分 (可在建立評估任務時設定為「每個提示的工作者」參數)。
  
  此評估任務中將有 50 項任務 (每位工作者每個提示回應組為 1 項任務)。50 個提示共計為 5000 個輸入字符，相關的回應共計 15000 個字符 (使用 Anthropic Claude Instant) 和 20000 個字符 (使用 Anthropic Claude 2.1)。
  
  此模型評估任務會產生下列費用：

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							50	0.21 USD	10.50 USD	10.50 USD
  總計										11.06 USD

  模型評估範例 2︰

  隨需定價
  應用程式開發人員在美國東部 (維吉尼亞北部) AWS 區域使用 Anthropic Claude 2.1 和 Anthropic Claude Instant，提交資料集進行人工模型評估。
  
  資料集包含 50 個提示，開發人員需要 2 名工作者對每個提示回應集進行評分 (可在建立評估任務時設定為「每個提示的工作者」參數)。此評估任務中將有 100 項任務 (每位工作者每個提示回應組為 1 項任務：2 個工作者 x 50 個快速回應集 = 100 個人工任務)。
  
  50 個提示共計為 5000 個輸入字符，相關的回應共計 15000 個字符 (使用 Anthropic Claude Instant) 和 20000 個字符 (使用 Anthropic Claude 2.1)。
  
  此模型評估任務會產生下列費用：
  

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.0040 USD	15000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.0400 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							100	0.21 USD	21.00 USD	21.00 USD
  總計										21.56 USD

• Amazon Bedrock 防護機制

  範例 1：客戶支援聊天機器人
  一名應用程式開發人員建立了一個客戶支援聊天機器人，並使用內容過濾器封鎖有害內容和拒絕主題，以過濾不想要的查詢和回應。
  
  聊天機器人每小時提供 1000 個用戶查詢。每個使用者查詢的平均輸入長度為 200 個字元，並接收 1500 個字元的 FM 回應。
  
  每個 200 個字元的使用者查詢對應於 1 個文字單元。
  
  每個 1500 個字元的 FM 回應對應於 2 個文字單元。
  
  每小時處理的文字單元 = (1 + 2) * 1,000 個查詢 = 3,000 個文字單元
  
  內容過濾器和拒絕主題每小時產生的總費用 = 3,000 * (0.15 USD + 0.15 USD) /1,000 = 0.90 USD
  

   

  範例 2：呼叫中心轉錄摘要
  一名應用程式開發人員建立了一個應用程式，以彙總使用者與客服人員之間的聊天記錄。它使用敏感信息過濾器編輯 10,000 個對話的生成摘要中的個人身分識別資訊 (PII)。
  
  每個生成的摘要平均有 3500 個字元，對應於 4 個文字單元。
  
  總結 10,000 次對話所產生的總成本 = 10000 * 4 * (0.1/1000 USD) = 4 USD

  項目	輸入字符數	每 1,000 個輸入字符的定價	輸入成本	輸出字符數	每 1,000 個輸出字符的定價	輸出成本	人工任務數目	每項人工任務的價格	人工任務的成本	總計
  Claude Instant Inference	5000	0.0008 USD	0.004 USD	15,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 Inference	5000	0.008 USD	0.04 USD	20,000	0.024 USD	0.48 USD				0.52 USD
  人工任務							100	0.21 USD	21.00 USD	21.00 USD
  總計										21.56 USD

• 自訂模型匯入

  定價範例：應用程式開發人員匯入自訂的 Llama 3.1 類型模型，大小採用 8B 參數，在 us-east-1 區域的序列長度為 128K 並在 1 個月之後刪除模型。這需要 2 個自訂模型單元。因此，每分鐘價格將為 0.1570 USD，因為需要 2 個自訂模型單元。2 個自訂模型單元的模型儲存成本為每月 3.90 USD。

  匯入模型無需費用。第一次成功調用為上午 8:03，此時計量開始。5 分鐘計量時段為上午 8:03 至上午 8:07；上午 8:07 至上午 8:11 等。如果在任何 5 分鐘期間至少有一次調用，該時段將視為作用中進行計費。如果在上午 8:07 至上午 8:11 之間沒有調用，計量將於上午 8:11 停止。在這種情況下，如下所示計費：0.1570 USD * 5 分鐘 * 3 個五分鐘時段 = 2.355 USD。

• Amazon Bedrock 知識庫

  定價範例 1 (使用 Amazon Rerank 1.0 模型重新排序)

  在給定月份內，您使用 Amazon Rerank 1.0 模型向 Rerank API 發出 200 萬個請求；其中 100 萬個請求中每個請求包含的文件少於 100 個，因此每個請求將按 1 個請求收費； 其餘 100 萬個請求中每個請求包含 120-150 個文件，因此每個請求將按 2 個請求收費。

  1 個請求的定價 = 0.001 USD
  總費用 = 1,000,000 * 0.001 USD + 1,000,000 * 2 * 0.001 USD = 3,000 USD 

  定價範例 2：(結構化資料擷取)

  應用程式開發人員建立了一個支援聊天機器人，需查詢儲存在 Amazon Redshift 中的結構化資料。該開發人員建立了 Bedrock 知識庫並將其連線至 Amazon Redshift。該聊天機器人每小時能夠接受 10,000 個用戶查詢。GenerateQuery API 從使用者查詢產生 SQL，每個使用者查詢的費用為 0.002 USD。

  每小時產生 SQL 所需總費用 = 0.002 USD * 10,000 = 20 USD。
  當月總費用 = 20 USD * 24 * 30 = 1440 USD

• Flows

  範例：新聞摘要
  應用程式開發人員建立一項流程，為交易者自動化新聞摘要。該流程涉及一個接收 S3 位置的輸入節點和一個 S3 擷取節點，後者從 S3 中擷取 10 個檔案，其中包含 10 個主要新聞機構的文章 (2 次節點轉換)。然後，它使用疊代器節點調用帶有提示節點的模型來彙總每個檔案 (+ 10 個檔案 x 2 次節點轉換)。然後使用收集器節點來收集所有結果，使用 S3 存儲節點將結果寫入 S3，然後在輸出節點中完成 (+ 3 次節點轉換)。每週每半個小時執行一次此流程。

  每個流程執行的節點轉換次數為：2 + 1 + 10 * 2 + 3 = 25 次節點轉換/流程執行

  每月流程執行次數為：24 小時 * 2* 5 天 * 4 週 = 960 次流程執行/月。

  每月帳單總額為：25 * 960 * 0.035 USD/1,000 = 0.84 USD

  其他費用
  該帳單還包括在工作流程執行中使用的 AWS 服務的額外費用，包括在擷取和儲存節點中的 Amazon S3 用量，以及提示節點中的 Amazon Bedrock 基礎模型用量。
  

• 資料自動化

  定價範例 1：
  假設您使用 BDA 自訂輸出處理一個 1,000 頁的文件。這 1,000 頁均使用具有 15 個欄位的藍圖 1 進行處理。任何包含不超過 30 個欄位的藍圖的每頁定價為 0.040 USD。總費用為 40 USD。
  
  處理的總頁數 = 1,000
  欄位少於 30 個的藍圖每頁定價 = 0.040 USD
  總費用 = 1,000 * 0.040 USD = 40 USD

   

  定價範例 2：
  假設您使用 BDA 自訂輸出處理 2 個文件。文件 1 有 40 頁，使用具有 20 個欄位的藍圖 1 進行處理。文件 2 有 10 頁，使用具有 40 個欄位的藍圖 2 進行處理。藍圖 1 的每頁定價為 0.040 USD，因為它包含的欄位不超過 30 個。藍圖 2 的每頁定價為 0.045 USD。使用藍圖 1 處理的文件 1 的處理費用為 1.60 USD。使用藍圖 2 處理的文件 2 的處理費用為 0.45 USD。處理這兩份文件的總費用為 2.05 USD。
  
  處理的總頁數 = 50
  欄位少於 30 個的藍圖 1 每頁定價 = 0.040 USD
  具有 40 個欄位的藍圖 2 每頁定價 = 0.040 USD + (超過 30 個的欄位數 * 每個欄位 0.0005 USD)
  超過 30 個的欄位數 = 40 - 30 = 10
  具有 40 個欄位的藍圖 2 每頁定價 = 0.040 USD + (10 *每個欄位 0.0005 USD) = 0.045 USD
  使用藍圖 1 處理的文件 1 的處理費用 = 40 頁 x 每頁 0.040 USD = 1.6 USD
  使用藍圖 2 處理的文件 2 的處理費用 = 10 頁 x 每頁 0.045 USD = 0.45 USD
  總費用 = 檔案 1 的費用 + 檔案 2 的費用 = 1.6 USD + 0.45 USD = 2.05 USD
  

   

  定價範例 3：
  假設您使用 BDA 標準輸出處理 60 分鐘的影片。影片標準輸出每分鐘的定價為 0.050 USD。總費用為 3.00 USD。
  
  處理總分鐘數 = 60
  影片標準輸出每分鐘的定價 = 0.050 USD
  總費用 = 60 * 0.050 USD = 3.00 USD
  

   

  定價範例 4：
  假設您使用 BDA 自訂輸出處理 2,000 張影像。前 1,000 張影像使用藍圖 1 進行處理，該藍圖有 10 個欄位。後 1,000 張使用藍圖 2 進行處理，該藍圖有 40 個欄位。藍圖 1 處理每張影像的定價為 0.005 USD，因為它包含的欄位不超過 30 個。藍圖 2 處理每張影像的定價為 0.01 USD。使用藍圖 1 處理前 1,000 張影像的處理費用為 5.00 USD。使用藍圖 2 處理後 1,000 張影像的處理費用為 10.00 USD。處理全部 2,000 張影像的總費用為 15.00 USD
  
  前 1000 張影像的費用 = 1,000 張影像 * 每張影像 0.005 USD = 5.00 USD
  後 1,000 張影像的費用 = 1,000 張影像 * (0.005 USD + (超過 30 個的欄位數 * 每個欄位 0.0005 USD))
  = 1,000 * (0.005 USD + ((40-30) * 0.0005 USD))
  = 1,000 * (0.005 USD + (10 * 0.0005 USD)) = 10.00 USD
  總費用 = 5.00 USD + 10.00 USD = 15.00 USD
  

   

  定價範例 5：
  假設您想要使用 Bedrock 資料自動化標準輸出來處理貴組織 15,000 分鐘的會議錄音。處理這 15,000 分鐘音訊的總費用為 90 USD。
  
  處理的總分鐘數 = 15,000 分鐘
  總費用 = 15,000 分鐘 × 0.006 USD = 90 USD

  
  定價範例 6：
  假設您設定 Bedrock 知識庫以使用 Bedrock 資料自動化作為解析器，然後擷取一個 1,000 頁的文件。請注意，Bedrock 知識庫和 Bedrock 資料自動化整合使用標準輸出。標準輸出的每頁定價為 0.010 USD。總費用為 10 USD。
  
  處理的總頁數 = 1,000
  標準輸出每頁定價 = 0.010 USD
  總費用 = 1,000 * 0.010 USD = 10 USD