使用 Amazon Neptune 的生成式 AI

高效能圖形分析和無伺服器資料庫,提供卓越的可擴展性和可用性

概觀

隨著組織建置和部署生成式人工智慧 (AI) 應用程式,他們對準確性、全面性和可解釋性的期望越來越高。透過檢索增強生成 (RAG) 等技術提供企業和領域特定內容,可以在某種程度上有所幫助,RAG 在保持資料控管和控制的同時為生成式 AI 提供目前和相關資訊方面符合成本效益。

圖形檢索增強生成 (GraphRAG) 將 RAG 提升到一個新的層級,利用圖形分析和向量搜索的能力來增強 AI 回應的準確性、全面性和可解釋性。GraphRAG 透過利用資料中的實體或結構元素之間的關係 (例如帶有文件區塊的區段或標題) 來實現此一目標,為 RAG 應用程式的輸入提供最相關的資料。透過使用知識圖形,RAG 應用程式可以檢索相關實體或主題之間的多躍點連接,並使用這些事實來增強生成式回應。

使用 Amazon Neptune 的生成式 AI

Amazon 提供全受管和自我管理的路徑,用於建立和執行 GraphRAG 應用程式。

  • 全受管:Amazon Bedrock 知識庫提供全球第一個使用 Amazon Neptune 的全受管 GraphRAG 服務。它會自動管理圖形和嵌入的建立和維護,使客戶能夠為最終使用者提供更相關的回應。以全受管服務的形式提供,您可以避免設定組態和與其他 LLM 或向量資料庫整合的挑戰。 
  • 自我管理:對於希望在連接自訂資料來源、與第三方產品 (基礎模型、向量存放區、資料存放區) 進行整合,以及自我託管其生成式 AI 應用程式堆疊方面可自我託管或靈活性的使用者來說,您有兩種選擇。
    • AWS GraphRAG Python 工具組:AWS 現已發佈開放原始碼 GraphRAG 工具組,該工具組支援最新的基礎和圖形模型。它提供一個架構,用於自動從非結構化資料建構圖形,並在回答使用者問題時查詢此圖形。
    • 開放原始碼架構:AWS 支援 LangChain 和 LlamaIndex 等熱門開放原始碼專案並做出貢獻,以建置生產 RAG 管道。

不熟悉圖形資料庫查詢語言的使用者可以利用 Neptune 與 LangChain 的整合。這使您可以使用自然語言詢問 Neptune 圖形資料庫。例如,您可以使用 NeptuneOpenCypherQAChain 將英語問題翻譯成 openCypher 查詢,並傳回人類可讀的回應。該鏈可用於回答「美國哪個機場的出境路線最長、最短?」等問題

LangChain 是一個開放原始碼 Python 架構,旨在簡化使用大型語言模型 (LLM) 建立應用程式。Neptune 與 LangChain 的整合,允許開發人員使用 LangChain 的開放原始碼架構,來簡化情境感知應用程式的建立。

使用 Neptune 和 LangChain,您可以根據提供的情境傳回回應,並使用 openCypher 查詢語言查詢 Neptune 圖形資料庫。例如,您可以使用 Neptune openCypher QA 鏈將英語問題翻譯成 openCypher 查詢,並傳回人類可讀的回應。該鏈可用於回答「奧斯汀機場有多少條出發路線?」等問題

如需有關 Neptune openCypher QA 鏈的更多詳細資訊,請造訪開放原始碼的 LangChain 文件

LlamaIndex 是一個開源資料框架,可用於將自訂的資料來源連接到大型語言模型 (LLM),並支援與 LLM 共用知識圖

使用 LlamaIndex 時,您可以在 Neptune 進行圖形存放向量存放,以使用 GraphRAG 等技術來建置生成式 AI 應用程式。

使用案例

GraphRAG 可用於改善 IT 服務台和聯絡中心。例如,GraphRAG 可以讓安全營運中心 (SOC) 團隊更準確地解譯提醒,以協助保護關鍵系統。醫療保健成員支援聊天機器人可以從大量醫學文獻中快速找到相關資訊,以回答有關患者症狀、治療和結果的複雜問題。

GraphRAG 應用程式可以為企業職能的團隊提供深入洞察,例如財務規劃與會計 (FP&A)、行銷、法務、人力資源等。例如,企業法務團隊可以更有效地尋找有關稅務法律、法規和案例前例的資訊,以制定案例策略。行銷團隊可以根據潛在客戶的社交聯繫和購買歷史記錄建立客戶 360 度檢視。

跨產業的公司受益於 GraphRAG。例如,在製藥產業中,研發團隊可以使用 GraphRAG 加快藥物研究和試驗。在投資銀行業領域中,GraphRAG 能夠繪製複雜的關係並提供公司申報的全面檢視,協助盡職調查團隊透過 RAG 發現其他不明顯的洞察,例如監管權和競爭動態。

傳統推薦使用手動分析服務來提出產品推薦。Neptune ML 可以直接在圖形資料上識別新關係,並輕鬆推薦玩家可能有興趣購買的遊戲清單,有興趣關注的其他玩家,或有興趣購買的產品。

定價

不需要前期投資。您只需要為使用的 AWS 資源付費,例如 Amazon SageMaker、Neptune 和 Amazon Simple Storage Service (Amazon S3)。

入門

有許多方法可以開始使用,包括: