- 생성형 AI›
- Amazon Bedrock›
- FAQ
Amazon Bedrock FAQ
일반
Amazon Bedrock이란 무엇인가요?
Amazon Bedrock은 완전관리형 서비스입니다. 업계 최고 수준의 다양한 파운데이션 모델(FM) 중에서 선택할 수 있고 생성형 AI 애플리케이션을 구축하는 데 필요한 다양한 기능 세트를 제공하므로 보안, 개인 정보 보호, 책임 있는 AI를 준수하면서 간편하게 개발할 수 있습니다. Amazon Bedrock은 코드를 작성하지 않고도 다양한 주요 FM을 실험하고, 미세 조정 및 검색 증강 생성(RAG)과 같은 기술로 데이터를 사용하여 이러한 FM을 비공개로 사용자 지정하며, 여행 예약 및 보험 청구 처리부터 광고 캠페인 생성 및 재고 관리에 이르는 복잡한 비즈니스 태스크를 실행하는 관리형 에이전트를 만들 수 있는 포괄적인 기능을 제공합니다. Amazon Bedrock은 서버리스이므로 인프라를 관리할 필요가 없으며 이미 익숙한 AWS 서비스를 사용하여 생성형 AI 기능을 애플리케이션에 안전하게 통합하고 배포할 수 있습니다.
Amazon Bedrock을 사용해야 하는 이유는 무엇입니까?
생성형 AI 애플리케이션 구축에 Amazon Bedrock을 사용해야 하는 이유는 다섯 가지가 있습니다.
- 선도적인 FM 선택: Amazon Bedrock은 Amazon 및 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI 및 Stability AI와 같은 선도적인 AI 기업의 광범위한 고성능 FM을 연동할 수 있는 사용하기 쉬운 개발자 환경을 제공합니다. 플레이그라운드에서 다양한 FM을 빠르게 실험하고 선택한 모델과 관계없이 단일 API를 사용하여 추론할 수 있으므로 다양한 제공업체의 FM을 유연하게 사용하고 코드 변경을 최소화하면서 최신 모델 버전을 유지할 수 있습니다.
- 데이터로 간편하게 모델 사용자 지정: 코드를 작성하지 않고도 시각적 인터페이스를 통해 자체 데이터로 FM을 비공개로 사용자 지정할 수 있습니다. Amazon Simple Storage Service(S3)에 저장된 훈련 및 검증 데이터 세트를 선택하면 됩니다. 필요한 경우 하이퍼파라미터를 조정하여 최상의 모델 성능을 달성할 수 있습니다.
- API를 동적으로 호출하여 태스크를 실행할 수 있는 완전 관리형 에이전트: 회사 시스템 및 API를 동적으로 호출하여 여행 예약 및 보험 청구 처리부터 광고 캠페인 작성, 세금 신고 준비, 재고 관리에 이르는 복잡한 비즈니스 태스크를 수행하는 에이전트를 구축할 수 있습니다. Amazon Bedrock용 완전관리형 에이전트는 FM의 추론 기능을 확장하여 태스크를 분류하고, 오케스트레이션 계획을 만들고, 이를 실행합니다.
- RAG에 대한 기본 지원을 통해 독점 데이터로 FM의 성능 확장: Amazon Bedrock 기술 자료를 사용하여 FM을 데이터 소스에 안전하게 연결하고 관리형 서비스 내에서 검색 기능을 강화할 수 있습니다. 이렇게 하면 FM의 이미 강력한 기능을 확장하여 특정 도메인 및 조직에 대한 지식을 추가로 보강할 수 있습니다.
- 데이터 보안 및 규정 준수 인증: Amazon Bedrock은 보안 및 개인 정보 보호 요구 사항을 지원하는 여러 기능을 제공합니다. Amazon Bedrock은 SOC(Service and Organization Control), 국제표준화기구(ISO)과 같은 일반적인 규정 준수 표준의 범위 내에 있고, 건강 보험 이전 및 책임법(HIPAA)에 부합하며, 고객은 일반 데이터 보호 규정(GDPR)을 준수하면서 Amazon Bedrock을 사용할 수 있습니다. Amazon Bedrock은 AWS 클라우드 서비스의 모범 사례 사용 및 보안 상태를 검증하는 CSA STAR(Security Trust Assurance and Risk) 레벨 2 인증을 받았습니다. Amazon Bedrock에서 고객의 콘텐츠는 파운데이션 모델을 개선하는 데 사용되지 않으며 모델 제공업체와 공유되지 않습니다. Amazon Bedrock의 데이터는 전송 중과 저장 시에 항상 암호화되며, 자체 키를 사용하여 필요에 따라 데이터를 암호화할 수도 있습니다. AWS PrivateLink와 Amazon Bedrock을 사용하면 트래픽을 인터넷에 노출시키지 않고도 FM과 Amazon Virtual Private Cloud(VPC) 간에 프라이빗 연결을 설정할 수 있습니다.
Amazon Bedrock을 시작하려면 어떻게 해야 하나요?
Amazon Bedrock의 서버리스 환경을 사용하면 빠르게 시작할 수 있습니다. AWS Management Console에서 Amazon Bedrock으로 이동하여 플레이그라운드에서 FM을 사용해 보세요. 에이전트를 만들어 콘솔에서 테스트할 수도 있습니다. 사용 사례를 파악하고 나면 인프라를 관리할 필요 없이 AWS 도구를 사용하여 FM을 애플리케이션에 손쉽게 통합할 수 있습니다.
Amazon Bedrock 시작하기 과정 링크
Amazon Bedrock 사용 설명서 링크
Amazon Bedrock은 다른 서비스와 어떻게 연동되나요?
Amazon Bedrock은 작업 간접 호출을 위해 AWS Lambda와, 훈련 및 검증 데이터를 위해 Amazon S3와, 지표 추적을 위해 Amazon CloudWatch와 각각 연동됩니다.
Amazon Bedrock의 가장 일반적인 사용 사례는 무엇인가요?
사용 사례로 빠르게 시작할 수 있습니다.
- 단편 소설, 에세이, 소셜 미디어 게시물, 웹 페이지 카피와 같은 독창적인 콘텐츠를 새롭게 창작할 수 있습니다.
- 정보를 검색하고 찾고 합성하여 대량의 데이터에서 원하는 인사이트를 얻습니다.
- 언어 프롬프트를 통해 다양한 주제, 환경 및 장면의 사실적이고 예술적인 이미지를 만들 수 있습니다.
- 단어 매칭보다 연관성이 높고 상황에 맞는 제품 추천을 통해, 고객이 원하는 결과를 손쉽게 찾을 수 있도록 합니다.
- 기사, 블로그 게시물, 책, 문서 등 텍스트 콘텐츠를 요약한 정보를 얻어, 전체 콘텐츠를 읽지 않고도 요점을 파악할 수 있습니다.
- 구매자의 취향과 과거 구매 기록에 맞는 상품을 제안합니다.
더 많은 생성형 AI 사용 사례를 살펴보세요.
Amazon Bedrock Playground란 무엇인가요?
Amazon Bedrock은 대화형 채팅 인터페이스를 사용하여 다양한 FM을 실험해 볼 수 있는 플레이그라운드를 제공합니다. 사용자는 콘솔의 웹 인터페이스를 사용하여 프롬프트를 제공하고 사전 훈련된 모델을 사용하여 텍스트 또는 이미지를 생성하거나 사용 사례에 맞게 미세 조정된 모델을 사용할 수 있습니다.
어느 AWS 리전에서 Amazon Bedrock을 사용할 수 있나요?
Amazon Bedrock을 사용할 수 있는 AWS 리전의 목록은 Amazon Bedrock 참조 가이드에서 Amazon Bedrock 엔드포인트 및 할당량을 참조하세요.
Amazon Bedrock에서 모델을 사용자 지정하려면 어떻게 해야 하나요?
태그가 지정된 데이터를 사용하거나 지속적인 사전 학습 기능을 사용하여 모델을 태그가 지정되지 않은 데이터로 사용자 지정함으로써 Amazon Bedrock에서 FM을 쉽게 미세 조정할 수 있습니다. 시작하려면 훈련 및 검증 데이터 세트를 제공하고 하이퍼파라미터(에포크, 배치 크기, 학습 속도, 워밍업 단계)를 구성한 다음 작업을 제출합니다. 몇 시간 내에 동일한 API(InvokeModel)를 사용하여 미세 조정된 모델에 액세스할 수 있습니다.
Amazon Bedrock에서 모델을 훈련하고 배포할 수 있나요?
예. 사용자 지정 모델 가져오기 기능을 사용하여 공개적으로 사용 가능한 선택 모델을 교육하고 Amazon Bedrock으로 가져올 수 있습니다. 현재 이 기능은 Llama 2/3, Llama, Flan 아키텍처에서만 지원합니다. 자세한 내용은 설명서를 참조하세요.
Amazon Bedrock에서 지연 시간에 최적화된 추론이란 무엇인가요?
Amazon Bedrock의 지연 시간에 최적화된 추론을 통해 공개 평가판으로 사용할 수 있으므로 정확도 저하 없이 지연 시간을 줄일 수 있습니다. Anthropic에서 검증한 바와 같이 Amazon Bedrock에서 지연 시간 최적화 추론을 통해 Claude 3.5 Haiku는 다른 어느 곳보다 AWS에서 더 빠르게 실행됩니다. 또한 Llama 3.1 70B 및 405B 역시 Bedrock의 지연 시간 최적화 추론 기능을 사용하는 경우 다른 어떤 주요 클라우드 공급업체의 클라우드보다 AWS에서 더 빠르게 실행됩니다. 고객은 AWS Trainium2와 같은 목적별 AI 칩과 Amazon Bedrock의 고급 소프트웨어 최적화 기능을 사용하여 특정 사용 사례에 맞게 추론을 최적화하는 더욱 다양한 옵션에 액세스할 수 있습니다.
주요 기능:
- 파운데이션 모델 상호 작용의 응답 시간 단축
- 속도를 향상시키면서 정확도 유지
- 추가 설정이나 모델 미세 조정이 필요하지 않음
지원 모델: Anthropic의 Claude 3.5 Haiku와 Meta의 Llama 3.1 모델 405B 및 70B
가용성: 교차 리전 간 추론을 통한 미국 동부(오하이오) 리전
시작하려면 Amazon Bedrock 콘솔로 이동하세요. 자세한 내용은 Amazon Bedrock 설명서를 참조하세요.
Amazon Bedrock에서 지연 시간에 최적화된 추론을 시작하려면 어떻게 해야 하나요?
Amazon Bedrock에서 지연 시간에 최적화된 추론에 액세스하려면 추가 설정이나 모델 미세 조정이 필요하지 않으므로 기존 생성형 AI 애플리케이션을 더 빠른 응답 시간으로 즉시 개선할 수 있습니다. Bedrock inference API를 간접 호출하는 동안 ‘지연 시간 최적화’ 파라미터를 전환할 수 있습니다.
시작하려면 Amazon Bedrock 콘솔로 이동하세요. 자세한 내용은 Amazon Bedrock 설명서를 참조하세요.
에이전트
Amazon Bedrock 에이전트란 무엇인가요?
Amazon Bedrock 에이전트는 개발자가 생성형 AI 기반 애플리케이션을 쉽게 만들 수 있게 해주는 완전관리형 기능으로, 독점적 지식 소스를 기반으로 다양한 사용 사례에 대한 작업을 완료하고 최신 답변을 제공할 수 있습니다. Amazon Bedrock 에이전트를 사용하면 수동 코딩 없이 간단한 몇 단계로 태스크를 자동으로 분류하고 오케스트레이션 계획을 만들 수 있습니다. 에이전트는 API를 통해 회사 데이터에 안전하게 연결하여 데이터를 시스템이 읽을 수 있는 형식으로 자동 변환하고 관련 정보로 요청을 강화함으로써 가장 정확한 응답을 생성합니다. 그런 다음 에이전트는 자동으로 API를 직접적으로 호출하여 사용자의 요청을 이행할 수 있습니다. 예를 들어 제조사는 재고 수준, 판매 데이터, 공급망 정보 추적을 자동화하고 효율성을 극대화하기 위해 최적의 재주문 시점과 수량을 추천할 수 있는 생성형 AI 애플리케이션을 개발하고자 할 수 있습니다. 완전관리형 기능인 Amazon Bedrock 에이전트로 시스템 통합 및 인프라 프로비저닝 관리라는 획일적인 작업을 처리하면 조직 전체에서 생성형 AI를 완벽하게 활용할 수 있습니다.
FM을 회사 데이터 소스에 연결하려면 어떻게 해야 하나요?
Amazon Bedrock 에이전트를 사용하여 FM을 회사 데이터 소스에 안전하게 연결할 수 있습니다. 에이전트를 사용하여 Amazon Bedrock의 FM에 기술 자료를 제공할 수 있습니다. 모델은 이러한 추가 데이터에 액세스하여 관련성이 더 높고 상황에 따라 다르며 정확한 응답을 생성할 수 있습니다. 이렇게 하면 FM을 지속적으로 재훈련하지 않아도 됩니다. 에이전트는 사용자 입력을 기반으로 적절한 기술 자료를 식별하고, 관련 정보를 검색하고, 입력 프롬프트에 정보를 추가하여 모델에 더 많은 컨텍스트 정보를 제공함으로써 완성본을 생성합니다.
Amazon Bedrock 에이전트의 사용 사례에는 어떤 것이 있나요?
Amazon Bedrock 에이전트는 생산성을 높이고, 고객 서비스 경험을 개선하고, 워크플로를 자동화(예: 보험 청구 처리)하는 데 도움이 될 수 있습니다.
Amazon Bedrock 에이전트는 개발자 생산성을 높이는 데 어떤 도움이 되나요?
에이전트를 통해 개발자는 사용자 지정 코드를 작성하지 않고도 모니터링, 암호화, 사용자 권한, 버전 관리 및 API 간접 호출 관리를 원활하게 지원할 수 있습니다. Amazon Bedrock 에이전트는 사용자가 요청한 작업의 프롬프트 엔지니어링 및 오케스트레이션을 자동화합니다. 개발자는 에이전트를 통해 생성된 프롬프트 템플릿을 기준으로 이를 구체화하여 사용자 경험을 개선할 수 있습니다. 사용자 입력, 오케스트레이션 계획, FM 응답을 업데이트할 수 있습니다. 프롬프트 템플릿에 액세스할 수 있으므로 에이전트 오케스트레이션에 대한 제어가 강화됩니다.
완전관리형 에이전트를 사용하면 인프라 프로비저닝이나 관리에 대해 걱정할 필요가 없으며 애플리케이션을 더 빠르게 프로덕션 환경에 도입할 수 있습니다.
보안
Amazon Bedrock에서 처리한 콘텐츠는 내가 Amazon Bedrock를 사용하고 있는 AWS 리전 외부로 이동하나요?
Amazon Bedrock에서 처리한 모든 고객 콘텐츠는 암호화되고, 고객이 Amazon Bedrock를 사용하고 있는 AWS 리전에 저장됩니다.
사용자 입력과 모델 출력이 서드 파티 모델 제공업체에 제공되나요?
아니요. 사용자 입력 및 모델 출력은 모델 제공업체와 공유되지 않습니다.
Amazon Bedrock은 어떤 보안 및 규정 준수 표준을 지원합니까?
Amazon Bedrock은 보안 및 개인 정보 보호 요구 사항을 지원하는 여러 기능을 제공합니다. Amazon Bedrock은 Fedramp Moderate, SOC(Service and Organization Control), 국제표준화기구(ISO), 건강 보험 이전 및 책임법(HIPAA)과 같은 일반적인 규정 준수 표준의 범위 내에 있으며, 고객은 일반 데이터 보호 규정(GDPR)을 준수하면서 Bedrock을 사용할 수 있습니다. Amazon Bedrock은 SOC 1, 2, 3 보고서 범위에 포함되므로 AWS 보안 제어에 대한 인사이트를 얻을 수 있습니다. AWS는 AWS 규제에 대한 광범위한 서드 파티 감사를 통해 규정 준수를 입증합니다. Amazon Bedrock은 ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301, ISO 20000 표준에서 ISO 규정을 준수하는 AWS 서비스입니다. Amazon Bedrock은 AWS 클라우드 서비스의 모범 사례 사용 및 보안 상태를 검증하는 CSA STAR(Security Trust Assurance and Risk) 레벨 2 인증을 받았습니다. Amazon Bedrock에서 고객의 콘텐츠는 파운데이션 모델을 개선하는 데 사용되지 않으며 모델 제공업체와 공유되지 않습니다. AWS PrivateLink를 사용하여 Amazon VPC와 Amazon Bedrock 간의 비공개 연결을 설정하면 데이터가 인터넷 트래픽에 노출되지 않습니다.
AWS와 서드 파티 모델 제공업체는 Amazon Titan 또는 서드 파티 모델을 훈련하는 데 Amazon Bedrock에 대한 고객 입력 또는 출력을 사용하나요?
아니요. AWS와 서드 파티 모델 제공업체는 Amazon Titan 또는 서드 파티 모델을 훈련하는 데 Amazon Bedrock의 입력 또는 출력을 사용하지 않습니다.
SDK
Amazon Bedrock에서는 어떤 SDK를 지원합니까?
Amazon Bedrock은 런타임 서비스를 위한 SDK를 지원합니다. iOS 및 Android SDK는 물론 Java, JS, Python, CLI, .Net, Ruby, PHP, Go 및 C++은 텍스트 및 음성 입력을 모두 지원합니다.
스트리밍 기능을 지원하는 SDK는 무엇입니까?
스트리밍은 모든 SDK에서 지원됩니다.
청구 및 지원
Amazon Bedrock의 요금은 얼마인가요?
최신 요금 정보는 Amazon Bedrock 요금 페이지를 참조하세요.
Amazon Bedrock에는 어떤 지원이 제공됩니까?
고객의 AWS Support 계약에 따라 Developer Support, Business Support 및 Enterprise Support 플랜으로 Amazon Bedrock 지원을 받을 수 있습니다.
입력 및 출력 토큰을 추적하려면 어떻게 해야 하나요?
CloudWatch 지표를 사용하여 입력 및 출력 토큰을 추적할 수 있습니다.
사용자 지정
Amazon Bedrock은 지속적인 사전 훈련을 지원하나요?
Amazon Bedrock에서 Amazon Titan Text Express와 Amazon Titan 모델에 대한 지속적인 사전 훈련을 시작했습니다. 지속적인 사전 훈련을 통해 레이블이 지정되지 않은 대량의 데이터를 사용하여 Amazon Titan 기본 모델에 대한 사전 훈련을 계속할 수 있습니다. 해당 유형의 훈련은 Amazon Titan 기본 모델의 기능 대부분을 유지하면서 일반 도메인 코퍼스의 모델을 의료, 법률, 금융 등 보다 구체적인 도메인 코퍼스에 맞게 적용합니다.
Amazon Bedrock에서 지속적 사전 훈련을 사용해야 하는 이유는 무엇인가요?
기업은 특정 도메인의 태스크를 위한 모델을 구축하고자 할 수 있습니다. 기본 모델은 특정 영역에서 사용되는 기술 전문 용어에 대해 훈련되지 않을 수 있습니다. 따라서 기본 모델을 직접 미세 조정하려면 레이블링된 많은 양의 훈련 레코드를 사용하여 장시간 훈련해야 정확한 결과를 얻을 수 있습니다. 이러한 부담을 줄이고 싶다면 레이블링되지 않은 다량의 데이터를 지속적인 사전 훈련 작업에 제공하면 됩니다. 이 작업은 Amazon Titan 기본 모델을 새 도메인에 맞게 조정합니다. 그러면 새롭게 사전 훈련된 사용자 지정 모델을 훨씬 적은 양의 레이블링된 훈련 레코드로 더 짧은 훈련 시간 내에 다운스트림 태스크에 맞게 미세 조정할 수 있습니다.
지속적인 사전 훈련 기능은 다른 AWS 서비스와 어떤 관련이 있나요?
Amazon Bedrock의 지속적인 사전 훈련과 미세 조정에서 요구하는 조건은 매우 유사합니다. 이러한 이유로 우리는 지속적인 사전 훈련과 미세 조정을 모두 지원하는 통합 API를 만들기로 결정했습니다. API를 통합하면 학습 곡선이 줄어들고 고객이 표준 기능을 사용하는 데 도움이 됩니다. 예를 들어 Amazon EventBridge를 사용하여 장시간 실행되는 작업을 추적하고, Amazon S3 통합을 통해 훈련 데이터, 리소스 태그, 모델 암호화를 가져올 수 있습니다.
지속적인 사전 훈련을 사용하려면 어떻게 해야 하나요?
지속적인 사전 훈련은 Amazon Titan 모델의 기본 기능을 유지하면서 도메인별 데이터에 맞게 Amazon Titan 모델을 조정하는 데 도움이 됩니다. 지속적인 사전 훈련 작업을 생성하려면 Amazon Bedrock 콘솔로 이동하여 '사용자 지정 모델'을 클릭합니다. 그러면 사용자 지정 모델 페이지로 이동합니다. 이 페이지에는 모델과 훈련 작업이라는 두 개의 탭이 있습니다. 두 탭 모두 오른쪽에 ‘모델 사용자 지정’ 드롭다운 메뉴를 제공합니다. 드롭다운 메뉴에서 ‘지속적인 사전 훈련’을 선택하여 ‘지속적인 사전 훈련 작업 생성’으로 이동합니다. 소스 모델, 이름, 모델 암호화, 입력 데이터, 하이퍼파라미터 및 출력 데이터를 입력합니다. 또한 작업의 AWS Identity and Access Management(IAM)역할 및 리소스 정책에 대한 세부 정보와 함께 태그를 제공할 수 있습니다.
Amazon Titan
Amazon Titan 모델이란 무엇인가요?
Amazon Bedrock에서만 독점적으로 제공되는 Amazon Titan 모델 제품군에는 비즈니스 전반에 걸쳐 AI 및 기계 학습을 사용하여 혁신해 온 Amazon의 25년 경험이 담겨 있습니다. Amazon Titan 파운데이션 모델(FM)은 완전 관리형 API를 통해 고객에게 다양한 고성능 이미지, 멀티모달 및 텍스트 모델을 제공합니다. Amazon Titan 모델은 AWS에서 만들고 대규모 데이터 세트를 대상으로 사전 훈련되므로 다양한 사용 사례를 지원하면서 동시에 AI의 책임 있는 사용도 지원하도록 구축된 강력한 범용 모델입니다. 그대로 사용하거나 자체 데이터로 비공개로 사용자 지정할 수 있습니다. Amazon Titan에 대해 자세히 알아보세요.
Amazon Titan FM의 개발 및 훈련을 위해 처리되는 데이터에 대한 자세한 내용은 어디에서 확인할 수 있나요?
Amazon Titan FM 개발 및 훈련을 위해 처리되는 데이터에 대해 자세히 알아보려면 Amazon Titan Model Training & Privacy 페이지로 이동하세요.
지식 기반/RAG
Amazon Bedrock Knowledge Bases에 연결할 수 있는 데이터 소스는 무엇인가요?
웹, Amazon Simple Storage Service(Amazon S3), Confluence(평가판), Salesforce(평가판), SharePoint(평가판)를 비롯하여 다양한 소스에서 콘텐츠를 수집할 수 있습니다. 또한 스트리밍 데이터 또는 지원되지 않는 소스의 데이터를 프로그래밍 방식으로 수집할 수 있습니다. 또한 Redshift 데이터웨어하우스 및 AWS Glue Data Catalog와 같은 정형 데이터 소스에 연결할 수 있습니다.
Amazon Bedrock Knowledge Bases는 정형 데이터 소스에서 데이터를 어떻게 검색하나요?
Amazon Bedrock Knowledge Bases는 자연어를 실행 가능한 SQL 쿼리로 변환하고 데이터를 검색할 수 있는 관리형 자연어를 SQL에 제공하므로, 이러한 소스의 데이터를 사용하여 애플리케이션을 빌드할 수 있습니다.
Amazon Bedrock Knowledge Bases는 연속 대화를 지원하나요?
예. 세션 컨텍스트 관리가 기본 제공되므로 애플리케이션에서 여러 상호 작용에 걸쳐 컨텍스트를 유지할 수 있습니다. 이는 연속 대화를 지원하는 데 필수적입니다.
Amazon Bedrock Knowledge Bases는 검색된 정보에 대한 소스 속성을 제공하나요?
예, 검색된 모든 정보에는 인용이 포함되므로 투명성이 향상되고 생성된 응답의 할루시네이션 위험이 최소화됩니다.
Amazon Bedrock Knowledge Bases는 어떤 멀티모달 기능을 제공하나요?
Amazon Bedrock Knowledge Bases는 멀티모달 데이터 처리를 지원하므로 개발자는 이미지, 차트, 다이어그램, 테이블을 비롯한 텍스트 및 시각적 데이터를 모두 분석하는 생성형 AI 애플리케이션을 빌드할 수 있습니다. 모델 응답은 텍스트뿐만 아니라 시각적 요소에서 얻은 인사이트를 활용하여 더 정확하고 컨텍스트에 맞는 답변을 제공할 수 있습니다. 또한 응답의 소스 저작권 표시에 시각적 요소가 포함되어 있어 응답의 투명성과 신뢰도가 향상됩니다.
Amazon Bedrock Knowledge Bases는 어떤 멀티모달 데이터 형식을 지원하나요?
Amazon Bedrock Knowledge Bases는 이미지, 표, 차트 및 다이어그램을 포함할 수 있는 PDF 형식의 시각적으로 풍부한 문서를 처리할 수 있습니다. 이미지 전용 데이터의 경우 Bedrock Knowledge Bases는 JPEG 및 PNG와 같은 표준 이미지 형식을 지원하므로 사용자가 텍스트 기반 쿼리에 따라 관련 이미지를 검색할 수 있게 됩니다.
Amazon Bedrock Knowledge Bases에서 사용할 수 있는 다양한 구문 분석 옵션은 무엇인가요?
고객은 Bedrock Knowledge Bases에 대해 세 가지 분석 옵션을 사용할 수 있습니다. 텍스트 전용 처리의 경우 내장된 기본 Bedrock 파서를 추가 비용 없이 사용할 수 있어 멀티모달 데이터 처리가 필요하지 않을 때 적합합니다. Amazon Bedrock Data Automation(BDA) 또는 파운데이션 모델을 사용하여 멀티모달 데이터를 구문 분석할 수 있습니다. 자세한 내용은 제품 설명서를 참조하세요.
Amazon Bedrock Knowledge Bases는 어떻게 데이터 보안을 보장하고 워크플로의 복잡성을 관리하나요?
Amazon Bedrock Knowledge Base는 콘텐츠 비교, 장애 처리, 처리량 제어, 암호화와 같은 다양한 워크플로 복잡성을 처리하므로 AWS의 엄격한 보안 표준에 따라 데이터를 안전하게 처리하고 관리할 수 있습니다.
모델 평가
Amazon Bedrock 모델 평가란 무엇인가요?
Amazon Bedrock의 모델 평가 기능을 활용하면 몇 단계만 거쳐서 파운데이션 모델(FM)을 평가하고 비교한 후 사용 사례에 가장 적합한 모델을 선택할 수 있습니다. Amazon Bedrock에서는 자동 평가와 인적 평가 중 원하는 방식을 선택할 수 있습니다. 정확도, 안정성, 유해성 등의 미리 정의된 지표를 적용하여 자동 평가를 사용할 수 있습니다. 호감도, 스타일, 브랜드와의 통일성과 같은 주관적 지표나 사용자 지정 지표의 경우 인적 평가 워크플로를 사용할 수 있습니다. 인적 평가에서는 사내 직원이나 AWS 관리 팀을 검토자로 활용할 수 있습니다. Amazon Bedrock의 모델 평가는 큐레이트된 데이터세트를 기본으로 제공하거나 자체 데이터세트를 가져올 수 있습니다.
어떤 지표를 기준으로 FM을 평가할 수 있나요?
자동 평가를 사용할 때는 정확성, 견고성, 유해성 등 사전 정의된 다양한 지표를 평가할 수 있습니다. 호감도, 관련성, 스타일, 브랜드와의 통일성과 같은 주관적 지표나 사용자 지정 지표의 경우 인적 평가 워크플로를 사용할 수도 있습니다.
인간 기반 평가와 자동 평가의 차이점은 무엇인가요?
자동 평가를 사용하면 사용 가능한 FM 목록을 표준 기준(예: 정확도, 유해성 및 견고성)과 비교하여 빠르게 좁힐 수 있습니다. 인적 기반 평가는 인간의 판단이 필요하고 자동 평가가 없을 수 있는 경우(예: 브랜드 표현, 창의적 의도, 친근감)에 보다 미묘하거나 주관적인 기준을 평가하는 데 자주 사용됩니다.
자동 평가 방법은 어떻게 작동하나요?
큐레이트된 기본 제공 데이터세트를 활용하거나 자체 프롬프트 데이터세트를 가져와서 정확성, 견고성 및 유해성과 같은 지표에 대해 Amazon Bedrock 모델을 신속하게 평가할 수 있습니다. 추론을 위해 프롬프트 데이터 세트를 Amazon Bedrock 모델로 전송하면 각 차원에 대한 평가 알고리즘을 사용하여 모델 응답에 대한 점수가 매겨집니다. 개별 프롬프트 응답 점수는 백엔드 엔진에서 요약 점수로 집계되고 이해하기 쉬운 시각적 보고서로 제공됩니다.
인적 평가는 어떻게 작동하나요?
Amazon Bedrock을 사용하면 단 시간에 인적 검토 워크플로를 설정하고 사내 직원을 데려오거나 AWS 관리 전문 팀을 활용하여 모델을 평가할 수 있습니다. Amazon Bedrock의 직관적인 인터페이스를 통해 추천 및 비추천을 클릭하거나 1~5점의 점수로 평가하거나 여러 응답 중에서 가장 좋은 것을 선택하거나 프롬프트 순위를 매기는 방식으로 모델 응답을 검토하고 피드백을 제공할 수 있습니다. 예를 들어 동일한 프롬프트에 대한 두 모델의 응답을 팀 구성원에게 보여주고 더 정확하고 관련성이 높거나 문체가 좋은 출력을 표시하는 모델을 선택하도록 요청할 수 있습니다. 팀의 평가 UI에 표시할 지침과 버튼을 사용자 지정하여 중요한 평가 기준을 지정할 수 있습니다. 모델 평가의 전반적인 목표와 예제가 포함된 자세한 지침을 제공하여 사용자가 지침에 맞게 작업을 수행하도록 할 수도 있습니다. 이 방법은 인간의 판단이 필요한 주관적 기준이나 자동 평가로는 쉽게 판단할 수 없는 보다 미묘한 주제 전문 지식을 평가하는 데 유용합니다.
책임 있는 AI
Amazon Bedrock Guardrails란 무엇인가요?
Amazon Bedrock 가드레일을 사용하면 사용 사례 및 책임 있는 AI 정책을 기반으로 생성형 AI 애플리케이션에 대한 보호 장치를 구현할 수 있습니다. 가드레일은 바람직하지 않은 유해 콘텐츠를 필터링하여 사용자와 파운데이션 모델(FM) 간의 상호 작용을 제어하는 데 도움이 됩니다. 개인 식별 정보(PII)를 제거하여 생성형 AI 애플리케이션의 콘텐츠 안전 및 개인 정보 보호를 강화하는 기능도 곧 제공될 예정입니다. 특정 사용 사례에 맞게 다양한 구성으로 여러 개의 가드레일을 만들 수 있습니다. 또한 가드레일로 고객 정의 정책을 위반할 수 있는 사용자 입력과 FM 응답을 지속적으로 모니터링하고 분석할 수 있습니다.
Amazon Bedrock 가드레일에서 사용할 수 있는 보호 장치로는 어떤 것이 있나요?
가드레일을 사용하면 생성형 AI 애플리케이션을 보호하는 데 도움이 되는 일련의 정책을 정의하는 데 도움이 됩니다. 가드레일에서 다음과 같은 정책을 구성할 수 있습니다.
- 문맥적 근거: 응답이 소스 정보에 근거하지 않고(예: 사실적으로 부정확하거나 새로운 정보) 사용자의 쿼리 또는 명령과 관련이 없는 경우 할루시네이션을 탐지하고 필터링하는 문맥적 근거 검사를 지원합니다.
- 자동 추론 검사: 자동화된 추론 정책이라고 하는 정형의 수학적 지식 표현과 비교하여, 생성된 콘텐츠에서 사실의 부정확성을 찾아내고, 수정 사항을 제안하고, 응답이 정확한 이유를 설명하도록 돕습니다.
- 콘텐츠 필터: 증오, 모욕, 성적, 폭력, 위법 행위, 프롬프트 공격 등의 범주에서 유해한 텍스트 콘텐츠를 탐지하고 필터링하기 위한 임계값을 구성하는 데 도움이 됩니다. 또한 콘텐츠 필터는 이러한 범주에서 유해한 이미지 콘텐츠를 탐지하고 필터링할 수 있으므로 안전한 멀티모달 애플리케이션을 구축할 수 있습니다.
- 거부 주제: 애플리케이션의 컨텍스트에서 바람직하지 않은 주제 세트를 정의하도록 돕습니다. 예를 들어 온라인 뱅킹 도우미의 경우 투자 자문을 제공하지 않도록 설계할 수 있습니다.
- 단어 필터: 사용자 입력 및 FM 생성 응답에서 차단할 단어 세트를 정의하도록 돕습니다.
- 민감한 정보 필터: 일련의 PII와 같은 민감한 정보에 반응하여 FM에서 생성한 응답에서 해당 정보를 삭제할 수 있도록 돕습니다. 사용 사례에 따라, 가드레일은 PII가 포함된 사용자 입력을 차단하는 데도 도움이 될 수 있습니다.
Amazon Bedrock에서 사용 가능한 모든 FM 및 도구와 함께 Guardrails를 사용할 수 있나요?
Amazon Bedrock Guardrails는 Amazon Bedrock에서 지원되는 FM, 미세 조정된 모델, Amazon Bedrock 외부의 자체 호스팅 모델을 비롯하여 다양한 모델에서 사용할 수 있습니다. ApplyGuardrail API를 사용하여 타사 및 자체 호스팅 모델에 대해 사용자 입력 및 모델 출력을 독립적으로 평가할 수 있습니다. Amazon Bedrock Guardrails를 Amazon Bedrock Agents 및 Amazon Bedrock Knowledge Bases와 통합하여 책임 있는 AI 정책에 부합하는 안전한 생성형 AI 애플리케이션을 빌드할 수 있습니다.
AWS는 생성형 AI 서비스에 대한 저작권 권리 주장을 다루는 지적 재산 배상을 제공하나요?
AWS는 Amazon Titan 모델 및 서비스 약관 섹션 50.10에 나열된 기타 서비스(‘배상 범위 내 생성형 AI 서비스’)와 같은 정식 출시된 Amazon 생성형 AI 서비스의 생성형 출력에서 발생하는 저작권 권리 주장에 대해 제한 없는 지적 재산(IP) 배상을 제공합니다. 즉, 고객이 제공한 입력 또는 기타 데이터에 대한 응답으로 배상 범위 내 생성형 AI 서비스를 통해 생성된 출력의 저작권 침해를 제기하는 제3자 권리 주장으로부터 고객을 보호합니다. 또한 고객은 침해 데이터를 입력하지 않거나 서비스의 필터링 기능을 비활성화하지 않는 등 책임감 있게 서비스를 사용해야 합니다.
상용(내장형) 가드레일 목록이 있나요? 무엇을 사용자 정의할 수 있나요?
가드레일 정책은 5가지로, 각각 다른 상용 보호 기능이 있습니다.
- 콘텐츠 필터 - 여기에는 증오, 모욕, 성적인 내용, 폭력, 위법 행위(범죄 행위 포함), 프롬프트 공격(탈옥 및 프롬프트 주입)의 6가지 상용 범주가 있습니다. 각 범주에 대해 필터링의 강도(낮음/중간/높음) 측면에서 텍스트 및 이미지 콘텐츠 모두에 대해 임계값을 추가로 사용자 지정할 수 있습니다.
- 거부된 주제 - 고객이 간단한 자연어 설명을 사용하여 정의할 수 있는 사용자 지정 주제입니다.
- 민감한 정보 필터 - 30개 이상의 상용 PII와 함께 제공됩니다. 민감한 고객의 독점 정보를 추가하여 세밀하게 사용자 지정할 수 있습니다.
- 단어 필터 - 비속어 필터링이 기본으로 제공되며 사용자 지정 단어로 추가 사용자 지정할 수 있습니다.
- 문맥적 근거 확인 – RAG, 요약 및 대화형 애플리케이션에서 할루시네이션을 감지할 수 있으며, 소스 정보를 참조로 사용하여 모델 응답을 검증할 수 있습니다.
상용(내장형) 가드레일 목록이 있나요? 무엇을 사용자 정의할 수 있나요?
가드레일 정책은 5가지로, 각각 다른 상용 보호 기능이 있습니다.
- 콘텐츠 필터 - 여기에는 증오, 모욕, 성적인 내용, 폭력, 위법 행위(범죄 행위 포함), 프롬프트 공격(탈옥 및 프롬프트 주입)의 6가지 상용 범주가 있습니다. 각 범주는 필터링 강도(낮음/중간/높음)에 따라 추가로 사용자 지정된 임계값을 가질 수 있습니다.
- 거부된 주제 - 고객이 간단한 자연어 설명을 사용하여 정의할 수 있는 사용자 지정 주제입니다.
- 민감한 정보 필터 - 30개 이상의 상용 PII와 함께 제공됩니다. 민감한 고객의 독점 정보를 추가하여 세밀하게 사용자 지정할 수 있습니다.
- 단어 필터 - 비속어 필터링이 기본으로 제공되며 사용자 지정 단어로 추가 사용자 지정할 수 있습니다.
- 문맥적 근거 확인 – RAG, 요약 및 대화형 애플리케이션에서 할루시네이션을 감지할 수 있으며, 소스 정보를 참조로 사용하여 모델 응답을 검증할 수 있습니다.
기본 Guardrails는 주민등록번호 또는 전화번호를 자동으로 감지하나요?
기초 모델에는 기본 보호 장치가 있으며 이는 각 모델과 적용된 기본 보호 장치입니다. 이러한 기본 보호 장치는 Amazon Bedrock 가드레일의 일부가 아닙니다. Amazon Bedrock 가드레일은 애플리케이션 요구 사항 및 책임 있는 AI 정책에 따라 고객이 선택적으로 적용할 수 있는 맞춤형 보호 장치의 추가 계층입니다.
Amazon Bedrock 가드레일에 포함된 SSN 및 전화번호 감지는 30개 이상의 상용 PII의 일부입니다. 전체 목록은 여기에 있습니다.
고객이 사용자 지정 Amazon Bedrock 가드레일을 구축하는 데 드는 별도의 비용이 있나요? 그리고 그 비용이 입력과 출력 모두에 적용되나요?
Amazon Bedrock 가드레일 사용 시 별도의 비용이 발생합니다. 입력과 출력 모두에 적용할 수 있습니다. 가격은 여기 페이지 하단에 있습니다. 콘텐츠 필터를 사용한 이미지 지원(현재 공개 평가판으로 사용 가능) 요금은 정식 출시(GA) 기간에 발표될 예정입니다.
고객이 사용자 지정 Amazon Bedrock 가드레일을 구축하는 데 드는 별도의 비용이 있나요? 그리고 그 비용이 입력과 출력 모두에 적용되나요?
Amazon Bedrock 가드레일 사용 시 별도의 비용이 발생합니다. 입력과 출력 모두에 적용할 수 있습니다. 가격은 여기 페이지 하단에 있습니다.
설정한 가드레일의 효율성에 대해 고객이 자동 테스트를 실행할 수 있나요? 지속적인 모니터링을 위한 '테스트 케이스 빌더'(저널리스트의 용어)가 있나요?
예, Amazon Bedrock Guardrail API는 고객이 자동화된 테스트를 실행하는 데 도움이 됩니다. ‘테스트 케이스 빌더’는 프로덕션 환경에 가드레일을 배포하기 전에 사용하면 유용할 수 있습니다. 네이티브 테스트 케이스 빌더는 아직 없습니다. 생산 트래픽의 지속적인 모니터링을 위해 가드레일은 각 입력 및 출력에 대한 모든 위반의 세부 로그를 제공하도록 지원하므로, 고객은 생성형 AI 애플리케이션에서 들어오고 나가는 모든 입력을 세밀하게 모니터링할 수 있습니다. 이러한 로그는 CloudWatch 또는 S3에 저장할 수 있으며 고객의 요구 사항에 따라 사용자 지정 대시보드를 생성하는 데 사용할 수 있습니다.
자동 추론 검사를 사용한 검증은 문맥적 근거 검사와 어떻게 다른가요?
자동 추론 정책을 사용하여 자동 추론 검사는 콘텐츠의 정확한 주장과 사실의 부정확성을 모두 찾아낼 수 있습니다. 자동 추론 검사는 정확한 진술과 부정확한 진술 모두에 대해 출력의 검증 가능하고 논리적인 설명을 제공합니다. 자동 추론 검사에서 정책을 생성하려면 도메인 전문가의 사전 참여가 필요하며 자동 추론 검사는 규칙을 정의하는 콘텐츠만 지원합니다. 반면, Bedrock Guardrails의 문맥적 근거 검사는 머신 러닝 기술을 사용하여 생성된 콘텐츠가 지식 기반의 입력으로 제공된 문서와 밀접하게 일치하는지 확인하므로 별도의 사전 작업은 필요하지 않습니다. 자동 추론 검사와 문맥적 근거 검사는 모두 Guardrail API 출력에서 피드백을 제공합니다. 피드백을 사용하여 생성된 콘텐츠를 업데이트할 수 있습니다.
Marketplace
Amazon Bedrock Marketplace란 무엇인가요?
Amazon Bedrock Marketplace는 고객이 생성형 AI 애플리케이션을 쉽게 빌드하고 최적화할 수 있도록 Amazon Bedrock의 서버리스 FM 외에도 100개 이상의 인기 모델, 새로운 모델 또는 전문 모델을 제공합니다. Amazon Bedrock 콘솔에서 고객은 다양한 제공업체에서 제공하는 광범위한 FM 카탈로그를 찾을 수 있습니다. 그런 다음, 완전 관리형 엔드포인트에 이러한 모델을 배포할 수 있으며, 엔드포인트에서 원하는 인스턴스 수와 인스턴스 유형을 선택할 수 있습니다. 모델이 배포되면 Amazon Bedrock의 Invoke API를 통해 모델에 액세스할 수 있습니다. 채팅으로 조정된 텍스트-텍스트 모델의 경우 고객은 FM 차이를 추상화하고 단일 파라미터 변경으로 모델을 전환할 수 있는 통합 API인 새로운 Converse API를 사용할 수 있습니다. 해당하는 경우 모델을 Amazon Bedrock Playground, Agents, Knowledge Bases, Prompt Management, Prompt Flows, Guardrails, Model Evaluation과 함께 사용할 수 있습니다.
Amazon Bedrock Marketplace를 사용해야 하는 이유는 무엇인가요?
생성형 AI 산업이 지속적으로 혁신함에 따라 빠르게 부상하고 있는 강력한 모델을 활용하려면 Amazon Bedrock Marketplace를 사용해야 합니다. 고유한 요구 사항에 맞게 조정된 인기 모델, 새로운 모델 및 전문 모델에 빠르게 액세스하여 배포할 수 있습니다. 이를 통해 출시 시간을 단축하고 정확도를 개선하거나 생성형 AI 워크플로의 비용을 절감할 수 있습니다. Bedrock의 통합 API를 통해 모델에 액세스할 수 있으며, 모델이 Bedrock의 Converse API와 호환되는 경우 Agents, Knowledge Bases, Guardrails 등의 Bedrock 도구와 함께 기본적으로 사용할 수 있습니다. 한 곳에서 Amazon Bedrock Marketplace를 Amazon Bedrock의 서버리스 모델에 모두 쉽게 연결할 수 있습니다.
Amazon Bedrock Marketplace를 시작하려면 어떻게 해야 하나요?
Bedrock 콘솔의 Amazon Bedrock Model Catalgo 페이지로 이동하기만 하면 서버리스 Amazon Bedrock 모델과 함께 Amazon Bedrock Marketplace 모델 목록을 검색할 수 있습니다. 사용하려는 Amazon Bedrock Marketplace 모델을 선택한 후 제공업체에서 설정한 EULA 및 요금을 수락하고 모델 세부 정보 페이지를 통해 모델을 구독할 수 있습니다. 구독이 완료되면(일반적으로 몇 분 정도 소요됨) 모델 세부 정보 페이지에서 배포를 클릭하거나 API를 사용하여 완전 관리형 SageMaker 엔드포인트에 모델을 배포할 수 있습니다. 배포 단계에서 워크로드에 맞게 원하는 인스턴스 수와 인스턴스 유형을 선택할 수 있습니다. 엔드포인트가 설정되면(일반적으로 10~15분 소요) 엔드포인트에 대한 추론 직접 호출을 시작하고 Bedrock의 고급 도구에서 모델을 사용할 수 있습니다. 단, 모델이 Bedrock의 Converse API와 호환되어야 합니다.
Amazon Bedrock Marketplace 모델을 미세 조정할 수 있나요?
사용자 지정 모델 가져오기에서 지원하는 아키텍처(Mistral, Mixtral, Flan 및 Llama2/3/3.1/3.2)를 사용하는 모델은 SageMaker에서 미세 조정할 수 있으며 사용자 지정 모델 가져오기를 통해 Amazon Bedrock에서 사용할 수 있습니다. 사용자 지정 모델 가져오기에서 지원되지 않는 모델은 SageMaker에서 여전히 미세 조정할 수 있습니다. 그러나 이러한 모델의 미세 조정 버전은 Amazon Bedrock에서 사용할 수 없습니다.
데이터 자동화
Bedrock Data Automation란 무엇인가요?
Bedrock Data Automation란 무엇인가요? Amazon Bedrock Data Automation은 생성형 AI 애플리케이션 개발을 간소화하고 문서, 이미지, 오디오 및 동영상과 관련된 워크플로를 자동화하는 Bedrock의 GenAI 기반 기능입니다. Bedrock Data Automation을 활용하는 개발자는 개발 작업의 시간과 작업량을 줄임으로써 지능형 문서 처리, 미디어 분석 및 기타 멀티모달 데이터 중심 자동화 솔루션을 더욱 쉽게 빌드할 수 있습니다. Bedrock Data Automation은 다른 솔루션보다 저렴한 비용으로 업계 최고의 정확도를 제공하며, 설명 기능에 대한 신뢰도 점수가 포함된 시각적 그라운딩, 내장된 할루시네이션 완화 등의 기능을 제공합니다. 따라서 비정형 멀티모달 데이터 소스에서 신뢰할 수 있고 정확한 인사이트를 얻을 수 있습니다. 고객은 Bedrock Data Automation의 출력을 쉽게 사용자 지정하여 시스템 및 애플리케이션에 필요한 일관된 형식으로 구체적인 인사이트를 생성할 수 있습니다. 개발자는 샘플 데이터를 사용하여 출력을 구성하고 사용자 지정할 수 있는 Amazon Bedrock 콘솔에서 Bedrock Data Automation을 시작합니다. 그런 다음 Bedrock Data Automation의 통합된 멀티모달 추론 API를 애플리케이션에 통합하여 프로덕션 규모의 비정형 콘텐츠를 높은 정확도와 일관성으로 처리할 수 있습니다. 또한 Bedrock Data Automation은 Bedrock Knowledge Bases와 통합되므로 개발자는 비정형 멀티모달 콘텐츠에서 의미 있는 정보를 쉽게 생성하여 검색 증강 생성(RAG)에 대해 보다 관련성 높은 응답을 제공할 수 있습니다.
Bedrock Data Automation을 사용해야 하는 이유는 무엇인가요?
Bedrock Data Automation을 사용하면 비정형 엔터프라이즈 데이터를 생성형 AI 애플리케이션 및 ETL 워크플로에서 활용할 수 있는 애플리케이션별 출력 형식으로 쉽게 변환할 수 있습니다. 고객은 더 이상 여러 모델을 관리 및 오케스트레이션하거나, 프롬프트를 엔지니어링하거나, 안전 가드레일을 구현하거나, 다운스트림 시스템 요구 사항에 맞게 출력을 연결하는 데 시간과 노력을 들일 필요가 없습니다. Bedrock Data Automation은 매우 정확하고 일관되며 비용 효율적인 비정형 데이터 처리를 제공합니다. Bedrock Data Automation은 책임 있는 AI를 염두에 두고 빌드되었으며, 고객에게 시각적 그러운딩 및 신뢰도 점수와 같은 주요 기능을 제공하여 Bedrock Data Automation을 엔터프라이즈 워크플로 내에 쉽게 통합할 수 있도록 합니다.
Amazon Bedrock Data Automation은 나를 대신하여 무엇을 관리하나요?
Bedrock Data Automation 기능은 고객이 애플리케이션에 쉽게 통합할 수 있는 완전 관리형 API를 통해 사용할 수 있습니다. 고객은 기본 컴퓨팅 리소스 규모 조정, 모델 선택 및 오케스트레이션 또는 FM용 프롬프트 관리에 대해 걱정할 필요가 없습니다.
블루프린트란 무엇인가요?
블루프린트는 고객이 자연어 또는 스키마 편집기를 사용하여 출력 요구 사항을 지정하는 데 사용하는 기능입니다. 여기에는 추출하려는 필드 목록, 각 필드의 데이터 형식, 각 필드에 대한 자연어 지침이 포함됩니다. 예를 들어 개발자는 ‘세금, 기한일, 수령일 필드가 포함된 청구서의 블루프린트 생성’ 또는 ‘청구서 총액이 항목의 합계와 일치하는지 확인’을 입력할 수 있습니다. 이러한 지침은 시스템에서 블루프린트에 설명된 형식으로 정보를 반환하도록 추론 API 직접 호출의 일부로 블루프린트를 참조합니다.
Amazon Bedrock Data Automation에서 양식별로 지원하는 기능 및 파일 형식은 무엇인가요?
문서
Bedrock Data Automation은 문서에 대한 표준 출력과 사용자 지정 출력을 모두 지원합니다.
- 표준 출력은 문서에서 텍스트를 추출하고 표/그림/다이어그램에 대한 문서 요약 및 캡션과 같은 생성형 출력을 제공합니다. 출력은 읽기 순서대로 반환되며 선택적으로 머리글/바닥글/제목/표/그림/다이어그램을 포함하는 레이아웃 요소별로 그룹화할 수 있습니다. 표준 출력은 BDA를 Bedrock Knowledge Bases와 통합하는 데 사용됩니다.
- Custom Output은 자연어 또는 스키마 편집기를 사용하여 출력 요구 사항을 지정하는 블루프린트를 활용합니다. 블루프린트에는 추출할 필드 목록과 각 필드의 데이터 형식이 포함됩니다.
Bedrock Data Automatio은 PDF, PNG, JPG, TIFF, 최대 100페이지, API 요청당 최대 파일 크기 500MB를 지원합니다. BDA는 최대 5개의 문서 패키지를 동시에 사용할 수 있고 고객마다 초당 1페이지의 처리량을 지원합니다.
이미지
Bedrock Data Automation은 이미지에 대한 표준 출력과 사용자 지정 출력을 모두 지원합니다.
- 표준 출력은 요약, 탐지된 선정적 콘텐츠, 탐지된 텍스트 및 광고 분류: 이미지용 IAB를 제공합니다. 표준 출력은 BDA를 Bedrock Knowledge Bases와 통합하는 데 사용됩니다.
- Custom Output은 자연어 또는 스키마 편집기를 사용하여 출력 요구 사항을 지정하는 블루프린트를 활용합니다. 블루프린트에는 추출할 필드 목록과 각 필드의 데이터 형식이 포함됩니다.
Bedrock Data Automation은 JPG, PNG, 최대 해상도 4K, API 요청당 최대 파일 크기 5MB를 지원합니다. BDA는 고객마다 초당 1개의 이미지로 최대 100개의 이미지를 동시에 지원합니다.
동영상
Bedrock Data Automation은 동영상의 표준 출력을 모두 지원합니다.
- 표준 출력은 전체 동영상 요약, 장면 분할, 장면 요약, 전체 오디오 트랜스크립션, 화자 식별, 탐지된 노골적인 콘텐츠, 탐지된 텍스트 및 동영상에 대한 IAB(Interactive Advertising Bureau) 분류법을 제공합니다. 전체 동영상 요약은 제품 개요, 교육, 뉴스 캐스트 및 다큐멘터리와 같은 설명적 대화가 포함된 콘텐츠에 최적화되어 있습니다.
Bedrock Data Automation은 H.264와 함께 MOV 및 MKV를 지원하고, 최대 동영상 지속 시간은 4시간이며, API 요청당 최대 파일 크기는 2GB입니다. BDA는 고객마다 분당 20개의 동영상으로 최대 25개의 동영상을 동시에 시청할 수 있도록 지원합니다.
오디오
Bedrock Data Automation은 오디오의 표준 출력을 모두 지원합니다.
- 표준 출력은 오디오 파일에 대한 요약, 전체 트랜스크립션 및 탐지된 노골적인 콘텐츠를 제공합니다.
Bedrock Data Automation은 FLAC, M4A, MP3, MP4, Ogg, WebM, WAV를 지원하며, 최대 오디오 지속 시간은 4시간이고, API 요청당 최대 파일 크기는 2GB입니다. 표준 출력은 오디오 파일에 대한 요약, 전체 트랜스크립션 및 탐지된 노골적인 콘텐츠를 제공합니다.
Amazon Bedrock Data Automation을 사용할 수 있는 AWS 리전은 어디인가요?
Amazon Bedrock Data Automation은 현재 미국 서부(오리건) 리전에서 사용할 수 있습니다.
IDE
Amazon Bedrock IDE(평가판)란 무엇인가요?
Amazon Bedrock IDE(평가판)는 Amazon SageMaker Unified Studio(평가판)에 통합된 관리형 협업 환경으로, 개발자가 고성능 파운데이션 모델(FM)을 사용하여 생성형 AI 애플리케이션을 빠르게 빌드하고 반복할 수 있도록 합니다. 생성형 AI 애플리케이션을 빠르게 빌드할 수 있도록 이러한 모델을 실험하고, 프로젝트에서 협업하고, 다양한 Bedrock 도구 및 리소스에 대한 액세스를 간소화할 수 있는 직관적인 인터페이스를 제공합니다.
Amazon SageMaker Unified Studio(평가판)를 통해 Amazon Bedrock IDE(평가판)에 액세스하려면 어떻게 해야 하나요?
Amazon SageMaker Unified Studio 내에서 Amazon Bedrock IDE에 액세스하려면 개발자와 관리자가 다음 단계를 따라야 합니다.
- Amazon SageMaker Unified Studio에서 새로운 도메인을 생성합니다.
- 생성형 AI 애플리케이션 개발 프로젝트 프로필을 활성화합니다.
- Amazon SageMaker Unified Studio 내에서 회사의 Single Sign-On(SSO) 자격 증명을 사용하여 Amazon Bedrock IDE에 액세스할 수 있습니다.
Amazon SageMaker Unified Studio의 Amazon Bedrock IDE의 주요 특징 및 기능은 무엇인가요? Amazon Bedrock Studio(평가판)와 어떻게 다른가요?
이제 Amazon SageMaker Unified Studio에 통합된 Amazon Bedrock IDE는 몇 가지 주요 개선 사항이 포함된 Amazon Bedrock Studio(평가판)를 기반으로 빌드됩니다. 선도적인 회사의 고급 AI 모델, AI 프롬프트 생성 및 테스트를 위한 도구, Bedrock Knowledge Bases, Guardrails, Flows 및 Agents의 원활한 통합을 이용할 수 있도록 합니다. 팀은 공유 작업 공간에서 협업하여 필요에 맞는 맞춤형 AI 애플리케이션을 빌드할 수 있습니다.
Bedrock IDE의 새로운 기능으로는 병렬 AI 모델 비교를 위한 모델 허브, 채팅, 이미지 및 동영상 상호 작용을 지원하는 확장된 플레이그라운드, 웹 크롤링을 통한 향상된 지식 기반 생성이 포함됩니다. 보다 복잡한 채팅 애플리케이션을 위한 에이전트 생성을 도입하고 조직 내 AI 앱 및 프롬프트 공유를 간소화합니다. 또한 Bedrock IDE는 기본 애플리케이션 코드에 대한 액세스와 채팅 앱을 CloudFormation 템플릿으로 내보낼 수 있는 기능을 제공합니다. AWS 인프라 세부 정보를 관리하여 다양한 기술 수준의 사용자가 AI 애플리케이션을 더 효율적으로 생성할 수 있도록 지원하므로 이전 세대보다 더 다양하고 강력한 도구가 됩니다.
Amazon Bedrock IDE는 조직 내 팀 간의 협업을 어떻게 지원하나요?
Amazon Bedrock IDE는 Amazon SageMaker Unified Studio 내에서 관리되는 개발 환경을 제공하여 팀 간의 협업을 지원합니다. 팀은 함께 프로젝트를 생성하고, 동료를 초대하고, 생성형 AI 애플리케이션을 공동으로 빌드할 수 있습니다. 프로토타입에 대한 빠른 피드백을 받고 Amazon SageMaker Unified Studio의 모든 사용자 또는 도메인의 특정 사용자와 애플리케이션을 공유할 수 있습니다. 강력한 액세스 제어 및 거버넌스 기능을 통해 승인된 구성원만 데이터 또는 생성형 AI 애플리케이션과 같은 프로젝트 리소스에 액세스하므로 데이터 프라이버시 및 규정 준수가 지원되고 안전한 부서 간 협업 및 공유가 촉진됩니다. 또한 생성형 AI 애플리케이션을 빌더에서 Amazon SageMaker Unified Studio 도메인의 특정 사용자에게 공유하거나 특정 개인과 공유하여 해당 자산에 대한 적절한 액세스 권한, 제어 및 거버넌스를 허용할 수 있습니다.
Amazon Bedrock IDE가 Amazon SageMaker Unified Studio에 통합되는 이유는 무엇인가요?
Amazon Bedrock IDE가 Amazon SageMaker Unified Studio에 통합된 것은 생성형 AI 개발을 간소화하고 효율화하려는 AWS의 방향성을 잘 보여줍니다. 이러한 통합은 데이터, 도구, 개발자 간의 장벽을 허무는 포괄적인 환경을 조성하여 생성형 AI 애플리케이션의 효율적인 빌드 및 배포를 지원합니다.
통합 환경을 통해 데이터 준비부터 모델 개발 및 생성형 AI 애플리케이션 구축에 이르기까지 개발 수명 주기 전반에 걸쳐 기술 수준이 다양한 개발자 간에 원활한 협업이 가능합니다. 팀은 안전한 관리형 프레임워크 내에서 지식 기반 생성, 모델 미세 조정 및 고성능 생성형 AI 애플리케이션 개발을 위한 통합 도구에 액세스할 수 있습니다.
Amazon SageMaker Unified Studio에서 개발자는 요구 사항에 따라 다양한 도구 간에 손쉽게 전환하여 단일 작업 공간에서 분석, 기계 학습 및 생성형 AI 기능을 결합할 수 있습니다. 이러한 통합 접근 방식은 개발 복잡성을 줄이고 생성형 AI 프로젝트의 가치 창출 시간을 단축합니다.
Amazon SageMaker Unified Studio에 Amazon Bedrock IDE를 도입함으로써 AWS는 엔터프라이즈급 보안 및 거버넌스를 유지하면서 생성형 AI 개발의 진입 장벽을 낮추고 궁극적으로 조직이 생성형 AI를 사용하여 더 빠르고 효과적으로 혁신할 수 있도록 합니다.
Amazon SageMaker Unified Studio를 통해 액세스할 수 있는 Amazon Bedrock IDE는 AWS Management Console을 통해 액세스하는 Amazon Bedrock Studio(평가판)와 다른가요?
현재 Amazon Bedrock Studio는 AWS Management Console을 통해 액세스할 수 있으며 평가판으로 사용할 수 있습니다. 이제 Amazon Bedrock Studio는 Amazon Bedrock IDE로 이름이 변경되었으며 Amazon SageMaker Unified Studio에서 평가판으로 사용할 수 있습니다. 또한 Knowledge Bases, Guardrails, Agents, Flows 및 프롬프트 엔지니어링 도구와 같은 고급 기능을 갖춘 생성형 AI 애플리케이션을 빌드, 평가 및 공유할 수 있는 전용 환경을 제공합니다. Amazon SageMaker Unified Studio와의 이번 통합은 AWS Management Console의 이전 평가판 버전과 비교하여 기능이 더 풍부하고 관리되며 협업이 가능한 개발 환경을 제공합니다.
Amazon SageMaker Unified Studio에는 Amazon Bedrock Studio의 어떤 부분이 포함되어 있나요? 단지 플레이그라운드인가요 아니면 전체 개발 환경도 포함되나요? 언제 무엇을 사용해야 하나요?
모든 Amazon Bedrock Studio는 Amazon Bedrock IDE에서 Amazon SageMaker Unified Studio의 일부입니다. Amazon SageMaker Unified Studio의 '검색' 섹션에서 사용할 수 있는 생성형 AI 플레이그라운드를 사용하면 대화형 인터페이스를 통해 파운데이션 모델(FM)과 동료가 공유하는 모든 생성형 AI 애플리케이션을 실험해 볼 수 있습니다. 완전한 생성형 AI 애플리케이션 환경인 Amazon Bedrock IDE는 Amazon SageMaker Unified Studi의 '빌드' 섹션에 있으며 프로젝트를 통해 액세스할 수 있습니다.
각 제품 사용 시기에 관한 사항:
- AWS Management Console의 기존 Amazon Bedrock Studio: 2025년 2월 28일까지 진행 중인 프로젝트에 AWS Console의 기존 Amazon Bedrock Studio를 계속 사용할 수 있으며, 그 이후에는 지원이 종료됩니다. Amazon SageMaker의 관리 환경 내에서 액세스하려면 Amazon Bedrock IDE가 포함된 새로운 Amazon SageMaker 도메인을 설정해야 합니다.
- Amazon SageMaker Unified Studio의 생성형 AI 플레이그라운드(검색 섹션): FM을 통한 초기 실험에 채팅, 이미지 및 동영상 플레이그라운드를 사용하고, Amazon Bedrock IDE에서 애플리케이션을 빌드하기 전에 다양한 모델 및 구성을 테스트할 수 있습니다.
- Amazon SageMaker Unified Studio의 Amazon Bedrock IDE(빌드 섹션): 빌드 섹션의 Amazon Bedrock IDE를 활용하여 프로덕션에 바로 사용할 수 있는 생성형 AI 애플리케이션을 빌드하는 데 필요한 고급 기능을 활용할 수 있습니다. 여기에는 통합 거버넌스, 보안 협업, Knowledge Bases, Agents, Flows, Guardrails 및 프롬프트 엔지니어링 도구가 포함됩니다.
Amazon Bedrock IDE는 어떻게 Amazon SageMaker Unified Studio 내의 다른 AWS 서비스와 통합되어 생성형 AI 애플리케이션을 생성할 수 있나요?
Amazon Bedrock IDE는 파운데이션 모델(FM)을 사용하여 생성형 AI 애플리케이션을 빌드하는 데 초점을 맞춘 관리형 협업 환경입니다. Amazon SageMaker Unified Studio에 통합된 이 제품은 Bedrock의 고성능 FM에 액세스하고 실험할 수 있는 직관적인 인터페이스와 Knowledge Bases, Guardrails, Agents, Flows 등의 사용자 지정 도구를 제공합니다.
Amazon SageMaker Unified Studio 내에서 Amazon Bedrock IDE는 Amazon SageMaker의 분석, 기계 학습(ML) 및 생성형 AI 기능과 원활하게 통합됩니다. 사용자는 분석 서비스를 활용하여 데이터에서 인사이트를 생성하고, Amazon SageMaker AI의 훈련 및 배포 도구를 사용하여 ML 모델을 빌드하고, Amazon Bedrock IDE에서 생성된 생성형 AI 애플리케이션과 이러한 구성 요소를 결합할 수 있습니다. 이 통합 환경을 통해 분석, ML 및 생성형 AI 기능을 결합하는 데이터 기반 애플리케이션의 엔드 투 엔드 개발이 가능합니다. 사용자는 관리되는 동일한 Amazon SageMaker Unified Studio 환경 내에서 ML 및 생성형 AI 모델을 빌드 및 배포하고, 독점 데이터 및 사용자 지정으로 조정된 생성형 AI 애플리케이션을 생성 및 공유하고, 협업을 간소화할 수 있습니다.
AWS Management Console을 통해 현재 Amazon Bedrock Studio에 액세스하면 어떻게 되나요? Amazon SageMaker Unified Studio의 Amazon Bedrock IDE로 마이그레이션하려면 어떻게 해야 하나요?
AWS Management Console을 통해 서비스에 액세스하던 기존 Amazon Bedrock Studio 사용자는 프로젝트를 Amazon SageMaker Unified Studio로 직접 마이그레이션할 수 없습니다. Amazon SageMaker의 관리 환경 내에서 Amazon Bedrock IDE에 액세스하려면 개발자와 관리자가 Amazon SageMaker Unified Studio에서 새로운 도메인을 생성하고, 생성형 AI 애플리케이션 개발 프로젝트 프로필을 활성화하고, Amazon SageMaker Unified Studio 내에서 회사의 Single Sign-On(SSO) 자격 증명을 사용하여 Amazon Bedrock IDE에 액세스해야 합니다.
하지만 기존 사용자는 2025년 2월 28일까지 AWS Management Console을 통해 Amazon Bedrock Studio(평가판)에 계속 액세스할 수 있습니다. 이 날짜 이후에는 Amazon SageMaker Unified Studio 내에서 새로운 Amazon Bedrock IDE 환경으로 전환해야 합니다.
Amazon Bedrock IDE 사용에 제한이나 할당량이 있나요?
Amazon SageMaker Unified Studio 내의 Amazon Bedrock IDE에는 플랫폼 및 기본 Amazon Bedrock 리소스(예: 파운데이션 모델(FM), Knowledge Bases, Agents, Flows, Guardrails)에 대해 정의된 계정 제한 및 할당량이 적용됩니다.
Amazon Bedrock IDE를 사용하기 위한 요금 및 청구 모델은 무엇인가요?
Amazon Bedrock IDE는 추가 비용 없이 제공되며, 사용자는 자신이 빌드하는 생성형 AI 애플리케이션에 필요한 기본 리소스 사용량에 대해서만 비용을 지불합니다. 예를 들어 고객은 생성형 AI 애플리케이션에서 사용한 관련 모델, Guardrail 및 Knowledge Base에 대해서만 비용을 지불하면 됩니다. 자세한 내용은 Amazon Bedrock 요금 페이지에서 확인하세요.
Amazon Bedrock IDE의 서비스 수준 계약(SLA)이란 무엇인가요?
Amazon SageMaker Unified Studio 내 Amazon Bedrock IDE는 Amazon Bedrock과 동일한 SLA를 준수합니다. 자세한 내용은 Amazon Bedrock 서비스 수준 계약 페이지를 참조하세요.
Amazon Bedrock IDE에 대해 사용할 수 있는 설명서 및 지원 리소스는 무엇인가요?
Amazon SageMaker Unified Studio의 Amazon Bedrock IDE를 사용하여 원활한 온보딩 환경을 지원하려는 경우 Amazon Bedrock IDE 사용 설명서에서 자세한 문서를 찾아볼 수 있습니다. 추가 질문이 있거나 추가 지원이 필요한 경우 언제든지 AWS 계정 팀에 문의해 주세요.