.Amazon Bedrock 빌더 챌린지

생성형 인공 지능(AI)은 이미 고객 환경을 재창조하고 다양한 사용 사례를 활용하고 있습니다. 하지만 Amazon Web Services(AWS)에서는 가장 흥미로운 가능성을 아직 찾지 못했다는 것을 알고 있습니다. 이것이 바로 우리가 스타트업을 초대하여 생성형 AI가 할 수 있는 작업의 한계를 시험해 보고 Amazon Bedrock 빌더스 챌린지를 소개한 이유입니다.

고급 기술 구현, AWS 서비스 채택, 혁신 및 잠재적 고객 영향을 입증할 수 있는 스타트업에는 10만 달러의 AWS 크레딧이 제공됩니다.

참가자들에게는 실험 및 반복을 위한 5,000달러의 AWS 크레딧과 함께 단 한 가지 규칙만 주어졌습니다. 바로 Amazon Bedrock, Amazon SageMaker 및 Amazon EC2 용량 블록과 같은 AWS 생성형 AI 기본 기능으로 프로덕션 워크로드를 구동해야 한다는 것이었습니다. 대규모 언어 모델(LLM) 추론 속도를 높이는 것부터 플라스틱 재활용 방식을 재정의하는 것까지 눈에 띄는 결과물을 일부 확인했습니다.

오늘은 다섯 명의 수상자를 소개하고 그들의 창의성과 독창성이 어떻게 최고의 자리를 차지했는지 보여드리겠습니다.

Circleback은 팀이 모든 회의를 최대한 활용할 수 있도록 도와줍니다.

Circleback은 팀이 AI 기반 메모, 작업 항목, 자동화 및 강력한 인사이트를 통해 온라인이든 오프라인이든 모든 회의를 최대한 활용할 수 있도록 도와줍니다. Circleback은 브리티시 컬럼비아 대학교 동문인 Ali Haghani와 Kevin Jacyna가 2023년에 설립했으며, 이전 협업을 이어오고 있습니다. 이전에 Ali는 대규모 언어 모델(LLM)을 Stripe의 지원 제품에 최초로 통합하는 작업을 주도했으며, Kevin은 Tableau에서 예측 분석 업무를 담당했습니다.

Circleback은 Amazon Bedrock과의 결합된 환경을 활용하여 경쟁 제품으로 확장 가능한 사용자 지정 인사이트 식별 파이프라인을 개발했습니다. 이를 통해 사용자는 100개 이상의 언어로 진행되는 대규모 대화에서 구조화된 데이터를 추출할 수 있습니다. 오늘날 이 스타트업은 Amazon Bedrock 기반 LLM과 함께 TechCrunch의 인정을 받았으며 TIME Magazine이 선정한 AI 노트 필기 부문 1순위로 선정되었습니다.

Clearly AI가 개인 정보 보호 및 보안 검토를 자동화하는 방법

전직 Amazon 엔지니어인 Emily Choi-Greene와 Joe Choi-Greene가 2024년에 시작한 Clearly AI는 기업이 업계 표준과 내부 정책을 준수하여 중요한 사안에 집중할 수 있도록 지원합니다. 이 스타트업은 고객이 검토 백로그와 주기 시간을 90%까지 줄이는 동시에, 경영진과 개발자에게 각각 명확한 위험 가시성과 실행 가능한 권장 사항을 제공할 수 있도록 합니다.

Clearly AI는 도입을 위해 OpenAI GPT 4.0에서 Claude 3.5 Sonnet으로 마이그레이션하고 프로세스 전반에 걸쳐 컨텍스트를 유지하면서 복잡한 평가를 논리적 단계로 나누는 데 도움이 되는 맞춤형 오케스트레이션 계층을 구축했습니다. 또한 Claude 3.5 Sonnet으로 마이그레이션함으로써 Clearly AI는 Amazon Bedrock을 사용하여 기업 고객의 BYOC(Bring Your-Own-Cloud-Own-Cloud) 요구 사항을 지원할 수 있습니다.

가장 최근에 이 스타트업은 위협 모델링, 공급업체 위험 검토, 개인 정보 보호 영향 평가와 같은 사용 사례를 위해 규제 대상 산업 내 고객을 지원하도록 확장했습니다. 한 선도적인 EV 제조업체는 Clearly AI를 사용하여 동일한 고품질을 유지하면서 검토 용량을 4배로 늘릴 수 있었습니다.

미디어 생성을 위한 Rubbrband의 원스톱 샵

AI 이미지 생성 도구의 경우 특정 사용자 선호도와 스타일 기준을 일관되게 고려하는 고품질 자산을 만드는 것은 어려울 수 있습니다. 전 UC 버클리 룸메이트인 Jeremy Lee, Darren Hsu 및 Abhinav Gopal이 2022년에 설치한 Rubbrband는 초보자부터 전문 제작 스튜디오에 이르기까지 다양한 개인화를 통해 창작자의 역량을 강화하는 것을 사명으로 삼고 있습니다.

대회 기간 동안 Rubbrband는 Amazon Bedrock을 활용한 신속한 엔지니어링을 활용하여 AI 아티스트인 Roi를 구현하고 빠르게 반복 작업을 진행했습니다. 사용자가 제어하는 워크플로에 집중함으로써 Roi는 개인의 취향에 맞는 이미지를 일관되게 생성할 수 있었습니다.

Amazon EC2에서 Amazon Bedrock을 활용하는 Roi의 기술 구현은 순조롭게 진행되고 있으며 이미지 생성 및 편집 기능은 이미 완벽하게 작동하고 있습니다. 오늘날 Rubbrband는 성장률이 두 배로 증가했고 총 사용자 수가 50,000명을 넘어섰습니다.

Typewise의 AI 어시스턴트가 고객 서비스 및 판매 우수성 강화

Typewise는 미국과 스위스에 지사를 두고 원격 근무를 우선시하는 스타트업으로, 기업 고객 서비스를 자동화하고 최적화하는 것을 목표로 합니다. Typewise는 사용자 지정 가능한 AI 에이전트와 인간 상담원용 지능형 어시스턴트를 결합하여 고객 상호 작용에서 개인적인 접촉을 유지하면서 빠른 자동화 효과를 얻을 수 있습니다.2020년 David Eberle 및 Janis Berneker가 설립한 Typewise는 권위 있는 Y Combinator 액셀러레이터 프로그램의 지원을 받았습니다.

Typewise는 경쟁에 참여하기 위해 Amazon SageMaker와 저순위 적응(LoRA)을 사용하여 LLM을 학습시켰으며 테스트 배포는 SageMaker 엔드포인트에서 진행되었습니다. 또한 대규모 모델 지연 시간을 최적화하기 위해 여러 병렬 파이프라인을 실행하는 실험도 해보았습니다.그 결과 Typewise는 예측 디코딩 및 키-값(KV) 캐싱과 같은 모델 추론 속도를 높이는 여러 방법을 발견했습니다.

오늘날 Typewise는 초기 제품 검증을 넘어 유럽과 미국에서 40개 이상의 기업 계약을 체결했습니다. 이 스타트업은 이탈률이 전혀 없이 파일럿에서 연간 라이선스로 전환되는 비율을 꾸준히 80%로 유지해 왔습니다.

Birch Biosciences: 플라스틱 재활용 공정의 재발견

매년 4억 톤의 플라스틱이 생산되고 그중 9% 만이 재활용되는 상황에서 Birch Biosciences는 플라스틱 재활용을 보다 경제적이고 지속 가능하며 재활용되도록 하는 데 중점을 두고 있습니다. Johan Kers와 Emily Duncan이 2022년에 설립한 이 스타트업은 플라스틱을 화학적 구성 요소로 분해한 다음, 100% 재활용 재료로 만든 고품질 제품으로 다시 제조할 수 있도록 효소를 설계하고 있습니다.

Amazon Bedrock 빌더스 챌린지의 일환으로 Birch Biosciences는 설계-구축-테스트-학습(DBTL) 주기를 활용하는 효소 엔지니어링 플랫폼을 개발했습니다. 이 플랫폼은 대용량의 미세유체, 고성능 액체 크로마토그래피, 차세대 DNA 염기서열 분석(NGS) 데이터를 사용하여 효소 설계 모델을 학습하고 개선합니다.

2024년, Birch Biosciences는 플라스틱 재활용 공정에서 효소 성능에 대한 주요 기술적 이정표를 달성했습니다. 이를 통해 이 스타트업의 AI 혁신 플라이휠을 입증하고 기술 확장 및 상용화에 필요한 중요 지표를 달성했습니다. 그 이후로 Birch Biosciences는 첫 번째 재활용 파일럿 공장을 수용할 6,500 평방피트 규모의 새로운 시설로 이전했습니다.

또한 이 스타트업은 재활용 기술을 개발하고 다양한 유형의 플라스틱에 대한 연구를 확장한 공로로 국립 과학 재단, 에너지부 및 국방 첨단 연구 계획국으로부터 주목할만한 상을 받았습니다.

AWS 생성형 AI로 가능한 작업 알아보기

AWS는 Y Combinator 스타트업의 80%를 포함하여 280,000개 이상의 스타트업의 본거지로, 스타트업이 성공적으로 시작하고 성장하도록 지원하는 데 전념하는 다양한 프로그램과 리소스를 제공합니다.Amazon Bedrock 빌더스 챌린지 수상자들이 보여준 창의성과 기술적 전문성의 수준에 놀랐습니다.

AWS는 스타트업이 AWS Activate를 통해 아이디어를 실현할 수 있도록 돕습니다. 비즈니스를 구축하고 규모를 조정함에 따라 Activate 크레딧도 함께 성장하여 변화하는 요구 사항을 지원할 수 있습니다. AWS Activate 회원인 경우 최대 10만 USD의 크레딧을 받아 AWS 청구서를 상쇄할 수 있습니다. 지금 Activate 크레딧을 신척하세요.