AWS 기반암

Hermes 에이전트는 OpenAI 호환 엔드포인트가 아닌 Converse API를 사용하여 Amazon Bedrock을 기본 제공자로 지원합니다. 이를 통해 IAM 인증, Guardrails, 지역 간 추론 프로필 및 모든 기반 모델 등 Bedrock 생태계에 대한 전체 액세스 권한을 제공합니다.

전제 조건

AWS 자격 증명 — boto3 자격 증명 체인에서 지원하는 모든 소스:
- IAM 인스턴스 역할(EC2, ECS, Lambda - 구성 없음)
- AWS_ACCESS_KEY_ID + AWS_SECRET_ACCESS_KEY 환경 변수
- SSO 또는 명명된 프로필의 경우 AWS_PROFILE
- 지역 개발을 위한 aws configure
boto3 — pip install hermes-agent[bedrock]으로 설치
IAM 권한 — 최소:
- bedrock:InvokeModel 및 bedrock:InvokeModelWithResponseStream(추론용)
- bedrock:ListFoundationModels 및 bedrock:ListInferenceProfiles(모델 검색용)

EC2 / ECS / Lambda

AWS 컴퓨팅에서 AmazonBedrockFullAccess을 사용하여 IAM 역할을 연결하면 완료됩니다. API 키 없음, .env 구성 없음 — Hermes는 인스턴스 역할을 자동으로 감지합니다.

빠른 시작

# Install with Bedrock support
pip install hermes-agent[bedrock]

# Select Bedrock as your provider
hermes model
# → Choose "More providers..." → "AWS Bedrock"
# → Select your region and model

# Start chatting
hermes chat

구성

hermes model을 실행하면 ~/.hermes/config.yaml에 다음이 포함됩니다.

model:
  default: us.anthropic.claude-sonnet-4-6
  provider: bedrock
  base_url: https://bedrock-runtime.us-east-2.amazonaws.com

bedrock:
  region: us-east-2

지역

다음 방법 중 하나로 AWS 리전을 설정합니다(가장 높은 우선순위부터).

bedrock.region(config.yaml)
AWS_REGION 환경 변수
AWS_DEFAULT_REGION 환경 변수
기본값: us-east-1

난간

모든 모델 호출에 Amazon Bedrock Guardrails를 적용하려면 다음을 수행하세요.

bedrock:
  region: us-east-2
  guardrail:
    guardrail_identifier: "abc123def456"  # From the Bedrock console
    guardrail_version: "1"                # Version number or "DRAFT"
    stream_processing_mode: "async"       # "sync" or "async"
    trace: "disabled"                     # "enabled", "disabled", or "enabled_full"

모델 발견

Hermes는 Bedrock 제어 평면을 통해 사용 가능한 모델을 자동으로 검색합니다. 검색을 사용자 정의할 수 있습니다.

bedrock:
  discovery:
    enabled: true
    provider_filter: ["anthropic", "amazon"]  # Only show these providers
    refresh_interval: 3600                     # Cache for 1 hour

사용 가능한 모델

Bedrock 모델은 주문형 호출에 추론 프로필 ID를 사용합니다. hermes model 선택기는 상단에 권장 모델과 함께 이러한 항목을 자동으로 표시합니다.

모델	ID	메모
클로드 소네트 4.6	`us.anthropic.claude-sonnet-4-6`	권장 — 속도와 기능의 최상의 균형
클로드 오푸스 4.6	`us.anthropic.claude-opus-4-6-v1`	가장 유능한
클로드 하이쿠 4.5	`us.anthropic.claude-haiku-4-5-20251001-v1:0`	가장 빠른 클로드
아마존 노바 프로	`us.amazon.nova-pro-v1:0`	아마존의 주력
아마존 노바 마이크로	`us.amazon.nova-micro-v1:0`	가장 빠르고 저렴함
딥시크 V3.2	`deepseek.v3.2`	강력한 개방형 모델
라마 4 스카우트	`us.meta.llama4-scout-17b-instruct-v1:0`	메타의 최신

Cross-Region Inference

us. 접두사가 붙은 모델은 AWS 지역 전체에서 더 나은 용량과 자동 장애 조치를 제공하는 지역 간 추론 프로필을 사용합니다. global. 접두사가 붙은 모델은 전 세계에서 사용 가능한 모든 지역으로 라우팅됩니다.

세션 중간에 모델 전환

대화 중에 /model 명령을 사용하세요.

/model us.amazon.nova-pro-v1:0
/model deepseek.v3.2
/model us.anthropic.claude-opus-4-6-v1

진단

hermes doctor

의사는 다음을 확인합니다.

AWS 자격 증명을 사용할 수 있는지 여부(환경 변수, IAM 역할, SSO)
boto3 설치 여부
Bedrock API에 연결할 수 있는지 여부(ListFoundationModels)
해당 지역에서 사용 가능한 모델 수

게이트웨이(메시징 플랫폼)

Bedrock은 모든 Hermes 게이트웨이 플랫폼(Telegram, Discord, Slack, Feishu 등)에서 작동합니다. Bedrock을 제공자로 구성한 후 게이트웨이를 정상적으로 시작합니다.

hermes gateway setup
hermes gateway start

게이트웨이는 config.yaml을 읽고 동일한 Bedrock 제공자 구성을 사용합니다.

문제 해결

"API 키를 찾을 수 없습니다." / "AWS 자격 증명이 없습니다."

Hermes는 다음 순서로 자격 증명을 확인합니다.

AWS_BEARER_TOKEN_BEDROCK
AWS_ACCESS_KEY_ID + AWS_SECRET_ACCESS_KEY
AWS_PROFILE
EC2 인스턴스 메타데이터(IMDS)
ECS 컨테이너 자격 증명
Lambda 실행 역할

아무 것도 발견되지 않으면 aws configure을 실행하거나 IAM 역할을 컴퓨팅 인스턴스에 연결합니다.

"주문형 처리량을 사용한 모델 ID 호출은 지원되지 않습니다."

기본 모델 ID 대신 추론 프로필 ID(us. 또는 global. 접두사가 붙음)를 사용하세요. 예를 들어:

❌ anthropic.claude-sonnet-4-6
✅ us.anthropic.claude-sonnet-4-6

"제한 예외"

Bedrock 모델별 비율 제한에 도달했습니다. Hermes는 백오프를 사용하여 자동으로 재시도합니다. 한도를 늘리려면 AWS Service Quotas 콘솔에서 할당량 증가를 요청하세요.

원클릭 AWS 배포

CloudFormation을 사용하여 EC2에 완전히 자동화된 배포의 경우:

sample-hermes-agent-on-aws-with-bedrock — VPC, IAM 역할, EC2 인스턴스를 생성하고 Bedrock을 자동으로 구성합니다. 한 번의 클릭으로 모든 지역에 배포할 수 있습니다.

전제 조건​

빠른 시작​

구성​

지역​

난간​

모델 발견​

사용 가능한 모델​

세션 중간에 모델 전환​

진단​

게이트웨이(메시징 플랫폼)​

문제 해결​

"API 키를 찾을 수 없습니다." / "AWS 자격 증명이 없습니다."​

"주문형 처리량을 사용한 모델 ID 호출은 지원되지 않습니다."​

"제한 예외"​

원클릭 AWS 배포​