AWS "에이전트 시대, AI 인프라 구축이 핵심…확장성·보안·최적화 관건"

맷 가먼 AWS CEO, 리인벤트 2025 첫 기조 연설

엔비디아와 15년 동맹 강조…자체 칩 '트레이니엄3'도 공개

기존 데이터센터에 AWS AI 인프라 구축…공공·금융 공략

맷 가먼 아마존웹서비스(AWS) 최고경영자(CEO)는 2일(현지시각) 미국 라스베이거스에서 열린 AWS 리인벤트 2025에서 첫 기조연설을 하고 있다. [사진=AWS코리아]

"인공지능(AI) 에이전트의 등장은 AI 발전의 전환점을 만들어냈다. 기술적 경이로움에서 진정한 가치를 제공하는 단계로 나아가고 있는 것이다. AI 투자로 실질적인 비즈니스 수익이 나타나기 시작했다."

맷 가먼 아마존웹서비스(AWS) 최고경영자(CEO)는 2일(현지시각) 미국 라스베이거스에서 열린 'AWS 리인벤트2025'에서 첫 기조연설을 통해 "AI로부터 실질적인 가치를 얻기 위해선 확장성 있고 강력한 AI 인프라를 갖추어야 한다"면서 이같이 밝혔다.

올해 14회차를 맞은 AWS 리인벤트는 회사의 대규모 연례 기술 행사로, 전 세계 클라우드 전문가와 기업들이 참여해 최신 기술, 인프라, 서비스와 AI 및 클라우드 혁신사레가 발표된다. 이날 행사에는 6만여명 관객들이 현장을 찾았다.

맷 가먼 CEO는 "최상의 성능을 제공하는 확장성과 보안성이 뛰어난 클라우드가 필수적"이라면서 "AI 모델, 훈련, 맞춤화, 추론 전반에 걸쳐 가능한 최저 비용으로 구현해야 하는데, 이를 실현하려면 하드웨어와 소프트웨어의 모든 계층을 최적화해야 한다"고 강조했다.

대표적인 AI 인프라로 그래픽처리장치(GPU)를 꼽았다. 그러면서 엔비디아와의 15년 이상의 긴밀한 파트너십을 강조했다. AWS는 최근 엔비디아의 차세대 GPU 아키텍처인 블랙웰 기반의 AI 인프라 △P6e-GB200 울트라서버와 △P6-B200 인스턴스를 공개했고, 이날 P6e GB300 제품을 새롭게 공개했다.

가먼 CEO는 "AWS는 엔비디아 GPU를 실행하기에 가장 적합한 환경"이라면서 "클라우드에서 엔비디아 GPU를 최초로 제공했으며, 15년 이상 엔비디아와 협력해 왔고, AWS가 대규모 GPU 클러스터 운영에 가장 안정적이라고 자부할 수 있다"고 밝혔다.

"에너지 효율 4배 높고, 비용은 GPU의 절반"…AWS, '트레이니움3' 공개

이런 가운데 AWS가 자체 AI 칩인 트레이니움 3을 공개했다. 이는 전작인 트레이니엄2와 비교해 컴퓨팅 성능은 최대 4.4배 향상했고, 에너지 효율성은 4배 높였다. 또한 엔비디아의 GPU를 사용할 때보다 AI 모델 훈련·운영 비용을 최대 50%까지 절감할 수 있다.

맷 가먼 CEO는 "트레이니움 3는 대규모 AI 훈련과 추론에 있어 업계 최고의 가격 대비 성능을 제공한다"고 강조했다. 이를 통해 모델 훈련 시간을 몇 개월에서 몇 주로 단축하고, 출시 기간과 운영 비용을 모두 절감함으로써 비실용적이거나 고비용이었던 AI 프로젝트를 최적화한 환경에서 수행할 수 있을 것으로 보인다.

많은 기업들이 트레이니움을 활용해 비용을 최대 50% 절감하고 있다. 앤트로픽, 카라쿠리, 디카트(Decart), 메타지노믹스, 네토닷에이아이(Neto.ai) 등이 대표적이다. AWS는 앤트로픽과 50만 개 이상의 트레이니움2 칩으로 구성된 AI 데이터센터 '프로젝트 레이니어'를 구축했다. 앤트로픽 클로드 학습과 운영에 사용되고 있으며, 향후 AWS 자체 칩 100만개 이상이 투입될 예정이다. 또한 AWS 파운데이션 모델 관리형 서비스 '아마존 베드록'도 트레이니움3 기반으로 운영되고 있다.

또한 후속작인 '트레이니엄4'의 개발도 이미 시작했다. 트레이니엄3 보다 3배 향상된 성능을 가졌고, 특히 엔비디아의 칩 간 연결 기술 'NV링크'를 지원할 것이라고 예고했다.이는 엔비디아 GPU를 원하는 고객의 수요에 대응함과 동시에, 엔비디아 칩을 주로 쓰던 고객이 향후 자사 AI 칩으로 쉽게 바꿀 수 있도록 하기 위한 전략으로 풀이된다.

"기존 고객 데이터센터에 AWS AI 인프라 심는다"…보안 규제 강한 공공·금융 공략

AWS가 기업들의 자체 데이터센터에 AWS AI 인프라를 구축해준다. 보안 규제가 강한 공공·금융·의료 산업을 공략하기 위한 것이다. 'AWS AI 팩토리'는 엔비디아 AI 컴퓨팅과 트레이니움 칩을 포함한 최신 AI 가속기를 비롯해, AWS의 고속·저지연 네트워킹, 고성능 스토리지 및 데이터베이스, 아마존 베드록 및 아마존 세이지 메이커와 같은 AI 서비스 등을 제공한다. 특히 정부 기관이 가장 민감한 워크로드를 모든 기밀 등급에 걸쳐 실행할 수 있도록 AWS의 엄격한 보안 기준에 맞춰 설계됐다.

소버린 클라우드 형태와 비슷하게 프라이빗 AWS 리전처럼 작동한다. 고객이 이미 확보한 기존 데이터센터 공간에서 최신 AI 칩부터 AI 모델 구축·훈련·배포 도구에 이르기까지 AWS의 AI 인프라와 서비스에 접근할 수 있다는 의미다. 특히 고객의 데이터를 데이터센터 안에서만 활용해 데이터 주권을 확보하면서 다양한 파운데이션 모델을 이용할 수 있게 된다.

최근 AWS는 사우디아라비아 기업 '휴메인'과 AWS AI 팩토리 구축을 위한 전략적 파트너십을 체결했다. AWS는 사우디아라비아에 최초의 'AI 존'을 구축하고 있다. 여기에는 GB300 GPU를 포함한 최대 15만 개의 AI 칩, 전용 AWS AI 인프라 및 AWS AI 서비스가 포함되고, 모두 휴메인이 특별히 구축한 데이터센터 내에 배치된다.

아마존 베드록에 '미스트랄 AI' 새롭게 추가…비용 최적화한 '노바2'도 공개

아마존 베드록에 구글의 젬마3 등을 포함해 18개의 새로운 오픈소스 모델이 추가됐다. 특히 미스트랄 AI 모델이 처음 입점했다. △장문을 이해하고 텍스트와 이미지를 처리할 수 있는 '미스트랄 라지 3'와 △범용성과 멀티모달 역량을 갖춘 소형 AI 모델인 '미스트랄 3'가 추가됐다.

맷 가먼 CEO는 "베드록 이용 고객 수는 1년 전과 비교해 2배 이상 증가했고, 사용량도 놀라운 수준이다. 1조 토큰 이상을 처리하는 고객이 50곳 이상"이면서 "생성형 애플리케이션을 만들 때 모델 선택이 가장 중요하기 때문에 베드록에서 제공하는 모델을 지속적으로 확장해왔고, 지난 1년간 모델 수를 거의 2배로 늘렸다"고 설명했다.

또한 AWS의 자체 모델인 아마존 노바2의 라인업도 공개했다. △가격, 성능, 속도를 최적화한 '노바2 라이트' △음성 기반의 대화형 AI를 제공하는 '노바2 소닉' △텍스트, 이미지, 음성, 비디오 등 멀티모달 기능을 갖춘 '노바2 옴니' 등으로 구성된다. 특히 노바2 라이트는 엔트로픽의 클로드와 GPT-5 미니, 제미나이 플래시 2.5 등 경쟁 모델과 비교해 가격 대비 뛰어난 성능을 제공한다고 강조했다.

"기업용 AI 에이전트 관리·감독한다"…에이전트코어 신규 기능 추가

AI 에이전트를 관리·감독할 수 있도록 지원하는 신규 기능도 공개했다. AI 에이전트 구축·배포 플랫폼인 '아마존 베드록 에이전트코어'에 △폴리시 인 에이전트코어와 △에이전트코어 이밸류에이션 기능이 추가됐다.

'폴리시 인 에이전트코어'는 기업이 에이전트가 수행할 수 있는 행동의 범위를 명확하게 설정하도록 지원한다. 자연어를 사용해 에이전트가 접근할 수 있는 도구와 데이터, 어떤 행동을 어떤 조건에서 수행할 수 있는지 등 규정함으로써 에이전트에 행동의 범위를 정해주는 것이다.

'에이전트코어 이밸류에이션'은 에이전트가 실제 환경에서 설정한 범위 안에서 행동하도록 지원한다. 특히 고객이 복잡한 정책 코드를 작성하는 대신 자연어로 규칙을 설명하는 것만으로도 세밀한 정책을 쉽게 구성할 수 있다. 예를 들어 "1000달러를 초과하는 고객 환불 요청은 모두 차단한다"와 같은 정책을 에이전트에 자연어로 손쉽게 정의하고 적용할 수 있다.

"개발부터 보안·운영 업무 AI가 대신한다"…AWS가 만든 에이전트 공개

이와 함께 클라우드 이용 고객을 위해 AWS가 직접 설계한 에이전트 3종도 공개됐다. △키로(Kiro) 자율 에이전트 △AWS 시큐리티 에이전트 △AWS 데브옵스 에이전트 등이다.

우선 '키로(Kiro) 자율 에이전트'는 개발자를 위해 단순 반복 작업을 대신해준다. 에이전트가 버그 분류부터 코드 커버리지 개선까지 다양한 작업을 수행하며, 여러 저장소에 걸친 단일 변경 작업을 자동으로 처리한다.

'AWS 시큐리티 에이전트'는 클라우드 환경 전반에 걸친 보안 업무를 지원한다. 기업이 보안 표준을 정의하면 에이전트가 학습하고 애플리케이션 전반을 자동으로 검증한다. 설계부터 배포까지 보안을 지속적으로 검증해 취약점을 조기에 방지할 수 있다.

'AWS 데브옵스 에이전트'는 클라우드 환경에서 상시 가동되는 인시던트 분류, 가이드 기반 해결 지원, 애플리케이션 안정성·성능 개선 권장사항 제공 등을 자동화함으로써 운영 부담을 줄여준다.