2025 re:Invent 여정

AWS re:Invent는 흔히 컨퍼런스라고 부르지만 실제로 현장에 와보면 그 표현이 조금 부족하다는 생각이 듭니다. 라스베이거스 전반에 걸쳐 여러 호텔과 컨벤션 센터가 행사장으로 사용되고 하루 종일 세션과 키노트 네트워킹이 이어지다 보니 도시 전체가 AWS 행사장처럼 느껴지는 경험이었습니다.

특히 키노트가 열리는 시간에는 수만 명의 글로벌 엔지니어가 한 공간에 모여 발표를 듣고 발표 중간중간 나오는 데모나 메시지에 함께 반응하는 분위기가 인상 깊었습니다.

사진으로만 보던 re:Invent를 직접 경험해보니 왜 많은 엔지니어들이 언젠가는 꼭 가보고 싶은 행사로 꼽는지 자연스럽게 이해가 됐습니다.

AWS re:Invent Tech 트랜드 기술

이번 re:Invent 2025의 전반적인 기술 메시지는 명확했습니다. AI를 도입하는 기술이 아니라 기본 전제를 바탕으로 가는 플랫폼으로 전환하고 있다는 점입니다.

re:Invent 2025 Keynote 느껴진 방향

• AI는 더 이상 실험적인 기능이 아니라 서비스와 운영의 기본 구성 요소
• 단순 생성형 AI를 넘어 계획, 실행, 평가까지 수행하는 Agentic AI 중심의 구조
• AI 확산과 동시에 비용 최적화와 운영 안정성을 함께 가져가려는 메시지 반복

키노트 전반에서 느껴진 인상은 이제 AI를 어디에 사용할까? 보다는 AI가 기본으로 사용되는 환경에서 시스템을 어떻게 설계할까? 라는 질문으로 옮겨가고 있다는 점이었습니다.

이번 Keynote 배경으로 Agentic AI, AI 활용 효율화, 비용 최적화, 운영 안정성을 다룬 세션들이 전반적으로 구성되었는데요. 그중에서도 실제 인프라 보안 운영에 바로 적용해 볼 수 있겠다고 느낀 주제를 중심으로 간단히 정리해 보았습니다.

EKS 운영, 이제는 Agentic하게

이번에 재미있게 들었던 발표 중 하나는 Agentic AI를 활용해 EKS 운영을 팀원처럼 수행하는 AI 에이전트를 구현한 Code Talk 세션이었습니다. 단순히 질문에 답하는 챗봇이 아니라, Slack으로 들어오는 알림을 감지하고, 과거 해결책을 검색하며, 필요하다면 실시간으로 클러스터 상태를 분석해 문제를 해결하는 과정으로 진행되었습니다.

작년까지 주로 사용되던 RAG 방식은 데이터를 미리 청킹해 저장해두고 검색하는 구조이다 보니, 실시간 운영 이슈를 다루기에는 한계가 있었는데, 이번에는 이를 넘어 MCP를 통해 지금 이 순간의 EKS 클러스터 상태를 직접 조회하는 방식으로 접근합니다. 특히 Managed EKS MCP server를 이용하여 MCP 서버를 직접 띄울 필요 없이 IAM 기반으로 바로 연결할 있어서 설정이 한결 간단했습니다.

에이전트는 Strands Agents SDK로 구현했으며, Orchestrator와 Specialist 구조를 만들어 Slack 메시지를 받으면 자동으로 트러블슈팅 루프를 실행합니다. 모든 메시지를 무겁게 처리하지 않기 위해 Nova Micro로 먼저 의도를 분류하고, 필요한 경우에만 에이전트를 동작시키는 방식으로 비용 효율성도 함께 고려한 점이 좋았습니다.

또 하나 인상 깊었던 부분은 조직 내에 흩어져 있는 Tribal Knowledge를 S3 Vectors에 저장해 과거의 해결 경험을 다음 문제에 재사용하는 구조였습니다. 이를 위해 Memory Agent를 별도로 분리하여 다른 에이전트들과 A2A 방식으로 협력하도록 설계한 점도 설득력이 있어 보였습니다.

이 세션이 주는 메시지는 AI를 운영에 도입하는 핵심은 더 똑똑한 모델이 아니라 실시간 데이터 접근, 지식 축적, 비용 통제, 그리고 역할이 명확한 아키텍처 설계라는 점입니다. EKS 기반 운영을 하는 팀이라면 이 패턴을 우리 환경에 맞게 변형해 실험해볼 만한 충분한 힌트를 얻을 수 있는 세션이었습니다.

Amazon EKS에서의 생성형 및 에이전틱 AI

이번 세션은 EKS에서 AI 워크로드를 어떻게 운영 관점에서 다뤄야 하는지를 차분하게 정리해주는 발표였습니다. 생성형 AI와 에이전틱 AI 에이전트 구축부터 모델 추론과 파인튜닝까지 폭넓게 다루지만 핵심 메시지는 명확했습니다. AI 활용이 넓어질수록 Kubernetes 특히 EKS가 더 중요한 기반이 된다는 점입니다.

발표 초반에는 AI 변화 속도가 너무 빠르기 때문에 불안감을 느끼는 것이 정상이라는 이야기를 하며 이 세션의 목표는 그 불안감을 낮추는 것이라고 설명했습니다. 무엇을 선택해야 할지 어떤 순서로 접근해야 할지에 대한 방향성을 제시하는 흐름이 인상적이었습니다.

Kubernetes를 선택하는 이유도 현실적으로 정리합니다. 인프라 제어를 통해 비용 대비 성능을 최적화할 수 있고 멀티클라우드와 온프레미스를 고려한 이식성이 AI 워크로드에서 더 중요해지고 있으며 기존 서비스와 에이전트 추론 파인튜닝을 한 플랫폼에서 함께 운영하려는 요구가 커지고 있다는 점입니다.

에이전트 부분에서는 새로운 영역을 처음부터 배울 필요는 없다는 메시지가 좋았습니다. 에이전틱 프레임워크는 결국 파이썬 라이브러리이며 컨테이너로 패키징해 EKS에 배포하면 기존 서비스와 크게 다르지 않다고 설명합니다. 여러 도구와 API는 MCP 서버로 묶어 재사용할 수 있다는 점도 자연스럽게 이어집니다.

GPU 운영은 토마토 재배 비유로 풀어내며 이해를 돕습니다. GPU 선택은 씨앗 클러스터 구성은 토양 관찰성과 건강 관리는 안정적인 운영의 핵심이라는 흐름입니다. Auto Mode와 Karpenter의 차이를 짚으며 설정 편의성과 제어권의 균형을 설명한 점도 현실적이었습니다.

전체적으로 이 세션은 AI 워크로드를 어떻게 안정적으로 운영할 것인지에 대한 기준을 제시한 발표였습니다. AI 네이티브를 지향하는 팀이라면 EKS를 중심으로 한 운영 전략을 다시 한 번 정리해보게 만드는 내용이었습니다.

Amazon Bedrock과 Kiro를 활용한 개발 및 DevSecOps 가속화

해당 세션에서는 Amazon Bedrock AgentCore와 Kiro라는 AWS AI 기반 IDE를 결합해 개발 속도를 가속화하면서 DevSecOps를 근본적으로 자동화하는 방법을 보여주었습니다.

Kiro는 자연어로 작성한 스펙을 입력하면 코드, 단위 테스트, 문서, 아키텍처 다이어그램까지 자동 생성해주고, Bedrock AgentCore와 결합하면 이 과정이 단순한 코드 생성을 넘어 자율적인 에이전트 워크플로우로 확장까지 가능하게 해주는데요. 예를 들어, 개발자가 아이디어를 스펙으로 작성하면 Kiro가 구현체를 만들어 주고, Bedrock AgentCore가 이를 기반으로 CI/CD 파이프라인을 자동 실행하며, SAST/DAST/Dependency Check와 같은 보안 스캐닝 작업까지 수행하고, 코드 리뷰, 취약점 수정까지 모두 처리하게 됩니다.

실제 소개된 시나리오에서도 AI가 자동으로 보안 리뷰를 진행해 오탐을 줄이면서 개발자들의 생산성을 높였다거나, 위협 모델링과 규정 준수 체크를 에이전트가 자동으로 수행하며 Shift-left Security를 실현한 점이 인상적이었어요.

그리고 특히 와닿았던 부분은 AI 에이전트를 단순한 도구가 아니라 “개발팀의 팀원”으로 보고 있는 부분이었어요. Bedrock AgentCore의 Policy 컨트롤을 통해 에이전트의 행동 범위를 제한하여 비용을 관리한다거나, Evaluations 기능을 활용해 에이전트의 정확도, 안전성을 지속 측정하기도 하였습니다.

이를 통해 AI가 개발 속도를 높이는 것을 넘어서서 DevSecOps 전체를 자동화하고 보안과 컴플라이언스를 강화하는 미래 방향성을 제시해주는 듯하여 흥미로웠어요.

re:Invent를 통해 다양한 인사이트 경험

이번 re:Invent에서 인상 깊었던 점은 새로운 기술을 나열하기보다 그 기술을 실제 시스템 안에서 어떻게 운영하고 녹여낼 것인지에 대한 이야기가 많았다는 점이었습니다. 단순한 서비스 소개보다는 어떤 문제를 해결하려는지 기존 운영 방식에서 무엇을 바꾸려는지에 초점이 맞춰져 있었고 AI와 비용, 보안, 운영이 각각 분리된 주제가 아니라 하나의 흐름으로 연결되어 설명되었습니다.

특히 AI 네이티브 아키텍처를 지향하면서도 운영 안정성과 비용 통제를 동시에 가져가기 위한 고민이 여러 세션에 자연스럽게 녹아 있었습니다. AI를 더 많이 쓰는 것이 목표가 아니라 AI를 사용하면서도 시스템을 더 예측 가능하고 관리하기 쉽게 만드는 방향이 반복해서 강조되었습니다.

이번 re:Invent는 트렌디한 기술을 소비하는 자리가 아니라 기술의 방향성과 맥락을 체감하는 자리였다는 인상이 남았습니다. 뱅크샐러드 역시 AI Native한 방향을 지향하는 과정에서 어떤 문제에 AI를 쓰는 것이 맞는지 어디까지 자동화하는 것이 현실적인지 비용과 안정성을 함께 고려한 설계는 어떤 모습이어야 하는지에 대해 한 단계 넓은 시야를 얻고 돌아왔습니다.