개요

AI 기술의 발전과 함께 기업들은 데이터를 더 효과적으로 활용하기 위한 새로운 방법들을 모색하고 있습니다. 특히, 생성형 AI(GenAI) 와 대규모 언어 모델(LLM) 은 조직이 데이터를 처리하고 활용하는 방식을 변화시키는 핵심 도구로 자리 잡고 있습니다. 하지만 기존의 LLM은 사전에 학습된 데이터에만 의존하기 때문에 최신 정보에 접근하거나 조직 내 특정 요구사항에 맞춘 답변을 제공하는 데 한계가 있습니다.

이러한 한계를 해결하기 위해 등장한 기술이 바로 Retrieval-Augmented Generation (RAG) 입니다. RAG는 모델이 외부 데이터 소스를 검색하여 최신 정보를 통합하고, 이를 기반으로 맞춤형 답변을 생성할 수 있도록 합니다. 이를 통해 조직은 더 정교하고 유용한 지식 기반 시스템을 구축할 수 있습니다. 그러나 RAG 시스템은 개인정보(PII), 민감정보, 클라우드 자격 증명 등 중요한 데이터를 다룰 수밖에 없기에 데이터 보안과 보호가 필수적입니다.

요즘같이 사내에 많은 Open Source, Enterprise Soulition이 사용되는 시기에 각 Solution별로 ID/Password를 관리하는 것은 쉽지 않습니다.
거기다 만약 Dev, Stage, Production등의 환경별로 구축이 되어 있다면 이미 ID/Password를 저장하고 관리하는 것만 으로도 굉장히 반복적이고 귀찮은 작업이 될 것 입니다.

우리는 이러한 상황을 해결하기 위해 IDP(Identity Provider) Solution을 사용합니다.
다양한 IDP가 있겠으나 제가 속한 회사에서는 Keycloak을 사용하고 있고 그 Keycloak을 통해
gitlab, grafana, nomad, vault의 사용자 인증 및 권한관리를 하고 있습니다.
이 중 Terraform code로 구현이 완벽히 된 Nomad와 Vault의 Code에 대해 설명드리겠습니다.

Vault 설정 참고 링크: Hashicorp 공홈

Nomad Vault 연동 참고 링크: docmoa

token, app-role로 관리: docmoa

aws-auth로 관리: docmoa

token, app-role로 관리: docmoa

Spring boot에서는 Token, App-role을 제외하고 aws-auth를 통해서도 Secret을 주입 할 수 있습니다.
aws-auth에서는 다음의 두 기능을 지원합니다.

• 사전 준비 사항
• 1. Vault 사설 인증서 만들기
  • 1.1 환경 변수 설정
    • 1.1.1 Kubernetes에서 서명할 키 생성
    • 1.1.2 인증서 서명 요청(CSR)을 생성
    • 1.1.3 CSR을 생성
    • 1.1.4 csr.yaml 생성
    • 1.1.5 csr.yaml 배포
    • 1.1.6 CSR을 승인 요청
    • 1.1.7 승인 상태 확인
• 2. 키, 인증서 및 Kubernetes CA를 Kubernetes secret 저장
  • 2.1 crt 파일 생성
  • 2.2 쿠버네티스 ca 설정 파일
  • 2.3 key, crt, ca 인증서 시크릿 생성
• 3. Vault tls 인증서 적용
  • 3.1 helm values.yaml 파일
  • 3.2 AWS NLB를 통해 접근 인증서 확인
  • 3.3 ACM 인증서를 통해 접근
    • 3.3.1 Route53 설정
    • 3.3.2 레코드 생성
    • 3.3.3 레코드 설정
    • 3.3.4 AWS 인증서를 통해 Vault UI 접근
• 4. AWS Private Ca를 사용 하는 인증서 생성
  • 4.1 사전 준비 요건
  • 4.2 ACM 인증서 생성
• 5. AWS Private Ca 기반으로 생성 된 인증서를 Vault에 적용
• 결론
  • 진행 방식
  • 대안

Secret Sync 공식 자료: Secret Sync
AWS Secret Manager Sync 자료: Secret Manager Sync

UbuCon Korea 2024

행사 홈페이지
2024년 8월 10일
한국 마이크로소프트
일정표 : https://events.canonical.com/event/48/timetable/#20240810

책 정보

• 저자 : 최다혜
• 출간일 : 2023-4-13
• 페이지 : 252쪽
• 출판사 링크 : https://www.instagram.com/tornadobooks/p/CrQJMUdL5bX/?img_index=1
• 책소개 : 내일의 세상에 ‘다름’을 던지는 젊은 리더들의 성장 수업
  
  우리는 세계를 변화시킬 리더를 양성한다.
  We educate leaders who make a differnce in the world.
  [하버드 비즈니스 스쿨의 교육이념]

1. 사전 요구조건 및 KMS ID 정보 확인

1.1 config.hcl 파일

seal "awskms" {
  region     = "ap-northeast-2"
  kms_key_id = "[kms_key_id]"
}