전체 글 203

Google Cloud Summit 2024 후기

첫 Google Cloud Summit에 방문하였습니다. ㅎㅎ특히, 신라 호텔에서 진행한다고 해서 떨리는 마음으로 방문했지만 생각보다 내부가 좁아서 실망스러웠습니다.... Google Cloud Summit은 총 3 개의 트랙을 주제로 강연을 진행했습니다.저는 여기서 "Track 1 - AI"를 듣고 왔는데요.왜 AI를 들었냐 하면... 사실 구글하면 떠오르는 게 ChatGPT 밖에 없어서 Generative AI 를 들었습니다.  * 사진 순서는 시간순이 아니라 이해를 돕기 위해 개념 → use case 순으로 재구성하였습니다.  현재 Gen AI의 수준은?요즘 대학생들이 chatGPT 없이 과제하기 힘든 것처럼...genAI는 사람보다 많은 데이터들을 학습되어 있어 사람의 수준보다 월등히 뛰어날거라고..

API 그리고 AP 서버란 무엇인가?

사실 나는 API 개념을 이해 잘 못했다.그래서 인턴 때도 이 아키텍처는 AP 서버가 있고 저 아키텍처에서는 API 서버가 있고, 다른 아키텍처에는 WAS 서버가 있어서 다 다른 용도인줄 알았다. 비즈니스 로직이 저장되어있다는 WAS 서버... 비즈니스 로직이 무엇인가. 몰랐었다.그리고 내부 호출 api에 도메인이 왜 필요한가. 에 대해서도 몰랐었다.개발을 안해보니 확실히 소통에 있어서 문제가 있음을 느꼈다.이번에 실제 업무를 진행하면서 개발경험이 있는 동기한테 많이 배운 것 같다.. 동기가 "API 서버는 API용일뿐이고 실제 데이터는 DB에 저장이 된다. API 서버에서 저장되는 건 없다!! " "사용자가 앱apk를 다운받고 앱에서 '조회' 버튼을 누르면 내부 api 호출이 일어나 실제 서버에 닿고 ..

AutoScaling 중 Scale-out 발생 시 구 버전 이미지(CI/CD) 배포

참고 사이트https://docs.aws.amazon.com/ko_kr/codedeploy/latest/userguide/integrations-aws-auto-scaling.html 배포 중 이벤트 확장  Amazon EC2 Autoscaling Group 와 CodeDeploy가 연동된 상황이다.CodeDeploy 배포가 진행되는 동안 Auto Scaling Scale-out 이벤트가 발생되면 해당 인스턴스는 최신 개정판이 아닌, 애플리케이션의 이전 개정판을 받는다.해당 인스턴스를 최신 상태로 만들기 위해 CodeDeploy는 자동으로 후속 배포를 시작하여 오래된 인스턴스를 업데이트해야 한다.  오래된 인스턴스에 대한 자동 업데이트 1. CodeDeploy API2. AWS CLI방식은 총 2가지가 ..

AWS/TroubleShooting 2024.07.02

스토리지 이중화 (Multipath/MPIO)

스토리지 연결 방식DAS (Directed Attached Storage)전통적인 소규모 스토리지 접속 방식 직접 연결된 스토리지 (HDD, USB 등)각 서버가 직접 파일 시스템 관리 필요다른 서버에서 접근 불가파일 공유/확장 어려움비용 저렴 설치 용이 NAS (Networe Attached Storage)중규모 네트워크 스토리지 접속 방식LAN 네트워크에 연결된 스토리지다른 서버도 접근 가능/파일 공유 가능DAS에 비해 확장성 우수 LAN 통해 전용 파일서버에 접속/파일전송 가능(NFS 이용) SAN(Storage Area Network) 대규모 네트워크 스토리지 접속방법네트워크를 통해 서버와 스토리지 연결스토리지 전용 고속 네트워크FC Port (HBA)를 통해 구성확장성/유연성/가용성 우수 초기 ..

네트워크 이중화 (Bonding & Teaming)

Bonding & Teaming네트워크 카드(NIC)의 이중화 구성을 bonding(Linux) 또는 teaming(Windows) 라고 함 이중화 구성 시, 가상 인터페이스가 생성됨  로드밸런싱 알고리즘0Round-RobinNIC에 하나씩 패킷을 순차적으로 전송1active-backupActive-Standby 모드2balance-xor목적지 MAC에 따라 NIC 선택  ( XOR 연산)3broadcast모든 NIC로 동일한 패킷 전송. 부하 분산 효과 없음4802.3adIEEE 8-2/3ad 프로토콜을 이용하여 결합 *5balance-tlb(TLB)부하가 낮은 NIC로 트래픽 보내고, 받을 땐 보낸 NIC에서 받음패킷이 돌아오기 전에 NIC에 Fail 발생하면 다른 NIC이 수신6balance-alb..

[DB] 분산 컴퓨팅 (Hadoop)

Hadoop대용량 데이터에 대한 분산처리 하는 오픈소스 자바 프레임워크기능대용량 데이터 저장    → HDFS데이터들을 이용해 연산 수행     → MapReduce HDFS ( Hadoop Distributed File System, 하둡 분산형 파일 시스템)네임 노드Master Node어떤 데이터 노드가 각 파일 블록을 관리하는지 등 파일 시스템에 대한 메타데이터를 보관 Worker Node 간 저장 공간 분할, 데이터 저장 위치 관리데이터 노드Worker Node파일 읽기 및 쓰기를 위해 통신 한 데이터(블록)는 여러 데이터 노드 간 분산되어 저장 및 처리네임 노드에게 3초마다 Heart Beat를 보냄. Heart Beat에는 디스크 가용 공간, 데이터이동, 적재량 등의 정보가 들어있음. Hand..

DB 2024.07.01

[DB] 분산 컴퓨팅 (샤딩)

참고 사이트https://aws.amazon.com/ko/what-is/database-sharding/   아키텍처 패턴 (분산 컴퓨팅) 분산 컴퓨팅 (Ditributed Computing)하나의 대형 컴퓨터에서 처리할 작업을    지역적으로 분산된 여러 개의 컴퓨터를 묶어서 네트워크를 통해 분산 처리성능 확대 및 고가용성 샤딩(Sharding)하나의 대규모 분산 데이터베이스 시스템에서  여러 서버에 데이터를  분산 저장하는 기술여러 개의 DB에 쪼개서 저장파티션과 유사 개념DB별 병렬처리 가능데이터 세트를 쪼개서 분산하여 여러 샤드에 저장   → 병목 현상 해결!비공유 아키텍처 기반  → 각 물리적 샤드는 독립적으로 작동하여 다른 샤드 인식X 샤딩이 중요한 이유데이터베이스의 병목 현상을 해결하기 위해..

DB 2024.07.01

아키텍처 패턴 (Cloud)

서버리스 아키텍처 패턴"서버"가 하나도 없이 클라우드의 서비스로 구축한 서버리스 아키텍처웹 페이지 등 정적 컨텐츠는 S3에 저장동적 컨텐츠는 API Gateway에서 트리거를 받아 Lambda가 실행  아키텍처 패턴 (분산 컴퓨팅) 분산 컴퓨팅 (Ditributed Computing)하나의 대형 컴퓨터에서 수행하던 기능을 지역적으로 분산된 여러 개의 컴퓨터에 분담시킨 후, 네트워크를 통해 통신 및 처리하는 방식여러 대의 컴퓨터를 연결하여 서로 상호작용하게 함성능 확대 및 고가용성  Hadoop

CodeSeries를 활용한 CI/CD - TroubleShooting

An error occurred (AccessDenied) when calling the ListObjectsV2 operation: Access Denied참고 사이트: https://sarc.io/index.php/aws/1588-s3-bucket-sync S3 Access 권한이 없어서 뜨는 문제이다.AWS CodeBuild가 S3 Access 권한을 가지고 있어야 한다. CORS ERROR 프론트 버킷(website s3) : 정적 웹 호스팅용파일 버킷 (content s3) : 프론트 웹에 담긴 파일들 보관용 현재 상황파일 버킷(content s3)의 CORS 설정: 프론트 버킷(website s3)에서 파일 버킷(content s3) 접근 가능필요한 상황백엔드 코드에서 API 호출을 통해 파일..

AWS/Project 2024.07.01