이전 트랜잭션의 결과를 덮어씌우는 문제를 해결하려면?

2019-04-07

API 서버에서 남긴 로그와, DB 상태가 일치하지 않는 경우를 만났습니다. API 서버의 Controller 는 HTTP 요청에 실린 파라미터 값을 가지고 테이블의 레코드의 컬럼 값을 업데이트 하고, 이에 대한 로그를 JSON 으로 남깁니다. 그런데 로그에는 파라미터 값이 적혀있고, DB 의 해당 레코드의 해당 컬럼은 null 인 상황입니다. DBMS 는 MySQL 5.7 입니다.

Read More

Airflow 에 PostgresToS3Operator 만들기

2019-01-27

ETL 작업을 어떻게 관리하는게 좋을지 고민입니다. 검색했을 때나 주변 분들 얘기를 들어봤을 때 Apache Airflow 가 많이 쓰이는 것 같습니다. 매니지드 서비스로는 GCP 에서는 Cloud Composer, AWS 에서는 AWS Data Pipeline 가 있습니다. 업무 인프라의 대부분이 AWS 라서 Data Pipeline 에 눈이 갔는데 아쉽게도 서울 리전에는 아직 제공되지 않습니다.

Read More