Data/Data Engineering
2022. 3. 16.
[Airflow] MWAA - Datadog send_metrics 적용
업무 Airflow환경은 MWAA(Managed Workflows for Apache Airflow)를 통해서 생성이 된다. 업무내용중에 MWAA에서 발생하는 로그에 대해서 Datadog와 연결이 필요하여, 여러가지 자료들을 찾아보았지만... 발견되는건 없었다ㅠ 괜히 나만 부딪히는 문제인건가 싶었다. 새벽동안 삽질해본 결과 어느정도 해결이 된것같아서, 다른분들한테는 기본적인 내용이겠지만, 저처럼 처음이신분들에게 도움이 됐으면 좋겠다. 먼저 MWAA에 설치된 Airflow환경은 2.2.2이며(나중에 테스트해봤지만 2.0.2버전도 돌아가는것을 확인했다, 1버전은 다르니 주의하자). 필요한 requirements는 다음과 같다. apache-airflow[datadog] apache-airflow[statsd..