1
我在XCOM中有一個巨大的json文件,稍後我不需要一旦dag執行完成,但我仍然可以在UI中看到Xcom對象數據,一旦DAG運行完成後,是否有任何方式以編程方式刪除XCOM?如何刪除XCOM對象,一旦DAG在Airflow中完成其運行
謝謝
我在XCOM中有一個巨大的json文件,稍後我不需要一旦dag執行完成,但我仍然可以在UI中看到Xcom對象數據,一旦DAG運行完成後,是否有任何方式以編程方式刪除XCOM?如何刪除XCOM對象,一旦DAG在Airflow中完成其運行
謝謝
您必須添加一個任務,取決於你metadatadb(sqllite和PostgreSQL,MySQL的..)即刪除XCOM一旦DAG運行結束。
delete_xcom_task = PostgresOperator(
task_id='delete-xcom-task',
postgres_conn_id='airflow_db',
sql="delete from xcom where dag_id=dag.dag_id and
task_id='your_task_id' and execution_date={{ ds }}",
dag=dag)
您可以在運行dag之前驗證您的查詢。
數據分析 - >條件查詢 - > airflow_db - >查詢 - >運行!