您好,登錄后才能下訂單哦!
這篇文章主要介紹“airflow使用mysql數據庫和LocalExecutor并發調度”,在日常操作中,相信很多人在airflow使用mysql數據庫和LocalExecutor并發調度問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”airflow使用mysql數據庫和LocalExecutor并發調度”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!
create database airflow; —— 創建數據庫
GRANT all privileges on airflow.* TO 'airflow'@'%' IDENTIFIED BY '123456'; —— 將數據庫airflow的所有權限授權airflow用戶,密碼123456且該用戶可在任何IP段登錄操作
FLUSH PRIVILEGES; —— 刷新權限
set explicit_defaults_for_timestamp = 1;
sql_alchemy_conn = mysql://airflow:123456@mysqlIP/airflow
airflow initdb
若之前使用sqllite初始化過可使用airflow resetdb
修改執行器,使airflow并發調度任務
executor = LocalExecutor
重啟scheduler即可(默認并發調度16)
1.需要使用同步方式解決dags目錄與worker的同步問題——待解決
2.需要解決scheduler的單點問題,可參考 apache-airflow 調度系統 https://blog.csdn.net/somezz/article/details/82749495
到此,關于“airflow使用mysql數據庫和LocalExecutor并發調度”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續學習更多相關知識,請繼續關注億速云網站,小編會繼續努力為大家帶來更多實用的文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。