DAG. Havo oqimida DAG – yoki a yoʻn altirilgan asiklik grafik – bu siz bajarmoqchi boʻlgan barcha vazifalar toʻplami boʻlib, ularning munosabatlari va bogʻliqliklarini aks ettiruvchi tarzda tashkil etilgan.
Havo oqimida DAGlarni qanday qilish mumkin?
Havo oqimida DAG yaratish uchun siz har doim DAG sinfini import qilishingiz kerak DAG sinfidan keyin Operatorlar importi keladi. Asosan, siz foydalanmoqchi bo'lgan har bir Operator uchun tegishli importni amalga oshirishingiz kerak. Masalan, siz Python funksiyasini bajarmoqchi bo'lsangiz, PythonOperatorni import qilishingiz kerak.
Airflow DAGlarni qayerda qidiradi?
Airflow global nomlar maydonida DAG obyektlarini oʻz ichiga olgan modullar uchun sizning DAGS_FOLDER faylini koʻrib chiqadi va DagBag ichiga topilgan obyektlarni qoʻshadi.
Airflow DAGlarni qanday saqlaydi?
Apache Airflow metamaʼlumotlar bazasi:
Metamaʼlumotlar bazasi konfiguratsiyalarni saqlaydi, oʻzgaruvchilar va ulanishlar kabi Shuningdek, foydalanuvchi maʼlumotlari, rollari va siyosatlarini saqlaydi. Nihoyat, Scheduler barcha DAGlarni tahlil qiladi va tegishli metamaʼlumotlarni, masalan, jadval intervallari, har bir ishga tushirish statistikasi va ularning vazifalarini saqlaydi.
Airflow ETL vositasimi?
Havo oqimi oʻz-oʻzidan ETL vositasi emas. Ammo u ETL quvurlarini boshqaradi, tuzadi va tartibga soladi, deb nomlangan asiklik grafiklar (DAGs). … Metamaʼlumotlar bazasi ish oqimlarini/topshiriqlarni (DAG) saqlaydi.