Airflow Tutorial for Beginners - Full Course in 2 Hours 2022
Watch this lesson to understand Airflow Tutorial for Beginners - Full Course in 2 Hours 2022 тАФ takes about 120 minutes.
рдХреНрдпрд╛ рдЖрдк рд╕реАрдЦреЗрдВрдЧреЗ
- рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдкрд░рд┐рдЪрдп рдФрд░ рдЗрд╕рдХреЗ рдореБрдЦреНрдп рдШрдЯрдХреЛрдВ рдХреЛ рд╕рдордЭрдирд╛
- рдПрдпрд░рдлреНрд▓реЛ рдХреЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛ рдФрд░ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕реАрдЦрдирд╛
- рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА рдмрдирд╛рдирд╛ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рдСрдкрд░реЗрдЯрд░реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛
рдореБрдЦреНрдп рдЕрд╡рдзрд╛рд░рдгрд╛рдПрдВ
рдПрдпрд░рдлреНрд▓реЛ рдПрдХ a├з─▒k-рд╕реНрд░реЛрдд рдЯреВрд▓ рд╣реИ рдЬрд┐рд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рд╡рд┐рднрд┐рдиреНрди рдкреНрд░рдХрд╛рд░ рдХреЗ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдФрд░ рдирд┐рдЧрд░рд╛рдиреА рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рдпрд╣ рдПрдХ рдкрд╛рдпрдерди-рдЖрдзрд╛рд░рд┐рдд рдЯреВрд▓ рд╣реИ рдЬреЛ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдиреЗ рдФрд░ рдЙрдирдХреЗ рдмреАрдЪ рд╕рдВрдмрдВрдзреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА (рдбрд╛рдпрд░реЗрдХреНрдЯреЗрдб рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл) рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рд╡реНрдпрд╡рд╕реНрдерд┐рдд рдХрд░рдиреЗ рдФрд░ рдЙрдирдХреЗ рдмреАрдЪ рд╕рдВрдмрдВрдзреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
рдХреЛрдб рдЙрджрд╛рд╣рд░рдг
from datetime import datetime, timedelta
default_args = {
'owner': 'airflow',
'depends_on_past': False,
'start_date': datetime(2021, 10, 6),
'retries': 1,
'retry_delay': timedelta(minutes=5),
}
рдпрд╣ рдХреЛрдб рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдПрдХ рдбреАрдПрдЬреА рдХреЗ рд▓рд┐рдП рдбрд┐рдлрд╝реЙрд▓реНрдЯ рддрд░реНрдХреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИред
def greet(name, age):
print(f"рд╣реИрд▓реЛ рд╡рд┐рд╢реНрд╡! рдореЗрд░рд╛ рдирд╛рдо {name} рд╣реИ рдФрд░ рдореИрдВ {age} рд╕рд╛рд▓ рдХрд╛ рд╣реВрдБ")
рдпрд╣ рдХреЛрдб рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИ рдЬреЛ рдПрдХ рдирд╛рдо рдФрд░ рдЖрдпреБ рдХреЛ рдкреНрд░рд┐рдВрдЯ рдХрд░рддрд╛ рд╣реИред
task = PythonOperator(
task_id='greet',
python_callable=greet,
op_kwargs={'name': 'рдЯреЙрдо', 'age': 20}
)
рдпрд╣ рдХреЛрдб рдПрдХ рдкрд╛рдпрдерди рдСрдкрд░реЗрдЯрд░ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИ рдЬреЛ рдкреВрд░реНрд╡рдХрд╛рд▓ рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рддрд╛ рд╣реИред
рдкрд╛рда рд╕рд╛рд░рд╛рдВрд╢
рдЗрд╕ рдкрд╛рда рдореЗрдВ, рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдкрд░рд┐рдЪрдп рджрд┐рдпрд╛ рдФрд░ рдЗрд╕рдХреЗ рдореБрдЦреНрдп рдШрдЯрдХреЛрдВ рдХреЛ рд╕рдордЭрд╛ред рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдХреЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛ рдФрд░ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕реАрдЦрд╛ред рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА рдмрдирд╛рдирд╛ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рдСрдкрд░реЗрдЯрд░реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рднреА рд╕реАрдЦрд╛ред рд╣рдордиреЗ рдкрд╛рдпрдерди рдСрдкрд░реЗрдЯрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рдирд╛ рд╕реАрдЦрд╛ рдФрд░ рдЗрд╕рдХреЗ рддрд░реНрдХреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдирд╛ рд╕реАрдЦрд╛ред
рдЕрднреНрдпрд╛рд╕ рд╡реНрдпрд╛рдпрд╛рдо
рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдмрдирд╛рдПрдВ рдЬреЛ рдПрдХ рдирд╛рдо рдФрд░ рдЖрдпреБ рдХреЛ рдкреНрд░рд┐рдВрдЯ рдХрд░рддрд╛ рд╣реИред рдлрд┐рд░, рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдПрдХ рдбреАрдПрдЬреА рдмрдирд╛рдПрдВ рдЬреЛ рдЗрд╕ рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рддрд╛ рд╣реИред
рдЖрдЧреЗ рдХреНрдпрд╛ рд╣реИ
рдЕрдм рдЖрдк рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЕрдкрдиреЗ рд╕реНрд╡рдпрдВ рдХреЗ рдбреАрдПрдЬреА рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рддреИрдпрд╛рд░ рд╣реИрдВред рдЕрдЧрд▓реЗ рдкрд╛рда рдореЗрдВ, рд╣рдо рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдЕрдзрд┐рдХ рдЬрдЯрд┐рд▓ рдбреАрдПрдЬреА рдмрдирд╛рдиреЗ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рд╕реБрд╡рд┐рдзрд╛рдУрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╕реАрдЦреЗрдВрдЧреЗред
Go deeper on Data Engineering Pipelines
Hand-picked books and tools our learners actually use. Affiliate-supported тАФ same price for you, supports free lessons.