Choose Language

Lesson 1 of 4 ┬╖ Apache Airflow
Intermediate тАФ hands-on тП▒ 120 min ┬╖ watch in chunks, progress auto-saves

Airflow Tutorial for Beginners - Full Course in 2 Hours 2022

Watch this lesson to understand Airflow Tutorial for Beginners - Full Course in 2 Hours 2022 тАФ takes about 120 minutes.

рдХреНрдпрд╛ рдЖрдк рд╕реАрдЦреЗрдВрдЧреЗ

  • рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдкрд░рд┐рдЪрдп рдФрд░ рдЗрд╕рдХреЗ рдореБрдЦреНрдп рдШрдЯрдХреЛрдВ рдХреЛ рд╕рдордЭрдирд╛
  • рдПрдпрд░рдлреНрд▓реЛ рдХреЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛ рдФрд░ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕реАрдЦрдирд╛
  • рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА рдмрдирд╛рдирд╛ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рдСрдкрд░реЗрдЯрд░реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛

рдореБрдЦреНрдп рдЕрд╡рдзрд╛рд░рдгрд╛рдПрдВ

рдПрдпрд░рдлреНрд▓реЛ рдПрдХ a├з─▒k-рд╕реНрд░реЛрдд рдЯреВрд▓ рд╣реИ рдЬрд┐рд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рд╡рд┐рднрд┐рдиреНрди рдкреНрд░рдХрд╛рд░ рдХреЗ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдФрд░ рдирд┐рдЧрд░рд╛рдиреА рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рдпрд╣ рдПрдХ рдкрд╛рдпрдерди-рдЖрдзрд╛рд░рд┐рдд рдЯреВрд▓ рд╣реИ рдЬреЛ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдиреЗ рдФрд░ рдЙрдирдХреЗ рдмреАрдЪ рд╕рдВрдмрдВрдзреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА (рдбрд╛рдпрд░реЗрдХреНрдЯреЗрдб рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл) рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рд╡реНрдпрд╡рд╕реНрдерд┐рдд рдХрд░рдиреЗ рдФрд░ рдЙрдирдХреЗ рдмреАрдЪ рд╕рдВрдмрдВрдзреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред

рдХреЛрдб рдЙрджрд╛рд╣рд░рдг

from datetime import datetime, timedelta
default_args = {
    'owner': 'airflow',
    'depends_on_past': False,
    'start_date': datetime(2021, 10, 6),
    'retries': 1,
    'retry_delay': timedelta(minutes=5),
}

рдпрд╣ рдХреЛрдб рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдПрдХ рдбреАрдПрдЬреА рдХреЗ рд▓рд┐рдП рдбрд┐рдлрд╝реЙрд▓реНрдЯ рддрд░реНрдХреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИред

def greet(name, age):
    print(f"рд╣реИрд▓реЛ рд╡рд┐рд╢реНрд╡! рдореЗрд░рд╛ рдирд╛рдо {name} рд╣реИ рдФрд░ рдореИрдВ {age} рд╕рд╛рд▓ рдХрд╛ рд╣реВрдБ")

рдпрд╣ рдХреЛрдб рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИ рдЬреЛ рдПрдХ рдирд╛рдо рдФрд░ рдЖрдпреБ рдХреЛ рдкреНрд░рд┐рдВрдЯ рдХрд░рддрд╛ рд╣реИред

task = PythonOperator(
    task_id='greet',
    python_callable=greet,
    op_kwargs={'name': 'рдЯреЙрдо', 'age': 20}
)

рдпрд╣ рдХреЛрдб рдПрдХ рдкрд╛рдпрдерди рдСрдкрд░реЗрдЯрд░ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рддрд╛ рд╣реИ рдЬреЛ рдкреВрд░реНрд╡рдХрд╛рд▓ рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рддрд╛ рд╣реИред

рдкрд╛рда рд╕рд╛рд░рд╛рдВрд╢

рдЗрд╕ рдкрд╛рда рдореЗрдВ, рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдкрд░рд┐рдЪрдп рджрд┐рдпрд╛ рдФрд░ рдЗрд╕рдХреЗ рдореБрдЦреНрдп рдШрдЯрдХреЛрдВ рдХреЛ рд╕рдордЭрд╛ред рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдХреЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛ рдФрд░ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕реАрдЦрд╛ред рд╣рдордиреЗ рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдбреАрдПрдЬреА рдмрдирд╛рдирд╛ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рдСрдкрд░реЗрдЯрд░реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рднреА рд╕реАрдЦрд╛ред рд╣рдордиреЗ рдкрд╛рдпрдерди рдСрдкрд░реЗрдЯрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рдирд╛ рд╕реАрдЦрд╛ рдФрд░ рдЗрд╕рдХреЗ рддрд░реНрдХреЛрдВ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░рдирд╛ рд╕реАрдЦрд╛ред

рдЕрднреНрдпрд╛рд╕ рд╡реНрдпрд╛рдпрд╛рдо

рдПрдХ рдкрд╛рдпрдерди рдлрд╝рдВрдХреНрд╢рди рдмрдирд╛рдПрдВ рдЬреЛ рдПрдХ рдирд╛рдо рдФрд░ рдЖрдпреБ рдХреЛ рдкреНрд░рд┐рдВрдЯ рдХрд░рддрд╛ рд╣реИред рдлрд┐рд░, рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдПрдХ рдбреАрдПрдЬреА рдмрдирд╛рдПрдВ рдЬреЛ рдЗрд╕ рдлрд╝рдВрдХреНрд╢рди рдХреЛ рдЪрд▓рд╛рддрд╛ рд╣реИред

рдЖрдЧреЗ рдХреНрдпрд╛ рд╣реИ

рдЕрдм рдЖрдк рдПрдпрд░рдлреНрд▓реЛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЕрдкрдиреЗ рд╕реНрд╡рдпрдВ рдХреЗ рдбреАрдПрдЬреА рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рддреИрдпрд╛рд░ рд╣реИрдВред рдЕрдЧрд▓реЗ рдкрд╛рда рдореЗрдВ, рд╣рдо рдПрдпрд░рдлреНрд▓реЛ рдореЗрдВ рдЕрдзрд┐рдХ рдЬрдЯрд┐рд▓ рдбреАрдПрдЬреА рдмрдирд╛рдиреЗ рдФрд░ рдЗрд╕рдХреЗ рд╡рд┐рднрд┐рдиреНрди рд╕реБрд╡рд┐рдзрд╛рдУрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╕реАрдЦреЗрдВрдЧреЗред

Go deeper on Data Engineering Pipelines

Hand-picked books and tools our learners actually use. Affiliate-supported тАФ same price for you, supports free lessons.