Skip to content

airflow hw#3

Open
kalinkinisaac wants to merge 1 commit intomainfrom
kalinkin2
Open

airflow hw#3
kalinkinisaac wants to merge 1 commit intomainfrom
kalinkin2

Conversation

@kalinkinisaac
Copy link
Copy Markdown
Collaborator

Добавил в существующий DAG спарк оператор, в котором делаю агрегацию загруженных данных, затем сохраняю в csv и пытаюсь загрузить в базу данных, однако с загрузкой в бд не получилось, падает с такой ошибкой: https://pastebin.com/8sUMmb1q (тут так же видно промежуточные результаты, они сокращенные, я уменьшил данные вручную, чтобы быстрее тестировать запуски дагов). С загрузкой csv проблем не было

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant