반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 | 31 |
Tags
- dump
- AWS
- 해시
- dfs
- ELK
- RecommendationSystem
- 깊이우선탐색
- 장고
- Easy
- Django
- 프로그래머스
- Medium
- elasticsearch
- programmers
- 알고리즘
- Spark
- leetcode
- 키바나
- twosum
- Algorithm
- 리트코드
- CentOS
- 스파크
- 파이썬
- kibana
- python
- Optimization
- daspecialty
- solution
- 엘라스틱서치
Archives
- Today
- Total
반응형
목록2022/08/11 (1)
Archive
[Spark] Spark Application 에 대한 이해 ( Job / Stage / Task / Transformation / Action / Lazy Evaluation )
1. Spark Application Spark로 제출되는 Job들은 Task라는 저수준 RDD Byte Code로 변환되어 Executor 들에 분산된다. Application Spark 위에서 돌아가는 사용자 프로그램. Driver Program + Executor를 칭함 SparkSession Spark Core 기능들과 상호 작용할 수 있는 진입점을 제공하는 객체이다. Spark Application 에서는 사용자가 직접 Spark Session 객체를 생성해야 한다. Job Spark Action 에 대한 응답으로 생성되는 여러 Task들로 이루어진 병렬 연산. Spark Driver는 Spark Application을 하나 이상의 Job으로 변환하고, 각 Job은 DAG(실행계획)로 변환된다...
------- DE -------/Spark
2022. 8. 11. 21:18
반응형