반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 장고
- daspecialty
- Optimization
- Spark
- 리트코드
- 프로그래머스
- 스파크
- CentOS
- Algorithm
- 해시
- programmers
- twosum
- ELK
- 파이썬
- RecommendationSystem
- leetcode
- solution
- Django
- dfs
- python
- 엘라스틱서치
- 키바나
- elasticsearch
- dump
- Medium
- 알고리즘
- AWS
- kibana
- 깊이우선탐색
- Easy
Archives
- Today
- Total
반응형
목록lazyevaluation (1)
Archive
[Spark] Spark Application 에 대한 이해 ( Job / Stage / Task / Transformation / Action / Lazy Evaluation )
1. Spark Application Spark로 제출되는 Job들은 Task라는 저수준 RDD Byte Code로 변환되어 Executor 들에 분산된다. Application Spark 위에서 돌아가는 사용자 프로그램. Driver Program + Executor를 칭함 SparkSession Spark Core 기능들과 상호 작용할 수 있는 진입점을 제공하는 객체이다. Spark Application 에서는 사용자가 직접 Spark Session 객체를 생성해야 한다. Job Spark Action 에 대한 응답으로 생성되는 여러 Task들로 이루어진 병렬 연산. Spark Driver는 Spark Application을 하나 이상의 Job으로 변환하고, 각 Job은 DAG(실행계획)로 변환된다...
------- DE -------/Spark
2022. 8. 11. 21:18
반응형