반응형
Notice
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 사이버보안
- 소프트웨어공학
- 자료구조
- I'm Sorry
- 네트워크보안
- 딥러닝
- 컴퓨터과학
- 프로그래밍
- 머신러닝
- 클라우드컴퓨팅
- 웹개발
- 코딩
- 컴퓨터공학
- 빅데이터
- Yes
- 파이썬
- 네트워크
- 데이터분석
- 보안
- 프로그래밍언어
- 2
- 데이터베이스
- 알고리즘
- 데이터과학
- 컴퓨터비전
- 버전관리
- 인공지능
- 소프트웨어
- 자바스크립트
- 데이터구조
Archives
- Today
- Total
목록스파크코어수 (1)
스택큐힙리스트
Apache Spark: 코어 개수 대 실행자 개수
작업은 다음 구성으로 실행되었습니다: --master yarn-client --executor-memory 19G --executor-cores 7 --num-executors 3 (데이터 노드당 실행자 수, 가능한 만큼 사용) --master yarn-client --executor-memory 19G --executor-cores 4 --num-executors 3 (코어 수 감소) --master yarn-client --executor-memory 4G --executor-cores 2 --num-executors 12 (적은 코어, 많은 실행자) 경과 시간: 50분 15초 55분 48초 31분 23초 놀랍게도, (3)이 훨씬 빨랐습니다. (1)은 셔플링 시 상호 실행자 통신이 덜 발생하기 때문에..
카테고리 없음
2023. 11. 28. 06:57