IT·개발

딥러닝 GPU 비교 실험기 — GTX 1060부터 1080 Ti SLI까지 직접 테스트해봤습니다

5월 16, 2026 1 min read

2020년 5월, 게임용 PC를 딥러닝 워크스테이션으로 전환하면서 GPU를 4종 갈아끼워 비교 테스트해본 기록입니다. GTX 1060 6GB를 기준으로 GTX 1070 8GB, GTX 1080 Ti 11GB, 그리고 GTX 1080 Ti SLI(2-Way) 구성까지 순서대로 직접 실험했습니다.

결론부터 말씀드리면 단일 GTX 1080 Ti가 딥러닝 가성비 최고였습니다. SLI는 연산 속도 향상보다 메모리 확장 용도에 의미가 있었고, 발열·전력·CPU 병목이라는 예상치 못한 함정도 함께 발견했습니다.

왜 GPU 업그레이드가 필요했나

게임 목적으로 조립한 PC에 Ubuntu 18.04를 설치하고 딥러닝 프로젝트를 진행하다 보니 모델 학습 시간이 너무 길어졌습니다. 기존 GTX 1060 6GB로는 한계가 느껴졌고, GPU 업그레이드를 결심했습니다.

처음엔 당시 최신 세대인 RTX 2070 Super, RTX 2080, RTX 2080 Ti를 검토했습니다. 성능은 당연히 뛰어나겠지만 가격이 너무 부담스러웠습니다. 그러던 중 한 세대 전 GTX 1080 Ti가 딥러닝 작업에서도 여전히 높은 성능을 낸다는 벤치마크 자료를 발견했습니다.

문제는 비교 자료의 부족이었습니다. 게임 벤치마크는 넘쳐나는 데 비해 머신러닝·딥러닝 기준의 GPU 비교 데이터는 찾기 어려웠습니다. 그래서 직접 테스트해보기로 했습니다.

테스트 환경

시스템 사양

구성요소	초기 구성	업그레이드 후
CPU	AMD Ryzen 7 1700 (3.6GHz OC)	AMD Ryzen 5 3600
RAM	Corsair 32GB DDR4 3000MHz OC	16GB DDR4 2400MHz (RMA 중)
OS	Ubuntu 18.04	Ubuntu 18.04
케이스	미들타워	빅타워 (발열 문제로 변경)
전원공급장치	미상	1000W (SLI 구성용)

RAM 참고: 테스트 시점에 원래 사용하던 Corsair 32GB DDR4 3000MHz가 RMA 처리 중이었습니다. 대부분의 실험이 16GB DDR4 2400MHz로 다운그레이드된 상태에서 진행됐으며, 원래 RAM이 복귀하면 추가 테스트를 진행할 예정이었습니다.

테스트한 GPU 4종

GTX 1060 6GB (기존 GPU, 기준점)
GTX 1070 8GB
GTX 1080 Ti 11GB
GTX 1080 Ti SLI (11GB × 2)

테스트 방법

GTX 1060 6GB에서 GPU 사용률 약 90%를 보이는 딥러닝 코드를 기준 워크로드로 삼았습니다. 비교 기준은 동일 워크로드의 전체 학습 완료 시간이며, 동일한 코드를 각 GPU에서 반복 실행해 소요 시간을 비교했습니다. 사용한 딥러닝 프레임워크는 당시 따로 기록하지 않아 정확히 특정하기 어렵습니다.

GPU별 딥러닝 성능 비교: 벤치마크 결과

참고: 아래 수치는 정밀 정량 측정이 아닌 개략적 비교입니다. 절대값보다 GPU 간 상대적 차이를 참고하시기 바랍니다.

아래 차트는 GTX 1060을 기준으로 4종 GPU의 딥러닝 학습 완료 시간을 비교한 결과입니다.

GTX 1060·1070·1080 Ti·1080 Ti SLI 딥러닝 학습 시간 비교 차트

GTX 1060 6GB — 기준점

아래 화면은 GTX 1060에서 기준 워크로드를 실행한 학습 결과입니다.

이 실험의 기준 GPU입니다. 4종 중 학습 시간이 가장 오래 걸렸고, 6GB 메모리 제약으로 인해 배치 크기에도 한계가 있었습니다. 모델이 조금만 복잡해져도 메모리 초과 오류와 마주쳐야 했습니다.

GTX 1070 8GB — 약 30% 향상

아래 화면은 GTX 1070으로 교체한 직후의 학습 결과입니다.

GTX 1060 대비 학습 완료 시간이 약 30% 단축됐습니다. 카드를 꽂자마자 먼저 느낀 건 속도보다 메모리의 여유였습니다. 8GB로 늘어나면서 더 큰 모델과 배치 크기를 다룰 수 있게 됐고, 단순히 빨라지는 것을 넘어 실험 폭 자체가 넓어지는 느낌이었습니다. 다만 가격 대비 연산 속도 향상 폭은 기대보다 크지 않았습니다.

GTX 1080 Ti 11GB — 약 2.5배 향상

아래 화면은 GTX 1080 Ti 학습 결과입니다. 이전 GPU 대비 소요 시간이 눈에 띄게 줄어든 것을 확인할 수 있습니다.

GTX 1060 대비 학습 완료 시간이 약 2.5배 단축됐습니다. 숫자가 이 사실을 직접 보여준 순간이었습니다. 11GB의 대용량 메모리는 복잡한 딥러닝 모델 학습에 큰 도움이 됐고, 최신 세대 대비 가격이 크게 낮으면서도 실질적인 성능은 충분했습니다.

GTX 1080 Ti SLI — 연산 속도는 그대로, 메모리만 합산

(이 시점 캡처를 별도로 보관하지 못했습니다.)

두 장의 GTX 1080 Ti를 SLI로 연결한 결과, 연산 속도 자체는 단일 1080 Ti와 거의 차이가 없었습니다. 대신 메모리가 합산되어 더 큰 배치와 더 복잡한 모델을 처리할 수 있었습니다. 자세한 분석과 주의사항은 다음 섹션에서 다룹니다.

GTX 1080 Ti SLI — 장점과 세 가지 함정

두 장의 GTX 1080 Ti를 SLI로 묶은 구성이 이번 실험에서 가장 예상 밖의 결과를 보여줬습니다. “두 배 빠른 학습”을 기대했지만, GPU를 두 배로 꽂아도 학습이 두 배 빨라지지 않는다는 사실을 직접 확인했습니다. 이 결론이 나오기까지 꽤 많은 비용이 들었습니다.

장점

더 큰 배치 사이즈: 메모리가 합산되어 더 큰 배치로 학습이 가능합니다.
더 복잡한 모델 학습: 파라미터 수가 많은 모델도 메모리 초과 없이 구동할 수 있습니다.
동시 다중 모델 학습: 두 GPU를 독립적으로 활용해 여러 실험을 병렬로 돌릴 수 있습니다.

함정 1 — 발열

게임은 보통 3~4시간 정도 GPU를 풀로드하지만, 딥러닝 학습은 며칠간 쉬지 않고 이어집니다. GTX 1080 Ti 두 장이 동시에 풀로드 상태가 되면 발열이 심각해집니다. 이 문제를 해결하기 위해 미들타워에서 빅타워로 케이스를 교체했지만, 공랭 쿨링만으로는 근본적인 해결이 되지 않았습니다. 결국 수냉 쿨링 도입을 진지하게 검토하게 됐습니다.

함정 2 — 전력 소비

NVIDIA 공식 사양에 따르면 GTX 1080 Ti 1장의 TDP는 250W입니다. 두 장을 합산하면 GPU만으로 500W이고, 여기에 CPU·메인보드·RAM 등 나머지 시스템 소비를 더하면 시스템 전체 순간 최대 전력은 650W 수준으로 추정됩니다. 예상보다 훨씬 높은 수치였고, 이를 감당하기 위해 전원공급장치를 1000W로 교체해야 했습니다.

함정 3 — 딥러닝 프레임워크의 SLI 지원 한계

가장 중요한 발견이었습니다. SLI 또는 NVLink는 3D 렌더링처럼 공식 지원하는 애플리케이션에서는 효과적일 수 있습니다. 그러나 대부분의 딥러닝 프레임워크에서는 멀티 GPU 연산 속도 향상을 완전히 활용하기 어렵습니다. 결국 SLI 구성의 실질적 이점은 연산 가속이 아니라 메모리 합산에 있었습니다. 딥러닝에서 SLI를 고려한다면, “빨라지는 것”이 아니라 “더 큰 모델을 올릴 수 있는 것”이라고 이해하는 편이 맞습니다.

CPU 병목이라는 복병

GTX 1080 Ti로 테스트를 이어가던 중 예상치 못한 문제를 발견했습니다. Ryzen 7 1700과 GTX 1080 Ti 조합에서 CPU 병목이 발생하고 있었습니다. GPU는 최대 성능을 낼 준비가 됐는데, CPU가 데이터를 제때 공급하지 못하는 상황이었습니다.

이를 해결하기 위해 Ryzen 5 3600으로 CPU를 교체했습니다. 교체 전 정확한 실행 시간은 따로 기록하지 않았지만, 교체 후 동일한 코드의 실행 시간이 211초로 확연히 줄었습니다. GPU를 업그레이드하고도 CPU 병목 때문에 성능을 다 끌어내지 못하고 있었다는 것을 뒤늦게 깨달은 셈입니다.

지금 돌아보면, 당시 Ryzen 7 3700X를 선택했다면 더 나은 결과를 얻었을 것 같습니다.

RAM 다운그레이드 상태(테스트 환경 참조)를 감안해도 CPU 교체 효과는 분명했습니다.

결론: 가성비 딥러닝 머신을 찾는다면

이번 실험을 통해 배운 건 단순한 벤치마크 수치 이상이었습니다.

단일 GTX 1080 Ti가 가성비 정답: GTX 1060 대비 학습 완료 시간 약 2.5배 단축에 11GB 대용량 메모리. 복잡한 딥러닝 모델 학습에 충분한 선택입니다.
SLI는 메모리 확장 목적: 연산 속도 향상보다 더 큰 배치·더 복잡한 모델을 다루기 위한 메모리 합산 용도로 이해해야 합니다.
CPU·GPU 균형이 중요: 이전 세대 CPU는 최신 GPU의 성능을 충분히 끌어내지 못합니다. GPU 업그레이드 전 CPU 병목 여부를 먼저 점검하시기 바랍니다.
발열 관리는 필수: 딥러닝 학습은 게임과 달리 며칠간 GPU를 풀로드합니다. SLI 구성이라면 공랭만으로는 한계가 있으며, 수냉 도입을 검토해야 합니다.

고성능 카드 한 장이 카드 두 장보다 실용적이었고, GPU 업그레이드보다 CPU 점검이 먼저였으며, 딥러닝 쿨링은 게임 쿨링과 차원이 다르다는 것 — 이 세 가지 교훈은 예상하지 못했던, 비용을 치르며 직접 확인한 것들입니다. 최신 AI 워크스테이션이 부담스럽다면, 한 세대 지난 GTX 1080 Ti 단일 구성은 지금도 충분히 검토해볼 만한 가성비 선택지입니다.

이 글은 2020년 5월 28일 작성된 실험기를 바탕으로 합니다. 이후 세대 GPU(RTX 30/40 시리즈 등)와의 비교는 포함하지 않습니다.