4060ti 두개보다 3090 + 3070 이 더 낫지 않을까요 추후 3070 버리고 다른 것 끼워 넣어서 3090은 계속 활용 할 수 있는데 4060ti는 대역폭이 낮아서 두고 두고 계륵일거같네요

3090이 비교적 저렴한 가격으로 vram을 확보할수있고 대역폭이 중요한게 듀얼로 학습이나 추론할때 gpu간 통신속도가 학습속도에 영향을 주기 때문입니다.

4060ti 2장이 중고 3090 1장보다 비싸고 성능도 3090이 낫기도 하고,
VRAM 높은 1장이 같은 VRAM 2장으로 나눈 거 보다 학습하기 편한 거 같아요.
* 윗 글 보니 60ti 2장이 더 싸겠네요. A/S생각하면 60ti 2장도 괜찮은 선택일 거 같습니다.

윗 분들도 말씀 하셨지만 4060Ti가 연산능력은 그럭저럭 괜찮은데 메모리 대역폭이 288GB/s라 3090 대비 1/3 이내요. 메모리에서 병목이 심할듯 합니다. GPU마다 차이는 있겠지만 LLM에서 일반적으로 VRAM에서 GPU 코어로 data 를 가져오는 시간만 전체 시간의 60%를 차지한다는 연구 결과도 있습니다. 4060ti의 경우는 연산속도는 빠른데 메모리 대역폭은 더 작으니 병목이 더 심해지겠죠..

3090이 가성비는 깡패 입니다. 속도도 훨훨 빠를껄요.

4060 및 ti 는 모래낭비라고 합니다