[Pytorch] In-place 연산이란 무엇인가?

PyTorch와 같은 딥러닝 프레임워크를 공부하다 보면, 자주 등장하지만 처음에는 헷갈릴 수 있는 개념 중 하나가 바로 "In-place 연산"입니다. 이는 새로운 값을 담을 공간을 만들지 않고, 기존 메모리 공간에서 직접 값을 수정하는 연산을 뜻합니다. 개념을 이해하고 나면 optimizer.zero_grad()나 optimizer.step()과 같은 연산에서 왜 = 할당 없이도 값이 바뀌는지 자연스럽게 이해할 수 있습니다.예제로 보는 In-place 연산import torch# 일반 연산x = torch.tensor([1.0, 2.0, 3.0])y = x + 1print(x) # tensor([1., 2., 3.])print(y) # tensor([2., 3., 4.])# In-place 연산x...
머신러닝&딥러닝 2025. 5. 28. 22:55
1