# loading the layer file
layer_name = 'intro.conv1.convs.1'
inp = np.load(f'npy/{layer_name}_inp.npy')
wgt = np.load(f'npy/{layer_name}_wgt.npy')
try:
bias = np.load(f'npy/{layer_name}_bias.npy')
except:
bias_flag = False
else:
bias_flag = True
out = np.load(f'npy/{layer_name}_out.npy')
# changing to fixed point
inp_fxp = inp.astype(np.int64)
wgt_fxp = wgt.astype(np.int64)
psum_fxp = np.zeros_like(out).astype(np.int64)
out_ref_fxp = out.astype(np.int64)
# 1x1 point convolution
for co in range(C_OUT):
psum_fxp[0, co, :, :] = 0
for ci in range(C_IN):
psum_fxp[0, co, :, :] += inp_fxp[0, ci, :, :] * wgt_fxp[co, ci, 0, 0]
# scaling
psum_fxp_scale = psum_fxp * S_y_fxp
반응형
'AI | 딥러닝 > Coding' 카테고리의 다른 글
[Python] 3x3 depthwise convolution 코드 (0) | 2023.09.09 |
---|---|
[Pytorch 프로젝트] CNN(Convolutional Neural Network)으로 MNIST 데이터 분류하기 (0) | 2021.10.25 |
[Pytorch 프로젝트] MLP(Multi-Layer Perceptron)으로 MNIST 데이터 분류하기 (2) | 2021.10.24 |
[Pytorch 프로젝트] Softmax regression으로 MNIST 데이터 분류하기 (0) | 2021.10.24 |
[딥러닝 프로젝트] 1. 신경망 훈련: 기초적인 분류 문제 (Feat. TensorFlow) (0) | 2021.08.25 |
댓글