딥러닝 경량화1 [AI/딥러닝] On-device AI를 위해 하드웨어 컴퓨팅이 가야할 길 2021년 세상에서 이미지 인식과 분류, 자율 주행, 딥페이크, 채팅 봇 등 여러 분야에서 AI 딥러닝 기술이 쓰이고 지속적으로 개발되고 있습니다. 하지만 대부분 수백대의 CPU와 GPU가 장착되어 있는 서버를 통해 이루어지죠. 그래서 획득한 데이터를 서버로 전송하여 딥러닝 추론을 거쳐 다시 동작하는 기기로 전달 됩니다. 그리고 그 전달 받은 결과를 보여주는 것이죠. 그렇기에 사용자의 모든 데이터는 서버로 전송되며 개인의 정보보호는 이루어지고 있지 않습니다. 또한 서버의 증량으로 탄소 배출량도 나날이 늘어가고 있죠. 이러한 문제를 해결하며 좀 더 트랜디한 기술을 제시하기 위해 엔비디아, 삼성전자 등 많은 기업들이 투자하는 곳이 있습니다. 바로 'On-device AI' 이죠. 말그대로 Device 안에 .. 2021. 8. 14. 이전 1 다음
