본문 바로가기

전체 글100

[AI/딥러닝] On-device AI를 위해 하드웨어 컴퓨팅이 가야할 길 2021년 세상에서 이미지 인식과 분류, 자율 주행, 딥페이크, 채팅 봇 등 여러 분야에서 AI 딥러닝 기술이 쓰이고 지속적으로 개발되고 있습니다. 하지만 대부분 수백대의 CPU와 GPU가 장착되어 있는 서버를 통해 이루어지죠. 그래서 획득한 데이터를 서버로 전송하여 딥러닝 추론을 거쳐 다시 동작하는 기기로 전달 됩니다. 그리고 그 전달 받은 결과를 보여주는 것이죠. 그렇기에 사용자의 모든 데이터는 서버로 전송되며 개인의 정보보호는 이루어지고 있지 않습니다. 또한 서버의 증량으로 탄소 배출량도 나날이 늘어가고 있죠. 이러한 문제를 해결하며 좀 더 트랜디한 기술을 제시하기 위해 엔비디아, 삼성전자 등 많은 기업들이 투자하는 곳이 있습니다. 바로 'On-device AI' 이죠. 말그대로 Device 안에 .. 2021. 8. 14.
[AI/딥러닝] 딥러닝 모델을 GPU에 구동시키는 방법 (Feat. Framework) 지난 포스팅까지 딥러닝 모델에 대해 알아보았습니다. 인간의 신경망을 본떠 어떤 종류의 Layer들을 구성하고 어떻게 Convolution을 하는 것이 최적의 훈련이고 최적의 추론인 지에 대한 고민들이었죠. 2021.07.10 - [SW programming/Computer Vision] - AI, 머신러닝, 딥러닝 이란? 그리고 딥러닝 모델 종류 2021.07.11 - [SW programming/Computer Vision] - [딥러닝 모델] CNN (Convolutional Neural Network) 설명 2021.08.01 - [SW programming/Computer Vision] - [AI/딥러닝] CNN Network layer 모델들 (AlexNet, GoogLeNet, ResNet) .. 2021. 8. 8.
[AI/딥러닝] 객체 검출(Object Detection) 모델의 종류 R-CNN, YOLO, SSD 지금까지 딥러닝의 모델과 그 중에서 CNN의 세부 모델까지 알아보았습니다. 2021.07.10 - [SW programming/Computer Vision] - AI, 머신러닝, 딥러닝 이란? 그리고 딥러닝 모델 종류 2021.07.11 - [SW programming/Computer Vision] - [딥러닝 모델] CNN (Convolutional Neural Network) 설명 2021.08.01 - [SW programming/Computer Vision] - [AI/딥러닝] CNN Network layer 모델들 (AlexNet, GoogLeNet, ResNet) 이번 포스팅에서는 객체 검출을 하는 CNN과 같은 선상의 개념이지만 조금 다른 YOLO에 대해 알아보도록 하겠습니다. 객체 검출(O.. 2021. 8. 1.
[AI/딥러닝] CNN Network layer 모델들 (AlexNet, GoogLeNet, ResNet) 이전 포스팅에서는 CNN 기법이 어떠한 원리로 이루어지는 지를 살펴보았다. 2021.07.11 - [SW programming/Computer Vision] - [딥러닝 모델] CNN (Convolutional Neural Network) 설명 [딥러닝 모델] CNN (Convolutional Neural Network) 설명 저번 포스팅에서는 딥러닝의 모델별 특징에 대해 알아보았습니다. 2021.07.10 - [SW programming/Computer Vision] - AI, 머신러닝, 딥러닝 이란? 그리고 딥러닝 모델 종류 그리고 이번 포스팅에서는 그 중 Compu rubber-tree.tistory.com CNN 기법은 딥러닝 학습을 위한 인공 신경망 알고리즘의 큰 카테고리 중 하나이며, 이 CN.. 2021. 8. 1.
딥러닝을 지원하는 임베디드 프로세서 in Machine Vision 머신비전 산업에서도 이미지 Deep Learning 기술이 자리잡아 가고 있으며, 이를 구동할 수 있는 HW 가속기, '컴퓨팅 플랫폼'을 내놓고 있다. 장비의 크기를 줄이고 투자 비용을 절감하는 방법으로 PC가 아닌 임베디드 시스템을 사용하는 것이 있다. 그리고 현재는 더 나아가 딥러닝 기술을 접목한 임베디드 시스템을 지원하기도 한다. 임베디드 비전은 작은 크기, 낮은 전력 소비 및 경제적인 비용을 구현하는 수많은 최신 애플리케이션을 지원한다. 딥러닝과 효율적인 비용의 임베디드 비전 시스템을 결합하면 혁신적인 임베디드 애플리케이션을 제작할 수 있다. 그 결과, 스마트 커넥티드 디바이스가 더 빠른 런타임 응답, 더 낮은 지연 시간, 고급 개인 정보 보호 및 보안 기능을 제공하는 엣지에서 대부분의 딥러닝 작.. 2021. 7. 31.
[컴퓨터 구조] 컴퓨팅 플랫폼은 어떻게 숫자를 다루나? (Feat. CPU) 제목에서 말한 '컴퓨팅 플랫폼'이란 CPU, GPU, FPGA 등을 말한다. 이 들은 digital logic을 구성하며 2 진법 '0'과 '1' 만으로 기계를 작동시킨다. 즉, 컴퓨터는 2진수의 바다다. 2진수로 모든 숫자를 표현하고 연산을 수행한다. 2021.06.16 - [생각 미로] - [생각 미로] How do you define the real? - 영화 매트릭스 하지만 인간이 다루는 세계는 10진수로 통용되며 컴퓨터 위에 올려 사용하는 Application code 또한 10진법으로 사용한다. 그렇게 구현 시킨 Application code를 컴퓨터 하드웨어 단에서 동작시키려면 2진법으로 변환하여 연산하는 방법을 알아야 한다. 그래서 이번 포스팅에서는 컴퓨팅 플랫폼에서 10진수로 받은 값을 .. 2021. 7. 28.
FPGA Acceleration(가속화), 꼭 알아두어야 할 그것. FPGA의 특징 FPGA는 단가 측면에서 ASIC에 밀리고 그렇다고 CPU(SW)처럼 개발이 쉬운 것도 아니여서 이를 이용한 Computing power가 주목받지 못했다. 하지만 장점 또한 명확하다. ASIC이 갖지 못하는 'Re-Programmable' 특성과 CPU(SW)가 갖고 있지 못한 월등한 'Computing power'를 가지고 있다. 그리고 이 매력으로 FPGA는 여러 전자 제품(5G, 자율 주행, Cloud, 카메라, 항공 등) 안의 코어 역할로 사용되고 있다. 그래서 이번 포스팅에서는 두 가지 장점 중 Computing power에 대해 알아보겠습니다. FPGA가 갖고 있는 Computing Power를 구현할 수 있는 기술 HW 가속화 구동 방식은 다음과 같다. 1) CPU(SW)에.. 2021. 7. 12.
[딥러닝 모델] CNN (Convolutional Neural Network) 설명 저번 포스팅에서는 딥러닝의 모델별 특징에 대해 알아보았습니다. 2021.07.10 - [SW programming/Computer Vision] - AI, 머신러닝, 딥러닝 이란? 그리고 딥러닝 모델 종류 그리고 이번 포스팅에서는 그 중 Computer Vision에서 가장 많이 쓰이는 딥러닝 모델인 'CNN'에 대해 자세히 알아보도록 하겠습니다. CNN 특징 Convolutional Neural Network, 합성곱 신경망 인간의 시신경 구조를 모방한 기술 특징맵을 생성하는 필터까지도 학습이 가능해 비전(vision) 분야에서 성능이 우수함 이미지를 인식하기 위해 패턴을 찾는데 특히 유용함 데이터를 직접 학습하고 패턴을 사용해 이미지를 분류함 자율주행자동차, 얼굴인식과 같은 객체인식이나 compute.. 2021. 7. 11.