SoyNet 실행 서비스 개념


SoyNet은 인공지능 모델의 서비스를 위한 프로그래밍 가능한 실행 전용 가속기 플랫폼으로 기존 Tensorflow, Pytorch, Caffe에 비해 메모리 사용량은 1/4 이하이면서도 2배 이상 빠른 처리 속도를 제공합니다.

아래는 SoyNet의 실행 서비스 개념도입니다.


SoyNet 차별화 포인트


최신 논문에서 소개하는 딥러닝 모델의 실 서비스 구현은 GTX1080ti 와 같은 고사양의 GPU에서 겨우 1개 정도가 가능하지만, SoyNet을 이용하면 최신 논문의 성과들을 여러 개 결합하여 구현하는 것이 가능합니다. 이를 통해 최종적으로 제공 가능한 서비스의 영역을 확대할 수 있습니다.


성능 비교


3개의 엔진 위에 공통으로 YOLOv3라는 CNN기반 Object Detection Model로 성능을 측정한 결과, SoyNet의 속도가 월등히 빠른 것을 볼 수 있습니다.
(참고) 테스트 환경 : OS(Windows 10 x64 ), CPU(i7-7700K), Mem(16GB), GPU(GTX1080TI 11GB)


SoyNet 특장점


SoyNet을 통해 얻을 수 있는 잇점으로는 아래와 같은 것들이 있습니다.

  • 인터넷 단절시에도 동작
    인터넷 단절 시에도 학습된 인공지능은 그 역할을 해야 하는데, 클라우드 기반의 인공지능 서비스는 이러한 환경에서 그 기능을 할 수 없습니다. SoyNet은 이러한 문제를 해결하기 위해 개발된 것입니다.
  • 고사양 서버 부담 경감
    TensorFlow나 Caffe로 간단한 AI 모델을 실행할 때에도 서버급의 고사양 장비가 필요한데, SoyNet은 저사양, IoT 기기에서도 고속 실행이 가능한 인공지능 실행서비스를 위한 운영플랫폼 입니다.
  • 인공지능을 API방식으로 사용
    인공지능 개발자는 난해한 인공지능 API를 알아야 개발할 수 있습니다. 하지만 SoyNet을 활용한다면, 일반 개발자도 인공지능을 활용하는 애플리케이션을 개발할 수 있습니다. 왜냐하면 SoyNet은 간단한 API 방식으로 동작 할 수 있도록 편의성을 제공하기 때문입니다.