에지 환경에서의 Euresys Open eVision

본 문서에서는 스마트 카메라와 같은 임베디드 장치에서 AI 추론을 위한 에지 컴퓨팅의 이점, Open eVision을 활용한 머신 러닝 모델의 학습 및 배포 방법, 그리고 실용적인 애플리케이션을설명합니다.

1. 학습 데이터를 수집하여 딥 러닝 스튜디오로 가져오기

모델을 학습시키려면 검사할 객체의 이미지 세트가 필요합니다. 데이터세트의 크기가 클수록 학습이 더 안정적으로 진행됩니다.
이상적으로는, 모델이 예상되는 결함을 식별할 수 있도록 양품과불량품 이미지가 모두 포함된 학습 데이터를 사용해야 합니다.
또는 양품 이미지만으로 모델을 학습시켜 결함을 감지할 수도있습니다. Deep Learning Studio에는 데이터세트 분할 도구가
있습니다.

이 도구를 사용하면 학습용, 검증용, 테스트용 등 다양한 용도로학습 이미지를 분할할 수 있습니다.
이렇게 하면 학습에 사용된이미지와는 다른 이미지로 모델을 테스트하고 검증할 수 있어 더현실적인 환경을 구현할 수 있습니다.

2. 적절한 도구 선택(분류, 분할, 위치 파악)

Deep Learning Studio는 애플리케이션에 따라 다양한 도구를 제공합니다.
Figure 1 딥 러닝 도구 선택에 영향을 미치는 기준

• EasyClassify: 객체 이미지의 범주별 분류
  특정 기준(예: 양품/불량품, 색상, 모양 등)에 따라 객체를 분류해야 하는 경우,EasyClassify를 사용하면 이러한 기준을 정의하고 각 이미지를 올바른 범주에할당하도록 모델을 학습시킬 수 있습니다.
• EasySegment: 이미지 내 결함 발견
  양품과 불량품을 구분하는 것만으로는 충분하지 않을 수 있습니다. 결함의 종류와위치를 파악해야 하는 경우, EasySegment를 사용하면 모델에 결함의 모양과이미지에서 발견될 수 있는 위치를 학습시킬 수 있습니다.
• EasyLocate: 이미지 내 객체 찾기 및 계수
  일부 애플리케이션에서는 동일한 이미지 내 다양한 객체를 식별, 위치 파악 및계수해야 합니다. 예를 들어 PCB 상의 여러 전자 부품이나 상자 안에 무작위로배치된 객체 등이 있습니다. EasyLocate를 사용하면 객체가 겹치더라도 이미지 내특정 객체를 식별하고 강조 표시하도록 모델을 학습시킬 수 있습니다.

3. 데이터에 주석 달기

적합한 도구를 선택했으면 다음과 같이 학습 이미지를 검토하고 주석을 달아모델을 학습시키십시오.

• EasyClassify에서 범주를 생성하고 각 이미지를 하나의 범주(예: 양품/불량품 또는 빨간색/노란색/파란색 등)에 할당합니다. Euresys는 안정적인학습을 위해 분류당 최소 50장의 이미지를 권장합니다.
• EasySegment에서 범주를 생성하고 각 이미지를 하나의 범주(예: 양품/불량품 또는 빨간색/노란색/파란색 등)에 할당합니다. 이 지도학습은 데이터세트에 결함 이미지가 있는 경우에만 가능합니다. 그렇지않은 경우 EasySegment는 양품 이미지만 사용하는 비지도 학습 모드를제공합니다.그런 다음 모델은 이미지에서 편차를 식별하고 위치를파악합니다.
• EasyLocate에서 식별해야 할 각 객체를 경계 상자로 강조 표시하고올바른 이름(예: FPGA, 마이크로컨트롤러, 커넥터 등)으로 태그지정합니다.

4. 학습 구성

학습 데이터를 준비하고 적절한 도구를 선택한 후 Deep Learning Studio에서모델 학습을 구성하십시오.
학습 구성

• 반복 횟수, 즉 모델이 모든 학습 이미지를 통과하는 횟수입니다. 이는 학습 시간과품질에 영향을 미칩니다.반복 횟수가 많을수록 학습 시간이 길어지고 결과는 더좋아집니다.
• 배치 크기는 한 번에 처리되는 이미지 수를 의미합니다.이 매개변수는 처리 속도는물론 필요한 메모리 및 처리 능력에도 영향을 미칩니다.
• 데이터 증강: 데이터 증강은 학습 데이터세트에서 더 많은 학습 이미지를 파생시키는것입니다. 예를 들어 이미지를 회전하거나 이동시키고, 조명 설정을 변경하고, 노이즈를추가하는 등의 방법으로 이루어집니다. 데이터세트에 포함된 변형이 많을수록 실제환경에서 모델의 안정성이 높아집니다.
• 학습 방식이 결정론적인지 여부.결정론적 학습을 통한 결과는 재현성이 높지만,비결정론적 학습보다 속도가 느립니다.

5. 모델 학습

모든 매개변수를 설정한 후 Deep Learning Studio의 “”학습”버튼을 누르면 학습 프로세스가 대기열에 추가됩니다.학습은대기열 순서에 따라 차례로 이루어집니다. 학습 소요 시간은데이터세트 크기, 학습 매개변수 및 하드웨어 성능에 따라 달라집니다.

다른도구와 달리 Euresys의 Deep Learning Studio는 학습을 100% 로컬에서수행합니다. 즉, 데이터는 클라우드에 업로드되거나 Euresys 또는 타사와공유되지 않습니다. 이는 애플리케이션의 기밀성 유지에 매우 유리합니다.

6. 결과물 품질 확인.

Deep Learning Studio에서 데이터세트의 다른 분할을 사용하여모델을 검증할 수 있습니다.
결과가 만족스럽지 않을 경우, 워크플로를 1단계(예: 데이터세트 크기늘리기) 또는 2단계(예: 주석 품질 개선)부터 다시 시작하십시오.

7. 학습된 모델 내보내기

워크플로의 모든 이전 단계는 Deep Learning Studio에서 무료로수행할 수 있습니다. 이는 에지 장치에 적용하기 전에 머신러닝을실험하고 실제 운영 환경에서 테스트하려는 개발자에게 매우
유용합니다.
Euresys는 모델의 추론 즉, 현장에서의 모델 배포 시마다 라이선스비용을 청구하므로 운영에 실질적인 가치를 있는 부분에 대해서만 비용을지불하면 됩니다.

자체 모델과 사전 학습된 모델 및 기존 라이브러리 결합

AI 컴퓨터 비전은 많은 이점이 있지만, 항상 AI를 사용해야 하는 것은 아니며, 에지 검출과같은 검증된 일상적인 작업에는 기존 라이브러리를 결합하고, 애플리케이션에 더 특화된작업에는 모델을 학습시키는 것이 바람직할 수 있습니다.
Euresys Open eVision을 사용하면 규칙 기반 라이브러리, 사전 학습된 모델, 자체 학습 모델을하나의 워크플로에 원활하게 통합하여 개발 시간을 단축할 수 있습니다.

EasyClassify를 활용한 식품 분류 및 등급 분류

딥 러닝 기술은 식품 산업을 위한 강력한 새로운 접근 방식입니다. 천연 제품 분류는 일반적으로AI 처리로 잘 처리되는 작업입니다. 그러나 식품 산업은 매우 높은 검사 속도를 요구합니다. 제품이 컨베이어 벨트 위에서 빠르게 이동하기 때문에 비전 검사로 생산 프로세스 속도를늦출 수 없습니다.
GPU를 사용하더라도 초고해상도 이미지 분류 작업이 너무 느릴 수 있습니다. 따라서 Open eVision을 사용할 때는 2단계 프로세스가 권장됩니다.
먼저 (기존 연산자를사용하여) 객체를 효율적으로 감지한 후, 작은 이미지들을 배치 단위로 딥 러닝 분류기에전송합니다.

그림 <576/> 예를 들어, 초당 18,000라인으로 작동하는 라인 스캔 카메라는 딥 러닝 분류로 처리될 수 있으며평균 결정 지연 시간은 (NVIDIA RTX A2000 GPU에서) 9ms에 불과합니다.

Alecs 스마트 카메라의 사전 학습된 OCR 모델

사전 학습된 모델의 한 예로 추가로 학습시킬 필요가 없는 딥 러닝 기반 문자 인식 도구인EasyDeepOCR이 있습니다. 이 도구는 프로세스 속도를 높이기 위해 특정 정보만 읽도록구성할 수도 있습니다. Euresys는Allied Vision과 함께 Jetson Orin 시스템 온 칩(SoC) 기반의
Allied Vision Alecs 스마트 카메라를 사용한 OCR 애플리케이션을 시연했습니다.
Open eVision은 Alecs 카메라에 기본적으로 설치되어 있으며,EasyDeepOCR은 별도의 학습이필요하지 않으므로 카메라가 별도의설정 없이도 복잡한 라벨을 실시간으로 즉시 판독할 수있습니다. 이 애플리케이션은 Alecs GPU에서1,232×1,032 픽셀 해상도의 이미지에서 400ms의 처리 속도를 달성합니다.

NVIDIA Jetson Orin NX에서 객체 계수

사용자 학습 애플리케이션의 예로는 객체 계수가 있습니다.

이 예시에서는 EasyLocate의 “관심점” 방법을 사용하여 모델을 학습시켰으며, 이는 이미지내에서 특정 관심 영역을 검색하여 객체를 인식합니다.
여기에서는 콘덴서의 원형 모양을 인식하고 이미지 내 콘덴서를 계수합니다.
위의 학습 설명에서 볼 수 있듯이, Deep Learning Studio를 사용하여 다음 작업을 수행했습니다.

• 데이터세트에 주석 달기
• 데이터 증강 및 분할 등을 사용하여 학습 구성
• 모델 학습
• 모델 검증(정확도, 추론 속도)

그런 다음 이 간단하고 학습시키기쉬운 모델은 NVIDIA Jetson OrinNX SoC에서 실행되는 임베디드컴퓨터로 내보내졌습니다. 이 모델은GPU에서 추론을 가속화하기 위해Open eVision이 지원하는 NVIDIA의TensorRT SDK 덕분에 초당 20프레임(720×450픽셀)으로 이미지 당 최대90개의 객체를 실시간으로 감지할 수있습니다.

저희 웨비나를 시청해 주세요