US20260065050A1은 2026년 3월 5일 공개된 특허출원 문헌입니다. A1은 등록특허를 의미하지 않습니다. 본문은 공개 내용의 분석이며, DX-M1이 모든 청구항을 실제 구현한다거나 현재 특허등록이 완료됐다고 단정하지 않습니다.
학습 장치와 현장 추론 장치 사이의 정보 흐름을 그린 개념 예시입니다.
AI 모델이 학습용 컴퓨터에서 잘 작동해도 작은 현장 장치에서는 같은 결과를 내지 못할 수 있습니다. 딥엑스의 미국 공개특허출원 US20260065050A1은 현장 장치의 평가를 학습 장치로 돌려보내 모델 구조와 가중치를 고치고, 현장에서 다시 추론하는 흐름을 설명합니다. 공장 불량검사 예시로 이 기술의 원리를 살펴보고, GPU와 NPU의 역할 및 DX-M1이 속한 엣지 AI의 개념을 쉽게 풀어 드리겠습니다.
1. 공장 AI는 왜 현장에서 달라질까요?
컨베이어 벨트 위 제품을 카메라로 찍고, AI가 작은 흠집을 찾아내는 공장을 떠올려 보세요. 개발실에서는 큰 컴퓨터로 사진을 충분히 학습할 수 있지만, 생산라인에서는 카메라 옆의 작은 장치가 새 사진을 계속 판단해야 합니다. 사진을 먼 서버로 보내고 결과를 기다리기 어려운 현장이라면, 기기 가까운 곳에서 계산하는 방식이 유용합니다.
여기서 자연스럽게 질문이 생깁니다. “잘 학습한 AI를 현장 장치에 넣기만 하면 되는 것 아닌가요?” 학습용 컴퓨터와 현장 장치는 지원하는 계산, 메모리, 처리 능력이 다를 수 있습니다. 큰 컴퓨터에서 실행한 모델을 작은 장치에 맞게 바꾸는 과정이 필요하고, 그 과정에서 흠집을 놓치는 등 판단 결과가 달라질 수도 있습니다.
딥엑스의 미국 공개특허출원 US20260065050A1은 이 문제를 학습과 추론의 연결로 풀어 설명합니다. 현장 장치에서 얻은 평가를 학습 장치로 되돌리고, 다음 모델을 만드는 데 반영하는 흐름입니다. 공장 불량검사라는 가상 예시를 따라가 보시면, 왜 모델을 보내는 일과 평가를 다시 받는 일이 함께 필요한지 이해하실 수 있습니다.
2. 학습과 추론, 두 장치의 역할
학습은 여러 사례를 이용해 AI 모델의 계산 값을 조정하는 과정입니다. 추론은 그렇게 학습한 모델에 새로운 입력을 넣어 결과를 구하는 과정입니다. 정상 제품과 불량 제품의 사진으로 판단 기준을 익히는 일이 학습이라면, 생산라인에서 찍힌 새 제품 사진을 판정하는 일이 추론입니다.
학습과 추론을 서로 다른 장치가 맡을 수 있습니다. 학습 장치는 반복 계산을 통해 모델을 만들고, 현장 추론 장치는 그 모델로 입력을 처리합니다. 이 공개출원가 설명하는 흐름에서도 첫 번째 장치가 학습을 맡고, 구성이 다르며 상대적으로 처리 능력이 제한된 두 번째 장치가 추론을 맡습니다. 역할을 나누면 모델을 현장 장치에 맞게 준비하는 일이 중요해집니다.
예를 들어 개발실에서 사용한 계산을 현장 장치가 그대로 지원하지 못한다면, 실행할 수 있는 형태로 모델을 바꾸어야 합니다. 모델을 작게 만드는 데 성공했더라도 불량 사진의 판정 결과까지 그대로 유지되는지는 별개의 문제입니다. 이 때문에 모델을 옮긴 뒤 그 장치에서 시험하고, 평가 결과를 다음 학습으로 이어 가는 과정이 필요합니다.
3. 모델을 가볍게 만드는 가중치와 구조
가중치는 모델이 계산할 때 사용하는 숫자입니다. 사진에서 얻은 특징을 판단에 얼마나 반영할지 조절하는 값이라고 생각하시면 쉽습니다. 모델 구조는 그 숫자를 사용하는 계산 단계와 연결 방식입니다. 공장의 작업에 비유하면 구조는 작업 순서와 배치이고, 가중치는 각 단계의 조절 값에 가깝습니다.
따라서 가중치를 바꾸는 일과 구조를 바꾸는 일은 다릅니다. 같은 계산 순서를 두고 숫자만 조정할 수도 있고, 계산 단계나 연결을 줄이거나 바꾸면서 숫자를 다시 학습할 수도 있습니다. 현장 장치에 맞는 모델을 만들 때에는 두 가지를 함께 살펴야 합니다. 구조를 바꾸면 그 구조에 맞는 가중치도 다시 준비해야 하기 때문입니다.
모델을 가볍게 하는 대표적인 방법으로 가지치기와 양자화가 있습니다. 가지치기는 일부 연결이나 구성을 줄이는 방식이고, 양자화는 계산에 쓰는 숫자를 더 제한된 정밀도로 표현하는 방식입니다. 계산량이나 저장 부담을 줄이는 데 쓰이지만, 사진의 미세한 차이를 구분하는 능력에도 영향을 줄 수 있습니다. 이 공개출원는 이런 최적화 뒤 낮아진 추론 정확도를 다시 학습하는 과정을 설명합니다.
원문 FIG. 5. 학습용 GPGPU(100), 추론용 NPU(200), 메모리(300)가 연결된 예시입니다. 메모리에는 실행에 맞게 계산을 준비하는 Compiler(310), 정보를 보관하는 Storage(320), 결과를 전달하는 Reporting(330)이 표시돼 있습니다.
4. 현장 평가를 학습에 되돌리는 순환
전체 흐름은 학습 → 현장 추론 → 평가 회신 → 모델 수정 → 다시 추론으로 이해하시면 됩니다. 먼저 학습 장치가 모델을 학습하거나 다시 학습해 가중치를 준비합니다. 그 가중치를 현장 장치로 보내면, 현장 장치는 준비된 모델과 가중치로 새 입력을 처리합니다.
현장 장치는 추론 결과와 그 성능에 대한 평가 결과를 만들고, 평가 결과를 학습 장치에 돌려보냅니다. 공장 예시라면 정답을 알고 있는 시험 사진으로 정상과 불량을 얼마나 잘 구분했는지 살펴보는 상황을 생각해 볼 수 있습니다. 단순히 사진을 판정하는 기능에 더해, 그 판정이 잘 이루어졌는지를 다음 개발 단계에 전달하는 것입니다.
다음 단계에서 학습 장치는 현장 평가를 반영해 학습 또는 재학습을 수행합니다. 이때 현장 장치에서 실행할 수 있도록 모델 구조를 수정하고 가중치를 갱신합니다. 바뀐 모델에 맞춘 가중치를 다시 보내면, 현장 장치는 수정된 모델과 가중치로 추론합니다. 모델을 만드는 장치와 실제로 실행하는 장치 사이에 개선의 순환이 생깁니다.
원문 FIG. 7. 학습 데이터는 GPGPU(100)로, 시험 데이터는 Target Device(200-1)로 들어갑니다. 하단 Output에서 학습 쪽으로 이어지는 화살표는 실행 장치에서 얻은 결과가 다음 학습으로 돌아가는 흐름을 보여 줍니다.
작은 흠집을 자주 놓치는 공장 AI를 예로 들어 보겠습니다. 현장 시험에서 얻은 평가를 학습 장치로 보내고, 개발 쪽에서 계산 연결을 조정한 뒤 다시 학습합니다. 수정한 모델을 현장 장치에 전달해 같은 종류의 사진을 다시 판정해 볼 수 있습니다. 이 흐름에서 재학습은 학습 장치가 맡고, 현장 장치는 개선된 모델의 실행과 평가를 맡습니다.
설명용 공장 업무 흐름. 학습 컴퓨터에서 모델 준비 → 현장 장치로 가중치 전달 → 제품 사진 판정과 평가 → 평가 결과 회신 → 모델 구조와 가중치 수정 → 현장에서 다시 판정. 이 그림은 이해를 돕기 위해 직접 제작한 가상 예시입니다.
5. GPU와 NPU가 나누어 맡는 계산
GPU는 여러 계산을 병렬로 처리하는 데 쓰이는 그래픽 처리 장치입니다. GPGPU는 GPU의 계산 능력을 그래픽 이외의 일반 계산에도 활용하는 것을 뜻합니다. AI 학습에서도 이런 병렬 계산을 활용할 수 있습니다. NPU는 신경망 연산을 처리하도록 설계된 프로세서입니다.
이 공개출원의 장치 예시에서는 GPGPU가 학습 쪽 계산을, NPU가 현장 추론을 맡습니다. 학습 쪽에서는 모델을 반복해서 조정하고, 추론 쪽에서는 준비된 모델로 입력을 처리합니다. 학습 장치가 만든 모델을 NPU에서 실행하려면, 그 NPU가 지원하는 계산 방식과 처리할 수 있는 데이터 크기에 맞추는 과정이 필요합니다.
FIG. 5의 컴파일러는 모델의 계산을 실행 장치에 맞게 준비하는 구성으로 읽으시면 됩니다. 저장부와 보고부는 모델과 결과를 보관하고 전달하는 역할을 돕습니다. 이처럼 장치 이름만 보는 것보다, 모델을 어떻게 준비하고 어떤 정보를 주고받는지 따라가면 시스템의 작동 원리가 더 선명해집니다.
6. DX-M1과 엣지 AI 이해하기
딥엑스는 DX-M1을 기기 가까운 곳에서 AI 추론을 처리하는 반도체로 소개합니다. 이러한 처리를 엣지 AI라고 합니다. 모든 입력을 먼 서버로 보내 계산하기보다, 카메라나 기기 가까이에 있는 장치에서 처리하는 방식입니다. 여기서 엣지는 데이터가 만들어지거나 사용되는 현장 가까운 위치를 뜻합니다.
공장 예시에 적용해 생각하면, 카메라가 촬영한 제품 사진을 생산라인 가까운 추론 장치가 판단하는 상황입니다. 장치에서 처리할 수 있는 모델을 준비하면 서버와 데이터를 주고받는 흐름을 줄일 수 있고, 현장에서 필요한 응답을 설계하는 데 도움이 됩니다. 전력과 메모리, 지원하는 연산을 고려해 모델을 준비하는 일도 함께 중요해집니다.
엣지 AI 개발에서는 큰 컴퓨터에서의 학습 결과를 현장 장치의 실행 결과로 이어 주어야 합니다. 모델을 작게 만드는 과정, 장치에 맞게 계산을 준비하는 과정, 현장 평가를 다음 개선에 반영하는 과정이 서로 맞물립니다. 앞서 살펴본 학습과 추론의 순환은 이러한 개발 과정을 이해하는 데 유용한 기술적 관점입니다.
7. 개발팀이 얻을 모델 개선의 시사점
이 공개출원 기술의 중심은 학습 장치와 추론 장치를 나누는 데서 한 걸음 더 나아갑니다. 추론 장치의 평가가 다음 모델의 구조와 가중치를 바꾸는 데 쓰인다는 점이 핵심입니다. 개발실의 학습 결과와 현장의 실행 결과를 연결해 모델을 계속 다듬는 방식입니다.
개발팀은 모델의 크기나 학습 성능만으로 현장에 맞는 모델을 결정하기 어렵습니다. 실행할 장치에서 평가하고, 그 결과를 모델 수정으로 이어 가는 과정이 필요합니다. 계산 구조를 바꾸었는지, 가중치를 다시 학습했는지, 수정된 모델을 다시 실행했는지에 따라 개선 과정의 내용도 달라집니다.
공장 AI를 다시 떠올려 보시면 이해가 쉽습니다. 현장에서 흠집을 놓친다는 평가가 개발 쪽으로 돌아오고, 개발 쪽은 모델의 계산 구조와 숫자를 고칩니다. 현장은 고친 모델로 다시 판단합니다. 이렇게 만드는 장치와 사용하는 장치가 평가를 통해 이어지는 흐름이 모델을 현장에 맞추는 이 공개출원의 기술적 아이디어입니다.
기술을 더 읽어 볼 참고 자료 USPTO · US20260065050A1 특허 원문 — 기술 설명과 원문 FIG. 5·7을 함께 읽어 보실 수 있습니다. DEEPX · DX-M1 공식 제품 설명 DEEPX · 한국 본사와 기술 지원 안내 USPTO · A1 등 문헌 코드 설명
함께 읽으면 좋은 글 추론 중 가중치를 바꾸는 LLM: In-Place Test-Time Training 논문·특허 분석인공지능 특허 변리사 김용덕 · 아이피렉스 업무 소개
우리 제품의 기술 차이를 특허 관점에서 검토해 보세요 아이피렉스 특허법률사무소는 AI·소프트웨어의 처리 흐름과 구성별 차이를 살펴 특허 출원과 권리 설계를 지원합니다. 상담하실 때에는 공개 가능한 범위의 시스템 흐름도, 모델 수정 전후의 차이, 장치별 역할과 평가 조건을 준비해 주시면 구체적인 기술 검토에 도움이 됩니다. 김용덕 변리사의 AI 분야 프로젝트·저서와 상담 안내 보기