디지털 통관 AI에 설명가능성을 적용 할 수 있을까요?
안녕하세요.
디지털통관으로 이루어지는 자동 통관 알고리즘에 대하여 그 결정 과정의 '설명가능성'을 어떻게 담아낼 수 있을지 궁금합니다.
안녕하세요. 최진솔 관세사입니다.
설명가능성에 대하여 먼저 정의하자면 물품에 대한 정보를 설명하는 것을 뜻하는 듯 합니다. 이러한 설명가능성은 결국 AI의 학습을 통하여 이뤄질 수 있습니다. 특종 기업의 특정 품명의 경우 어떠한 특징을 가지고 있음을 유추하는 것이며 이에 대하여는 결국 인간이 최종적으로 데이터를 확인하여야될듯 합니다.
감사합니다
안녕하세요. 이치호 관세사입니다.
디지털 통관 자동화 알고리즘에 설명가능성을 입히는 건 생각보다 까다로운 주제입니다. 단순히 HS코드 매칭이나 요건 확인 같은 건 규칙 기반 로직을 그대로 노출하면 되지만 머신러닝 모델이 개입하면 왜 이 분류가 나왔는지 풀어내기가 애매합니다. 그래서 최근엔 결정 과정을 사람이 이해할 수 있게 바꿔주는 인터페이스를 많이 붙입니다. 예를 들어 어떤 키워드 때문에 특정 코드로 갔는지 단계별 로직을 기록해 보여주는 방식이나, 유사 사례 데이터와 비교해 선택 근거를 같이 노출하는 방식이 있습니다. 결국 세관 실무자나 납세자가 결과를 납득할 수 있도록 중간 사유를 열람할 수 있게 하는 장치가 있어야 설명가능성이라는 요구를 충족시킬 수 있습니다.
안녕하세요. 박현민 관세사입니다.
디지털 통관 시스템에 AI가 들어가면 자동으로 리스크 점수를 매기거나 통관 보류를 걸기도 하는데, 문제는 왜 그런 판단이 나왔는지 사용자가 납득할 수 있어야 한다는 점입니다. 설명가능성을 담으려면 단순히 결과만 띄우는 게 아니라 어떤 데이터 필드가 위험도 산정에 크게 작용했는지, 과거 유사 사례와 비교했을 때 어떤 패턴이 나왔는지를 함께 보여줘야 합니다. 이렇게 하면 기업도 이의 제기나 추가 소명 준비가 가능하고, 세관도 시스템 신뢰성을 높일 수 있는 장치가 될 수 있습니다.