안녕하세요. 박재화 전문가입니다.
인공지능 소프트웨어에서 가장 중요한 것은 단순히 답을 잘 내는 것 보다 왜 그런 답이 나왔는지를 어느 정도 증명할 수 있는 신뢰성을 가지는 것이 중요하다고 생각합니다.
단적인 예로 Chat GPT만 봐도 답은 딱딱 바로바로 내주는데, 문제는 이것이 틀린 답인 경우가 종종 있습니다. 그래서 그에 따른 검증이 필요한 부분이 생기게 되는 것 입니다. 아무리 똑똑해도 오류가 났는데 이유도 모르고, 같은 질문을 했는데도 답이 들쭉날쭉 한다면 실무에 적용했을 때 효과가 있을지 의문입니다.