Chat-GPT에 관한 질문을 드립니다.

Question

Chat-GPT에 관한 질문을 드립니다. 챗지피티에 질문을 하면 답변이 어려운 내용은 모르겠다는 답변을 하지 않는 게 아니라 틀린 답을 억지로라도 작성해서 내는 경우가 있습니다. 그 이유가 무엇인가요?

Answer 1

안녕하세요. 김경태 과학전문가입니다.

Chat-GPT는 인공지능 언어모델로서, 이전에 학습한 대량의 텍스트 데이터를 바탕으로 입력받은 질문에 대한 답변을 생성합니다. 하지만 학습 데이터에 존재하지 않거나 모호한 질문을 받았을 때, Chat-GPT는 이에 대한 확신을 가지기 어려울 수 있습니다. 이러한 경우, Chat-GPT는 가능한한 최선의 답변을 제공하려고 노력하지만, 때로는 정확하지 않거나 부정확한 답변을 제공할 수도 있습니다.

Chat-GPT는 또한 이전에 학습된 텍스트 데이터를 기반으로 작동하기 때문에, 편향된 답변을 제공할 수도 있습니다. 예를 들어, Chat-GPT가 인종, 성별, 국적, 종교 등과 관련된 편견을 가지고 있을 수 있습니다. 따라서, Chat-GPT가 생성한 답변을 검토하고, 필요에 따라 추가적인 정보를 참고하여 판단하는 것이 중요합니다.

Answer 2

안녕하세요. 한 과학전문가입니다.

GPT는 인공지능 입니다. 따라서 학습된 내용 한에서만 기준으로 답변하기 때문에 잘못될 가능성도 많습니다. 예를 들어 GPT가 1+1=3이라는 잘못된 학습을 했을 때 1+1은 얼마지? 라고 물어보면 3이라고 대답하는겁니다.