일론 머스크 테슬라 최고 경영자가 한 말 인데요.

Question

일론 머스크가 오픈 AI의 챗 GPT에 대항할 트루스(진실)GPT개발을 선언 했다고 하는데요, 챗 GPT가 거짓말을 한다는 뜻 같은데 챗GPT가 어떻게 거짓말을 한다는 건지 이해할 수 없네요?

Answer 1

안녕하세요. 김태경 과학전문가입니다.

챗 gtp 알고리즘상 없는 얘기를 그럴듯 하게 지어내는 경우도 있습미다

그래서 실제와 달리 거짓을 말하는 경우가 있는 것입니다

Answer 2

안녕하세요. 김학영 과학전문가입니다. 챗 GPT는 거짓말을 합니다. AI 업계에서는 ‘설계상 한계’ 때문이라고 분석했습니다.

원래 GPT는 문장을 그럴싸하게 만들 뿐, 그 내용이 사실인지 거짓인지 판단하지 못하기 때문입니다. 예를들어 ‘조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘’라는 가짜 내용을 묻는 질문을 받았을 때, 이를 실제 발생한 사건인 것처럼 설명한 것이 대표 사례입니다. 심지어 해외에서는 GPT가 무고한 사람을 성추행범으로 몰고 간 사례가 나와서 논란이 되기도 했습니다.

이런 거짓말을 해서라도 대답하는 부분을 개선한 AI를 만들겠다는 의미로 보입니다.