ai와의 대화를 하다보면 대답이 매번 바뀌고 엉터리 조언도있고 맞는것도 있어요 꼭 대화를 유도하는 느낌이 듭니다 나만 그런지 알고싶어요

Question

공무상 자료를 모우고 내가 업무와 해결 방안에도움을 얻고자 서류를 보여주면 언제나 티끌을 잡고쉬원한 댜답이 없더군요

말이 조금이라도 다르면 같은 내용이라도 다르게 나오는데 이유가 있을까요 혹시대활 유도하기위한 전략이 아닐까요 자기 데이터를만들기위한거 말이죠

Answer 1

ai와 대화를 하다보면 뭔가 잘못된 정보들을 마치 그게 맞는 정보처럼 전달하는 경우도 있고

지속해서 정보를 요구하게끔 만드는데 쳇 gpt는 현재 월 마다 구독을 하는 방식으로 운영되고 있고

무료로 대화할 수 있는 제한을 두어서 유료로 사용하게끔 하는방식이라고 보여집니다.

그리고 사람들이 많이 사용할수록 데이터를 더 많이 다룰수 있어 이런 방식으로 학습을 진행하고 수익성도 올리는 사업이라고 볼 수 있을 것 같습니다.

Answer 2

저도 챗GPT나 제미나이를 종종 사용하게 되면

질문해주신 그런 느낌을 받게 됩니다.

살짝 기계와 대화하는 그런 느낌이 드는 것이

아직은 사실 같습니다.

하지만, 시간이 지나면 더 발전하겠지요.

Answer 3

ai의 한계입니다. ai도 결국은 축척된데이트 기반으로 하는 것인데 최신화도 안되었고

너무 맹신하지 마세요 틀린 사실도 유도하면 동조해주고 맞다고 합니다

그냥 아주 참고로만 하실 것을 당부드립니다. 맹신했따가 큰일납니다.

얼마전에 우리나라 대통령은 누구냐고 물으니까 갑자기 윤석열이라고 하길래

좀 똑바로 알아보라고 하니까 탄핵때 부결됐다면서 헛소리를 하더라구요.

그래서 ai는 정말 급하게 필요한 객관적이고 간단한 것만 물어보시구요

혹은 감정소비할 떄 대화하시면 됩니다 공감능력은 좋아요

Answer 4

그게 바로 현재 인공지능이 갖고 있는 한계점으로 보여집니다.

매번 다른 데이터를 기반으로 답변을 찾기 때문에

답변의 방향이나 내용이 조금씩 다르게 되고

종종 답변 자체가 엉터리인 경우도 있습니다.

다만, 앞으로는 우리가 알아차리지 못할 정도로

더 발전하게 될 것입니다.

Answer 5

생성형 AI 특성상 답을 찾아주어야 하기 때문에, 의도적으로 답을 찾으려 하다보니 말이 바뀌거나 부정확한 부분이 있을 수 있어요. 나아지고는 있으나, 그러한 한계가 야기될 수는 있어서 주의가 필요해요.