챗지피티 대화 유출 확률이 어느정도인가요?

Question

진짜 이상해보이는 질문이긴한데

알고보니까 누군가가 불법적으로 챗지피티 사용자들의 모든 대화들을 모니터링하고있을수도 있나요?

아니면 해커가 챗지피티를 해킹해서 대화들을 유출한다던가

Answer 1

안녕하세요.

일반적으로 대화가 외부로 실시간으로 감시되거나 누군가가 몰래 읽는 구조는 아닐 거에요.

문제는 이런 것들이 서버에 저장된 데이터이고, GPT 특성상 계속적으로 학습을 하고 있기 때문에 위험이 아예 없다고는 못할 것 같습니다. 한참 지브리 변환사진이 유행할 때도 이런 이야기가 돌았던 것으로 기억하고 있습니다.

과도하게 걱정할 수준은 아니겠지만, 민감한 정보는 애초에 입력하지 않는 것이 좋을 것 같습니다.

감사합니다.

Answer 2

안녕하세요. 박재화 전문가입니다.

해당 서비스들을 개발한 개발사에서도 당연히 데이터에 대한 보안이나 암호화와 이상 활동을 감시하는 기능들이 탑재되어 있습니다.

그러나 무엇이든 무조건이라는 것은 없을 것 같습니다. 보안 기술이 발달하는 만큼 해킹 기술 또한 발전을 할테니까요. 과거에 OpenAI도 일부 지원 시스템 관련 보안 사고와 관련된 공지가 난 적이 있습니다. 따라서 될 수 있으면 민감한 내용이나 개인적인 부분은 넣지 않는 것이 좋을 수 있습니다.

Answer 3

안녕하세요. 김상엽 전문가입니다.

챗GPT 대화는 보안 관리되며 무작위 유출 가능성은 매우 낮습니다. 다만 서버 해킹 등 극히 드문 위험은 완전히 0%는 아닙니다.

Answer 4

안녕하세요. 김재훈 전문가입니다.

챗지피티 대화가 유출될 확률은 매우 낮으나 기술적 오류나 해킹 가능성이 완전히 0%라고 단정할 수는 없으며 실제로 과거에 시스템 버그로 인해 타인의 대화 목록 제목이 노출되거나 검색 엔진에 일부 대화가 인덱싱되는 사례가 보고된 적이 있습니다. 기본적으로 운영사인 OpenAI의 인가된 엔지니어가 서비스 개선이나 법적 준수를 위해 대화를 모니터링할 수 있는 권한이 있고 해커들이 프롬프트 주입 같은 신종 수법으로 데이터를 빼내려는 시도를 지속하고 있어 완벽한 보안을 장담하기는 어렵습니다. 따라서 가장 안전한 방법은 설정 내 데이터 제어에서 학습에 활용되지 않도록 옵션을 끄거나 개인정보나 기업 기밀처럼 외부에 절대 알려지면 안 되는 민감한 정보는 처음부터 입력하지 않는 것이 가장 현명한 예방법입니다