안녕하세요. 조규현 전문가입니다.
인스타그램과 같은 대형 온라인 플랫폼은 불법 촬영물이나 아동 청소년 대상 부적절한 콘텐츠를 차단하고 이용자의 안전을 보호하기 위해 인공지능(AI) 기반 모니터링 시스템을 활용하는 경우가 많습니다. 이러한 시스템은 공개 게시물뿐 아니라 1:1 대화 내용에서도 특정 선별된 키워드나 패턴을 분석하여 의심되는 대화를 자동으로 감지할 수 있는 기술적 기반이 있는 것으로 알려져 있습니다. 다만 1:1 대화는 개인정보 보호 측면에서 제한적으로 자동 감지되며, 실제로는 이용자의 신고와 AI 필터링이 결합된 형태로 운영되는 경우가 많아 완전한 자동 감지가 이루어지는 것은 아닐 수 있습니다.
결과적으로 인스타그램은 AI를 포함한 기술과 인력 검토를 통해 불법 콘텐츠와 관련된 대화가 감지되면 계정 정지, 경고, 제한 조치 등의 절차를 진행할 수 있으므로 사용자 입장에서는 이러한 정책을 인지하고 부적절한 대화는 피하는 것이 바람직합니다. 플랫폼마다 정책과 기술 적용 범위가 다를 수 있으므로 정확한 사항은 공식 안내를 참고하시는 것이 좋겠습니다.
참고 부탁드립니다.