AI의 발달속도보다 보안이 부족한데 이대로 괜찮을까요?

Question

AI의 발달속도가 빨라서 실존과 가상의 경계가 모호해질 수 있습니다. 그렇게 되면 고유한 개개인의 신분증 같은 역할들이 무너지면서 많은 악행, 불법, 등이 일어날 것이라고 생각됩니다.

그렇기 때문에 보안쪽에 개발에 힘을 쏟아야한다고 생각되는데요. 지금 이대로 진행되도 정말로 괜찮은지 궁금합니다.

Answer 1

안녕하세요. 서종현 전문가입니다.

질문자님께서 말씀하신 것처럼 AI 기술의 급격한 발전은 실존과 가상의 경계를 모호하게 만들고 개인 신분 체계를 위협할수있다는 점에서 보안 문제를 야기하고있습니다. 데이터 조작이나 딥페이크 같은 기술은 악용될경우 심각한 사회적 문제를 초래할수있습니다.

이러한 위험성 때문에 AI보안 분야의 중요성이 매우 커지고 있으며, 관련 연구와 기술 개발이 활발히 이루어지고 있습니다. 각국에서는 AI 관련 규제와 법안 마련에도 힘쓰고 있습니다.

현재 상황이 완벽하다고 할수는 없지만 AI의 잠재적 위험에 대한 인식이 높아지면서 보안 강화 노력이 지속적으로 이루어지고 있습니다. 이는 앞으로도 계속해서 해결해나가야 할 중요한 과제입니다.

Answer 2

안녕하세요. 김상규 전문가입니다.

말씀하신대로

AI 발전에 따른

AI에 대한 신뢰성 안정성 확보가 시급하기에

각 국에서 AI 관련 윤리와 규범에 관한 법률 제정에 촉각을 세우고 있습니다.

생성형 AI 로 만들어지는 영상 등은

어떠한 지적재산권에 대해서도 걸리는 것이 없다는 헛점등이 문제가 되어

유럽연합에서는 이미 법률을 제정하였습니다.

규제와 발전방해 라는 두가지 방향이 상충되는 부분이 여전히 심합니다.

프랑스 독일 이탈리아 등의 반발로

AI 발전에 저해라는 명목으로

EU 인공지능 법안을 합의하는데 난항이 있었습니다.

문제는 그런 토론과 협의 반발 등이 있어야 하는 것이 정상적인 과정임에도 불구하고

우리나라를 아직 그런 접근조차 못하고 있는 실정이라는 것이죠.

우리나라는 과기부 12월 간담히에서

미국식 자율규제와 EU의 강력한 규제 등 서로 다른 규율이 추진되는 세계정세 속에서

우리는 혁신을 살리면서 개인/사회의 안전에 위협이 되지않도록 접근하자

라고 말한게 전부입니다.

어떻게 하겠다는 로드맵은 여전히 없다는 것이

미래에 대한 대비가 전혀없는 부분으로 보여집니다.

Answer 3

안녕하세요. 원형석 전문가입니다.

네 항상 과학이 발달이 될때 개발운 하지만 구에 대한 보안으누항상 뒤로 뱌재되면서 갸발이 되었습니다 그래서 예를 들어보면 핵무기와같은 경우 무기로 사용을 할려고 만들고 나서 나중에 핵발전소로 돌리면서 위험성을 보완하면서 그렇게 개발이 되고있습니다

Answer 4

안녕하세요. 김민규 전문가입니다.

기술이 발달하면 나오는 양날의 검의 문제 입니다. 하지만 보안 부분도 어느 시점이 되면 안정화되어 알맞은 속도로 발전하게 됩니다.

Answer 5

안녕하세요. 기계공학 전문인 박성수 전문가입니다.

AI관련 보안 위협은 늘 꾸준히 문제가 제기되어 왔고, 그 만큼 보완을 해나가고 있습니다. 하지만 아무래도 방어보단 공격이 훨씬 쉬운 만큼 계속해서 보안 기술을 중점으로 두고 사법적으로도 처벌 수위를 강화시켜 나가야 할 것입니다.