안녕하세요 기계공학 전문인 박성수 전문가입니다.
먼저 인공지능에 대해 한계나 제한이 필요한 이유는 크게 안전성 문제, 윤리적 문제, 데이터 보안 등이 있습니다.
먼저 안전성의 경우 인공지능의 시스템이 잘못 설계되었거나 잘못된 결정을 내리는 경우 사람의 생명과 안전에 심각한 위협이 될 수 있습니다. 예를 들자면 자율주행 자동차가 장애물을 잘못 식별하거나 식별하지 못했을 경우에 내리는 판단 등으로 인한 사고입니다.
윤리적 문제는 인공지능이 인간의 윤리적 가치를 무시하고 작동하는 경우에 차별적이거나 편향된 결정을 내릴 수 있습니다. 예를 들어 AI그림으로 일론 머스크를 그렸는데 흑인 일론 머스크가 나오는 경우나 흑인 인어공주를 백인 인어공주로 바꿔서 그린 경우라고 볼 수 있죠
또 데이터 보안쪽에서 인공지능은 대량의 데이터를 처리하고 분석하는 능력을 가지고 있는데 이러한 과정에서 개인의 정보가 노출되어 악용될 가능성이 있습니다.