로고

킬러 로봇의 등장.. 자율성을 가진 무기의 가능성과 위험성

AI 기술의 군사적 활용, 윤리가 배제된 전쟁의 시대

생성형 AI와 윤리적 통제.. 기술 발전의 빛과 그림자

김누리 기자 | 기사입력 2025/01/14 [08:42]

킬러 로봇의 등장.. 자율성을 가진 무기의 가능성과 위험성

AI 기술의 군사적 활용, 윤리가 배제된 전쟁의 시대

생성형 AI와 윤리적 통제.. 기술 발전의 빛과 그림자

김누리 기자 | 입력 : 2025/01/14 [08:42]
본문이미지

▲ 최근 중국과 캄보디아의 합동 군사훈련에서 기관총이 장착된 로봇개가 공개되었다.  로봇개는 네 다리를 가진 형태로, 등 부분에 원격 제어 자동소총이 부착되어 있다.이러한 군사용 로봇의 등장은 인공지능과 로봇 기술의 발전이 군사 분야에 적극 활용되고 있음을 보여준다.그러나 동시에 이러한 무기의 개발과 사용에 따른 윤리적, 사회적 논의가 필요하다는 지적이 제기되고 있다    (사진=연합뉴스 제공)

 

기관총이 탑재된 로봇개의 실전 배치 가능성과 그로 인해 발생할 수 있는 윤리적, 사회적 문제에 대한 논의가 점차 활발해지고 있다. 김명주 서울여대 교수는 이와 관련한 다양한 시나리오와 기술적, 윤리적 과제를 제기하며, 이러한 기술이 인간 사회에 미칠 잠재적 영향을 경고했다.

 

최근 중국이 캄보디아와의 합동 군사훈련에서 기관총을 탑재한 로봇개를 선보였다는 사실이 알려지면서, 킬러 로봇에 대한 우려는 새로운 국면을 맞이했다. 현재 이 로봇개는 원격 제어 방식을 통해 사람이 총격 여부를 결정하는 형태로 운용되고 있다.

 

그러나 기술적 발전에 따라 로봇의 자율성이 확대될 경우, 인간의 개입 없이도 목표를 탐지하고 공격할 수 있는 진정한 킬러 로봇으로 변모할 가능성이 크다. 이는 단순한 군사적 문제를 넘어, 로봇의 자율성이 증가하면서 발생할 수 있는 윤리적 난제를 대두시킨다.

 

특히, 인공지능(AI)의 발전으로 인해 로봇 무기가 스스로 결정을 내리는 하이브리드 모드로 전환될 가능성이 제기되면서, 기술의 통제력 상실에 대한 우려도 깊어지고 있다.

 

AI 무기의 위험성은 대량 살상 무기와 비교될 만큼 심각하다는 평가를 받고 있다. 다이너마이트가 원래는 사람을 살상하기 위한 의도로 만들어지지 않았지만, 그 부작용으로 수많은 희생자를 초래했듯이, AI 무기 역시 비슷한 맥락에서 이해될 수 있다.

 

김 교수는 AI가 핵무기보다 더 위험하다는 경고를 내놓으며, 생성형 AI와 같은 기술이 대량 살상 무기와 관련된 정보를 포함하거나 이를 학습할 가능성에 주목했다. 이러한 가능성은 AI 기술의 지식 접근 제한과 윤리적 통제에 대한 논의가 필수적임을 시사한다.

 

또한, AI 전투기의 공중전 실험 사례는 AI의 군사적 활용 가능성을 실증한 대표적 사례로 언급된다. 작년 AI 전투기가 인간 조종사와 벌인 공중전에서는 F-16 전투기를 조종하는 AI가 적 공격과 방어 전략을 스스로 학습해 적용했다. 이는 전투 상황에서 AI가 인간의 개입 없이 독립적으로 작전을 수행할 수 있음을 보여주었다. 그러나 이 같은 기술적 진보는 전쟁 상황에서 윤리적 판단이 배제되고, 이른바 '윤리의 침묵' 상태가 발생할 위험성을 내포하고 있다.

 

AI 기술이 무기화되면서 감정과 윤리에 대한 논의는 더욱 복잡한 양상으로 전개되고 있다. 로봇이 감정을 가진 것처럼 보이게 하는 '의인화' 문제는 사람들에게 로봇과 AI에 대한 잘못된 신뢰를 심어줄 수 있다. 김 교수는 오픈AI가 새로운 모델에서 윤리적 조건을 완화하고 성능 강화를 목표로 한다는 점을 지적하며, 이러한 기술 개발 과정에서 윤리적 기준이 희생될 가능성을 경고했다.

 

특히, AI 기술의 경쟁 속에서 성능이 윤리를 대체하는 사례는 점점 늘어나고 있다. 오픈AI를 비롯한 여러 기술 기업들이 AI 성능 강화를 이유로 윤리 팀을 해체하거나, 기존의 윤리적 제약을 완화하고 있다는 점은 주목할 만하다. 이는 AI 기술이 더 빠르고 효율적으로 발전할 수 있는 길을 열어주지만, 그 과정에서 발생하는 윤리적 문제를 방치하게 될 가능성도 크다.

 

또한, GPT 스토어와 같은 플랫폼에서는 커스터마이징된 콘텐츠가 범람하며, 부적절한 내용이 포함될 가능성이 높아지고 있다. 특히, 미성년자들이 쉽게 접근할 수 있는 연애 콘텐츠나 성인물을 예로 들어, 콘텐츠 등급제 도입이 필요하다는 주장이 제기되었다. 이는 과거 인터넷 등급제의 중요성이 재조명되는 계기가 될 수 있다.

 

 

이와 같은 AI와 로봇 기술의 무기화, 그리고 윤리 문제에 대한 논의는 단순히 군사적 문제로 국한되지 않는다. 이는 기술적 통제, 윤리적 기준, 그리고 사회적 합의라는 복합적 문제를 포함하며, 인류가 마주할 미래에 대한 깊은 통찰과 논의를 요구한다. 김 교수는 이러한 문제들이 단지 학문적, 이론적 논의에 그치는 것이 아니라, 실제로 사회적, 정치적 의제로 이어져야 한다고 강조하며, 기술 개발과 윤리적 기준의 조화를 이루기 위한 전 세계적 노력이 필요하다는 점을 거듭 강조했다.

이 기사 좋아요
기자 사진
시민포털 쇼핑,소상공인 환경 관련 뉴스 담당하고 있습니다
시민포털 김누리 기자입니다
시민포털은 지역언론, 지역경제 살리기, 지방언론 살리기 위해 만들어졌습니다.
  • 도배방지 이미지

광고
광고
광고