[최신 IT] Andrew Ng, "구글의 AI 무기 개발(AI weapons pledge) 서약 철회가 기쁘다"

Andrew Ng 교수

구글 브레인의 창립자이자 전 리더인 앤드류 응(Andrew Ng)은 최근 구글이 AI 무기 개발을 하지 않겠다는 서약을 철회한 결정에 대해 지지를 표명했다. 이는 AI 기술과 국가 안보의 균형을 두고 벌어지는 논쟁 속에서 중요한 변곡점이 될 가능성이 크다.

구글의 AI 무기 개발 정책 변화

구글은 2018년, 미 국방부의 프로젝트 메이븐(Project Maven) 계약에 반대하는 대규모 내부 반발이 일어나면서, AI를 무기나 감시에 사용하지 않겠다는 서약을 발표했다. 하지만, 이번 주 초 구글은 해당 서약을 삭제했으며, 딥마인드 CEO 데미스 하사비스(Demis Hassabis)가 작성한 블로그 게시글을 통해 기업과 정부가 협력하여 "국가 안보를 지원하는 AI를 개발해야 한다"는 입장을 밝혔다.

앤드류 응의 입장: "미군을 돕지 않을 이유가 없다"

앤드류 응은 샌프란시스코에서 열린 Military Veteran Startup Conference에서 테크크런치와의 인터뷰를 통해 구글의 이번 결정에 대해 다음과 같이 말했다.

"구글이 입장을 바꾼 것이 매우 기쁩니다."

그는 또한 과거 프로젝트 메이븐 반대 운동을 이해하기 어려웠다고 밝혔다.

"솔직히, 프로젝트 메이븐 논란이 벌어졌을 때... 많은 분들이 국가를 위해 목숨을 걸고 싸우고 있습니다. 그런데 미국 기업이 자국의 군대를 돕는 것을 거부할 수 있나요?"

AI와 국가 안보: 미국과 중국의 경쟁

응은 미국의 AI 안전성을 확보하는 핵심이 중국과의 기술 경쟁에서 앞서 나가는 것이라고 강조했다. 그는 AI 드론이 전장을 완전히 변화시킬 것이라며, 군사적 AI 기술 개발의 필요성을 역설했다.

그는 또한, 캘리포니아 SB 1047 법안(거부됨)과 바이든 행정부의 AI 행정명령(철회됨)이 더 이상 시행되지 않는 점에 대해 감사하다고 언급하며, 이들이 미국의 오픈소스 AI 개발을 저해할 것이라고 주장했다.

전 구글 CEO 에릭 슈미트의 AI 무기 개발 지지

구글의 전 CEO 에릭 슈미트(Eric Schmidt) 역시 AI 무기 개발을 지지하는 입장을 보이고 있다. 그는 현재 미국 정부가 AI 드론을 구매하도록 로비 활동을 벌이고 있으며, 그의 회사인 화이트 스토크(White Stork)가 향후 이러한 드론을 공급할 가능성이 있다.

내부 반대: 구글 직원들의 항의와 윤리적 논쟁

한편, 구글 내부에서는 AI의 군사적 활용을 두고 오랫동안 논쟁이 지속되어 왔다.

• 메러디스 휘태커(Meredith Whittaker)(현 Signal 사장)는 프로젝트 메이븐 계약 철회를 주도하며 "구글은 전쟁 사업에 개입해서는 안 된다"는 입장을 밝혔다.
• 노벨상 수상자이자 전 구글 AI 연구원인 제프리 힌튼(Geoffrey Hinton) 역시 AI 무기의 사용을 금지하고 규제해야 한다고 주장했다.
• 현재 딥마인드의 최고 과학자(Chief Scientist)인 제프 딘(Jeff Dean) 또한 자율 무기에 머신러닝을 사용하는 것에 반대하는 서한에 서명한 바 있다.

구글과 아마존, 군사 계약 논란

최근 몇 년 동안 구글과 아마존은 군사 계약 문제로 다시 한 번 논란에 휩싸였다. 특히 이스라엘 정부와의 '프로젝트 님버스(Project Nimbus)' 계약이 알려지면서, 구글과 아마존 직원들이 연좌 농성을 벌이며 항의하기도 했다.

한편, 미 국방부(DOD)의 최고 AI 책임자는 최근 테크크런치와의 인터뷰에서 "미 국방부 및 전 세계 군대가 AI를 활용하는 데 점점 더 큰 관심을 보이고 있다"고 밝혔다. 이에 따라, 구글, 아마존, 마이크로소프트를 비롯한 빅테크 기업들이 AI 인프라에 수천억 달러를 투자하며, 군사 계약을 통한 수익 창출을 모색하고 있다.

결론: AI 기술과 군사적 활용의 균형

구글의 이번 정책 변화는 AI 기술의 윤리적 문제와 국가 안보 간의 균형을 어디에 둘 것인가에 대한 논쟁을 다시 불러일으키고 있다. 한쪽에서는 AI의 군사적 활용이 불가피하다는 주장이 나오고, 다른 한쪽에서는 AI가 전쟁에 악용될 위험이 크다는 우려가 제기된다.

앤드류 응과 에릭 슈미트 같은 인물들은 AI가 국가 안보를 위해 사용되어야 한다는 입장을 보이는 반면, 메러디스 휘태커와 제프리 힌튼은 AI의 군사적 사용에 강하게 반대하는 입장을 유지하고 있다.

이러한 논쟁 속에서, 앞으로 구글을 비롯한 테크 기업들이 AI와 국가 안보에 대한 윤리적 책임을 어떻게 설정할 것인지에 대한 귀추가 주목된다.

---

AI weapons pledge 에 대해서

2025년 구글의 정책 변경

지난 2월 5일, 구글은 2018년 서약 내용을 공식 웹사이트에서 삭제하며 AI 원칙을 개정했습니다. 주요 변경 사항은 다음과 같습니다:
1. “무기 및 감시 목적의 AI 개발 금지” 조항 삭제.
2. “국가 안보 지원”을 명시하며 민주주의 국가 주도의 AI 개발 강조.
3. 기존의 “전반적 피해 유발 기술 배제” 표현 제거.
이번 변경은 도널드 트럼프 미 행정부의 “AI 기술 경쟁력 강화” 정책과 맞물려 있습니다. 구글은 블로그를 통해 “복잡한 지정학적 환경에서 국가 안보를 지원하는 AI 개발 필요성”을 강조하며 민·관 협력의 중요성을 피력했습니다.

논란과 반응

• 직원 및 전문가 우려: 전직 구글 AI 연구원 마가렛 미첼은 “이번 변경은 윤리적 AI 개발 노력을 지우는 것”이라며 우려를 표명했습니다. 노벨상 수상자 제프리 힌턴도 “AI 무기 사용 금지 국제 협약 필요성”을 주장했습니다.
• 군사 협력 확대: 미 국방부는 이미 구글·아마존과 프로젝트 님버스(이스라엘 국방군 클라우드 지원)를 진행 중이며, AI를 활용한 ‘킬 체인’(표적 식별→공격 프로세스) 가속화가 보고되고 있습니다.
• 지지 의견: 구글 브레인 창립자 앤드류 응은 “미군 기술 지원은 애국적 의무”라며 변경을 지지했습니다.

향후 전망

AI 무기 개발을 규제하는 국제법 체계 미비가 가장 큰 걸림돌입니다. 현재 UN에서는 《특정재래식무기협약(CCW)》을 통해 LAWs 규제를 논의 중이지만, 구체적 합의는 이뤄지지 않았습니다. 한편, 130명의 과학자가 2024년 3월 “AI 생물무기 개발 금지 서약”에 동참하는 등, 새로운 형태의 윤리적 프레임워크 모색도 진행되고 있습니다.
이번 구글의 정책 변경은 AI 기술의 이중적 사용(민간 vs 군사) 문제를 다시금 조명하며, 글로벌 테크 기업의 사회적 책임에 대한 논의를 촉발시킬 전망입니다.

---

 

🔗 출처: Tech Crunch 원문 기사 보기