Unknown: The Lost Pyramid

‎제게 AI는 두려운 대상이에요

‎좋아요, 원을 그리며 올라갑니다 ‎대형이 좋아요

‎AI가 가진 잠재력으로 ‎빈곤을 타파하고

‎신약을 개발하고

‎세상을 더 평화롭게 ‎만들 수 있어요

‎잘하네요

‎그러나 그 과정에 ‎위험이 너무나 많죠

‎간단히 말해 우리는 AI로 ‎예측하기가 매우 어려운

‎비인간 지능을 만들고 있어요

‎AI는 점점 강력해지는데

‎AI를 어디까지 사용하고 ‎어디까지 사용하지 않을지

‎어느 선에 맞춰야 하는 걸까요?

‎이 논의의 출발점으로 ‎군사적 활용만큼

‎적합한 분야가 없어요

‎현재의 전장은 소프트웨어와 ‎하드웨어의 영역이 됐습니다

‎목표물을 포착했다

‎군대들은 적을 앞지르는 ‎AI를 개발하려고 경쟁하고 있죠

‎죽었다

‎시대가 빠른 속도로 바뀌고 있어요

‎주요 군대뿐만 아니라

‎비국가 행위자, 사기업

‎심지어 우리와 친숙한 ‎지역 경찰서에서도

‎자율 살상 무기를 ‎사용하는 시대로 가고 있어요

‎생명을 빼앗는 결정을 ‎알고리즘과 소프트웨어에

‎넘기게 될까요?

‎이 시대가 고민할 ‎시급한 과제 중 하나예요

‎현명하게 사용하지 않으면

‎이 세상 모든 이에게 ‎심각한 위협이 될 거예요

‎"언노운" 2화

‎"킬러 로봇"

‎다들 수고했다

‎그간 썼던 렌즈보다 ‎훨씬 광각이에요

‎그래요?

‎훨씬 많은 정보를 볼 수 있죠

‎멋지군요

‎저희 실드AI는 ‎자율 운행 기능을 기반으로 한

‎인공 지능 기술로 ‎AI 파일럿을 만들어

‎항공기에 장착하는 일을 합니다

‎AI 파일럿을 개발하는 건

‎항공기에 높은 수준의 ‎자율성을 부여하는 작업입니다

‎AI 자체적으로 ‎문제를 해결하게 되죠

‎노바는 자율 비행 쿼드콥터로

‎건물과 지하 구조물을 ‎탐색하는 일을 해요

‎실제 처리 병력보다 먼저 투입돼

‎해당 공간을 보고 듣는 ‎역할을 하죠

‎마지막으로 확인했을 때보다 ‎비약적으로 발전했어요

‎오늘은 탐사 방식을 ‎조금 바꾸는 중이에요

‎층별로 탐사하는 중이죠

‎한 층의 모든 방을 수색한 후 ‎다음 층으로 가도록 하려고요

‎- 훌륭해요 ‎- 최근 변경 사항이 있었는데…

‎많은 분이 제게 물어요

‎인공 지능이 어째서 ‎중요한 능력이냐고요

‎"브랜던 쳉 ‎전 미군 네이비 실"

‎그럴 때는 과거에 했던 ‎작전들을 떠올리게 됩니다

‎해군에서 7년 복무했어요

‎과거 네이비 실 소속으로 ‎아프가니스탄에 2차례

‎태평양 전구에 1차례 파견됐었죠

‎하루에 건물이나 기지 내부 ‎150개소를 수색하기도 했어요

‎핵심 능력 중 하나가 근접전입니다

‎건물 안 초밀착 거리에서 ‎총격전을 치를 수 있습니다

‎우리가 표적이 될 수 있어요

‎건물 안에 사제 폭발물이 ‎있을 수도 있죠

‎특수부대나 보병이 ‎작전 구역에서 할 수 있는

‎가장 위험한 행위입니다

‎무엇보다도 위험하죠

‎전 해군에서 복무한 시간에 ‎평생 감사하면서 살 거예요

‎생각나는 순간과 기억이 많아요 ‎그때 생각을 하면

‎가슴이 울컥하죠

‎클리셰 같지만 자유는 공짜가 ‎아니란 말을 전적으로 믿어요

‎경험해서 아는 얘기예요 ‎많은 희생이 있었습니다

‎죄송합니다

‎전우에게 나쁜 일이 닥치면

‎부상이든 전사든

‎정말 비극적이에요

‎지금 저희가 하는 이 일을 통해서 ‎그런 비극이 일어나는 횟수를

‎줄여보겠다는 게 ‎저를 이끄는 원동력입니다

‎2000년대 후반

‎국방부 내에 자각이 있었어요

‎어쩌면 우연히 마주친 ‎로봇 혁명이라고도 부를 수 있겠죠

‎우리는 이라크와 아프간에 ‎공중, 지상 로봇을 많이 보냈어요

‎"폴 샤레 ‎'새로운 전쟁' 저자"

‎제가 오바마 행정부에서 ‎국방부 차관직을 제안받았을 때는

‎전쟁 방식이 ‎뚜렷이 변하던 시기였어요

‎"로버트 워크 ‎2014-2017 미 국방부 차관"

‎사람을 쓰던 자리에 ‎로봇을 투입했습니다

‎초기의 로봇공학 시스템은 ‎원격 조종 기반이었어요

‎원격 조종 차량처럼 ‎사람이 가동하고, 운전했죠

‎처음에는 대개 사제 폭발물을 ‎추적하는 용도로 썼는데

‎폭탄이 터지면 로봇이 파괴됐어요

‎그러면 '애석하게 됐군 ‎다른 로봇을 보내지'라고 했죠

‎아프가니스탄에서 ‎프레데터 드론을 썼어요

‎아주 굉장히 유용한 ‎공습용 장비로 자리 잡았죠

‎시간이 흐르면서 전쟁 계획관들의 ‎의문이 시작됐어요

‎'로봇을 더 활용할 방법은 뭘까?' ‎그 궁금증이 어디로 이어졌을까요?

‎당시의 공통 관심사 중 하나가 ‎자율성 증대였어요

‎자율 무기는 인간의 개입을 ‎최소화하거나, 아예 배제하고

‎자체적으로 의사 결정을 ‎내리는 무기입니다

‎독립적 능력이 있고 자율적이죠

‎"스테이시 페티존 ‎신미국안보센터"

‎무장 여부로 살상 능력이 결정돼요

‎전체 시스템의 ‎자율성이 강화될수록

‎모든 것이 훨씬 빠른 속도로 ‎진행되기 시작합니다

‎적보다 빠른 페이스로 ‎작전을 수행하면

‎전쟁에서 압도적인 이점을 ‎확보하게 되죠

‎자율성과 관련해 ‎저희가 중점을 두는 건

‎고도로 탄력적인 ‎정보 시스템입니다

‎환경에 기반해 ‎상황을 읽고 반응하는 시스템이자

‎그 세계에서 어떤 작전을 ‎시행할지 결정하는 시스템이죠

‎"샌디에이고 ‎캘리포니아"

‎오늘 저희가 찾아온 시설은 ‎원래 영화 스튜디오로 지어졌는데

‎용도를 변경해

‎현실감 있는 군사 훈련 장소로 ‎쓰고 있어요

‎AI 파일럿을 평가하려고 ‎이곳에 왔습니다

‎위협 요소를 탐색하는 ‎작전을 수행할 겁니다

‎처리반 업무를 대신해

‎문제를 어떻게 공략할지 ‎의사 결정을 내릴 수 있어요

‎이 구간을 '죽음의 코너'로 불러요 ‎문 앞을 통과해야만 하죠

‎가장 취약한 지점이에요

‎이게 낫겠어요

‎노바는 문 뒤에 있는 사람이 ‎총을 들었는지

‎평범한 가족인지 알려줍니다

‎노바를 통해 더 나은 결정을 내려 ‎인명 손실을 줄이고자 해요

‎저희는 비전 센서를 사용해서

‎해당 환경이 어떤 모습인지 ‎이해도를 높이려고 해요

‎다층 건물입니다

‎이게 지도예요

‎현장을 돌며 어느 자리에서 ‎뭘 봤는지가 기록돼 있죠

‎인간 탐지 기능이군요, 훌륭해요

‎노바에 장착된 센서 중에는 ‎열 스캐너도 있어요

‎섭씨 37도로 나오면 ‎아마도 사람이겠죠

‎사람은 다른 고려 사항이 없는 한 ‎위협으로 간주합니다

‎전쟁의 불확실성을 제거해 ‎더 나은 결정을 내리는 게 목표죠

‎장기적으로 본다면

‎자율 비행 팀을 편성하는 것까지 ‎염두에 두고 있어요

‎자율 주행 차량에 타면

‎사람이 이런 식으로 ‎명령을 내렸을 거예요

‎'A지점에서 B지점으로 이동해'

‎저희 시스템은 A지점에서 ‎B지점으로 이동하라는 게 아니라

‎어떤 목표를 달성하라는 ‎요구를 받습니다

‎이를테면 ‎'난 우유가 필요해' 같은 거죠

‎로봇은 그 말을 듣고 ‎어느 상점에 가서

‎우유를 획득해 돌아올지 ‎방법을 찾아요

‎심지어는

‎'냉장고를 채워' 같은 명령을 ‎예로 드는 게 더 나을 수도 있겠죠

‎따라서 우리가 다루는 지능은

‎필요한 게 뭐고, 어떻게 성취할지 ‎머리를 짜내는 수준이에요

‎그 과정에 난관이나 ‎문제가 등장할 경우

‎해소할 방법을 찾아낼 줄 알죠

‎해군을 떠나기로 결정한 후로 ‎고민을 시작했어요

‎'좋아, 이제 뭘 하지?'

‎저는 인터넷 세대고 ‎발전 과정을 목격했어요

‎그래서 이런 결론을 내렸습니다

‎2015년의 AI는

‎1991년의 인터넷과 ‎같은 위치에 있다고요

‎AI는 세계에서 가장 강력한 기술로 ‎도약할 채비가 되어 있었어요

‎매일 AI를 다루면서 ‎얼마나 발전했는지 눈에 보여요

‎하지만 많은 이들은 AI를 생각하면

‎곧장 할리우드를 떠올려요

‎"WOPR ‎전쟁수행계획반응"

‎게임을 할까?

‎세계 핵융합 폭탄 전쟁은 어때?

‎좋아

‎"누구 편이야? ‎미국/소련"

‎사람들은 대개 ‎인공 지능이란 말을 들으면

‎'터미네이터'나 ‎'아이, 로봇'을 떠올려요

‎비활성화해

‎난 뭐지?

‎아니면 '매트릭스'죠

‎SF 영화에서 본 것을 ‎기본적으로 떠올려요

‎'내가 인간인지 어떻게 알아? ‎컴퓨터로 만든 AI일 수도 있어'

‎레플리칸트도 다른 기계와 똑같아 ‎이롭거나 해롭거나 둘 중 하나지

‎하지만 훨씬 원초적인 AI 중에도

‎우리의 운명을 바꿀 것들이 ‎무수히 많아요

‎생각하고 말하는 로봇 수준에 ‎한참 못 미치더라도요

‎로봇은 지금도 흔하고 ‎의사 결정도 내려요

‎로봇 혁명은 이미 시작됐습니다

‎모두가 상상했던 모습과 달라서 ‎눈치를 못 챌 뿐이죠

‎터미네이터는 침투 유닛이에요 ‎반은 사람이고 반은 기계죠

‎터미네이터 같은 ‎킬러 로봇 얘기가 아닙니다

‎인간이 하는 특정 업무를 ‎똑같이 하는 AI를 말하는 거죠

‎하지만 그런 시스템이 ‎신뢰할 만한지가 의문입니다

‎간밤에 발생한 인명 사고에

‎자율 주행하던 우버 SUV가 관련된 ‎새로운 정황이 드러났습니다

‎이 기업은 인공 지능 챗봇을 ‎개발했는데요

‎다소 인종차별적인 어조로…

‎주 의원 26명이 범죄자로 ‎오인됐습니다

‎"아마존 안면 인식 기능 ‎국회의원 28명을 범죄자로 오인"

‎AI가 현실 세계의 복잡성을 ‎소화할 수 있느냐가 관건입니다

‎"케임브리지 ‎매사추세츠주"

‎실제 세상은 아주 뒤죽박죽이에요

‎우리가 모르는 게 너무 많아서

‎AI 시스템을 훈련시키기가 ‎훨씬 어렵죠

‎바로 그런 점 때문에 ‎머신 러닝 시스템이 도입됐어요

‎머신 러닝은 ‎장족의 발전을 이뤄냈어요

‎지금은 컴퓨터에게 모든 걸 ‎다 가르치지 않아도 되거든요

‎컴퓨터에 수백만 개의 정보를 주면

‎기계가 학습을 시작해요

‎어느 분야에나 적용이 가능하죠

‎저희는 로봇 도그 프로젝트를 통해

‎다양한 지형을 걷는 개를 ‎선보이려고 해요