p{font-size: 13px;line-height: 24px;}
/* .footnote{margin: 50px 0 50px !important} */
.footnote p:nth-child(1):before{display: block;content: “”;width: 150px;height: 1px;background: #000;}
Ⅰ. 서론
한국은 세계에서 기술 변화에 빠르게 적응하는 나라 중 하나이다. 2016년 알파고가 이세돌을 이기면서 한국 사회에서 인공지능이라는 단어는 대중적으로 빠르게 확산됐다. 지금은 인공지능 로봇이 레스토랑에서 음식을 주방에서 테이블까지 배달하는 것은 물론 다 먹은 그릇을 가져가기도 한다. 인공지능 로봇이 만드는 커피 또는 국수도 서울 시내 빌딩에서 마주할 수 있다. 자율주행 자동차도 짧은 거리이지만 시범적이나마 대전 등 여러 도시에서 속속 도입되고 있다. 한국을 비롯해 전세계 많은 나라들이 인공지능 기술 개발에 박차를 가하고 있다. 그러나 인공지능에 관한 많은 논의들은 ‘기술 개발’에 집중되고 있다. 이미 개발됐고 또 앞으로 발전할 인공지능 기술은 분명 우리 삶을 개선하고 편리하게 만들 것이 분명하지만 반대로 생각하지도 못한 효과, 부작용을 가져올 수도 있다. 기술 개발에 환영함과 동시에 인공지능 기술이 사람과 사회와 잘 조화를 이룰 수 있도록 어떠한 노력이 필요한지 고민을 해봐야 한다.
인공지능 기술이 다양한 형태로 여러 분야에서 확산되면서 최근 미국 사회에서 논의되는 관점과 사례를 소개해본다.
첫째, 미국 워싱턴주의 커클랜드 시에서 토론하고 있는 아마존의 배달 로봇 스카우트 도입과 시애틀 시에서 진행될 아마존의 자율주행차 도입에 관한 논쟁이다. 미국 워싱턴주에서는 로봇과 인공지능 자율주행차로 인한 보행자 안전에 관한 우려를 둘러싼 논의가 진행되고 있다. 무조건 자율주행 로봇이나 자율주행 자동차를 환영하지 않고 어떤 점에서 미국 사회가 우려하고 있는지 살펴본다.
둘째, 시애틀에 본사가 있는 아마존이 시애틀 도심지에서 시범운행 하겠다고 2021년 10월 발표했다. 이때 시애틀에서는 과거 자율주행차가 낸 보행자 사망사고를 언급하면서 보행자 안전을 우려하는 목소리가 나왔다. 한국을 비롯해 전세계적으로 인공지능을 기반으로 한 자율주행차의 시범운행이 늘어나면서 무조건 장밋빛 미래만을 전망할 수 있는지 따져본다.
셋째, 컴퓨터 사이언스 관련 학과가 유명한 미국 University of Washington에서 컴퓨터 인공지능 윤리 과목을 개설한 교수와 인터뷰를 했다. 이 교수는 인공지능의 최신 기술을 배우는 학생들에게 현대 사회는 ‘사회화된 기술: sociotechnical’ 사회라고 말했다. 그러면서 그는 기술 개발자들이 철학자, 사회학자, 정치학자 등으로부터도 배울 필요가 있다고 강조했다.
넷째, 알고리즘 편향성 문제도 최근 대두되고 있는 인공지능 윤리 논쟁 영역 중 하나이다. 2018년 캘리포니아주에서 현금 보석 제도를 폐지하고 범죄자의 위험도를 머신러닝 알고리즘 판결로 대체하는 주민발의가 부결됐다. 알고리즘 편향성을 우려하는 시민들의 시각이 반영된 대표적 사례다. 알고리즘의 책임성에 관한 논의도 점검해본다.
Ⅱ. 본론
1) 커클랜드 시의 아마존 배달 로봇 시행 유예 결정
2022년 3월 1일 미국 워싱턴주의 커클랜드 시의회는 미국 회사 아마존이 시범 도입을 요청한 소형 배달로봇 ‘스카우트(Scout)’의 시행을 6개월 유예한다는 결정을 내렸다. 커클랜드 시는 구글의 워싱턴주 건물이 있는 곳으로 테크 기업들이 많이 모여 있는 곳 중 하나이다. 커클랜드 시는 왜 이같은 결정을 내렸을까.
아마존의 스카우트 홍보 영상 캡처
‘스카우트’는 아마존의 인공지능 소형 배달 로봇의 이름이다. 아마존은 코로나 팬데믹 이후 급격히 증가한 배달 서비스를 감당하기 위해 로봇 형태의 서비스를 시작했다. 길이는 30인치(76.2센티미터), 폭은 24인치(60.96)로 시간당 15마일(24킬로미터)까지 이동할 수 있는 충전식 이동 로봇이다. 아마존이 주차장 같은 커다란 공터를 빌려 디스펜서를 설치하고 디스펜서에서 스카우트 로봇에 물건 또는 음식을 싣고 출발하는 형태다. 워싱턴주는 먼저 주(State)의 법으로 이같은 배달형 로봇은 일출과 일몰 사이, 즉 오전과 낮 시간대에만 운영할 수 있도록 했으며 사람이 다니는 인접한 인도가 없는 도로에서는 운행하지 않도록 했다. 아마존은 이 소형 배달 로봇의 시범 시행을 커클랜드 시에 요청하면서 사람들이 붐비는 중심가에서는 운행하지 않겠다고 말했다. 아마존은 전기 충전식이기 때문에 탄소배출이 적어 기후변화에도 긍정적 영향을 미친다고 주장했다.
커클랜드 시는 3월 1일 이 인공지능 배달 로봇이 도시를 다니게 할지 말지 결정을 8월 이후로 미뤘다. 6개월간 유예한 것이다. 커클랜드 시에는 워싱턴주의 구글 캠퍼스가 있고, 인근 벨뷰 시에는 아마존, 레드몬드 시에는 마이크로소프트사가 있는 등 ‘기술 혁신’을 내세우는 곳이다. 그럼에도 인공지능 배달 로봇을 바로 도입하지 않고 6개월간 고민해보고 결정하자고 유예를 했다.
시의회에서 이 로봇 운영에 강하게 반대한 사람은 켈리 커티스(Kelli Curtis) 시의원이다. 켈리 커티스 시의원은 3월 1일 열린 시의회 회의에서 ‘보행자 안전’, ‘카메라로 인한 프라이버시 침해 문제’ ‘배달 물건 도난시 책임 소재’ 등에 관한 문제를 제기했다. 인도로 다니는 소형 로봇이 갑자기 튀어나오는 아이들과 부딪힐 경우, 카메라가 달린 로봇으로 인한 프라이버시 침해 문제, 로봇 안에 든 배달 물건이 도난 당했을 때 누구의 책임인지 등에 관해 여러 가지 의문들이 제기되지만 이에 대한 해결책이 아직 없다는 것이다.
필자는 켈리 커티스에게 이메일로 ‘스카우트 도입’ 유예를 하자고 주장한 배경을 물었다.
켈리 커티스는 이메일에서 “우리가 이 로봇을 먼저 도입한 이웃 도시들로부터 배운 것은 이 소형 로봇에 예상치 못한 문제가 있다는 것”이라며 “기술 자체는 흥미롭지만 커클랜드 시의회는 속도를 늦추고 조사를 통해 신중히 하는 것이 좋겠다고 생각했다”고 말했다. 그는 “우리가 제대로 하고 있는지 확인하고 싶다”면서 꼼꼼히 확인해야 한다고 강조했다.
2022년 3월 커클랜드 시의회 화상회의 모습
시의회에서 가장 많이 제기된 우려는 보행자 안전에 관한 부분이다. 제이 아놀드(Jay arnold) 시의원은 “커클랜드 시에는 80개의 플래시 라이트(보행자가 횡단보도를 건널 때 버튼을 누르면 깜빡이는 전등)가 있다. 길을 건널 때 안전 문제가 생길 수 있다”면서 “배달 로봇은 횡단보도를 건널 때 이 버튼을 누를 수가 없다”고 말했다.
반면 처음과 달리 시간이 지나면서 바로 이 로봇을 도입해야 한다고 찬성하는 의견도 나왔다. 존 파스칼 (Jon pascal) 시의원은 “새로운 기술을 시도하려고 할 때 우리 시가 지원해야 한다고 지지해야 한다고 생각한다”고 찬성했다.
커클랜드 시의회는 이 문제를 여러번 논의했고, 주민과 장애인·보행자·교통 단체 등과의 청문회도 계속 개최하면서 의견을 좁혀가고 있다.
2022년 5월 커클랜드 시의회 회의.
지난 5월 3일 열린 시의회에서는 1) 스카우트 로봇을 아예 제한 2) 제한적 허용 3) 일시적 허용 등 3가지 선택을 놓고 논의를 했다.
켈리 커티스 시의원은 이때 “노스웨스트 대학이나 프라이빗한 캠퍼스에서만 사용하도록 제한적으로만 허용하자”고 완화된 입장을 내놨다. 아미 팰콘(Amy Falcone) 시의원도 “여전히 장애인과 자전거, 아이들이 걱정된다”면서 제한적인 공간에서만 허용하자고 주장했다. 닐 블랙(Neal black) 시의원은 “커클랜드는 혁신의 도시이고 기술의 인큐베이터가 되어야 한다”면서 전면 허용을 주장했다.
커클랜드 시의회는 7월 또 한번의 청문회를 거쳐 8월 말이면 스카우트를 허용할지 말지 최종 결정을 내린다. 어떠한 결정이 나오든 여기서 주목해야 할 점은 이곳의 의사결정자들은 청문회를 거쳐가며 주민들의 의견을 듣고 차분히 토론하는 과정을 거쳤다는 점이다. 당장 기술 발전을 놓고 환영할 수는 있지만 실제로 기술이 사회에 발을 내디뎠을 때, 사람들에게 어떤 영향을 줄지 다양하고 종합적으로 고민하는 모습은 인상적이었다. 기술과 인간의 조화를 찾아가는 과정으로 볼 수 있다.
2) 자율주행 자동차 테스트
아마존은 지난 2021년 10월 시애틀 도심에서 곧 자율주행 자동차를 시험 운행하겠다고 발표했다. 특히 제이 인슬리( Jay Inslee) 워싱턴주지사가 전기차와 자율주행차를 강조하고 있는 분위기와 맞물려 아마존의 시범운행을 시애틀에서 뜨거운 논쟁거리가 됐다.
시애틀에 본사를 두고 있는 아마존은 2020년 자율 주행 기술을 가지고 있는 스타트업 죽스(ZOOX)를 인수하면서 자율주행 자동차 개발에 박차를 가하고 있다.
한국에선 자율주행 자동차를 시범 시행한다고 하면 신기한 눈으로 보는 시선이 강하고 보행자 안전에 관한 우려를 담은 목소리가 적은 편이다. 언론에서도 물론 사람들의 통행이 적은 공간에서 시범 운행하기 때문에 우려를 담은 기사를 덜 쓰는 경향이 있다.
아마존이 지난해 10월 시애틀 도심지에서 시범 운행을 발표했을 때 이곳의 대표적 언론인 시애틀 타임즈는 보행자 안전을 강조하는 맥락의 기사1)를 보도했다. 보행자 단체인 America Walks 관계자 말을 인용하면서 ‘자율주행차의 장밋빛 미래에만 집중해 실패가 가려졌다’는 내용을 담았다. 신기술 시험도 중요하지만 도심지에서의 시범 운행을 보행자 안전을 고려해야 한다는 것이다.
실제로 시애틀 도심지는 보행자가 많은 대도시이며, 경사가 급하고 오래된 도로이기 때문에 도로간 폭도 굉장히 좁은 편이다. 돌발 변수가 많이 생길 수 있어 운전하기 쉽지 않은 곳이라는 뜻이다. 이 때문에 자율주행차를 도심지에서 시범운행 할 경우 보행자의 안전에 대한 우려는 사실 당연하다고도 할 수 있다.
시애틀에서 발생한 사고는 아니지만 자율주행 자동차를 시범 운행하는 와중에 보행자가 사망한 사건이 일어난 적이 있다. 2018년 미국 애리조나 주의 피닉스 인근 도시 템페에서 우버의 자율주행 차량이 시범 운행 도중 보행자를 숨지게 하는 사건이 일어났다. 사고가 일어난 장소는 복잡한 교차로였고, 보행자는 횡단보도 밖을 걷고 있었다. 미국 교통안전위원회가 나중에 공개한 문서를 보면 우버는 보행자가 무단횡단을 예상하도록 자동차를 프로그래밍하지 않았다2)고 한다.
지금 우려하는 부분들은 기술이 발전해가면서 차차 해소될 영역일 수 있다. 자율주행차가 무단횡단를 하는 사람을 발견했을 때 취해야 할 조치들을 프로그래밍할 수 있다. 그러나 ‘더 큰 사고를 방지하기 위해 자율주행차가 어떤 선택을 하도록 프로그래밍해야 하는가’라는 의문은 여전히 남는다. 이를테면, 사고가 우려되는 상황에서 ‘운전자를 보호해야 하는가, 보행자를 보호해야 하는가’라는 문제 말이다. 자율주행차로 시범운행하다가 발생한 사고는 ‘운전자가 책임져야 하는가’ 아니면 ‘자동차 제조사의 잘못인가’ 아니면 ‘보행자의 잘못인가’ 등 여러 가지 질문들이 이어진다. 이는 인공지능 기술이 발전하더라도 실험실을 넘어 기술이 사람과 사회에 직접 맞닿기 시작하면 고민해야 할 요소들이 단순하지 않다는 점을 말해준다.
1) 시애틀 타임즈, 2021년 10월 19일, ‘Amazon’s self-driving cars are coming to downtown Seattle. Safety advocates are not pleased‘
2) 워싱턴포스트, 2019년 11월 6일, ‘Uber’s self-driving cars had a major flaw: They weren’t programmed to stop for jaywalkers’
3) University of Washington 알렌스쿨의 컴퓨터·인공지능 윤리 수업
University of Washington의 인공지능을 비롯한 컴퓨터 관련 학과들은 최근 명성이 높아지고 있다. 인근 지역에 아마존, 페이스북, 구글 등 테크 기업들이 둥지를 틀면서 인공지능과 컴퓨터 관련 일자리가 늘어난 것도 영향을 미친 것으로 풀이된다.
University of Washington에서 인공지능을 가르치는 단과대학인 알렌스쿨에는 ‘컴퓨터 윤리’라는 과목이 개설돼 있다. 강의계획서에 적힌 수업 목록을 보면, 기술을 가르치는 대학이라는 점을 감안하면 상당히 흥미롭다. 강의 계획서는 ‘악마는 디테일에 있다’는 유명한 문장으로 시작한다. 그러면서 이 과정 자체가 알렌 스쿨의 다른 강의와는 무척 다르지만 꼭 필요한 과정이라고 명시하고 있다.
이 수업은 ‘알고리즘 편향, 키보드 뒤에 누가 있는가’ ‘페이스북의 콘텐츠 조정과 표현의 자유’ ‘노동과 자동화, 새로운 기술은 과연 유토피아를 만드는가’ ‘데이터 과학에 페미니즘이 필요한 이유’ 등 기술 발전에 대해 비판적 물음을 던진다. 인공지능과 데이터 알고리즘 등을 만드는 학생들에게 사회적, 정치적, 윤리적 질문을 던지고 토론을 유도하는 수업이다.
이 수업을 맡고 있는 댄 그로스먼(Dan Grossman) 교수와 이메일로 강의 개설 배경과 학생들 반응 등을 질문했다. 돌아온 대답은 의외였다. 이같은 강의를 처음 계획하고 만든 주체는 교수진이 아니라 오히려 석사과정을 밟고 있는 학생들이었다는 점이다. 기술을 배우는 학생들이 오히려 사회의 요구와 물음에 더 적극적으로 반응한 것이다.
댄 그로스먼 교수는 “사회적 시사점과 과제, 문제점을 제기하지만 질문과 답변조차 명확하지 않고 정확하지 않은, 토론식 세미나 수업”이라고 수업 방식을 소개했다. 그러면서 댄 그로스먼 교수는 인공지능을 배우는 학생들이 ① 기술이 어떻게 설계되고 구현되는지에 대해 다른 사람들보다 더 잘 이해하고 있는 기술 전문가 ② 많이 고민하고, 생각을 전환하고 공부할 수 있다는 학자 ③ 사회적 책임을 다하는 구성원, 이 세가지 위치에서 다양하게 고민해보자는 차원에서 강의를 진행하고 있다고 설명했다.
그는 또한 “(알렌스쿨의) 다른 과목들은 알고리즘을 수학적으로 정의하고, 기술적으로 더 접근하는 반면, 우리 수업은 ‘데이터란 무엇인가’와 ‘왜 우리가 사물을 분류하는가’ 그리고 ‘사물을 측정하는 것이 사람들의 생각을 어떻게 바꿀 수 있는가’와 같은 더 근본적인 질문들에 들어간다”고 말했다.
댄 그로스먼 교수에게 학생들에게 이 수업에서 가장 강조한 점은 무엇인지 물었다. 그는 “단 한가지만을 꼽을 수는 없다”면서도 “현대 시스템은 ‘사회화된 기술’(sociotechnical)”이라고 표현했다. 그는 “기술 개발자들이 기술의 윤리에 관한 논의에서 중요한 역할을 한다는 것을 강조하지만 그것이 기술개발자들의 유일한 역할은 아니다”라고 했다. 댄 그로스먼 교수는 이어 “기술 개발자들은 철학자, 사회학자, 정치학자, 변호사 등으로부터 배울 필요가 있다”면서 “기술이 현대 사회에 미칠 영향을 이해하기 위해서는 기술에만 초점을 맞추거나 또는 인간이 어떻게 상호작용하는지에만 초점을 맞추는 것이 아니라 그 둘이 함께 가야한다”고 말했다.
4) 알고리즘 편향성 우려
2018년 캘리포니아주 주민발의 25호는 구속된 피고인이 일정 금액을 내고 석방되는 현금 보석제도를 폐지하고 통계적 수치를 바탕으로 판단하는 알고리즘 판결로 바꾸자는 내용이었다. 취지는 좋았다. 보석금을 내기 어려운 저소득층을 배려하자는 차원이었기 때문이다. 그러나 이 법안은 주민들의 반대로 통과되지 못했다. 알고리즘 신뢰성 문제였다. 데이터가 어떻게 입력되는지 정확히 알지 못하기 때문에 즉, 검증되지 않았다고 판단한 사람들이 알고리즘 판결을 믿지 못하는 것이었다.
2022년 2월 알렌 스쿨에서 특강을 한 샤파이 골드웨서(Shafi Goldwasser) UC 버클리 교수는 이 사례를 거론하면서 알고리즘을 공부하는 학생들이 훈련을 받아야 한다고 말했다. 알고리즘은 통제되어야 하고 연구할 때 적절한 데이터를 쓰고 있는지, 랜덤하게 가져온 데이터 샘플이라면 출처는 어디인가, 충분히 검증 가능한지 등을 스스로에게 많이 물어야 한다고 강조했다.
알고리즘으로 범죄인을 풀어줄지 말지 결정하는 등 알고리즘의 사용 범위가 넓어지면서 동시에 알고리즘 편향성 문제도 커지고 있다. 편향성 논란은 인종차별, 성차별, 장애인 차별 등으로 광범위하다. 이 때문에 미국의 각 주 정부는 알고리즘 차별을 금지하는 법안들도 내놓고 있다. 미국 연방 정부 차원에서는 지난 2월 론 와이든(Ron Wyden) 상원의원이 알고리즘 책임법(Algorithmic Accountability Act of 2022)을 재발의했다. 이 법안은 기업에게 알고리즘에 의해 중요한 의사결정을 할 때 소비자에게 미치는 영향을 평가하도록 의무를 부여해, 영향평가 가이드라인, 연차보고서 제작 등 미국 연방통상위원(FTC)의 의무와 권한을 강화한 내용을 담았다. 알고리즘을 사용하는 기업들이 소비자들에게 미칠 잠재적 위험을 인지하도록 유도하기 위한 법안이라고 할 수 있다. 기업들은 알고리즘이 내부 비밀이라고 반대하지만 알고리즘을 기반으로 한 결정의 범위들이 점점 넓어지고 영향력이 커지면서 한국에서도 알고리즘 책임을 강조하는 논의들이 많아질 것으로 예상된다.
Ⅲ. 결론
인공지능(A.I. : Artificial Intelligence) 이라는 용어는 1956년 미국 다트머스 대학교에서 열린 학회에서 존 매카시가 처음 사용하면서 등장했다. 로봇이라는 단어는 시간을 더 거슬러 올라가 1920년 체코 작가 차페타의 소설에서 처음 찾아볼 수 있다. 개념만 있던 때를 지나 자율주행차, 인공지능 배달 로봇, 알고리즘 판결 및 결정, 안면인식 등등 인공지능 기술은 모든 영역에 걸쳐서 다양하게 적용되고 있다. 빠른 기술 발전으로 인공지능의 장밋빛 미래를 담은 낙관론을 펼치는 이들이 많은가 하면 반대로 인간이 설 자리가 없어진다며 비관론을 말하는 이들도 많다. 양극단을 달리는 논의들 가운데서 우리는 인공지능 기술을 성찰하며 사회와 접점을 찾아야 한다. 커클랜드 시의회의 논의는 그래서 주목할 만하다. 어떠한 결정을 내리든 시민들이 충분히 논의한 사안이기 때문이다. 기술에 대한 신뢰를 쌓여야 기술이 가져올 풍요로운 세상도 누릴 수 있다. 이는 4차 산업혁명을 논의하는 2022년 인공지능 기술 개발자들은 물론이고 정부와 학계, 언론계 등이 함께 힘을 써야 할 일이다.