인공지능 기술은 거스를 수 없는 시대적 흐름이 되고 있다. 인간의 삶을 윤택하게 하는 동시에 사회적 혼란을 야기하는 양날의 검으로 작용할 것이란 전망 속에서 인공지능 기술을 윤리적으로 선용할 방안을 찾는 일은 정책연구자들의 몫이기도 하다. 인공지능 윤리는 왜 중요하며, 어떻게 해결할 것인가를 놓고 끊임없이 질문을 던지고 답을 찾는 정보통신정책연구원의 세 연구자를 만나 인공지능 윤리 연구와 관련된 이야기를 들어봤다.

문정욱 정보통신정책연구원 지능정보사회정책센터장 (이하 문정욱)

저는 행정학을 전공했고, 정보통신정책 분야 중에서도 디지털 전략과 관련한 정책연구를 주로 하고 있습니다. 디지털 기술의 등장으로 발생하는 사회경제적 이슈에 대한 연구를 꾸준히 진행해왔습니다. 2016년 알파고의 등장 이후에는 인공지능에 대한 사회적 관심이 커지면서 인공지능이 야기하는 사회문화적 쟁점을 검토하고 정책적 대응에 대한 수요가 많아짐에 따라 관련 연구를 수행해왔습니다. 최근에는 인공지능 윤리 정책을 중점으로 연구하고 있습니다.

이현경 정보통신정책연구원 지능정보사회정책센터 부연구위원(이하 이현경)

저는 정책학을 전공했고, 입사한 지 그리 오래되진 않았습니다. 제가 가장 관심을 두고 있는 연구 주제는 크게 세 가지입니다. 첫 번째는 인공지능 윤리교육으로 초·중·고 현장에서 활용할 수 있는 교재를 만들면서 인공지능 리터러시 함양과 관련한 분야로 관심이 확대됐습니다. 두 번째는 알고리즘 기반의 자동화된 의사결정입니다. 앞으로 공공영역에서 이와 관련한 활용 분야가 확대될수록 일어날 수 있는 피해라든가 사회적 영향에 관심을 갖고 있습니다. 마지막으로 디지털 격차 문제인데요, 원래 사회경제적 불평등이나 지역 격차 문제에 관심이 많은 편이라 자연스럽게 관심을 갖고 주목하고 있습니다.

문광진 정보통신정책연구원 지능정보사회정책센터 부연구위원(이하 문광진)

저는 법학을 전공했고, 세부적으로는 행정법을 공부했습니다. 국가권력과 개인과의 관계에 질문을 던지는 학문이라고 할 수 있습니다. 사실 인공지능은 인간의 의사결정이나 지능을 대체하는 기술로, 단순히 신기술을 통해 우리 삶이 편리해진다는 차원을 넘어 우리 삶과 사회 전반에 걸쳐 커다란 변화를 가져올 것으로 전망해볼 수 있습니다. 센터장님이 말씀하신 대로 인공지능 기술이 발전을 거듭할수록 역기능을 초래하는 측면이 있을 텐데, 그에 잘 대응해 기술 진흥을 좋은 방향으로 이끄는 게 저희에게 주어진 정책 과제가 아닐까 생각합니다. 그런 점에서 의미 있는 연구를 하고 있다는 데 자부심을 느끼고 있습니다.

문정욱

저희 셋 모두 사회과학 분야 전공자들인데요. 정보통신정책연구원에서 근무한다고 하면 정보통신과 관련한 학문을 전공한 사람들이 모여 있을 거라 생각하는 분이 많겠지요. 하지만 정보통신기술은 어느 한 분야가 아닌 우리 사회 전반에 영향을 미치는 만큼 여러 영역의 이슈를 다루고 있기에 다양한 전공자들이 근무하고 있습니다. 정보통신기술이 국가 경쟁력은 물론 우리 삶의 질을 완전히 좌우하게 된 지 꽤 되었기 때문에 첨단기술의 디지털 전략 수립을 지원하는 정책연구를 꾸준히 수행하고 있습니다.

이현경

저는 연구원에 대해 알아보다가 내부의 지능정보사회정책센터라는 곳에서 디지털 격차와 같은 정책학적 이슈를 다루는 연구진이 있다는 사실을 접했어요. 제 연구 관심사에 부합하기도 하고, 앞으로도 신기술과 관련해 다뤄야 할 정책적 이슈가 많다고 생각해 지원했습니다. 또 하나 이곳을 택하게 된 가장 큰 이유는 일반적으로 학계에 몸담게 되면 같은 분야의 사람들과 일해야 하는 경우가 대부분인데, 국책연구기관은 다양한 분야의 연구자들과 협업해야 하는 구조라는 점입니다. 이러한 환경에서 배우고 성장할 기회가 많을 것이라 생각했고, 요즘도 일상적으로 이를 체감하며 살고 있어요.

문광진

연구원에 오기 전까지 법학 분야에서 석·박사 과정을 밟고 대학에서 강의를 했지만, 사실 정보통신기술 분야에서 연구를 하게 될 줄은 몰랐습니다. 오랜 기간 유학 생활을 했는데, 공부를 마치고 한국에 와보니 다른 세상이 되어 있더라고요. 모든 사람이 스마트폰만 보고 있고, 스마트폰 하나면 모두 해결되는 시대가 된 거죠. 정보통신기술은 우리의 삶을 완전히 변화시켰고, 이제 정보통신기술이 없는 일상을 생각하기란 불가능해졌습니다. 법학이 미래를 내다보고 예측하는 학문은 아니지만, 사회적 변화가 초래한 문제에 응답할 의무가 있다고 생각합니다. 저 역시 학문의 길에 들어선 이상 그러한 의무를 지고 있고요. 기회가 주어진다면 이 분야에서 할 수 있는 역할을 해보고 싶었는데, 다행스럽게도 그런 기회가 주어져 많이 배우며 연구하고 있습니다.

“정보통신기술은 어느 한 분야가 아닌 우리 사회 전반에 영향을 미치는 만큼 다양한 시각으로 접근하는 것이 중요합니다.”
문정욱 정보통신정책연구원 지능정보사회정책센터장

인공지능 발전 속 제기되는 윤리적 이슈

문정욱

저희 센터는 인간의 삶, 그리고 경제·사회 전반에 가장 큰 영향을 미칠 기술 중 하나가 인공지능이라고 봤습니다. 앞서 이현경 박사님이 자동화된 의사결정을 말씀해주셨는데, 알고리즘이라는 것이 사실 블랙박스화되어 있는 부분이 많이 있습니다. 어떤 메커니즘을 통해 의사결정 결과를 도출하게 되는지 일반인인 우리가 모든 것을 파악하기 어렵습니다. 그렇기 때문에 인공지능 윤리에 대해 꾸준히 질문하고 국가정책을 수립하는 작업은 반드시 필요할 것이란 생각이 듭니다. 인공지능과 관련해서는 정책 방향이 제시되면 다양한 의견이 쏟아져 나오죠. 역동적인 분위기가 느껴집니다. 그런 점에서 책임감을 가지고 흥미롭게 연구에 임하고 있습니다.

이현경

입사 이후 처음 맡은 과제가 인공지능 윤리와 관련한 프로젝트였습니다. 또 지난해 인공지능 윤리교육 교재를 만드는 일을 하면서 더 관심을 갖게 됐어요. 전반적으로 우리나라의 정보화 교육 수준은 무척 높다고 생각합니다. 하지만 정작 신기술을 활용하는 데 문제의식을 느껴야 할 지점이 무엇인지, 소비자로서 요구해야 할 점은 무엇인지 잘 모르는 경우가 많고, 윤리적인 감수성에 대한 교육이 부족한 것이 사실이에요. 저희가 교재를 개발할 당시만 해도 인공지능 윤리교육 과정에 특화된 게 없었거든요. 이제 챗GPT의 등장으로 코딩은 물론 우리 일상의 모든 걸 대신해줄 수 있는 사회가 된 만큼 교육이 어느 방향으로 나아가야 하는지 고민이 필요하죠. 무엇이 옳고 그른지 가치 판단을 할 수 있게 해주는 교육이 필요하지 않을까 싶습니다.

문광진

지난 50년간 정보통신기술은 많은 것을 바꿔놓았습니다. 특히 인공지능 기술이 그 정점을 찍지 않을까 예상하게 되는 지점은 바로 인공지능이 사람의 의사결정을 대신해준다는 것입니다. 지금껏 인간이 어려움을 겪어온 일들을 인공지능이 대신해주면 인간의 노동력을 대체해 산업구조에도 변화가 올 것이고, 제도적인 변화도 뒤따를 수밖에 없습니다. 그만큼 사회·경제적 변화는 물론 인간 자체에 대한 변화까지 고민을 해야 할 시기가 됐다고 볼 수 있습니다. 인공지능 외에도 다양한 기술이 있겠지만, 현재로서는 시간을 두고 지속적으로 고민해야 할 주제라는 점에서 관심 있게 지켜보고 있습니다.

문정욱

인공지능의 윤리와 관련해 다양한 이슈들이 있는데요, 앞서 2020년 말 범국가 차원의 ‘인공지능 윤리기준’이 발표됐습니다. 인공지능은 인간성 구현을 위해 개발·활용돼야 한다는 최고 가치 아래 인간의 존엄성, 사회의 공공성, 기술의 합목적성이라는 3대 원칙을 제시했습니다. 그에 따른 10대 핵심 요건도 마련했고요. 우리 연구원이 2022년에 수행한 설문조사 결과, 국민이 중요하다고 생각하는 윤리기준 핵심 요건은 프라이버시 보호, 책임성, 침해 금지, 안전성 순으로 나타났어요. 그렇다면 저희 연구원에서도 이를 중심으로 윤리적 이슈를 풀어나가야 하지 않나 생각합니다. 향후의 방향성과 구체적 해결 방안에 대해서는 다양한 처방이 있을 것 같습니다. 아직까지는 인공지능 기술의 발전 속도와 성장 수준을 고려해 기업 차원의 자율 규제 형식으로 윤리적 체계를 만들어야 한다는 것이 전반적 흐름이고요. 윤리 의식 확산을 위해 교육을 강화하거나 인공지능 제품이나 서비스에 대한 윤리영향평가를 통해 부정적 요인을 최소화하는 방안을 마련하는 일도 중요하다고 봅니다.

이현경

인공지능의 개발과 활용 분야에서 가장 시급한 윤리적 과제는 사회적 공론을 형성하는 일이라고 생각합니다. 인공지능이 가져올 수 있는 잠재적 이익과 위험에 관해 정책 입안자, 이해관계자, 시민들과 함께 소통하면서 정책 방향을 설정하고 사회적 합의를 이뤄가는 과정이 무엇보다 중요합니다. 이와 함께 인공지능의 위험성 분류체계를 정립하고 그에 부합하는 법제도적 장치를 마련하는 일 역시 시급한 과제기도 합니다. 하지만 이런 작업은 시간이 걸리기에 그전에 충분한 사회적 논의와 합의 과정을 도출하는 것이 중요해요. 단순히 타당성을 확보하기 위한 수단으로서가 아니라 사회적 숙의 과정 자체가 중요하다는 점에서 당장 성과가 보이지 않더라도 인내심을 갖고 진행해야 하는 절차라고 말씀드릴 수 있습니다.

산업 진흥과 이용자 보호 사이 ‘균형과 조화’

이현경

인공지능과 관련된 정책이나 규제가 제도화되기까지 다소 시간이 걸릴 수밖에 없는데요, 그렇다면 다수의 사회 구성원이 만족할 만한 법안이 마련되기까지 이를 대신할 수 있는 것은 인공지능 윤리를 통한 자율적 행동규범입니다. 특히 소비자, 이용자 관점에서 인공지능 윤리에 대한 감수성을 키우면 개발사나 인공지능 공급업체에 책무를 강화하도록 실질적인 영향력을 행사할 수 있을 겁니다. 예를 들면 과거에는 화장품 성분을 공개하는 것이 일반적이지 않았는데, 지금은 깐깐한 소비자들의 요구 덕분에 화장품 성분을 투명하게 공개하는 회사의 제품이 선호되고 있거든요. 이처럼 인공지능 분야에서도 소비자가 할 수 있는 역할이 매우 크다고 생각해요.

문정욱

인공지능 기술에 대해 법 규범을 통한 규제를 앞세우게 되면 관련 산업의 성장을 더디게 하는 결과를 초래할 수도 있습니다. 산업의 미래와 국가 경쟁력 측면을 고려하지 않을 수 없는 정책연구자 입장에서 현재로서는 자율규제 중심으로 하고, 나머지는 윤리 규범의 영역으로 남겨두는 것이 필요하지 않나 판단하고 있습니다. 우리 연구원이 추구하는 연구의 방향성에도 부합한다고 볼 수 있습니다. 인공지능 산업 진흥과 이용자 보호라는 측면에서 보자면 현재 기술의 성숙도와 발전 속도 등을 고려해 현재로서 윤리적 접근이 가장 합리적인 수단이지 않을까 생각합니다.

이현경

인공지능 기술의 잠재적 이점과 부작용 사이에서 균형을 이루는 일이 가장 어려운 것 같습니다. 인공지능의 잠재적 이점에 집중해 사회적 해악을 끼치는 제품과 서비스가 사회 전반에 확산한다면 이미 너무 늦은 것이고요. 잠재적 해악에 집착해 이로운 인공지능 제품과 서비스가 개발되지 못하고 사장된다면 혁신을 방해하는 결과를 초래합니다. 그래서 정책연구자들은 인공지능에 대한 신화에서 한발 떨어져 기술의 이점과 사회적 부작용 모두를 바라봐야 하지 않나 싶습니다.

문광진

저는 인공지능 기술 산업 발전과 관련해 선순환 구축이 중요하다는 말씀을 드리고 싶어요. 인공지능 기술이 안전하고 윤리적이어야 시장에서 선택받을 것이고, 무리하게 성장시켜 사건·사고가 터지면 시장에서 외면받을 거라고 생각하거든요. 그런 점에서 저희 연구자들의 역할도 크다고 보고요. 인공지능 관련 기업들이 윤리적 측면을 중시하며 기술개발에 나설 때 지속적인 발전이 뒤따르지 않을까 싶습니다.

문정욱

인공지능 기반 제품이나 서비스를 통한 편익과 혜택을 국민 모두가 골고루 향유할 수 있는 정책을 마련하게 되면 자연스럽게 균형점을 이루리라고 봅니다. 인공지능 산업 진흥과 규제를 놓고 이분법적으로 접근하기보다는 인공지능 기술 발전 속도를 충분히 고려해 기업의 혁신을 장려하고 국민의 안전과 인권을 보호할 수 있는 균형 잡힌 인공지능 정책을 마련해야겠죠.

“인공지능이 가져올 수 있는 잠재적 이익과 위험에 관해 정책 방향을 설정하고 사회적 합의를 이뤄가는 과정은
당장 그 성과가 보이지 않더라도 그 사회적 숙의 과정 자체가 중요합니다.”
이현경 정보통신정책연구원 지능정보사회정책센터 부연구위원

정책연구자, 매끄러운 정책 실현의 매개자 역할

문정욱

국책연구기관에서 일하다 보면 정책연구자라는 정체성에 대해 한 번쯤 생각해보게 되는데요. 제가 생각하기에 정책연구자는 사회문제를 잘 발굴하고 이를 해결하기 위한 정책 방향성과 구체적인 정책 대안까지 제시하는 역할을 하는 사람이 아닐까 싶습니다. 어젠다를 발굴하고 정책대안을 만들고 여러 대안 가운데 가장 적절한 대안을 선정하고 집행한 뒤 효과를 분석해 정책을 수정하거나 후속 조치를 만드는 정책 과정에 정책연구자가 참여하게 됩니다. 가장 중요한 건 국민의 정책 수요와 정책 당국의 정책 결정을 연계하는 것, 즉 수요와 공급을 잘 연결해주는 역할이지 않나 싶습니다. 아무리 좋은 정책이라도 선택되지 않으면 의미가 없고, 실제 많은 사람이 필요로 하는 정책과 다른 방향의 정책을 제안하면 실효성이 떨어지는 문제가 있거든요.

이현경

정책연구자는 크게 두 가지 역할을 할 수 있는 사람이라고 생각합니다. 정책이 입안되는 과정에서 좀 더 좋은 방향으로 갈 수 있도록 방향을 조정하는 데 도움을 주는 역할이 첫 번째고요. 두 번째는 정책이 시행되고 나서 데이터를 바탕으로 그 효과를 객관적으로 평가하고 목적한 바를 달성했는지 판단해줄 수 있는 역할이라고 생각합니다. 그런 사후적인 평가는 단기적이기보다 장기적으로 이뤄져야 한다고 봐요. 정책이 특정 결과로 나타나기까지 시간이 걸릴 뿐 아니라 정치 사이클에서 벗어나 외부의 압력 없이 객관적인 평가를 할 수 있어야 하기 때문이죠. 조금 이상적으로 말씀드린 것 같은데, 좀 더 현실적으로 얘기하자면 학계와 시민사회· 정책 당국을 이어주는 중간자 역할을 할 수 있어야 한다고 봅니다.

문광진

우선 정책이란 과연 무엇인가 생각해보게 되는데요. 정책은 우리 헌법이 정하고 있는 국가의 정체성, 국민의 기본권 보장을 충족하기 위한 하나의 수단이라고 볼 수 있습니다. 정책을 수립하고 시행하기까지 많은 과정에서 정책을 입안하는 공무원, 이를 지원하는 사람들이 각자 역할을 하게 됩니다. 그리고 정책연구자는 그 사이에서 매개 역할을 하는 사람들이 아닌가 싶어요. 이론적인 연구 결과를 가져와 당장 실현할 수 있는 정책 방안으로 다듬는 역할을 하는 매개체가 아닐까 하는 거죠. 정책 당국 입장에서는 당장 1~2년 안에 성과를 내고 싶을 수 있겠지만, 어떤 경우에는 장기적인 관점에서 접근해야 할 필요성도 있기 때문에 그런 부분을 잘 조율하는 것이 중요하다고 생각합니다. 저처럼 법학을 전공한 사람들 입장에서는 창의력이 돋보이는 아이디어를 낸다기보다 연구 의제를 두고 현실성이 있는지 판단하는 역할을 할 수 있다는 점에서 어느 정도 기여할 수 있지 않나 하는 생각도 하고 있습니다.

“정책연구자는 정책 선정 외 모든 과정에 참여하는데요,
가장 중요한 건 국민의 정책 수요와 정책 당국의 정책 결정을 연계하는 것,
즉 수요와 공급을 잘 연결해주는 역할이지 않나 싶습니다.”
문광진 정보통신정책연구원 지능정보사회정책센터 부연구위원

문정욱

정책연구를 하다 보면 다양한 내·외부적 변수가 생기기 마련인데요, 개인적으로는 생각지 못한 돌발 변수에 잘 대응하면서 동료 연구자들과 원활하게 협력할 수 있는 연구자로 살아가기 위해 노력하고 있습니다. 하나의 연구가 끝나면 그것으로 만족하지 않고 끊임없이 후속 질문을 던지고 의미 있는 연구를 이어나간 연구자로 기억됐으면 합니다.

이현경

저는 자유롭고 솔직하게 의견을 낼 수 있는 연구자로 기억되고 싶습니다. 평소 조직 문화나 사회적 문화에 관심이 많은 편인데, 그중에서도 ‘직원들의 침묵(employee silence)’이라는 현상은 연구기관에 해가 된다고 생각합니다. 자신의 의견이 받아들여지지 않더라도 두려움없이 당당하게 발언하는 자세가 필요하다고 보거든요. 어떤 아이디어를 제시하더라도 팀 내에서 정당한 의견으로 수용하는 분위기를 만들어가기 위해 저부터 이야기를 많이 하는 편입니다.

문광진

연구자라면 특정 연구 주제 혹은 하나의 기술 분야에만 집중할 것이 아니라 인간으로서, 사회 구성원으로서 추구해야 할 가치를 염두에 두고 연구에 임해야 하지 않을까 싶습니다.