인공지능 시대에 새롭게 대두되는 ‘권리’
인공지능 시대에 새롭게 대두되는 ‘권리’
  • 손보승 기자
  • 승인 2017.07.01 01:50
  • 댓글 0
이 기사를 공유합니다

[이슈메이커=손보승 기자]

인공지능 시대에 새롭게 대두되는 ‘권리’

 

알고리즘 공정성 둘러싼 논란 지속

 

 

2008년 옥션 개인정보 유출 사건과 2014년 신용카드사 개인정보 대량 유출에서 알 수 있듯 디지털 시대에 정보는 더 이상 ‘개인’의 것이 아니게 되었다. 일상생활에 필요한 다양한 서비스를 활용하기 위해서 이용자들은 자신의 정보를 제공해야 하며, 서비스를 활용하면서 생기는 다양한 개인 관련 정보도 업체에 의해 수집되고 있는 것이 현실이다. 4차 산업혁명의 파고(波高)가 몰려오는 시대에 개인정보의 중요성은 더욱 대두되고 있다. 날로 똑똑해지는 인공지능과 알고리즘에 대응해 정보주체의 권리 확대가 화두로 떠오르고 있기 때문이다. 이는 다시 ‘설명을 요구할 권리(Right to Explanation)’라는 개념으로 이어진다.  

 

인공지능은 불공정하다?
 

‘설명을 요구할 권리’는 정보 주체가 알고리즘이 내리는 자동화된 의사결정에 대해 설명을 요구할 수 있는 권리다. 최근 알고리즘의 사회·경제적 활용이 급증하는 가운데, 알고리즘의 데이터 처리방식이 겉으로는 객관적인 것으로 여겨지지만 실제로 공정한지에 대한 의문이 지속해서 제기되며 등장했다. 
 

  이를테면 알고리즘이 개입해 맞춤형 광고를 통해 이용자의 구매율을 높이는 ‘컨텍스트 쇼핑’이 대표적이다. 또한, 구글의 온라인 광고가 여성보다 남성에게 보다 높은 임금의 직업 광고를 추천하는 경향과 흑인에게는 저렴한 상품을 집중적으로 보여주는 경향이 높다는 연구결과도 꼽을 수 있다. 최근에는 페이스북의 ‘가짜뉴스’ 논란과 같이 사실과 전혀 다른 뉴스가 유통되어 알고리즘의 문제가 사회 전반에 영향을 미칠 수 있다는 문제가 제기되기도 했다. IT 업계의 한 관계자는 “알고리즘은 구축 단계에서 개발자의 주관이 들어갈 수밖에 없다”며 “더욱이 인공지능이 데이터를 학습하면서 편향성을 갖게 될 수 있기 때문에 이에 대응하기 위한 노력이 필요한 상황이다”고 전했다.

 

EU의 ‘개인정보보호일반규칙’ 통해 해석된 ‘설명을 요구할 권리’

이처럼 알고리즘의 사회적 부작용과 역기능의 우려가 불거진 가운데 지난해 4월 유럽연합(EU)은 1995년 제정된 ‘개인정보보호지침’ 중 정보보호 측면을 대폭 강화하는 방향으로 개정한 ‘개인정보보호일반규정(General Data Protection Regulation, GDPR)’을 공표했다.
 

  이는 개인적 정보를 자동으로 수집하는 것을 거부할 수 있는 권리로, 알고리즘에 따른 자동화된 의사 결정이 이뤄질 경우 그 과정에 대해 ‘설명을 요구할 권리’ 개념까지 포괄하고 있다. 여기서 강조되는 ‘설명을 요구할 권리’는 GDPR에 직접적으로 명시돼 있지는 않고, 영국 옥스퍼드 대학교의 브라이스 굿맨과 세스 플랙스먼이 GDPR의 조항을 해석한 논문에서 처음 등장했다. 두 사람은 보고서에서 “알고리즘의 효율성뿐만 아니라, 투명성과 공정성 역시 중요하다”고 강조하며 그 필요성을 제기했다. GDPR은 알고리즘 규제에 대한 법제화를 주요 내용으로 다루고 있어, 인공지능 시대에 알고리즘 규제에 대한 중요한 전환점으로 평가받는다. 해당 규정의 효력은 2018년 5월25일부터 유럽 전역에서 발효될 예정이다.

 

국내 도입에 대한 논쟁 초읽기 들어가
 

이와 같이 GDPR의 설명을 요구할 권리는 인공지능이 효율성을 위해 불공정하고 차별적인 결과를 가져올 수 있다는 우려에 투명성과 책임성을 부과한 것을 의미한다. 하지만 일련의 흐름 속에서 다양한 사회적 논쟁이 벌어지고 있다. 시민사회는 정보주체의 권리 확대라고 반기는 분위기지만 기업들은 인공지능 개발과 혁신을 저해한다고 비판의 목소리를 높이고 있다. 그 과정에서 미국은 도널드 트럼프 대통령이 의회에서 통과된 인터넷 개인정보 보호 규정을 폐지하는 법안에 서명하는 등 개인정보 보호보다는 산업진흥에 초점을 맞춰 관련 규제를 풀고 있기도 하다. 
 

  이처럼 국제사회의 엇갈리는 움직임과 다양한 논란 속에서도 점점 더 강력해지는 인공지능과 알고리즘을 사회적으로 통제하기 위한 시도를 국내에도 도입해야 한다는 주장이 제기되고 있다. 지난해 한국 언론진흥재단 미디어연구센터가 성인남녀 1,034명을 대상으로 한 온라인 설문조사에서 응답자의 93.8%가 ‘정보 수집을 거부할 권리’를 국내에 도입해 법제화하는 것에 찬성한다고 응답했다. 또한 ‘설명을 요구할 수 있는 권리’를 인정이나 존중해야 한다는 데 대한 의견에도 90.8%에 이르는 응답자들이 동의하기도 했다. 대구교육대학교 수학교육과 최재호 교수는 “인간이 통제 가능한 수준까지의 인공지능 개발에 합의할 필요가 있다”며 “기업 이윤만 추구한다면 유토피아 대신 디스토피아가 되고 말 것이다”고 주장했다.
 

  인공지능의 발전이 폭발적인 작금의 현실 속에서, 사회에 미칠 긍정적 영향뿐만 아니라 부정적 영향에도 대비해야 한다는 목소리가 곳곳에서 커지고 있다. 알고리즘의 책임성과 공정성, 투명성을 제고하기 위한 사회적 노력은 물론, 글로벌 추세에 발맞춰 국내 실정에 맞는 국가적 차원의 선제적 노력도 필요한 때다.

 


  • 서울특별시 영등포구 국제금융로8길 11, 321호 (여의도동, 대영빌딩)
  • 대표전화 : 02-782-8848 / 02-2276-1141
  • 팩스 : 02-2276-1116
  • 청소년보호책임자 : 손보승
  • 법인명 : 이슈메이커
  • 제호 : 이슈메이커
  • 간별 : 주간
  • 등록번호 : 서울 다 10611
  • 등록일 : 2011-07-07
  • 발행일 : 2011-09-27
  • 발행인 : 이종철
  • 편집인 : 이종철
  • 인쇄인 : 신진민
  • 이슈메이커 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2019 이슈메이커. All rights reserved. mail to webmaster@ndsoft.co.kr
ND소프트