인공 지능이 개개인의 금융 신용도를 평가하고, 면접관 역할을 하고, 범죄를 저지를 가능성 여부를 따진다면? 이미 현실적으로 널리 쓰이는 컴퓨터 알고리즘 기반 의사결정과 인공 지능(AI) 기반 시스템을 통해 일어나고 있는 일들입니다. 컴퓨터가 인간을 평가한다? 이를 2018년 현재를 살아가는 우리는 어떻게 받아들이고 있을까요? 이에 대한 대략적인 답을 살펴볼 수 있는 연구 보고서가 발표되었습니다. 결론부터 말하자면 인간은 컴퓨터 알고리즘과 AI의 판단과 평가를 별로 좋아하지 않는다!는 것입니다. 최근 Pew Research Center에서 컴퓨터 알고리즘과 AI 기반의 의사결정을 사람들이 어떻게 받아들이는지에 대한 조사를 진행했습니다. 정교한 컴퓨터 알고리즘이나 딥러닝 모델에 기초해 사람을 판단하거나 평가하는 것에 대한 우리의 마음은? 네, 부정적인 것으로 나타났습니다. AI를 통해 우리의 편익이나 삶의 질이 올라가는 것을 누가 마다하겠습니까. 하지만 주제를 기계가 인간을 판단하고 평가하는 쪽으로 바꾸면 우리의 태도는 180도 바뀝니다. 이번 조사는 이를 잘 보여주는 것 같습니다.
이번 연구 보고서는 AI 관련 서비스를 제공하거나 준비 중인 기업에게 매우 중요한 메시지를 던집니다. 사용자는 자신의 편익에 도움이 되는 것에는 관대하지만, 사용자에게 잣대를 들이대는 것에는 민감하게 반응한다는 것이죠. 이를 잘 고려해 AI 관련 서비스와 상품을 기획하는 것이 필요하지 않을까 싶네요. 이 보고서는 충분히 읽어 볼 가치가 있으니 필독을 권장합니다. 표만 봐도 느껴지는 게 많네요. 보고서의 핵심 메시지만 추려보겠습니다. 질문에 언급된 신용도 평가, 면접, 범죄 위험 평가 등은 이미 널리 쓰이고 있습니다. 이들 시스템이 우리를 평가하는 것에 대한 질문에 대부분 받아들일 수 없다는 의견을 보였습니다. 아마 한국에서 조사를 해도 비슷한 결과가 나올 것 같습니다. 면접을 봤는데 AI가 떡하니 평가 결과는 내놓는다면? 누가 좋다고 하겠습니까? 사람을 계량화, 정량화해서 평가하는 것이 말이 되나? 내가 어떻게 살아왔는지, 나의 잠재력이 무엇인지? 컴퓨터 알고리즘이나 AI가 파악하는 것이 도대체 말이 되는 일인가? 이런 생각이 들 것입니다. 이는 사람들이 컴퓨터 알고리즘이나 AI가 아직은 맥락을 모두 고려해 대상을 파악하지 못한다고 보기 때문으로 풀이할 수 있습니다.
상대적인 것일까요? 소셜 미디어에 남긴 우리의 기록을 바탕으로 새로운 친구나 서비스 등을 추천하는 것에 대해서는 관대한 입장을 보였습니다. 소셜 미디어를 사용한다고 한 응답자의 75%가 추천 등을 위한 목적으로 사용될 경우 자신의 데이터를 공유하는 것을 불편하게 여기지 않는다고 답했습니다.