‘무전유죄 유전무죄’, ‘전관예우’ 같은 단어는 인간의 판단은 신뢰할 수 없다는 의미를 품고 있습니다. 인공지능(AI) 판사 도입에 대한 목소리가 높아지고 있는 것도 이런 이유 때문일 것입니다. 실제로 미국 LA경찰국에서는 영화 ‘마이너리티 리포트’처럼 범죄 가능성을 사전에 예측하는 프로그램을 활용하고 있고, 또 다른 주에서는 AI를 이용해 범죄자의 가석방 결정을 내리기도 하고 있습니다. 대출 심사, 채용 등 사람을 대신해 AI가 판단을 내리도록 하려는 시도는 점점 늘고 있습니다.

AI와 빅데이터가 모든 어려운 문제를 해결할 수 있을 것처럼 이야기되는 요즘 독일 만하임대 사회과학부, 유럽 사회연구만하임센터, 루트비히 막시밀리안스 뮌헨대 통계학과, 미국 메릴랜드대 조사방법론 협동과정 공동연구팀은 누구나 한 번쯤 가졌을 것 같은 질문을 사람들에게 던졌습니다. “인공지능은 항상 인간보다 공정한 결정을 내릴까”라는 겁니다.

●“사람의 결론 가장 공정하지 않아”

연구팀은 사람들이 정말로 AI처럼 자동화된 의사 결정을 공정하다고 생각하는지를 알아보기 위해 16~75세의 독일인 남녀 3930명을 무작위로 선정했습니다. 이들에게 은행 대출, 취업, 법원 판결, 실업수당 등 다양한 가상의 시나리오를 보여 주고 판단의 공정성에 대해 어떻게 생각하는지 물었습니다. 제시된 시나리오의 최종 결론은 사람이 내린 것, 인공지능이 내린 것, 사람과 인공지능이 함께 내린 것을 섞었습니다.

데이터 과학 분야 국제학술지 ‘패턴스’ 9월 30일자에 실린 결과를 보면 예상했던 대로 실험 참가자들은 전적으로 사람이 내린 결론이 가장 공정하지 않다고 판단했습니다. 그렇다고 인공지능이 내린 결론이 가장 공정하다고만 생각하지도 않았습니다. 오히려 사람과 인공지능이 함께 결정을 내렸을 때가 가장 공정하다고 봤습니다. 인간의 감독하에 인공지능이나 컴퓨터가 결정을 내릴 때 사람들이 이상적으로 생각하는 공정성에 가까워진다는 것입니다.

최근 인공지능이 잘못된 결정을 내리거나 사람만큼이나 편견을 드러내는 사례들이 알려지면서 과거처럼 AI의 판단이 인간보다 훨씬 나을 것이란 생각이 줄었기 때문이기도 할 것입니다. 그동안은 AI의 공정성을 높이기 위해 입력되는 데이터와 알고리즘에 집중했지만, 앞으로는 ‘대중들이 무엇을 공정하다고 생각하는가’를 AI가 인식할 수 있도록 만드는 것이 더 중요하다고 연구팀은 조언했습니다.

●AI 데이터 처리 방식 감시 필요

연구를 이끈 크리스토퍼 컨 메릴랜드대 교수(통계방법론)는 “AI 의사결정 시스템을 제대로 활용하고 폭넓게 사용하기 위해서는 데이터들이 어떤 방식으로 처리돼 그런 결정이 나오는지 대중에게 충분히 설명할 수 있어야 할 것”이라고 말했습니다.

사실 AI가 어떤 결정을 내리는지에 대한 중간 과정은 전문가들도 정확히 알지 못해 ‘블랙박스’라고 부릅니다. 현재 활용되고 있는 AI 시스템의 중간 처리 과정이 블랙박스라고 하더라도 인간이 정하는 초기 데이터에 따라 결과가 좌우된다는 것은 분명합니다. 좀더 공정한 결과를 얻기 위해서는 어떤 데이터가 어떻게 활용되는지에 대한 대중의 감시가 필요합니다. 과학은 전문가들이나 하는 어려운 분야라고 외면하기보다 끊임없이 관심을 갖고 이해하면서도 감시하는 것이 필요한 이유입니다.