선택에 관여하는 인공지능이 사용자 평가에 미치는 영향

Abstract

4차 산업혁명의 핵심기술로 대두되고 있는 인공지능의 자동화 기술은 사이버보안, 헬스케어, 커머스 등 사회 다양한 분야에서 인간을 대체하여 적용되고 있다. 이러한 자동화 시스템은 인간 복지에 긍정적으로 작용하는 반면, 최근에는 인간의 자기 결정과 선택에 대한 자율성을 침해하고 심리적 반발을 일으킬 수 있다고 언급되고 있다. 본 연구에서는 인공지능의 자동화 기술로 인해 발생할 수 있는 인간의 선택 자율성에 대한 위협이라는 부정적 상황이 인공지능에 대한 평가에 어떻게 영향을 미치는지를 심리학적으로 살펴보았다. 연구 결과, 인공지능 자동화 기술에 의해 침해당한 개인의 선택 자율성은 지각된 심리적 반발에 부적으로 영향을 미친다는 것을 확인하였으며 지각된 심리적 반발은 인공지능에 대한 사용자 평가에 부적인 영향을 미치는 것으로 나타났다. 사용자의 선택권 박탈에 의한 자율성 침해는 지각된 심리적 반발을 매개하여 인공지능에 대한 사용자 평가에 유의미한 영향을 주는 것으로 나타났으며, 인공지능에 대한 신뢰도에 영향을 미치는 정보원 신뢰도는 사용자의 선택권 박탈에 의한 자율성 침해가 지각된 심리적 반발을 경유하여 인공지능에 대한 사용자 평가에 미치는 간접효과를 조절하는 것으로 확인되었다. 본 연구에서는 인간과 인공지능의 조화로운 공생 관계를 이루기 위해 인공지능의 자동화 범위에 대한 고찰을 제안하고, 정보원 신뢰도를 통해 지각되는 심리적 반발을 감소시키는 방법을 제시하고자 한다.