인공지능과 감정 반응: 디지털휴먼을 통한 혐오표현 감소 연구

• Published in: 디지털콘텐츠학회논문지 Vol. 25; no. 1; pp. 247 - 255
• Main Authors: 김정민(Jung-Min Kim), 최정우(Jungwoo Choi), 서경진(Kyoung-Chin Seo)
• Format: Journal Article
• Language: Korean
• Published: 한국디지털콘텐츠학회 2024
• Subjects: 컴퓨터학; Hateful Conversation; 혐오대화; Digital Human Facial Expression; 디지털 휴먼; Hate Speech; 디지털 휴먼 표정; Reducing Hate Speech; 혐오표현 감소; 혐오표현; Digital Human
• ISSN: 1598-2009; 2287-738X
• DOI: 10.9728/dcs.2024.25.1.247

디지털 휴먼 기술의 중요성이 커지면서, 사람과 같은 대화의 필요성이 대두되었다. 이러한 맥락에서 개발된 챗봇 ‘이루다’는 혐오 표현 문제로 인해 사용자의 불쾌감을 야기했고, 혐오표현 탐지에 대한 여러 연구가 선행되었다. 하지만 온라인상에선 혐오표현 사용이 만연하다. 본 연구는 기존의 혐오표현 탐지와는 다른 측면에서 문제를 해결하려고 한다. 제안하는 방법은 혐오표현을 감지하고 사용자에게 거부감을 전달하여, 감정 전이를 이끌어내 혐오표현의 인지를 촉진시키는 것을 목표로 하는 디지털 휴먼 시스템을 제안한다. 효과성을 검증하기 위해 혐오표현과 디지털휴먼의 답변 영상을 제시하고 설문을 진행한 결과 5점중 3.95±0.65점을 획득했고, 혐오표현 문제 인식에 도움을 줄 수 있는 것을 확인했다. 연구결과를 토대로 소개하는 시스템이 혐오표현의 문제 뿐만 아니라 도덕적, 편향성, 범죄 문제에 대해서도 적용 가능하며, 사용자가 문제를 인지하는데 도움을 줄 것으로 기대된다. With an increase in the importance of digital human technology, the demand for human-like conversations has emerged. In this context, the chatbot “Lee Luda” was developed but caused user discomfort owing to its use of hate speech, prompting various studies on hate speech detection. However, the use of hate speech is rampant online. This study aims to address the problem from a different aspect than existing hate speech detection. The proposed method involved a digital human system designed to detect hate speech and convey discomfort to users, thereby facilitating emotional transfer and enhancing awareness of hate speech. To verify its effectiveness, a survey was conducted presenting the responses of the digital human to hate speech and scored 3.95±0.65 out of 5 points. Therefore, this method helped in recognizing the issues with hate speech. Based on the research findings, the introduced system is expected to be applicable not only to the problem of hate speech but also to moral, bias, and criminal issues and is expected to help users become aware of these problems. KCI Citation Count: 2