색-청 공감각 인지 기반 사운드-컬러 신호 실시간 변환 시스템의 구현

• Published in: 한국콘텐츠학회 논문지, 15(12) Vol. 15; no. 12; pp. 8 - 17
• Main Authors: 배명진(Myung-Jin Bae), 김성일(Sung-Ill Kim)
• Format: Journal Article
• Language: Korean
• Published: 한국콘텐츠학회 2015
• Subjects: 학제간연구; Coloered-hearing Synesthesia; Real Time Conversion; MIDI; Sound to Color Conversion; 색청 공감각; 음 · 색 변환; 실시간변환; 컬러 모델; Color Model
• ISSN: 1598-4877; 2508-6723
• DOI: 10.5392/JKCA.2015.15.12.008

This paper presents a sound into color signal conversion using a colored-hearing synesthesia. The aim of the present paper is to implement a real-time conversion system which focuses on both hearing and sight which account for a great part of bodily senses. The proposed method of the real-time conversion of color into sound, in this paper, was simple and intuitive where scale, octave and velocity were extracted from MIDI input signals, which were converted into hue, intensity and saturation, respectively, as basic elements of HSI color model. In experiments, we implemented both the hardware system for delivering MIDI signals to PC and the VC++ based software system for monitoring both input and output signals, so we made certain that the conversion was correctly performed by the proposed method. 본 논문은 공감각의 한 부분인 색청(colored-hearing) 공감각을 이용한 사운드-컬러 신호 변환에 관한 연구로서, 인간이 인지 할 수 있는 오감 중 공감각적 변환이 가장 많이 일어나는 청각과 시각을 이용한 실시간 변환 시스템의 구축을 목표로 한다. 본 논문에서 제안하는 음-색 실시간 변환 방법으로서, 입력으로 사용하는 MIDI(Musical Instrument Digital Interface) 신호에서 음계(scale), 옥타브(octave) 및 음의 세기(velocity)를 추출한 후 HSI 컬러모델의 기본 요소인 색상(hue), 명도(intensity) 및 채도(saturation)에 각각 대응하여 변환하는 방법으로 단순하지만 직관적인 방법을 사용한다. 변환된 HSI 컬러 모델은 모니터 출력을 위해 RGB 컬러 모델로 최종 변환하여 출력한다. 실험에서, MIDI 입력신호 전송 H/W 시스템과 VC++ 기반 해당 사운드-컬러 변환 입 출력 S/W 모니터링 시스템을 구축하여 사운드에서 컬러로의 출력이 제안한 방식에 따라 값이 출력됨을 확인하였다.