결합발명 진보성 판단의 인용문헌 자동 추천 딥러닝 모델에 관한 연구: BERT-for-patents 및 대조학습 기법을 중심으로

• Published in: 지식재산연구 Vol. 20; no. 1; pp. 119 - 143
• Main Authors: 유동건, Dongkun Yoo, 한지헌, Jiheon Han
• Format: Journal Article
• Language: Korean
• Published: 한국지식재산연구원 31.03.2025
• Subjects: Bert-for-patents; Citation documents; Contrastive learning; Deep learning; Non-obviousness; Prior art search; 대조학습; 딥러닝; 법학; 선행기술조사; 인용문헌; 진보성
• ISSN: 1975-5945; 2733-8487
• DOI: 10.34122/jip.2025.20.1.119

세계 각국의 특허법은 선행기술과 동일하거나 용이하게 발명할 수 있는 발명에 대해서 신규성과 진보성을 규정해 등록받을 수 없도록 하고 있으며, 이를 판단하기 위해 선행기술조사가 수행된다. 특히 진보성은 용이성을 기준으로 판단한다는 점, 판단 과정에 복수의 선행문헌을 이용할 수 있는 점 등의 이유로 판단하기 어렵다. 만약 인공지능 모델로 진보성 판단의 선행문헌을 일차적으로 필터링할 수 있다면, 선행기술조사의 효율화와 신속화를 도모할 수 있을 것이다. 본 연구는 이러한 필요성을 고려하여 출원발명의 구성요소 중 일부와 대응되는 인용문헌이 주어져 있을 때, 나머지 구성요소와 대응되는 인용문헌을 자동으로 추천해 주는 딥러닝 모델을 제안하였다. 연구는 진보성으로 거절된 USPTO 특허 데이터를 전처리한 뒤, BERT를 기반으로 구현한 6개 모델을 학습시켜 최고 성능을 비교하는 방식으로 진행되었다. 연구 결과 BERT-for-patents 기반 대조학습 기법으로 학습시킨 모델 TRP-Pat의 성능이 월등하게 높았다. 이러한 결과는 선행기술조사의 신속화와 효율화에 기여할 수 있을 것으로 생각되며, 본 연구에서는 모델 TRP-Pat를 선행기술조사에 사용하는 예시를 제시하였다. Patent laws in various countries stipulate that inventions identical to or easily derivable from prior art lack novelty and non-obviousness, rendering them ineligible for registration. To assess these criteria, prior art searches are conducted. The evaluation of non-obviousness is challenging because of the difficulty in assessing obviousness and the possibility of utilizing multiple citation documents. Therefore, an artificial intelligence (AI) model that can preliminarily filter prior art references relevant to non-obviousness determination would enhance the efficiency and speed of prior art searches. To address this need, this study proposes a deep learning model that automatically recommends additional citation documents corresponding to the remaining elements of an invention when provided with some elements and the corresponding citation documents. The United States Patent and Trademark Office (USPTO) patent data rejected because of a lack of non-obviousness were preprocessed. Six models were trained based on the bidirectional encoder representations from transformers (BERT), and the performances were compared. The model TRP-Pat, trained using a contrastive learning approach with BERT-for-patents, demonstrated significantly superior performance. These results suggest that TRP-Pat can contribute to more efficient prior art searches by expediting the process. An example of applying the TRP-Pat model to prior art search tasks is also presented.