특허출원[2] 생성형AI에 사용되는 기사 출처 및 저작권 추적을 위한 시스템 및 장치

목표: LLM 모델들이 저작권 협의 없이 언론사의 기사를 수집하고 학습하는 것을 방지하기 위해, 언론사 콘텐츠에 미끼 기사를 삽입하여 무단 학습 여부를 탐지하는 시스템을 개발.
기능:
- 가상의 기사나 문장을 언론사 기사 내에 자동으로 삽입.
- 미끼 기사나 문장이 학습된 경우 이를 탐지할 수 있는 메커니즘 제공.
- LLM 모델들이 무단 학습 시 법적 대응 가능성을 높이기 위한 증거 확보.

자동화된 가상 기사 생성기: 실제 기사처럼 보이지만 사실이 아닌 가상의 내용을 생성하는 시스템. 이 시스템은 자연어 처리(NLP)를 통해 특정 주제나 스타일에 맞춘 가상 기사를 작성할 수 있으며, 실제 뉴스와 매우 유사한 문체와 구조를 가집니다.
- *중요: 구글이나 네이버 등 어떠한 검색에도 발견되지 않는 가상의 기업이나, 수치, 인물 등을 자동으로 생성하여 이를 통해 가상의 기사를 생산
변형 문장 삽입기: 기존 기사의 특정 문장을 변형한 문장(가상의 사실이나 살짝 왜곡된 내용)을 삽입하여 LLM이 이를 학습할 경우 잘못된 학습을 유도하거나, 이를 탐지할 수 있게 합니다. 이러한 문장은 실제 문맥과 자연스럽게 어우러져야 하며, 독자에게는 눈에 띄지 않도록 설계됩니다.
- *중요: 함께 문장에 등장할 가능성이 0에 가까운 단어들의 조합을 찾아내어, 이러한 단어들이 묶여 있는 가상의 문장을 생성
구성 요소:
- 주제 기반 미끼 기사: 특정 주제에 맞춰 가상의 기사를 생성하여 뉴스 흐름에 방해되지 않도록 배치.
- 문장 수준 미끼: 실제 기사 내에서 일부 문장을 교묘히 변경하여 LLM 모델이 이를 학습할 경우, 탐지할 수 있는 단서 제공.

자동 삽입 알고리즘: 가상의 기사나 문장을 실제 기사에 삽입하는 방식은 자동화되어야 하며, 자연스러운 흐름을 유지해야 합니다. 이를 위해 기사의 맥락을 분석하고, 그 안에 가상의 기사를 삽입하는 알고리즘을 개발합니다.
- *중요: 가상의 기사를 통해 기사가 무작위로 수집된 정확한 기간과 범위를 측정하기 위해, 언론사 별, 기간(월, 주), 카테고리 별 가상의 기사를 주기적으로 생성하고, 이를 언론사 CMS를 통해 자동으로 리스팅페이지나 메인에는 보이지 않는 기사를 발행해야 함.
- 또한 일반적인 기사 내에서는 방문자들에게는 보이지 않는 hidden 처리가 된 미끼 문장을 자동으로 렌더링된 기사 페이지 내에 노출이 되어야 함.
미끼 요소의 빈도 관리: 미끼 콘텐츠의 빈도와 삽입 위치는 무작위적이면서도 자연스러워야 합니다. 너무 자주 나타나거나 특정 위치에만 삽입되는 경우 탐지가 쉽기 때문에 이를 방지하는 난수 기반의 빈도 관리 시스템을 구축합니다.

LLM 모델의 학습 감지: 미끼 콘텐츠가 LLM 모델에 의해 학습되었는지 감지할 수 있는 메커니즘이 필요합니다. 이를 위해 아래 방법을 고려할 수 있습니다.
- 탐지 신호 문구 포함: 미끼 기사나 문장에 고유한 탐지 신호(예: 고유한 키워드, 이름)를 삽입하여, 해당 콘텐츠가 온라인 상에서 사용되었는지 추적할 수 있습니다.
- 백엔드 탐지 시스템: 뉴스 기사가 온라인에 배포된 후, 웹 크롤링을 통해 해당 기사의 미끼 콘텐츠가 포함된 유사 문서를 감지하는 시스템. 이를 통해 LLM 학습이나 무단 복제 여부를 확인할 수 있습니다.
- 콘텐츠 사용 추적: 미끼 콘텐츠가 다양한 플랫폼에서 사용된 흔적을 추적하여, LLM 모델이 이를 학습했는지 확인합니다.
LLM 응답 분석기: 언론사에서 자사 기사가 무단으로 학습되었는지 확인하기 위해, LLM에게 미끼 기사에 포함된 문장을 질문하여 해당 문장이 모델의 학습 데이터에 포함되었는지를 확인할 수 있습니다. 이를 통해 학습 여부를 명확히 알 수 있습니다.