AI가 만든 가짜 논문, 학술지에서 인용 확산
AI가 만들어 낸 존재하지 않는 논문과 저널이 실제 학술지에 인용되며 퍼지고 있다. 피어리뷰가 걸러내지 못하는 구조적 문제와 흔들리는 연구 신뢰 기반을 짚었다.
인공지능이 실제로 존재하지 않는 학술 논문과 저널을 만들어내고, 이들이 실제 학술 논문에서 인용되는 사례가 확산되면서 학문 연구의 신뢰 기반이 흔들리고 있다는 우려가 제기됐다.
학생 과제를 넘어 전문 연구까지
미국 롤링스톤(Rolling Stone)은 최근 대규모 언어 모델(LLM)이 생성한 허위 학술 자료가 학생 과제 수준을 넘어 전문 연구 영역까지 침투하고 있다고 보도했다. AI가 논문 본문뿐 아니라 참고문헌까지 자동 생성하면서, 실재하지 않는 연구가 정식 학술지 논문에 인용되는 현상이 반복되고 있다는 것이다.
문제의 핵심은 이러한 가짜 논문이 단발성 오류로 끝나지 않는다는 점이다. 한 번 학술지에 인용된 허위 출처는 다른 연구에서 다시 인용되며 ‘정상적인 연구’로 위장된다. 이 과정에서 기존의 피어리뷰(peer review)와 편집 검증 시스템은 허위 인용을 충분히 걸러내지 못하고 있다.
기술적 결함이 아니라 구조적 문제
전문가들은 이를 단순한 기술적 결함이 아니라 구조적 문제로 본다. 대규모 언어 모델은 사실 여부를 판단하지 않고 그럴듯한 문장을 생성하는 방식으로 작동하며, 이 특성이 학술 출판 시스템의 취약성과 결합해 허위 지식을 확산시키고 있다는 지적이다.
학계 안팎에서는 이런 흐름이 지속될 경우 연구 데이터베이스 자체에 대한 신뢰가 약해지고, 학문적 근거 위에서 이루어지는 정책·교육·산업 의사결정에도 장기적인 영향을 미칠 수 있다고 경고한다. 인공지능을 비판 없이 갖다 쓰는 일이 오히려 학문적 검증과 비판적 사고를 약화시키고 있다는 문제의식이다.
원문 보기
<<AI가 만든 가짜 논문, 실제 학술지에서 인용 확산>>
인공지능이 실제로 존재하지 않는 학술 논문과 저널을 만들어내고, 이들이 실제 학술 논문에서 인용되는 사례가 확산되면서 학문 연구의 신뢰 기반이 흔들리고 있다는 우려가 제기됐다.
미국 롤링스톤(Rolling Stone)은 최근 대규모 언어 모델(LLM)이 생성한 허위 학술 자료가 학생 과제 수준을 넘어 전문 연구 영역까지 침투하고 있다고 보도했다. AI가 논문 본문뿐 아니라 참고문헌까지 자동 생성하면서, 실재하지 않는 연구가 정식 학술지 논문에 인용되는 현상이 반복되고 있다는 것이다.
문제의 핵심은 이러한 가짜 논문이 단발성 오류로 끝나지 않는다는 점이다. 한 번 학술지에 인용된 허위 출처는 다른 연구에서 다시 인용되며 ‘정상적인 연구’로 위장된다. 이 과정에서 기존의 피어리뷰(peer review)와 편집 검증 시스템은 허위 인용을 충분히 걸러내지 못하고 있다.
전문가들은 이를 단순한 기술적 결함이 아니라 구조적 문제로 본다. 대규모 언어 모델은 사실 여부를 판단하지 않고 그럴듯한 문장을 생성하는 방식으로 작동하며, 이 특성이 학술 출판 시스템의 취약성과 결합해 허위 지식을 확산시키고 있다는 지적이다.
학계 안팎에서는 이런 흐름이 지속될 경우 연구 데이터베이스 자체에 대한 신뢰가 약화되고, 학문적 근거 위에서 이루어지는 정책·교육·산업 의사결정에도 장기적인 영향을 미칠 수 있다고 경고한다. 인공지능의 무비판적 활용이 오히려 학문적 검증과 비판적 사고를 약화시키고 있다는 문제의식이다.
Source
이 글은 페이스북 게시물을 옮겨 재편집한 것이다. 위 「원문 보기」에 수집 당시의 전문이 그대로 있다.
페이스북 원문 게시물post id 25484216527856794