AI 확산, 과학적 지식의 신뢰성 위협

CNRS, 오픈 사이언스·연구 진실성 강화로 학술 출판 위기 대응

  • 생성형 AI가 모든 과학 분야로 빠르게 확산하면서 AI의 부정한 활용 사례가 실제 연구 현장에서 나타나 과학의 품질과 신뢰성을 훼손하고 있음
  • 프랑스 국립과학연구센터(CNRS)는 이에 대응해 오픈 사이언스와 연구 진실성을 두 가지 핵심 원칙으로 삼아 과학적 지식의 신뢰성을 보호하기 위한 대응을 강화하는 중임

AI가 작성해도 책임은 연구자에게

  • AI를 이용한 명백한 연구 부정을 넘어, AI로 작성된 학술논문의 책임을 누구에게 물을 것인지도 중요한 윤리적 문제로 떠오름
  • CNRS의 한 연구자는 AI 도구가 작성한 부분을 포함해 논문의 모든 내용에 대한 책임은 저자에게 있으며, 출판 윤리 위반에 대해서도 저자가 책임져야 한다고 강조함
  • 또한 AI를 연구에 사용하는 것 자체가 문제는 아니나, 핵심은 AI를 어떻게 사용했는지 투명하게 공개하는 것이라는 설명을 덧붙임

AI 생성 가짜 인용까지 자동 탐지

  • CNRS는 AI 생성 허위 논문과 인용 정보의 확산을 막기 위해 TDM Factory와 참고문헌 검증 도구 BibCheck를 개발함
  • BibCheck는 철회된 논문과 AI가 생성한 허위 인용을 탐지해 신뢰하기 어려운 연구 결과의 재인용·확산을 예방할 수 있음

CNRS, 논문 보다 연구의 실질적 기여 평가

  • CNRS는 기술적 대응과 함께 논문 수·인용지수보다 실제 지식 발전에 대한 기여를 중시하도록 연구자 평가 체계를 개편함
  • 또한 오픈 아카이브, 프리프린트, 다이아몬드 오픈액세스 등을 지원해 연구 성과의 투명성과 검증 가능성을 강화하고 있음
  • CNRS는 이러한 변화가 논문 양보다 과학적 가치에 집중하는 연구 관행을 확산시키고 있으며, 프랑스의 논문 증가세 둔화도 저영향 논문의 과잉생산을 억제하는 흐름으로 평가함

Source: CNRS

Print Friendly, PDF & Email
Facebook
Twitter
LinkedIn
Pinterest