# 논문에 인공지능으로 이상한 그림을 하나 만들었어 근데 이게 통과가 되더라니까

최근 과학 커뮤니티에서 논란이 되고 있는 주제 중 하나는 AI가 생성한 콘텐츠가 학술 저널에 게재되는 사례입니다. 특히, AI로 생성된 명백히 비현실적인 이미지와 다이어그램이 포함된 논문이 동료 평가(peer review)를 통과한 최근 사례가 큰 주목을 받고 있습니다. 이 사건은 학술 저널의 신뢰성뿐만 아니라, 과학 커뮤니티 전반에 대한 신뢰도에 중대한 의문을 제기하고 있습니다.

![Image](https://upload.cafenono.com/image/slashpagePost/20240220/000715_SoIiHVORdB3nsbP0ny?q=75&s=1280x180&t=outside&f=webp)

한 사용자가 X(구 트위터)에서 발견한 바에 따르면, 'Frontiers in Cell and Developmental Biology'라는 저널에 최근 게재된 연구에 AI가 생성한 명백하게 비현실적인 이미지와 도표가 대거 포함되어 있습니다. 예를 들어, 한 이미지에서는 실제와는 동떨어진 형태의 쥐가 나타나며, 그 형태가 과학적 설명을 초월하는 수준으로 묘사되었습니다. 특히, 'testtomcels', 'retat', 'dck'과 같이 의미를 알 수 없는 용어들로 라벨링된 점이 특징입니다.

[clifford](https://twitter.com/cliff_swan/status/1758135084069302761)

이 사건은 몇 가지 중요한 문제를 제기합니다. 

- 첫째, AI 기술을 활용한 콘텐츠 생성이 학술 커뮤니티 내에서 어떻게 인식되어야 하는지에 대한 논의가 필요함을 시사합니다. 

- 둘째, 이러한 사례가 동료 평가 과정을 통과할 수 있었던 배경에는 무엇이 있는지, 그리고 이를 통해 동료 평가의 효율성과 신뢰성에 대한 질문을 던집니다. 

- 셋째, 'Frontiers' 저널이 이른바 'predatory journal'(연구자들로부터 출판료를 받고 동료 평가를 제대로 수행하지 않는 저널)이라는 지적이 있는데, 이러한 저널의 존재와 그 영향력이 과학 커뮤니티에 미치는 부정적 영향에 대해 다시 한번 고민해 볼 필요가 있습니다.

### 해결책?

- 동료 평가 과정 강화: 동료 평가 과정에서 AI 생성 콘텐츠의 신뢰성을 평가할 수 있는 기준을 마련하고, 이를 철저히 적용해야 합니다.

- 저널 인증 시스템 개선: 'predatory journal'에 대한 명확한 정의와 감별 기준을 설정하고, 연구자들이 신뢰할 수 있는 저널을 쉽게 식별할 수 있도록 지원하는 시스템이 필요합니다.

- AI 기술의 적절한 활용 방안 모색: AI 기술이 학술 연구에 기여할 수 있는 긍정적인 측면을 인정하면서도, 그 사용이 연구의 신뢰성을 해치지 않도록 적절한 가이드라인을 마련해야 합니다.

### 하지만 이게...

[Frontiers in Cell and Developmental Biology | About](https://www.frontiersin.org/journals/cell-and-developmental-biology/about)

사실 논문 저널 중에는 이상한 저널도 많습니다. 그런 저널은 Peer Review는 커녕 그냥 통과시키거나 돈만 줘도 DOI 등에 등록 시켜주는 저널들이죠. 국내에서는 SCI이니 KCI니 급을 나누지만 실제로 SCI에도 이런 이상한 저널은 존재합니다. 이번 사건을 이르킨 Frontiers in Cell and Developmental Biology 저널의 경우 앞서 말한 바와 같이 해당 학계에서는 별로 신뢰 받지 못하는 저널이긴 했다고 합니다.

[noordung](https://twitter.com/n00rdung/status/1758146106532171900)

[Frontiers](https://twitter.com/FrontiersIn/status/1758221354090807508)

개인적으로는 동료리뷰가 아니라 초기 접수과정에서 걸러졌어야 할 것 같은데 그런 것 없이 바로 피어리뷰로 넘어가고 Accept까지 되어버린게 가장 문제가 아닐까 싶습니다. (심지어 해당 저널은 3천불 이상을 받고 게재해 주는 유료 게재도 하고 있는 저널입니다.)

저널의 권위나 평소 행실과 다른 면으로 저런 저널들이 제대로 Peer Review를 안하고 있었다는 점 그리고 인공지능으로 생성한 이상한 그림도 못 걸러낸다는 점에 오히려 인간이 편찬하는 저널에 대한 불신감을 가지며...

[AI Detector for original academic content | SciSpace](https://typeset.io/ai-detector)

개인적으로 잘 쓰고 있는 타입셋을 소개하며 글을 마칩니다.

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).