챗봇이 만든 논문, 과학자도 구분 못한다

My Thoughts

• 인간의 본성을 거스를 순 없을 것이다.
• 연구기관에서 AI 제작 논문을 금지하지 않으면 유혹에 빠질 수밖에 없을 것이다.
• 영국 생성 AI 분석가이자 작가로 알려진 니나 시크는 2025년에는 인터넷 콘텐츠 90% 이상이 AI가 만든 것이 될 거라 했는데, 이 의견에 동의한다. 단지, 시간문제일 뿐이다.
• 향후 AI 제작을 판별하는 도구나 서비스 시장이 커질 것으로 예상한다.
  
  

Summary

챗봇이 만든 논문, 과학자도 구분 못 한다

• ChatGPT가 쓴 논문 초록은 표절 검사를 100% 통과
• AI 제작물 검사 프로그램은 66% 기계가 썼다고 잡아냄
• 사람은 챗봇이 만든 초록 중 32%를 실제 초록이라고 잘못 판정
• 논문에 ChatGPT를 공저자로 올리는 사례가 생기고 있음
• 연구기관들이 ChatGPT나 다른 AI 언어 도구로 쓴 논문을 금지하는 사례가 생기고 있음
• 논문에 대한 양적 평가가 계속되면 논문 수를 늘리기 위해 챗봇의 유혹에 빠질 수 있음
• AI 업체인 허깅 페이스(Hugging Face)의 이렌 솔래이만은 말한다.

대형 언어 모델은 과거에 나온 정보를 훈련한다. 사회적, 과학적 진보는 과거와 다른 방식으로 생각할 때 이뤄진다.

References

[사이언스샷] 챗봇이 만든 논문, 과학자도 구분 못한다
“생성 AI로 만든 콘텐츠, 2년 뒤 인터넷 점령한다”

Links

_Index_2_AI