알림

※ 브런치에 글을 쓰기 시작했습니다. 다양한 글을 좀 더 빨리 읽으시려면, 브런치에서 읽어주세요. '구독'과 '좋아요'는 글 쓰는 데 큰 힘이 됩니다. 감사합니다!

Sunday, January 15, 2023

챗봇이 만든 논문, 과학자도 구분 못한다


My Thoughts

  • 인간의 본성을 거스를 순 없을 것이다.
  • 연구기관에서 AI 제작 논문을 금지하지 않으면 유혹에 빠질 수밖에 없을 것이다.
  • 영국 생성 AI 분석가이자 작가로 알려진 니나 시크는 2025년에는 인터넷 콘텐츠 90% 이상이 AI가 만든 것이 될 거라 했는데, 이 의견에 동의한다. 단지, 시간문제일 뿐이다.
  • 향후 AI 제작을 판별하는 도구나 서비스 시장이 커질 것으로 예상한다.

Summary

챗봇이 만든 논문, 과학자도 구분 못 한다

  • ChatGPT가 쓴 논문 초록은 표절 검사를 100% 통과
  • AI 제작물 검사 프로그램은 66% 기계가 썼다고 잡아냄
  • 사람은 챗봇이 만든 초록 중 32%를 실제 초록이라고 잘못 판정
  • 논문에 ChatGPT를 공저자로 올리는 사례가 생기고 있음
  • 연구기관들이 ChatGPT나 다른 AI 언어 도구로 쓴 논문을 금지하는 사례가 생기고 있음
  • 논문에 대한 양적 평가가 계속되면 논문 수를 늘리기 위해 챗봇의 유혹에 빠질 수 있음
  • AI 업체인 허깅 페이스(Hugging Face)의 이렌 솔래이만은 말한다.

대형 언어 모델은 과거에 나온 정보를 훈련한다. 사회적, 과학적 진보는 과거와 다른 방식으로 생각할 때 이뤄진다.



References

[사이언스샷] 챗봇이 만든 논문, 과학자도 구분 못한다
“생성 AI로 만든 콘텐츠, 2년 뒤 인터넷 점령한다”

Links

_Index_2_AI

No comments:

Post a Comment