[모닝] AI가 쓴 글 알려준다
구글 딥마인드, 워터마크 개발
사람이 아닌 인공지능(AI)이 작성한 보고서와 과제, 뉴스 등을 식별할 수 있는 기술이 나왔다.
구글 딥마인드는 AI가 쓴 글을 식별할 수 있는 워터마크(식별 표지) 도구인 ‘신스ID-텍스트(SynthID-Text)’를 공개하고, 약 2000만개의 AI 대화에 적용한 결과를 국제 학술지 네이처 최신호에 게재했다.
오픈AI의 챗GPT나 구글의 제미나이 등 생성형 AI는 이미 학습한 데이터를 바탕으로 특정 단어 뒤에 가장 자연스럽게 이어질 단어를 확률 계산으로 찾아낸다. 딥마인드의 신스ID는 전체적인 글의 문맥을 해치지 않으면서 각 단어의 확률을 바꾸는 식으로 워터마크를 만든다. 예컨대 ‘대단하다’는 것을 표현하기 위해 원래 사람들은 ‘great(굉장한)’라는 단어를 가장 많이 쓰는데, AI가 작성한 문서에는 ‘incredible(믿을 수 없는)’을 더 많이 쓰도록 해서 잡아내는 식이다. 딥마인드는 2000만개의 제미나이 응답에서 워터마크를 넣어도 글의 질이 떨어지지 않았다고 밝혔다. 연구팀은 “다른 AI 모델 개발자가 이를 사용하기를 바란다”며 모든 도구를 공개했다.
조선비즈 박지민 기자(조선일보) 입력 2024.10.28. 01:51