오픈AI가 새로 제정된 EU 인공지능 투명성 규정을 따르기 위해 역내에서 만든 텍스트와 코드에 눈에 보이지 않는 워터마크를 곧 넣는다고 발표했습니다.
오픈AI는 신스아이디(SynthID) 같은 기존 기술과 맞먹거나 이를 웃도는 성능을 지닌 ‘텍스트그레인(textGrain)’이라는 독자 체계를 도입하는 것으로, 언어 모델이 단어를 고를 때 눈에 띄지 않는 통계적 신호를 더하는 방식입니다.
오픈AI는 초기 승인받은 연구자와 전문 기관에만 전용 탐지기를 열어 이 신호를 잡아내도록 하고, 훗날 누구나 고쳐 쓸 수 있도록 관련 기술을 오픈 소스로 풀 계획입니다.
이번 조치는 기계에서 읽어낼 수 있는 형태로 생성형 인공지능 제공자의 결과물을 식별하게 만든 유럽 연합 인공지능법 제50조를 따르고자 마련했습니다.
기존 서비스 사업자들은 12월 2일까지 법을 지켜야 하는데, 우선 유럽 연합 안에서 챗GPT와 코덱스(Codex)가 내놓는 생성물에 이 기능을 기본으로 넣을 예정입니다.
다만, 이 기술을 도입하면 텍스트를 생성한 출처를 명확히 알 수 있으나 짧은 문장 혹은 수학 관련 내용, 10% 단어 대체 글의 탐지 성공률은 80% 안팎, 25% 단어 대체 글의 탐지 성공률은 20% 안팎으로 낮아집니다.
글쓴이 | Editor_B
언제나 기분 좋은 소식을 전하고 싶습니다.
news@techg.kr
언제나 기분 좋은 소식을 전하고 싶습니다.
news@techg.kr
