AI 콘텐츠 탐지기. 그만한 가치가 있나요? | 비즈니스에서의 AI #38

게시 됨: 2023-11-24

몇 년 전 인간의 산문과 거의 닮지 않은 최초의 AI 생성 기사에 우리가 열광했던 때를 기억하십니까? AI가 거의 시적인 에세이를 쓸 수 있는 오늘날, 많은 사람들은 기계의 작업과 인간의 작업을 어떻게 구별할 수 있는지 궁금해합니다. 그리고 ChatGPT의 성공을 뒷받침하는 회사인 OpenAI는 AI 탐지기의 비효율성으로 인해 AI 탐지기에 대한 액세스를 영구적으로 차단했습니다.

AI 콘텐츠 탐지기 – 목차:

AI 콘텐츠 탐지기
AI 콘텐츠 감지기를 사용하는 이유는 무엇인가요?
AI 콘텐츠 탐지기의 신뢰성이 낮습니다. 현실인가, 신화인가?
AI에 의한 AI 탐지 방지. 가능하며 방법은 무엇입니까?
AI 콘텐츠 감지의 미래. 개발 방향과 혁신

오늘날 AI 콘텐츠 탐지기 개발자는 이를 진위를 보호하기 위한 도구로 제시합니다. 문제는 그것이 신뢰와 투자의 가치가 있느냐 하는 것입니다. 이 기사에서는 AI 콘텐츠 탐지기가 작동하는 방식, 멸종될 수 있는 이유, 가져오는 문제 및 제기되는 윤리적 딜레마를 살펴보겠습니다.

AI 콘텐츠 탐지기

AI 콘텐츠 탐지기는 AI 콘텐츠를 생성하는 데 사용되는 것과 유사한 언어 모델을 기반으로 합니다. 인공지능의 지원을 받아 생성된 이미지, 텍스트, 음악의 출처를 확인하는 업무로 나눌 수 있습니다. 각 유형의 "AI 탐지기"는 약간씩 다르게 작동하지만 그 중 어느 것도 인간이 만든 콘텐츠와 AI가 생성한 콘텐츠를 확실하게 구별할 수 없습니다.

AI 생성 이미지 감지기는 가짜 뉴스를 생성하는 미디어의 힘으로 인해 점점 더 중요한 역할을 하고 있습니다. 그들은 변칙적 특징, 독특한 스타일 및 패턴을 분석하고 DALL-E와 같은 모델이 남긴 흔적을 찾습니다.

이미지를 식별하는 데 사용되는 감지기 중 눈에 띄는 것은 Midjourney, DALL-E 및 Stable Diffusion에서 생성된 이미지 데이터베이스를 사용하는 Optic의 "AI or Not" 도구입니다. 결과는 불확실하지만 향후 보다 정확한 식별 방법을 개발하기 위한 단계입니다.

출처 : AI든 아니든(https://www.aiornot.com/)

AI가 생성한 텍스트를 인식하는 AI 탐지기의 작동 뒤에는 텍스트의 구조와 단어 선택을 분석한 후 AI 고유의 패턴을 인식하는 고급 알고리즘이 있습니다. 그들은 다음을 활용합니다:

분류자 – 텍스트를 분류하고 스타일, 어조 및 문법을 확인하는 알고리즘입니다. 예를 들어, 해당 유형의 모든 제품에 맞는 제품 설명은 AI 창작물로 분류될 수 있습니다.
임베딩 (임베딩) – 단어의 숫자 표현을 통해 기계는 단어 사용의 맥락을 이해할 수 있습니다. 단조로운 단어 선택이 포함된 텍스트가 AI의 작업일 수 있다는 것을 프로그램이 "이해"하는 것은 그들 덕분입니다.
당혹감 – 텍스트의 예측 불가능성을 측정하는 것입니다. 인간이 쓴 텍스트는 당혹스러움이 더 높은 경향이 있지만, 본질적으로 단순하고 일반적인 형태로 실용적인 텍스트이거나 외국인이 쓴 텍스트는 AI 생성 텍스트로 잘못 분류될 수 있습니다.
다양성 (폭발성) - 이 요소는 문장 길이와 구조의 다양성을 설명합니다. 인간은 인공지능보다 더 다양한 텍스트를 쓰는 경향이 있다.

위에서 언급한 요소는 AI 콘텐츠 탐지기가 인간이 만든 텍스트인지 기계로 만든 텍스트인지를 평가하는 데 함께 사용됩니다.

AI 콘텐츠 감지기를 사용하는 이유는 무엇인가요?

AI 콘텐츠 탐지기는 교육부터 마케팅, 채용에 이르기까지 다양한 분야에서 작동합니다. 이를 평가에 도움이 되는 도구로 사용하지만 콘텐츠 생성 여부에 대한 확실한 증거는 아닌 주요 이유는 다음과 같습니다.

유명 인물을 묘사하는 AI 수정 사진 식별 - 사진이 실제 상황을 묘사하는지 감지하고,
허위 정보 방지 – 허위 정보에 맞서 싸우는 맥락에서 효과적인 AI 콘텐츠 탐지기는 소셜 미디어 중재자가 허위 정보 확산을 탐지하여 봇이 생성한 반복적인 콘텐츠를 식별하고 제거하도록 돕습니다.
가치가 낮은 텍스트 게시 제한 – AI 콘텐츠 탐지기는 게시자가 간단한 쿼리를 입력한 후 ChatGPT, Bing 또는 Bard에서 생성된 일반 정보가 포함된 텍스트를 거부하는 데 도움을 줄 수 있습니다.

그러나 텍스트의 출처가 Google이 사이트 순위를 낮추는 근거가 아니라는 점을 기억할 가치가 있습니다. Google의 검색 센터 블로그에서는 "제작 방식에 관계없이 고품질 콘텐츠에 보상을 제공하는 것이 Google의 핵심입니다 [...]. 자동화는 스포츠 경기 결과, 일기예보, 녹취록과 같은 유용한 콘텐츠를 생성하는 데 오랫동안 사용되어 왔습니다. AI는 새로운 수준의 표현과 창의성을 열어주고 훌륭한 웹 콘텐츠 제작을 지원하는 핵심 도구가 될 수 있습니다.”

AI 콘텐츠 탐지기의 신뢰성이 낮습니다. 현실인가, 신화인가?

AI 콘텐츠 탐지기는 어디에나 존재하지만 그 효과는 의심스러울 수 있습니다. 주요 문제는 다음과 같습니다.

AI 콘텐츠 감지 효율성이 낮음
오탐지 문제뿐만 아니라
새로운 AI 모델을 빠르게 다양화하고 개선하기 위해 탐지기를 적용하는 데 어려움이 있습니다.

OpenAI가 실시한 테스트에 따르면 분류기는 GPT 생성 텍스트를 26%만 인식한 것으로 나타났습니다. 생성기의 불안정성에 대한 흥미로운 예는 TechCrunch에서 수행한 실험에서 볼 수 있는데, 이 실험에서는 GPTZero 도구가 AI 생성 텍스트 7개 중 5개를 올바르게 식별한 것으로 나타났습니다. OpenAI 분류기는 하나만 식별했습니다.

출처: GPTZero (https://gptzero.me/)

또한 인간이 작성한 텍스트를 AI가 생성한 것으로 식별하는 오탐(false positive)을 받을 위험도 있습니다. 예를 들어, 미겔 데 세르반테스(Miguel de Cervantes)의 돈키호테(Don Quixote)의 두 번째 장의 시작 부분은 OpenAI 탐지기에 의해 인공 지능이 작성했을 가능성이 가장 높은 것으로 표시되었습니다.

역사적 문학 텍스트 분석의 오류는 재미있는 호기심으로 처리될 수 있지만 탐지기를 텍스트 평가 도구로 사용하려는 경우 상황은 더욱 복잡해집니다. ZeroGPT에서는 미국 헌법의 92.15%를 인공지능이 작성한 것으로 표시했습니다. 그리고 스탠포드 대학교 연구자들이 발표한 연구에 따르면, 영어가 모국어가 아닌 학생들이 쓴 TOEFL 에세이의 61%가 AI 생성으로 분류되었습니다. 안타깝게도 다른 언어에서 양성으로 잘못 분류된 텍스트의 비율이 얼마나 높은지에 대한 데이터는 없습니다.

또 다른 문제는 후속 검출기 실행 시 분류가 변경된다는 것입니다. ZeroGPT나 Scribbr과 같은 감지기가 텍스트 조각의 분류를 변경하여 한 번은 AI가 생성한 것으로 표시하고 다음 번에는 사람이 작성한 것으로 표시하는 경우가 종종 발생하기 때문입니다.

출처: Scribbr (https://www.scribbr.com/ai-Detector/)

AI 이미지 및 비디오 감지기는 주로 허위 정보를 퍼뜨리는 데 사용할 수 있는 딥페이크 및 기타 AI 생성 콘텐츠를 식별하는 데 사용됩니다.

Deepware, Illuminarty, FakeCatcher와 같은 현재 탐지 도구는 신뢰성에 대한 테스트 결과를 제공하지 않습니다. AI가 생성한 시각 자료를 탐지하는 법적 맥락에서 AI 이미지에 워터마크를 추가하려는 시도가 있습니다. 하지만 이는 매우 신뢰할 수 없는 방법입니다. 워터마크 없이 이미지를 쉽게 다운로드할 수 있기 때문입니다. Midjourney는 워터마킹에 대해 다른 접근 방식을 취하여 이러한 방식으로 이미지를 워터마킹할지 여부를 사용자가 결정하도록 합니다.

AI 탐지 방지. 가능하며 방법은 무엇입니까?

기업가는 AI 콘텐츠 탐지기가 인간의 품질 평가를 대체할 수 없으며 항상 신뢰할 수 있는 것은 아니라는 점을 인식해야 합니다. 콘텐츠가 AI 생성으로 분류되는 것을 피하려는 것과 마찬가지로 실질적인 유지 관리 문제는 상당한 어려움을 초래할 수 있습니다. 특히 AI가 단순히 전문가의 손에 있는 도구일 경우, 즉 'AI가 생성한 콘텐츠'가 아니라 'AI와 협력하여 만든 콘텐츠'인 경우에는 더욱 그렇습니다.

생성된 자료에 사람을 추가하는 것은 상대적으로 간단하므로 자료가 생성된 방식을 감지하기가 정말 어렵습니다. 생성 AI를 사용하는 사람이 어떤 효과를 달성해야 하는지 안다면 간단히 결과를 수동으로 조정할 수 있습니다.

기본적인 질문은 콘텐츠가 AI에 의해 생성된 경우 탐지를 피하려는 이유에 있습니다.

예를 들어 출판된 과학 연구의 저자가 윤리적인 문제이고 우려되는 경우 과학자의 직업 윤리와 AI 기반 도구의 책임 있는 사용에 의존해야 합니다.
고용주가 직원이 AI 사용을 중단하기를 원하는 경우 생성 인공 지능 사용에 대한 계약상 약정이 남아 있습니다.

또한 금지 및 비방자(ZeroGPT 및 GPTZero!)를 통해 AI의 책임 있는 사용을 장려할 것인지, 아니면 투명성, 신뢰 구축 및 첨단 기술의 정직한 사용에 대한 감사를 통해 촉진할 것인지에 대한 의문을 제기합니다.

출처: ZeroGPT (https://www.zerogpt.com/)

요약

AI 콘텐츠 탐지기를 사용할 가치가 있는지에 대한 질문에 대한 대답은 명확하지 않습니다. AI 콘텐츠 탐지기는 아직 개발 중이며 미래를 예측하기 어렵습니다. 한 가지 확실한 것은 AI 기술의 발전과 함께 진화할 것이라는 점이다. 인간의 글쓰기 스타일을 모방하는 언어 모델의 능력 증가를 포함하여 AI의 발전은 AI 콘텐츠 감지가 훨씬 더 복잡해질 수 있음을 의미합니다. 기업의 경우 이는 이러한 개발을 따르고 도구에만 의존하지 않고 콘텐츠 평가와 콘텐츠 제작 목적에 대한 적합성에 대한 신호입니다. 그리고 빠르게 발전하는 인공지능을 현명하게 활용하는 것.

저희 콘텐츠가 마음에 드신다면 Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok의 바쁜 꿀벌 커뮤니티에 가입하세요.

저자: 로버트 휘트니
IT 부서를 코칭하는 JavaScript 전문가이자 강사입니다. 그의 주요 목표는 코딩하는 동안 효과적으로 협력하는 방법을 다른 사람들에게 가르쳐 팀 생산성을 높이는 것입니다.
모든 게시물 보기

비즈니스에서의 AI:

비즈니스에서 AI의 위협과 기회(1부)
비즈니스에서 AI의 위협과 기회(2부)
비즈니스에서의 AI 애플리케이션 - 개요
AI 지원 텍스트 챗봇
비즈니스 NLP의 오늘과 내일
비즈니스 의사결정에서 AI의 역할
소셜 미디어 게시물 예약. AI가 어떻게 도움을 줄 수 있나요?
자동화된 소셜 미디어 게시물
AI로 운영되는 새로운 서비스와 제품
내 사업 아이디어의 약점은 무엇입니까? ChatGPT를 사용한 브레인스토밍 세션
비즈니스에서 ChatGPT 사용
합성 배우. 상위 3개 AI 비디오 생성기
3가지 유용한 AI 그래픽 디자인 도구. 비즈니스에서의 생성적 AI
오늘 꼭 시험해 봐야 할 멋진 AI 작가 3인
음악 창작에서 AI의 힘 탐구
ChatGPT-4로 새로운 비즈니스 기회 탐색
관리자를 위한 AI 도구
당신의 삶을 더 쉽게 만들어 줄 멋진 ChatGTP 플러그인 6가지
3 그라피코프 AI. Generatywna sztuczna inteligencja dla biznesu
McKinsey Global Institute가 말하는 AI의 미래는 무엇입니까?
비즈니스에서의 인공지능 - 소개
NLP, 즉 비즈니스에서의 자연어 처리란 무엇입니까?
자동 문서 처리
Google 번역과 DeepL. 비즈니스를 위한 기계 번역의 5가지 응용
보이스봇의 운영 및 비즈니스 애플리케이션
가상 비서 기술, 아니면 AI와 대화하는 방법?
비즈니스 인텔리전스란 무엇입니까?
인공지능이 비즈니스 분석가를 대체할 것인가?
인공지능이 BPM에 어떻게 도움을 줄 수 있나요?
AI와 소셜 미디어 – 그들은 우리에 대해 무엇을 말하는가?
콘텐츠 관리의 인공 지능
오늘과 내일의 창의적 AI
멀티모달 AI와 비즈니스 애플리케이션
새로운 상호 작용. AI는 우리가 장치를 작동하는 방식을 어떻게 변화시키고 있습니까?
디지털 기업의 RPA 및 API
미래의 직업 시장과 다가오는 직업
교육 기술의 AI. 인공지능의 잠재력을 활용한 기업의 3가지 사례
인공지능과 환경. 지속 가능한 비즈니스 구축에 도움이 되는 3가지 AI 솔루션
AI 콘텐츠 탐지기. 그만한 가치가 있나요?