[ 8부 ] AI 시대, 진짜와 가짜의 경계가 사라질 때

A. 서론: 신뢰의 소멸, 2025년의 디지털 현주소

인공지능(AI) 기술은 콘텐츠 제작, 편집, 배포 전반에 깊숙이 관여하며 미디어 환경에 혁신적인 변화를 가져왔습니다.

이러한 발전은 정보의 접근성을 높였지만, 역설적으로 정보의 질과 신뢰성에 대한 근본적인 위협을 초래했습니다. 

AI시대의 미디어 리터러시 콘텐츠 강화

 

2025년 현재, 우리는 단순한 '가짜 뉴스'를 넘어 정보의 '진위(Authenticity) 자체의 위기'에 직면하고 있으며, 이는 사회적 신뢰 기반을 위협하는 핵심 문제입니다.

특히 대규모 언어 모델(LLM)과 생성형 AI의 발전은 디지털 현실과 인지적 현실의 경계가 모호해지는 현실 모호화²(Reality Blurring) 현상을 심화시킵니다.

[2025년 전망] “AI로 더 정교해지는 신원 도용·사기·데이터 도난 위협”

 

AI가 양육과 교육 같은 복잡한 영역에 통합되면서, 개인은 자신의 '인식 주권'을 AI 알고리즘에 위임할 위험에 놓이게 됩니다.

 

이 글의 핵심 메시지는 명확합니다. 

초정교 가짜¹ 콘텐츠의 등장으로 기존의 사후 탐지(Detection) 중심의 신뢰 방어 체계는 더 이상 유효하지 않습니다.

가짜 정보의 확산 속도와 정교함이 탐지 능력을 압도하면서, 우리는 생성 단계에서의 예방 및 출처 증명(Provenance)으로의 근본적인 패러다임 전환을 모색해야 할 절박한 필요성에 직면했습니다.

B. 1부. '초정교 가짜¹'의 해부: 2025년 사이버 위협의 새로운 얼굴 🚨

1. AI 가속화된 범죄: 금융 위협과 사회공학적 공격

사이버 보안 전문가들은 2025년을 사이버 위협 환경에서 데이터 도용에서 본격적인 신원 도용으로의 전환의 해로 예측합니다.

AI는 대규모로 유출된 개인 정보를 활용하여 초고도로 개인화되고 믿을 만한 사기를 만들어냅니다.

이러한 위협은 금융 부문에서 특히 심각합니다. 

딜로이트 금융서비스 센터의 분석에 따르면, 생성형 AI 기반 금융 사기로 인한 전 세계 손실은 4년 내에 123억 달러에서 400억 달러로 급증할 것으로 경고됩니다.

“생성형AI 기반 금융사기 손실, 4년내 123억→400억달러 증가” 경고

 

딥페이크 악용의 확장은 인간 신뢰에 대한 직접적인 사회공학적 공격으로 진화합니다. 

구체적인 사건의 예시로, 딥페이크 영상이나 음성 조작이 기업 내부의 고위 임원을 사칭하여 내부 시스템 접근 권한을 확보하거나, 중요 정보를 탈취하고, 심지어 공급망 공격의 단초로 악용될 수 있는 높은 위험도를 지닌 문제가 보고되었습니다. 

2025 상반기 Hot🔥보안 사건 사고 - Theori 블로그

이는 공격 대상이 네트워크나 시스템을 넘어, 인간의 신뢰라는 심리적 취약점으로 확장되고 있음을 보여줍니다.

2. 기술적 근거: 전문가조차 구별 불가능한 '진화의 끝'

초정교 가짜¹의 등장은 GAN³(Generative Adversarial Network) 및 Diffusion Model⁴과 같은 생성형 모델의 원리적 특성에서 기인합니다.

GAN³의 훈련 목적 자체가 생성자(Generator)가 탐지자(Discriminator)를 완벽하게 속여 실제 데이터와 거의 차이가 없는 결과물을 만들어내는 데 있습니다.

즉, 가짜 콘텐츠를 만드는 기술 자체가 '탐지 불가능한 완벽함'을 목표로 설계되었기 때문에, 사후적으로 이를 구분하는 것은 근본적인 어려움에 처할 수밖에 없습니다.

“GAN 기반 딥페이크를 막아라”…전문가들 ‘탐지기술’ 골몰 - 애플경제

 

더 나아가, 글로벌 AI 시장이 단순 텍스트 기반 모델(LLM)에서 이미지, 영상, 음성 등 복합 데이터를 생성하는 멀티모달 AI⁵(LMM)로 빠르게 확장됨에 따라, 진위 판별 난이도는 기하급수적으로 증가하고 있습니다.

C. 2부. 왜 기존 팩트체크는 무력화되는가? (The Great Collapse) 📉

1. 검증 메커니즘의 근본적 파열: '출처 없는 완벽함'

기존의 팩트체크 방식은 △원본 출처 확인, △통계 및 연구 기반 정보의 정확한 인용, △타사 소스의 교차 검증에 의존해왔습니다. 

인간과 AI가 생성한 콘텐츠를 팩트 체크하는 방법 - 매드타임스(MADTimes)

 

그러나 AI 생성 콘텐츠는 존재하지 않는 인물, 인용문, 통계를 완벽한 문법과 논리 구조로 만들어내는 '환각⁶(Hallucination)' 문제를 야기합니다.

이는 원본 출처가 아예 존재하지 않는 합성물에 대해 출처를 검증하는 것 자체가 비효율적인 상황을 만듭니다.

2. 탐지 기술의 숙명적 한계: '창과 방패'의 무한 경쟁

가짜 정보 확산에 대응하기 위해 AI 생성 콘텐츠에 대한 워터마크 도입 의무화 움직임이 있습니다.

저작권 이슈 트렌드_통권 제58호(2025-3-3호).pdf

1.47MB

 

CNN 기반 워터마킹 기술처럼 컴퓨팅 효율성이 발전하고 있지만, 이는 보안 분야의 근본 원리인 '창과 방패의 싸움' 속에서 끊임없이 무력화될 운명에 놓여있습니다.

워터마크 의무화? 딥페이크 성범죄물은 코웃음칠 수도

 

이러한 탐지(Detection) 기반의 방어 전략이 AI 시대에 근본적으로 실패했음을 보여주는 경험적 증거가 보고되었습니다.

딥페이크 무력화를 위해 도입된 디지털 워터마크가 '99% 제거가 관찰'되었다는 연구 결과는 탐지 기술의 실효성에 심각한 의문을 제기합니다.

"딥페이크 막겠다" 워터마크 의무화했지만 "글쎄"…실효성 논란 여전

가짜를 만드는 기술의 속도가 진짜를 찾는 기술의 속도를 압도하는 근본적인 시간적, 기술적 격차가 존재하기 때문입니다.

D. 3부. 근본적 대응 전략: 탐지에서 출처 증명(Provenance)으로의 전환 🛡️

1. 패러다임의 대전환: '생성 단계 예방'의 의무화

신뢰 재건의 목표는 콘텐츠의 내용적 진실성(Fact)보다, 콘텐츠의 생성 이력 및 무결성(Integrity)을 기술적으로 보장하는 것입니다.

현재 산업계의 전략은 단순한 사후 검증을 넘어, 생성 단계에서부터 저작권 침해를 예방하는 기술을 도입하거나 윤리적 데이터셋을 활용하는 근본적인 패러다임 전환을 모색하고 있습니다.

저작권 산업기술 동향(상세) > 저작권동향(판례

 

2. 다각적 정책 및 사회적 노력: 글로벌 표준화와 규제 프레임워크

1) 글로벌 콘텐츠 표준화 노력 (기술적 거버넌스)

• 출처 증명 기술의 확산: 
  핵심 기술은 콘텐츠 자격 증명⁷(Content Credentials), 즉 C2PA 기술입니다.
  이는 이미지, 영상, 텍스트가 생성되거나 수정될 때마다 해당 이력(Provenance)을 메타데이터 형태로 파일 자체에 첨부합니다.
  어도비(Adobe)와 같은 주요 산업계 주체가 이를 선도적으로 확산하고 있습니다.
  
  
• AI 학습 제어 표준화: 
  인터넷 엔지니어링 태스크포스(IETF)는 기존 robots.txt 프로토콜의 한계를 극복하고 창작자의 의사를 AI에 명확하게 전달하려는 개방형 프로토콜 표준 제정을 주도하고 있습니다.
  
  
• 저작권 증명 기술 (CDI):
  저작권 데이터 식별(CDI) 기술은 특정 저작권 자료가 AI 모델 학습 과정에 포함되었는지 통계적으로 분석하는 기술적 기반을 제공하여, 창작자들이 자신의 이미지가 AI 학습에 사용되었음을 증명할 수 있는 법적 증거를 마련해 줍니다.
  
  
• 영지식 증명⁸(ZKP) 기술: 
  이는 원본 데이터의 노출 없이도 데이터의 무결성(조작되지 않았음)을 입증할 수 있게 하는 암호화 기술로, 투명성과 개인 정보 보호 사이의 균형을 제공합니다.

2) 분산 네트워크를 통한 사회적 투명성 확보

블록체인의 특성을 활용하여 소셜 데이터의 주권 확보와 투명성, 신뢰성을 향상시키려는 분산 소셜 네트워크 시스템 연구도 중요하게 진행 중입니다.

이러한 시스템은 합의 및 검증 메커니즘을 통해 악성 루머나 가짜 뉴스를 방지하는 사회적 효과를 가져옵니다.

[보고서]소셜 데이터의 주권과 투명성 및 신뢰성 확보를 위한 블록체인 기반 분산 소셜 네트워크

 

E. 4부. AI 선도 기업들의 책임성 전략: 기술과 비즈니스의 충돌 💥

AI 기술이 대규모로 확산됨에 따라, 글로벌 빅테크 기업들은 기술적 투명성 확보와 책임 있는 AI 배포 사이에서 전략적 균형점을 모색하고 있습니다.

그러나 이들의 대처 방식은 혁신 속도(Velocity)를 우선시하는 비즈니스 목표와 종종 충돌하며, 이는 AI 안전 정책의 실효성에 의문을 제기합니다.

1. 빅테크의 이중 전략: 안전성 정책 고도화와 필터링 전략 비교

선도 기업들은 유해 콘텐츠를 관리하기 위해 정교한 필터링 시스템을 구축하고 있지만, 그 접근 방식에는 명확한 차이가 존재합니다.

1-1. Google: 확률 기반 필터링과 유연한 리스크 관리

Google Gemini API는 유해 콘텐츠의 심각도(Severity)가 아닌, 안전하지 않을 확률(Probability)을 기준으로 콘텐츠를 차단하는 유연한 전략을 취합니다.

안전 설정  |  Gemini API  |  Google AI for Developers

 

이는 개발자가 특정 사용 사례에 맞게 차단 기준을 조정할 수 있도록 하여, 애플리케이션의 유틸리티를 극대화하려는 전략적 선택입니다.

다만, 아동 안전을 저해하는 콘텐츠와 같은 핵심 유해 요소에 대한 기본 보호 조치는 조정 불가능하며, 이는 기업의 최소한의 윤리적 책임성을 확보하기 위한 방어선 역할을 합니다.

1-2. Microsoft: 명시적 금지 행위 및 선거 콘텐츠 규정

Microsoft는 아동 성적 착취 및 학대(CSEA), 그루밍, 신체적 위해 공모 등 특정 '행위'를 명확히 정의하고 이를 금지하는 선제적인 규범 설정에 중점을 둡니다.

디지털 안전 | 정책

 

특히 선거 및 정치적 민감성을 포함하는 시민적 무결성¹⁰ 영역에서 기만적인 생성형 AI 선거 콘텐츠의 생성 또는 배포를 명시적으로 금지합니다.

1-3. 기술적 투명성 확보 노력 (워터마킹)

Google은 이미지 생성 모델인 Imagen을 통해 생성된 이미지에 픽셀 단위로 워터마크를 적용하는 'Synth ID⁹' 기술을 공개했습니다.

구글, AI 생성 이미지에 '투명 워터마크' 삽입하는 기술 공개 - AI타임스

이 투명 워터마크는 육안으로 식별할 수 없으나, 사용자가 이미지가 AI에 의해 생성되었음을 증명하는 디지털 워터마크를 확인할 수 있도록 합니다. 

빠른 시작: Imagen 이미지 텍스트 변환을 사용하여 이미지 워터마크 생성 및 확인(콘솔)  |  Generati

 

1-4. AI 정책의 지역적/문화적 맥락 적용의 한계

글로벌 빅테크의 안전 필터링 시스템은 근본적으로 서구 문화 및 언어적 맥락에 기반하고 있어, 한국어의 존댓말/반말 사용 구분, 비유적/반어적 표현 등 고유한 언어적 특성은 서구 기준의 필터링 시스템이 한국 특유의 유해성 맥락을 파악하는 데 어려움을 겪게 만듭니다.

이는 AI 안전 정책의 현지화 딜레마를 야기하는 비용적, 기술적 도전 과제입니다.

A Study on the Korean Classification System for Generative AI Harmful Content: Focusing on Legal, Policy, and Socio-Cultural Asp

 

2. 거버넌스 시스템과 비즈니스 확장 리스크

2-1. 선제적 자정 메커니즘: AI 레드팀⁹ 운영

AI 레드팀⁹(Red Teaming)은 AI 시스템 출시 전, 실제 해커처럼 모델을 위협하고 취약점을 선제적으로 발견하는 내부 자정 메커니즘의 핵심입니다.

AI Red Team

 

Anthropic은 이 분야를 가장 적극적으로 운영하며, '프런티어 레드팀(Frontier Red Team)'은 AI 모델에게 소스 코드를 분석하거나 해킹을 시도하도록 지시하는 등 극단적인 위험 상황으로 몰고 가는 실험을 진행하여 잠재적 취약점을 샅샅이 찾아냅니다. 

AI 재앙을 실험하는 '레드팀' 사람들 - PADO

 

국내에서도 크라우드웍스, 셀렉트스타 등이 AI 레드팀 관련 활동을 운영하며 위협에 대응하고 있습니다.

“AI 취약점 내부에서 찾아라”… ‘AI 레드팀’ 강의·챌린지 주목

 

2-2. 안전과 비즈니스 확장 간의 갈등: Google과 OpenAI의 실패 사례

내부 안전 거버넌스의 실패 사례는 혁신 속도를 과도하게 추구할 때 발생합니다.

• OpenAI의 리더십 갈등: 
  OpenAI는 샘 알트먼 CEO를 비롯한 경영진이 AI 안전성 연구보다 비즈니스 확장을 우선시했다는 비판에 직면했습니다.
  이로 인해 이사회와의 마찰과 주요 안전 연구팀 인력의 사퇴가 발생했으며, AI 안전 거버넌스가 단순한 기술적 문제를 넘어, 기업 리더십과 전략적 의사결정의 문제임을 명확히 보여줍니다.
  
  
• Google AI 오버뷰의 오류:
  Google은 경쟁사를 따라잡기 위해 생성형 AI 검색 서비스인 AI 오버뷰(AI Overview)를 성급하게 도입했다가 환각⁶ 현상 오류를 일으켜 명성에 손상을 입었습니다.
  '피자에 접착제를 사용하면 된다'는 등의 비정상적인 답변이 확산된 것이 그 예시입니다.
  이는 혁신 속도를 과도하게 추구하는 경쟁 환경이 엄격한 안전 검증을 희생시키게 만드는 구조적 현실을 보여줍니다.

"AI 안전은 뒷전"…美 빅테크, 잇따른 구설수로 명성 '흔들'

 

3. 데이터 사용 및 상업화로 인한 새로운 리스크 (Meta 사례)

AI 선도 기업들은 AI 모델의 성능 향상과 새로운 수익 창출을 위해 데이터 활용 전략을 공격적으로 변경하고 있으며, 이는 필연적으로 법적 및 윤리적 리스크를 야기합니다.

Meta는 2025년 12월부터 개인 맞춤형 광고를 위해 AI 비서 채팅 데이터를 활용하는 새 정책을 시행할 예정입니다.

메타, 2025년 12월 16일부터 AI 채팅 데이터 광고 타겟팅에 활용 예정

 

이는 AI 모델을 순수한 '도구'가 아닌, 새로운 형태의 데이터 수집 플랫폼으로 변모시키려는 상업적 대처를 의미하며, 사용자들의 개인정보 보호 우려를 극대화하고 있습니다.

또한, Meta는 AI 생성 '비창작 콘텐츠'에 대해 콘텐츠 삭제 및 수익 창출 불가 정책을 도입하는 등 플랫폼 생태계의 품질을 유지하기 위한 정책도 강화하고 있습니다.

“콘텐츠 삭제·수익창출 불가”… 유튜브 이어 메타도 ‘AI發 비창작 콘텐츠’에 칼 빼들었다

 

이 외에도 대부분의 빅테크 기업들은 AI 모델 학습을 위해 창작물을 불법적으로 유통하거나 활용했다는 이유로 미국과 유럽에서 저작권 침해 관련 집단 소송 및 고소를 잇따라 당하고 있습니다. 

핵 물질처럼 감독하라더니… “AI 규제 반대” 외치는 빅테크 CEO들

 

F. 5부. 개인이 신뢰를 생산하는 주체로 거듭나기: AI 리터러시와 윤리적 태도

1. AI 리터러시의 확장: 비판적 사고의 재정의

AI 시대의 미디어 리터러시는 단순히 정보 소비 능력을 넘어, AI가 생성한 정보의 출처와 신뢰성을 검토하고, 그 정보가 사회에 미치는 영향을 고려하는 새로운 능력을 포함해야 합니다.

사용자는 AI의 학습 과정과 알고리즘의 작동 방식을 이해하고, AI 기반 콘텐츠에 내재된 잠재적인 편향성을 인식하는 능력이 필수적으로 요구됩니다.

이러한 비판적 사고 능력을 강화하기 위해서는 이론 중심이 아닌 실습 중심의 교육이 필요합니다.

예를 들어, AI 챗봇 개발이나 AI 기반 이미지 생성 도구를 직접 사용해보는 활동은 학생들이 기술의 원리를 이해하고 책임감 있게 활용하는 데 큰 도움이 됩니다.

2. 윤리적 사고 및 거버넌스 프레임워크 구축 (다각적 정책/사회적 노력)

1) 윤리적 사고 교육의 의무화

미디어 리터러시 교육에서 윤리적 사고는 필수적입니다.

학생들에게 정보의 윤리적 사용, 개인정보 보호, 저작권 등의 주제를 교육하여 책임감 있는 정보 생산자 및 소비자로 성장하도록 유도해야 합니다.

예를 들어, 학생들이 저작권 관련 사례를 조사하고 윤리적 문제를 논의하는 활동을 통해 AI가 만들어낸 콘텐츠의 윤리적 책임을 깊이 있게 고민할 수 있습니다.

2) 글로벌 규제 프레임워크 구축 (정책적 노력)

국제적인 거버넌스 논의 역시 활발합니다.

 2025 ASC(AI Safety Compass) 컨퍼런스와 같은 주요 이벤트를 통해 AI의 안전성과 윤리 기준 강화를 위한 논의가 진행 중이며 유럽연합과 미국의 여러 주에서 이미 AI 보호를 위한 입법을 추진하고 있습니다.

전 세계적으로 딥페이크 오남용 등 생성형 AI로 인한 잠재적 피해 완화를 위한 AI 규제 법률 제정이 증가하는 추세입니다.

IS-200_AI Index 2025 주요내용 및 시사점.pdf

1.18MB

2025년 AI 생태계 발전 동향: 신뢰성·윤리·산업적용·노동 변화 분석

 

3) 정부 차원의 민관 협력 거버넌스 강화

정부는 AI 전략 및 정책 결정 과정에서 민간 부문의 인재와 경험을 적극적으로 활용하여 거버넌스 전문성을 높여야 합니다.

한국의 '초거대AI추진협의회'와 같이 초거대 AI 기업 및 스타트업으로 구성된 외부 민간 자문단을 통해 끊임없이 진화하는 AI 위험에 대한 현실적인 대응책을 수렴하는 노력이 중요합니다.

AI와 우리의 미래 모두 함께 공유하는 AI를 위한 정책적 제언.pdf

1.31MB

G. 결론: 진짜를 위한 주권 확보 🌟

AI 시대, 우리는 더 이상 정보의 수동적인 '소비자'로 남아있을 수 없습니다.

초정교 가짜 정보 환경에서 신뢰를 잃지 않고 디지털 사회를 유지하기 위해서는 개인과 사회 전체가 '신뢰를 적극적으로 생산하는 주체'로 거듭나야 합니다.

 

이를 위한 근본적인 대응책은 다음 세 가지 축을 중심으로 전개되어야 합니다.

1. 출처 증명 기술 (Provenance)의 글로벌 표준화 (C2PA, ZKP, IETF 표준) 및 분산 네트워크를 통한 사회적 투명성 확보.
   
   
2. 엄격하고 선제적인 법제도 및 윤리 프레임워크의 국제적 구축 및 민관 협력 거버넌스 강화.
   
   
3. AI 알고리즘의 원리를 이해하는 확장된 미디어 리터러시 교육의 의무화 및 실습 중심의 윤리 교육.

---

🚨 다음 편 예고: 9부. 기술과 법의 경주: 한국과 해외의 가짜 정보 규제 비교 🚨

지금까지 우리는 가짜 정보 공격이 개인의 일상과 사회 전반의 신뢰 시스템을 어떻게 파괴하는지 목격했습니다.

하지만 이 공격의 속도를 제어해야 할 '방어 시스템', 즉 법과 제도는 과연 그 기술의 속도를 따라잡고 있을까요?

• 9부에서는 인공지능(AI)의 비약적인 발전에 대비하는 한국과 해외 각국의 규제 시스템을 집중적으로 분석합니다.
  
  
• 우리는 'AI 기술의 시계'가 '법과 제도의 시계'보다 얼마나 빠르게 돌아가고 있는지 냉철하게 진단합니다.
  
  
• 규제의 속도 차이는 단순한 행정적 문제가 아닙니다.이는 향후 통제 불가능한 수준의 사회적 혼란을 야기할 수 있는 심각한 위험 신호입니다.
  
  
• 다음 이야기에서는 해외의 선진적인 입법 및 제도적 대응 사례를 비교 분석하여, 우리가 시급히 구축해야 할 ‘규제의 로드맵’을 구체적으로 제시합니다.

기술의 발전이 인류에게 위협이 되지 않도록, 지금 당장 법적 방파제를 구축해야 합니다.

9부, 『기술과 법의 경주: 한국과 해외의 가짜 정보 규제 비교』에서 디지털 시대의 안전을 확보할 해답을 찾으십시오.

놓치지 마세요!

 

[ 7부 ] 진짜를 판별하는 무기: AI 시대, 신뢰를 지키는 팩트체크 도구 활용 전략

 

---

 

📚 용어 설명 (Glossary)

1. 초정교 가짜¹: AI 기술(딥페이크, LLM 등)을 사용하여 만들어져 육안이나 기존의 탐지 기술로는 진위를 판별하기 매우 어려운 수준의 고도로 정교하게 합성된 허위 콘텐츠를 통칭합니다.

 

2. 현실 모호화²: (Reality Blurring) AI가 생성한 초개인화된 콘텐츠가 개인의 인식과 사고방식을 형성하기 시작하면서, 디지털상의 정보와 실제 객관적 현실의 경계가 무너지고 불분명해지는 현상을 의미합니다.

 

3. GAN³: (Generative Adversarial Network) 생성적 적대 신경망. 가짜 콘텐츠를 생성하는 생성자(Generator)와 그 가짜를 탐지하는 탐지자(Discriminator)가 서로 경쟁적으로 학습하며, 생성자가 탐지자를 완벽하게 속일 때까지 모델의 성능이 발전하는 AI 모델의 한 종류입니다.

 

4. Diffusion Model⁴: 확산 모델. 노이즈(Noise)가 섞인 이미지나 데이터를 점진적으로 제거하고 복원하는 과정을 학습하여 고화질의 이미지를 생성하는 최신 생성형 AI 모델입니다.

 

5. 멀티모달 AI⁵: (Multimodal AI) 텍스트, 이미지, 음성, 영상 등 두 가지 이상의 데이터 양식을 동시에 이해하고 분석하며 생성할 수 있는 인공지능 모델입니다. (예: 텍스트로 이미지를 생성하는 모델)

 

6. 환각⁶: (Hallucination) AI 모델, 특히 LLM(대규모 언어 모델)이 사실이 아닌 정보나 출처를 마치 진실인 것처럼 그럴듯하게 생성해내는 현상입니다. AI의 가장 심각한 신뢰성 문제 중 하나입니다.

 

7. 콘텐츠 자격 증명⁷ (C2PA): (Content Provenance/Credentials) 디지털 콘텐츠(이미지, 영상, 텍스트)가 생성되거나 수정될 때마다 그 이력(출처, 변형 과정)을 메타데이터 형태로 파일 자체에 첨부하여, 콘텐츠의 무결성과 진위를 증명하는 기술 표준 연합체입니다.

 

8. 영지식 증명⁸ (ZKP): (Zero-Knowledge Proof) 증명하고자 하는 내용 자체(원본 데이터)를 공개하지 않고도 그 내용이 사실임을 입증할 수 있게 하는 암호화 기술입니다. 개인 정보 노출 없이 데이터의 무결성을 확인할 수 있어 신뢰 확보에 중요합니다.

 

9. AI 레드팀⁹: (Red Teaming) AI 시스템의 출시 전에 실제 해커나 악용 사례를 모방하여 모델을 공격하고 잠재적인 취약점 및 위험성을 선제적으로 발견하는 내부 자정 메커니즘을 수행하는 전문가 그룹 또는 활동을 의미합니다.

 

10. 시민적 무결성¹⁰: (Civic Integrity) 선거, 정치적 과정, 공공 담론 등 시민 사회의 핵심 영역이 허위 정보나 조작으로 인해 훼손되지 않도록 보호하는 개념입니다. AI 정책에서는 선거 콘텐츠의 조작 방지 등과 관련됩니다.