Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
EU AI Act, 2026년 8월 전후 범용 AI(GPAI) 제공자 의무 본격 집행
EU AI Act의 범용 AI(GPAI) 모델 제공자 의무는 2025년 8월 2일부터 적용이 시작됐고, 2026년 8월 2일부터 유럽연합 집행위원회가 과징금을 포함한 전면 집행에 들어간다. 첫 1년간 AI Office는 실천강령(Code of Practice)을 준수하는 제공자와 협력 모드로 운영해, 즉시 모든 약속을 이행하지 못해도 '선의(good faith)'로 간주하고 완전한 준수를 함께 모색하는 유연한 접근을 택했다. 2025년 8월 2일 이전에 시장에 출시된 GPAI 모델은 2027년 8월 2일까지 의무를 맞추면 되는 경과 규정도 있다. 과징금은 GPAI 제공자에 대해서는 집행위가, 그 외 운영자에 대해서는 각국 당국이 부과한다. 한국 기업이라도 EU 시장에 모델·서비스를 제공하면 역외 적용되므로 학습 데이터 요약 공개, 저작권 정책, 기술 문서 같은 GPAI 의무를 점검해야 한다.
Anthropic 저작권 소송 15억 달러 합의, AI 학습 공정이용이라도 해적판은 별개
2025년 6월 미국 캘리포니아 북부지법의 William Alsup 판사는 Anthropic이 합법적으로 취득한 도서를 AI 학습에 사용한 것은 '본질적으로 변형적(transformative)'이어서 공정이용에 해당한다고 판단했다. 그러나 LibGen 같은 섀도 라이브러리에서 해적판 수백만 권을 내려받아 보관한 행위는 공정이용이 아니라고 동시에 판시했다. 이 구분 이후 사건은 약 15억 달러 규모로 합의됐고, 저작물 1건당 약 3,000달러 수준의 지급이 추정되는 미국 최대 규모 저작권 합의가 됐다. 즉 '학습 행위 자체'는 보호받을 수 있어도, 학습 데이터를 어떻게 '취득·보관'했는지가 별개의 책임을 만든다는 점이 핵심이다. Meta의 Llama 학습 관련 유사 소송에서도 공정이용 쟁점에서 일부 각하가 있었다.
[설명] C2PA 콘텐츠 자격증명으로 AI 생성물 출처·표시 의무 충족하기
AI 생성물의 출처와 무결성을 증명하는 표준으로 C2PA(콘텐츠 자격증명, Content Credentials)가 사실상의 산업 표준으로 자리잡고 있다. 콘텐츠에 누가·무엇으로·언제 만들고 편집했는지를 변조 탐지가 가능한 매니페스트로 첨부하는 방식이다. 규제 측면에서 미국 NSA·CISA가 2025년 1월 정부·국가안보 시스템에 C2PA 채택을 권고하는 공동 가이드를 냈고, 2026년 8월 효력의 EU AI Act가 요구하는 AI 생성물 투명성 라벨링을 C2PA의 AI assertion 타입이 직접 충족한다. 한국 'AI 기본법'의 생성형 AI 표시 의무와도 맞물린다. 기술적으로는 사양 v2.3(2025년 12월)이 라이브 영상 스트리밍과 비정형 텍스트 매니페스트를 지원해 LLM 출력까지 출처 표기를 확장했다. Google Pixel 카메라 하드웨어(Assurance Level 2), TikTok의 사실적 AI 콘텐츠 라벨링 등 하드웨어·플랫폼 채택도 늘고 있다.
한국 AI 기본법 전면 시행, 고영향·생성형 AI 사업자 의무 발효
한국이 세계 최초로 AI 규제법을 전면 시행한 국가가 됐다. 과학기술정보통신부가 주관하는 'AI 기본법'은 2026년 1월 22일부터 효력을 발휘하며, 진흥과 신뢰를 동시에 추구하는 진흥 중심 설계가 특징이다. 핵심 의무는 두 갈래다. 첫째, 사람의 생명·신체 안전과 기본권에 중대한 영향을 미치는 '고영향 AI'(의료 진단, 신용평가, 채용, 자율주행 등) 제공 사업자는 영향평가와 투명성·안전성 확보 조치를 이행해야 한다. 둘째, 생성형 AI가 만든 문서·이미지·영상에는 AI 생성물임이 드러나도록 워터마크 표시 의무가 부과된다. 정부는 통합안내지원센터와 전문가 컨설팅을 운영하므로, 기업은 내부 AI 시스템 점검·투명성 표시 체계·AI 거버넌스 수립을 서둘러 완료해야 한다. EU는 단계적 시행 중이라 전면 시행은 한국이 앞섰다.