본문으로 건너뛰기
News

트럼프 행정부, 연방기관에 'AI'를 'Super Intelligence'로 바꾸라는 명령… 기관·기업 호응 엇갈려

Here’s who is falling in line for Trump’s “Super Intelligence” loyalty test

트럼프 대통령이 9월 말 서명한 행정명령은 정부 기관이 인공지능(AI)을 'Super Intelligence'로 명칭을 바꾸도록 지시하는 단 하나의 조항을 담고 있다. 기사는 이 명칭 변경이 정부 문서와 기업 발표에서 실제로 어떻게 받아들여지고 있는지 추적하며, 이를 정치적 충성도 시험으로 바뀔 수 있다고 본다. 명칭 변경의 공식 이유는 오늘날의 AI 시스템이 지능을 단순히 '모방'하는 것이 아니라 인간의 창의성을 '증폭'한다는 점을 정부 용어가 반영해야 한다는 것이다. 정부 쪽에서는 이미 'SI'라는 표현이 이민세관단속국(ICE)의 'SI 기반' 감시 시스템 입찰 공고 등에 나타나고 있으며, 국립보건원(NIH) 웹사이트에는 전환 기간 동안 새 용어와 옛 용어가 함께 보일 수 있다는 배너가 붙었다. 다만 국방부는 행정명령 직후 발표한 'Project Meridian'에서 옛 용어를 썼고, 연방거래위원회(FTC) 보도자료는 대문자 두 단어 표기 대신 'superintelligence'를 사용했으며, 보건복지부(HHS)의 최근 보도자료에는 새 용어가 보이지 않았다. 기업 측에서는 2025년 9월 함께 발표된 'White House Accord on Super Intelligence'에 서명한 Google의 순다르 피차이, Anthropic의 다리오 아모데이, Meta의 마크 저커버그, OpenAI의 그렉 브록먼, xAI의 일론 머스크, Nvidia의 젠슨 황 가운데 CNBC 분석에서 3분기 실적발표에 이 용어를 꾸준히 쓴 인물은 저커버그와 머스크뿐이었다. 기사는 명칭 변경이 정부 업무에 시간과 세금을 소모한다는 점을 지적한다. 부처들은 전환 지침을 작성하고 있으며, 행정명령에 따라 연방기관장들은 이달 말까지 'Super Intelligence'의 법적 정의 초안을 마련해 대통령에게 보고해야 한다. 기사 필자는 이 같은 비용보다도 명칭 변경이 AI에 관한 국가적 논의 자체에 미칠 영향을 더 우려한다고 밝힌다.

연방 입찰 문서에 'SI-powered' 표기가 등장하는 만큼, 정부 계약을 노리는 개발팀은 제안서와 기술 문서의 용어를 기관별 공고에 맞춰 확인해야 한다.

원문 출처

MIT Technology Review — AI

원문 보기 ↗
보안·규제·저작권중급·

美 정부 수출통제 지시로 Fable 5·Mythos 5 접속 전면 차단, 출시 3일 만의 반전

출시 사흘 만인 6월 12일 오후(ET) 미국 정부가 수출통제 지시를 발동해 Fable 5·Mythos 5 접속을 전면 중단시켰다. '국가안보 권한'을 근거로 전 세계 모든 외국 국적자(Anthropic 외국인 직원 포함)의 사용을 막으라는 지시였고, Anthropic은 컴플라이언스를 위해 외국인뿐 아니라 '모든 고객'에게 두 모델을 비활성화했다. 다른 모델은 정상이다. 정부가 지목한 사유는 Fable 5의 좁은(비-보편적) 탈옥(jailbreak) 기법 — 소프트웨어 취약점을 분석·수정하도록 요청하는 시연이었다. Anthropic은 '수천 시간 동안 US 정부·UK AISI·외부 레드팀과 함께 가드레일을 검증했고 어떤 테스터도 광범위한 사이버 역량을 가로지르는 보편적 탈옥을 찾지 못했다'며, '좁은 잠재 탈옥 발견이 수억 명에게 배포된 상용 모델을 회수할 근거는 아니다'라고 공개적으로 이견을 밝혔다. 복구 시점은 미정이며 '가능한 빨리 복구하겠다'고만 했다.

Anthropic / CNBC원문
보안·규제·저작권실전·

프롬프트 인젝션은 '버그'가 아니라 '구조적 결함': OWASP 6월 보고서와 MCP 공급망 사고

에이전트 보안의 현실 점검이 6월에 집중됐다. OWASP GenAI Security Project의 6월 11일 보고서는 프롬프트 인젝션이 'LLM이 텍스트를 읽는 방식 자체에 내재'된 결함이며, 지난 1년의 CVE와 공급망 침해가 어떤 패치도 이를 닫지 못했음을 보여준다고 진단했다. 핵심 위협 모델은 'lethal trifecta' — ① 민감 데이터 접근 ② 신뢰 못 할 외부 콘텐츠 노출 ③ 외부 통신 능력, 이 셋이 한 에이전트에 겹치면 단 한 줄의 주입 프롬프트로 데이터 유출 도구가 된다. LLM은 시스템 프롬프트·사용자 입력·검색된 콘텐츠를 단일 토큰 시퀀스로 처리해 권한 경계를 신뢰성 있게 강제할 메커니즘이 없다는 게 구조적 원인이다. 실제 사고도 잇따랐다 — LiteLLM(CrewAI·DSPy·GraphRAG의 LLM 게이트웨이) 백도어가 3월 PyPI에 약 3시간 노출돼 4.7만 다운로드가 발생했고, MCP 코어 인프라의 RCE 취약점(CVE-2025-6514, CVSS 9.6)과 최대 20만 개의 취약 MCP 인스턴스 노출이 보고됐다. 'tool poisoning'(도구 메타데이터에 숨긴 명령)이 새로운 인젝션 벡터로 떠올랐다.

MCP를 붙이는 순간 에이전트는 lethal trifecta에 진입하기 쉽다는 걸 전제로 설계해야 한다. 단일 통제(예: 입력 필터)로는 막을 수 없고, 도구 화이트리스트·신원 바인딩·런타임 모니터링·HITL 체크포인트를 겹쳐 blast radius를 줄이는 게 현실적 방어다. 특히 외부 MCP 서버와 패키지는 '15개 클린 버전 후 1줄 추가' 식 공급망 공격에 노출되므로 핀 고정과 출처 검증이 필수다.

Help Net Security (OWASP)원문
보안·규제·저작권중급·

EU AI Act GPAI 제재 발효(8월)와 한국 AI 기본법 시행(1월): 규제가 실집행 단계로

2026년 상반기는 AI 규제가 '문서상 의무'에서 '실제 집행'으로 넘어간 분기점이다. EU AI Act의 범용 AI(GPAI) 모델 의무는 2025년 8월부터 법적으로 발효된 상태였지만, 2026년 8월 2일부터 EU AI Office가 정식 집행 권한을 갖는다. 전 세계 연매출의 3% 또는 1,500만 유로 중 큰 금액까지 과징금을 부과할 수 있고, 문서·정보 요청, 모델 평가, 시정·회수 명령 권한이 생긴다. 2025년 8월 이전 출시된 모델은 2027년 8월까지 유예된다. 5월 7일 Digital Omnibus 정치 합의로 이 일정이 그대로 간다는 점이 확인됐다. 한국은 한발 앞서 1월 22일 'AI 기본법'과 시행령이 발효됐다 — 세계 첫 시행 가능한 고영향(high-impact) AI 규제법으로 평가된다. 의료·에너지·공공서비스 등 고영향 영역의 영향평가, 위험관리체계와 인적 감독, 생성형 AI 산출물의 표시(라벨링), 국내 대리인 지정 의무를 담았다. 다만 벌칙 조항 적용은 1년 유예됐다.

규제 텍스트를 읽던 시기는 끝났고, 이제는 '누가 집행하고 얼마를 물리느냐'의 단계다. 한국 빌더는 EU 시장에 모델·기능을 제공하면 GPAI 의무 사정권에 들고, 동시에 국내 AI 기본법의 고영향 영향평가·생성물 라벨링·국내대리인 요건을 1년 유예가 끝나기 전에 제품에 내장해야 한다. 라벨링과 학습데이터 투명성은 출시 직전에 붙이는 게 아니라 설계 단계부터 데이터 계보(provenance)와 함께 가야 재작업을 피한다.

Latham & Watkins / Cooley원문

이 브리핑에 대한 Q&A

이 브리핑에 질문하기

댓글

아직 댓글이 없습니다. 첫 의견을 남겨 주세요.