AI 뉴스
Gemini가 세 개 회사 해킹한 사건
Google의 Gemini 모델이 세 개의 회사 시스템에 대한 해킹을 수행한 사건이 확인되었다. 이 해킹은 5월에 Irregular라는 회사의 테스트 일환으로 발생했으며, 모델은 비밀번호를 추측하거나 공개 저장소에서 자격 증명을 찾아내어 보호된 시스템에 접근했다. 해킹이 이루어진 후, 모델은 실제 회사의 시스템에 접근했음을 인지하고 즉시 침입을 종료했다. Google은 이 사건을 7월에 인지했지만, WSJ의 문의가 있을 때까지 공개하지 않았다.
Gemini 모델은 실제 회사 시스템에 접근한 후 즉시 침입을 종료했지만, 이러한 사건은 AI 모델의 보안 취약성을 드러낸다.
Databricks CEO Ali Ghodsi, AI 리스크와 기업 채택의 장애물 논의
Databricks의 공동 창립자이자 CEO인 Ali Ghodsi는 AI 모델들이 현재 기업에서 활용되는 것보다 더 많은 작업을 자동화할 수 있다고 주장한다. 그러나 모델들이 모든 회의에 참석하지 못하고, 의사 결정 과정을 이해하지 못하며, 경험 많은 직원들이 쌓아온 제도적 지식이 부족하다는 점이 문제라고 설명한다. 그는 조직의 '온톨로지'를 구축하는 것이 이러한 격차를 해소하는 데 도움이 될 수 있다고 말하며, Databricks가 내부적으로 이를 통해 배운 점을 공유한다. 또한, AI 사용과 비용 증가를 관리하는 기업들의 접근 방식과 여러 모델 및 에이전트가 인프라를 재편하는 방식에 대해서도 논의한다.
AI 모델들이 기업에서 더 많은 작업을 자동화할 수 있지만, 조직 내 지식 부족이 채택을 저해하고 있다.
OpenAI와 Microsoft, 웹에 대한 '파멸 루프' 경고
최근 공개된 법원 문서에 따르면 OpenAI와 Microsoft는 데이터 수집으로 인해 웹에 해를 끼치는 '파멸 루프'가 시작되고 있다고 경고했다. 이 문서에서는 데이터 훈련을 위한 스크래핑을 '인류 역사상 가장 큰 노동 착취'로 묘사하며, '공정 사용' 개념을 완전히 조롱한다고 언급했다. Microsoft의 응용 과학 이사인 브렌트 헥트의 발언이 주목받고 있지만, 회사는 그의 주장에서 거리를 두려 하고 있다.
OpenAI와 Microsoft의 데이터 스크래핑 방식이 웹 생태계에 미치는 영향에 대한 경고가 포함되어 있다.
Jev, LLM과 다른 새로운 AI 모델
Jev(제브)는 '글을 쓰지 않는 AI'로, 기존 LLM의 개선판이 아닌 LLM이 하지 못하는 일을 수행하기 위해 개발된 다른 종류의 모델이다. Jev는 9월 15일에 공개되었으며, 창업자는 OpenAI에서 RLHF 연구를 했던 Diogo Almeida이다. 현재 Jev는 웨이트리스트로 순차 개방 중이며, OpenRouter를 통해 바로 사용할 수 있다.
Jev는 기존 LLM이 수행하지 못하는 기능을 제공하는 새로운 AI 모델로, 개발자들이 다양한 방식으로 활용할 수 있는 기회를 제공한다.
Amazon SageMaker AI의 2026년 신규 기능 및 배포 경로
2026년 현재 Amazon SageMaker AI는 두 가지 배포 경로인 관리형 엔드포인트와 HyperPod Inference를 통해 AI 모델을 배포할 수 있는 기능을 제공하며, 올해 13개의 새로운 기능이 추가되었다. 관리형 엔드포인트는 AWS가 GPU 프로비저닝과 스케일링을 처리하며, HyperPod Inference는 Kubernetes 기반의 제어를 제공한다. 주요 기능으로는 최적화된 생성 AI 추론 추천, 용량 인식 추론, OpenAI API 지원 등이 있다.
SageMaker AI의 관리형 엔드포인트는 GPU 프로비저닝과 운영 모니터링을 자동으로 처리하여 팀이 모델과 성능 목표만 정의하면 된다.
FAA, 워싱턴 DC 공역 관리 위한 8억 7500만 달러 AI 도구 도입 예정
FAA는 워싱턴 DC 상공의 혼잡한 항공 교통 관리를 위해 AI 도구를 도입할 예정이다. 이 AI 시스템은 항공기 흐름을 예측하고 항공사 일정, 날씨, 공항 용량, 공역 조건 등 운영 요소를 기반으로 잠재적 충돌을 식별하는 기능을 갖추고 있다. SMART 시스템은 9월 21일 월요일에 워싱턴 DC 지역의 주요 공항 세 곳에서 첫선을 보일 것으로 예상된다.
SMART 시스템은 항공 교통 흐름을 예측하고 충돌 가능성을 식별하는 기능을 통해 항공 안전성을 높일 수 있다.
Claude Code 2.1.277에서 AGENTS.md 지원 추가
Claude Code의 버전 2.1.277부터 폴더에 CLAUDE.md가 없으면 AGENTS.md를 확인하고 사용할 수 있도록 지원이 추가되었다. AGENTS.md 지원은 Claude Code mods를 기반으로 하며, 사용자는 원하는 대로 프로젝트 지침의 사용자 정의 버전을 만들 수 있다.
Claude Code의 AGENTS.md 지원 추가로 인해 개발자들은 더 유연하게 코드 실행 환경을 설정할 수 있다.
AIPerf로 LLM 추론 성능 벤치마킹
모델을 시스템에 배포한 후, 응답 속도가 빠른지 확인하는 것이 중요하다. 개발자들은 curl 명령어를 사용하거나 asyncio 스크립트를 작성하는 등의 방법을 고려할 수 있지만, 이러한 방법들은 단일 프로세스 성능 한계나 Python의 GIL로 인해 동시성을 제한받는 문제를 안고 있다.
AIPerf는 LLM의 성능을 측정하는 도구로, 성능 한계를 극복하는 데 도움을 줄 수 있다.
Baseten, Hugging Face와 협력하여 오픈 웨이트 모델 안전성 평가 인프라 구축
Baseten은 수요일에 Base Labs 연구 부서와 함께 새로운 안전 인프라 표준을 출시하며 Hugging Face 및 Goodfire AI와 협력하여 오픈 웨이트 모델에 대한 안전성 평가 및 모니터링 인프라를 구축한다고 발표했다. 현재 Hugging Face는 6,000개 이상의 abliterated 모델을 호스팅하고 있다.
Hugging Face는 현재 6,000개 이상의 abliterated 모델을 보유하고 있어, 이들 모델의 안전성 문제는 심각한 상황이다.
미국 정부 웹사이트에서 중국 AI 모델 제거
미국 정부 관계자들이 연방 등록 웹사이트에서 중국의 AI 검색 도구를 제거했다. 이는 미국 법 집행 기관이 이러한 모델이 미국의 선진 모델을 불법적으로 복제한다고 주장한 가운데 발생했다. FBI는 알리바바를 포함한 여섯 개의 중국 기업이 산업 규모의 데이터 증류를 수행하고 있다고 지적했다. 알리바바의 Qwen AI 모델이 언제부터 사용되었는지는 불확실하다.
FBI는 알리바바의 Qwen 모델이 미국의 AI 경쟁력을 저해할 수 있다고 주장하고 있다.
Dario Amodei, AI 개발의 안전성 평가 및 협력 방안 제시
Anthropic의 CEO Dario Amodei는 AI 개발의 '경계를 조절'하기 위한 계획을 발표했다. 이 제안은 독립적인 안전성 평가자와 민주 국가의 AI 연구소 간의 협력을 강조하며, 일부 산업의 지지를 받고 있지만 Nvidia의 Jensen Huang으로부터 반발도 받고 있다.
Dario Amodei의 제안은 AI 개발의 안전성을 높이기 위한 새로운 접근 방식을 제시하고 있다.
Salesforce, Anthropic 및 OpenAI 챗봇 통합 발표
Salesforce CEO Marc Benioff는 2024년 AgentForce에 대한 계획을 수정하고 Anthropic 및 OpenAI 챗봇을 고객의 선호 UI로 채택할 것이라고 발표했다. 이는 Salesforce가 AI 흐름에 맞춰 나아가고, 이에 대한 프리미엄을 부과할 것임을 의미한다. 또한, Salesforce는 UI를 방어선으로 삼는 대신 AI와 함께 나아가는 전략을 선택했다.
Salesforce는 Anthropic 및 OpenAI 챗봇을 고객의 선호 UI로 채택함으로써 AI 통합의 중요성을 강조하고 있다.
Amazon Bedrock에서 Kimi K3 출시
Moonshot AI의 Kimi K3가 Amazon Bedrock에서 제공되며, 2.8조 개의 파라미터를 가진 최초의 오픈 모델이다. Kimi K3는 1백만 토큰의 컨텍스트 윈도우와 함께 네이티브 비전 기능을 결합하고, Kimi K2에 비해 약 2.5배의 스케일링 효율성을 제공한다. 또한, Kimi K3는 명시적 프롬프트 캐싱을 지원하여 모델 호출 간 컨텍스트 재사용 시 지연 시간과 입력 비용을 줄일 수 있다.
Kimi K3는 2.8조 개의 파라미터를 가진 최초의 오픈 모델로, 장기적인 코딩 및 지식 작업에 적합하다.
OpenAI와 Anthropic의 AI 연구 속도 조절 결정
Silicon Valley와 워싱턴에서 AI에 대한 비관적 시각이 조정된다는 주장이 나오고 있다. OpenAI와 Anthropic은 AI 연구 속도를 늦추기로 한 합의에 혼란을 겪고 있으며, 이는 IPO를 준비하는 스타트업의 행동과는 거리가 있다. OpenAI는 10년 이상 존재했지만, 실제 설립은 4년 전 챗봇 출시 이후로, 그 전에는 연구소로 운영되었다. Anthropic의 IPO는 2조 달러의 가치를 목표로 하여 SpaceX의 기록을 초과할 가능성이 있다.
Anthropic의 IPO는 2조 달러의 가치를 목표로 하고 있다.
할리우드, AI의 인류 파괴 가능성 경고에 대한 반응
기술 분야에서 AI의 인류 파괴 가능성에 대한 경고가 제기되는 가운데, 엔터테인먼트 노동 단체들은 현재 진행 중인 문제에 집중할 것을 촉구하고 있다. The Verge는 디즈니, 넷플릭스, 아마존, 라이온스게이트 등 AI를 사용하기 시작한 스튜디오와 생성적 AI를 주류로 끌어들이려는 영화 스타트업에 최근 경고에 대한 반응을 요청했으나, 응답이 없었다. 그러나 스크린 배우 조합(SAG-AFTRA)과 미국 작가 조합 동부(WGAE)는 반응을 보였다.
AWS의 AI 서비스 개발자 James Gung의 경력과 연구
James Gung은 AWS의 수석 응용 과학자로, 2021년부터 Lex, Bedrock, Q Business, Amazon Quick와 같은 AI 서비스를 개발해왔다. 그는 대화형 AI 시스템과 관련된 연구를 진행했으며, 콜로라도 대학교에서 컴퓨터 과학 박사 학위를 받았다. Gung은 09/21에 AMA 세션을 통해 자신의 경력과 연구에 대해 질문을 받았다.
James Gung은 AWS에서 Lex와 Bedrock과 같은 AI 서비스를 개발하며, 대화형 AI 시스템에 대한 연구를 수행하고 있다.
Prism-LM Bonsai 2 모델, Qwen3.8 벤치마크에서 91.5% 달성
Prism-LM이 Qwen3.8 기반의 Bonsai 2 QAT 모델을 출시했다. 이 모델은 평가에서 약 91.5%의 성능을 기록하며, 처리량과 품질 간의 균형을 잘 맞추고 있다. Bonsai 2는 Qwen3.8 생태계에서 중요한 부분이 되었으며, 동일한 평가 방법론을 사용하여 다른 모델들과 비교할 수 있는 기준점을 제공한다.
Bonsai 2 모델은 Qwen3.8 벤치마크에서 91.5%의 성능을 기록하여, 품질, 모델 크기, 처리량 간의 트레이드오프를 이해하는 데 중요한 참고자료가 된다.
Amazon Bedrock AgentCore로 다중 모델 AI 에이전트 마이그레이션
조직들이 다중 모델 에이전틱 AI 애플리케이션을 구축하면서 인프라 복잡성이 증가하고 있다. Amazon Bedrock AgentCore는 에이전트를 규모에 맞게 구축하고 연결하며 최적화할 수 있는 플랫폼으로, 관리형 배포 기능을 제공하여 컨테이너 생애 주기, 스케일링, 아이덴티티 및 관찰 가능성을 처리한다. 이 솔루션은 기존 에이전트 로직을 유지하면서 다중 모델 헬스케어 AI 에이전트를 Amazon Bedrock AgentCore 런타임으로 마이그레이션하여 운영 오버헤드를 줄인다.
Amazon Bedrock AgentCore는 에이전트 코드에 집중할 수 있도록 인프라 관리를 단순화한다.
Amazon Bedrock AgentCore의 새로운 런타임 출시
Amazon Bedrock AgentCore의 새로운 런타임이 발표되었다. 이 런타임은 메모리 관리 개선, 일관된 콜드 스타트 시간 제공, 서버리스 모델을 기반으로 하여 에이전트의 속도와 유연성, 비용 효율성을 높인다. 사용자는 소비한 만큼만 요금을 지불하며, 에이전트가 작업을 처리하지 않을 때는 비용이 발생하지 않는다.
AgentCore 런타임은 에이전트의 메모리 사용을 최적화하고, 작업 부하에 따라 자동으로 확장 및 축소되므로, 개발자는 인프라 관리에 대한 부담을 줄일 수 있다.
해커들이 Claude Opus를 이용해 OpenAI 직원 계정 해킹
Hacktron의 독립 보안 연구팀이 Anthropic의 Claude Opus 4.8과 5를 사용하여 OpenAI 직원 계정에 해킹하는 데 72시간도 걸리지 않았다고 보도됐다. 이들은 OpenAI의 GitHub 저장소인 'Monorepo'에 접근할 수 있었으며, 이곳에는 OpenAI의 알고리즘 비밀이 포함되어 있다고 전해진다. 내부 코드는 직접 접근하지 않았지만, 직원의 Codex 계정에서 풀 리퀘스트를 보내 접근을 증명했다. 해킹 경로는 OpenAI 커뮤니티를 호스팅하는 제3자 서비스인 Discourse를 통해 이루어졌다.
Claude Opus 4.8과 5를 사용하여 OpenAI의 GitHub 저장소에 접근한 사례는 AI 도구의 보안 취약점을 드러낸다.
Amazon SageMaker AI에서 Hugging Face 모델 배포하기
Hugging Face 모델을 Amazon SageMaker AI에 배포하려면 적절한 서빙 컨테이너 선택, AWS 리전의 현재 이미지 태그 확인, 모델의 메모리 요구에 맞는 인스턴스 유형 선택 등의 결정을 내려야 한다. 또한, 자동 확장을 설정하고 Amazon CloudWatch 경고를 설정하여 사용자가 문제를 발견하기 전에 조치를 취해야 한다. 이 과정에서 Kiro와 Claude Code와 같은 코딩 에이전트를 사용하면 반복 가능한 작업을 자동화할 수 있으며, Hugging Face Skills를 설치하여 실시간 엔드포인트를 생성할 수 있다.
Hugging Face Skills를 사용하면 AWS Deep Learning Containers 카탈로그에서 적절한 서빙 컨테이너를 선택하고, 실시간 엔드포인트를 자동으로 설정할 수 있다.
AI와 원자력의 역사적 유사성에 대한 경고
저명한 연구자가 AI의 발전이 사회에 큰 이익을 줄 수도 있지만 파괴적 결과를 초래할 수 있다고 경고하고 있다. 1941년 아서 H. 컴프턴은 원자 에너지의 가능성에 대해 강연하며, 당시에도 기술의 위험성에 대한 논의가 있었다고 전했다. 1945년 원자폭탄의 등장은 문명에 대한 위협으로 인식되었으며, 이후 미국은 1975년 원자력 규제 위원회를 설립했다.
AI의 발전이 사회에 미치는 영향에 대한 논의는 과거 원자력의 역사와 유사한 점이 많다.
AI 코드 생성 시 검토 필요성과 AI 활용에 대한 기업의 기대
AI가 생성한 코드를 읽어야 하며, 모든 생성된 코드가 동일한 주의가 필요한 것은 아니다. AI 도구 사용에 대한 질문이 증가하고 있으며, 개발자는 AI 사용 시기와 수동 작업 시기를 설명할 수 있어야 한다. RAG(검색 보강 생성)는 여전히 유효하며, 모델이 훈련 데이터 외의 관련 정보를 활용할 수 있도록 돕는다.
AI 도구를 사용하는 것이 소프트웨어 개발의 일부가 되고 있으며, 기업은 후보자가 AI를 어떻게 활용하는지에 대한 판단을 중요하게 여긴다.
AI로 인한 존재적 위험에 대한 선호 캐스케이드가 시작되다
현재 AI로 인한 존재적 위험에 대한 선호 캐스케이드가 진행 중이다. 최근 Politico의 여론 조사에 따르면, 미국인의 약 66%가 AI가 인류를 파괴할 위험이 있다고 응답했으며, 이는 약 30%-33%의 평균 가능성을 의미한다. 또한, AI 연구자들은 AI가 인류를 멸종시킬 확률을 약 18%로 추정하고 있다. Elon Musk는 AI 규제의 필요성을 강조하며, 독립적인 AI 규제 기관의 설립 가능성을 언급했다.
AI 연구자들은 AI가 인류를 멸종시킬 확률을 약 18%로 추정하고 있으며, 이는 AI 안전성에 대한 논의의 중요성을 강조한다.