AI 뉴스
DeepSeek V4.1 Flash 1017 공개, 오픈웨이트 중 Artificial Analysis 지능 지수 45점으로 2위권
DeepSeek V4.1 Flash 1017은 552B 총 파라미터·16B 활성 MoE 구조에 1M 토큰 컨텍스트와 MIT 라이선스로 공개됐다. Artificial Analysis 지능 지수 45점으로 오픈웨이트 모델 중 GLM-5.3과 함께 2위에 올랐다. 가격은 피크 시간대 기준 입력 100만 토큰당 $0.30, 출력 $1.20으로 이전과 같고, 오프피크에는 절반이며 캐시 적중 시 입력은 $0.006이다. DeepSeek API와 Fireworks, Baseten, DeepInfra, Cloudflare, Together 등에서 쓸 수 있다. Artificial Analysis 기준 GDPval-AA Elo는 146 오른 1746, CritPt는 14%에서 24%로 상승했고, AA-Omniscience의 비환각 응답률은 4%에서 33%로 올랐다. Code Arena WebDev에서는 오픈 모델 1위(전체 12위, 1670점)를 기록했고, Agent Arena에서도 오픈 모델 1위였다. 로컬 실행용으로는 Unsloth가 llama.cpp 구현과 동적 GGUF를 공개했다. Artificial Analysis는 MiMo-V2.6-Pro와 GPT-6.1 Sol(medium)이 더 낮은 작업당 비용으로 더 높은 점수를 낸다고 명시했다. 작업당 비용은 Agent Arena 기준 중앙값 $0.20이며, 한 테스터는 에이전트 실행 개선이 추론 개선보다 크다고 보고했다. 다만 해당 비교에는 모델 업데이트와 함께 DeepSeek Harness 0.2.1 변경이 포함돼 있어 순수한 모델 효과로 보기는 어렵다고 지적됐다.
DeepSeek V4.1 Flash 1017의 1M 토큰 컨텍스트와 $0.30/$1.20 가격은 에이전트 코딩 워크플로에 오픈웨이트 모델을 붙일 때의 비용 기준점이 된다.
바르셀로나 슈퍼컴퓨팅 센터의 AI 팩토리 가속기 프로그램 운영
바르셀로나 슈퍼컴퓨팅 센터(BSC)의 AI 팩토리 가속기 프로그램이 본격 운영 중이며, 스타트업에 독립적인 컴퓨팅, 기술 지원 및 교육을 제공한다. 이 프로그램은 NVIDIA Inception 프로그램과 연계되어 있으며, BSC AI 팩토리의 일부 서비스는 NVIDIA Inception 포털을 통해 이용 가능하다. BSC AI 팩토리는 스페인 최초의 AI 팩토리로, 2025년 4월 출시 이후 800개 이상의 서비스를 제공했다. Qatium, OneCareAI, Avatia 등 스타트업들이 이 프로그램의 AI 챔피언으로 선정되었으며, 각각의 기술은 물 관리, 심장 리듬 감지, 제약 정보 제공에 활용되고 있다.
Qatium의 Neural Water Intelligence 기술은 MareNostrum 5에서 훈련된 AI 모델을 활용하여 250개 이상의 유틸리티에서 운영 결정을 개선하는 데 기여하고 있다.
Cursor, 코드로 정의하는 에이전트 SDK 'Agent SDK' 정식 출시
Cursor(Anysphere)가 Agent SDK를 정식 출시했다. 에이전트를 코드 폴더로 정의하고, evals로 테스트한 뒤 Cursor 또는 자체 인프라에 배포할 수 있다. 'npx @cursor/agent-sdk init ./my-bot'으로 시작하고 'agent-sdk dev'로 로컬 playground에서 실행한다. 에이전트는 하나의 프로젝트 폴더로 구성된다. instructions.md가 프롬프트이고, tools/의 각 파일이 모델이 호출할 수 있는 타입이 지정된 액션 하나다. skills/에는 모델이 필요할 때 불러오는 절차가, mcp-connections/에는 MCP 서버에서 가져오는 도구가, channels/에는 메시지를 받고 응답하는 채널이 정의된다. 'agent-sdk validate'로 프로젝트를 검증하고 'agent-sdk info'로 발견된 구성 요소를 출력한다. 채널은 GitHub, GitLab, Bitbucket의 풀 리퀘스트·댓글·CI 이벤트, Slack의 멘션과 DM, 임의 제공자의 웹훅, cron 스케줄을 트리거로 쓸 수 있다. GitHub 이벤트는 Cursor 계정을 통해 전달되어 공개 웹훅 URL이 필요 없다. 'agent-sdk eval'은 고정된 메시지를 봇에 보내고 실행된 도구와 입력, 응답 형태를 검증한다. 'agent-sdk github replay <pr-url>'은 실제 풀 리퀘스트를 서명된 웹훅 페이로드로 바꿔 봇에 전달하며, '--dry-run --fixtures-dir fixtures/' 옵션으로 페이로드를 eval 픽스처로 저장할 수 있다. 'agent-sdk deploy'는 프로젝트를 빌드해 URL을 부여하고 Cursor 인프라에서 실행한다. 시크릿과 통합은 대시보드에서 관리한다.
'agent-sdk github replay'로 실제 풀 리퀘스트를 재생해 푸시를 기다리지 않고 GitHub 기반 봇을 테스트할 수 있고, '--dry-run --fixtures-dir' 옵션으로 페이로드를 eval 픽스처로 저장할 수 있다.
프로그래밍의 즐거움과 LLM의 영향
Jeremy Scheff는 프로그래머들이 코드 개발의 퍼즐을 즐겼던 시절의 상실을 언급하며, 프로그래밍이 복잡한 논리 퍼즐을 해결하는 직업이었다고 설명한다. LLMs는 시스템 구축에 집중하는 프로그래머에게는 유용하지만, 문제 해결을 즐기는 이들에게는 그 상실이 실질적이라고 지적한다.
프로그래밍의 즐거움이 LLMs의 도입으로 상실될 수 있다는 점은 프로그래머의 직업 만족도에 영향을 미칠 수 있다.
CoreWeave의 부채가 AI 산업에 미치는 영향
CoreWeave의 채권이 투자자들이 정부 채권보다 1,000 베이시스 포인트 더 높은 수익을 요구하는 distressed territory에 진입했다. Chamath Palihapitiya는 AI 구축이 사모 신용 버블인지 의문을 제기했으며, CoreWeave의 주가는 화요일 종가 이후 20% 이상 하락했다. 이로 인해 다른 AI 기업들도 영향을 받은 것으로 보인다.
CoreWeave의 부채 문제는 AI 산업 전반에 걸쳐 투자자 신뢰에 영향을 미칠 수 있다.
ChatGPT 음성 모드가 GPT-Live-1.1로 바뀌며 한국어 목소리 햇살·한울이 추가됐다
OpenAI가 10월 15일 ChatGPT 음성 모드를 GPT-Live-1.1 모델로 바꿨다. 이번 업데이트의 가장 큰 변화는 목소리이며, 한국어에는 햇살과 한울 두 개의 새 목소리가 들어왔다. 프랑스어, 독일어, 힌디어, 일본어, 한국어, 멕시코 스페인어에 새 목소리가 추가됐고 영어에는 Bubbie가 더해졌다. 언어별 목소리 목록은 OpenAI 도움말 센터 표에서 이름까지 확인할 수 있다. 기사는 무료 사용자와 유료 사용자가 만나는 모델이 서로 다르다는 점도 짚었다.
한국어 음성 목소리 햇살과 한울이 GPT-Live-1.1 업데이트로 추가되어, 한국어 음성 기능을 붙이는 개발자는 OpenAI 도움말 센터의 언어별 목소리 표에서 이름을 확인할 수 있다.
AI 에이전트 평가의 새로운 동향
프린스턴 대학의 연구팀은 AI 에이전트 평가의 개선을 위해 3년간 작업해왔으며, 스탠포드, 영국 AI 보안 연구소, 브루킹스와 협력하여 'Emerging Trends in AI Agent Evaluation'이라는 논문을 발표했다. 이 논문에서는 AI 에이전트 평가의 과학, 방법론, 연구 의제 및 평가 생태계의 세 가지 차원에서의 동향을 종합하고 있으며, 평가자와 자금 지원자, 대중이 질문할 수 있는 질문 세트와 실행 가능한 권장 사항을 제공한다. AI 에이전트의 평가가 모델 평가보다 복잡하며, 평가 인프라 구축과 유지에 상당한 엔지니어링 노력이 필요하다는 점도 강조된다.
AI 에이전트 평가에 대한 33가지 새로운 동향을 제시하며, 평가의 복잡성과 필요성을 강조한다.
독일, NVIDIA와 함께 산업 AI 선도 계획 발표
독일 총리 프리드리히 메르츠와 NVIDIA CEO 젠슨 황이 베를린에서 독일의 AI 로드맵과 산업 AI 응용에 대해 논의했다. 양측은 독일의 제조업과 자동차 산업의 강점을 활용하여 AI 혁명을 최대한 활용할 방안을 모색했다. 메르츠 총리는 중소기업의 데이터 활용을 강조하며 AI 통합의 중요성을 언급했다. NVIDIA는 독일 스타트업에 대한 새로운 투자를 발표하며, 독일의 AI 생태계 발전에 기여할 계획을 밝혔다.
NVIDIA는 독일의 스타트업에 대한 새로운 투자를 통해 AI 기술과 제조업의 융합을 촉진할 예정이다.
AI가 방사선 전문의를 자동화하지 않을 것이라는 예측
AI가 방사선학 분야에서 완전 자동화되기까지는 3-5년이 걸릴 것으로 예상되며, 초기에는 AI가 triage 도구로 사용될 것이다. 방사선학의 수요는 AI 도구로 인해 증가할 것이며, 저렴한 해석 비용으로 인해 의사들은 더 많은 스캔을 요청할 수 있다. 또한, 새로운 스캐너와 치료 프로토콜 개발로 인해 방사선 전문의의 역할이 변화할 가능성이 있다.
AI가 방사선학에서 triage 도구로 활용되면 방사선 전문의는 수많은 스캔을 해석해야 할 수 있으며, 이는 방사선학의 수요 증가로 이어질 것이다.
AI 코드 리뷰 비용 68% 절감
Cloudflare는 AI 코드 리뷰의 평균 비용을 2.43달러에서 0.77달러로 68% 절감했다. 이는 코드 리뷰어의 최적화와 모델 실험을 통해 이루어졌으며, 리뷰 시간도 4분 9초에서 1분 32초로 단축되었다. 리뷰어는 OpenCode v2로 전환되었고, 기존의 v1과 비교해 98%의 일치율을 보였다. 또한, 캐시 적중률은 85.7%에서 97%로 증가했다.
AI 코드 리뷰의 평균 비용이 2.43달러에서 0.77달러로 감소했다는 점은 비용 효율성을 높이는 데 중요한 의미를 가진다.
VS Code에서 GitHub Copilot 앱 세션 계속하기
GitHub Copilot 앱에서 작업을 완료한 후, Visual Studio Code(VS Code)에서 세션을 열고 코드 변경 사항을 검토하고 수정할 수 있다. 사용자는 Copilot 앱 세션을 VS Code에서 직접 열어 대화, 코드 변경 및 작업 맥락을 유지한 채로 작업을 계속할 수 있다. 이 과정에서는 변경 사항을 검토하고, 직접 수정을 하며, 로컬에서 프로젝트를 실행하여 검증할 수 있다. 세션을 시작하기 위해서는 GitHub Copilot 앱이 설치되어 있어야 하며, VS Code와 동일한 GitHub 계정에 연결되어 있어야 한다.
VS Code에서 GitHub Copilot 앱 세션을 계속함으로써 개발자는 반복적이고 시간이 소요되는 작업을 Copilot에 맡기고, 최종 검토 및 수정을 직접 수행할 수 있다.
AI 에이전트의 확산이 웹 사용자 경험에 미치는 영향
최근 개인 AI 에이전트의 출현으로 웹 사용자가 봇과 사람 두 가지로 나뉘던 구분이 무너지고 있다. OpenAI의 Dots와 Meta의 Muse와 같은 앱이 출시되면서 에이전트의 웹 트래픽이 급증하고 있으며, Muse는 출시 첫 달에 500만 회 다운로드를 기록했다. 그러나 많은 웹사이트가 AI 에이전트를 차단하고 있으며, Amazon은 Perplexity의 에이전트를 차단하기 위한 법적 분쟁을 벌이고 있다. 이러한 변화는 사용자 경험에 부정적인 영향을 미칠 수 있으며, AI 에이전트의 수요가 증가할 경우 웹사이트가 에이전트에 맞춰 재설계될 가능성이 있다.
AI 에이전트의 사용이 증가함에 따라, 웹사이트는 사용자 경험을 개선하기 위해 에이전트를 수용하는 방향으로 변화할 수 있다.
Clairic: 새로운 System One 클래스의 추출 모델 소개
Cloudflare는 새로운 System One 스타일의 추출 모델 Clairic을 발표했다. Clairic은 비구조적 입력에서 값을 추출, 계산, 추정 및 예측할 수 있으며, 기존 LLM보다 더 높은 정확도와 빠른 응답 속도를 제공한다. Clairic은 입력에서 직접 값을 추출하거나 예측하며, 출력에는 신뢰도 점수가 포함된다. 이 모델은 80%의 범위로 숫자를 반환하고, 이름, 날짜, 목록과 같은 유형화된 값을 추출할 수 있다.
Clairic은 비구조적 데이터에서 직접 값을 추출하고 예측할 수 있어, 기존 LLM보다 더 빠르고 저렴하게 작업을 수행할 수 있다.
Goodfire의 Nick Cammarata, LLM 이해에 대한 새로운 주장 제기
AI 스타트업 Goodfire의 연구원 Nick Cammarata는 LLM이 이전에 생각했던 것보다 이해하고 제어하기 쉬울 수 있다는 주장을 담은 26,000단어의 블로그 포스트를 발표했다. 그는 신경망의 내부 구조에 대한 새로운 통찰을 제공하며, 과거의 연구들이 신경망을 복잡하게만 바라보았다고 주장했다. 그러나 이 주장은 일부 연구자들에 의해 회의적으로 받아들여지고 있으며, Cammarata는 신경망의 논리를 이해하기 위해 많은 시간을 투자했다고 밝혔다.
NVIDIA CUDA Tile을 통한 GPU 프로그래밍 성능 향상
NVIDIA CUDA Tile (cuTile)은 NVIDIA GPU를 위한 Python 기반 DSL 및 병렬 프로그래밍 모델로, 고급 하드웨어 기능을 자동으로 활용하여 타일 수준의 GPU 프로그래밍에서 최적의 성능을 제공합니다. cuTile은 스레드 및 와프 수준의 스케줄링을 추상화하여 타일 중심의 고수준 원시를 통해 GPU 커널을 Python으로 작성할 수 있게 합니다.
cuTile은 GPU 커널을 Python으로 작성하면서 컴파일러 최적화를 자동으로 적용할 수 있게 해줍니다.
AI 코딩 도구로 게임 클론 제작 효율화, 개발자들 우려
비디오 게임 산업에서는 경쟁 게임의 클론을 만드는 것이 일반적이지만, AI 코딩 도구가 이 과정을 더욱 효율적으로 만들어 많은 개발자들이 초기 작업을 널리 공유하는 것에 대해 조심스러워하고 있다. 개발자 Alliance Arts는 자사의 게임 'Drunken Goddess Reflux'의 공개 데모 출시를 연기했으며, 이는 AI나 다른 도구를 사용해 게임의 프레젠테이션과 게임플레이를 빠르게 모방할 수 있다는 우려 때문이라고 밝혔다.
Alliance Arts는 AI를 통해 자사의 게임 콘텐츠가 빠르게 모방될 수 있다는 우려로 공개 데모를 연기했다.
Deepgram의 Nova-3 모델을 AWS Trainium2로 최적화
Deepgram은 음성 AI 모델을 통해 연간 수조 개의 오디오 토큰을 처리하며, 200,000명의 개발자와 1,400개 조직이 사용하고 있다. Deepgram은 AWS Trainium2를 활용하여 Nova-3 모델을 오프라인 배치 작업에 맞게 최적화했다. 이 최적화로 인해 Deepgram은 동일한 인프라 예산으로 11~70% 더 많은 오디오를 처리할 수 있게 되었다.
Deepgram의 Nova-3 모델이 AWS Trainium2에서 11~70% 더 많은 오디오를 처리할 수 있게 되어, 비용 효율성을 높이고 고객에게 더 나은 모델을 제공할 수 있다.
vLLM의 푸시 기반 KV 전송으로 TTFT 및 TPOT 개선
vLLM은 대형 언어 모델(LLM)을 위한 오픈 소스 추론 및 서비스 엔진이다. 이 글에서는 푸시 기반 NIXL 커넥터를 통해 KV 캐시 전송을 최적화하여 시간-첫-토큰(TTFT)과 출력-토큰 당 시간(TPOT)을 개선하는 방법을 설명한다. 벤치마크 결과, Amazon EC2 P5en 인스턴스에서 푸시 모드는 풀 모드에 비해 TTFT를 최대 3배 개선하고 TPOT을 최대 30% 향상시켰다.
푸시 모드는 vLLM에서 높은 요청 속도에서 TTFT와 TPOT을 개선하여 애플리케이션 응답성을 높인다.
vLLM에서 양방향 KV 전송으로 다중 턴 작업의 TTFT 개선
다중 턴 에이전트 작업은 누적된 컨텍스트를 기반으로 하며, 각 턴마다 클라이언트는 대화 기록을 다시 전송한다. 기존의 분산 서비스는 KV 캐시를 한 방향으로만 전송하여 비효율이 발생한다. 양방향 KV 전송을 통해 프리필 노드와 디코드 노드가 이전에 계산된 컨텍스트를 재사용할 수 있어, TTFT를 Qwen3-32B에서 최대 1.6배, zai-org/GLM-5-FP8에서 최대 3.3배 감소시킨다. 이 기능은 AWS Trainium 인스턴스 클러스터에서 검증되었으며, AWS EFA를 통해 GPU 간 KV 블록을 직접 이동할 수 있다.
양방향 KV 전송은 프리필 노드가 이전 턴에서 생성된 KV를 재사용할 수 있게 하여, 계산 중복을 줄이고 TTFT를 개선한다.
Laminar, RL로 에이전트 오류 탐지 모델 flow-1 출시
Laminar는 2024년부터 AI 에이전트의 오픈 소스 관찰 가능성을 구축해왔으며, 최근 RL로 훈련된 모델 flow-1을 출시했다. 이 모델은 GPT-6-sol과 동일한 탐지 품질을 가지면서도 23배 저렴하다. flow-1은 에이전트 트레이스를 분석하여 오류를 찾고, JSON 형식으로 결과를 반환하며, 유사한 신호 이벤트를 자동으로 클러스터링하여 반복적인 문제를 식별할 수 있다. Laminar는 Apache 2.0 라이선스 하에 제공되며, 자체 호스팅이 가능하다.
flow-1은 에이전트 트레이스를 분석하는 데 있어 23배 저렴한 비용으로 높은 품질의 오류 탐지를 제공한다.
NVIDIA, 유럽 방송사와 협력하여 미디어 보안 강화
베를린에서 열린 창의 산업 행사에서 유럽 방송 연합(EBU)과 NVIDIA가 협력하여 클라우드, 오픈 모델 및 통합 파트너와 함께 자주적인 프레임워크를 확장한다고 발표했다. Adobe Frame.io는 NVIDIA GPU를 활용하여 비디오 에이전트 검색 기능을 가속화하고 있다. EBU는 115개 이상의 회원 조직을 보유하고 있으며, 방송사들이 데이터, 인프라 및 보안을 관리하면서 에이전트를 배포할 수 있는 기준을 정의할 예정이다. Adobe는 NVIDIA 가속 컴퓨팅을 통해 비디오 콘텐츠 검색 속도를 약 5배 향상시키고, 비디오 인코딩 및 디코딩을 가속화하여 생산 팀이 미디어 라이브러리를 보다 효율적으로 처리할 수 있도록 지원하고 있다.
Adobe Frame.io는 NVIDIA NVDEC와 TensorRT를 사용하여 비디오 검색 속도를 약 5배 향상시키고, 비디오 인코딩 및 디코딩을 가속화하여 생산 팀의 효율성을 높인다.
Disney, Character.AI의 소송 없이 인수하는 방법 찾다
Character.AI가 이번 주 파산을 선언했다. 이는 Disney가 Character.AI의 대부분 직원과 기술을 인수하면서 법적 책임을 피하기 위한 거래의 일환으로 보인다. Character.AI는 최근 몇 년간 챗봇의 안전성 문제로 여러 건의 개인 소송과 전 세계 규제 기관의 조사를 받았다. Character.AI의 새 CEO는 파산의 목표가 개인 상해 청구자들과의 합의 도출 및 주 정부 조사 그룹과의 협상이라고 설명했다.
Disney는 Character.AI의 기술을 인수하면서도 법적 책임을 회피할 수 있는 구조로 거래를 진행했다.
JB Pritzker 일리노이 주지사, AI와 정부의 역할에 대한 의견
일리노이 주지사 JB Pritzker는 AI와 기술이 개인의 삶에 미치는 영향을 논의하며, 정부가 시민을 보호하기 위해 더 적극적으로 나서야 한다고 강조했다. 그는 정부와 대기업 간의 관계가 변화하고 있으며, 정부가 시민의 권리를 지키는 역할을 해야 한다고 주장했다.
Pritzker 주지사는 정부가 기술 발전에 대응하여 시민을 보호해야 한다고 언급하며, 이는 AI와 관련된 정책 결정에 중요한 시사점을 제공한다.
해커, AI 에이전트로 John Deere와 SharkNinja 해킹
AI 보안 회사 Norforge의 조사에 따르면, 해커가 AI 에이전트를 사용해 100개 이상의 웹사이트에 침입했다. 피해자로는 John Deere, SharkNinja, Cummins 등이 포함된 것으로 보도되었다. AI 기반 사이버 보안 침해에 대한 우려가 커지고 있으며, 해커들은 이러한 도구를 사용해 대규모 공격을 수행하고 있다.
AI 기반 사이버 공격이 증가함에 따라 기업들은 보안 시스템을 강화할 필요성이 있다.