AI 프로덕트·스타트업
AI 프로덕트·스타트업은 모델을 감싸 실제 사용자 가치를 파는 영역이다. 데모는 쉽지만 신뢰성·단가·해자 없는 래퍼라는 벽에 부딪힌다. 한국 시장에선 결제·법무·개인정보 규제까지 함께 풀어야 출시에 닿는다. 기술보다 PMF와 운영 완성도가 생존을 가른다.
Anthropic, OpenAI, Meta의 AI 모델 업데이트 및 ODSC AI West 2026 개최
2026년 9월 26일에 녹음된 258번째 에피소드에서는 Anthropic이 Opus 5.5를 출시하며 가격 인하, 성능 향상, 사이버 보안 접근 확대를 발표했다. OpenAI는 저렴한 GPT-6 tiers인 Sol과 Luna를 출시했으며, Meta의 Muse는 Mac으로 확장되었다. ODSC AI West 2026은 10월 27일부터 29일까지 샌프란시스코에서 개최되며, 300개 이상의 세션이 진행된다.
AI 채택과 컴퓨팅 수요에 대한 David George와 Jack Altman의 논의
a16z의 David George는 Jack Altman과 함께 AI의 주요 논의가 잘못된 방향으로 설정되고 있다고 주장한다. 그는 AI 채택이 소수의 사용자에게 집중되어 있으며, 여러 레이어가 동시에 성장할 여지가 있다고 설명한다. 또한, 컴퓨팅 수요가 공급을 초과하는 이유와 소비자 AI가 반응형 챗봇에서 능동형 어시스턴트로의 전환을 시작하고 있음을 논의한다. 이들은 자율성, 로봇공학, 헬스케어, 기술 회사의 다음 세대에 대해서도 이야기한다.
2026년까지 AI 투자 2.5조 달러 예상, 기업 AI 운영 모델 변화 필요
2026년까지 전 세계 AI 투자가 2.5조 달러에 이를 것으로 예상되며, 이는 전년 대비 44% 증가한 수치이다. 그러나 많은 기업들이 AI를 효과적으로 통합하지 못하고 있으며, 데이터와 프로세스의 실시간 연결이 필요하다. 기업 AI의 확장 문제는 구조적이며, 데이터 준비 상태가 AI의 효과성을 높이는 데 중요하다. AI 모델과 도구의 변화에 맞춰 조정 가능한 아키텍처가 필요하다.
AI에 대한 대중의 사랑과 혐오가 공존하는 현상
여름 동안 Springboards의 CEO와 대화한 내용에 따르면, AI에 대한 대중의 태도는 사랑과 혐오가 공존하고 있다. Pew Research Center에 따르면, 미국 성인 중 더 많은 이들이 AI가 개인과 사회에 부정적인 영향을 미칠 것이라고 생각하고 있으며, 스탠포드 대학의 보고서에 따르면 전 세계적으로 50% 이상의 사람들이 AI 제품과 서비스에 대해 불안감을 느끼고 있다. 반면, ChatGPT는 5월에 월 10억 사용자에 도달했으며, Google DeepMind의 Gemini는 7월에 9억 5천만 사용자를 기록했다. 미국 성인의 절반이 챗봇을 사용한다고 응답했으며, OECD 국가의 3분의 1 이상이 최근 3개월 내에 생성 AI 도구를 사용한 경험이 있다고 보고했다.
Meta의 소비자 에이전트 시장 진출과 OpenAI의 혼란스러운 Dev Day
Ben Thompson은 Meta가 소비자 에이전트 시장을 소유할 기회를 가지고 있지만, 기업 시장으로의 진출은 큰 실수라고 언급했다. OpenAI의 Dev Day는 새로운 가격대와 중복 제품 등 혼란스러운 메시지를 보여주었으며, 이는 12개월 전의 혼란스러운 상황을 떠올리게 한다. 또한, 제품 전환에 대한 비전이 더 있을 수 있다고 평가했다.
NVIDIA DSX MaxLPS의 AI 공장 처리량 및 효율성 극대화
NVIDIA DSX MaxLPS는 정책 기반의 전력 공유를 통해 참여 자원 간에 전력을 동적으로 할당하여 AI 공장의 처리량과 효율성을 극대화한다. 이는 GPU가 최대 전력에 도달할 가능성이 낮은 상황을 대비하여 설계된 AI 공장에서 발생할 수 있는 전력의 낭비를 줄이는 데 기여한다.
AWS에서 Claude Platform의 다중 환경 접근 구현
Claude Platform on AWS(CPonAWS)의 추론은 AWS의 프로덕션 작업, 개발자 노트북, 외부 서비스에서 필요하다. 각 환경은 서로 다른 인증 요구 사항이 있지만, 모든 환경은 단일 구독을 공유하며 프로덕션과 개발 트래픽 간의 작업 공간 수준 격리가 필요하다. 이 글에서는 전용 AI 서비스 계정을 배포하고 AWS 작업에 대한 교차 계정 SigV4를 구성하는 방법을 안내하며, 개발자를 위한 작업 공간 범위 API 키 생성 및 외부 환경을 위한 OIDC 연합 설정을 포함한다.
CoreWeave, NVIDIA Vera Rubin NVL72 시스템과 NVIDIA Vera CPU 출시
CoreWeave는 NVIDIA Vera Rubin NVL72 시스템과 Spectrum-X 102.4T 이더넷 네트워킹을 발표했다. Cognition은 Vera Rubin에서 Devin AI 소프트웨어 엔지니어의 생산 작업을 처음으로 실행하고 있으며, Vera Rubin NVL72는 GB200 NVL72 대비 최대 4.8배 높은 토큰 처리량을 제공한다. 또한 CoreWeave는 NVIDIA Vera CPU를 통해 11,264 코어를 갖춘 단일 랙에서 11,000개 이상의 동시 환경을 지원할 수 있다. CoreWeave Forge는 생산과 훈련 간의 루프를 통합하여 모델과 에이전트를 개선하는 데 기여한다.
AWS와 Google Cloud의 하드 예산 한도 기능 도입
하드 예산 한도(default hard budget caps)는 사용량 기반 서비스와 API에서 월 $X를 초과하면 서비스를 중단하고 오류를 반환하는 기능이다. AWS는 9월 16일에 프로젝트의 사용 패턴에 따라 월별 지출 한도를 설정할 수 있는 기능을 출시했다. Google Cloud는 7월에 특정 서비스에 대한 월별 재정 한도를 설정할 수 있는 Spend Caps 기능을 도입했다.
Nvidia Shield TV Pro 가격 100달러 인상
Nvidia는 Shield TV Pro의 가격을 즉시 299.99달러로 인상한다고 발표했다. 이 제품은 2019년에 출시된 Android TV 스트리밍 박스로, AI 업스케일링과 하드웨어 디코딩 기능을 갖추고 있다. Nvidia의 대변인은 메모리와 같은 부품 비용이 산업 전반에서 크게 증가했다고 밝혔다.
자기 홍보 스레드 게시 안내
사용자는 개인 프로젝트, 스타트업, 제품 배치, 협업 필요, 블로그 등을 이곳에 게시할 수 있습니다. 제품 및 서비스의 가격 요구 사항을 언급해야 하며, 링크 단축기나 자동 구독 링크는 게시하지 않아야 합니다. 신뢰를 남용할 경우 금지 조치가 취해질 수 있습니다. 이 스레드는 다음 스레드가 올라올 때까지 유지됩니다.
Cloudflare AI Search 일반 제공 시작 및 기능 확장
Cloudflare의 AI Search가 일반 제공을 시작했다. 이 서비스는 Workers AI, Vectorize, R2, Browser Run을 결합하여 관리되는 인덱스 및 검색 파이프라인을 제공한다. 새로운 기능으로는 텍스트 외에도 이미지 임베딩, PDF의 광학 문자 인식(OCR), 최대 10 MiB의 큰 파일 지원이 추가되었다. AI Search는 이미지 픽셀을 직접 임베딩하여 시각적 검색을 가능하게 하며, Qwen3-VL-Embedding 모델을 통해 네이티브 멀티모달 검색을 지원한다. 2026년 11월 1일부터 과금이 시작된다.
AI 도입 비용 증가, 정부와 기업의 부담 커져
AI 도입에 대한 논의가 이제는 효과성에서 지속 가능성으로 이동하고 있다. Bain & Company의 보고서에 따르면, AI 산업의 컴퓨팅 수요는 2031년까지 연간 6조 달러의 수익을 필요로 하며, 이 중 약 4.2조 달러는 아직 존재하지 않는 새로운 시장과 제품에서 발생할 것으로 예상된다. McKinsey의 보고서는 AI의 토큰 가격이 하락하고 있지만, 전체 비용은 증가하고 있다고 경고하고 있다. 특히 미국 정부 기관은 AI의 사용이 거의 비용이 없었던 상황에서 곧 큰 비용이 발생할 것이라고 지적했다.
NVIDIA DGX Spark 64GB, 로컬 AI 개발을 위한 새로운 구성 제공
NVIDIA DGX Spark가 64GB의 통합 메모리로 제공되며, Acer, ASUS, Dell, Gigabyte, HP, MSI와 같은 제조업체 파트너를 통해 출시된다. 이 시스템은 클라우드 의존 없이 로컬에서 AI 에이전트를 실행할 수 있으며, 두 대의 장치를 NVIDIA Sync Cluster Assistant를 통해 클러스터링하여 메모리를 128GB로 확장할 수 있다. DGX Spark는 최대 1000억 개의 매개변수를 지원하며, NVIDIA Agent Toolkit, CUDA-X AI 라이브러리, Nemotron 오픈 모델 등을 기본으로 제공한다. 가격은 4,999달러부터 시작된다.
Ahmad Al-Dahle, Airbnb CTO로 AI 네이티브 회사로의 전환 주도
Ahmad Al-Dahle는 2023년 1월 Airbnb의 CTO로 취임하기 전 Meta에서 생성적 AI를 담당하며 Llama 모델을 출시했다. Airbnb는 내부적으로 AI를 활용해 제품 개발을 가속화하고 고객 경험을 혁신하는 'inside-out AI' 접근 방식을 채택하고 있다. 현재 Airbnb의 코드의 60%가 AI에 의해 작성되었으며, 연간 기능 및 개선 사항이 80% 증가하고 평균 엔지니어의 풀 리퀘스트 처리량이 1.6배 증가했다. 고객 지원의 약 50%는 AI에 의해 해결되며, 이는 합성 데이터를 통해 시스템을 철저히 테스트한 결과이다.
오픈AI DevDay 2026에서 발표된 ChatGPT의 새로운 팀 협업 기능
오픈AI는 2026년 9월 29일 DevDay에서 ChatGPT의 새로운 팀 협업 기능을 발표했다. 이 기능에는 Slack과 Microsoft Teams에서 @ChatGPT를 멘션하여 작업을 맡길 수 있는 기능, 팀원과 함께 슬라이드를 수정할 수 있는 프레젠테이션 편집기, 회의 오디오를 녹음하고 정리해주는 Meetings 플러그인이 포함된다. 이 기능들은 Pro, Business, Enterprise 요금제에서 사용 가능하다.
AWS에서 컨텍스트 기반 다중 무장 강도(MAB)를 활용한 개인화된 제품 전환 최적화
Generative AI는 대량의 개인화된 콘텐츠를 신속하고 저렴하게 생성할 수 있게 해준다. Amazon Payments는 Amazon SageMaker AI를 사용하여 다중 목표 컨텍스트 다중 무장 강도(MAB)를 적용해 제품 전환 퍼널을 개인화하였다. 7주간의 온라인 A/B 테스트에서 한 고객 집단은 최종 전환율에서 높은 단일 자릿수 비율의 향상을 보였으나, 다른 집단은 기존 경험과 차이가 없었다. 문제는 모델이 아닌 콘텐츠에 있었다.
Amazon Quick의 Live Data in Apps 기능 소개
Amazon Quick의 새로운 기능인 Live Data in Apps는 사용자가 앱을 열 때마다 실시간으로 Quick Sight 데이터셋을 쿼리할 수 있게 해준다. 이를 통해 사용자는 SQL을 사용하지 않고도 현재의 데이터를 확인할 수 있으며, 각 사용자는 자신이 볼 수 있는 데이터만 필터링되어 제공된다. 이 기능은 비즈니스 운영자, 지식 근로자, 데이터 및 애플리케이션 관리자에게 이점을 제공하며, 기존의 행 수준 보안(RLS) 및 열 수준 보안(CLS) 규칙이 자동으로 적용된다.
NVIDIA AI 공장의 생산성, 내구성, 다용성 극대화
NVIDIA AI 공장은 메가와트 단위로 구축되며, 각 메가와트 공장은 약 6천만 달러의 비용이 소요된다. AI 공장의 수익성은 수익 능력, 유용한 수명, 수요의 세 가지 요소에 의해 결정된다. NVIDIA의 AI 공장은 높은 처리량과 낮은 토큰 비용을 제공하여 수익 능력을 극대화하며, GPU와 시스템은 오랜 기간 동안 수익을 창출할 수 있다. 또한, 다양한 AI 작업을 수행할 수 있어 수요를 넓힐 수 있다. 예를 들어, NVIDIA Vera Rubin NVL72 시스템은 메가와트당 30배 이상의 처리량을 제공하며, DeepSeek V4 Pro 모델에서 백만 토큰당 비용이 45배 낮다.
Peter Mattis와의 대화: 데이터베이스와 AI의 관계
Peter Mattis는 Cockroach Labs의 공동 창립자이자 CTO로, GIMP의 원작자이기도 하다. 그는 Gmail의 초기 저장 문제와 분산 데이터베이스 구축 시의 트레이드오프에 대해 이야기하며, AI가 코드 작성으로 돌아오게 했고, 품질을 향상시키고 도메인 전문가의 영향을 배가할 수 있다고 믿고 있다. Gmail은 2004년 4월 1일에 1GB의 이메일 저장소를 무료로 제공하며 출시되었고, B-트리가 이메일 스레드를 저장하는 데 사용되었다. 또한, Colossus는 Google의 파일 저장 오버헤드를 33% 줄이면서 중복성을 증가시켰다.
텍사스 주 정치가 Chevron 데이터 센터 투자 결정 지연 가능성
Chevron과 Joulent의 합작 프로젝트인 Project Kilby는 3 기가와트의 가스 터빈을 사용하여 텍사스 서부의 대규모 Microsoft 데이터 센터에 전력을 공급할 예정이다. 그러나 텍사스 주지사 그렉 애벗이 신규 데이터 센터 허가에 대한 모라토리엄을 부과하면서 원래 올해 말로 예정된 최종 투자 결정이 2027년으로 미뤄질 수 있다. Kilby 프로젝트는 2028년까지 첫 전력을 생산할 계획이다.
Cloudflare의 Clef 및 Clef-flash 모델 출시
Cloudflare는 Clef와 Clef-flash라는 두 개의 의사결정 모델을 발표했다. Clef는 Jev Decision Index에서 가장 높은 평가를 받았으며, 64k의 컨텍스트 윈도우를 가지고 있어 이미지 분류가 가능하다. Clef 모델은 2.2초 만에 웹사이트 도메인을 분류할 수 있으며, 이는 기존의 LLM보다 빠른 성능을 보여준다. 이 모델은 Hugging Face에서 오픈소스로 제공된다.
토스 쇼핑 추천 시스템의 TopK 최적화로 전환율 개선
토스 Commerce Personalization Team의 ML Engineer 구국원은 추천 시스템에서 TopK를 조정하여 User CVR(User Conversion Rate)를 7.55%, 사용자당 주문 수를 10.13% 증가시켰다고 보고했다. 기존의 TopK를 단순히 줄이는 대신, 정수계획법을 활용해 각 리트리벌 모델의 가치에 따라 TopK를 최적화했다. 이 과정에서 전체 후보 수를 약 절반으로 줄이면서도 전환 효율을 높이는 성과를 거두었다.
MeetTwins: Google Meet에서 AI 아바타로 회의 참석
인도 개발자 Aditya Shinde가 개발 중인 MeetTwins는 사용자를 대신해 Google Meet 회의에 참석하고 승인된 정보를 동료에게 전달하는 AI 비서이다. 이 앱은 사용자가 답변할 질문과 필요한 문서, 맥락을 제공하여 준비할 수 있으며, 특정 주제를 논의에서 제외할 수 있다. 사용자가 승인하지 않은 질문에 대해서는 MeetTwins가 즉흥적으로 답변하지 않으며, 회의 후에는 논의된 사항과 해결해야 할 항목을 요약한 이메일을 사용자에게 전송한다. 사용자가 불편함을 느낄 경우, 채팅에 '/stop'을 입력하면 즉시 퇴장할 수 있는 기능도 제공된다.