AI 프로덕트·스타트업
AI 프로덕트·스타트업은 모델을 감싸 실제 사용자 가치를 파는 영역이다. 데모는 쉽지만 신뢰성·단가·해자 없는 래퍼라는 벽에 부딪힌다. 한국 시장에선 결제·법무·개인정보 규제까지 함께 풀어야 출시에 닿는다. 기술보다 PMF와 운영 완성도가 생존을 가른다.
Google, Gemini 3.5 Transcribe 발표 - 음성 입력 최적화 모델
Google은 Gemini 3.5 Transcribe를 발표했다. 이 모델은 음성 입력 시 '음'과 수정 사항을 편집하여 다듬어진 텍스트를 출력하는 AI 모델이다. 현재 Pixel 11의 Gboard 'Rambler' 기능에 적용되어 있으며, Google 생태계 전반으로 확대될 예정이다. Gemini 3.5 Transcribe는 이전 음성-텍스트 엔진 Chirp 3보다 약 70% 빠르고, 실시간 음성 오류율은 5.5%로 감소했다. Chirp 3의 오류율은 7.32%였다.
자기 홍보 스레드 게시 안내
개인 프로젝트, 스타트업, 제품 배치, 협업 필요, 블로그 등을 게시할 수 있는 자기 홍보 스레드가 마련되었다. 제품 및 서비스에 대한 결제 및 가격 요구 사항을 명시해야 하며, 링크 단축기나 자동 구독 링크는 게시할 수 없다. 신뢰를 남용할 경우 금지 조치를 받을 수 있다. 이 스레드는 다음 스레드가 올라올 때까지 유지된다.
Deepgram, Amazon SageMaker AI에서 Enhanced Metrics로 관측 가능성 강화
Deepgram의 음성 인식 및 음성 합성 모델을 Amazon SageMaker AI에서 실행할 경우, 오디오와 전사는 사용자의 AWS 계정 내에 보관된다. Deepgram Enhanced Metrics는 사용량 및 청구 메트릭을 Amazon CloudWatch 계정에 직접 게시하며, Prometheus와 OpenTelemetry 지원을 통해 엔진 수준의 메트릭을 수집할 수 있다. 이러한 기능은 Deepgram SageMaker AI 배포에서 사용할 수 있다.
GS파워의 AIR: 산업 안전을 위한 AI 기반 위험성 평가 서비스
GS파워의 AIR는 산업 현장에서 위험성 평가서를 AI가 초안까지 작성해주는 서비스로, 2024년 GS그룹 사내 해커톤에서 비개발자 팀에 의해 프로토타입이 만들어졌다. 이 제품은 2년 뒤 전국 사업장에 배포되었고, 레드닷 디자인 어워드에서 수상했다. AIR의 개발 과정에는 GS그룹의 오픈 이노베이션 커뮤니티인 52g가 중요한 역할을 했다.
Hugging Face의 Pollen Robotics, Microduck 롤러스케이팅 로봇 출시
Hugging Face의 Pollen Robotics가 두 번째 AI 로봇인 Microduck을 출시했다. Microduck은 한쪽 눈을 가진 이족 보행 로봇으로, 높이는 10인치 미만이며, 크림, 그래파이트, 라벤더, 스카이 블루 색상으로 사전 주문 가능하다. 가격은 399달러이며, 2026년 크리스마스 이전에 배송될 예정이다. Microduck은 양말과 마커를 집어 올리고, 공을 차며, 작은 롤러 스케이트로 빠르게 움직일 수 있다. 주변 환경에 반응하고 레이저 포인터를 따라가며, 게임 컨트롤러로 조작할 수 있다. 소프트웨어는 오픈 소스이다.
Plaud, AI 이어폰 Plaud One Explorer Edition 출시
Plaud는 대화 내용을 기록, 전사 및 요약하는 AI 웨어러블 Plaud One Explorer Edition을 출시했다. 이 제품은 전통적인 이어폰처럼 착용할 수 있으며, 독립형 충전 케이스를 통해 사용할 수도 있다. 충전 케이스에는 4G가 내장되어 있어 전화나 Wi-Fi 없이도 대화를 업로드하고 처리할 수 있다. 각 이어폰은 16MB의 로컬 저장소를 갖추고 있으며, 총 32MB의 저장 용량을 제공한다. 또한, 세 개의 마이크로폰이 장착되어 있어 최대 2미터 거리에서 녹음이 가능하며, 최대 6시간 동안 녹음할 수 있다.
Google의 AI 노트 필기 앱, 책과 상호작용 가능
Google의 AI 노트 필기 앱인 Gemini Notebook이 이제 사용자가 구매한 책에서 정보를 가져올 수 있는 기능을 추가했다. 새로운 'Expert Intelligence' 기능을 통해 Google Play Books의 제목을 Gemini Notebook으로 직접 가져올 수 있으며, 이를 통해 자료에 대한 질문을 하거나, 계획, 인포그래픽, AI 팟캐스트 등을 생성할 수 있다. 예를 들어, Gemini Notebook은 Michael Pollan의 'Food Rules' 정보를 활용해 요리책을 생성하는 데 사용될 수 있다.
Microsoft Teams Facilitator의 기능 출시가 11월로 연기됨
Microsoft는 Teams Facilitator의 질문 응답 기능을 6월에서 11월로 연기했다. Teams Facilitator는 회의에 참여하는 AI 어시스턴트로, 의제를 추적하고 메모를 할 수 있다. 다음 단계로는 지식 격차를 감지하고 질문에 답변하는 기능이 추가될 예정이다. Microsoft는 이 기능이 실시간으로 회의 대화를 처리하여 지식 격차를 감지하고 응답을 생성한다고 밝혔다. 그러나 Microsoft 365 Copilot의 프리미엄 에디션이 필요하며, 웹 검색이 비활성화되면 응답이 제공되지 않는다.
Apodex 1.1 모델 출시 및 AMA 진행
Apodex 팀은 Apodex 1.1 모델을 출시하였으며, 이 모델은 복잡한 작업을 위한 에이전틱 인텔리전스를 확장하기 위해 설계되었다. Apodex 1.1은 지속적이고 검증 가능한 실제 목표 달성을 위해 추론, 검색, 파일 작업, 코드 실행, 실패 복구 및 다수의 에이전트 조정을 지원한다. Apodex 1.1과 함께 오픈 소스 에이전트 하네스와 두 개의 논문도 발표되었다.
Salesforce의 Multi-AZ HA를 위한 SageMaker Inference Components 활용
Salesforce는 Agentforce의 고가용성을 위해 Amazon SageMaker AI Inference Components(ICs)를 사용하여 GPU 비용을 8배 절감했다. 그러나 기본 배치 방식은 Multi-AZ 내구성을 보장하지 못해, AWS는 <code>SchedulingConfig</code> 매개변수를 통해 IC 복사본의 배치를 세밀하게 조정할 수 있는 기능을 제공했다. 이로 인해 Salesforce는 AZ 간 균형을 맞추고 고가용성을 확보할 수 있었다.
Amazon SageMaker Feature Store의 BatchWriteRecord 및 ListRecords API 발표
Amazon SageMaker Feature Store는 머신러닝 모델을 위한 기능 저장소로, 실시간 추론을 위한 저지연 온라인 서비스와 역사적 데이터 저장을 위한 오프라인 저장소를 제공한다. 새로운 BatchWriteRecord API는 여러 기능 그룹에 대해 최대 25개의 레코드를 단일 API 호출로 작성할 수 있으며, ListRecords API는 기능 그룹 내 레코드 식별자를 페이지네이션 방식으로 열거할 수 있다.
샘 알트먼 인터뷰에서 AI 기술과 일상의 간극 지적
샘 알트먼은 AI가 인류 역사상 중요한 기술에 도달했지만, 우리의 일상은 여전히 변화가 없다고 언급했다. 그는 이를 '아이폰 모먼트가 아직 오지 않았다'고 표현하며, 기술은 준비되었으나 이를 담을 그릇이 부족하다고 지적했다. 알트먼의 인터뷰는 개인과 조직이 현재의 과도기에 무엇을 준비해야 하는지를 탐구하는 내용을 담고 있다.
토스의 핫픽스 관리 및 판단 기준
토스 QA Platform 팀은 핫픽스를 '고칠지 말지 판단하는 일'로 정의하고, 심각도 기준을 재정립하여 핫픽스 여부를 결정한다. 특정 조건에서만 발생하는 문제에 대해 1%의 사용자만 영향을 받는 경우에도 신중한 판단이 필요하다. 핫픽스는 릴리즈 마스터와 QA 마스터가 함께 검토하여 결정하며, 크래시 분석 도구인 crash-path를 통해 문제를 신속하게 재현하고 분석한다. 핫픽스 기록은 통합 관리되며, 매달 핫픽스를 돌아보며 재발 방지 액션을 정한다.
AI의 다음 경계: 모델 레이어와 소비자 AI의 변화
Anish Acharya는 AI의 발전하는 모델 환경과 오픈 소스 AI에 대해 논의하며, 특히 소비자 AI가 새로운 단계에 접어들고 있다고 설명한다. 그는 모델 레이어에서 여러 승자가 나타날 것이라고 믿으며, 전통적인 네트워크 효과, 규모, 브랜드와 같은 요소들이 여전히 중요하다고 강조한다. 또한, 기업들이 작업의 경제성에 따라 최전선 모델과 오픈 가중치 모델 중에서 선택할 수 있는 방법을 탐구한다. 소비자 AI에 대해서는 개인 비서, 코딩 도구 등이 새로운 소기업 세대를 지원하고 있으며, 소비자 빌더를 위한 르네상스가 일어나고 있다고 언급한다.
Cursor의 경쟁 시장 진입과 제품 개발 전략
a16z의 Martin Casado, Sarah Wang, Matt Bornstein이 Cursor의 이야기를 다룬다. Cursor는 경쟁이 치열한 기술 시장에 진입하여 기존 강자들과 경쟁하며, 인간과 AI 간의 인터페이스가 중요하다는 초기 판단을 내렸다. VS Code 플러그인 대신 자체 제품을 개발하고, 창립자들이 '아니오'라고 말하는 능력이 회사의 강점이 되었다. Cursor는 IDE에서 에이전트 및 모델 플랫폼으로 빠르게 발전했으며, AI 기능이 향상됨에 따라 자사 제품을 희생할 준비가 되어 있었다. 이들은 경쟁, 채용, 기업 판매, 인수합병, 회사 문화에 대한 Cursor의 접근 방식에서 배울 점을 논의한다.
Salesforce, Anthropic과 협력해 Claudeforce 출시 및 Flex Credits 기반 수익 모델 강조
Salesforce는 Q2 재무 결과를 발표하며 Anthropic과 협력해 Claudeforce를 출시했다. Claudeforce는 Claude의 서비스와 Salesforce의 기업 데이터, 워크플로우, 비즈니스 로직을 통합하며, 37개의 사전 구축된 '판매 기술'을 제공한다. 고객은 소비 기반 요금제인 Flex Credits를 통해 서비스에 접근할 수 있으며, 전체 예약의 50%가 Flex Credits를 통해 발생했다고 밝혔다. 또한, 새로운 Slack 버전과 AI 지원 비서인 Coworker도 함께 제공될 예정이다.
OpenAI의 경영진 변화와 Greg Brockman의 권력 집중
OpenAI의 공동 창립자이자 사장인 Greg Brockman이 최근 몇 달 동안 다른 고위 경영진들이 떠나면서 회사 내에서 권력을 집중하고 있다. Brockman은 현재 ChatGPT, Codex 등 소비자 및 기업 제품 팀을 총괄하며, OpenAI의 일상 운영을 주도하고 있다. Sam Altman은 IPO와 회사의 전반적인 방향에 집중하고 있으며, Brockman은 기업 비즈니스와 소비자 측면 모두를 관리하고 있다.
NVIDIA RTX Spark, 게임과 기술을 Gamescom에서 공개
NVIDIA는 독일 쾰른에서 열리는 Gamescom에서 RTX Spark를 소개하며 새로운 게임, 안티치트 기술, 시각적 품질 향상을 지원한다고 밝혔다. Electronic Arts, Embark, Ubisoft 등 여러 게임 개발사가 RTX Spark에 블록버스터 타이틀을 제공할 예정이다. RTX Spark는 개인 AI 에이전트, 고급 콘텐츠 제작, 고성능 게임을 통합한 플랫폼으로, EA Javelin 안티치트 기술을 통해 공정한 게임 플레이를 지원한다. RTX Spark는 올 가을 출시된다.
NVIDIA NVLink Fusion과 NVHBM 고대역폭 메모리 기술 확장
NVIDIA는 NVLink Fusion을 NVHBM이라는 차세대 고대역폭 메모리 기술로 확장했다. NVHBM은 메모리 컨트롤러를 HBM 기본 다이에 통합하여 최대 30% 더 높은 메모리 대역폭과 15% 낮은 HBM 전력 소비를 제공하며, XPU 컴퓨트 다이에서 최대 25%의 공간을 절약한다. 아마존의 Annapurna Labs는 NVHBM 기술을 활용하여 AI 워크로드의 성능과 효율성을 향상시키기 위한 협력 작업을 진행할 예정이다.
NVIDIA, HuggingFace를 130억 달러에 인수
NVIDIA가 HuggingFace를 130억 달러에 인수하기로 결정했다. 이는 HuggingFace의 연간 반복 수익(ARR) 1억 5천만 달러의 약 80배에 해당하며, 2026년 고객 기반이 두 배로 증가한 결과이다. 이 인수가는 2026년 1월 NVIDIA의 초기 제안인 70억 달러에서 거의 두 배 증가한 것이다.
라이브 서비스에서 AI 도입의 어려움과 실무자의 우려
라이브 서비스는 이미 운영 중인 제품으로, 기능 추가가 가능하지만 기존 기능 삭제는 어렵다. 이로 인해 유지보수 부담이 커지고, AI 도입 시에도 복잡한 데이터 연결성과 코드 구조로 인해 정확한 처리가 어려워진다. 실무자는 AI의 판단이 잘못될 경우 사용자에게 즉각적인 영향을 미칠 수 있어 신중한 접근이 필요하다고 언급한다.
토스증권 추천 시스템의 진화와 RAG 기반 검색 기술
토스증권의 추천 시스템은 배치 중심에서 실시간 개인화로 변화하고 있으며, 유저의 행동 이벤트와 아이템 변경 이벤트를 반영하여 추천을 루프 형태로 운영하고 있다. 추천의 고도화에 따라 임베딩 모델과 벡터 저장소 운영이 중요해지고 있으며, RAG는 검색을 제품화하는 문제로 접근하여 하이브리드 검색과 리랭킹을 통해 검색 품질을 개선하고 있다. RAG 플랫폼은 다양한 제품에서 활용되고 있으며, 각 서비스의 요구에 맞춰 검색 결과를 최적화하고 있다.
OpenAI의 Jalapeño 칩, 경쟁사보다 빠른 AI 응답 제공
OpenAI는 새로운 AI 칩 Jalapeño가 다른 AI 시스템보다 작업을 더 효율적으로 수행하고 응답을 더 빠르게 반환한다고 발표했다. Jalapeño는 낮은 지연 시간과 높은 처리량을 제공하며, AI 시스템이 일반적으로 이 두 가지 사이에서 트레이드오프를 해야 하는 문제를 해결한다. 이 칩은 Broadcom과의 협력으로 제작된 응용 프로그램 전용 집적 회로(ASIC)로, AI 추론을 위해 설계되었다.
LLM을 생산 환경에서 평가하는 방법
언어 모델은 깨끗한 벤치마크에서 잘 수행되더라도 실제 환경에서는 어려움을 겪을 수 있다. LLM 기반 시스템의 프로토타입 단계에서는 벤치마크와 큐레이션된 데이터셋이 유용하지만, 생산 단계로 접어들면 평가 문제는 달라진다. 실제 입력은 모호할 수 있고, 레이블이 일관되지 않을 수 있으며, 중요한 맥락이 누락되거나 잘릴 수 있다. GitHub의 비밀 스캐닝 시스템을 평가하면서 이러한 문제를 경험했다. 비밀 스캐닝은 레포지토리에 커밋된 자격 증명을 식별하는 작업으로, LLM이 문자열을 올바르게 분류할 수 있는지를 아는 것보다 노이즈 경고를 줄이면서도 충분한 재현율을 유지할 수 있는지를 이해하는 것이 중요했다. 평가 기준은 주요 결과, 안전 제약, 운영 가이드라인으로 나뉘며, 각 지표의 상호 교환성을 고려하지 않아야 한다.