AI 뉴스
AI의 자동화 이상 인간-AI 협업을 위한 연구 방향
AI의 현재 주류는 인간 노동의 자동화에 초점을 맞추고 있으며, 이는 경제 성장과 이익을 추구하는 경향이 있다. 그러나 AI는 인간을 보완하고 협력할 수 있는 기술로 발전할 수 있는 가능성이 있다. 이 글에서는 AI의 협업을 위한 연구 방향을 제시하며, 기존의 블랙박스 모델 대신 화이트박스 에이전트를 개발하는 등의 새로운 기술적 문제를 다룬다. 또한, AI 연구가 자동화에 편향되어 있는 현상을 비판하고, 인간-AI 협업을 위한 체계적인 프로그램의 필요성을 강조한다.
AI의 협업을 위한 연구 방향으로 화이트박스 에이전트 개발이 제시되었다.
GitHub API의 스타 기록 재구성 방식 변경
GitHub API의 기존 stargazers 엔드포인트는 스타를 단 사용자의 목록과 타임스탬프를 반환했으나, 이는 데이터 처리에 많은 비용이 들고 악용의 위험이 있었다. 새로운 엔드포인트는 최대 30주간의 일일 스타 수치를 반환하며, 사용자 신원 정보는 포함하지 않는다. 이로 인해 데이터베이스의 요청 수가 약 60% 감소하고, 카운트 쿼리 처리 시간이 약 80% 줄어들었다.
새로운 엔드포인트는 유지보수자들이 스타 수의 변화를 효율적으로 추적할 수 있도록 하여, 프로젝트의 활동성을 분석하는 데 도움을 준다.
구글과 메타, AI 경쟁에 재참여
지난주 Anthropic과 OpenAI가 강력한 모델로 AI 경쟁에서 앞서 나가고 있는 가운데, 구글과 메타가 새로운 모델을 발표하며 경쟁에 재참여했다. 구글과 메타는 각각 자사의 최신 모델이 OpenAI와 Anthropic의 모델과 경쟁할 수 있다고 주장하고 있다.
구글과 메타의 새로운 모델 발표는 AI 시장의 경쟁 구도를 변화시킬 수 있다.
YouTube, AI 생성 음악에 'Made with AI' 라벨 추가
YouTube는 AI를 사용하여 '변경되거나 완전히 생성된' 트랙에 'Made with AI' 라벨을 추가하고 있다. 이 라벨은 음악 제작에 AI 도구를 사용하는 모든 경우에 적용되지는 않지만, '생성 모델을 사용하여 작곡 및 보컬을 생성하는 것'을 포함한다. YouTube는 음악 파트너에게 AI 사용을 공개하는 방법을 규정하고 있으며, 공개가 없을 경우 '다른 신호'를 사용하여 곡이 AI 생성인지 판단할 수 있다고 밝혔다. 이 라벨은 오늘부터 적용된다.
YouTube는 AI를 사용한 음악 제작에 대해 명확한 라벨링을 통해 사용자에게 정보를 제공하고 있다.
AI를 활용한 단백질 설계로 특정 단백질 절단 효소 개발
연구자들은 AI 기반 단백질 설계 도구를 사용하여 두 가지 유형의 프로테아제의 촉매 핵심을 결합하고 나머지 단백질을 대체하여 새로운 효소를 개발했다. 이 효소는 특정 단백질을 절단하도록 조정할 수 있으며, 연구자들은 이를 신경 질환과 관련된 단백질을 절단하는 데 성공적으로 사용했다.
Uber의 AI 인프라와 내부 개발 도구
Uber는 2015년 2개의 서비스에서 2019년에는 수천 개의 서비스로 증가했으며, 2026년에도 비슷한 수의 서비스를 유지할 예정이다. Uber는 대규모 처리를 위해 대부분의 서비스를 자체 개발했으며, 예를 들어 M3DB는 초당 5억 개의 메트릭을 처리하기 위해 만들어졌다. 2023년에는 AI 모델 게이트웨이를 도입하여 다양한 AI 모델 간의 전환을 지원하고 있으며, AIFX를 통해 엔지니어가 설정을 잃지 않고 하네스를 변경할 수 있도록 하고 있다.
Uber는 AI 모델 게이트웨이를 통해 Anthropic, OpenAI 등 다양한 모델을 지원하고 있으며, 이는 AI 통합을 용이하게 한다.
Optimizer: 디지털 쌍둥이와의 아침 루틴
Optimizer는 Verge의 리뷰어 Victoria Song이 최신 기술과 제품을 논의하는 주간 뉴스레터이다. 그녀는 최근 100일 동안 아침에 디지털 쌍둥이에게 신체 구성 데이터를 제공하는 새로운 루틴을 시작했다. 이 데이터는 스마트 체중계에서 직접 전송되며, 그녀는 이후 약을 복용하기 위해 레몬 물을 준비하고 이 과정도 앱에 기록한다.
OpenAI 회의실에서 발견된 녹음 장치
OpenAI는 제한된 경영 회의실에서 녹음 장치가 숨겨져 있다는 사실을 발견하는 데 이틀이 걸렸다. 이 회의실은 기술 발전, 정부 협력 및 상업적 파트너십과 같은 기밀 정보를 논의하는 장소로, 특별 허가가 있는 사람만 접근할 수 있다. FBI는 이 장치가 사우디 아라비아 출신의 엔지니어 압둘라흐만 알포잔에 의해 설치된 것으로 의심하고 있으며, 그는 OpenAI에서 1년 이상 근무했다. 알포잔은 USB 장치를 화장지로 감싸 회의실 TV 뒤에 연결한 것으로 보인다. 이 장치는 9월 28일에 설치된 것으로 추정되며, OpenAI는 9월 30일에 이를 발견했다. 이후 OpenAI는 10월 5일 해당 회의실에 카메라를 설치했고, CCTV 영상에는 알포잔이 녹음 장치를 회수하려는 모습이 포착되었다.
OpenAI는 기밀 정보 보호를 위해 보안 시스템을 강화할 필요가 있다.
AI가 게임을 대량으로 디컴파일하고 있다
인디 게임 개발자 Popcar는 AI를 활용한 기존 게임의 디컴파일이 증가하고 있음을 언급하며, 이를 통해 기존 게임 간의 독특한 조합이 가능해지고, 오래된 게임을 새로운 하드웨어에서 작동시키기 위한 보존 프로젝트가 활성화되고 있다고 설명했다. 그러나 AI가 게임과 소프트웨어를 디컴파일할 수 있다면, 기술 산업 전반에 큰 변화가 일어날 수 있으며, 기업들이 경쟁사로부터 도용할 위험이 있다는 우려도 제기되었다.
Amazon Bedrock AgentCore를 활용한 자가 개선 문서 처리 시스템 구축
IDC 연구에 따르면 문서 관련 문제는 연간 정보 근로자당 19,732달러의 비용을 초래하고 생산성을 21.3% 감소시킨다. Amazon Bedrock AgentCore를 사용하여 최소한의 인간 개입으로 비즈니스 문서를 분류, 추출, 검증하고 학습하는 에이전트 기반 IDP 시스템을 구축할 수 있다. 이 시스템은 새로운 문서 형식을 자동으로 처리하며, 20분 이내에 다중 에이전트 IDP 시스템을 배포할 수 있다.
Amazon Bedrock AgentCore를 통해 문서 처리의 자동화와 효율성을 높일 수 있다.
NVIDIA NeMo Gym을 활용한 칩 설계의 에이전트 신뢰성 및 도구 호출 효율 최적화
AI 에이전트는 복잡한 칩 설계 워크플로우에서 생산성 향상을 제공하지만, 그들이 생성하는 그럴듯하지만 부정확한 결과물로 인해 신뢰성이 생산 채택의 주요 장벽이 되고 있다. 다단계 엔지니어링 워크플로우에서 초기 설정의 오류가 감지되지 않으면 하위 단계와 최종 결과물 생성으로 조용히 전파될 수 있다.
AI 에이전트의 신뢰성을 높이는 것이 칩 설계의 생산성 향상에 필수적이다.
MiniCPM-V 4.7, 35B MoE 비전-언어 모델이 모바일에서 실행
OpenBMB의 MiniCPM-V 4.7 데모에서 35B-A3B MoE 비전-언어 모델이 모바일 기기에서 실행되는 모습을 보여주었다. 이 모델은 실제 표지판 읽기, 복잡한 문서 이해, 시각 정보에 대한 추론, 현실 제약을 고려한 계획 수립 등의 사용 사례를 지원한다. LES(Lookahead Expert Scheduling) 기능을 통해 MoE 추론을 최적화하여 병목 현상을 줄인다. 또한, 자원 제약이 있는 기기를 위한 MiniCPM-V 4.7 1B 모델과 특정 작업에 맞춰 모델을 사용자 정의할 수 있는 Self-Replay Fine-Tuning(SRFT) 기능도 제공된다.
MiniCPM-V 4.7는 모바일 기기에서 강력한 멀티모달 어시스턴트를 가능하게 하여 클라우드에 의존하지 않고도 다양한 작업을 수행할 수 있게 한다.
Microsoft Content Understanding의 문서 처리 자동화 개선
Microsoft의 Forward Deployed Engineering 팀과 협력한 대형 보험사가 Content Understanding의 분류, 추출, 그라운딩, 신뢰도를 활용하여 인간 검토 부담을 50% 줄이고 양식 온보딩 속도를 75% 향상시켰다. 페이지 수준 분류 정확도는 97% 이상이며, 최신 업데이트로 평균 추론 토큰 사용량이 최대 28% 감소하고 정확도가 향상되었다. 신뢰도 점수는 0과 1 사이의 값으로, 최근 업데이트로 정확도가 최대 14% 개선되었다.
Content Understanding의 신뢰도 모델은 고객 데이터를 사용하지 않고 Microsoft가 관리하는 데이터를 기반으로 훈련되어, 모든 고객이 동일한 신뢰도 모델을 활용할 수 있다.
OpenAI와 Anthropic의 안전 문화 문제
Anthropic은 안전 문화를 유지하기 위해 노력하고 있지만, 내부적으로는 여전히 문제가 존재한다. OpenAI에서는 David Robinson이 안전 문화의 결함을 지적하며 사임했고, 세 명의 안전 연구원이 해고되는 사건이 발생했다. 이러한 사건들은 AI 기술의 발전 속도를 늦추어야 한다는 합의로 이어지고 있으며, Google과 Meta의 경쟁 심화가 이 문제를 더욱 복잡하게 만들 수 있다.
David Robinson은 OpenAI의 안전 문화가 심각하게 결함이 있다고 주장하며, AI 회사들이 다른 분야의 안전 전문성을 더 많이 활용해야 한다고 강조했다.
Amazon Bedrock AgentCore를 활용한 프레젠테이션 자동 생성 시스템
금융 서비스 팀은 분기 보고서, 규정 문서 및 시장 분석에서 고객 PowerPoint 프레젠테이션을 수동으로 생성하는 데 많은 시간을 소모하고 있다. Amazon Bedrock AgentCore를 사용하여 이 작업을 자동화하는 AI 에이전트 시스템을 구축할 수 있으며, 내부 테스트에서 90초 이내에 완료된다. 이 솔루션은 문서 생성 및 요약 도구를 조정하기 위해 Strands Agents 프레임워크를 사용하며, Anthropic Claude Sonnet 4.6이 콘텐츠 생성을 담당하고, Amazon Titan Text Embeddings v2가 벡터 검색을 지원하며, Stability AI Stable Image Inpaint가 슬라이드 이미지를 생성한다.
Amazon Bedrock AgentCore를 통해 프레젠테이션 생성 시간을 단축하고, 소스 문서에 기반한 콘텐츠를 제공할 수 있다.
Tamnoon, Amazon Bedrock 기반 AI 클라우드 보안 수정 도구 Tami 개발
Tamnoon은 Amazon Bedrock을 기반으로 한 클라우드 수정 오케스트레이터 Tami를 개발하여 CNAPP 및 클라우드 네이티브 소스에서 수집한 문제를 자율적으로 조사하고 수정의 안전성을 평가한다. 이 플랫폼은 90일 이내에 90% 이상의 중요 클라우드 노출 감소를 달성했으며, 생산 문제는 발생하지 않았다. Tami는 AWS, Azure, Google Cloud 등 다양한 클라우드 환경에서 잘못된 구성과 문제를 안전하게 수정하는 데 도움을 준다.
Tami는 90일 이내에 90% 이상의 중요 클라우드 노출을 줄이는 데 기여하여 클라우드 보안 문제 해결의 효율성을 높인다.
Amazon SageMaker JumpStart를 통한 모델 배포 및 평가 방법
Amazon SageMaker JumpStart는 이미 훈련된 모델의 광범위한 카탈로그에 접근할 수 있도록 하며, 사용자는 SageMaker Python SDK를 사용하여 모델을 배포하고 성능 테스트를 수행할 수 있다. 2026년에는 모델 발견 및 배포를 간소화하는 두 가지 개선 사항이 도입되었으며, 사용자는 SageMaker Studio에서 샘플 노트북을 직접 열 수 있다. 또한, Hugging Face 모델 발견에서 SageMaker AI 배포로의 단일 클릭 통합이 가능해졌다.
SageMaker JumpStart는 다양한 생성 AI 모델에 대해 최적화된 배포 옵션을 제공하여 개발자가 비용, 대기 시간, 일반 목적 워크로드를 고려한 모델 배포를 쉽게 할 수 있도록 한다.
Anthropic, 소형 AI 모델이 IoT 기기를 통해 자기 복제할 가능성 경고
AI 회사 Anthropic은 소형 AI 모델의 발전이 스마트 냉장고, 진공 청소기 등 다양한 IoT 기기를 감염시킬 수 있는 자기 복제형 악성 코드의 새로운 시대를 열 수 있다고 경고했다. 내년에는 소형 AI 모델이 IoT 기기에서 자율적으로 자기 복제할 수 있을 것으로 보인다. 이와 관련된 실험에서 AI 악성 코드 복제기를 실현하는 데 상당한 도전 과제가 있음을 확인했지만, 새로운 형태의 컴퓨터 웜에 대한 우려를 제기하고 있다. 또한, 이러한 복제기는 중앙 집중식 차단 지점이 없기 때문에 중단하기 어려울 것이라고 경고했다.
소형 AI 모델이 IoT 기기에서 자율적으로 자기 복제할 수 있는 가능성이 제기되면서 보안 문제에 대한 새로운 접근이 필요하다.
중국의 오픈 웨이트 모델이 미국의 클로즈드 모델에 비해 7개월 뒤처짐
중국의 오픈 웨이트 모델은 미국의 클로즈드 모델에 비해 7개월 뒤처진 것으로 나타났다. 이 데이터는 1,011개의 출처에서 수집된 22,113개의 벤치마크 결과를 기반으로 하며, 텍스트 모델에 대한 18,755개의 결과가 포함되어 있다. 이 데이터셋은 오픈 소스로 제공되며, 모든 수치는 출처와 라이센스가 기록되어 있다.
중국의 오픈 웨이트 모델과 미국의 클로즈드 모델 간의 7개월 차이는 AI 모델 개발의 경쟁 구도를 보여준다.
AI의 유용성을 높이는 세 가지 모델
지난주 발표된 세 가지 모델은 AI의 유용성에 대한 서로 다른 제약을 다룬다. Reflection의 Beam은 효율적인 에이전트 추론을 강조하고, Google의 EmbeddingGemma 2는 다양한 미디어를 함께 검색할 수 있게 하며, Mistral Large 4는 희소한 스케일과 시각적 이해를 결합한다. 이들은 단순한 성능 비교가 아니라 AI 시스템의 유용성을 높이기 위한 계산 자원 배분에 대한 세 가지 다른 접근 방식을 제시한다.
Meta의 Muse Wonder 모델, 22일 만에 500만 다운로드 기록
Meta는 Muse Wonder 모델을 출시하고 22일 만에 500만 다운로드를 기록했다고 발표했다. Muse Wonder는 빠른 속도를 자랑하지만, Muse 개인 에이전트를 차단하는 속도도 주목할 만하다. Anthropic은 최근 anti-distillation 프로토콜에서 90~99%의 데이터 수집 감소를 달성했다고 밝혔다. Google은 Gemini 4 Argon 모델을 일반에 공개했으며, 이 모델은 복잡한 실제 작업에서 뛰어난 성능을 발휘한다고 전했다.
Muse Wonder는 500만 다운로드를 기록하며 빠른 확산세를 보이고 있다.
OpenAI와 Anthropic의 구조적 이점과 오픈 모델의 발전
a16z의 Lisha Li는 AI 연구자 Nathan Lambert와 인터뷰를 통해 OpenAI와 Anthropic이 컴퓨팅, 자본, 새로운 훈련 패러다임을 선도하는 능력에서 구조적 이점을 가지고 있다고 주장했다. 그러나 중국의 오픈 모델 연구소들이 놀라운 능력으로 뒤따르고 있다고 언급했다. 이들은 데이터, 강화 학습 환경, 후속 훈련이 모델 발전에 미치는 영향을 논의하며, Lambert의 비영리 연구소 Trillium이 AI 연구의 일부를 개방할 계획에 대해서도 설명했다.
Trillium은 AI 연구의 투명성을 높이고, AI가 AI 연구를 자동화하는 방식에 대한 문서를 제공할 계획이다.
구글 제미나이 4 아르곤 출시 및 주요 특징
구글의 새로운 모델 제미나이 4 아르곤(Gemini 4 Argon)이 10월 13일에 공개되었다. 이 모델은 출력 한도가 100만 토큰으로 늘어나고, 멀티모달 구조를 갖추었으며, 낮은 환각률(15%)을 자랑한다. 아르곤은 복잡한 엔지니어링, 일반 업무 워크플로, 연구 및 사이버 방어 분야에 강점을 보인다. 유료 사용자만 사용할 수 있으며, 출시 기념가는 100만 토큰당 입력 2달러, 출력 10달러이다.
제미나이 4 아르곤은 100만 토큰의 출력 한도를 제공하여 긴 응답을 처리할 수 있는 기능을 갖추고 있다.
바이브 코딩을 활용한 개인 프로젝트 개발 경험
이 글은 바이브 코딩을 처음 시작한 경험과 비개발자도 활용할 수 있는 방법에 대해 설명한다. 저자는 개인 프로젝트로 '일정 공유 캘린더'를 개발하며, 필요한 기능으로는 일정 등록 및 관리, 타인 일정 확인, 간단한 가입 및 로그인 절차를 설정했다. 개발에는 Render와 Supabase를 사용하였고, 카카오톡 로그인을 적용하여 약 1주일 만에 런칭했다.
바이브 코딩을 통해 간단한 웹 서비스를 빠르게 개발할 수 있는 방법을 제시한다.