AI 뉴스

뉴멕시코 대법원, AI로 조작된 증인 포함한 변호사에게 5천 달러 벌금 부과

뉴멕시코 대법원은 변호사 Stephen Aarons가 고객의 살인 유죄 판결에 대한 항소에서 AI가 만들어낸 증인과 허위 경찰 증언을 포함한 것에 대해 벌금을 부과했다. 법원은 Aarons에게 5,000달러의 벌금을 부과하고 AI 생성 서류에서 사실 주장 및 법적 권한을 검증하지 않은 이유로 경멸죄를 적용했다. 이 서류에는 완전히 조작된 증인의 허위 증언과 함께 총격범의 의상 및 외모에 대한 잘못된 증언이 포함되어 있었다.

AI 생성 서류의 사실 검증 부족이 법적 결과를 초래할 수 있음을 보여준다.

Oats: 무료 오픈소스 회의 노트 작성기

Oats는 무료이며 오픈소스인 장치 기반 회의 노트 작성기이다.

AI의 종말 위기: MIT Technology Review 라운드테이블

세계 주요 AI 연구소의 직원들이 고급 AI가 인류를 파괴할 가능성이 있다고 주장하고 있다. MIT Technology Review의 Niall Firth가 AI 편집자 Will Douglas Heaven 및 AI 기자 Grace Huckins와 함께 AI의 멸종 우려에 대해 논의하는 자리가 마련된다. 이 대화는 9월 15일 화요일 16:00 BST / 11:00 EST / 8:00 PST에 진행된다.

ChatGPT를 사용한 변호사, 허위 증언 제출로 법원에 경고받다

뉴멕시코 대법원은 ChatGPT를 사용한 변호사가 '완전히 조작된 증인'의 허위 증언을 포함한 서류를 제출하여 법원에 직접적인 경멸을 보였다고 판결했다. 변호사 스티븐 아론스는 AI가 생성한 서류의 사실 주장과 법적 근거를 확인하지 않았으며, 이 실패를 의뢰인에게 알리지 않았다고 인정했다. 그는 40년 이상 범죄 방어 변호사로 활동해왔으며, 의뢰인의 살인 유죄 판결에 대한 항소를 맡았다.

변호사가 AI 생성 서류의 사실 확인을 하지 않은 점은 법적 책임과 윤리적 기준에 대한 중요한 경각심을 불러일으킨다.

메타, AI 및 얼굴 인식 시스템 훈련 데이터로 소송당하다

제기된 집단소송은 메타가 사람들의 페이스북과 인스타그램 사진을 불법적으로 수집하여 AI 이미지 생성 모델을 훈련하고, 아직 출시되지 않은 'NameTag' 얼굴 인식 기능을 개발했다고 주장하고 있다.

메타의 AI 이미지 생성 모델 훈련에 사용된 데이터의 출처가 법적 문제로 이어질 수 있다.

Anthropic 연구원, 자가 개선 초지능 경고와 함께 사임

Anthropic의 한 연구원이 이번 주에 사임하며, X에 게시한 글에서 회사가 '자가 개선 초지능으로 직행하고 있으며 우리의 삶을 도박하고 있다'고 경고했다. 회사의 정렬 리더도 이 메시지에 서명하며 이를 철회하지 않았다. 이러한 경고는 AI 산업에서 이전에도 있었지만, Anthropic이 IPO를 준비하고 있다는 점에서 그 의미가 다르게 다가온다.

AWS DevOps Agent와 AgentCore Evaluations을 통한 다중 에이전트 시스템 모니터링

다중 에이전트 시스템에서 전통적인 모니터링으로는 포착하지 못하는 문제들이 발생할 수 있다. 예를 들어, 에이전트가 기본 모델을 호출하지 못해 빈 응답을 반환할 수 있으며, 이는 IAM 권한 부족 때문일 수 있다. AWS DevOps Agent는 인프라 문제를 자율적으로 조사하고, Amazon CloudWatch 로그를 분석하여 문제의 근본 원인을 파악한다. 또한, Amazon Bedrock AgentCore Evaluations는 에이전트의 품질을 지속적으로 평가하여 잘못된 도구 선택이나 작업 실패를 감지한다.

AWS DevOps Agent는 인프라 문제를 자율적으로 분석하여 문제 해결을 지원한다.

GitHub Copilot을 활용한 마케팅 이벤트 자동화 방법

GitHub의 일본 및 한국 마케팅 담당자는 이벤트 관리에서 GitHub Copilot을 활용하여 반복 작업을 자동화하는 방법을 설명한다. 이벤트 계획부터 후속 작업까지의 과정을 GitHub Issue를 통해 관리하며, 이벤트 유형별로 구조화된 필드를 제공하는 Issue form, 트리거 역할을 하는 Labels, 작업을 수행하는 GitHub Actions를 사용한다. 이를 통해 수작업으로 진행하던 이벤트 설정 과정을 단일 Issue로 자동화하여 효율성을 높였다.

GitHub Copilot을 통해 마케팅 팀의 반복 작업을 자동화하여 시간과 노력을 절약할 수 있다.

Amazon Bedrock에서 OpenAI 모델 선택을 위한 벤치마크 결과

조직들이 생성 AI 애플리케이션을 구축할 때, 모델을 비교하는 일반적인 방법은 백만 토큰당 가격이다. 그러나 실제 작업에서는 결과를 구매하며, 이 과정에서 모델의 정확도와 필요한 토큰 수, 대화의 턴 수 등이 비용에 영향을 미친다. 본 포스트에서는 Amazon Bedrock에서 OpenAI 모델(gpt-5.6-luna, gpt-5.6-terra, gpt-5.6-sol)과 OpenAI API의 비용 효율적인 모델(gpt-5.4-mini, gpt-5.4-nano)의 성능을 비교하는 오픈 소스 벤치마크 결과를 공유한다. 각 모델의 정확도와 비용을 측정하여, 실제 작업에서의 성과를 평가하는 방법을 제시한다.

gpt-5.6-luna 모델은 AIME 문제에서 75%의 정확도를 보였으며, 이는 비용 효율적인 선택이 될 수 있음을 시사한다.

Amazon Bedrock AgentCore를 활용한 인터랙티브 MCP 앱 구축

조직은 AI 호스트인 ChatGPT와 Claude를 통해 디지털 서비스에 접근할 수 있는 방법이 필요하다. MCP Apps와 Amazon Bedrock AgentCore는 이러한 요구를 충족시키며, MCP Apps는 AI 호스트 내에서 직접 렌더링되는 인터랙티브 HTML 위젯을 제공한다. Amazon Bedrock AgentCore는 에이전트를 대규모로 구축하고 연결하며 최적화할 수 있는 플랫폼으로, AgentCore 런타임은 보안이 강화된 서버리스 환경을 제공한다. 예시 앱인 Unicorn Rentals는 고객이 유니콘을 검색하고 예약할 수 있는 기능을 제공하며, 다양한 AI 호스트에서 동일한 사용자 경험을 제공한다.

Amazon Bedrock AgentCore는 보안이 강화된 서버리스 환경을 제공하여 개발자가 비즈니스 로직과 위젯 디자인에 집중할 수 있게 한다.

Claude로 작성된 생산 코드의 품질 기준

Anthropic의 Boris Cherny는 Claude가 작성한 생산 코드는 인간이 작성한 코드보다 더 높은 기준을 가져야 한다고 언급했다. 이를 위해 Anthropic은 많은 린트 규칙, 테스트, Claude 기반의 엔드 투 엔드 테스트, 일일 실행되는 Claude 기반 퍼저, 자동화된 코드 리뷰 및 보안 리뷰, 자동화된 코드 리팩토링 등을 시행하고 있다.

Claude로 작성된 코드의 품질을 보장하기 위한 다양한 자동화 도구와 테스트가 필요하다.

AI와 소프트웨어 개발의 변화에 대한 고찰

많은 소프트웨어 엔지니어들이 AI가 기존의 작업을 빠르게 수행하는 것을 보며 실망감을 느끼지만, 이는 소프트웨어 개발의 본질적인 변화의 일환이다. 기존의 기술과 경험을 바탕으로 새로운 도구를 활용하여 더 큰 문제를 해결할 수 있는 기회가 존재한다. 소프트웨어 개발은 역사적으로 도구와 언어의 변화가 잦았으며, 현재의 변화 속도는 다소 빨라졌지만 이는 개발자의 선택에 따른 것이다.

AI 안전 문제와 관련된 논란과 규제 필요성

연구자 제이콥 콕슨이 앤트로픽에서 사임하며 AI의 작업이 인류 멸종으로 이어질 가능성이 있다고 주장하자, AI에 대한 두려움과 반발이 일어났다. 그러나 이 반발은 데이터 센터의 환경 비용, 해킹, AI의 고용 시장에 대한 영향 등 여러 문제를 혼동하고 있다. 법률가와 기술 기업 리더들이 각 문제를 정확히 다루지 않으면, 혁신을 저해할 수 있는 규제를 따르게 될 위험이 있다. AI 안전 옹호자들은 데이터 센터가 자국 내에 건설되기를 원하지만, 해외로 이전될 경우 모니터링과 규제가 어려워진다. 또한, AI가 새로운 일자리를 창출할 가능성이 있지만, 기술 산업 외의 일반 사람들이 경제적으로 혜택을 보지 못하도록 하는 문제도 있다.

AI 안전 문제를 해결하기 위해서는 데이터 센터의 에너지 낭비 문제를 다루는 것이 중요하다.

Meta의 Muse 에이전트 출시와 OpenAI의 수학 문제 해결

Meta는 Muse 에이전트를 출시하여 소비자에게 무료로 하드웨어와 소프트웨어를 제공하며, 일반인이 에이전트를 활용할 수 있는 장벽을 크게 낮췄다. 반면 OpenAI는 유명한 수학 문제를 해결하는 성과를 보였지만, 이는 대부분 사람의 삶에 큰 영향을 미치지 않는다.

Meta의 Muse 에이전트는 일반인들이 AI의 이점을 더 쉽게 활용할 수 있도록 하여, AI 기술의 접근성을 높인다.

AI 연구자들이 논의하는 재귀적 자기 개선의 근접성

Dwarkesh Podcast의 새로운 에피소드에서 John Schulman, Beren Millidge, Charlie O’Neill과 함께 AI 연구자들이 현재의 최전선에서 일어나고 있는 일과 앞으로의 방향에 대해 논의했다. Antithesis는 코드 검증을 지원하며, Grok Bot은 Slack에서 인터뷰의 초안을 자동으로 처리하여 편집 제안을 한다. Jane Street는 프로토콜 에뮬레이터 ASIC 디자인을 위한 경쟁을 시작했으며, 제출 마감은 2027년 1월 18일이다.

Antithesis는 소프트웨어의 버그를 검증하는 데 도움을 주며, Grok Bot은 편집 작업을 효율적으로 관리할 수 있게 한다.

Qwen3.8-27B-Humanlike-Chat: 현실적인 인간 대 인간 대화를 모방한 모델

Qwen3.8-27B-Humanlike-Chat 모델은 125,217개의 인간 대 인간 메시지를 포함한 데이터셋으로 훈련되었으며, 대화의 자연스러움을 높이기 위해 설계되었다. 이 모델은 일반적인 AI 어시스턴트의 느낌을 줄이고, 대화에서 더 짧고 덜 다듬어진 응답을 제공한다. 훈련된 모델은 huihui-ai/Huihui-Qwen3.8-27B-abliterated 위에 rank-256 LoRA를 적용하였고, 체크포인트 863에서 테스트되었다. 또한, OpenAI 호환 엔드포인트도 제공된다.

Qwen3.8-27B-Humanlike-Chat 모델은 대화의 자연스러움을 개선하기 위해 125,217개의 메시지를 사용하여 훈련되었다.

Onsemi CEO, 데이터 센터 에너지 낭비 보고 요구

Onsemi의 CEO Hassane El-Khoury는 AI 데이터 센터 제공자들이 에너지 낭비량을 보고하도록 요구해야 한다고 밝혔다. 그는 뉴욕의 데이터 센터 금지 조치가 단기적이라고 비판하며, 정책 입안자들이 특정 문제를 해결하는 데 집중해야 한다고 말했다. Onsemi는 전력 칩을 제조하며, 데이터 센터의 전력 변환 효율성을 높여 에너지 손실을 줄이는 데 기여하고 있다. El-Khoury는 연방 및 주 법률가들과 에너지 투명성 기준에 대해 논의하고 있으며, AI 데이터 센터의 수익이 올해 두 배로 증가할 것으로 예상하고 있다.

Onsemi는 AI 데이터 센터의 전력 소비와 효율성을 측정하는 새로운 기준을 제안하고 있다.

Jacob Coxon, Anthropic에서 퇴사하며 AI의 존재적 위험 경고

Jacob Coxon은 Anthropic에서 퇴사하며 AI의 발전이 인류에 심각한 위험을 초래할 수 있다고 경고했다. 그는 OpenAI와 Anthropic이 자가 개선 가능한 초지능을 향해 무책임하게 나아가고 있으며, 이러한 기술이 조만간 모든 분야를 혁신하고 통제 불능 상태에 이를 수 있다고 주장했다. Coxon은 AI 개발자들에게 향후 몇 년 동안의 상황을 진지하게 고려할 것을 촉구하며, 이러한 기술의 힘을 과소평가하지 말라고 강조했다.

Jacob Coxon은 AI가 10년 내에 인류를 위협할 수 있다고 경고하고 있으며, 이는 AI 개발자들이 향후 연구 방향을 재고해야 함을 시사한다.

Meta, AI 챗봇의 개인 정보 탐색 질문 수정 예정

Meta는 AI 챗봇이 개인 정보에 대한 침해적인 질문을 제시한 후, 이를 수정할 계획이라고 밝혔다. Meta의 대변인 Dina El-Kassaby는 회사가 '기대에 미치지 못했다'고 언급하며, 해당 기능이 개인에게 그런 질문을 제시해서는 안 된다고 말했다. 이 변화는 Instagram 사용자 Kalie Robins가 Meta AI의 침해적인 제안을 설명한 영상이 화제가 된 후 이루어졌다.

Meta는 AI 챗봇의 제안 기능을 수정하여 사용자 개인 정보 보호를 강화할 예정이다.

오픈AI 개발자가 소개하는 GPT-6 Astra 프롬프트 활용법

요즘 프로덕트 메이커는 매주 유용한 AI 도구와 팁을 소개한다. 이번 주에는 AI에게 다이어그램을 깔끔하게 만들어주는 'diagram-design' 스킬을 추천하며, 이 도구는 39가지 유형의 다이어그램을 생성할 수 있다. 사용자는 원하는 그림을 설명하면 AI가 적절한 유형을 선택해 HTML 파일로 결과물을 제공한다. 또한, 브랜드 맞추기 기능을 통해 웹사이트 색상과 글꼴을 반영한 다이어그램을 만들 수 있다.

diagram-design은 사용자가 원하는 다이어그램을 AI가 자동으로 생성해주며, 브랜드 맞춤형 디자인을 지원한다.

274년 뒤에 도착하는 부품과 시스템 연동의 필요성

주문 제작 산업기계를 만드는 회사에서 MES와 ERP 시스템이 연동되지 않아 부품 발주와 재고 관리에 문제가 발생하고 있다. 고객의 요구에 따라 시스템 연동을 의뢰받았지만, 실제로는 사람의 입력 오류가 문제의 원인으로 드러났다. 274년 뒤로 설정된 납기와 음수 재고 등의 데이터가 확인되었으며, 이는 시스템이 아닌 사람의 환경과 절차에서 기인한 것으로 분석되었다.

MES와 ERP 시스템의 연동이 아닌, 데이터 입력 환경 개선이 핵심이라는 점이 중요하다.

웹 브라우저에서 SQL 연습 가능한 서비스 NULL지마

‘NULL지마’는 DB 설치와 데이터 준비 없이 웹사이트에서 SQL을 실행할 수 있는 학습 서비스이다. 사용자는 별도의 DBMS 설치 없이 브라우저에서 SQL 쿼리를 입력하고 실행할 수 있으며, sql.js와 SQLite를 활용하여 데이터베이스를 브라우저 메모리에서 처리한다. 이 서비스는 6개 테이블(departments, employees, products, orders, customers, sales)로 구성된 데이터셋을 제공하여 JOIN과 GROUP BY 연습을 지원한다.

NULL지마는 사용자가 별도의 DBMS를 설치하지 않고도 SQL을 연습할 수 있는 환경을 제공하여 학습 효율성을 높인다.

OpenAI 직원들이 AI의 위험성에 대해 언급

OpenAI, Anthropic, Google 직원들이 AI가 인류에 위협이 될 수 있다는 우려를 표명했다. OpenAI의 Tomek Korbak은 AI의 정렬 문제 해결이 충분하지 않다고 언급하며, Vie McCoy는 인간의 발전을 모델에 깊이 내재화해야 한다고 강조했다. Adam Majmudar는 기술 발전에 한계가 있어야 한다고 주장하며, Aidan Clark는 현대 LLM이 문제를 해결하는 속도가 너무 빠르다고 경고했다.

OpenAI의 직원들은 AI 기술 발전에 대한 신중한 접근이 필요하다고 강조하고 있다.

디자인 스타일 설명을 위한 툴 Design Words 소개

Ben Tossell은 비디자이너가 디자인 스타일과 구성 요소를 설명하는 데 어려움을 겪는 문제를 해결하기 위해 Design Words라는 툴을 개발했다. 이 툴은 사용자가 다양한 스타일과 구성 요소를 선택하면 해당 스타일에 맞는 텍스트 프롬프트를 제공하여 AI 에이전트에게 원하는 디자인을 요청할 수 있도록 돕는다. 현재 이 툴은 개발 중이며 사용자 피드백을 받고 있다.

Design Words는 사용자가 디자인 스타일을 쉽게 선택하고 AI 에이전트에게 명확한 요청을 할 수 있도록 돕는 기능을 제공한다.