Letta
Letta (MemGPT)
Letta는 MemGPT 논문에서 제시된 아이디어를 실제 런타임으로 옮긴 에이전트(agent) 메모리 프레임워크다. 컨텍스트 윈도를 운영체제의 가상 메모리처럼 다루어, 한정된 컨텍스트 안과 밖을 오가며 정보를 적재·교체한다.
핵심은 3계층(tier) 메모리 구조다. 당장 컨텍스트에 들어가는 기억과 외부에 보관되는 기억을 구분하고, 필요할 때 인출해 컨텍스트로 끌어오는 방식으로 동작한다. 이를 통해 세션을 넘는 장기 기억을 다룬다.
장기 운영되는 에이전트를 만들 때, 그리고 메모리 관리 자체를 직접 구현하기보다 검증된 추상에 맡기고 싶을 때 적합하다. 컨텍스트 윈도에 모든 이력을 담을 수 없는 상황을 메모리 계층으로 풀려는 경우가 대표적이다.
주의할 점은 어떤 정보를 컨텍스트에 올리고 무엇을 외부에 둘지에 따라 응답 품질과 비용이 달라진다는 것이다. 메모리 계층을 도입한다고 자동으로 해결되지는 않으며, 인출 전략과 요약 정책을 함께 설계해야 한다.
AI 툴 관련 브리핑
condense-json 1.0 출시
condense-json 1.0이 출시되었다. 이 라이브러리는 JSON 데이터를 압축하여 중복된 문자열을 특수 구문으로 대체하는 기능을 제공한다. 예를 들어, 입력 JSON에서 특정 문자열을 찾아 이를 {'$r': ...} 형식으로 변환하여 저장 공간을 절약할 수 있다. 이 기능은 SQLite 로그에서 중복 데이터를 줄이는 데 사용된다.
condense_json(input_json, replacements) 함수는 중복된 데이터를 효율적으로 저장할 수 있게 해준다.
구글, AI를 활용한 Google Earth 기능 하루 만에 종료
구글은 목요일에 출시한 Google Earth의 AI 기능을 하루 만에 종료했다. 이 기능은 사용자가 텍스트 프롬프트를 사용해 위성 이미지를 편집할 수 있게 해주었으며, 사용자는 실제 세계의 AI 딥페이크 이미지를 생성할 수 있었다. 예를 들어, Digital Digging의 Henk van Ess는 멕시코 국경 근처의 난민이나 가자 지구의 병원 근처에 폭탄 크레이터를 추가한 이미지를 생성했다. 구글은 초기 반응에서 Nano Banana 2로 생성된 이미지에 디지털 워터마크가 포함되어 있으며, '유해한 주제에 대한 이미지 생성'을 방지했다고 밝혔다.
구글은 AI를 활용한 이미지 생성 기능을 통해 사용자에게 새로운 편집 도구를 제공했지만, 유해한 콘텐츠 생성 우려로 인해 기능을 즉시 중단했다.
LinkedIn, AI 생성 저품질 게시물 신고 버튼 도입
LinkedIn은 저품질 AI 생성 게시물을 줄이기 위해 'AI 슬롭으로 보임' 신고 옵션을 도입하고 있다. 또한, 기존의 AI 글쓰기 기능을 교정 도구로 대체할 예정이다.
LinkedIn의 'AI 슬롭으로 보임' 신고 옵션은 사용자들이 저품질 콘텐츠를 신고할 수 있는 새로운 방법을 제공한다.
Amazon Bedrock의 고급 프롬프트 최적화 도구 소개
Amazon Bedrock은 최대 5개의 모델에 대해 프롬프트를 최적화하고 원본과 최적화된 성능을 비교하는 '고급 프롬프트 최적화' 도구를 도입하였다. 이 도구는 수동 반복 작업을 줄이고, 평가 지표에 기반하여 프롬프트를 최적화하는 피드백 루프를 통해 작동한다. 사용자는 프롬프트 템플릿과 사용자 입력을 제공하고, 최적화된 프롬프트와 평가 점수를 받을 수 있다.
Amazon Bedrock의 고급 프롬프트 최적화 도구는 프롬프트 마이그레이션과 최적화를 자동화하여 개발 주기를 단축시킬 수 있다.