Zep
Zep
Zep은 에이전트(agent)에 장기 기억을 제공하는 메모리 레이어다. 대화 이력과 사실을 누적하고, 이후 세션에서 관련 기억을 인출해 컨텍스트에 보태는 역할을 한다.
장기기억 관련 벤치마크에서 강세를 보인다는 점이 특징으로 언급된다. 세션을 넘어 유지되는 기억과 그 인출 품질을 중요하게 다루는 도구다.
사용자나 세션 단위로 지속되는 맥락이 핵심인 애플리케이션, 그리고 인출 품질이 응답의 정확성에 직접 영향을 주는 상황에서 검토할 만하다. 컨텍스트 윈도 한계를 외부 메모리로 보완하려는 설계와 잘 맞는다.
주의할 점은 벤치마크 강세가 모든 사용 사례에서의 우위를 보장하지는 않는다는 것이다. 자신의 데이터와 질의 패턴에서 인출 정확도를 직접 측정해보고 도입 여부를 판단하는 편이 안전하다.
AI 툴 관련 브리핑
condense-json 1.0 출시
condense-json 1.0이 출시되었다. 이 라이브러리는 JSON 데이터를 압축하여 중복된 문자열을 특수 구문으로 대체하는 기능을 제공한다. 예를 들어, 입력 JSON에서 특정 문자열을 찾아 이를 {'$r': ...} 형식으로 변환하여 저장 공간을 절약할 수 있다. 이 기능은 SQLite 로그에서 중복 데이터를 줄이는 데 사용된다.
condense_json(input_json, replacements) 함수는 중복된 데이터를 효율적으로 저장할 수 있게 해준다.
구글, AI를 활용한 Google Earth 기능 하루 만에 종료
구글은 목요일에 출시한 Google Earth의 AI 기능을 하루 만에 종료했다. 이 기능은 사용자가 텍스트 프롬프트를 사용해 위성 이미지를 편집할 수 있게 해주었으며, 사용자는 실제 세계의 AI 딥페이크 이미지를 생성할 수 있었다. 예를 들어, Digital Digging의 Henk van Ess는 멕시코 국경 근처의 난민이나 가자 지구의 병원 근처에 폭탄 크레이터를 추가한 이미지를 생성했다. 구글은 초기 반응에서 Nano Banana 2로 생성된 이미지에 디지털 워터마크가 포함되어 있으며, '유해한 주제에 대한 이미지 생성'을 방지했다고 밝혔다.
구글은 AI를 활용한 이미지 생성 기능을 통해 사용자에게 새로운 편집 도구를 제공했지만, 유해한 콘텐츠 생성 우려로 인해 기능을 즉시 중단했다.
LinkedIn, AI 생성 저품질 게시물 신고 버튼 도입
LinkedIn은 저품질 AI 생성 게시물을 줄이기 위해 'AI 슬롭으로 보임' 신고 옵션을 도입하고 있다. 또한, 기존의 AI 글쓰기 기능을 교정 도구로 대체할 예정이다.
LinkedIn의 'AI 슬롭으로 보임' 신고 옵션은 사용자들이 저품질 콘텐츠를 신고할 수 있는 새로운 방법을 제공한다.
Amazon Bedrock의 고급 프롬프트 최적화 도구 소개
Amazon Bedrock은 최대 5개의 모델에 대해 프롬프트를 최적화하고 원본과 최적화된 성능을 비교하는 '고급 프롬프트 최적화' 도구를 도입하였다. 이 도구는 수동 반복 작업을 줄이고, 평가 지표에 기반하여 프롬프트를 최적화하는 피드백 루프를 통해 작동한다. 사용자는 프롬프트 템플릿과 사용자 입력을 제공하고, 최적화된 프롬프트와 평가 점수를 받을 수 있다.
Amazon Bedrock의 고급 프롬프트 최적화 도구는 프롬프트 마이그레이션과 최적화를 자동화하여 개발 주기를 단축시킬 수 있다.