반말뉴스 로고
반말뉴스
앱으로 보기
2026년 7월 1일 AI 소식 핵심 브리핑

소프트웨어 공장과 에이전트 루프가 가득했던 개발자 축제 요약

바쁜 하루, AI가 핵심만 3줄로 짚어주는 반말뉴스로 빠르게 확인해봐!

6월 30일
7월 1일
7월 2일
실시간 랭킹반말 인사이트구글 트렌드AI 소식
소프트웨어 공장과 에이전트 루프가 가득했던 개발자 축제 요약
트렌드

소프트웨어 공장과 에이전트 루프가 가득했던 개발자 축제 요약

  • AI Engineer World's Fair(AIEWF) 화요일 요약본인데, 대화형 루프와 에이전트 공학이 최대 화두였어.
  • 사람 손 거의 안 타고 소프트웨어를 공장처럼 찍어내는 자동화 아키텍처에 관심이 뜨겁네.
  • 더불어 규제 없는 오픈형 모델들의 발전 방향에 대해서도 활발한 디스커션이 오갔어.
Latent Space (swyx)원문 보기
“오퍼스급인데 돈은 반만 내” 앤트로픽 클로드 소넷 5 긴급 수혈
비즈니스

“오퍼스급인데 돈은 반만 내” 앤트로픽 클로드 소넷 5 긴급 수혈

  • 앤트로픽이 가성비를 대폭 높인 신형 '클로드 소넷 5'를 즉각 출시하고 전 요금제에 얹었어.
  • 기존 끝판왕인 '오퍼스 4.8'급 브레인을 가졌으면서 API 호출 단가는 50%나 저렴해.
  • 개발자들은 api 모델명 'claude-sonnet-5'로 바로 쓸 수 있고 도입 프로모션 요금도 적용된다네.
더에이아이원문 보기
AWS가 20년 노하우로 빅 모델 보안 철옹성 치는 법
거버넌스

AWS가 20년 노하우로 빅 모델 보안 철옹성 치는 법

  • AWS가 고객들에게 안전하게 프론티어 AI 모델을 배포하기 위한 보안 아키텍처 전략을 공유했어.
  • 아마존 베드락을 비롯한 인프라는 애초에 강력한 엔터프라이즈 보안 설계 위에서 돌아가고 있대.
  • 보안 위협이 날로 커지는 요즘, 안심하고 비즈니스 데이터를 집어넣을 구조적 가이드를 줬어.
AWS ML Blog원문 보기
오늘 소넷 5 풀렸으니 내일은 페이블 5가 쏟아질 기세
트렌드

오늘 소넷 5 풀렸으니 내일은 페이블 5가 쏟아질 기세

  • 클로드 소넷 5가 전격 릴리즈된 소식을 필두로 빅모델 시장의 판도가 다시 흔들려.
  • 바로 이어서 앤트로픽의 최상위 차기작인 'Fable 5'까지 곧 나올 거라는 관측이 지배적이야.
  • 하루가 다르게 치고받는 오픈 소스 진영과 독점 모델 진영의 싸움을 밀착 요약했어.
Latent Space (swyx)원문 보기
오픈AI의 초강력 GPT-5.6 출시 소식에 미국 허가증 필수인 세상
거버넌스

오픈AI의 초강력 GPT-5.6 출시 소식에 미국 허가증 필수인 세상

  • 오픈AI가 플래그십 'Sol', 범용 'Terra', 저비용 'Luna'로 구성된 GPT-5.6 라인업을 공개했어.
  • 하지만 해킹 등 사이버 오남용 우려로 미국 정부가 미리 허가한 소수 파트너만 사용 가능해.
  • 지난번 앤트로픽에 이어 이제 초고성능 AI는 미국 국가 전략 자산으로 묶여 통제받는 분위기야.
더에이아이원문 보기
제품 개발과 현장 지원의 경계가 무너지는 개발자 업계 근황
트렌드

제품 개발과 현장 지원의 경계가 무너지는 개발자 업계 근황

  • Sierra의 Natalie Meurer가 제품 엔지니어와 고객 밀착형(Forward Deployed) 엔지니어의 경계가 합쳐진다고 분석했어.
  • 고객 문제를 현장에서 직접 발굴하고 해결해 피드백 루프를 극단적으로 줄이는 게 핵심이야.
  • 결국 앞으로 생존할 소프트웨어 엔지니어링은 비즈니스 가치 창출과 맞닿아 있을 수밖에 없어.
Latent Space (swyx)원문 보기
비싼 서버 없어도 노트북이나 폰에서 AI가 팽팽 잘 돌아간다니
트렌드

비싼 서버 없어도 노트북이나 폰에서 AI가 팽팽 잘 돌아간다니

  • Ahmad Osman이 요즘 온디바이스 및 로컬 AI 기술이 얼마나 무섭게 발전 중인지 강조했어.
  • 개인용 노트북, 폰은 물론이고 기업용 온프레미스 인프라에서도 로컬 AI가 성능 격차를 좁히는 중이래.
  • 보안 걱정 없고 딜레이 없는 완벽한 개인 맞춤형 AI 생태계가 생각보다 빨리 올 듯해.
Latent Space (swyx)원문 보기
AI 내장 브라우저가 아직은 위험천만한 시한폭탄인 이유
거버넌스

AI 내장 브라우저가 아직은 위험천만한 시한폭탄인 이유

  • LLM한테 '2 더하기 2는 5'라고 세뇌하는 수준으로도 기존 보안 필터가 뚫린다는 충격적인 공격 법이야.
  • AI 브라우저를 가상의 망상 상태로 빠뜨려 안전 규칙을 통째로 잊어버리게 만든대.
  • 이래서 브라우저 자체에 인공지능을 깊게 엮는 건 시기상조라는 경고가 쏟아지고 있어.
Ars Technica (AI)원문 보기
코딩 에이전트한테 지가 한 일 직접 영상 녹화해오라고 시키는 툴
도구

코딩 에이전트한테 지가 한 일 직접 영상 녹화해오라고 시키는 툴

  • Simon Willison이 만든 shot-scraper-video에 대한 간단한 소개 글이야.
  • 웹 브라우저를 자동 제어하는 김에 작동 방식이나 결과를 비디오 파일로 바로 녹화할 수 있게 도와줘.
  • 이제 AI 에이전트가 알아서 자기 작업 결과물을 영상 데모로 따놓는 시대가 코앞이네.
Simon Willison원문 보기
AI 앱 트래픽 폭발해도 끄떡없는 5가지 아키텍처 패턴
아키텍처

AI 앱 트래픽 폭발해도 끄떡없는 5가지 아키텍처 패턴

  • 사용자 몰려서 서버 터지고 에러 나는 사태를 막아줄 꿀 패턴들이 정리됐어.
  • 기본적인 아마존 베드락 내장 기능부터 LLM 게이트웨이를 활용한 멀티 모델 오케스트레이션까지 커버해.
  • 지리적 추론 분산이나 멀티테넌트 환경의 간섭 제어 같은 실무 꿀팁이 한가득 들어있으니 꼭 챙겨봐.
AWS ML Blog원문 보기
화물 물류 영어·외국어 번역 NER 장벽, 아마존 베드락으로 격파
아키텍처

화물 물류 영어·외국어 번역 NER 장벽, 아마존 베드락으로 격파

  • 글로벌 화물 물류는 언어가 달라서 개체명 인식(NER) 모델 만들기가 엄청 까다롭거든.
  • IBS Software가 아마존 베드락의 지식 증류(Knowledge Distillation) 기능을 써서 해결책을 찾았대.
  • 토큰 기반 증류 기법과 배포 아키텍처 노하우를 공유했으니 비슷한 골칫거리가 있다면 참고해봐.
AWS ML Blog원문 보기
Nova 모델 미세조정으로 메일 데이터 94% 뽑아내는 법
모델

Nova 모델 미세조정으로 메일 데이터 94% 뽑아내는 법

  • Amazon SageMaker AI로 Nova 모델을 파인튜닝하면 우리 데이터 패턴만 기가 막히게 학습시킬 수 있어.
  • 비슷비슷한 메일 본문 항목도 헷갈리지 않고 정확히 짚어내니까 데이터 추출 효율이 엄청 올라가지.
  • 추출 정확도는 무려 94.77%까지 찍으면서 비용은 오히려 50%나 아낄 수 있는 개꿀 팁이야.
AWS ML Blog원문 보기
터미널에서 프롬프트 딱 한 줄 쳤더니 완성형 LLM 앱이 뚝딱 나왔어
도구

터미널에서 프롬프트 딱 한 줄 쳤더니 완성형 LLM 앱이 뚝딱 나왔어

  • Llmaker라는 오픈소스 툴인데, 터미널 명령어 한 줄로 작동하는 LLM 앱을 빌드해준대.
  • 보일러플레이트 코드 짜느라 고생할 필요 없이 핵심 로직과 기본 껍데기를 알아서 생성해 줘.
  • 프로토타입을 빠르게 만들어서 비즈니스 검증부터 해보고 싶은 기획자와 개발자에게 강추.
Hacker News - LLM원문 보기
현장 파견 엔지니어와 제품 개발자의 경계가 허물어지는 이유
비즈니스

현장 파견 엔지니어와 제품 개발자의 경계가 허물어지는 이유

  • Sierra의 Natalie Meurer가 제품 엔지니어와 고객 대면 기술 엔지니어의 융합 현상을 짚었어.
  • AI 시대가 되면서 고객의 문제를 실시간으로 파악하고 프로덕트에 바로 반영하는 속도가 핵심이 됨.
  • 단순 코더가 아니라 현장의 소리를 듣고 비즈니스 가치로 녹여내는 역량이 점점 더 중요해질 거야.
Latent Space (swyx)원문 보기
클라우드 비켜, 스마트폰과 노트북 안으로 쏙 들어오는 로컬 AI 트렌드
트렌드

클라우드 비켜, 스마트폰과 노트북 안으로 쏙 들어오는 로컬 AI 트렌드

  • AIEWF 워크숍에서 로컬 AI가 온디바이스와 사내 서버 인프라를 중심으로 급성장 중이라는 주장이 나왔어.
  • 네트워크 지연 시간과 프라이버시 문제 때문에 개인 기기 내부에서 직접 돌아가는 가벼운 모델이 뜨고 있어.
  • 앞으로는 클라우드에 비싼 돈 내지 않고 내 컴퓨터 안에서 가뿐하게 돌아가는 AI가 대세가 될 수도.
Latent Space (swyx)원문 보기
미국 정부가 앤트로픽 최첨단 AI 모델의 수출 족쇄를 풀었다
거버넌스

미국 정부가 앤트로픽 최첨단 AI 모델의 수출 족쇄를 풀었다

  • 트럼프 행정부가 앤트로픽의 최고 사양 모델인 Mythos와 Fable에 대한 수출 통제를 완화했어.
  • 외국인 접근 금지 조치를 내린 지 몇 주 만에 규제를 다시 풀어준 신속한 결정이야.
  • 글로벌 AI 주도권을 잡기 위해 수출 규제와 완화 카드 사이에서 머리를 굴리는 형국인 듯.
Wired (AI)원문 보기
서비스 론칭 전 LLM 요금 폭탄 미리 계산해서 지갑 지키는 방법
수익화

서비스 론칭 전 LLM 요금 폭탄 미리 계산해서 지갑 지키는 방법

  • LLM 기반 앱을 무작정 스케일업했다가 요금 폭탄을 맞지 않도록 비용을 예측해주는 도구가 나왔어.
  • 트래픽과 토큰 소모량을 기반으로 마진을 갉아먹을 수 있는 위험 요소를 미리 짚어내 줘.
  • 본격적으로 서비스를 키우기 전에 비즈니스 모델 수익성을 시뮬레이션하기 딱 좋은 도구야.
Hacker News - LLM원문 보기
2+2=5라고 속였더니 AI 브라우저 보안 필터가 뚫려버렸다?
트렌드

2+2=5라고 속였더니 AI 브라우저 보안 필터가 뚫려버렸다?

  • AI 브라우저를 대상으로 한 새로운 기만 공격 기법이 발견되었다는 소식이야.
  • 터무니없는 거짓 사실을 믿게 만들면 가이드라인과 안전망을 무시하고 금지 명령을 수행한대.
  • 인터넷을 자유롭게 돌아다니는 AI 브라우저가 얼마나 보안 위협에 취약한지 단적으로 보여주는 사례야.
Ars Technica (AI)원문 보기
코딩 에이전트가 토큰 낭비하는 주범을 잡는 Apache 2.0 기반 분산 트레이싱
도구

코딩 에이전트가 토큰 낭비하는 주범을 잡는 Apache 2.0 기반 분산 트레이싱

  • synty라는 오픈소스 도구가 등장해서 코딩 에이전트들의 움직임을 추적하고 분석해줘.
  • 에이전트가 어떤 툴에서 토큰을 낭비하고 삽질하는지 분석해서 깃허브 PR/이슈와 연결해준대.
  • 팀 내 에이전트의 병목 구간을 찾아서 리팩토링이나 문서 보완 우선순위를 잡을 때 찰떡이야.
Hacker News - LLM원문 보기
AMD GPU에서 LLM 추론 속도 극한으로 쥐어짜는 비법
하드웨어

AMD GPU에서 LLM 추론 속도 극한으로 쥐어짜는 비법

  • AMD ROCm 팀이 저지연 GEMM(행렬 곱셈) 연산을 이용해 LLM 추론 속도를 높이는 법을 공개했어.
  • 커스텀 커널 최적화를 통해 엔비디아뿐 아니라 AMD 칩셋에서도 경쟁력 있는 속도를 낼 수 있대.
  • AMD 하드웨어를 도입하려는 인프라 엔지니어들이 반드시 체크해야 할 기술 문서야.
Hacker News - LLM원문 보기
데이터베이스 판도가 바뀐다, 모놀리스에서 Lakebase와 LTAP 시대로
데이터

데이터베이스 판도가 바뀐다, 모놀리스에서 Lakebase와 LTAP 시대로

  • 데이터브릭스 블로그에서 저장소 레벨부터 데이터베이스를 재정의하는 글을 올렸어.
  • 기존 OLTP 중심 사고방식에서 벗어나 데이터 레이크 기반의 실시간 트랜잭션 분석(LTAP)을 제안해.
  • 더 저렴한 비용으로 대규모 정형/비정형 데이터를 초고속 처리하려는 새로운 시도야.
Databricks Blog원문 보기
Jax로 밑바닥부터 훈련 루프 짜기, LLM 트레이닝의 정석
알고리즘

Jax로 밑바닥부터 훈련 루프 짜기, LLM 트레이닝의 정석

  • Jax 프레임워크를 사용해서 LLM 트레이닝 루프를 직접 빌드하는 과정을 정리한 튜토리얼이야.
  • 하드웨어 가속을 100% 활용하면서 효율적으로 분산 학습을 구현하는 코드가 담겨 있어.
  • 프레임워크 내부 동작 원리를 파헤치고 나만의 학습 엔진을 만들고 싶은 하드코어 개발자용 콘텐츠야.
Hacker News - LLM원문 보기
기술 문서 작성이 막막할 때 AI한테 찔러넣기 좋은 프롬프트 팁
생산성

기술 문서 작성이 막막할 때 AI한테 찔러넣기 좋은 프롬프트 팁

  • 자신이 쓴 기술 문서를 더 깔끔하게 고치고 싶을 때 쓰기 좋은 프롬프트 목록이야.
  • 어색한 문맥을 다듬거나, 가독성을 높이고, 기술적 정확도를 검증하는 데 탁월한 효과가 있어.
  • 글쓰기 실력 늘리느라 끙끙대지 말고 AI 편집장의 피드백을 적극 활용해보는 걸 추천해.
Hacker News - LLM원문 보기
스크린샷 찍던 에이전트가 이제 비디오 녹화까지 따서 보고하네
도구

스크린샷 찍던 에이전트가 이제 비디오 녹화까지 따서 보고하네

  • 유명 개발자 사이먼 윌리슨이 에이전트의 작업 결과물을 비디오로 기록하는 도구를 소개했어.
  • 기존의 웹 스크랩 도구인 shot-scraper에 비디오 녹화 기능을 얹은 신기술이야.
  • 에이전트가 브라우저에서 무슨 짓을 했는지 블랙박스 영상처럼 생생하게 확인 가능해.
Simon Willison원문 보기
AI 에이전트한테 다이내믹한 화면을 선물하는 AG-UI 프로토콜
도구

AI 에이전트한테 다이내믹한 화면을 선물하는 AG-UI 프로토콜

  • Amazon Bedrock AgentCore에 AG-UI 프로토콜을 통합해 생성형 UI를 만드는 방법이야.
  • CopilotKit을 활용해 화면 상태를 공유하고 필요할 때 인간이 개입(HITL)할 수 있게 구현했어.
  • 단순 텍스트 답변을 넘어 유저 상황에 딱 맞는 인터랙티브한 프론트엔드를 자동 생성해줘.
AWS ML Blog원문 보기
갑자기 몰리는 트래픽에도 안 죽는 생성형 AI 만드는 5가지 비법
아키텍처

갑자기 몰리는 트래픽에도 안 죽는 생성형 AI 만드는 5가지 비법

  • Amazon Bedrock과 LLM 게이트웨이를 조합해 애플리케이션의 회복 탄력성을 높이는 패턴이야.
  • 트래픽 폭주로 인한 할당량 초과나 노이지 네이버 문제를 해결하는 꿀팁들이 들어있어.
  • 다중 모델 오케스트레이션과 지리적 분산 처리를 통해 서비스 중단 걱정을 덜어줘.
AWS ML Blog원문 보기
CG 페이스 교체 학습 속도를 8배나 단축시킨 AWS 마법
인프라

CG 페이스 교체 학습 속도를 8배나 단축시킨 AWS 마법

  • 시각 효과 전문 기업 Outpost VFX가 AWS 인프라를 도입해 AI 모델 학습을 가속화했어.
  • 단일 GPU의 한계를 극복하고 멀티 GPU 학습 아키텍처를 도입해 속도를 8배나 올렸대.
  • 고화질 시각 효과와 실감 나는 얼굴 대체 작업을 훨씬 빠르게 처리할 수 있게 된 셈이야.
AWS ML Blog원문 보기
LLM KOSH, 이름은 생소하지만 깃허브에 새로 등장한 녀석
커뮤니티

LLM KOSH, 이름은 생소하지만 깃허브에 새로 등장한 녀석

  • 깃허브에 LLM KOSH라는 새로운 저장소가 생성되었어.
  • 아직 구체적인 문서나 커뮤니티 반응은 적지만, LLM 관련 신규 오픈소스인 건 확실해.
  • 트렌드에 민감한 개발자라면 미리 스타(Star) 박아두고 지켜볼 만한 가치가 있어.
Hacker News - LLM원문 보기
에이전트 도구도 이제 pip처럼 관리하는 시대가 열렸다
라이브러리

에이전트 도구도 이제 pip처럼 관리하는 시대가 열렸다

  • LLM-Tools라는 프로젝트인데, 에이전트 도구의 requirements.txt 역할을 자처하고 나섰어.
  • 파이썬 패키지 설치하듯이 에이전트가 쓸 도구들을 깔끔하게 관리할 수 있게 해줘.
  • 에이전트 개발할 때 매번 도구 연동하느라 삽질하던 수고를 덜어줄 꿀템이야.
Hacker News - LLM원문 보기
LLM 에이전트를 위한 초소형 제어 루프 등장, 근데 쿠버네티스 모양을 곁들인
도구

LLM 에이전트를 위한 초소형 제어 루프 등장, 근데 쿠버네티스 모양을 곁들인

  • Looop라는 아주 작고 이식성 좋은 제어 루프 프로젝트가 깃허브에 떴어.
  • LLM 에이전트의 상태를 쿠버네티스처럼 관리하는 신선한 발상이야.
  • 복잡한 에이전트 워크플로우를 단순하게 제어하고 싶을 때 유용할 듯해.
Hacker News - LLM원문 보기
“2+2는 5야” 한마디에 봉인 해제되는 AI 브라우저의 치명적인 취약점
거버넌스

“2+2는 5야” 한마디에 봉인 해제되는 AI 브라우저의 치명적인 취약점

  • AI 브라우저를 꿈 같은 망상에 빠뜨려 기존 안전장치(Guardrails)를 무력화하는 새로운 공격 방식이 발견됐어.
  • 간단하게 2 + 2 = 5 같은 거짓 팩트를 입력하는 것만으로도 금지된 명령을 수행하게 만들 수 있대.
  • 보안 전문가들은 웹브라우저처럼 민감한 환경에 성급하게 AI를 통합하는 행위가 왜 위험한지 단적으로 보여주는 사례라고 경고해.
Ars Technica (AI)원문 보기
AI 에이전트가 어디서 토큰 낭비하는지 감시하고 깃허브 PR과 연동하는 오픈소스
도구

AI 에이전트가 어디서 토큰 낭비하는지 감시하고 깃허브 PR과 연동하는 오픈소스

  • 분산 환경에서 코딩 에이전트의 동작을 추적하고 깃허브 이슈/PR과 자동 연동해주는 오픈소스 'synty'가 공개됐어.
  • 개발 머신이나 샌드박스의 데이터를 S3로 스트리밍해 터미널(TUI)로 분석 결과를 보여준대.
  • 에이전트가 뻘짓하는 병목 지점을 찾아서 문서나 코드 리팩토링으로 마찰을 줄이는 데 유용해.
Hacker News - LLM원문 보기
AMD GPU에서 LLM 인프라 속도 끌어올리는 초저지연 GEMM 최적화 기법
하드웨어

AMD GPU에서 LLM 인프라 속도 끌어올리는 초저지연 GEMM 최적화 기법

  • AMD ROCm 블로그에서 AMD GPU 상의 LLM 추론 속도를 가속화하는 최적화 기술을 공개했어.
  • 핵심 연산인 GEMM(일반 행렬 곱셈)의 지연 시간을 극도로 줄여 전체적인 인프라 효율을 높인대.
  • AMD 하드웨어 생태계에서 LLM 서비스를 더 저렴하고 빠르게 서빙하고 싶은 개발자라면 놓치지 마.
Hacker News - LLM원문 보기
클로드 소네트 5 AWS 상륙, 역대급 가성비와 성능 다 잡았다
모델

클로드 소네트 5 AWS 상륙, 역대급 가성비와 성능 다 잡았다

  • 앤트로픽의 최신 5세대 모델인 'Claude Sonnet 5'가 Amazon Bedrock과 AWS 클라우드에 전격 출시됐어.
  • 코딩, 에이전트 작업, 전문 업무 등 모든 영역에서 최상위 지능을 보여주면서도 기존 소네트 가격을 유지했대.
  • 가성비와 압도적 성능을 동시에 챙기고 싶었던 AI 서비스 빌더들에겐 이보다 더 좋은 선택지가 없겠어.
AWS ML Blog원문 보기
맨바닥에서 시작하는 LLM, JAX로 트레이닝 루프 직접 코딩하기
라이브러리

맨바닥에서 시작하는 LLM, JAX로 트레이닝 루프 직접 코딩하기

  • JAX 라이브러리를 활용해 LLM 학습을 돌리기 위한 트레이닝 루프 빌드 과정을 상세히 설명한 튜토리얼이야.
  • 완전 바닥에서부터 모델 구조를 세우고 학습 코드를 짜는 깊이 있는 기술 아티클이지.
  • 원리를 제대로 파악하고 분산 학습 프레임워크인 JAX의 강력함을 느끼고 싶은 엔지니어에게 추천해.
Hacker News - LLM원문 보기
글 쓰다 막힐 때 LLM한테 이렇게 물어봐, 기술 문서 셀프 편집 프롬프트 모음
생산성

글 쓰다 막힐 때 LLM한테 이렇게 물어봐, 기술 문서 셀프 편집 프롬프트 모음

  • 기술 문서 작성 후 혼자서 퇴고할 때 쓰기 좋은 유용한 LLM 프롬프트 가이드가 올라왔어.
  • 어색한 문장을 고치고 기술적 정확도를 검증하며 독자 수준에 맞게 톤앤매너를 조율하는 꿀팁들이 가득해.
  • 매번 검토해줄 사람 찾을 필요 없이 LLM을 전담 에디터로 옆에 두고 쓰기 딱 좋아.
Hacker News - LLM원문 보기
일 시켜놨더니 지가 일하는 모습 녹화까지 해오는 똑똑한 AI 에이전트
도구

일 시켜놨더니 지가 일하는 모습 녹화까지 해오는 똑똑한 AI 에이전트

  • 유명 개발자 사이먼 윌리슨이 에이전트가 작업 화면을 비디오 데모로 자동 녹화하게 만드는 툴을 소개했어.
  • 'shot-scraper video'를 활용해 에이전트가 브라우저에서 수행하는 작업을 그대로 캡처해 기록하는 방식이야.
  • 내 에이전트가 뒤에서 이상한 짓을 하지는 않는지, 혹은 디버깅할 때 눈으로 직접 확인하기에 정말 편해.
Simon Willison원문 보기
에이전트 화면을 실시간으로 그려낸다? AG-UI 프로토콜의 마법
생산성

에이전트 화면을 실시간으로 그려낸다? AG-UI 프로토콜의 마법

  • Amazon Bedrock AgentCore와 AG-UI 프로토콜을 결합해 실시간 생성형 UI를 만드는 템플릿이 공개됐어.
  • 여기에 CopilotKit을 더해 에이전트와 사용자 간의 양방향 상태 공유와 인터랙션을 구현한대.
  • 딱딱한 챗봇 화면에서 벗어나 상황에 맞게 뚝딱 변하는 스마트한 UI를 개발하고 싶다면 필수야.
AWS ML Blog원문 보기
계정 여러 개라도 구독은 한 번만, 베드락 모델 권한 관리의 정석
인프라

계정 여러 개라도 구독은 한 번만, 베드락 모델 권한 관리의 정석

  • AWS가 멀티 계정 환경에서 Amazon Bedrock 모델 접근 권한을 관리하는 'Managed Entitlements'를 소개했어.
  • 중앙 계정에서 딱 한 번만 구독해두면 조직 내 다른 워크로드 계정들로 권한을 쉽게 뿌려줄 수 있대.
  • 매번 각 계정마다 마켓플레이스 권한 설정하느라 번거로웠던 인프라 담당자들은 꼭 읽어봐.
AWS ML Blog원문 보기
서버 터지면 곤란하니까, 아마존 베드락으로 LLM 게이트웨이 설계하는 법
아키텍처

서버 터지면 곤란하니까, 아마존 베드락으로 LLM 게이트웨이 설계하는 법

  • 갑작스러운 트래픽 폭주나 할당량 초과에도 끄떡없는 생성형 AI 앱 회복 탄력성 패턴 5가지가 공개됐어.
  • 네이티브 기능을 넘어서 LLM 게이트웨이를 통한 다중 모델 오케스트레이션 방법을 다뤄.
  • 동시 접속자가 몰려 서비스가 먹통이 되는 대참사를 막기 위한 아키텍처 필수 코스야.
AWS ML Blog원문 보기
시각 효과 전문 기업이 GPU 1개로 허덕이다 AWS 만나고 8배 빨라진 비결
인프라

시각 효과 전문 기업이 GPU 1개로 허덕이다 AWS 만나고 8배 빨라진 비결

  • Outpost VFX가 AWS 멀티 GPU 환경을 도입하고 AI 모델 학습 속도를 8배나 올렸대.
  • 얼굴 교체(Face Replacement) 같은 고난도 시각 효과(VFX) 작업의 생산성이 획기적으로 개선됐어.
  • 단일 GPU 한계에 부딪혀 렌더링 시간만 마냥 기다리던 스튜디오라면 아키텍처를 참고해봐.
AWS ML Blog원문 보기
화물 물류의 든든한 지원군, 아마존 베드락으로 만든 다국어 개체명 인식기
비즈니스

화물 물류의 든든한 지원군, 아마존 베드락으로 만든 다국어 개체명 인식기

  • 물류 프로세스에서 쏟아지는 다국어 텍스트에서 핵심 정보만 쏙쏙 뽑아내는 기술이 공개됐어.
  • Amazon Bedrock의 지식 증류(Knowledge Distillation) 기능을 활용해 성능을 꽉 잡았대.
  • 복잡한 글로벌 물류 문서를 처리하느라 머리 싸매던 기업들에게 좋은 가이드라인이 될 거야.
AWS ML Blog원문 보기
아마존 노바 미세조정했더니 이메일 정보 추출 정확도 94.77% 찍음
모델

아마존 노바 미세조정했더니 이메일 정보 추출 정확도 94.77% 찍음

  • AWS가 Amazon SageMaker AI로 'Nova' 모델을 파인튜닝해 메일 데이터를 추출한 결과를 공유했어.
  • 기존 모델보다 정확도를 무려 94.77%까지 끌어올렸다고 하네.
  • 게다가 인프라 비용은 오히려 50%나 절감했다니 기업 입장에선 안 쓸 이유가 없겠어.
AWS ML Blog원문 보기
LLM 학습하다 GPU 터지는 일 이제 없어, 실시간 OOM 방지기 등장
아키텍처

LLM 학습하다 GPU 터지는 일 이제 없어, 실시간 OOM 방지기 등장

  • LLM 파인튜닝이나 학습 중에 불쑥 찾아오는 GPU Out-Of-Memory(OOM)를 막아주는 UATC 컨트롤러야.
  • 메모리 사용량을 실시간 피드백 루프로 모니터링하면서 제어해 준대.
  • 갑자기 학습 터져서 새벽에 눈물 흘리던 AI 엔지니어들의 든든한 보험이 될 듯.
Hacker News - LLM원문 보기
LLM이 생성한 지식을 한곳에 모으는 오픈소스 저장소 발견
데이터

LLM이 생성한 지식을 한곳에 모으는 오픈소스 저장소 발견

  • LLM KOSH라는 새로운 오픈소스 지식 저장소 프로젝트가 공개됐어.
  • 모델이 학습하거나 생성한 다양한 형태의 지식 데이터를 효율적으로 구조화하고 관리하는 걸 목표로 해.
  • 아직 초기 단계지만 LLM 기반 지식 베이스를 구축하려는 사람들은 눈여겨볼 만해.
Hacker News - LLM원문 보기
에이전트 도구도 이제 pip처럼 한 줄로 관리하는 시대
도구

에이전트 도구도 이제 pip처럼 한 줄로 관리하는 시대

  • LLM 에이전트가 사용하는 수많은 도구의 의존성을 관리해주는 'LLM-Tools' 프로젝트야.
  • 파이썬의 requirements.txt처럼 필요한 도구 명세를 깔끔하게 정리하고 설치할 수 있게 도와줘.
  • 에이전트 개발할 때 도구 버전 꼬여서 골머리 앓던 개발자들에겐 단비 같은 소식이지.
Hacker News - LLM원문 보기
LLM 에이전트용 쿠버네티스? 단 30줄로 제어 루프 돌리는 방법
도구

LLM 에이전트용 쿠버네티스? 단 30줄로 제어 루프 돌리는 방법

  • LLM 에이전트를 위한 초소형 제어 루프 'Looop'가 깃허브에 떴어.
  • 쿠버네티스의 상태 유지 구조에서 영감을 받아 아주 가볍게 설계됐대.
  • 복잡한 에이전트 워크플로우를 간결하고 안정적으로 통제하고 싶을 때 딱이야.
Hacker News - LLM원문 보기
뉴스 더보기(6월 30일)

이전 일자의 주요 이슈 브리핑을 계속해서 볼 수 있어