모질라가 버린 요약 기능 아쉬워서 내가 직접 만든 로컬 LLM 확장 프로그램
모질라가 버린 요약 기능 아쉬워서 내가 직접 만든 로컬 LLM 확장 프로그램
- 모질라가 개발 중단한 요약 확장 기능 '오빗'을 한 개발자가 직접 재현해 냈어.
- 외부 서버 안 거치고 Chrome/Edge나 Firefox 웹브라우저 로컬 환경에서 바로 돌아가.
- 개인 프라이버시가 걱정되거나 개인 Ollama 인스턴스 쓰는 사람들에게 딱 좋은 도구야.
지 혼자 학습해서 최적의 LLM으로 연결해주는 라우팅 프록시
- 여러 LLM 중에서 질문에 가장 잘 답할 모델을 자동으로 찾아 연결해주는 프록시야.
- 자가 학습(Self-training) 모델을 적용해서 쓰면 쓸수록 최적화 성능이 올라가.
- 성능과 비용 사이에서 고민하는 개발자라면 꼭 눈여겨봐야 할 프로젝트야.
API 호출 제한 걸려 터지기 전에 LLM 에이전트 일시정지 시키는 꿀템
- API 호출 속도 제한(Rate Limit) 걸리기 직전에 에이전트를 알아서 재워주는 도구야.
- 제한이 풀리면 하던 작업을 처음부터 다시 안 하고 깔끔하게 이어서 실행해 줘.
- 내 돈과 에이전트 작업 리소스를 아껴줄 똑똑한 오픈소스 라이브러리인 듯.
환각 현상 99% 차단한다는 LLM 등장, 이거 진짜일까?
- LLM의 고질병인 환각 현상(할루시네이션)을 99% 방지한다고 주장하는 API가 나왔어.
- 아직 공개된 정보가 적고 평점도 낮아서 검증이 더 필요해 보여.
- 진짜라면 대박이겠지만 일단은 낚이지 말고 팩트 체크 좀 더 해봐야겠어.
엔비디아가 AI 데이터센터 안의 모든 칩을 싹 쓸어가려는 진짜 이유
- 엔비디아가 CPU와 GPU를 하나로 합친 '베라 루빈' 플랫폼을 선보였어.
- 단순히 그래픽 카드만 파는 게 아니라, AI 인프라의 모든 레이어를 지배하겠다는 야망이지.
- 하드웨어 생태계를 통째로 쥐고 흔들겠다는 엔비디아의 독주 체제가 더 단단해질 것 같아.
.jpg)