비즈니스
우주선 쏘는 줄 알았더니... SpaceX가 사실상 38조짜리 클라우드 기업?
- SpaceX의 실적 지표를 뜯어보니 사실상 연간 280억 달러 매출을 내는 네오클라우드라는 분석이야.
- Starlink 위성 인프라망이 거대한 분산 클라우드 데이터 전송망 역할을 톡톡히 하고 있어.
- 우주 하드웨어 기업으로 시작해서 독점적 네트워크 플랫폼으로 전환해 가는 비즈니스 스케일이 대단하네.
Latent Space (swyx)원문 보기
2026년 6월 23일 AI 소식 핵심 브리핑
우주선 쏘는 줄 알았더니... SpaceX가 사실상 38조짜리 클라우드 기업?
바쁜 하루, AI가 핵심만 3줄로 짚어주는 반말뉴스로 빠르게 확인해봐!
알고리즘
내부 구조 안 뜯어보고 겉만 보고도 AI 속마음 꿰뚫어 보는 법
- AI 모델의 내부 활성화 값을 뜯어보는 대신 겉으로 드러나는 작동 텍스트로 특징을 뽑아내는 탐색 프로젝트야.
- 대화 스크립트를 조각내어 블랙박스 LLM으로 특징을 태깅하고 임베딩 후 클러스터링하는 방식이야.
- 모델 학습이나 조종은 어렵지만, 모델 내부에 접근할 권한이 없을 때 쓰기 편한 대안적 방법이 될 듯.
Alignment Forum원문 보기
거버넌스
결국 백기 투항... 메타, 키보드 감시 프로그램 잠정 중단
- 키보드 입력 값 수집 프로그램의 사내 데이터 노출 사고가 터지자 메타가 결국 사업을 일시 중단했어.
- 원래 내부 보안 경고가 있었음에도 밀어붙였다가 보안 구멍이 뚫려 망신을 톡톡히 샀네.
- 기업 내부에서 AI용 데이터 긁어모을 때 보안 프로토콜이 얼마나 허술한지 보여주는 단면이야.
Wired (AI)원문 보기
트렌드
AI 보안이 그냥 AI 얹은 사이버 보안인 줄 알았어?
- OpenAI 이사회 멤버랑 Gray Swan CEO가 팟캐스트에 나와 나눈 흥미로운 대담이야.
- 사이버 보안의 관점으로만 AI 보안을 바라보면 심각한 맹점이 생긴다고 경고해.
- Anthropic의 Mythos 사태 이후 레드팀 활동이 어떻게 진화해야 하는지 뼈 때리는 조언을 남김.
Latent Space (swyx)원문 보기
데이터
사내 직원들 키보드 입력 값 몰래 모으다가 딱 걸린 메타
- 메타가 AI 모델 학습시키겠다고 직원들의 키스트로크 데이터를 수집해서 논란이 됐어.
- 더 큰 문제는 이 민감한 데이터를 사내 직원 누구나 볼 수 있게 노출해 버렸다는 점이야.
- 내부 직원들 사이에서 프라이버시 침해와 보안 의식 결여에 대한 분통이 터져 나오고 있대.
Wired (AI)원문 보기
거버넌스
회사 몰래 일하는 유령 에이전트들을 통제하는 감시 카메라
- 실무팀들이 보안 승인도 안 난 AI 에이전트들을 빠르게 업무에 도입하면서 생긴 위험을 지적하고 있어.
- 문서 저장소나 내부 툴, 심지어 고객 데이터에 무작정 접근하는 '섀도우 에이전트'가 골칫거리야.
- 보안 가이드라인을 세우고 에이전트들의 권한과 이력을 투명하게 통제해야 할 때야.
DataRobot Blog원문 보기
모델
정확도와 속도 둘 다 잡았는데 Apache 2.0으로 풀린 역대급 모델
- Roboflow에서 RF-DETR Keypoint 버전을 새롭게 출시했어.
- 정확도랑 속도 면에서 기존 YOLO26-pose를 가볍게 씹어먹고, 키포인트 불확실성까지 학습한대.
- 오픈소스 라이선스라 제한 없이 라벨링부터 트레이닝, 배포까지 편하게 쓸 수 있어.
Roboflow Blog원문 보기
수익화
쓰는 만큼만 내라! AI 에이전트 전용 똑똑한 종량제 결제망
- Ampersend가 Amazon Bedrock AgentCore Payments 위에서 스마트 결제 레이어를 구현했어.
- AI 에이전트가 예산 범위 안에서 가장 효율적인 모델로 작업을 알아서 라우팅하고 요청당 돈을 지불해.
- 과도한 AI 인프라 비용 때문에 머리 아팠던 개발사들에게 꽤 괜찮은 솔루션이 될 듯.
AWS ML Blog원문 보기
생산성
매장 진열대 상태 불량 잡는Roboflow 자동 탐지 기술
- 진열대의 빈 구역을 찾아내고 다른 브랜드 제품이 섞여 있는 위반 사항을 자동 탐지해 준대.
- Roboflow Workflows의 객체 탐지와 시각적 추론 기술을 활용했다고 해.
- 오프라인 매장 관리 효율성을 극대화하고 싶은 유통업계 사람들에게 유용하겠어.
Roboflow Blog원문 보기
도구
로봇 용접 불량 검사에 젬마도 아닌 'Gemini 2.5 Pro'를 꽂았더니
- RF-DETR이랑 Gemini 2.5 Pro를 결합해서 용접 불량을 잡아내는 자동 검사 시스템이야.
- 단순 불량 탐지를 넘어 품질 검사 보고서까지 AI가 알아서 척척 뽑아준대.
- 제조업 공정 자동화나 하드웨어 품질 관리에 관심 있다면 요긴하게 써먹을 수 있겠어.
Roboflow Blog원문 보기
모델
오픈소스 버그 다 잡겠다며 군대 이끌고 나선 OpenAI의 속내
- OpenAI가 GPT-5.5-Cyber 개량판이랑 오픈소스 버그 잡는 'Patch the Planet' 프로젝트를 공개했어.
- AI 모델의 사이버 보안 능력에 대한 우려가 커지니까 대대적인 대처에 나선 모양새야.
- 라이벌인 Anthropic의 'Mythos'를 견제하고 사이버 AI 주도권을 잡으려는 치열한 싸움이네.
Wired (AI)원문 보기
아키텍처
하늘에서 내려다본 지도가 다 검색된다고? 공간 검색의 신세계
- Amazon Bedrock이랑 OpenSearch Serverless를 엮어서 대규모 항공 이미지 검색 시스템을 구축한 후기야.
- 임베딩 모델 비교부터 캡셔닝, 검색 기법 실험까지 싹 다 정리해 뒀더라고.
- 실험해보니 Amazon Nova 멀티모달 임베딩이 F1 스코어 가장 높게 나와서 1등 먹었대.
AWS ML Blog원문 보기
생산성
브라우저 안에서 인페인팅 가볍게 돌리기? 클로드 코드로 포팅한 썰
- 사이먼 윌리슨이 Moebius 0.2B 이미지 인페인팅 모델을 웹 브라우저 로컬에서 돌리도록 이식한 과정을 공유했어.
- 이 이식 작업 전반에 Claude Code를 활용해 코드를 다듬고 빌드 환경을 설정했다고 하네.
- 서버 비용 한 푼 안 들이고 가벼운 이미지 편집 AI 기능을 웹에 올리고 싶다면 이 삽질기 참고해 봐.
Simon Willison원문 보기
커뮤니티
이러니저러니 해도 LLM 코딩 퀄리티에 한숨 푹푹 쉬는 개발자들
- Hacker News에 MusicBrainz API로 음악 정리용 코드 짜달라고 했다가 봇들이 헛소리만 해서 빡친 질문 글이 올라왔어.
- 질문자는 뻔히 데이터가 있고 손쉬운 규칙 매핑 문제인데도 AI 모델이 데이터 없다며 회피했다고 툴툴대네.
- 답글에서도 LLM이 코드를 그럴듯하게 짜는 것 같아도 엣지 케이스나 특정 API 연동에선 여전히 멍청하다는 공감이 많아.
Hacker News - LLM원문 보기
라이브러리
프롬프트 없이 LLM 성격을 내 맘대로 개조하는 법
- 인간 연구소(Human Lab)에서 프롬프트에 성격 지정하는 대신 언어 패턴으로 성격을 조율하는 PsychAdapter를 내놨어.
- 컨텍스트 길이를 잡아먹는 프롬프트 튜닝 없이 모델 출력의 성격적 뉘앙스를 바꿀 수 있다는 게 강점이야.
- 더 자연스럽고 페르소나가 확고한 챗봇이나 캐릭터 에이전트를 만들고 싶다면 깃허브 얼른 털어봐.
Hacker News - LLM원문 보기
알고리즘
모델 내부 안 뜯고 LLM의 기괴한 행동 패턴 다 찾아내는 꼼수
- Alignment Forum에 모델 내부 가중치(SAE) 없이 겉으로 드러난 텍스트만 분석해 특징을 찾는 기법이 올라왔어.
- 대화 로그를 쪼갠 뒤 임베딩하고 클러스터링해서 의미 있는 Gemini의 특이 행동 패턴들을 분류해 냈대.
- 성능을 조절하는 데는 한계가 있지만, 모델 속을 안 보고도 이상 행동을 빠르게 매핑할 수 있는 가성비 분석법인 듯.
Alignment Forum원문 보기
거버넌스
논란의 키보드 감시 프로그램, 유출 스캔들 터지자 결국 스톱한 메타
- 직원들 키보드 입력을 모으던 메타의 악명 높은 직원 추적 프로그램이 결국 잠정 중단됐어.
- 민감할 수 있는 타이핑 데이터들이 내부 서버에서 무방비로 노출됐다는 사실이 들통난 직후 내려진 결정이야.
- AI 학습 데이터 확보도 좋지만 안전 장치 없이 무리하게 감시 프로그램을 돌리면 어떻게 되는지 보여주는 사례야.
Wired (AI)원문 보기
트렌드
AI 보안이 그냥 일반 사이버 보안이랑 다른 이유
- OpenAI 이사회 멤버 지코 콜터와 Gray Swan CEO 맷 프레드릭슨이 팟캐스트에서 AI 보안의 본질을 논했어.
- Anthropic의 Mythos 같은 차세대 AI가 등장한 현시점에서 기존 방화벽 치는 식의 보안은 안 먹힌다는 얘기지.
- AI 모델 자체를 탈옥하거나 무력화시키는 위협에 대응하려면 '레드 티밍' 패러다임도 완전히 바뀌어야 해.
Latent Space (swyx)원문 보기
모델
YOLO 뺨 때리는 속도와 정확도 겸비한 키포인트 검출 AI 등장
- Roboflow에서 새로운 포즈/키포인트 탐지 모델인 RF-DETR Keypoint를 정식 런칭했어.
- YOLO26-pose보다 정확도랑 속도가 다 잘 나오고, 심지어 키포인트의 불확실성까지 계산해 준대.
- 아파치 2.0 라이선스라 무료로 편하게 쓸 수 있으니 모션 캡처나 자세 분석 프로젝트에 당장 갖다 써봐.
Roboflow Blog원문 보기
도구
LLM API 비용 나가는 거 아까우면 이거 캐싱 프록시 박아봐
- AI-Gateway라는 오픈소스 시맨틱 캐싱 프록시가 Hacker News에 Show HN으로 올라왔어.
- 중복되거나 의미상 비슷한 LLM 요청이 들어오면 API 직접 안 치고 캐시된 답변 돌려줘서 비용 아끼는 방식이야.
- 매번 나가는 트래픽 비용이랑 API 요금 아까워 죽겠는 인디 개발자나 스타트업이 달아두면 쏠쏠할 듯.
Hacker News - LLM원문 보기
라이브러리
클라우드플레어가 수년 동안 묻혀 있던 hyper 라이브러리 버그 캐낸 썰
- 클라우드플레어 팀이 이미지 바인딩 구조를 개선하려다가 오픈소스 HTTP 라이브러리 hyper의 숨은 버그를 찾아냈어.
- 여러 메이저 버전이 올라가는 동안 아무도 몰랐던 뿌리 깊은 버그였다고 하네.
- 코드가 굴러간다고 방치하지 말고 리팩토링이나 아키텍처 개선을 꾸준히 해야 하는 이유를 잘 보여줘.
Cloudflare원문 보기
수익화
쓰는 만큼만 내는 AI 에이전트 결제망 구축하는 법
- Ampersend가 Amazon Bedrock AgentCore Payments 위에서 스마트한 'Pay-per-intelligence' 라우팅을 짰대.
- AI 에이전트가 예산 범위 안에서 가장 가성비 좋은 모델을 골라 요청하고, 결제까지 자동으로 처리하는 구조야.
- 에이전트가 무지성으로 비싼 API 호출해서 청구서 폭탄 맞게 하는 걸 막는 아주 현명한 아키텍처지.
AWS ML Blog원문 보기
도구
마트 진열대 빈 곳 찾아내고 다른 브랜드 섞인 거 골라내는 눈
- Roboflow Workflows를 활용해서 플래노그램(진열 유도안) 준수 여부를 자동 감지하는 법이 소개됐어.
- 객체 탐지랑 시각적 추론을 합쳐서 빈 구역을 잡고 브랜드 믹스 같은 진열 규정 위반을 족집게처럼 잡아내.
- 오프라인 유통 매장 관리 자동화나 매대 모니터링 시스템 구축할 때 바로 써먹기 좋은 기술이야.
Roboflow Blog원문 보기
도구
로봇 용접 틈새 불량 잡아내는 AI 감시관 만들기
- RF-DETR 모델이랑 Gemini 2.5 Pro를 엮어서 용접 결함을 잡아내는 AI 시스템 구축 글이 나왔어.
- 불량 위치를 정확하게 탐지하고 품질 검사 보고서까지 AI가 알아서 뚝딱 써주는 구조야.
- 제조업이나 하드웨어 퀄리티 컨트롤 현장에서 비전 AI 어떻게 쓰는지 보여주는 아주 실용적인 케이스야.
Roboflow Blog원문 보기
아키텍처
하늘에서 본 사진 다 꿰뚫어 보는 검색 엔진 만드는 치트키
- AWS에서 대규모 항공 이미지에 시맨틱 검색을 적용하는 멀티모달 AI 아키텍처를 소개했네.
- Amazon Bedrock이랑 OpenSearch Serverless를 썼고, Amazon Nova 멀티모달 임베딩 성능이 가장 좋았대.
- 단순한 키워드 검색을 넘어서 지형적 맥락까지 읽어내는 검색 시스템 구축할 때 완전 교과서 같은 글이야.
AWS ML Blog원문 보기
데이터
8주간 LLM 가격 털어본 데이터, 은밀하게 공개한다
- tokenprices.io에서 8주 동안 LLM 가격 변동 추이를 집요하게 추적해서 데이터를 공개했어.
- 생각보다 가격 변동이 잦고, 프로바이더끼리 눈치 싸움하는 게 데이터에 그대로 드러나네.
- 비용 최적화 타이밍 노리는 서비스 기획자나 개발자라면 이 데이터 분석 꼭 정독해야 함.
Hacker News - LLM원문 보기
거버넌스
키보드 정보 털리던 메타 직원들 반발에 결국 꼬리 내린 감시 프로그램
- 메타가 AI 학습을 위해 직원들의 키보드 타이핑 데이터를 강제로 긁어가던 논란의 프로그램을 일시 중단하기로 결정했어.
- 프로그램 진행 과정에서 수집된 민감 정보가 사내 내부망에 부주의하게 노출된 보안 사고가 결정타가 됐대.
- 사내 보안 취약점도 못 막으면서 직원 감시성 AI 데이터 수집을 감행하려 했다는 안팎의 비판을 피하기 힘들어 보여.
Wired (AI)원문 보기
트렌드
AI 보안은 기존 사이버 보안이랑 완전히 룰이 다르다는 전문가들의 조언
- OpenAI 이사회 멤버 지코 콜터와 그레이스완 CEO 맷 프레드릭슨이 출연해 최신 AI 보안 트렌드를 논했어.
- AI 보안은 단순히 기존 정보보안에 AI 툴을 얹어 쓰는 수준이 아니라, 탈옥이나 프롬프트 인젝션 같은 완전히 새로운 차원의 방어가 필요하대.
- 앤트로픽의 사이버 보안 특화 AI 미토스 사태 이후 더욱 팽팽해진 AI 레드티밍의 중요성을 다각도로 짚어준 깊이 있는 대화야.
Latent Space (swyx)원문 보기
데이터
키보드 타이핑 정보까지 사내 유출? 메타의 위험천만한 AI 학습 프로그램
- 메타가 AI 모델 학습을 빌미로 직원들의 키보드 입력 데이터(키스트로크)를 수집하는 프로그램을 돌리다가 내부 데이터 노출 사고를 냈어.
- 다른 직원들이 동료의 기밀 타이핑 데이터를 들여다볼 수 있는 심각한 보안 취약점이 드러나 논란이 일고 있어.
- 가뜩이나 사생활 침해 우려로 직원들 반발이 심했는데 이번 보안 사고로 거센 후폭풍을 맞게 될 것 같아.
Wired (AI)원문 보기
거버넌스
너네 회사에 승인받지 않은 '유령 AI 에이전트'가 돌아다니고 있다
- 직원들이 프로토타입 수준의 AI 에이전트를 실무에 빠르게 적용하면서 사내 문서고에 올리고 고객 데이터까지 만지기 시작했어.
- 보안 및 거버넌스 팀이 에이전트 권한이나 히스토리를 파악하기도 전에 사내망 곳곳에서 활동하는 '그림자 에이전트' 리스크가 급증하는 중이야.
- 보안 구멍 뚫리기 전에 승인되지 않은 AI 에이전트들을 조기에 탐지하고 체계적으로 통제할 수 있는 거버넌스 장치가 시급한 시점이야.
DataRobot Blog원문 보기
모델
YOLO보다 빠르고 정확한 오픈소스 키포인트 감지 모델 RF-DETR 공개
- Roboflow가 속도와 정확도 모든 면에서 기존 YOLO26-pose를 압도하는 RF-DETR Keypoint 모델을 공식 출시했어.
- 단순 좌표 검출을 넘어 키포인트 위치의 불확실성까지 스스로 학습하는 영리한 모델인데 심지어 아파치 2.0 라이선스로 풀렸어.
- 라벨링부터 학습, 배포까지 Roboflow 환경에서 한 큐에 가능하니 사람 자세나 물체 뼈대 추적할 때 쓰기 딱 좋아.
Roboflow Blog원문 보기
도구
LLM API 요금 폭탄 피하는 치트키, 오픈소스 AI 게이트웨이 캐싱
- 자주 물어보는 질문이나 비슷한 입력을 캐싱해서 매번 LLM을 호출하지 않고 빠르게 반환해 비용을 아껴주는 오픈소스 AI-Gateway 프로젝트가 나왔어.
- 시맨틱 캐싱(의미 기반 캐싱)을 통해 글자 하나 똑같지 않아도 비슷한 맥락의 질문이면 캐시에서 바로 꺼내 써서 요금을 획기적으로 줄여줘.
- 프로덕션 환경에 LLM을 얹어 서비스할 계획이라면 API 비용 다이어트용으로 필수 검토 대상이야.
Hacker News - LLM원문 보기
라이브러리
클라우드플레어 형들이 우연히 찾아낸 윈도우급 오픈소스 웹 라이브러리 버그
- Cloudflare 팀이 이미지 바인딩 구조를 개선하는 아키텍처 개편 작업을 하다가, 유명 오픈소스 HTTP 라이브러리인 'hyper'의 치명적인 버그를 발견했어.
- 이 버그는 심지어 여러 메이저 버전 거치는 동안 아무도 모르게 숨어 있던 유서 깊은 버그였다고 해.
- 역시 대규모 트래픽을 때려 박고 내부 코드를 직접 뜯고 고치다 보면 뜻밖의 심해어가 튀어나오나 봐.
Cloudflare원문 보기
수익화
AI 에이전트가 쓴 만큼만 푼돈으로 결제하는 결제망 깔아준 AWS
- Ampersend가 Amazon Bedrock AgentCore Payments 위에서 AI 에이전트용 종량제(Pay-per-intelligence) 라우팅을 구축한 상세 방식을 공개했어.
- 에이전트가 알아서 가장 효율적인 모델을 고르고, 건당 결제를 처리하며, 지정된 예산 안에서만 활동하도록 제어해.
- 자율형 에이전트 서비스 운영할 때 골치 아팠던 비용 통제와 실시간 마이크로 결제 문제를 깔끔하게 풀어주는 아키텍처야.
AWS ML Blog원문 보기
생산성
마트 진열대 빈자리와 타사 제품 섞인 꼴 못 참는 Roboflow 워크플로우
- Roboflow가 매장 매대 진열 상태(플래노그램)를 카메라로 찍어 실시간 규격 준수 여부를 잡아내는 기술을 소개했어.
- 물체 감지와 시각적 추론을 조합해 빈 진열 영역을 찾아내고 다른 브랜드 제품이 섞여 들어간 걸 귀신같이 골라내.
- 리테일 매장 관리자들의 불필요한 순찰 리소스를 획기적으로 줄여줄 수 있는 실용적인 AI 활용법이야.
Roboflow Blog원문 보기
도구
용접 불량 검사도 이제 로봇이랑 제미나이가 알아서 딱 잡아내네
- Roboflow가 RF-DETR 물체 감지 모델과 Gemini 2.5 Pro를 엮어 로봇 용접 결함을 실시간 진단하는 시스템 개발기를 공유했어.
- 기계가 불량을 찾으면 Gemini가 이를 분석해 자동으로 고품질 품질 검사 리포트까지 뚝딱 만들어 준대.
- 제조 현장의 꼼꼼한 육안 검사 업무를 AI와 로봇이 어떻게 대체해 가는지 보여주는 훌륭한 실증 사례야.
Roboflow Blog원문 보기
생산성
챗GPT 쓸까 ChatLLM 쓸까? 매일 일하는 직장인 맞춤 워크스페이스 써보니
- Abacus AI가 만든 ChatLLM을 뜯어봤는데, 여러 AI 모델과 에이전트, 코딩 툴, 그리고 기존 워크플로우 연동까지 싹 모아둔 실무 중심 작업 공간이더라고.
- 멀티 모델을 자유자재로 스위칭하면서 요금제나 사용량 제한도 합리적인 편이라 업무 생산성을 쥐어짜기 좋아 보여.
- 단순한 챗봇을 넘어 회사 업무 도구들과 긴밀하게 묶이는 협업 도구를 찾고 있었다면 진지하게 비교해 볼 만해.
KDNugget원문 보기
비즈니스
오픈소스 버그 잡는 군대 조직한 OpenAI, 라이벌 ‘미토스’ 저격용?
- OpenAI가 사이버 보안 기능을 개선한 GPT-5.5-Cyber 버전과 함께 오픈소스 소프트웨어 버그를 싹 다 고치겠다는 'Patch the Planet' 프로젝트를 띄웠어.
- 앤트로픽의 강력한 사이버 AI 모델인 '미토스(Mythos)'와 본격적인 주도권 싸움을 벌이려는 움직임으로 해석돼.
- AI 모델의 보안 취약점 진단 및 자동 패치 능력이 차세대 AI 패권 경쟁의 핵심 전장으로 떠오르고 있는 모양새야.
Wired (AI)원문 보기
아키텍처
하늘에서 본 항공 사진도 구글 검색하듯 싹 긁어주는 멀티모달 AI
- AWS가 Amazon Bedrock과 OpenSearch Serverless를 조합해 대규모 항공 이미지를 검색할 수 있는 지오스페이셜 검색 아키텍처를 공개했어.
- 비주얼 데이터와 텍스트를 함께 이해하는 Amazon Nova 멀티모달 임베딩 덕분에 높은 정확도의 검색이 가능해졌대.
- 이 기술은 실제 Vexcel Intelligence라는 상용 제품으로 진화해서 공간 정보 검색의 판을 바꾸는 중이야.
AWS ML Blog원문 보기
인프라
ComfyUI 이미지 생성 노가다, 이제 AWS에서 한 방에 끝내자
- AWS가 Amazon SageMaker AI 프로세싱 잡을 활용해서 ComfyUI 워크플로우를 대규모 배치로 돌리는 가이드를 올렸어.
- GPU 가속을 빵빵하게 때려 박아 수백 장의 고화질 이미지를 한 번에 뽑아내는 파이프라인을 구축할 수 있게 도와줘.
- 인프라 설정은 AWS CDK로 자동화되어 있어서 복잡한 이미지 생성 작업을 스케일업하고 싶던 창작자나 개발자에게 딱이야.
AWS ML Blog원문 보기
데이터
LLM 토큰 값 8주 동안 추적해보니 예상 못한 반전이 있네
- 한 개발자가 8주 동안 주요 LLM들의 가격 변동 추이를 집요하게 추적해서 데이터를 공개했어.
- 하루가 다르게 치열해지는 AI 시장에서 API 단가 인하 경쟁이 실제로 어떻게 흘러가는지 날것 그대로 보여주는 자료야.
- 성능 대비 가성비 최적의 모델을 고르고 싶다면 이 데이터의 흐름을 눈여겨볼 필요가 있어.
Hacker News - LLM원문 보기
도구
LLM 쓸 때 속도 느려 터져서 답답했지? 가장 빠른 길로 안내하는 꼼수 등장
- OpenAI API랑 호환되는 프록시 라우터 'Sturnus'가 깃허브에 오픈소스로 올라왔어.
- 여러 LLM 제공업체 중에서 현재 시점에 가장 응답 속도가 빠른 곳으로 자동으로 요청을 보내줘.
- 지연 시간(latency)을 극도로 줄여서 실시간 서비스에 LLM 녹여내고 싶은 개발자라면 한 번 츄라이해봐.
Hacker News - LLM원문 보기
뉴스 더보기(6월 22일)
이전 일자의 주요 이슈 브리핑을 계속해서 볼 수 있어