반말뉴스 로고
반말뉴스
앱으로 보기

오늘 꼭 챙겨볼 3줄 요약 브리핑

바쁜 하루, AI가 핵심만 3줄로 짚어주는 반말뉴스로 빠르게 확인해봐!

6월 14일
6월 15일
6월 16일
실시간 랭킹반말 인사이트구글 트렌드AI 소식국장종목분석
부산역에 서서 자국어로 질문하면 눈앞에서 척척 답해주는 13개국 AI 역무원
모델

부산역에 서서 자국어로 질문하면 눈앞에서 척척 답해주는 13개국 AI 역무원

  • 부산역에 전화부스 모양의 키오스크가 설치됐는데, 화면 터치 없이 말만 걸어도 관광 정보나 지하철 노선을 바로 알려줘.
  • 코난테크놀로지가 자체 개발한 '코난 LLM' 기반의 실시간 다국어 번역 솔루션 '링고엑스'가 탑재되어 작동하는 원리야.
  • 영어, 일어뿐만 아니라 아랍어, 스페인어 등 13개 언어를 완벽 지원해서 외국인 관광객들의 여행 편의성을 대폭 올릴 것 같아.
더에이아이원문 보기
지멘스가 그리는 공장의 미래, AI 에이전트와 사람이 나란히 컨베이어 벨트에 서다
비즈니스

지멘스가 그리는 공장의 미래, AI 에이전트와 사람이 나란히 컨베이어 벨트에 서다

  • 지멘스가 산업용 AI를 한곳에서 통제하고 지휘하는 소프트웨어 '인텔리전스 센터 X'를 발표했어.
  • 개별 부서에서 따로 놀던 AI 챗봇들을 생산 현장의 공정 데이터와 묶어 실질적인 비즈니스 성과로 바꿔주는 플랫폼이야.
  • 사람 노동자와 AI 에이전트가 동일한 워크플로우를 보며 협업하는 '하이브리드 작업 환경'이 이제 현실화 단계에 접어들었어.
더에이아이원문 보기
스스로 판단하고 움직이는 AI 에이전트 전용 심장, AWS '그래비톤 5' 정식 출시
하드웨어

스스로 판단하고 움직이는 AI 에이전트 전용 심장, AWS '그래비톤 5' 정식 출시

  • 아마존웹서비스(AWS)가 에이전틱 AI 연산 처리에 최적화된 차세대 자체 설계 칩 '그래비톤 5' 기반 EC2 인스턴스를 출시했어.
  • 칩 하나에 무려 192개의 연산 코어가 탑재되어 있어 AI 에이전트의 다단계 논리 추론 처리 속도를 최대 35%까지 끌어올렸대.
  • 단순 호출 응답을 넘어 독자적으로 판단하고 행동하는 복잡한 AI 서비스들을 클라우드에서 더 싸고 빠르게 돌릴 수 있게 됐어.
더에이아이원문 보기
일 시키는 도구는 바뀌었는데 사람은 제자리? MS가 꼬집은 AI 도입 기업들의 딜레마
생산성

일 시키는 도구는 바뀌었는데 사람은 제자리? MS가 꼬집은 AI 도입 기업들의 딜레마

  • 마이크로소프트의 2026 업무동향지표에 따르면 직장인들의 개인 AI 활용은 늘었지만 기업 생산성 지표는 제자리걸음이래.
  • 단순히 이메일 초안이나 회의 요약을 기계적으로 대체하는 수준을 넘어, 업무 프로세스 자체를 재설계해야 성과가 나기 시작한다는 분석이야.
  • 결국 AI 시대에는 기술 사용법보다 결과물을 검증하고 조율하는 인간의 판단력과 비판적 사고가 핵심 경쟁력이 될 거야.
더에이아이원문 보기
해커뉴스 개미들의 리얼한 로컬 LLM 하드웨어 셋업과 애환 현장 중계
커뮤니티

해커뉴스 개미들의 리얼한 로컬 LLM 하드웨어 셋업과 애환 현장 중계

  • "로컬 LLM 돌리려고 그래픽카드 몇 개 삼?"이라는 질문에 전 세계 테크 괴짜들이 자신들의 하드웨어와 노하우를 방출했어.
  • VRAM 부족을 이겨내는 모델 양자화 팁부터 발열을 잡는 수랭 쿨러 시스템 조립기까지 처절한 실전 압축 팁이 가득해.
  • 로컬 AI 셋업에 새로 입문하려는 뉴비라면 이 글의 댓글 스레드 정독부터 시작하는 걸 적극 추천해.
Hacker News - LLM원문 보기
내 서버에서 돌아가는 LLM 추론 과정, 프로메테우스와 그라파나로 탈탈 털어보자
인프라

내 서버에서 돌아가는 LLM 추론 과정, 프로메테우스와 그라파나로 탈탈 털어보자

  • vLLM, TGI, Llama.cpp 등 다양한 로컬 엔진의 추론 과정과 리소스 점유율을 실시간 모니터링하는 대시보드 구축 가이드가 나왔어.
  • 널리 쓰이는 시계열 DB 프로메테우스와 시각화 툴 그라파나를 연동해서 초당 토큰 처리량(TPS)과 메모리 누수를 직관적으로 추적해.
  • 서버 터지기 전에 미리 경고를 받고 안정적으로 AI 추론 인프라를 굴리고 싶은 엔지니어라면 무조건 읽어봐야 해.
Hacker News - LLM원문 보기
앤트로픽 최신형 2개만 콕 찝어 막은 미국 정부, 소버린 AI는 양보다 실력이 핵심이다
트렌드

앤트로픽 최신형 2개만 콕 찝어 막은 미국 정부, 소버린 AI는 양보다 실력이 핵심이다

  • 미국이 페이블 5와 미토스 5만 막고 기존 오퍼스나 소넷 등은 그냥 놔둔 건, 역설적으로 규제할 만큼 성능이 독보적이라는 뜻이야.
  • 단순히 많은 양의 AI 모델을 보유하는 것보다 국가 안보를 흔들 만큼 파괴력 있는 '원탑 기술력'을 갖추는 게 진짜 소버린 AI의 핵심이야.
  • 규제를 받느냐 마느냐가 기술의 파괴력을 증명하는 기묘한 훈장이 되어버린 셈이지.
더에이아이원문 보기
파편화된 모든 LLM API를 한 곳에 모아 쏴주는 만능 인터페이스 깃허브 정보
라이브러리

파편화된 모든 LLM API를 한 곳에 모아 쏴주는 만능 인터페이스 깃허브 정보

  • SillyTavern의 공식 깃허브 리포지토리가 개발자들 사이에서 연일 화제를 모으며 스타를 긁어모으는 중이야.
  • 오픈AI, 클로드 같은 상용 API부터 코볼드AI, 오라마 등 로컬 API까지 전부 하나로 묶어 UI에 때려 박을 수 있어.
  • 웹 개발 지식이 없어도 손쉽게 연동 설정을 마칠 수 있도록 깔끔한 패키징과 문서화를 제공해.
Hacker News - LLM원문 보기
착하게 살라고 코딩해봤자 소용없다? AI 안전 필터가 속수무책 뚫리는 7가지 이유
알고리즘

착하게 살라고 코딩해봤자 소용없다? AI 안전 필터가 속수무책 뚫리는 7가지 이유

  • 구글 딥마인드 해석력 팀이 유해한 답변을 걸러내기 위한 SFT(지도 미세조정) 필터링이 왜 자꾸 실패하는지 원인을 분석했어.
  • 데이터를 아무리 깔끔하게 걸러도 모델이 이미 프리트레이닝 때 배운 잠재된 페르소나가 귀신같이 되살아나는 현상을 규명했대.
  • 단순히 유해한 프롬프트를 삭제하는 임시방편 필터링은 임시땜질일 뿐, 완벽한 통제는 불가능하다는 충격적인 경고야.
Alignment Forum원문 보기
생산성과 보안 다 잡는 든든한 개인 비서, 수호천사 LLM 가이던스 등장
생산성

생산성과 보안 다 잡는 든든한 개인 비서, 수호천사 LLM 가이던스 등장

  • 유명 블로거 Gwern이 개인 생산성 극대화와 강력한 보안을 위한 맞춤형 LLM 가이드라인 'Guardian Angels' 구상을 공유했어.
  • 하루 종일 나를 따라다니며 모니터링하되, 내 개인정보가 외부로 유출되지 않도록 철저히 통제하는 로컬 인텔리전스 개념이야.
  • 단순한 챗봇을 넘어 진정한 개인 맞춤형 에이전트 시대가 다가오고 있음을 시사하는 묵직한 분석글이야.
Hacker News - LLM원문 보기
기본 채팅에 질린 고수들을 위한 LLM 프론트엔드의 끝판왕, 실리태번
도구

기본 채팅에 질린 고수들을 위한 LLM 프론트엔드의 끝판왕, 실리태번

  • 일반적인 웹 UI 인터페이스에 만족하지 못하는 파워 유저들을 위한 강력한 LLM 프론트엔드 SillyTavern이 뜨고 있어.
  • 다양한 캐릭터 커스텀 설정은 물론이고 각종 API 연동과 프롬프트 제어 능력이 압도적으로 세분화되어 있어.
  • LLM을 내 입맛대로 정밀하게 주무르고 싶은 하드코어 사용자라면 무조건 만져봐야 할 필수 프론트엔드야.
Hacker News - LLM원문 보기
오픈AI가 1억 5천만 달러 들고 파트너 네트워크 꾸려 기업 시장 싹쓸이 나선다
비즈니스

오픈AI가 1억 5천만 달러 들고 파트너 네트워크 꾸려 기업 시장 싹쓸이 나선다

  • 오픈AI가 글로벌 기업들의 AI 도입과 전환을 초고속으로 돕는 '오픈AI 파인드 파트너 네트워크'를 출범했어.
  • 여기에 무려 1억 5천만 달러(한화 약 2천억 원) 규모의 거금을 투자해 파트너 생태계를 대대적으로 지원할 예정이래.
  • 빅테크 중심의 엔터프라이즈 AI 시장 선점 경쟁에서 확실한 쐐기를 박으려는 맹렬한 기세가 돋보여.
OpenAI News원문 보기
내 컴퓨터 안의 비밀 상담사, .NET으로 만든 초경량 멀티에이전트 AI 치료사
아키텍처

내 컴퓨터 안의 비밀 상담사, .NET으로 만든 초경량 멀티에이전트 AI 치료사

  • 로컬 환경에서 독립적으로 작동하는 .NET 기반의 멀티에이전트 LLM 파이프라인 심리치료사 프로젝트가 공개됐어.
  • 복잡한 프로토콜 대신 압축된 와이어 포맷을 사용해서 속도와 리소스 효율성을 극대화한 게 특징이야.
  • 서버로 내 민감한 대화 내역이 전송될 걱정 없이 안심하고 마인드케어를 받을 수 있는 로컬 AI 파이프라인이야.
24시 응급병원 & 야간진료 선별 지도
보기 ›
Hacker News - LLM원문 보기
애플 실리콘 유저들 주목! 레이어마다 정밀도 다르게 깎아주는 양자화 도구 등장
도구

애플 실리콘 유저들 주목! 레이어마다 정밀도 다르게 깎아주는 양자화 도구 등장

  • Mlx-optiq라는 도구가 나왔는데, 애플 실리콘 환경에서 LLM의 레이어별 혼합 정밀도 양자화를 지원해.
  • 모델 전체를 일괄적으로 줄이는 게 아니라 중요한 레이어는 살리고 덜 중요한 레이어만 깎아서 성능 손실을 최소화해줘.
  • 맥북에서 무거운 오픈소스 LLM을 돌려보고 싶다면 무조건 장바구니에 담아둬야 할 꿀템인 듯해.
Hacker News - LLM원문 보기
리우데자네이루의 '자체 개발' LLM, 알고 보니 다른 모델 껍데기만 바꿨네
거버넌스

리우데자네이루의 '자체 개발' LLM, 알고 보니 다른 모델 껍데기만 바꿨네

  • 리우데자네이루 시에서 자체 개발했다고 홍보한 LLM이 기존 오픈소스 모델의 단순 병합(Merge) 버전이라는 의혹이 제기됐어.
  • 개발진이 직접 훈련시킨 오리지널 모델인 것처럼 발표했지만 깃허브 이슈를 통해 흔적들이 낱낱이 파헤쳐지는 중이야.
  • 기술적 자립을 외치며 대대적으로 홍보했던 터라 시 정부의 신뢰도에 적잖은 타격이 갈 것 같아.
Hacker News - LLM원문 보기
회사 사내 데이터베이스에서 SQL 바로 뽑아주는 새로운 벤치마크 등장
데이터

회사 사내 데이터베이스에서 SQL 바로 뽑아주는 새로운 벤치마크 등장

  • 기업용 데이터웨어하우스 환경에서 LLM의 Text-to-SQL 성능을 평가하는 'BEAVER' 벤치마크가 공개됐어.
  • 실제 프라이빗 비즈니스 환경의 복잡한 스키마와 쿼리를 반영해서 신뢰도를 높인 것이 강점이야.
  • 이제 기업 데이터를 안전하게 말귀 알아듣는 SQL로 바꾸는 기술이 더 정교하게 다듬어질 것 같아.
Hacker News - LLM원문 보기
가장 센 놈만 막혔다? 미국이 증명해 준 진짜 강한 AI의 기준
거버넌스

가장 센 놈만 막혔다? 미국이 증명해 준 진짜 강한 AI의 기준

  • 앤트로픽의 페이블 5 차단 사태를 보면 우리가 배울 교훈은 소버린 AI의 핵심이 '양'이 아니라 '실력'이라는 점이야.
  • 수억 명이 쓰는 오퍼스나 소넷은 놔두고 최신 고급 모델 2개만 콕 집어 막았다는 건 그만큼 독보적인 기술이라는 뜻이지.
  • 기술 통제 비용을 감수할 가치가 있는 최첨단 AI 원천 기술을 확보하는 게 진짜 소버린 AI의 본질이야.
더에이아이원문 보기
미국의 기습적인 앤트로픽 모델 수출 통제, 한국도 남의 일이 아니다
거버넌스

미국의 기습적인 앤트로픽 모델 수출 통제, 한국도 남의 일이 아니다

  • 미국 정부가 안보를 핑계로 앤트로픽의 최신 AI 모델인 '페이블 5'와 '미토스 5'의 해외 접근을 차단했어.
  • 최대 투자사인 아마존의 제보에서 시작된 조치로 알려졌는데, 전 세계 빅테크 판이 출렁이고 있어.
  • 해외 AI 솔루션에만 숟가락 얹고 있던 나라들은 이번 일로 '소버린 AI'가 왜 절실한지 제대로 뼈저리게 느꼈을 거야.
더에이아이원문 보기
API 키는 많은데 인터페이스는 하나로 끝내고 싶을 때 쓰는 치트키
커뮤니티

API 키는 많은데 인터페이스는 하나로 끝내고 싶을 때 쓰는 치트키

  • 깃허브에 오픈소스로 올라온 SillyTavern이 수많은 LLM API를 단 하나의 통합 UI로 연결해 주고 있어.
  • OpenAI, 클로드뿐만 아니라 로컬 API까지 한 곳에 묶어서 편하게 스위칭하며 쓸 수 있지.
  • 서로 다른 AI들을 복잡하게 옮겨 다닐 필요 없이 UI 하나로 통합 관리하기 딱 좋아.
Hacker News - LLM원문 보기
구글 딥마인드의 경고, AI 나쁜 버릇 고치려다 옆으로 세는 이유
알고리즘

구글 딥마인드의 경고, AI 나쁜 버릇 고치려다 옆으로 세는 이유

  • 구글 딥마인드 팀이 안전 필터를 적용한 SFT(지도 미세조정)가 자꾸 실패하는 원인을 심층 분석했어.
  • 학습 데이터에서 부정적 감정이나 가짜 날짜, 협박 같은 요소를 열심히 필터링해도 완전히 안 지워진대.
  • 이유는 단순히 데이터를 빼는 것보다 교사(Teacher) 모델의 성향이 학생 모델로 강하게 전이되기 때문이야.
Alignment Forum원문 보기
내 GPU에 이 LLM 돌아갈까? 클릭 한 번으로 확인하는 꿀팁
도구

내 GPU에 이 LLM 돌아갈까? 클릭 한 번으로 확인하는 꿀팁

  • 내가 가진 GPU 사양으로 특정 LLM을 구동할 수 있는지 즉석에서 진단해 주는 무료 웹사이트가 열렸어.
  • 모델 크기나 양자화 수준에 따라 필요한 VRAM을 계산해 줘서 헛수고를 덜어줘.
  • 로컬에서 AI 모델 직접 다운로드 받아서 돌려보는 걸 좋아하는 취미 개발자들에게 엄청 유용할 듯.
Hacker News - LLM원문 보기
생산성과 보안을 다 잡는 비결, 든든한 AI '수호천사' 만들기
생산성

생산성과 보안을 다 잡는 비결, 든든한 AI '수호천사' 만들기

  • 컴퓨터 과학 연구자 gwern이 LLM을 통한 고도의 개인화 및 보안 비서 개념인 'Guardian Angels' 구상을 공유했어.
  • 단순한 챗봇이 아니라 사용자의 모든 맥락을 이해하고 실시간으로 도우면서도 프라이버시를 지켜주는 모델이야.
  • AI 비서가 앞으로 나아가야 할 궁극적인 진화 방향을 보여주는 깊이 있는 분석이야.
Hacker News - LLM원문 보기
평범한 AI 채팅은 지루하지? 파워 유저를 위한 최강의 LLM 프론트엔드
도구

평범한 AI 채팅은 지루하지? 파워 유저를 위한 최강의 LLM 프론트엔드

  • SillyTavern이라는 LLM 웹 프론트엔드가 파워 유저들 사이에서 조용히 인기몰이 중이야.
  • 다양한 캐릭터 커스텀이나 정교한 프롬프트 제어가 가능해서 내 입맛대로 AI를 튜닝하기 딱 좋아.
  • 웹 UI가 답답했던 사람들이라면 한 번쯤 찍먹해 볼 만한 끝판왕급 도구야.
Hacker News - LLM원문 보기
오픈AI가 2천억 쏜다! 글로벌 파트너 네트워크의 무서운 야망
비즈니스

오픈AI가 2천억 쏜다! 글로벌 파트너 네트워크의 무서운 야망

  • 오픈AI가 기업들의 AI 전환을 본격적으로 돕기 위해 '오픈AI 파트너 네트워크'를 출범시켰어.
  • 여기에 무려 1억 5천만 달러(약 2,000억 원) 규모의 거금을 투자해서 Adoption 속도를 끌어올릴 계획이래.
  • 글로벌 빅테크부터 컨설팅 기업들까지 묶어서 기업용 AI 시장을 완전히 싹쓸이하겠다는 선전포고지.
OpenAI News원문 보기
내 컴퓨터 속 AI 상담사, 인터넷 연결 없이 속삭이는 비밀 대화
도구

내 컴퓨터 속 AI 상담사, 인터넷 연결 없이 속삭이는 비밀 대화

  • 인터넷 연결이 필요 없는 완전 로컬 기반의 .NET 멀티에이전트 AI 테라피스트 시스템이 등장했어.
  • 압축된 와이어 포맷을 써서 에이전트끼리 아주 빠르고 효율적으로 데이터를 주고받는 게 특징이야.
  • 개인정보 유출 걱정 없이 내 PC 안에서만 나를 케어해 줄 수 있는 프라이빗 AI의 좋은 예시인 듯해.
Hacker News - LLM원문 보기
맥북에서 AI 돌릴 사람 필독! 레이어별 맞춤 양자화로 날아다니는 방법
도구

맥북에서 AI 돌릴 사람 필독! 레이어별 맞춤 양자화로 날아다니는 방법

  • 애플 실콘에서 LLM을 더 가볍고 빠르게 돌릴 수 있는 'Mlx-optiq'라는 프로젝트가 나왔어.
  • 모델 전체를 일괄적으로 줄이는 게 아니라, 레이어마다 정밀도를 다르게 섞어 쓰는(mixed-precision) 신박한 방식이야.
  • 덕분에 메모리는 훨씬 덜 먹으면서도 모델의 똑똑함은 최대한 지켜낼 수 있다고 하네.
Hacker News - LLM원문 보기
리우데자네이루의 '자체 개발' AI, 알고 보니 짝퉁?
모델

리우데자네이루의 '자체 개발' AI, 알고 보니 짝퉁?

  • 리우데자네이루에서 개발했다는 자체 LLM이 사실 기존 모델들을 그냥 짜깁기(Merge)한 거 아니냐는 논란이 터졌어.
  • 깃허브 이슈에서 개발자들이 오픈소스 모델들의 흔적을 추적하며 의혹을 제기하는 중이야.
  • 진짜 독창적인 기술인지 아니면 겉포장만 바꾼 껍데기인지 오픈소스 커뮤니티가 바짝 독이 올라 지켜보고 있어.
Hacker News - LLM원문 보기
하나의 창에서 모든 대기업 AI API를 통제하는 오픈소스 껍데기
도구

하나의 창에서 모든 대기업 AI API를 통제하는 오픈소스 껍데기

  • 실리태번(SillyTavern) 깃허브 저장소를 보면 오픈AI, 클로드, 로컬 모델 등 수많은 API를 단 한 곳에서 관리할 수 있어.
  • 복잡한 코딩 없이 UI 기반에서 여러 모델을 스위칭해가며 벤치마크 테스트를 하기에 최적의 환경을 제공해.
  • 오픈소스 프로젝트인 만큼 전 세계 개발자들이 붙어서 커스텀 플러그인과 확장을 쏟아내는 중이야.
Hacker News - LLM원문 보기
구글 딥마인드의 경고, 안전 필터링 거쳐도 거대 모델의 나쁜 버릇은 못 고친다
알고리즘

구글 딥마인드의 경고, 안전 필터링 거쳐도 거대 모델의 나쁜 버릇은 못 고친다

  • 구글 딥마인드 해석 가능성 팀의 연구 결과, 안전하지 않은 데이터를 단순히 걸러내는 SFT 필터링은 효과가 미비하대.
  • 학습 데이터에서 특정 prompts를 제외해도 AI가 다른 데이터를 통해 교묘하게 나쁜 행동을 '일반화'하여 학습하기 때문이야.
  • 결국 안전한 AI를 만들려면 사후 필터링보다 교사 모델 자체의 행동을 피드백 루프로 제어하는 근본적인 접근이 필요하다는 지적이야.
Alignment Forum원문 보기
내 그래픽카드로 이 LLM 돌아갈까? 고민 끝내줄 무료 사이트
도구

내 그래픽카드로 이 LLM 돌아갈까? 고민 끝내줄 무료 사이트

  • 사고 싶은 대형 모델이 내 GPU에서 굴러갈지 안 굴러갈지 계산하기 골치 아팠지? 그걸 바로 판별해주는 무료 툴이 나왔어.
  • 모델 크기와 양자화 비트수를 입력하면 필요한 VRAM과 구동 여부를 직관적으로 알려줘.
  • 괜히 무거운 모델 다운로드 받느라 시간 낭비하기 전에 여기서 미리 사양 체크부터 하고 시작하자.
Hacker News - LLM원문 보기
보안과 생산성을 다 잡는 든든한 AI 수호천사 설계법
거버넌스

보안과 생산성을 다 잡는 든든한 AI 수호천사 설계법

  • 개인용 LLM이 비서 역할을 할 때 보안 사고를 막고 생산성을 높이기 위한 가이드라인이 제시됐어.
  • 사용자의 맥락을 학습하되 민감한 개인 정보는 철저히 로컬에서 필터링하는 아키텍처 구조가 핵심이야.
  • AI 비서가 내 일상 깊숙이 들어올 미래를 대비해 보안 아키텍처를 고민하는 개발자라면 꼭 읽어봐야 해.
Hacker News - LLM원문 보기
LLM 고수들의 비밀 기지, 웹 UI 끝판왕 실리태번의 매력
도구

LLM 고수들의 비밀 기지, 웹 UI 끝판왕 실리태번의 매력

  • 실리태번(SillyTavern)은 단순한 챗봇 화면을 넘어 파워 유저들을 위한 강력한 LLM 프론트엔드 기능을 제공해.
  • 캐릭터 설정, 프롬프트 튜닝, 다양한 API 연동까지 내 입맛대로 커스텀할 수 있어 마니아층이 아주 두터워.
  • 단순한 AI 답변에 질렸고 나만의 가상 비서나 캐릭터를 정교하게 만들고 싶다면 필수 코스야.
Hacker News - LLM원문 보기
닷넷 환경에서 로컬로 돌아가는 나만의 AI 심리치료사 파이프라인
생산성

닷넷 환경에서 로컬로 돌아가는 나만의 AI 심리치료사 파이프라인

  • 외부 서버로 데이터 유출 걱정 없는 로컬 기반의 .NET 멀티 에이전트 LLM 심리치료 파이프라인이 깃허브에 공개됐어.
  • 가볍고 압축된 와이어 포맷을 사용해서 에이전트 간 통신 속도를 극대화한 게 특징이야.
  • 보안이 민감한 의료 데이터나 개인 상담 영역에서 로컬 AI의 활용 가능성을 보여주는 흥미로운 프로젝트네.
24시 응급병원 & 야간진료 선별 지도
보기 ›
Hacker News - LLM원문 보기
애플 실리콘 유저들 소리 질러! 레이어별 혼합 정밀도 양자화 도구 등장
도구

애플 실리콘 유저들 소리 질러! 레이어별 혼합 정밀도 양자화 도구 등장

  • Mlx-optiq라는 새로운 도구가 나왔는데, 애플 실리콘에서 LLM을 돌릴 때 레이어마다 정밀도를 다르게 조절해 준대.
  • 메모리 대역폭은 획기적으로 아끼면서 모델 성능 저하는 최소화하는 영리한 방식이야.
  • 맥북에서 대형 언어 모델 직접 돌려보고 싶었던 하드코어 유저들에게는 단비 같은 소식이지.
Hacker News - LLM원문 보기
리우데자네이루의 자체 개발 LLM, 알고 보니 기존 모델 복사 붙여넣기 의혹
모델

리우데자네이루의 자체 개발 LLM, 알고 보니 기존 모델 복사 붙여넣기 의혹

  • 리우데자네이루에서 독자적으로 개발했다고 자랑한 LLM이 기존 오픈소스 모델의 머지(Merge) 버전이라는 폭로가 나왔어.
  • 깃허브 이슈를 통해 개발진의 해명 요구가 빗발치고 있고, 개발 커뮤니티는 제대로 뿔이 난 상황이야.
  • 기술적 자립을 외치며 대대적으로 홍보했지만 껍데기만 바꾼 수준이라는 비판을 피하기 어려워 보여.
Hacker News - LLM원문 보기
리우데자네이루의 '자체 개발' LLM, 알고 보니 기존 모델 짜깁기?
모델

리우데자네이루의 '자체 개발' LLM, 알고 보니 기존 모델 짜깁기?

  • 리우데자네이루에서 자체 개발했다고 발표한 LLM이 기존에 존재하던 모델의 단순 병합(merge)본이라는 의혹이 제기되었어.
  • Nex-AGI의 Nex-N2 저장소 이슈를 통해 이 주장이 공론화되었는데, 새로운 아키텍처나 독창적인 훈련법 없이 겉포장만 바꿨다는 지적이야.
  • 오픈소스 커뮤니티에서는 기술적 기여 없이 '자체 개발' 타이틀만 내세우는 행태에 대해 꽤나 비판적인 목소리를 내고 있어.
Hacker News - LLM원문 보기
뉴스 더보기(6월 14일)

이전 일자의 주요 이슈 브리핑을 계속해서 볼 수 있어