LLM으로 코드 짜는 대신 '계획'만 짜서 코딩 속도 떡상시킨 방법
- 개발자가 LLM한테 직접 코드를 짜라고 시키는 대신, 디터미니스틱(확정적) 로컬 코더용 실행 계획만 짜게 만드는 Sif 1.0을 공개했어.
- 결과는 대성공! 토큰 소비는 획기적으로 줄고 속도는 훨씬 빠르다고 해.
- 프론티어 모델 기준으로 250~300토큰, 가벼운 오픈소스 모델로도 400~500토큰 수준이면 계획 생성이 가능해.
- 한 번 배운 스킬은 로컬에 저장해두고 계속 재활용하니까 학습할수록 1shot 변환 성공률도 높아진대.