Context Language Models 연구는 대화 문맥을 파일처럼 다루고 모델이 필요한 부분을 직접 편집하도록 해 외부의 고정 요약 정책을 대체한다. 논문은 BrowseCompPlus에서 정확도 11.4% 향상과 FLOPs 21.5% 감소, 장시간 EdgeBench에서 점수 개선과 연산량 감소를 보고했다. 이는 해당 실험 설정의 결과이며 모든 에이전트에서 같은 절감이 보장되지는 않는다. 공식 저장소는 Pi 및 Harbor 연동을 제공하지만 CC BY-NC 4.0 조건이므로 상용 도입 전 이용 범위를 확인해야 한다.
Tech로 돌아가기
Tech
Context Language Models, 모델이 작업 문맥을 직접 편집
문맥 관리 자체를 모델의 행동으로 만들되 벤치마크 조건과 비상업 라이선스를 확인한다.