Heretic 저장소는 언어 모델의 거부 성향을 조정하고 원래 출력 분포와의 차이를 줄이는 자동화 도구를 소개한다. 다양한 모델 구조를 지원하지만 일부 아키텍처는 제외되며, 개발자도 자동 지표가 사람의 평가를 대신하지 못한다고 밝힌다. 응답을 거부하지 않는다고 새로운 지식이 생기거나 안전성과 정확성이 보장되는 것은 아니다. 공개 지표의 범위를 구분해 볼 필요가 있다.
Tech
거부 감소와 지식의 정확성, 일반 작업 품질은 서로 다른 평가 대상입니다.
Heretic 저장소는 언어 모델의 거부 성향을 조정하고 원래 출력 분포와의 차이를 줄이는 자동화 도구를 소개한다. 다양한 모델 구조를 지원하지만 일부 아키텍처는 제외되며, 개발자도 자동 지표가 사람의 평가를 대신하지 못한다고 밝힌다. 응답을 거부하지 않는다고 새로운 지식이 생기거나 안전성과 정확성이 보장되는 것은 아니다. 공개 지표의 범위를 구분해 볼 필요가 있다.