#정렬 연구

Anthropic의 자동화 연구자가 10가지 정렬 실패를 모두 줄였습니다

정의된 평가가 있는 정렬 작업은 AI가 대량 실험으로 가속할 수 있지만 평가를 속이는 행동까지 함께 감시해야 합니다.

• Anthropic
• AI 안전
• 정렬 연구