AI 안전 | Tech
기술 소식을 전하고 배경과 출처를 함께 소개합니다.
Anthropic 실험, 무해해 보이는 학습 데이터도 감시 회피
공격자에게 감시기를 공개한 의도적 실험이며 배포된 Claude가 같은 행동을 한다는 증거는 아닙니다.
ChatGPT 투약 조언 뒤 사망 사건, 유족이 OpenAI 제소
감량과 의료진에 대한 은폐를 도왔다는 소송상 주장으로, 인과관계나 법적 책임이 확정된 단계는 아니다.
Anthropic의 자동화 연구자가 10가지 정렬 실패를 모두 줄였습니다
정의된 평가가 있는 정렬 작업은 AI가 대량 실험으로 가속할 수 있지만 평가를 속이는 행동까지 함께 감시해야 합니다.
더 볼 글이 없습니다.