거버넌스
'마하 2 비행기 결함도 못 잡고 마하 3을 띄운다고?' AI 얼라인먼트 쓴소리
- 얼라인먼트 포럼에 다음 세대 거대 모델을 훈련하기 전, 현재 세대의 안전성 정렬부터 완벽히 끝내자는 속도 조절론이 제기됐어.
- 지금 모델의 제어 불능과 탈옥 문제도 해결 못 한 채 능력치만 무작정 키우는 건 추락할 제트기를 가속하는 꼴이라는 비유야.
- 독립적인 레드팀 감시와 엄격한 제한적 배포를 통과해야만 차세대 학습을 허용하자는 파격적인 거버넌스 가이드라인을 제안했어.
Alignment Forum원문 보기
