빅테크가 미 국방부랑 손잡을 때 선 넘지 않으려고 만든 영리한 브레이크 장치
빅테크가 미 국방부랑 손잡을 때 선 넘지 않으려고 만든 영리한 브레이크 장치
- 구글 딥마인드 출신 인사가 정부 AI 계약 시 넘지 말아야 할 두 가지 '레드라인(독자적 타겟팅 금지, 무차별적 프로필 작성 금지)'과 이를 감시할 외부 위원회 프레임워크를 공개했어.
- 군사 작전 시 인간이 반드시 최종 결정을 내리게 하고, 무분별한 개인 정보 수집을 막기 위해 클라우드 배포 감시와 기능 제한 모델 등 기술적 통제 장치까지 꼼꼼히 설계했네.
- 최근 민간 군사 기업이 정부 지시를 따랐어도 민간인 피해에 책임이 있다는 법원 판결이 나와서, 기업 입장에선 소송 리스크를 피하기 위한 똑똑한 생존 전략이기도 해.
구글 딥마인드 퇴사자가 작정하고 폭로한 펜타곤 AI 납품 '레드라인' 설계도
- 구글 딥마인드 출신 인사가 정부 AI 계약에서 '인간의 통제권 상실'과 '무차별적 프로파일링'을 막기 위한 구체적인 통제 프레임워크를 공개했어.
- 핵심은 인간 동의 없는 자동 타격 금지(Standard 1)와 특정 혐의가 없는 일반인 대상의 무차별 벌크 데이터 AI 프로파일링 금지(Standard 2)야.
- 에어갭(폐쇄망) 환경에서는 기능이 거세된 특화 모델만 공급하고, 이를 어길 시 72시간 내 서비스를 원격 차단하는 기술적 강제 장치까지 제안했네.
- 도급업체가 정부 지시를 따랐더라도 고문 등 가혹행위에 가담하면 direct liability(직접 책임)를 진다는 최근 판례(Al Shimari vs CACI)를 무기 삼아 기업 스스로 몸을 사릴 장치를 마련하려는 의도로 보여.
