구글 딥마인드 퇴사자가 폭로한 정부 AI 계약의 소름 돋는 '레드라인' 설계도
구글 딥마인드 퇴사자가 폭로한 정부 AI 계약의 소름 돋는 '레드라인' 설계도
- 구글 딥마인드 출신 인사가 정부 AI 계약에서 통제 불능의 자동 타격과 무분별한 개인 프로파일링을 막기 위한 구체적인 거버넌스 프레임워크를 공개했어.
- 핵심은 인간이 최종 통제권을 쥐는 Standard 1과 영장 없는 무차별 데이터를 통한 표적 예측을 금지하는 Standard 2로 나뉘어.
- 리더십이 편법을 쓰지 못하도록 연간 투명성 보고서를 통해 위반 건수를 전 직원에게 강제 공개하는 꼼수 방지책까지 촘촘하게 설계한 게 특징이야.
- 최근 전범 혐의 계약자에 대한 법원 배상 판결을 예시로 들며, 법제화 전에 기업 스스로 책임을 면하기 위한 사전 예방 조치라는 점을 분명히 했네.
빅테크가 미 국방부랑 손잡을 때 선 넘지 않으려고 만든 영리한 브레이크 장치
- 구글 딥마인드 출신 인사가 정부 AI 계약 시 넘지 말아야 할 두 가지 '레드라인(독자적 타겟팅 금지, 무차별적 프로필 작성 금지)'과 이를 감시할 외부 위원회 프레임워크를 공개했어.
- 군사 작전 시 인간이 반드시 최종 결정을 내리게 하고, 무분별한 개인 정보 수집을 막기 위해 클라우드 배포 감시와 기능 제한 모델 등 기술적 통제 장치까지 꼼꼼히 설계했네.
- 최근 민간 군사 기업이 정부 지시를 따랐어도 민간인 피해에 책임이 있다는 법원 판결이 나와서, 기업 입장에선 소송 리스크를 피하기 위한 똑똑한 생존 전략이기도 해.
구글 딥마인드 퇴사자가 작정하고 폭로한 펜타곤 AI 납품 '레드라인' 설계도
- 구글 딥마인드 출신 인사가 정부 AI 계약에서 '인간의 통제권 상실'과 '무차별적 프로파일링'을 막기 위한 구체적인 통제 프레임워크를 공개했어.
- 핵심은 인간 동의 없는 자동 타격 금지(Standard 1)와 특정 혐의가 없는 일반인 대상의 무차별 벌크 데이터 AI 프로파일링 금지(Standard 2)야.
- 에어갭(폐쇄망) 환경에서는 기능이 거세된 특화 모델만 공급하고, 이를 어길 시 72시간 내 서비스를 원격 차단하는 기술적 강제 장치까지 제안했네.
- 도급업체가 정부 지시를 따랐더라도 고문 등 가혹행위에 가담하면 direct liability(직접 책임)를 진다는 최근 판례(Al Shimari vs CACI)를 무기 삼아 기업 스스로 몸을 사릴 장치를 마련하려는 의도로 보여.
