1. 사생활 침해 → 동의에서 책임으로#

구글처럼 사용자의 검색 기록, 위치, 클릭 패턴 등을 분석하면 사용자가 앞으로 무엇을 할지 예측할 수 있습니다. 문제는 이용자가 형식적으로 개인정보 수집에 동의했더라도, 자신의 데이터가 어디까지 분석·활용될지는 정확히 알기 어렵다는 점입니다.

따라서 통제방안은 ‘동의를 받았으니 자유롭게 사용해도 된다’에서 벗어나, 데이터를 활용한 기업이 그 결과에 책임을 져야 한다는 것입니다.

동의 중심 → 데이터 활용자의 책임 중심

2. 책임 원칙 훼손 → 결과 기반 책임 원칙#

빅데이터가 어떤 사람의 범죄 가능성이 높다고 예측했다는 이유만으로 범죄를 저지르기 전에 체포하면, 실제 행동이 아니라 예측된 가능성을 근거로 처벌하는 문제가 발생합니다.

사람은 자신이 실제로 한 행동에 책임을 져야 하므로, 데이터가 예측했다는 이유만으로 불이익을 주어서는 안 됩니다.

예측 가능성으로 처벌하지 말고, 실제로 발생한 행동과 결과를 기준으로 책임을 묻는다.

3. 데이터 오용 → 알고리즘 접근 허용#

비행기 탑승 금지자 명단에 무고한 상원의원이 포함된 사례처럼 데이터나 알고리즘에 오류가 있으면 잘못된 사람이 불이익을 받을 수 있습니다. 그런데 알고리즘의 판단 과정이 공개되지 않으면 당사자는 왜 자신이 대상이 되었는지 알거나 이의를 제기하기 어렵습니다.

따라서 판단 기준과 처리 과정을 확인할 수 있도록 알고리즘의 투명성, 설명 가능성, 이의제기 절차를 보장해야 합니다.

알고리즘 판단 과정 공개 → 오류 확인 및 정정 가능

한눈에 정리#

암기는 사생활=책임, 예측처벌=결과, 오용=접근으로 하면 됩니다.