경찰의 안면 인식 금지 우회: 새로운 AI 기술의 등장과 논란

최근 경찰과 연방 기관들이 안면 인식 기술 사용에 대한 규제를 피하기 위해 새로운 AI 모델을 활용하고 있다는 소식이 전해지면서 논란이 일고 있습니다. 이 AI 모델은 신체 크기, 성별, 머리 색깔, 스타일, 의복, 액세서리 등 다양한 속성을 기반으로 사람을 추적할 수 있습니다. 이번 글에서는 이 기술의 작동 방식과 윤리적 문제점, 그리고 관련 논의들을 자세히 살펴보겠습니다.

1. 안면 인식 금지, 새로운 AI로 우회? 🤔

안면 인식 기술은 범죄 수사에 활용될 수 있다는 점에서 긍정적인 측면도 있지만, 개인 정보 침해와 감시 사회로의 확산 등 여러 가지 문제점을 야기할 수 있습니다. 이러한 우려 때문에 미국 내 여러 도시와 주에서는 경찰의 안면 인식 기술 사용을 금지하거나 제한하는 법안을 도입하고 있습니다.

하지만 최근 비디오 분석 회사인 Veritone이 개발한 "Track"이라는 AI 도구가 이러한 규제를 우회하는 데 사용되고 있다는 사실이 밝혀졌습니다. 이 도구는 얼굴 대신 신체적 특징이나 옷차림 등의 속성을 기반으로 사람을 식별하고 추적할 수 있습니다.

Track, 어떻게 작동할까?

Track은 기존의 안면 인식 기술과는 달리, 얼굴 이미지를 직접적으로 분석하지 않습니다. 대신, 다음과 같은 방식으로 사람을 추적합니다.

• 다양한 속성 분석: 신체 크기, 성별, 머리 색깔, 옷 스타일 등 개인의 외형적 특징을 분석합니다.
• 데이터베이스 구축: 분석된 속성 정보를 기반으로 데이터베이스를 구축합니다.
• 대상 추적: CCTV 영상 등에서 특정 속성을 가진 사람을 찾아 데이터베이스와 비교하여 추적합니다.

이러한 방식으로 Track은 안면 인식 기술 규제를 회피하면서도 유사한 수준의 추적 기능을 제공할 수 있습니다.

2. ACLU의 비판: "비생체 인식 추적 시스템의 대규모 사용 사례" 😠

미국 시민 자유 연맹(ACLU)은 Track의 사용에 대해 심각한 우려를 표명했습니다. ACLU는 MIT Technology Review를 통해 이 도구에 대해 알게 된 후, "미국에서 대규모로 사용되는 비생체 인식 추적 시스템의 첫 번째 사례"라고 비판했습니다.

ACLU는 Track이 다음과 같은 문제점을 가지고 있다고 지적합니다.

• 개인 정보 침해: 개인의 외형적 특징에 대한 정보를 수집하고 분석하는 것은 사생활 침해의 소지가 있습니다.
• 감시 사회 조장: Track과 같은 도구가 널리 사용될 경우, 사회 전체가 감시 대상이 될 수 있습니다.
• 오류 가능성: AI 모델의 특성상 오류가 발생할 수 있으며, 이는 무고한 시민에게 피해를 줄 수 있습니다.
• 차별 문제: 특정 인종이나 성별, 특정 스타일의 옷을 입는 사람들을 대상으로 차별적인 추적이 이루어질 수 있습니다.

3. 뜨거운 감자, 경찰 기술! 🔥

Track 외에도 경찰 기술과 관련된 논란은 끊이지 않고 있습니다. 가상 현실(VR) 훈련, 센서 네트워크를 통한 도시 감시, AI 기반 보고서 작성 등 다양한 기술이 경찰 업무에 도입되면서 기대와 우려가 교차하고 있습니다.

논란의 중심에 선 경찰 기술들

• 가상 현실(VR) 훈련: 실제와 유사한 상황을 VR 환경에서 경험하게 함으로써 경찰관의 대응 능력을 향상시킬 수 있습니다. 하지만 VR 훈련이 실제 상황과 얼마나 유사한지, 그리고 훈련 효과가 얼마나 지속되는지에 대한 의문이 제기되고 있습니다.
• 센서 네트워크를 통한 도시 감시: 도시 곳곳에 센서를 설치하여 범죄 발생 가능성이 높은 지역을 파악하고 예방할 수 있습니다. 하지만 센서 네트워크가 개인의 이동 경로를 추적하고 사생활을 침해할 수 있다는 우려가 있습니다.
• AI 기반 보고서 작성: AI가 사건 현장의 증거와 목격자 진술 등을 분석하여 보고서를 자동으로 작성해줍니다. 이는 경찰관의 업무 부담을 줄여줄 수 있지만, AI가 편향된 데이터를 학습할 경우 보고서 내용이 왜곡될 수 있다는 문제가 있습니다.

4. 안면 인식 기술, 어디까지 허용해야 할까? 🤔

안면 인식 기술은 공항 보안 검색대를 빠르게 통과하거나, Uber 운전자의 계정을 잠그는 등 다양한 분야에서 활용되고 있습니다. 하지만 이러한 편리함 뒤에는 개인 정보 침해, 감시 사회로의 확산, 오류로 인한 피해 등 여러 가지 문제점이 도사리고 있습니다.

안면 인식 기술, 균형점을 찾아야 한다

안면 인식 기술의 잠재력을 최대한 활용하면서도 개인의 자유와 권리를 보호하기 위해서는 다음과 같은 노력이 필요합니다.

• 명확한 법적 근거 마련: 안면 인식 기술의 사용 범위와 목적, 데이터 수집 및 관리 방안 등에 대한 명확한 법적 근거를 마련해야 합니다.
• 투명성 확보: 안면 인식 기술 사용에 대한 정보를 투명하게 공개하고, 시민들이 자신의 정보가 어떻게 사용되는지 알 수 있도록 해야 합니다.
• 감독 및 견제 강화: 안면 인식 기술 사용을 감독하고 견제할 수 있는 독립적인 기관을 설립해야 합니다.
• 기술적 안전장치 마련: 오류 발생 가능성을 최소화하고, 오남용을 방지할 수 있는 기술적 안전장치를 마련해야 합니다.

5. 마치며

새로운 AI 기술의 발전은 우리 사회에 많은 편리함을 가져다줄 수 있지만, 동시에 예상치 못한 문제점을 야기할 수도 있습니다. Track과 같은 AI 도구의 등장은 기술 발전과 윤리적 문제 사이의 균형을 어떻게 맞춰야 할지에 대한 중요한 질문을 던지고 있습니다. 앞으로 우리는 기술의 발전 속도에 발맞춰 관련 법규와 제도를 정비하고, 사회적 합의를 통해 건전한 기술 사용 문화를 만들어나가야 할 것입니다.