AI 기업이 얼굴 인식을 위해 수십억 장의 사진을 스크랩하였다

프라이버시의 데이터

전 세계에서 점점 더 많은 프라이버시 워치독이 사람들의 허락 없이 인터넷에서 수십억 장의 사진을 수집한 미국 기업인 클래비뉴 AI에 맞서고 있습니다. 이들 사진을 얼굴인식 소프트웨어에 사용하는 이 회사는 5월 26일 영국 규제당국으로부터 750만파운드(940만달러)의 벌금을 부과받았다. 영국 정보위원회(ICO)는 이 회사의 클리어뷰 AI가 데이터보호법을 위반했다고 발표했습니다. 그 회사는 법률 위반을 부정하고 있습니다. 하지만 이 사건은 각국이 국경을 넘어 인공지능을 규제하는 데 어떻게 애를 먹었는지 밝혀주고 있습니다.

얼굴 인식 툴에는 대량의 데이터가 필요합니다. 주 정부기관에 판매할 수 있는 수익성이 높은 새로운 AI 도구를 구축하거나 새로운 투자자를 끌어들이기 위한 경쟁에서 기업들은 오픈웹에서 수십억 개의 데이터 포인트를 다운로드(스크랩)하는 것으로 눈을 돌렸습니다. Clearview의 경우, 이것들은 소셜 미디어, 뉴스 사이트, 그 외 어디에서나 얼굴이 나타날 수 있는 인터넷상의 사람들의 얼굴 사진이다. 보도에 의하면, 동사는 200억장의 사진을 수집했습니다.이것은 지구상의 인간 1인당 3매에 해당합니다. 이 사진들은 이 회사의 얼굴인식 알고리즘을 뒷받침합니다. 이들은 트레이닝 데이터로 또는 Clearview 시스템에 인간의 얼굴이 어떻게 보이는지 유사점을 검출하거나 구별하는 방법을 알려주는 방법으로 사용됩니다. 동사에 의하면, 동사의 툴은, 사진의 인물을 높은 정밀도로 식별할 수 있습니다. 미국 정부의 테스트에 따르면 이는 시장에서 가장 정확한 얼굴 인식 도구 중 하나이며 미국의 이민 세관 당국과 수천 개의 경찰, 월마트와 같은 기업들에 의해 사용되고 있습니다.

대부분 Clearview 툴이 의존하는 데이터셋에 자신의 사진이 포함된 것을 알지 못합니다. 그들은 허락을 요구하지 않습니다. 그들은 동의를 구하지 않습니다'라고 Mozilla의 신뢰할 수 있는 AI 시니어 펠로인 Abeba Birhane은 말합니다. 또 데이터셋에 이미지가 있는 사람에 관해서는 자신의 이미지가 머신러닝 모델의 훈련에 사용되고 있다는 사실을 깨닫지 못하고 있습니다. 동사의 툴은 사람들의 안전을 지키도록 설계되어 있습니다. 이 회사는 웹사이트에서 "클레비아이의 수사 플랫폼을 통해 법 집행기관이 신속하게 도선을 생성하고 사건을 보다 빠르게 종결하며 지역사회를 안전하게 유지하기 위해 피의자, 목격자, 피해자를 식별하는 데 도움이 될 것"이라고 밝혔습니다. 그러나 클리어 뷰는 다른 거센 비판에도 직면해 있습니다. AI의 책임 있는 활용을 주장하는 이들은 얼굴인식 기술이 유색인종을 불균형으로 오인하는 경우가 많아 데이터베이스를 활용한 법 집행기관이 잘못된 사람을 검거할 가능성이 높다고 말합니다. 프라이버시 옹호론자들은 이러한 편견이 사라지더라도 해커에 의해 데이터가 도난당하거나 법 집행기관이나 정부에 의해 새로운 형태의 침입 감시가 가능할 수 있다고 말합니다.

 

영국의 벌금은 어떤 영향이 있을까

벌금 940만달러에 더해 영국 규제당국은 클리어뷰에 대해 영국 거주자로부터 수집한 모든 데이터를 삭제하라고 명령했다. 이것에 의해, 동사의 시스템은 영국의 유저의 사진을 식별할 수 없게 됩니다. 그러나 Clearview가 벌금을 낼지 아니면 그 명령을 따를지는 알 수 없습니다. 국제적인 합의가 없는 한 ICO가 하려는 일을 강제할 방법은 없습니다라고 빌하네는 말합니다. 이는 국경을 초월한 합의가 필요한 명백한 경우입니다. 클리어가 규제당국으로부터 질타를 받은 것은 이번이 처음이 아니었습니다. 2월 이탈리아 데이터 보호기관은 이 회사에 2000만유로(2100만달러)의 벌금을 부과하고 이탈리아 거주자의 데이터를 삭제하라고 이 회사에 명령했다. 같은 주문은 프랑스를 포함한 다른 EU 데이터 보호 기관에 의해 제출되고 있습니다. 프랑스와 이탈리아 대리점은 이 회사의 준수 여부에 대한 질문에는 답하지 않았습니다.

영국의 프라이버시 규제기관인 존 에드워즈는 타임과의 인터뷰에서 클리어뷰가 영국의 주민 데이터 삭제 명령을 따를 수 없다고 사무실에 통보했다고 말했다. Clearview CEO인 Hoanton-그것은 사진 속 사람들이 어디에 사는지 회사가 알 방법이 없기 때문이라는 것을 이메일로 보여준다. "공개된 인터넷을 통한 공개 사진만으로 시민의 거주를 결정하는 것은 불가능합니다"라고 그는 말했습니다. "예를 들어 소셜 미디어나 신문에 공개되어 있는 단체 사진에는 그 사람이 특정 국가의 거주자인지 아닌지를 어느 수준의 확실성으로 판단할 수 있는 정보는 고사하고 사진 속 사람들의 이름조차 포함되어 있지 않을 수 있습니다." 프랑스와 이탈리아 기관의 판결에 동일한 것이 적용되는지에 관한 TIME의 질문에 대해 Clearview의 대변인은ton-Thats의 성명을 지적했습니다. Ton-Thatadded: 나의 회사와 나는 어린이, 노인, 기타 부도덕한 행위의 피해자들에 대한 흉악한 범죄 해결에 있어 법 집행을 지원함으로써 영국과 그 국민의 가장 큰 이익을 위해 행동해 왔습니다.우리는 공개된 인터넷으로부터 공공 데이터만을 수집하며 프라이버시와 법률의 모든 기준에 준거하고 있습니다. 클리어뷰 AI 기술이 사회에 와전된 것에 낙담하고 있다고 말했습니다. Clearview는 영국 프라이버시 워치독에서 940만달러의 벌금을 낼 것인지, 콘테스트에 참가할 것인지에 대한 질문에는 대답하지 않았습니다. 하지만 변호사들은 영국의 규칙이 그들에게 적용될 것이라고 믿지 않는다고 말합니다. 클리어뷰 변호사인 리 월로스키 씨는 TIME에 제출한 성명에서 벌금을 부과한다는 결정은 법률의 문제로 잘못됐다고 말했습니다. ClearviewAI는 ICO 관할이 아니며 ClearviewAI는 현 시점에서 영국에서 사업을 하지 않는다.