인공지능에 대한 유럽 최초의 규정인 AI법은 무엇을 제공하는가?

국회와 심의회 간 AI법 합의에 도달했습니다.생체 인식을 금지하고 다양한 제한을 도입했지만 NGO에 따르면 충분하지 않다고 합니다.

• 유럽의회와 이사회는 36시간의 협상 끝에 인공지능에 대한 규제인 AI법에 합의했다.
• 다양한 예외를 제외하고 실시간 얼굴 인식 및 예측 경찰 활동과 같은 대규모 감시의 사용은 금지됩니다.
• 인권단체들은 그들의 열정을 억제하고 있습니다:명확한 내용이 없으면 권리 보호 수준과 대량 감시의 실제 제한을 확인할 수 없습니다.

인공 지능 시스템을 다루는 OpenAI와 같은 회사를 규제하는 방법에 대한 수개월 간의 논쟁 끝에유럽연합 그는 승인했다 12월 8일 금요일 AI법, 인공 지능에 대한 첫 번째 지역 규칙 패키지입니다.하나예요 기본법 유럽 ​​입법자들의 희망에 따라 이는 전 세계의 모델이 될 수 있습니다.

AI법이란 무엇이며, 다른 인공지능 관련 규제와 어떻게 다른가

2021년 4월 21일 유럽연합 집행위원회가 커뮤니티 디지털 전략의 일환으로 제안한인공지능법 은 유럽 ​​연합 규정 이는 인공지능에 대한 공통 규제 및 법적 프레임워크를 도입하는 것을 목표로 합니다.

규제 자체가 전 세계적으로 처음 있는 것은 아니다.~ 안에 예를 들어 중국의 규칙은 다음과 같습니다. 생성 인공지능에 대해 발효되었습니다 벌써 8월.그러나 AI법의 예외적 성격은 다음과 같습니다.훨씬 더 광범위한 규칙 세트, 다수의 금지를 포함하여 인공 지능 사용에 대해.

소유하다 일부 금지 사항에 대한 3부작 – 유럽 입법 과정의 마지막 부분인 의회, 유럽 집행위원회 및 이사회 간의 협상 – 좌초 위험에 처했다 36시간의 협상 동안.특히 기업의 인공지능 사용 허용 및 금지에 대한 논의가 집중됐다. 법 집행 기관, 특히 예측 치안과 실시간 얼굴 인식에 관한 것입니다.한편으로 의회는 전면 봉쇄 노선을 옹호했지만, 회원국을 대표하는 이사회는 대신 훨씬 더 관대한 접근 방식을 추진했습니다.

법 집행 기관의 감시 문제

의회와 위원회뿐만 아니라 시민사회에서도 가장 논란이 많고 분열을 불러일으키는 주제는 다음과 같습니다. 법집행기관의 인공지능의 합법적인 사용에 대한 정의. 

그만큼 권하다, 회원국의 27개 국가 정부를 대표하는 는 인공지능을 사용하여 사람을 식별할 수 있는 가능성을 부여하려고 시도했습니다. 실시간 생체인식 얼굴인식.또 다른 요청은 이러한 시스템을 다음 목적으로 사용할 수 있도록 허용하는 것이었습니다. 예측 치안.여기에는 알고리즘을 사용하여 범죄가 누구에 의해, 어떤 장소에서 저질러질 가능성을 예측하는 것이 포함됩니다.

이러한 방향으로 추진하려고 시도한 국가는 다음과 같습니다.이탈리아 – 그 사실을 잊어버리고 개인정보 보호보증인 2021년부터 실시간 인식 사용 금지 –헝가리 그리고 프랑스.특히 후자는 최근 보안 방향으로 많은 것을 추진하고 있는데, 먼저 "글로벌 보안"그리고 나서 지난 4월 법 인공 지능의 사용과 예방 조사를 승인했습니다. 파리 올림픽.

태양이 아님:특히 시민사회와 디지털 권리 단체의 우려는 협상 중에 위원회가 디지털 권리 사용을 허용하려 했을 때 더욱 커졌습니다. 민족 기반의 생체인식.

감시를 위해 AI를 사용하는 것이 금지되는 것

국회의 반대가 거세졌고,감시를 위한 인공지능의 사용이 금지되었습니다, 단, 몇 가지 예외가 있고 어떠한 경우에도 사법 당국의 승인이 있는 경우는 예외입니다. 나온 것에서 다음 시간에는 위험에 대한 규칙이 설정되어 있습니다., 네 가지 범주로 나뉩니다. 최소, 제한, 높음 및 허용되지 않음.위험이 높을수록 해당 특정 시스템을 개발하고 사용하는 사람의 책임도 커집니다. 금지될 때까지 너무 위험하다고 생각되는 사람들을 위해.

AI법 금지하다 생체 인식 분류 민감한 개인 데이터, 인종, 신앙, 성적 취향 등;거기 인터넷에서 얼굴을 대량으로 수집 인식하는 기술과 감정 (단, 직장과 학교에서만).또한 다음을 수행할 수 있는 시스템도 금지합니다. 감정을 조작하다 사람과 기반을 둔 사람들의 소셜 스코어링, 즉, 이미 중국에서 채택하고 있는 공민의 평판을 분류하는 방식이다.

실시간 생체 인식은 다음 세 가지 상황을 제외하고 금지되었습니다. 테러 위협, 범죄 피해자 수색 (예: 인질 등) 식별 '중대한 범죄' 혐의를 받고 있다.거기 첫 번째 널리 퍼진 목록 여기에는 인신매매, 마약 밀매, 무기 밀매, 아동 음란물 및 아동 학대, 환경 범죄, 살인이 포함되지만, 테러와 납치 등 현실 범죄도 이미 제공된 세 가지 예외 항목에 포함되어 있습니다.

그만큼 예측 치안 시스템, 그러나 분석에만 사용할 수 있습니다. 익명화된 정보 범죄 현장의 동향을 제공하는 반면, 알고리즘을 통해 용의자를 식별하는 시스템은 금지됩니다.다시 말해서, 개인은 알고리즘에 의해 신고되었기 때문에 조사할 수 없습니다..

AI법에 규정된 기타 규칙

규제가 개입하는 중요한 문제는 투명도 인공지능 시스템을 활용하는 과정에서.사용자는 다음을 수행해야 합니다. 내용을 인지할 수 있다 딥 페이크, 이미지, 비디오 등은 눈에 잘 띄는 라벨을 통해 표시되어야 하며, 그들이 상호작용하고 있는지 알아보세요 사람으로든 시스템으로든, 예를 들어 챗봇.뿐만 아니라, 회사 디지털 서비스 제공업체는인공지능으로 제작된 콘텐츠를 식별할 의무 플랫폼에서 유통되며 자동으로 그렇게 표시되어야 합니다.숫자를 생각해보면 혁명이다 예를 들어 소셜 미디어에 유포되는 딥 페이크.

또 다른 테마는 다음과 같습니다.’생성 인공 지능, 그 시스템 요청에 응답하여 텍스트, 이미지, 비디오, 음악 또는 기타 미디어를 생성할 수 있는 것 ~처럼 ChatGpt. 표준은 다음을 가리킨다. 범용 AI 시스템, 다양한 작업을 수행할 수 있고 분류되지 않은 엄청난 양의 데이터를 통해 훈련되었습니다.일부는 설정됨 영향을 기반으로 시스템을 식별하는 임계값:인구에 미치는 영향이 클수록 존중해야 할 의무도 커집니다.

다른 문제 중에서도 다음과 관련된 문제는 저작권 보호 그리고 모든 디지털 콘텐츠의 전반적인 투명성 인공지능으로 만들어졌습니다.

AI법의 다음 단계와 시민사회로부터 받은 비판

규정의 내용은 정치적 과정을 마쳤으며 이제 기술자의 손에 넘어갔고 규칙의 일관성과 수정 사항을 확인하기 위해 규칙을 검토하는 임무를 맡은 사람입니다.최종본이 출판된 후 대략 내년 1월 말경에 위원회는 다음과 같은 준비를 갖추게 될 것입니다. 인공지능 사무실. 각 주에서는 지명해야 합니다. 지방 당국 규정의 적용을 감독하는 사람은 다음과 같이 협력합니다. 데이터 보호 보증인.

그 점을 강조하는 것이 중요하다 아직까지 확인할 수 있는 확실한 문서는 없습니다..우리가 알고 있는 모든 것은 기자회견을 통해 전달되었고 브뤼셀 소식통에 의해 유출되었습니다.

시민사회와 유럽연합의 네트워크 디지털 권리를 다루는 사람 EDRi, 는 디지털 권리를 다루는 NGO와 학계의 네트워크입니다. 매우 조심스럽다 합의를 축하하면서.다음은 같은 의견입니다 이탈리아 협회, 포함 더 굿 로비, 헤르메스 센터 그리고 개인정보 보호 네트워크, 밑줄을 긋는 여러 예외에 대한 우려 공공장소에서 안면인식 사용을 금지하는 것도 중요하지만, 무엇보다 협상 중 투명성 부족. 긍정적인 면에서, 그가 지적했듯이 딜레타 후이스케스 Privacy Network의 규칙에 포함되는 것으로 보입니다. 기본권에 대한 영향평가 고위험 인공지능에 대해서는 이 역시 최종 텍스트의 공개를 통해서만 확인할 수 있습니다.

다른 유럽 규정과 마찬가지로 가장 문제가 되는 세부 사항 그들은 한 번만 나타날 것입니다 그 내용은 공개될 것이다.협상 중에 정부는 인공지능 시스템이 다음과 같다는 점을 인정해야 했습니다. 대량 감시에 점점 더 많이 사용됨, 인종 프로파일링 및 기타 유해하고 침해적인 목적.이 합의에는 제한 사항이 포함되어 있지만 최종 텍스트를 통해서만 그 영향, 특히 내부 감시 및 국경과 관련된 내용을 확인할 수 있습니다.

유럽 ​​연합에서 처음으로 실시간 얼굴 인식을 합법화하는 조치를 취한 법률에 대해 흥분하기는 어렵습니다.의회가 피해를 제한하기 위해 열심히 노력했지만 생체 인식 감시 및 프로파일링에 대한 전체 패키지는 충분하지 않습니다.대량 생체 인식 감시에 맞서는 우리의 싸움은 계속될 것입니다

Ella Jakubowska, EDRi 수석 정책 고문