호주 인권위원회는 호주의 인공 지능(AI) 및 기타 이머징 기술을 수용하고 있는 방식에 대해 경고를 제기했다.
화요일에 발표된 토론 보고서에 따르면 호주의 최고 인권 단체인 호주 인권위원회는 호주 정부, 더 나아가서는 우리 사회가 아직 기술 개발 속도를 따라가지 못하고 있다고 경고했다.
보고서는 “우리는 근본적인 의문점을 제기해 왔다. ‘어떻게하면 신기술에 대한 두려움 없이 호주인들에게 필요한 것, 원하는 것을 제공하도록 할 수 있을까’ 라는 것이다”라고 전했다.
보고서는 또 AI와 다른 새로운 기술들이 "우리의 인권을 위협할 수 있다”라고 주장한다.
“예를 들어, AI는 인종, 나이, 성별 또는 기타 특성에 있어서 불리한 사람들에 대해 불공정한 결정을 내리게 된다. 이러한 문제는 사회 보장, 정책, 주택 대출 등 우리 사회의 가장 큰 관심 분야의 의사 결정 과정에서 발생한다”라고 기술했다.
또한 소수 민족 및 소수 인종 그룹의 여성과 사람들을 식별할 때 얼굴 인식 기술의 정확성이 떨어진다는 증거가 속속 드러나고 있다고 지적했다.
인권위원회는 "인권을 보호하는 적절한 법적 체계가 확립될 때까지 얼굴 인식 기술의 특정 분야 활용에 대한 모라토리엄"을 제안했다.
또 다른 제안에는 호주 AI 안전위원회(Australian AI Safety Commissioner)가 포함됐으며 AI가 중요한 결정을 내리는 데 활용되는 경우 영향을 받는 개인은 AI 결정의 기본 원리를 이해하고 필요한 경우 결정에 반할 수 있어야 한다고 주장했다.
Many countries are debating the use of facial recognition. Source: Getty
에드워드 산토우 인권위원회 의장은 성명서에서 "이머징 기술은 엄청난 사회적 혜택을 가져다줄 수 있지만 사람들은 자신의 개인 정보가 그에 반하여 사용될 수 있음을 깨닫기 시작했다”라고 지적했다.
그는 "지난 해에 지역 사회의 취약 계층에 대한 이머징 기술의 문제점을 나타낸 여러 가지 사례를 보았고, 호주 및 해외에서 AI가 개인의 인권에 심각한 영향을 미치는 의사 결정에 사용되는 사례를 목격했다”라고 덧붙였다.
"호주 민주주의의에 있어서 책임과 법규는 기본적인 요소다. 우리는 AI가 개발되고 사용되는 방식에 있어서 이같은 원칙을 보다 효과적으로 유지할 필요가 있다”라고 강조했다.
