Ethical AI에 필요한 다방면의 접근법

Mar 25, 2021

Ethics.png

 

LG 전자와 Element AI가 공동 지원한 보고서에서 AI 생태계의 다양한 관점을 견지하는 전 세계 전문가들은 인간 중심 디자인, 즉 AIX 디자인에 대해 인터뷰했습니다. 인공지능의 미래에 대한 대부분의 논의와 마찬가지로 AIX Exchange(Artificial Intelligence Experience Exchange)에서도 윤리 문제를 탐구합니다.


단, 보고서가 윤리 지침을 제시하거나 윤리 문제에 대해 강경한 입장을 취하지는 않습니다. 이 보고서는 연구자, CEO, 소비자 단체, 설계자, 정책 입안자 등의 다양한 관점을 수집하고 업계가 직면한 문제점을 잘 구성하여, 가정, 사무실, 자동차, 소지품 등에 사용되는 인공지능에 있어서 윤리적 AI는 프로세스의 일부가 아니라 인간을 설계의 중심에 둔 다방면 접근 방식의 자연스러운 결과라는 것을 확인합니다.


대중 매체는 최근의 인공지능 실패를 조명하는데 혈안 되어 있습니다. 버락 오바마를 백인으로 만든 알고리즘 PULSE부터 범죄자를 예측한다고 주장하는 인종 차별적인 안면 인식 시스템까지, 인공지능을 어린 아이가 손에 쥔 강력한 도구처럼 그리고 있습니다. 하지만, 편견은 기술이 아니라 인간에게 있다는 점이 항상 간과되고 있습니다.


2019년 튜링상을 수상한 AI 연구자 Yoshua Bengio는 인터뷰에서 이렇게 설명합니다. “인간 중심이라는 것은 인간이 도구를 어떻게 사용하는지, 어떤 목적으로 사용될 것이며, 도구를 사용하는 인간에게 어떤 결과를 가져다 주는지에 대한 인간적 측면을 고려한다는 뜻입니다. 이것이 중요한 이유는 그 도구가 점점 더 강력해지고 있기 때문입니다. 도구가 강력할수록 사용 방법에 더 주의해야 합니다."


이 보고서는 특히 소비자의 관점에서 윤리 문제를 더욱 철저히 탐구하려고 노력합니다. 개인 정보 보호 및 보안 관련 책임에 대한 질문을 제기하면서, 인공지능을 포괄적으로 개발하는 방법을 다루고 개인과 문화의 다양한 가치를 고려합니다. 보고서는 다음 5가지 주요 소주제로 구성되어 있습니다.


Inclusivity(포괄성)에서는 AI 시스템과 장치의 개발 및 적용 전반에 걸쳐 표현의 중요성을 검토합니다. 이는 비단 피부색과 같은 다양성뿐만 아니라, 다양한 문화, 믿음, 경험에서 비롯된 사고의 다양성을 포함합니다.
Values(가치)에서는 산업에서 통합되었을 때의 위험성, 기술을 개발하고 배포하는 사람들의 밑바탕에 깔린 가치, 구축하는 과정에서 시스템에 반영되는 프로그래머의 편견 대비 최종 사용자를 통해 학습되는 편견 등을 살펴봅니다.


Governance(거버넌스)에서는 ‘기술의 발전이 정치의 속도를 능가할 때, 정부의 역할은 무엇인가?’라는 질문을 던집니다. 그렇다면 거버넌스는 시스템에 어떻게 구축하고 최종 사용자를 포함한 모든 이해 관계자에게 관리 될까요?


Data Privacy(개인정보보호)에서는 데이터 소유권과 투명성의 이슈를 반영하지만, 가장 기본적인 요구 사항을 결정하는 AI 시스템이 꺼지면 어떻게 될지 묻습니다.

 

Purpose(목적)에서는 최종 사용자를 위한 AI 시스템과 제품을 만들 때, 그 의도와 모든 이해 관계자가 ‘왜’라는 질문에 답할 능력의 필요성을 살펴봅니다. 기술이 인간의 필요에 부응하지 않는다면 기술은 단지 인간의 데이터를 훔치고 있는 것일까요?

 

AIX Exchange에서, AI는 최종 사용자가 윤리적이거나 위험하거나 가치 있다고 믿는 것이 무엇인지를 고려하는 현실적인 인간 중심의 접근을 해야 합니다. 그러나 아직까지 산업, AI, 인간 자신에 대해 배울 것이 많다는 점도 인정합니다.


PayPal 수석 부사장 겸 CTO Sri Shivananda는 “책임감 있고 윤리적인 AI에 대해서는 우리 모두 아직 배워가는 단계”라며, “산업계는 이제 AI가 인간 경험과 제품에 기여하는 파워를 더 잘 이해하고 있습니다. 동시에, 실제로 프로세스가 잘못 될 수 있다는 것도 경험하기 시작했습니다.“


“우리 모두는 이러한 것들을 처음으로 경험하고, 고객에 대한 의무, 지역사회에 대한 의무, 지구 전체에 대한 의무를 이해해서, AI가 할 수 있는 일에 실질적인 제한을 두는 것입니다. 그리고 산업계 전반에서 협력하여 AI 구현 방법에 대한 새로운 표준과 모범 관행을 확립하고 이러한 윤리 규범을 준수해야 합니다."


전체 보고서는 www.aixexchange.com에서 볼 수 있으며 인터뷰는 www.Youtube.com/AIXExchange에서 확인할 수 있습니다.