AI 생태계를 둘러싼 Transparency

Apr 1, 2021

 

Transparency.png

 

소비자와 AI 제품 및 서비스를 제공하는 조직 간의 신뢰를 구축하기 위해서, AI 개발자, 정책 입안자, 최종 사용자는 AIX경험 디자인, 즉 AI 경험을 설계할 때 무엇보다도 투명성을 가지고 접근해야 합니다. LG 전자와 Element AI이 최근에 발간한 인간 중심인 AI의 미래에 대한 보고서 AIX Exchange에 따르면, 설명 가능성, 목적, 데이터 관리와 관련된 중요 문제에 대처해야만 투명성을 확신할 수 있습니다.

 

보고서에는 세계 최고의 AI 전문가 12명이 Ethics(윤리), Transparency(투명성), Public Perception(대중의 인식), User Experience(사용자 경험), Context(맥락), Relationship(관계) 라는 주제 토론에 참여했습니다. Transparency(투명성)라는 주제에서는 소비자가 AI 제품 및 서비스를 채택하는 방식, 기업과 정책 입안자가 기술의 혁신력에 대응하는 방식에 영향을 주는 5가지 중요한 영역을 조사했습니다.

 

설명 가능성(Explainability)

기업은 소비자와 규제 기관이 내부에서 무슨 일이 일어나고 있는지, 즉 무슨 맥락에서 어떻게 의사 결정이 이루어지는지 알 수 있도록 “블랙박스”를 열어야 합니다.

PayPal의 수석 부사장 겸 CTO Sri Shivananda는 “데이터는 인공지능이 고객과 기업 간의 관계를 이끌어가는 원료이며, 시간이 지나면서 쌓이게 되는 신뢰를 기반으로 합니다.”라며, “고객이 인공지능 경험을 제공하는 플랫폼이나 기업을 신뢰할 수 있을 때, 그들이 체험하는 경험의 이면에 있는 인공지능을 암묵적으로 신뢰하기 시작합니다.”

설명 가능성(Explainability)은 인간이 의사 결정을 하는 과정에서 잘 다듬어지고 최적화된 인공지능을 경험할 수 있도록 도와줍니다. 

 

의사 소통(Communication)

인공지능이 더욱 보편화되면서 조직은 인공지능 제품이 주는 명백한 혜택을 설명하는 메시지를 제공해야 합니다, 즉, 인공지능 제품이 어떻게 이러한 혜택을 제공하는지 설명하고, 인공지능이 소비자를 더 잘 이해하도록 소비자가 인공지능을 “가르침”으로써 소비자가 프로세스에 속해 있다고 느끼게 하는 것입니다.

“고객을 위한 인공지능 기반의 경험을 구축할 때, 우리 모두는 고객과의 신뢰를 넘지 말아야 하는 최종 라인으로 생각해야 합니다.”라고 Shivananda는 덧붙입니다. “신뢰는 고객이 회사와 접하는 모든 것, 즉 핵심 가치 시스템, 실행 방식, 고객 전화에 응답하는 방식, 문제를 시정하는 방식 등을 통해 쌓여야 합니다. 이 모든것들이 고객을 중심으로 움직일 때 나타나는 것입니다.”

 

목적(Purpose)

인공지능은 발전을 통해서 사용자의 생활에 매끄럽게 가치를 더하는 방법을 지속적으로 학습하면서 더욱 보편화될 것입니다. 소비자가 인공지능이 “성공적인지” 또는 제공하고자 하는 목적이 자신에게 적합한지를 평가할 수 있도록, 인공지능 제품 또는 서비스의 “목적”을 투명하게 공개적으로 소통하는 것이 중요합니다. 

와이낫 연구소(Why Not Lab)의 Dr. Christina Colclough는 AIX Exchange에 대한 인터뷰에서 “우리는 어떻게 인권, 즉 인간이고자 하는 권리를 유지합니까?”라고 질문합니다. “인간을 상품화되는 것을 어떻게 피할 수 있을까요? 그저 수많은 데이터 포인트와 알고리즘에 효과를 주는 요소로 보지 않고, 아름다움, 나쁜 면과 좋은 면을 가진 인간으로 볼 수 있을까요? 이렇게 극도로 디지털화된 세상에서 어떻게 하면 의미있고, 사랑 받고, 존중 받을 수 있을까요?”

                
개인정보 보호(Data Privacy)

개인정보 보호 및 보안은 오늘날 비즈니스에서 가장 시급한 문제 중 하나입니다. 수십 년 동안 소비자는 신생 기술 회사들과 거래를 해 왔습니다. “저는 귀사의 앱 또는 서비스에 무료로 액세스하기 위해 제 개인 정보를 기꺼이 포기하겠습니다”라고 말입니다. 회사의 이윤을 위해서 사생활을 침해하고 개인 정보를 잘못 취급하는 것이 뉴스가 되면서, 이 거래는 위험이 따르는 것임을 알게 되었습니다.

AI 기술이 적용된 주택이 해킹을 당해 온 가족이 피해를 입으면, 소비자는 어깨를 으쓱하고 말까요? 아마 그렇지는 않을 것입니다. 또한 가정, 자동차, 직장과 같은 ‘개인 공간’을 양보해야 한다면, 인공지능을 선택하는데 심각한 장벽이 될 것입니다.

 

인터페이스(Interface)

회사의 제품에 대한 신뢰, 나아가 회사 자체에 대한 신뢰는 오늘날 소비자가 신뢰성, 직관성, 사용 간편성을 갖춘 제품을 기대한다는 사실에 어떻게 대응하는지에 달려 있습니다. AI 제품 및 서비스의 진화는 새로운 과제를 불러옵니다. AI가 우리 삶에서 실제로 어디에나 존재하고 유용하게 쓰이기 위해서는 엄청난 양의 개인 정보와 이 데이터를 정확하게 통합하고 분석하는 백엔드 시스템이 필요합니다.

이론적으로 볼 때 대화형 AI는 기술과 상호 작용하는 현재의 방식보다 더욱 개인적인 1:1 경험을 만들어야 합니다. 좋지않은 디자인, 낮은 투명성, 사용자(인구 통계, 지역, 문화)를 잘 모르는 잘못된 의사 소통은 조직이 고객의 필요와 요구를 예상하지 못했다는 것을 나타냅니다. 결과적으로 소비자는 외면하거나 AI 경험을 최소화하기 위해 낮은 품질의 데이터를 제공할 것입니다.

 

-------------

수세기 동안 인간은 직장에서는 생산성을 높이고 가정에서는 더 행복해지기 위해서, 도구를 만들어왔고 이러한 도구의 주인이었습니다. 오늘날 우리는 이러한 관계가 변화하는 역사적인  순간에 살고 있습니다. 기계는 이제 우리 삶에서 훨씬 더 역동적인 부분을 차지할 힘이 있습니다.

이를 위해 AI 제품과 시스템은 이전의 다른 어떤 기술보다도 많은 개인 정보가 필요합니다. 기업에 대한 소비자의 신뢰가 핵심이며 이는 높은 투명성에서 비롯됩니다. 최고 수준의 기업은 조직이 하는 일, 하지 않는 일, 그 일을 하는 이유에 대해 매우 정직하게 알려야 합니다. 소비자는 회사의 행동 이면에 있는 철학, 신뢰를 요구하는 알고리즘 개발의 기준 프레임, 일이 잘못되었을 때의 방침을 이해해야 합니다.

개발자와 정책 입안자, 특히 최종 사용자가 함께 참여하는 AIX 디자인은 AI 산업에 대한 보다 나은 투명성과 장기적 신뢰를 얻기 위한 첫 번째 단계입니다.

투명성 분석에 관한 전체 보고서는 www.aixexchange.com에서 볼 수 있으며 인터뷰는 www.Youtube.com/AIXExchange에서 확인할 수 있습니다.