IBM, 인공지능 플랫폼 "Watson OpenScale" 업데이트...편향성 극복 및 투명성 강화가 주목적

IBM, 인공지능 플랫폼 "Watson OpenScale" 업데이트...편향성 극복 및 투명성 강화가 주목적

 

링크: http://bit.ly/2YaaWhi

 

 

[News]
IBM이 알고리즘의 데이터 편향 극복에 목적을 둔 개방형 플랫폼 Watson OpenScale을 최근 업데이트했다. Watson OpenScale의 업데이트 버전에는 특히 성별(gender)과 민족(ethnic)과 관련한 편향성을 감지하고 완화하는 기능이 추가됐다. 이에 따라, 기업용 인공지능 플랫폼 Watson을 도입한 조직에서는 성별, 민족, 혼인여부, 연령과 같은 속성들이 자사의 인공지능 모델에 포함되어 있는지 여부를 자동으로 식별하고 모니터링 할 수 있다. 한편, IBM은 규제 준수 분야 전문가들과 협업을 통해, 차별 논란을 야기할 수 있는 민감한 인구 통계적 속성(demographic attributes) 목록을 계속 추가해나가면서 Watson OpenScale을 더욱 정교화할 계획이라고 밝혔다.

 

[News Plus]
Watson OpenScale은 알고리즘 기반의 "자동화된 의사결정" 과정을 투명하게 공개해 정보 처리와 관련한 규제 준수 기능을 강화한 것이 특징이다. 그 동안 알고리즘 이용자들은 각자 자신의 지식을 기반으로...

 

[View Point]
알고리즘의 편향성은 다양한 방식으로 표출될 수 있으며, 편향성의 강도 및 사람들에게 영향을 미치는 정도 역시 서로 다를 수 있다. 그러나 데이터를 부주의하게 적용하는 경우이든 고의적으로 편향성을 조장한 경우이든...