리서치 브리프 | 알고리즘에 기반한 차별적 결과가 편견과 차별적 의도에서 나온 것일까요?


알고리즘에 기반한 차별적 결과가 편견과 차별적 의도에서 나온 것일까요?


  어떻게 실무에 사용할 수 있을까?
 ‘비용의 최소화’와 ‘효율성’을 기반으로 작동되는 알고리즘의 특성에 대한 정확한 이해와 함께 시장실패와 알고리즘의 투명성 이슈에 대한 고민이 필요함


 빅데이터 알고리즘 분석이 다양한 분야에서 활용되고 있습니다. 이에 대해서 기대와 우려가 섞인 여러 의견이 존재합니다. 알고리즘의 분석 결과가 차별적 혹은 편견적인 의도나 조작이 개입된 결과일 수도 있다는 것입니다. 반면, 알고리즘 분석 결과는 알고리즘이 지닌 작동 방식에 의한 분석적 결과일 뿐이라는 의견, 또 훈련 데이터가 지닌 특성이 반영된 결과물이라는 의견이 존재합니다.


  Lambrecht, A., & Tucker, C. (2019)는 이러한 빅데이터 알고리즘에 기반한 자동화된 의사결정이 어떠한 원인에 기인한 것인지를 가늠해볼 수 있게 하는 연구를 수행하였습니다.


 (현상)
연구자들은 미국 공학연구자 구인 광고에서 여성이 남성보다 적게 노출된 결과를 발견하였습니다. 그렇다면 이 결과는 ‘여성이 남성보다 공학부문에 관심이 적을 수도 있다’는 기존의 사회적 편견이 알고리즘 분석에 반영된 결과일까요?


(분석) 
Lambrecht, A., & Tucker, C. (2019)는 이러한 결과가 편견 혹은 차별적 의도가 반영된 것이 아니라 온라인 광고시장의 특성이 반영된 결과일 수 있다는 해석을 내놓았습니다. 온라인 광고 시장에서는 10대에서 30대 연령의 여성이 매력적인 마케팅 대상이기 때문에(그림 참조) 이에 따라 상업적 광고들이 젊은 연령대의 여성들에게 집중되면서 상대적으로 구인 광고 부문에서는 여성의 노출이 감소되는 일종의 #구축효과(crowding out)가 발생하였다는 것입니다.

(시사점) 
알고리즘에 의한 차별적인 분석 결과는 다양한 플랫폼, 가령 트위터나 인스타그램에서도 나타날 수 있습니다. 문제는 이러한 차별적 분석 결과가 시장 실패의 결과로 볼 수 있다면 적절한 조정이 필요하다는 것인데요. 시장실패와 알고리즘의 투명성 이슈에 대해서 연구자들은 ‘비용의 최소화’‘효율성’을 기반으로 작동되는 알고리즘의 특성에 대한 정확한 이해가 최우선으로 이루어져야 한다고 이야기하고 있습니다.



 Lambrecht, A., & Tucker, C. (2019). Algorithmic bias? an empirical study of apparent gender-based discrimination in the display of stem career ads. Management Science, 65(7), 2966-2981.





#연구 #스타트업 #플랫폼 #생태계 #투자 #리포트 #이슈 #브리프 #디지털 #데이터 #기업 #혁신기업연구센터 #디지털플랫폼생태계 #손에잡히는플랫폼

주소:서울시 강남구 테헤란로 81길 10, 5층

국민대학교 플랫폼 SME 연구센터

이메일:rcif@kookmin.ac.kr

연락처:02-6242-8110


주소 : 서울시 강남구 테헤란로 81길 10 5층 국민대학교 플랫폼 SME 연구센터 | 이메일 : rcif@kookmin.ac.kr | 연락처 : 02-6242-8110