알고리즘 편향, 어떻게 측정하고 분석할 수 있을까

AI의 실체로서 머신러닝 알고리즘 머신러닝은 간단하게 설명하면 결정론적 함수식(deterministic function)이다. d라는 속성이 함수를 거쳐 Y라는 예측치를 도출하는 과정이다. Y가 한정돼있다면(남성, 여성 혹은 암환자, 정상환자) 함수는 곧 분류기(classfier)가 된다(Fredrikson 등, 2015). 대다수의 분류기는 분류값의 속성 벡터를 받아들여 분류하는 회귀함수이다. 즉, 높은 수준의 신뢰도(confidence)를 바탕으로 분류해내는 기계라는 의미다. 따라서 해당 알고리즘에 적용된 파리미터와 신뢰정도를 추적할 수 있으면, 해당 알고리즘에 적용된 모델을 통해 재구현해낼 수 있다. > f :Rd → Y (d: features) De Laat(2017)은 알고리즘 편향이 개입되는 과정은 단계별로 분석해볼 필요가 있다고 제안했다. 열거하면 다음과 같다. * 1단계 데이터 수집단계 * 2단계 알고리즘 모델링 단계 * 3단계 모델의 활용 단계