최근 AI 알고리즘에 의한 자동화된 의사결정 시스템(Automated Decision-Making)이 채용, 대출 심사, 심지어 사법 선고 과정까지 광범위하게 도입되고 있다. 기업과 정부는 AI가 인간의 주관적 편견을 배제하고 보다 객관적인 결정을 내릴 것이라 기대한다. 그러나 AI 모델은 필연적으로 과거의 역사적 데이터를 바탕으로 학습하기 때문에, 그 데이터 속에 내재된 인종차별적, 성차별적 편향을 그대로 모방하거나 오히려 증폭시키는 결과를 초래하는 경우가 많다. 따라서 알고리즘 투명성을 확보하고 사회적 영향을 지속적으로 모니터링하는 인간의 개입이 필수적이다.