NCS뉴스 김덕원 기자
AI의 상용화가 진행이 되면서 해석가능성, 설명가능 AI, 윤리 등의 문제가 본격적으로 부각되고 있습니다.
AI의 공정성도 그런 면에서 무척 중요한 이슈인데, 성능과 과학에 대한 공부는 해도 AI윤리나 공정성에 대한 연구나 강의는 무척 적은 것 같습니다.
AI는 여러 분이 생각하는 것처럼 공정하지 않습니다. 왜냐하면 인간사회 자체가 가지고 있는 데이터가 그리 공정하지 않으며, 정말 많은 과정에서 인간의 편견이 개입하기 때문이죠.
AI의 공정성에 대해 공부하고 나시면, 현재의 AI면접이라는 기술에 대한 문제점을 인식하실 수 있게 될 것 입니다.
데이터가 가지고 있는 편견(bias)도 큰 문제다. 작년 미국 표준기술연구소(NIST)가 200개 가까운 얼굴인식 알고리즘들을 테스트해 본 결과, 백인에 비해 흑인 얼굴을 제대로 인식하지 못한다는 결과를 밝혀냈다. 이는 IBM이 발표한 바와 같이 학습된 데이터의 80%가 밝은 피부를 가진 사람들이었기 때문이다. 아마존은 2017년 직원 채용을 할 때 AI 활용을 중단했는데 그 이유는 시스템이 남성 지원자를 선호했기 때문이다.
데이터 편견에 의한 AI의 편견은 큰 문제다. 특히 이 문제는 우리나라처럼 급격하게 AI 면접을 늘리는 상황에 큰 경종을 울리고 있다. AI 면접의 확대와 관련한 뉴스를 보고, 세계적인 AI 연구자 중 한 명인 조경현 교수(뉴욕대학)가 ‘내가 가르치는 학생들도 이렇게 하면 안 된다는 것을 안다’고 비판을 했는데, 이는 AI의 공정성 이슈로 볼 수 있다.
AI는 일반적으로 생각하는 것처럼 공정하지 않다. 인간 사회 자체가 가지고 있는 데이터가 그리 공정하지 않으며, 정말 많은 과정에서 인간의 편견이 개입하기 때문이다. 그래서 데이터가 가지고 있는 여러 가지 문제점을 제대로 파악하고 적절한 대처를 하는 게 AI의 도입과 활용에 가장 중요하다는 점을 잊지 말아야 한다.