인간의 의사에 있어서는, 피부색 등을 알 수 없는 엑스레이 사진으로 환자의 인종을 구분하기는 어렵지만, 새롭게 의학지 The Lancet Digital Health에 발표된 논문에서, "AI는 흉부 엑스레이 이미지를 통해 인종을 90%의 정확도로 구분할 수 있다"는 것으로 나타났다.
연구자들은 AI가 인종을 구분하는 방법에 대해서도 조사했지만, 아직까지 AI가 어떻게 인종을 판별하고 있는지는 불분명하다고 한다.
이미 AI를 이용한 의료진단은 다양한 분야에서 유망한 결과를 내고 있지만, 하버드대 의대 Leo Anthony Celi 준교수 등은 흉부 엑스레이 이미지를 검사하는 AI 프로그램이 왠지 흑인 환자에게서 질병의 징후를 간과할 가능성이 높다는 경향을 깨달았다고 한다.
Celi 씨는, "컴퓨터가 인종을 구분할 수 없는데, 왜 그렇게 되느냐고 자문했다"라고 말하고, 그래서 미국, 캐나다, 대만, 호주 등의 연구자들에 의한 국제적인 연구팀이 설립되어 AI가 흉부 엑스레이 이미지를 통해 인종을 구분할 수 있는지에 대한 연구가 시작되었다.
우선 연구팀은, 엑스레이나 CT 스캔으로 촬영된 의료용 흉부 엑스레이 이미지에, 피험자의 자진 신고를 토대로 "백인", "아시아인", "흑인" 중 하나의 라벨을 붙인 데이터셋을 사용해 AI를 훈련. 데이터셋의 화상에는 피부색이나 머리의 질감 등 인종을 나타내는 분명한 지표는 포함되지 않았다는 것.
그리고, 대량의 인종 라벨이 달린 이미지로 훈련한 AI에 대해, 이번에는 라벨이 붙어 있지 않은 다른 흉부 에스레이 이미지를 통해 인종을 판별시켰다. 그랬더니 AI는 90% 이상의 정확도로 엑스레이 이미지에 찍힌 인종을 백인, 아시아인, 흑인 중에서 식별하는데 성공.
이 결과는 피험자의 체격, 나이, 성별에 좌우되지 않았다고 하며 가슴 이외의 손이나 등뼈 등 신체의 다양한 부위를 촬영한 X선 이미지로 AI를 훈련 한 경우에도, 마찬가지로 흉부 X선 이미지를 통해 인종을 판별할 수 있었다고 연구팀은 밝혔다.
연구팀은 왜 AI가 흉부 엑스레이 이미지를 통해 인종을 판별할 수 있는지를 조사했지만, 피험자의 질환, 골밀도, 유방밀도와 같은 인종에 의한 편중이 있는 요소를 제외해도 AI는 여전히 인종을 판별할 수 있었다고 밝혔다.
논문의 공저자이자, 매사추세츠 공과대학에서 컴퓨터 사이언스의 조교를 맡고있는 Marzyeh Ghassemi 씨는 "연구실의 대학원생이 이 논문에 게재되고 있는 몇 가지 결과를 보여주었을 때, 나는 확실히 "이것은 잘못된게 틀림없다"라고 생각했습니다. 솔직히 말해서, 학생들의 이야기가 미쳤다고 생각했습니다"라고 코멘트. Ghassemi 씨는 "피부에 포함된 멜라닌 색소 정보가 엑스레이 이미지에 박혀 있어, AI는 그것을 단서로 인종을 판별하고 있을 가능성이 있다"고 생각하고 있는데 이를 확인하기 위해서는 더 많은 연구가 필요하다는.
의사의 진단 기준에 AI가 이용되는 경우가 많아진 현대에, "AI가 의료진단용 이미지를 통해 인종을 추정할 수 있다"는 사실은 AI가 의도치 않게 인종적으로 편향된 진단을 내릴 수 있음을 시사하고 있다. 예를 들어, AI는 특정 환자에게 최적일지 모르는데, 모든 흑인 환자에 대해 편향된 치료 방침을 보일 수도 있다. 반면 AI를 이용하는 인간의 의사들은 AI가 읽히지 않은 인종적 데이터에 기반한 진단이 이뤄지고 있다는 사실을 깨닫지 못한다.
인종 간 유전적 차이보다 인종 내 유전적 차이가 더 크다고 논흔 "Racism, Not Race(인종이 아닌 인종차별)"의 저자인 햄프셔 칼리지 생물인류학 교수 Alan Goodman 씨는 이 논문의 결론에 회의적이며 다른 연구진이 같은 결과를 재현할 수 있을지는 의문이라는 것. 또 설사 재현할 수 있다고 해도, 그것은 인종이 아니라 "조상이 살던 곳의 차이"가 아닐까 Goodman 씨는 지적하고 있다.
Goodman 씨에 따르면, 인간 게놈에 실질적인 "인종적 차이"가 있다는 증거는 없지만 "조상이 어디에 살았는가"에 따라 사람들 사이에 차이가 있다는 것은 알려져 있다는 것. 즉 AI가 "이 사람의 조상은 북유럽, 이 사람의 조상은 중앙아프리카, 이 사람의 조상은 아시아"라는 식으로 엑스레이 이미지를 통해 지리적 정보를 추측할 수 있는 경우, 결과적으로 고정밀도로 인종을 판별할 수 있다는 것.
Goodman 씨는 "사람들은 이것을 "인종"이라고 부르는데, 나는 이것을 "지리적 변이"라고 부릅니다"라고 말하고 있다.
AI가 인종을 판별하는 구체적인 방법은 알려지지 않았지만, Celi 씨는 편향된 결과를 낼 수 있는 AI 진단 도구 사용에 소극적이어야 한다고 주장, "우리는 일시 정지할 필요가 있습니다. 인종 차별적, 성차별적 판단을 하지 않은 것이 확인되기 전까지는 알고리즘을 병원이나 진료소로 가져가려고 서두를 수 없다"고 코멘트.
