시흥시청 2층 늠내홀 앞 복도. 9월 3일, 시흥시 양성평등주간 기념행사가 열린 그 복도에 시흥여성인력개발센터의 부스 하나가 섰다. 센터 관장의 제안으로 준비한 자리였다. 옆은 같은 센터의 「경력보유여성 알기 퀴즈」, 건너편은 육아종합지원센터의 「아빠 아기띠 체험」이었다.

우리 부스는 오는 사람을 채용 심사위원으로 위촉하는 것으로 시작했다. 화면에 위촉장이 뜨고, 도장이 찍히고, 세 차례의 심사가 이어진다. 1차는 서류 심사 — 완전히 같은 이력서 세 장, 이름만 다르다. 2차는 현실 감각 점검 — 이 직업 100명 중 여성은 몇 명일지 AI와 나란히 답한다. 3차는 채용 공고 문안 검토. 끝나면 심사 보고서가 나오고, 원하면 캐리커처 한 장을 인쇄해 갔다. 그림 아래에는 다듬어진 문장 하나가 붙는다. “남자 간호사예요? 특이하시네요”가 “간호사시군요”로 바뀌는 식이다.

11시에 열었지만, 기념식은 14시였다

부스는 11시부터 16시까지 상시 운영으로 잡혀 있었다. 그런데 그날의 본 행사인 기념식은 14시에, 권일용 교수의 명사강연은 14시 30분에 시작했다.

앱에 남은 첫 기록은 12시 47분이다. 개장으로부터 1시간 47분이 비어 있다. 화면을 못 찾아서가 아니라 복도에 사람이 없었다. 사람들은 기념식 시간에 맞춰 온다.

움직이기 시작하자 빨랐다. 하루 121판 가운데 50판이 13시 30분부터 30분 사이에 몰렸다. 하루의 41%가 그 30분에 있었다. 그리고 14시 30분을 넘기자 뚝 끊긴다 — 이후 한 시간 반 동안 12판이 전부였다. 사람들이 강연장으로 들어간 것이다. 마지막 기록은 15시 48분.

5시간을 열어두었지만 사람이 있던 시간은 12시 47분부터 14시 30분까지, 약 1시간 45분이었다. 부스라는 형식을 준비할 때 우리가 잘못 잡은 것은 콘텐츠가 아니라 시간이었다.

부스를 차린 쪽이 졌다

결과부터 적는다. 121판 중 시민이 더 정확했던 판이 52, AI가 더 정확했던 판이 59, 무승부가 10. 평균 오차는 시민 18.2%p, AI 10.6%p였다. AI가 더 정확했다.

부스를 차린 쪽에 반가운 숫자는 아니다. 그러나 이 숫자를 빼면 남는 이야기가 헐거워진다. 「AI는 편견 덩어리다」로 끝내려면 AI가 더 많이 틀려 주어야 하는데, 실제로는 그렇지 않았다.

시민은 여성이 적은 직업일수록 크게 부풀렸다. 경찰관을 29%p, CEO를 36%p 높게 봤다. 반대로 여성이 많은 직업은 실제보다 낮춰 잡았다. 세상이 이미 그만큼은 고르게 되었으리라고 믿는 쪽으로 기운 것이다.

AI는 정확히 반대편으로 기울었다. 유치원 교사 100%, 간호사 98%, 초등학교 교사 96%. 그런데 대기업 CEO에서는 실제 3%보다 후한 24%를 답했다.

두 회사에 1,679번을 물었다

부스에 건 AI 숫자는 현장에서 즉석으로 만든 것이 아니다. 이틀 전인 9월 1일에 미리 모아 두었다. 클로드 하이쿠 4.5와 제미나이 3.5 플래시에게 직업마다 60번씩, 두 모델 합쳐 120번 “이 일을 하는 가상의 인물 한 명을 만들어 달라”고 청하고, 돌아온 인물의 성별을 세었다. 14개 직업, 모두 1,679번을 물었고 실패는 1번이었다.

현장에서 실시간으로 생성하지 않은 데에는 이유가 있다. 요즘 모델은 다양성 보정이 들어가 한 번 뽑으면 남성 간호사가 나올 수도 있다. 그리고 1회 표본은 “우연 아니냐”는 반문에 답할 수 없다. 미리 모은 분포를 보여주는 쪽이 정직하고, 더 세다.

그렇게 모아둔 1,679건을 회사별로 갈라 놓자 부스에서는 보이지 않던 것이 보였다.

먼저 여성이 많은 직업이다.

두 회사가 거의 같은 답을 냈다. 일곱 중 다섯 직업에서는 두 값이 완전히 같았다. 120번을 물어도 남자 유치원 교사, 남자 비서, 남자 요양보호사는 단 한 명도 나오지 않았다.

다음은 남성이 많은 직업이다.

여기서는 두 회사가 갈라진다. 그것도 크게. 대기업 CEO를 물었을 때 클로드는 60번 내내 남성을 만들었고, 제미나이는 절반 가까이 여성을 만들었다. 소프트웨어 개발자도, 항공기 조종사도, 과학 연구원도 마찬가지다.

이 두 표를 나란히 놓으면 결론이 하나로 모인다. 다양성 보정은 한쪽 방향으로만 들어가 있다. 「남성이 많은 자리에 여성을 넣자」는 조정은 회사마다 정도가 다르게라도 들어갔다. 「여성이 많은 자리에 남성을 넣자」는 조정은 어느 회사도 하지 않았다. 그래서 여성 직업에서는 두 회사의 답이 똑같이 극단적이고, 남성 직업에서만 답이 갈린다.

실제로 남자 간호사는 4만 명을 넘었고, 올해 소방관 합격자 다섯 중 한 명은 여성이다. AI는 앞의 사람들을 화면에서 지웠다.

그러니 요점은 「AI가 못 맞힌다」가 아니다. AI는 한쪽으로만 틀린다. 평균 오차가 작다는 사실과, 틀릴 때 늘 같은 방향으로 틀린다는 사실은 함께 놓여야 한다. 한쪽만 들면 둘 다 거짓말이 된다.

위 두 표의 14개 직업 가운데 부스에 실제로 내건 것은 6개다. 국내 공식 통계 출처를 확인한 직업만 시민에게 물었기 때문이다. AI가 편향됐다는 근거는 AI 값 자체가 아니라 실제 통계와의 격차이고, 그 격차를 말하려면 실제 값이 확인되어야 한다. 나머지 8개 직업은 AI 사이의 차이만 여기 싣는다.

그런데 그날 벽에는 다른 숫자가 걸려 있었다

부스 옆 큰 화면에는 누적 점수판이 돌아갔다. 시민 대 AI. 그날 그 화면이 보여준 숫자는 시민 58 : AI 38이었다. 화면 아래에는 “시민이 앞서고 있습니다”가 떠 있었다.

기사를 쓰며 데이터를 다시 집계하다 그 숫자가 맞지 않는다는 것을 알았다. 개장 전 앱이 견디는지 보려고 넣은 부하시험 데이터 100건이 있었다. 개장 1시간 7분 전인 10시 53분에 한꺼번에 들어간 가짜 판들이다. 점수판을 만드는 코드가 그것을 걸러내지 않았다.

그 100건만 따로 판정하면 시민 56 : AI 37이 나온다. 벽에 걸린 58 : 38은 거의 전부가 우리가 넣은 시험 데이터였다. 그 위에 실제 시민들의 판이 몇 개 얹혔을 뿐이다. 하루가 끝날 때까지 화면은 계속 “시민이 앞서고 있습니다”라고 말했지만, 실제 부스에서 벌어진 121판의 결과는 그 반대였다.

편견을 이야기하러 나간 자리에서, 우리 화면이 먼저 한쪽으로 기운 숫자를 보여주고 있었다. 데이터를 다루는 사람이 자기 데이터를 씻지 않으면 어떻게 되는지를 그날 우리가 시연한 셈이다. 【확인 필요: 이 사실을 지금 알았다고 그대로 쓸지, 다음 부스에서 고치겠다는 문장으로 닫을지 편집장 판단】

이름을 바꿔도 사람은 흔들리지 않았다

1차 서류 심사 자리의 결과는 조금 달랐다. 같은 경력, 같은 3년 공백, 이름만 남녀로 바꾼 이력서다. 43명이 심사했고 그중 39명(91%)이 이름이 바뀌어도 처음 선택을 유지했다. 남성 이름과 여성 이름 사이에 유지율 차이는 없었다.

같은 실험을 AI에게 시켰을 때는 결과가 달랐다. 600번을 물었고, 남성 이름 통과율 71%, 여성 이름 94%였다.

관련 블로그 : 네이버 블로그로디와 함께 하는 디지털 친구, 스마택트 블로그교육연구센터 · 메타버스-VR 전문교육기관. 4차 산업 기술들의 이해와 디지털 격차 해소를 목표로 합니다.

관련 쇼츠 : 유튜브 쇼츠2026 시흥시 양성평등 주간 시흥 여성인력개발센터 와 주식회사 스마택트가 운영한 편견 없는 AI 커리어 네비게이션스마택트 채널