[새책] 인공지능에도 윤리가 필요할까...무자비한 알고리즘

[새책] 인공지능에도 윤리가 필요할까...무자비한 알고리즘

무자비안 알고리즘│카타리나 츠바이크 저│유명미 옮김│ 니케북스│334쪽

  • 승인 2021-01-27 14:33
  • 오희룡 기자오희룡 기자
무자비한
무자비한 알고리즘
20년 전 개봉된 스티븐 스필버그의 '마이너리티 리포트'는 범죄가 일어나기 전 범죄를 예측해 범죄자를 처단하는 치안프로그램에 대한 이야기다. 주인공은 이 프로그램을 통해 범죄자를 추적해냈지만 결국 그 프로그램에 자신이 범죄자로 예측되면서 쫓기는 신세가 됐다.

20년 전에는 꿈만 같던 이 이야기가 알고리즘으로 현실화되고 있다.

넷플릭스에서 내가 본 영화, 드라마와 비슷한 프로그램이 추천 목록으로 뜨고, 방금전 내가 방문했던 사이트와 유사한 쇼핑몰이 검색창 옆면에 게재된다. 모두 맞는 건 아니지만 신기한 기술이다.

하지만 이 같은 오류가 입사지원자 서류 심사를 가려내는 과정에서 일어난다면 어떻게 될까?

알고리즘이 IT기업에서 성공한 직원들의 데이터 특성을 '남성'이라고 판단한다면 계속 여성 지원자들을 배제함으로써 차별은 공고화된다.

더큰 문제는 성공잠재력이 낮다고 평가돼 기회를 박탈당한 지원자들은 일을 잘 감당할 수 있었음을 증명할 길이 없다는 점이다.

마이터리티 리포트처럼 벌이지도 않은 범죄 예측시스템에 쓰여도 문제다.

재범 예측이나 신용도 평가에서 위험도가 높다고 평가돼도 마찬가지다.

독일 카이저슬라우테른 사회정보학 교수이자 독일연방의회 인공지능조사위언회 위원인 카트리나 츠바이크의 신간 '무자비한 알고리즘-왜 인공지능에도 윤리가 필요할까'는 알고리즘, 빅데이터, 컴퓨터 지능, 머신러능 등 정보기술에 관한 총체적이고 통합적인 시각에 기초해 알고리즘의 사회적 책임을 촉구하는 책이다.

저자는 책에서 흔히 가치중립적이라고 생각하는 기계규칙인 '머신러닝 알고리즘'이 실제로는 많은 수작업을 요하며 인간이 변수를 조절하는 있다는 점, 정확하고 객관적이라 생각한 데이터가 실은 충분하지 않고 오류나 차별이 끼어드는 경우가 그간 얼마나 많았었는지를 상세히 보여준다.

무엇보다 인간과 관련된 알고리즘 기반 의사 결정 시스템이 막대한 손해 잠재력이 지니고 있다는 점을 지적하며 사용자의 개입과 감시가 필요하다고 역설한다.

책은 신입생을 대상으로 강의하듯 대중의 눈높이에 맞춰 알고리즘이란 무엇인지, 어떻게 작동하는지, 어떤 우려를 불러일으키는지 설명한다.
오희룡 기자 huily@





중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른기사 보기

랭킹뉴스

  1. [여자배구]KGC인삼공사 플레이오프 불씨 되살려
  2. 출동했더니 코로나19 의심환자?… 구급대원 공백 우려
  3. [일문일답]최원호 퓨처스 감독 "신인에게 프로선수 연습 루틴 주력"
  4. [문화] 평등하고 자율적인 '객체들의 민주주의'를 위하여
  5. 대전시립박물관, 상설전시실 새단장...개관 이후 첫 리모델링
  1. [영상]대전하나시티즌 홈 개막전 미디어데이, 화기애매(?)했던 뒷이야기
  2. 경찰, '코로나19 백신 가짜뉴스' 집중단속
  3. [일문일답]수베로 한화 감독 "선수들 필드에서 적극적 플레이 인상적"
  4. [속보] 대전 코로나19 백신 접종자 20대 사망
  5. 대덕특구 과기계 도덕적 해이 심각… 성비위·횡령 등 잇달아

실시간 주요뉴스