대량 살상 수학 무기 (간략한 내용)

출처: 알라딘

---

저자는 2007년 디쇼(D.E.Shaw)에서 퀀트로서 일을 했다, 디쇼는 제프 베조스가 다녔던 회사기도한다

 

저자는 대다수 모형들은 인간의 편견, 오해, 편향성을 코드화 했으며, 이것들이 시스템에 그대로 주입됐다 주장한다.

 

WMD(대향 살상 수학 무기)사례 

학생들 성적 부진,교사탓  IMPACT 교사 평가 기법, 교사들 대규모 해고, 기준이 무엇인가? , 기준 판단하는 시스템이 옮은지에 대한 평가는 없다. 빅데이터의 어두운 부분이며, WMD 모형은 불공정하다.

 

WMD 모형으로 혜택을 얻는 사람들이 있다는 것이 아니다. 일부 예외를 제외하면 고통 받는 사람이 너무 많다는 것이 문제다. 알고리즘에 의해 작동되는 모형은 수백만 명의 면전에서 기회의 문을 닫아버리고 이의를 제기할 가능성조차 허용하지 않는다.

 

통계수치와 빅데이터로 만들어진 현대사회, 우리는 언제부터 통계수치를 사용하게 되었나? 1980년대부터(컴퓨터 사용)

: 영화 머니볼가 대표적인 사례이다. 우리가 무엇을 기대할 수 있는지 알려주고 의사결정 과정에서 길잡이 역활을 한다. 

 

 데이터의 포로가 된 학교와 학생들 (한국 대학순위 평가 모형)

1988년 발표된 미국 학교 순위는 합리적으로 보였으나,  사람들이 생각하는 최상위 대학(하버드,예일,프린스턴,MIT등)이 높은 순위에 있어야한다는 선입견에 맞추기위해 그들의 대학을 명문 대학으로 만들기 위한 특징들이 조사되었고, 순위에 반영이 되었다.

캘리포니아의 스티븐 마는 각 대학의 신입생 입학 모형을 파악하여 학생들을 자신의 모형에 대입해 목표 대학에 합격할 가능성을 수치로 계산한다. 이렇게 부작용이 생기는것이다. 

 

많은 학교들이 발전된 알고리즘을 통해 성공에 목마른 이들에게 광고를 하여 신입생 유치를 하고있다. 어떤 학교는 마케팅비용이 교육비보다 많이 쓰고 있다.

 

인간이 신뢰하는 인공지능은 사회,윤리적 측면의 노력이 함께해야 한다.