원격학습과 함께 도입된 '부정행위 방지 소프트웨어'의 모니터링에 대학생이 고통받고 있다

신종 코로나바이러스 전염병에 의해 세계 각국에서 원격작업과 원격학습을 도입, 현시점에도 학교에 다니지 않고 집에서 교육을 받는 학생이 많습니다. 그런 가운데, 테스트 중 학생들의 부정행위를 감시하기 위해 '부정행위 방지 소프트웨어'를 도입하는 대학도 있습니다만, 학생들은 소프트웨어에 의한 잘못된 부정 판정 및 개인정보보호 문제에 시달리고 있다고 지적되고 있습니다.

College Students Are Learning Hard Lessons About Anti-Cheating Software - Voice of San Diego
https://voiceofsandiego.org/topics/education/college-students-are-learning-hard-lessons-about-anti-cheating-software/

College Students Are Learning Hard Lessons About Anti-Cheating Software

원격교육의 도입이 급속히 진행되는 가운데 다양한 문제가 부상했는데, 그중 하나가 '집에서 테스트를 받는 학생들의 부정행위를 어떻게 감지하면 좋을까?'라는 것입니다. 그 수요에 발맞추어 Respondus · Honorlock · ProctorU · Proctorio 등 '부정행위 방지 소프트웨어'를 제공하는 기업들이 생겨났습니다.

Respondus는 자사의 웹사이트상에서, 감시 소프트웨어는 학생의 행동을 감시하고 시험 중 의심스러운 행동을 감지하고 시험 종료 후 교수가 행동을 확인할 수 있도록 플래그를 세운다고 설명합니다. 모니터링 소프트웨어는 학생의 얼굴을 인식하고 얼굴 데이터와 마우스 활동 등의 데이터를 모아 강력한 AI로 처리하여 '부정행위 관련 패턴과 이상'을 인식한다고 합니다.

그러나 Respondus이 사용하는 얼굴인식 기술은 개인정보보호 문제 외에도 다양한 의문이 제기되고 있습니다. 특히 얼굴인식 기술은 인종에 따른 편견이 존재하고 특히 흑인의 얼굴이 잘 인식되지 않는 비율이 높은 문제점은 이전부터 종종 지적되고 있었습니다. 미국에서는 얼굴인식 기술의 결점을 문제시한 여러 도시가 잇따라 얼굴인증 시스템의 사용을 금지했습니다.

by Mike MacKenzie. https://www.flickr.com/photos/mikemacmarketing/30188201497/

워싱턴 DC에 본부를 둔 프라이버시 옹호단체인 전자프라이버시 정보센터의 수석변호사를 맡고있는 존 데이비슨 씨는 얼굴인식 기술이 분명히 유색 인종에 부당한 영향을 미친다고 지적합니다. 또한 유색 인종뿐만 아니라 특징적인 모습을 한 사람도 AI가 잘못 플래그할 수 있다는 것.

데이비슨 씨는 부정행위 방지 소프트웨어가 학생에 대해 많은 데이터를 수집하는 한편, 학생 측에 데이터 수집을 해제하는 옵션이 없는 점도 문제라고 지적합니다. "많은 기업이 수집한 데이터에서 부정행위의 징후를 감지할 때 매우 주목할만한 주장을 하고 있습니다. 그러나 이것은 불투명한 알고리즘에 의한 것이며, 시스템이 부정행위의 징후에 제대로 플래그하고 있는지 여부를 평가하는 것은 매우 어렵습니다"라며 소프트웨어의 유효성에 의문을 제기합니다.

그러나 부정행위 방지 소프트웨어를 판매하는 기업은 코로나의 유행 속에서 성장하고 있습니다. 워싱턴포스트에 따르면, 부정행위 방지 소프트웨어 개발업체는 많은 대학과 계약을 맺고 수백만 달러의 이익을 얻고 있다고 합니다.

샌디에고 주립대학도 Respondus의 부정행위 방지 소프트웨어를 도입한 대학 중 하나입니다. 샌디에고 주립대학에 재학중인 윌리엄 스콧 몰리나 씨는 2020년 여름부터 시작된 경영학 강의에서 'Respondus LockDown Browser'라는 소프트웨어의 설치를 요구받았습니다.

몰리나 씨에 따르면, Respondus LockDown Browser는 책상 전체 또는 책상 아래, 방 전체를 카메라에 기록해야 했고 PC의 키보드에 불필요한 것이 없다는 것을 증명하기 위해 거울의 설치를 요구했다고 합니다. 또한 시험 중 인터넷 연결이 끊어진 경우, 학생을 자동으로 부정판정한다는 것. 여자친구와 3살짜리 딸과 함께 사는 31세 몰리나 씨에게는 예상치 못한 해프닝으로 인터넷 연결이 끊기는 것은 드물지 않기 때문에 매우 스트레스가 많았다고 말합니다.

원격강의에서 좋은 성적을 거둔 몰리나 씨였지만, 8월 중순에 열린 두 번째 테스트 후에 '준비한 메모지의 앞면과 뒷면을 카메라에게 보이지 않았다', '시험 중에 말하고 있었다' 같은 부정행위를 경고하는 메일을 강사 레니 메릴 씨로부터 받았습니다.

3차 테스트에서도 몰리나 씨는 '시험이 시작된 후 1분 동안 자리를 떠났다', '계산기를 사용하지 않는 문제에 계산기를 사용했다'라는 점이 부정행위로 간주되어 단위를 인정받지 못했습니다. 몰리나 씨에 따르면, 딸이 방문을 노크했기 때문에 여자친구가 딸을 데려갈 때까지 기다리고 있었기 때문이었다고 합니다. 또한 몰리나 씨는 문제를 처음부터 순서대로 풀고 있었던 것이 아니어서 계산기를 사용한 타이밍이 문제에 대한 답변 순서와 일치하지 않았다고 주장합니다.

몰리나 씨는 단위의 불인정에 항의하기 위해 일련의 문제에 대해 샌디에고 주립대학에 설치된 Center for Student Rights and Responsibilities(학생의 권리와 책임 센터)에 호소했습니다. 예정되어 있던 회의가 신종 코로나바이러스의 영향으로 두 번이나 연기되었지만, 1개월 이상이 경과했을 무렵, 간신히 몰리나 씨는 대학 측으로부터 처분하지 않는다는 통지를 받을 수 있었다고 합니다.

샌디에고 주립대학의 3학년인 니코리 솔리스 씨도 '계산기를 사용할 때는 카메라를 향해 계산 내용을 구두로 설명한다'는 요구에 스트레스를 받는다고 합니다. "가뜩이나 어려운 강의를 온라인 시험으로 하는 것은 불안합니다"라고 솔리스 씨는 말합니다.

또한, Respondus는 촬영한 동영상의 저장기간을 기본적으로 5년으로 하고 있으며, 클라이언트의 요구에 따라 또한 저장기간을 연장할 수도 있다고 합니다.

이러한 우려에 대해, 샌디에고 주립대학 측은 캡처된 동영상이 부정 방지의 리뷰 목적으로만 사용되고 영구적으로 저장되는 것은 아니라고 해명합니다.

Respondus의 데이비드 스밋타 씨는 부정행위 방지 소프트웨어가 수집한 데이터의 액세스는 소수의 엔지니어로 제한되어 있으며, 특정 데이터에 액세스할 때 보안 및 프라이버시팀에 통지가 된다고 설명합니다.

하버드대학 케네디스쿨 보안전문가인 브루스 슈나이어 씨는 사전에 충분한 조사를 하지 않고 첨단기술 기업과 파트너십을 맺은 점에 대해 대학이 책임을 져야 한다고 지적합니다. 또한 교육데이터 프라이버시 규제에 관한 전문가인 리넷 아타이 씨는 기업과 대학이 수집하는 데이터를 학생들이 볼 수 있도록 해야한다고 주장합니다. "학생들은 개인정보보호 및 보안 관행을 이해하기 위해 대학과 기업의 결정에 대해 충분한 정보를 제공받아야 합니다"라고 아타이 씨는 말합니다.