교육부 "AI 교과서, '독도는 분쟁지역' 같은 오류 1도 없을 것"

[세종=뉴시스]김정현 기자 = 교육부는 인공지능 디지털교과서(AI 교과서)에 탑재된 챗봇(질문에 답하는 프로그램)이 '독도는 분쟁지역'이라는 답을 냈다는 지적에 심사를 마친 실물은 "그런 오류가 1도 없을 것"이라고 했다.

디지털 기기 과몰입 우려를 두고는 짧은 '숏폼' 영상과 같은 소비성 콘텐츠를 쓰지 못하도록 스마트폰에서는 AI 교과서를 차단하고 수업 중에는 교사가 통제한다고 밝혔다.

교육부는 29일 오전 0시 관보를 통해 공고한 2025년 3월 도입 예정 AI 교과서 검정 합격본에 대해 전날 정부세종청사에서 사전 기자간담회를 갖고 이같이 해명했다.

AI 교과서가 독도를 '분쟁지역'이라는 답을 내놨다는 논란은 지난 9월 AI 교과서 검정을 맡은 한국과학창의재단이 가진 1차 검정 결과 설명회 자리에서 처음 불거졌다.

한 창의재단 관계자가 심사를 위해 제출된 AI 교과서에 독도 영토 문제를 내면 어떻게 답하는지 물었는데 '독도는 영토 분쟁 지역이라는 답을 냈다'고 전했고, 제주 4.3 사건 등에 대해서도 잘못된 답변을 했다고 알려졌다.

소은주 교육부 책임교육정책관은 "독도가 영토 분쟁지역이라고 답이 나오면 안 되고 절대로 있을 수 없는 일"이라며 "생성형 AI 기능에 대한 답변 사례를 보여준 것인데, 이런 건 '강화학습 필터링'을 한다"고 전했다. 아예 유사한 오류가 나오지 않도록 기술적으로 차단한다는 것이다.

소 국장은 "(필터링이) 제대로 안 되는 것은 있을 수 없는 일이기도 하고 미비한 출원사는 반드시 수정을 해야 한다"며 "개별 과목별 심사 기준에 부합하지 않으면 반드시 수정 보완해야 검정 심사를 최종 합격하는 체계"라 했다.

AI 교과서에 질문을 해도 '독도는 분쟁지역' 같이 교육과정에 저촉되는 답변을 내놓지 않아야 검정 심사 합격 처리했다는 것이다. 소 국장은 "그런 오류는 (AI 교과서에서) 단 한 건도 있을 수 없고 있지 않을 것"이라고 말했다.

교육부는 학생들이 AI 교과서가 쓰일 스마트 기기를 써서 수업 중에 딴 짓을 할 것이라는 우려에도 거듭 반박했다.

모바일 디바이스 관리시스템(MDM)을 탑재해 유해사이트 접속을 차단하는 기능을 갖췄으며, 교사가 수업 중 AI 교과서를 쓰는 학생의 화면을 직접 통제한다고 밝혔다.

학생들이 보안 장치를 뚫고 유해사이트에 접속하는 이른바 '탈옥' 가능성에 대해서도 확인 즉시 차단할 방침이다.
고영종 책임교육정책실장은 "충분히 이해하지만 오해도 있다"며 "과몰입은 스마트폰에서 소비성 콘텐츠를 너무 사용했을 때 나오는 문제고, AI 교과서는 통제된 교실에서 쓰는 것이라 전문가들도 다르다고 말한다"고 했다.

송근현 디지털교육기획관은 "과몰입은 스마트폰을 무절제하게 사용하는 데서 기인한 것"이라며 "AI 교과서는 스마트폰으로 접속할 수 없다. 선도학교 학생들 조사 결과 디지털 기기 과몰입은 없었다는 응답이 많았다"고 했다.

송 국장은 개인정보가 유출될 수 있다는 지적에 AI 교과서는 76가지 항목으로 구성된 보안 등급 기준(CSAP)을 공공기관과 동일한 수준으로 갖추게 했다고 전했다. 출원사가 임의로 학생 학습 정보를 영업에 쓴다면 개인정보보호법 위반으로 엄중한 처벌을 받을 수 있다고 설명했다.

교육부는 내년 3월 신학기 AI 교과서 첫 사용 기간을 맞아 전국 학교에 '디지털 교육 주간'을 운영하겠다고 했다. 디지털 시민교육(리터러시) 등을 강조하겠다는 것이다.

AI 교과서는 학교에서 서책형 교과서와 함께 쓰인다. 만약 두 교과서의 출판사가 다를 경우, 고등학교에서 시험 문제를 낼 때 AI 교과서와 서책형을 어떻게 쓸지도 관심이다. 교육부는 "교사의 재량"이라는 입장이다.

고 실장은 "평가권은 교사가 갖고 있어서 과목의 성취기준과 수준에 맞게 보고 판단할 것"이라고 말했다. 오히려 진단평가와 형성평가 문제를 AI 교과서가 자동 생성해주기 때문에 교사의 업무 부담을 줄일 수 있다고도 했다.

문해력 저하 등 우려를 수용해 당초 도입 계획을 바꿔 일반학교 국어와 기술·가정 도입을 철회하고 사회·과학 첫 도입 연도를 1년 늦춘 점에 대한 '과속' 비판도 나온다.

이를 두고 고 실장은 "후퇴라 생각하지 않는다"며 "지금은 교육정보기술(에듀테크)를 활용해 학교와 교실을 변화시키고 공교육을 혁신할 골든타임이라고 본다"고 말했다.


◎공감언론 뉴시스 [email protected]