개요

AI 환각 및 오류 저감 기술을 응용해 개발한 팩트 체크 접근법을 적용한 AI

현황 및 문제점

				이 수업은 미디어 이해·분석 역량 함양을 위해 디지털·AI 미디어 리터러시 교육의 하나로 AI 환각(hallucination)을 초등학교 학습자 수준에서 검증하는 방법론을 제시하고자 한다. 그럴듯하지만 정확하지 않은 정보를 생성하는 환각은 대형언어모델(LLM)의 취약점이다. 환각은 맥락적 지식 없이 쉬이 알아차리기 어렵다. 잘못된 약물 복용 등 사용자의 치명적인 오판을 부를 수 있다. 근래 확산하는 무비판적 AI 의존 경향은 이 위험성을 심화하기에 환각의 식별과 억제는 AI 연구와 실생활 모두에서 강조되고 있다. 
 학습에서 AI 환각은 학습자에게 오개념을 형성할 위험이 있다. 초등학교 학습자는 환각에 특히 취약하다. 초등학생은 배경지식이 부족하고, 맥락 이해 능력이 떨어져 환각을 식별하기 어렵다. 환각에 대한 식별 능력을 기르지 못한다면, 초등학교에서의 AI 활용은 오개념으로 향하는 부정적인 효과가 우세할 수 있다. 따라서 오늘날 미디어 역량 중 이해·분석 역량의 핵심에는 AI 환각에 대한 식별과 검증 능력이 있다고 할 수 있다. 
 이와 같은 위험성에도 불구하고 국내에서 초등학교 학습자의 AI 환각 경험에 관한 체계적인 연구가 부족하다. 따라서, 이 수업은 초등학교 학습자 수준에 적합한 환각 검증 방법론을 제시하고자 한다.
			 

개선방안 (개선내용)

				근래의 AI 연구는 환각의 원인을 분석하고, 이를 억제하기 위한 다양한 접근법을 제시하고 있다. 이 수업은 이 접근법 중 외부 검색을 기반으로 텍스트를 생성하는 검색증강 생성(Retrieval-Augmented Generation, RAG)과 여러 개의 에이전트가 토론을 바탕으로 내용을 생성하는 다중에이전트 토론(Multi-Agent Debate)을 모티브로 하여, 환각 검증(팩트체크) 절차를 제시한다.

<AI 자료 조사 및 환각 검증 절차 모형>
AI 자료 조사→RAG 응용 자료 검증(모둠 내/개인)→MAD 응용 자료 검증(모둠 간)→결과 정리

 학생은 AI를 통해 획득한 정보를 RAG처럼 검색 기반 정보를 바탕으로 검증한다. 검증한 정보는 동일 내용을 조사한 다른 모둠과의 토론을 바탕으로 재검증해 신뢰성을 높인다. 학생 주도로 이루어지는 이중의 환각 검증 과정은 초등학교 학습자 수준에서도 환각을 상당 부분 억제할 수 있을 것이다.
			 

기대효과 (개선 성과)

				이를 통해 AI 생성 정보의 신뢰성을 높이고, AI의 교육적 효과를 개선하며, 허위 정보로부터 학생들을 보호할 것으로 기대한다. 한편 본 프로젝트는 위 방법론을 세계시민 교육 관점에서 기후 변화라는 전지구적 과제를 다루는 데 적용했다. 다. 초등학교 5학년 3단원 ‘날씨와 우리 생활’은 기단이 계절과 날씨에 미치는 영향을 교육한다. 지구온난화에 따른 전지구적 기후 변화는 우리나라의 계절에도 영향을 미치고 있다. 한반도가 아열대화되고 있으며, 수온 상승으로 인한 수증기량의 변화로 교과서에서 제시하는 4개 기단의 움직임은 과거와 같지 않다. 이 수업에서는 계절과 기단의 변화에 대해 학생 주도의 탐구를 수행토록 한다. 이를 통해 학생들이 기후 변화에 대한 경각심과 책무성을 가지도록 하고자 한다. 또한 생태계의 변화를 조사 내용으로 포함해 의미를 확장하고 생태계 보전에 대한 경각심을 주어, 관련 성취 기준을 추가로 달성할 수 있도록 했다.
			 

조치사항

-2025 정책구매제 연계 학교 미디어교육 실천 우수 사례 교수학습과정안 정책 반영 사항 안내-

1. 귀하의 공모에 감사드리고, 채택을 축하 드립니다.

2. 제출작 정책 반영 사항

가. 경기도교육청미디어교육센터 홈페이지 탑재

- 경기도교육청미디어교육센터

(https://www.goemec.kr/hmpg/main.do) > 알림마당 > 교수학습자료실

나. 2025 학교장 미디어교육 역량 강화 연수시 소개

다. 경기도교육청미디어교육센터 교원, 관리자 직무연수, 워크숍 등에서 지속 소개 및 활용 예정

※ 채택 작품은 경기도교육청 학교 미디어교육 활성화를 위하여 활용됩니다.