[EBS 뉴스]

인공지능이 우리 아이들의 학습 도구를 넘어 일상의 동반자가 되고 있습니다. 

이에 발맞춰 올해 초, 세계에서 처음으로 우리나라에서 '인공지능 기본법'이 첫발을 뗐는데요.

혁신적인 진흥도 중요하지만, 감수성이 예민한 아동과 청소년들을 보호할 윤리적 울타리를 어떻게 세울지가 시급한 과제로 떠오르고 있습니다.

먼저 영상 보고 오겠습니다.

[VCR]

세계 최초 'AI 기본법' 시행

국가 차원 거버넌스 정립

산업 육성 근거 마련 

vs 사업자 윤리적 책임 대두

"아동·청소년 보호는 별개"

기본법 개정 목소리 확산

윤리적 규제와 산업 진흥 사이 

'AI 기본법'이 가야 할 길은?

-----

서현아 앵커

건강한 AI 생태계를 위한 법적 고민은 무엇인지, 전문가와 고민해봅니다. 

서울교대 신경윤리가치 AI융합교육연구소장을 맡고 있는 박형빈 교수 나와 있습니다. 

어서 오세요. 

요즘은 정말 누구나 인공지능을 일상에서 많이 접하고 있는 시대입니다.

학생들 그리고 청소년들에게도 인공지능이 아주 익숙하죠?

박형빈 교수 / 서울교대 신경윤리가치AI융합교육연구소장

네, 말씀하신 대로 인공지능 혁명이라 불릴 만큼 AI 활용이 일상화되어 있습니다. 

특히 우리 학생들의 경우 한국언론진흥재단의 2025 10대 청소년 미디어 이용 조사에 따르면, 1주일간 생성형 AI를 이용한 청소년이 67.6%에 달하고, 고등학생은 82.3%로 10명 중 8명 이상이 AI를 활용하고 있습니다. 

중학생은 69.8%, 초등학생도 51.2%입니다.

AI가 이미 학습과 일상의 도구로 자리를 잡은 것입니다. 

주된 활용은 정보 검색, 과제 수행, 학습 지원인데, 이미 과제 대리 작성이나 정보 신뢰성·편향 문제 같은 새로운 과제도 함께 등장하고 있습니다.

서현아 앵커

네, 아이들의 일상 곳곳에 인공지능이 빠르게 스며들고 있는 건데 그런데 아직 아동·청소년들이 많이 어리다 보니까 인공지능의 부작용에 취약하다는 우려도 있습니다.

어떻게 보십니까?

박형빈 교수 / 서울교대 신경윤리가치AI융합교육연구소장

우려가 매우 큽니다. 

단기적으로는 외로움 완화나 스트레스 해소 같은 긍정적 효과가 있지만, 장기적으로는 정서적 의존 심화, 자기조절 능력 퇴화, 현실 인간관계 기피 같은 심각한 부작용이 나타날 수 있습니다. 

특히 아동·청소년은 뇌가 완전히 발달하지 않은 상태이기 때문에 성인보다 훨씬 취약합니다. 

2025년 서울시 청소년 스마트폰·디지털 정신건강 실태조사에 따르면, 전체의 약 40%가 스마트폰 과의존 위험군으로 분류되었습니다. 

다만 이 수치는 AI 자체가 아니라 디지털 과의존 전반의 위험을 보여주는 지표라 할 수 있습니다. 

가장 심각한 문제는 AI 동반자·챗봇이 감정적으로 친밀하게 설계되어 청소년의 자살·자해 위험을 키우는 사례들이 실제로 발생하고 있다는 점입니다. 

2024년 미국 플로리다에서 14세 소년이 Character.AI 챗봇과 10개월간 부적절한 대화를 나눈 뒤 사망한 사건을 들 수 있습니다. 

또한 2025년 캘리포니아에서 청소년이 ChatGPT와의 지속적인 대화 과정에서 자살 방법 등을 안내받고 사망하여 소송이 제기된 사건이 대표적입니다. 

현재 미국에서는 수천건의 소송이 진행중이기에 인과관계가 법적으로 확정된 것은 아니지만, 미성년자를 대상으로 생각했을 때, 더욱 규제 논의에서 중요한 경고 신호로 받아들여지고 있습니다.

서현아 앵커

네, 이 같은 인공지능의 빛과 그림자에 대응하기 위해서 우리나라에서 세계 최초로 인공지능 기본법을 제정을 했습니다.

그런데 교수님께서는 아동, 청소년을 위한 조항이 추가로 들어가야 한다는 입장이신데요.

어떤 취지인가요?

박형빈 교수 / 서울교대 신경윤리가치AI융합교육연구소장

현행 AI 기본법과 시행령은 고영향 AI와 생성형 AI에 대한 일반적 투명성·안전성 의무를 두고 있지만, 아동·청소년만을 위한 감정유도형 AI 규제, 자살·자해 대응, 연령별 UX 설계 같은 특화 규율은 아직 충분히 구체화돼 있지 않습니다.

저는 시행령 확정 전에도 직접 적용 가능한 조항을 만들어야 한다고 봅니다. 

구체적으로는 첫째, AI 동반자·정서지원 서비스에 대한 별도 고지 의무와 자살예방 프로토콜을 명시해야 합니다. 

둘째, 연령에 맞는 UX 기준을 법에 담아야 합니다. 

셋째, AI가 아동의 인지 발달에 미치는 영향을 고려한 알고리즘 규제가 필요합니다. 

법철학자 로널드 드워킨의 관점에서 말씀드리자면, 아동의 발달권과 교육권은 국가 AI 경쟁력이라는 정책 논리로 대체될 수 없는 으뜸패입니다. 

이를 법문에 명시해야 합니다.

서현아 앵커

그런데 해외 사례를 보더라도 나이에 따라서 소셜미디어의 알고리즘을 규제한다든지 뭐 여러 가지 방식을 운영하고 있다고 들었습니다.

어떤 상황인가요?

박형빈 교수 / 서울교대 신경윤리가치AI융합교육연구소장

여러 나라에서 빠르게 움직이고 있습니다. 

EU는 2024년 8월 AI Act를 발효시켜 고위험 AI에 대해 사전 적합성 평가를 의무화했고, 허용불가 AI 관행 위반 시에는 최대 7% 또는 3,500만 유로의 과징금을 부과합니다.

영국은 온라인 안전법을 통해 소셜미디어·검색·메시징 서비스 등 온라인 서비스 제공자에게 아동 보호와 불법·유해 콘텐츠 대응에 대한 강한 주의 의무를 부과하고, 위반 시 전 세계 연매출의 최대 10%까지 과징금과 특정 경우, 경영진 형사 책임을 물을 수 있도록 했습니다. 

이 틀은 AI 기반 추천·챗봇 기능이 포함된 플랫폼에도 적용됩니다.

특히 호주는 2024년 11월 의회를 통과한 온라인 안전법에 따라, 2025년 12월 10일부터 16세 미만의 소셜미디어 계정 보유를 금지하는 법이 이미 발효되어 시행 중입니다. 

인스타그램·유튜브·틱톡·페이스북·X·스냅챗 등 10개 플랫폼이 대상이며, 위반 플랫폼에는 최대 4,950만 호주 달러의 민사 벌금이 부과될 수 있습니다.

미국에서는 청소년 온라인 안전을 강화하기 위한 여러 연방 법안이 발의되어, 미성년자를 대상으로 하는 AI 동반자 앱·소셜미디어 기능을 제한하거나 엄격한 보호 의무를 부과하자는 논의가 진행 중입니다. 

캘리포니아주에서도 청소년 보호를 위한 AI 규제 법안들이 제출되어, 자살·자해 예방 프로토콜과 안전 테스트를 요구하는 방안이 논의되었으나 일부는 아직 입법 과정에 있습니다.

특히 미국에서는 2025년 8월 25일 테네시·일리노이 등 44개 주 법무장관이 메타·구글·오픈AI 등 주요 AI 기업에 아동 보호 강화를 요구하는 공동 서한을 발송했습니다. 

이어 2025년 12월 10일에는 뉴저지·펜실베이니아·등 주 법무장관 공동 주도로 별도로 42개 주·자치령 법무장관이 생성형 AI 챗봇의 즉각적인 안전 조치 이행을 촉구하는 추가 서한을 발송했습니다.

서현아 앵커

네, 세계 각국이 지금 인공지능 시대의 부작용으로부터 우리 아이들을 보호하기 위한 다양한 규제 장치를 마련하고 있는 중입니다.

교수님께서는 여기에 더해서 인공지능을 마치 교과서처럼 검인증한다든지 또 윤리를 담당하는 컨트롤 타워도 필요할 수 있다라고 제안을 해 주셨어요.

이건 어떤 내용입니까?

박형빈 교수 / 서울교대 신경윤리가치AI융합교육연구소장

AI를 교과서처럼 검인증해야 한다는 비유는 매우 적절합니다. 

지금은 법이 있는 나라에서 검증 가능한 나라로 전환해야 하는 시점입니다. 

검인증 체계가 필요한 이유는 세 가지입니다. 

첫째, 기업과 소비자 모두가 어떤 AI가 안전한지 객관적으로 판단할 기준이 없습니다. 

둘째, EU AI Act가 고위험 AI에 CE 마킹 의무를 부과하면서 이 체계와 정합적인 국내 인증이 없으면 우리 기업들이 EU 시장 진출에 이중 부담을 안게 됩니다. 

셋째, (ISO/IEC 42001, NIST AI RMF 같은) 국제 표준과 연계한 한국형 평가 기준을 마련해야 국제 표준 논의에서 발언권을 가질 수 있습니다. 

AI 윤리 위원회 역할의 핵심은 현재 과학기술정보통신부와 개인정보보호위원회 사이의 관할 충돌, 즉 이중 규제 문제를 조정하는 단일 컨트롤 타워 기능을 하는 것입니다. 

EU가 AI Office와 각국 감독기구의 역할 분담을 법으로 명확히 한 것과 같은 구조가 필요합니다.

서현아 앵커

네, 새로운 산업을 지원하는 데 소홀함은 없어야겠지만 또 미래의 세대를 보호할 '윤리 기준'을 세우는 일도 역시 늦출 수가 없겠죠.

정부와 민간이 좀 지혜를 모아야겠다는 생각이 듭니다.

교수님 오늘 말씀은 시간 제한 때문에 여기까지 들어야 할 것 같습니다.

감사합니다.