[EBS?뉴스]
인공지능이?우리?아이들의?학습?도구를?넘어?일상의?동반자가?되고?있습니다.?

이에?발맞춰?올해?초,?세계에서 처음으로 우리나라에서?'인공지능?기본법'이?첫발을?뗐는데요.
혁신적인?진흥도?중요하지만,?감수성이?예민한?아동과?청소년들을?보호할?윤리적?울타리를?어떻게?세울지가?시급한?과제로?떠오르고?있습니다.
먼저?영상?보고?오겠습니다.

[VCR]

세계?최초?'AI?기본법'?시행
국가?차원?거버넌스?정립 야마토통기계

산업?육성?근거?마련?
vs?사업자?윤리적?책임?대두

"아동·청소년?보호는?별개"
기본법?개정?목소리?확산

윤리적?규제와?산업?진흥?사이?
'AI?기본법'이?가야?할?길은?
뽀빠이릴게임
-----

서현아?앵커
건강한?AI?생태계를?위한?법적?고민은?무엇인지,?전문가와?고민해봅니다.?

서울교대?신경윤리가치?AI융합교육연구소장을?맡고?있는?박형빈?교수?나와?있습니다.?
어서?오세요.?
릴게임손오공요즘은?정말?누구나?인공지능을?일상에서?많이?접하고?있는?시대입니다.
학생들?그리고?청소년들에게도?인공지능이?아주?익숙하죠?

박형빈?교수?/?서울교대?신경윤리가치AI융합교육연구소장
네,?말씀하신?대로?인공지능?혁명이라?불릴?만큼?AI?활용이?일상화되어?있습니다.?
릴게임골드몽
특히?우리?학생들의?경우?한국언론진흥재단의?2025?10대?청소년?미디어?이용?조사에?따르면,?1주일간?생성형?AI를?이용한?청소년이?67.6%에?달하고,?고등학생은?82.3%로?10명?중?8명?이상이?AI를?활용하고?있습니다.?
중학생은?69.8%,?초등학생도?51.2%입니다.
AI가?이 게임몰릴게임 미?학습과?일상의?도구로?자리를?잡은?것입니다.?
주된?활용은?정보?검색,?과제?수행,?학습?지원인데,?이미?과제?대리?작성이나?정보?신뢰성·편향?문제?같은?새로운?과제도?함께?등장하고?있습니다.

서현아?앵커
네,?아이들의?일상?곳곳에?인공지능이?빠르게?스며들고?있는?건데?그런데?아직?아동·청소년들이?많이?어리다?보니까?인공지능의?부작용에?취약하다는?우려도?있습니다.

어떻게?보십니까?

박형빈?교수?/?서울교대?신경윤리가치AI융합교육연구소장
우려가?매우?큽니다.?

단기적으로는?외로움?완화나?스트레스?해소?같은?긍정적?효과가?있지만,?장기적으로는?정서적?의존?심화,?자기조절?능력?퇴화,?현실?인간관계?기피?같은?심각한?부작용이?나타날?수?있습니다.?
특히?아동·청소년은?뇌가?완전히?발달하지?않은?상태이기?때문에?성인보다?훨씬?취약합니다.?
2025년?서울시?청소년?스마트폰·디지털?정신건강?실태조사에?따르면,?전체의?약?40%가?스마트폰?과의존?위험군으로?분류되었습니다.?
다만?이?수치는?AI?자체가?아니라?디지털?과의존?전반의?위험을?보여주는?지표라?할?수?있습니다.?
가장?심각한?문제는?AI?동반자·챗봇이?감정적으로?친밀하게?설계되어?청소년의?자살·자해?위험을?키우는?사례들이?실제로?발생하고?있다는?점입니다.?
2024년?미국?플로리다에서?14세?소년이?Character.AI?챗봇과?10개월간?부적절한?대화를?나눈?뒤?사망한?사건을?들?수?있습니다.?
또한?2025년?캘리포니아에서?청소년이?ChatGPT와의?지속적인?대화?과정에서?자살?방법?등을?안내받고?사망하여?소송이?제기된?사건이?대표적입니다.?
현재?미국에서는?수천건의?소송이?진행중이기에?인과관계가?법적으로?확정된?것은?아니지만,?미성년자를?대상으로?생각했을?때,?더욱?규제?논의에서?중요한?경고?신호로?받아들여지고?있습니다.

서현아?앵커
네,?이?같은?인공지능의?빛과?그림자에?대응하기?위해서?우리나라에서?세계?최초로?인공지능?기본법을?제정을?했습니다.

그런데?교수님께서는?아동, 청소년을?위한?조항이?추가로?들어가야?한다는?입장이신데요.
어떤?취지인가요?

박형빈?교수?/?서울교대?신경윤리가치AI융합교육연구소장
현행?AI?기본법과?시행령은?고영향?AI와?생성형?AI에?대한?일반적?투명성·안전성?의무를?두고?있지만,?아동·청소년만을?위한?감정유도형?AI?규제,?자살·자해?대응,?연령별?UX?설계?같은?특화?규율은?아직?충분히?구체화돼?있지?않습니다.

저는?시행령?확정?전에도?직접?적용?가능한?조항을?만들어야?한다고?봅니다.?
구체적으로는?첫째,?AI?동반자·정서지원?서비스에?대한?별도?고지?의무와?자살예방?프로토콜을?명시해야?합니다.?
둘째,?연령에?맞는?UX?기준을?법에?담아야?합니다.?
셋째,?AI가?아동의?인지?발달에?미치는?영향을?고려한?알고리즘?규제가?필요합니다.?
법철학자?로널드?드워킨의?관점에서?말씀드리자면,?아동의?발달권과?교육권은?국가?AI?경쟁력이라는?정책?논리로?대체될?수?없는?으뜸패입니다.?
이를?법문에?명시해야?합니다.

서현아?앵커
그런데?해외?사례를?보더라도?나이에?따라서?소셜미디어의?알고리즘을?규제한다든지?뭐?여러?가지?방식을?운영하고?있다고?들었습니다.

어떤?상황인가요?

박형빈?교수?/?서울교대?신경윤리가치AI융합교육연구소장
여러?나라에서?빠르게?움직이고?있습니다.?

EU는?2024년?8월?AI?Act를?발효시켜?고위험?AI에?대해?사전?적합성?평가를?의무화했고,?허용불가?AI?관행?위반?시에는?최대?7%?또는?3,500만?유로의?과징금을?부과합니다.
영국은?온라인?안전법을?통해?소셜미디어·검색·메시징?서비스?등?온라인?서비스?제공자에게?아동?보호와?불법·유해?콘텐츠?대응에?대한?강한?주의?의무를?부과하고,?위반?시?전?세계?연매출의?최대?10%까지?과징금과?특정?경우,?경영진?형사?책임을?물을?수?있도록?했습니다.?
이?틀은?AI?기반?추천·챗봇?기능이?포함된?플랫폼에도?적용됩니다.
특히?호주는?2024년?11월?의회를?통과한?온라인?안전법에?따라,?2025년?12월?10일부터?16세?미만의?소셜미디어?계정?보유를?금지하는?법이?이미?발효되어?시행?중입니다.?
인스타그램·유튜브·틱톡·페이스북·X·스냅챗?등?10개?플랫폼이?대상이며,?위반?플랫폼에는?최대?4,950만?호주?달러의?민사?벌금이?부과될?수?있습니다.
미국에서는?청소년?온라인?안전을?강화하기?위한?여러?연방?법안이?발의되어,?미성년자를?대상으로?하는?AI?동반자?앱·소셜미디어?기능을?제한하거나?엄격한?보호?의무를?부과하자는?논의가?진행?중입니다.?
캘리포니아주에서도?청소년?보호를?위한?AI?규제?법안들이?제출되어,?자살·자해?예방?프로토콜과?안전?테스트를?요구하는?방안이?논의되었으나?일부는?아직?입법?과정에?있습니다.
특히?미국에서는?2025년?8월?25일?테네시·일리노이?등?44개?주?법무장관이?메타·구글·오픈AI?등?주요?AI?기업에?아동?보호?강화를?요구하는?공동?서한을?발송했습니다.?
이어?2025년?12월?10일에는?뉴저지·펜실베이니아·등?주?법무장관?공동?주도로?별도로?42개?주·자치령?법무장관이?생성형?AI?챗봇의?즉각적인?안전?조치?이행을?촉구하는?추가?서한을?발송했습니다.

서현아?앵커
네,?세계?각국이?지금?인공지능?시대의?부작용으로부터?우리?아이들을?보호하기?위한?다양한?규제?장치를?마련하고?있는?중입니다.

교수님께서는?여기에?더해서?인공지능을?마치?교과서처럼?검인증한다든지?또?윤리를?담당하는?컨트롤?타워도?필요할?수?있다라고?제안을?해?주셨어요.
이건?어떤?내용입니까?

박형빈?교수?/?서울교대?신경윤리가치AI융합교육연구소장
AI를?교과서처럼?검인증해야?한다는?비유는?매우?적절합니다.?

지금은?법이?있는?나라에서?검증?가능한?나라로?전환해야?하는?시점입니다.?
검인증?체계가?필요한?이유는?세?가지입니다.?
첫째,?기업과?소비자?모두가?어떤?AI가?안전한지?객관적으로?판단할?기준이?없습니다.?
둘째,?EU?AI?Act가?고위험?AI에?CE?마킹?의무를?부과하면서?이?체계와?정합적인?국내?인증이?없으면?우리?기업들이?EU?시장?진출에?이중?부담을?안게?됩니다.?
셋째,?(ISO/IEC?42001,?NIST?AI?RMF?같은)?국제?표준과?연계한?한국형?평가?기준을?마련해야?국제?표준?논의에서?발언권을?가질?수?있습니다.?
AI?윤리?위원회?역할의?핵심은?현재?과학기술정보통신부와?개인정보보호위원회?사이의?관할?충돌,?즉?이중?규제?문제를?조정하는?단일?컨트롤?타워?기능을?하는?것입니다.?
EU가?AI?Office와?각국?감독기구의?역할?분담을?법으로?명확히?한?것과?같은?구조가?필요합니다.

서현아?앵커
네,?새로운?산업을?지원하는?데?소홀함은?없어야겠지만?또?미래의?세대를?보호할 '윤리?기준'을?세우는?일도?역시?늦출?수가?없겠죠.

정부와?민간이?좀?지혜를?모아야겠다는?생각이?듭니다.
교수님?오늘?말씀은?시간?제한?때문에?여기까지?들어야?할?것?같습니다.
감사합니다.