성평등가족부가 생성형 인공지능 기반 캐릭터챗봇 서비스의 청소년 보호조치 강화를 추진합니다.
청소년이 성인인증 없이 접근할 수 있는 환경에서 실제로 어떤 대화가 생성되는지 점검한 결과, 일부 캐릭터에서 성적·폭력적 묘사와 자해·자살, 범죄 조장 등 청소년에게 유해할 우려가 있는 응답이 확인됐습니다.
점검은 성평등가족부가 한국청소년상담복지개발원에 위탁해 운영하는 청소년매체환경보호센터가 맡았습니다. 센터는 「청소년 보호법」 제9조와 시행령 별표 2의 심의 기준을 참고해 일부 AI 캐릭터챗봇의 실제 응답을 검토했습니다.
성평등가족부는 점검 결과를 사업자와 공유하고, 성인인증 여부와 관계없이 청소년에게 부적절한 응답이 생성되지 않도록 보호조치를 보완해 달라고 요청했습니다. 앞으로도 사업자와 실무협의를 이어가며 청소년 보호정책 개선 여부를 지속적으로 확인할 방침입니다.
· · · · · · · · · ·
관련기사
▶ 순천시 청년 마음건강 강좌, 자해 위험 신호·대응법 다뤄
▶ 사천시 지역경찰 113명, 자살 위험 신호 대응 교육…10월 13~15일 3회
▶ 부산관광공사, 일·가정 양립 앞장서 성평등가족부 장관상 받았다
· · · · · · · · · ·
한국사회복지저널은 AI 기술의 도움을 받아 보도자료와 복지 정보를 보다 쉽고 정확하게 전달하기 위해 노력하고 있습니다.
