주요내용

🔍 AI 서비스, 이용자는 충분히 보호받고 있을까요? 🤖 ChatGPT 등장 이후 인공지능서비스는 정보 검색과 업무 보조를 넘어 창작, 상담, 추천, 정서적 교류까지 일상 깊숙이 들어오고 있습니다. 특히 생성형 AI, 온디바이스 AI, 에이전틱 AI가 확산되면서 AI는 단순히 답변을 제공하는 도구가 아니라 이용자와 상호작용하고, 판단을 돕고, 때로는 행동까지 대신하는 서비스로 발전하고 있습니다. ⚠ 하지만 기존 온라인 서비스 규제체계는 주로 이용자가 올린 정보를 사업자가 유통하는 구조를 전제로 합니다. 문제는 생성형 AI가 정보를 단순히 전달하는 것이 아니라 이용자와의 대화 속에서 직접 생성한다는 점입니다. 👉 그래서 문제가 발생한 뒤 삭제·차단하는 방식만으로는 AI 시대의 이용자 보호에 한계가 있습니다. 📌 보고서는 특히 두 가지 쟁점에 주목합니다. • 불법정보 생성·유통 문제 • 아동·청소년 보호 문제 AI가 불법정보를 빠르게 대량 생성하거나, 이용자와 1대1 대화 안에서 위험한 정보를 제공하는 경우 기존의 ‘유통’ 중심 법체계만으로는 대응이 쉽지 않습니다. 또한 아동·청소년은 단순히 유해정보에 노출되는 문제를 넘어 AI와 반복적으로 대화하며 정서적으로 의존할 수 있다는 새로운 위험에도 놓일 수 있습니다. 📊 앞으로 더 주목해야 할 이슈도 있습니다. • AI 자동 타겟팅 광고·마케팅 • AI/생성형 엔진 최적화, AEO·GEO • AI 에이전트의 자동 결제·예약·문서 전송 • AI 간 협업 과정에서의 책임 불명확 • 인간과 AI의 정서적 관계 형성 👉 AI가 이용자의 선택과 판단, 감정에 영향을 미치는 방식이 점점 더 정교해지고 있습니다. ⚖ 특히 에이전틱 AI는 이메일 발송, 결제, 예약, 외부 시스템 연동처럼 이용자를 대신해 실제 행위를 수행할 수 있습니다. 이 과정에서 오류가 발생하거나 이용자가 의도하지 않은 행동이 이루어질 경우 책임 소재가 불분명해질 수 있습니다. 또 동반자형 AI가 친구나 상담자처럼 작동할 경우 정서적 의존, 자해·자살 관련 위험 대화, 상업적 관계 설계 등도 중요한 이용자 보호 과제가 됩니다. ✨ 보고서는 다음과 같은 방향을 제시합니다. ① 불법정보의 유통뿐 아니라 생성 단계까지 고려한 규율 검토 ② 사후 삭제·차단 중심에서 위험평가·안전설계 중심으로 전환 ③ 아동·청소년 등 취약계층 보호 기준 강화 ④ AI 생성 광고 표시, 선택권 보장, 프로파일링 거부권 검토 ⑤ AI 답변의 출처·근거·불확실성 표시 강화 ⑥ AI 에이전트의 인간 감독과 기술적 통제장치 마련 ⑦ 자율규제와 법적 규율을 단계적으로 결합 ➡ 핵심은 AI 혁신을 막는 것이 아니라, 이용자가 안전하게 AI를 활용할 수 있는 신뢰 기반의 보호체계를 만드는 것입니다. 앞으로의 AI 이용자 보호는 문제가 생긴 뒤 대응하는 방식에서 벗어나 위험을 미리 평가하고, 안전하게 설계하며, 실제 피해 근거에 따라 단계적으로 제도를 보완하는 방향으로 나아가야 합니다. 본 영상은 NKIS 인클루언서가 제작한 영상입니다. 본 저작물은 경제·인문사회연구회에서 작성하여 공공누리 제4유형(출처표시, 상업적 이용금지, 변경금지)에 따라 이용할 수 있습니다. 👉 자세한 내용은 연구보고서 또는 NKIS 홈페이지에서 확인하세요! [ NKIS 홈페이지 ]

https://www.nkis.re.kr/main.do [ NRC 정책연구동향 Vol.15 ]

https://nkis.re.kr/subject_view1.do?otpId=OTP_0000000000017912&otpSeq=0 [[AI Outlook] 인공지능서비스 이용자보호 관련 이슈·법제 검토와 향후 과제]

https://www.nkis.re.kr/subject_view3.do?volId=IPVOL000000000011719&articleSeq=1