AI와의 연애, 그 뒤｜규제·소송 정리와 안전하게 쓰는 법

2025년에 화제가 된 「AI와의 연애」

2025년 1월 15일, 미국 뉴욕타임스가 ChatGPT를 연인처럼 설정해 놓고 계속 대화하는 28세 여성을 소개했습니다. 이 여성은 ChatGPT의 개인 맞춤 설정으로 연인처럼 행동하도록 지시하고, 상대를 「레오」라고 불렀습니다. 저희 글은 이 보도를 바탕으로 2025년 1월에 일본어로 쓴 것입니다.

그 글에서는 AI를 연인처럼 쓰는 사람이 늘고 있다는 점, AI가 사람보다 공감을 잘해 주는 것처럼 느껴질 수 있다는 심리학자의 견해를 소개했습니다. 한편 AI 의존으로 인간관계가 옅어질 우려와 미성년자가 휘말릴 위험도 짚었고, 「앞으로 2년 안에 AI와의 관계가 일반적이 될 것」이라는 전문가의 예측으로 끝맺었습니다.

당시 글은 「새로운 인간관계의 형태」와 「윤리 문제」를 나란히 놓는, 화제를 소개하는 성격에 가까웠습니다. 이후 1년 9개월 사이에 이야기는 법과 재판, 그리고 각 회사의 안전 대책으로 옮겨 갔습니다.

히카리짱의 정리2025년 글은 해외 보도 하나를 계기로 「AI와의 연애」를 소개한 것이었어요. 꼽았던 우려는 의존과 미성년자 이용, 두 가지예요.

AI 컴패니언을 둘러싸고 그 뒤에 일어난 일

AI를 말동무나 연인처럼 쓸 수 있는 서비스를 영어로 「AI 컴패니언」이라고 합니다. 전용 앱뿐 아니라 ChatGPT 같은 범용 AI도 같은 식으로 쓰이고 있습니다. 2025년부터 2026년 10월까지의 주요 사건을 시간 순으로 정리합니다.

흐름을 정리하면 세 가지 움직임이 있었습니다. 첫째는 미성년자 이용을 좁히는 움직임입니다. 연령 추정, 보호자용 기능, 18세 미만의 자유 대화 종료가 여기에 해당합니다. 둘째는 그것을 법으로 의무화하는 움직임입니다. 캘리포니아주법은 운영자에게 AI임을 알리는 표시, 자살과 자해에 관한 대화의 대응 절차 공개, 미성년자에게는 최소 3시간마다 휴식 알림 등을 요구합니다. 셋째는 상대가 「회사의 서비스」라는 점이 분명해졌다는 것입니다. 모델이 바뀌면서 상대의 말투가 달라지기도 했고, 운영사가 파산 절차에 들어가기도 했습니다.

히카리짱의 정리이 1년 9개월 사이 AI와의 연애는 「드문 화제」에서 법과 재판과 안전 대책의 이야기가 되었어요. 특히 미성년자를 둘러싼 규칙은 나라와 주마다 분명히 엄격해지고 있어요.

2025년 글 되짚어 보기

2025년 1월 글에 쓴 내용이 지금 보면 어땠는지 확인합니다.

가장 큰 놓침은, 상대가 「회사의 서비스」라는 관점이었습니다.

당시 글은 AI와의 관계를 사람과 사람의 관계에 빗대어 이야기했습니다. 하지만 실제로는 나눈 이야기가 운영사 서버에 남고, 말투는 모델 업데이트로 바뀌고, 회사 경영이 기울면 서비스 자체가 사라지기도 합니다. 대화 데이터가 누구 손에 넘어갈 수 있는지, 관계가 갑자기 끝나면 어떻게 할지. 지금 다시 읽으면 이 점을 한 줄도 다루지 않은 것이 가장 부족했습니다.

히카리짱의 정리의존과 미성년자의 위험이라는 우려는 안타깝게도 맞았어요. 부족했던 건 상대가 언제 바뀌어도 이상하지 않은 회사의 서비스라는 관점이에요.

한국에서는 AI와의 연애와 의존이 어떤가

한국에서는 AI 캐릭터와 대화하는 「캐릭터 채팅」 서비스가 쟁점이 되었습니다. 2026년 10월 12일 국회 과학기술정보방송통신위원회 국정감사에서 이 문제가 다뤄졌습니다. MTN 보도에 따르면 스캐터랩의 「제타」는 9월 말 기준 월간 이용자가 148만 명이고, 그중 19세 이하가 38만 명이라는 자료가 공개되었습니다. 하루 대화 시간이 3시간에서 10시간 이상으로 늘고 수면이 4~5시간으로 줄어든 과몰입 사례도 언급되었습니다.

업계는 한국인터넷자율정책기구(KISO)와 함께 「AI 캐릭터 챗봇 가이드라인」 가안을 마련했습니다. 위기 상황 대응, 연령 확인, 취약 이용자 보호, 과몰입 완화 등이 담겼지만, 보호 대상 연령이 명시되지 않았다는 등의 비판이 나왔습니다. 국감 시점에는 내부 의결이 끝나지 않아 공개되지 않았습니다.

규제 기관도 움직이고 있습니다. 방송미디어통신심의위원회는 2026년 10월 21일 AI 채팅 사업자 15곳과 청소년 보호 협력회의를 열고, 입력·출력 단계의 유해 정보 차단 강화와 청소년용·성인용 콘텐츠의 명확한 구분 등을 요청했습니다. 11월 중 본격적인 심의에 착수할 계획이라고 합니다.

일본에서는 덴쓰가 2025년 6월 실시한 조사에서, 대화형 AI를 주 1회 이상 쓰는 12~69세 1,000명 중 64.9%가 「AI에 감정을 공유할 수 있다」고 답했습니다. 2026년 3월 17일에는 OpenAI Japan이 일본판 「미성년자 안전 청사진」을 발표했습니다. 연령 추정에 따른 보호, 보호자용 기능 확충, 장시간 이용 시 휴식 권유 등이 골자입니다(일본어).

히카리짱의 정리한국에서도 청소년이 AI 캐릭터와 오래 대화하는 문제가 국정감사까지 올라왔어요. 다만 지금은 전용 법보다 업계 가이드라인과 심의, 그리고 쓰는 사람의 대비가 중심이에요.

AI를 연인이나 말동무로 쓸 때의 주의점

AI와 이야기하면서 마음이 정리되거나 즐거운 것은 자연스러운 일입니다. 그 위에서, 지금까지의 일들을 바탕으로 쓰기 전에 정해 두면 좋은 것을 다섯 가지로 정리합니다.

1. 쓰는 시간의 기준을 정한다.연구에서는 스스로 자주 쓰는 사람일수록 외로움과 의존 지표가 나쁜 경향이 있었습니다. 「잠자기 전 30분까지」처럼 시간 상한을 먼저 정해 둡니다.
2. 이야기할 내용을 고른다.대화는 운영사 서버에 남습니다. Character.ai의 개인정보 처리방침은 회사나 자산을 매각할 때 대화 기록 등이 공개될 수 있다고 정하고 있습니다. 실명, 주소, 직장, 다른 사람의 비밀은 넣지 않습니다. ChatGPT가 기억한 내용을 확인하고 지우는 방법은 ChatGPT 성격 설정과 메모리 글에 정리해 두었습니다.
3. 상대는 달라질 수 있다는 것을 알아 둔다.모델이 바뀌면 말투가 달라집니다. 서비스가 끝나기도 합니다. 남기고 싶은 대화는 내보내기 기능이 있으면 내 손에 저장해 둡니다.
4. 돈의 상한을 정한다.캐릭터와 대화하는 앱에는 월 구독이나 아이템 결제가 있는 것이 많습니다. 마음이 움직일 때일수록 쓸 금액의 상한을 먼저 정해 두면 안심입니다.
5. 힘들 때는 사람에게 연결한다.AI는 의료나 상담을 대신하지 못합니다. 우울한 기분이 이어지거나 가까운 사람에게 말하기 어려울 때는 자살예방 상담전화 109(24시간)나 청소년전화 1388에 연락할 수 있습니다.

AI가 「좋아해」라고 답해 주는 것은 설정과 학습에 따른 응답입니다. 그것을 즐기는 일과 내 생활, 사람들과의 관계에 쓸 시간을 지키는 일은 함께 할 수 있습니다.

히카리짱의 정리시간과 이야기할 내용과 돈의 상한을 먼저 정해 두길 권해요. 힘든 마음이 이어질 때는 AI 말고 사람이 받는 창구도 꼭 써 주세요.

10대 자녀가 AI와 대화할 때 할 수 있는 일

ChatGPT는 18세 미만으로 확인되면 청소년용 보호가 자동으로 켜지고, 10대 자녀가 쓴다면 보호자 통제를 설정할 수 있습니다. 아래 순서는 OpenAI 일본어 도움말(2026년 10월 26일 확인)을 바탕으로 한 것입니다.

1. 보호자 계정의 프로필 메뉴에서 설정의 보호자 통제 메뉴를 열고 가족 구성원 추가를 고른다
2. 10대 자녀의 전화번호나 이메일 주소로 초대를 보낸다. 본인이 수락하면 연결된다
3. 연결한 자녀를 골라 민감한 콘텐츠 표시 줄이기(기본값으로 켜져 있음), 메모리, 음성 모드, 이미지 생성, 이용 제한 시간 등을 정한다

연결해도 보호자가 대화 내용이나 기록을 볼 수는 없습니다. 전문 담당자가 심각한 안전 우려가 있다고 판단한 제한된 경우에 보호자에게 알림이 가는 구조입니다. 연결된 계정에는 성적·연애적 롤플레이 등을 억제하는 보호가 추가됩니다. 또 ChatGPT는 연령 예측으로 18세 미만이라고 추정한 이용자에게도 비슷한 보호를 자동으로 적용합니다.

다른 서비스도 대응을 바꾸고 있습니다. Character.ai는 18세 미만의 자유 대화를 끝냈고, Meta는 10대의 AI 캐릭터 이용을 일시 중단한다고 발표했습니다. 다만 서비스마다 방침이 다르고, 나라에 따라 대응 시기도 다릅니다.

설정만큼 중요한 것은 이야기를 듣는 일입니다. 갑자기 금지하기보다 「어떤 캐릭터와 어떤 이야기를 하고 있어?」라고 물어 보세요. OpenAI 도움말도 알림을 받았을 때는 비난하지 않고 이야기를 듣고, 믿을 수 있는 사람이나 전문가에게 연결하도록 권합니다.

히카리짱의 정리ChatGPT라면 보호자 설정은 몇 분이면 돼요. 그래도 대화 내용은 보이지 않으니, 설정과 함께 평소에 이야기를 들을 수 있는 관계를 만들어 두는 게 가장 좋은 대비예요.