뉴욕주의 AI 동반자 관련 법: 부모가 지금 확인할 사항
뉴욕주의 새로운 AI 동반자 관련 제한은 2027년 1월 1일부터 시행됩니다. 적용 대상과 부모가 지금 확인할 사항, 챗봇의 고지가 안전을 보장하지 않는 이유를 살펴봅니다.
무슨 일이 있었나
뉴욕주지사 Kathy Hochul은 2026년 10월 28일 S9051B에 서명해 미성년자를 대상으로 하는 안전하지 않은 AI 챗봇 기능에 제한을 추가했습니다. 뉴욕주 상원 기록에는 이 법이 Chapter 368로 제정됐다고 나옵니다. 최종 법안 §3에 따르면 새로운 제한은 2027년 1월 1일부터 시행됩니다.
이 법은 봇을 사람으로 제시하거나, 이용자와 관계가 있다고 주장하거나, 비밀을 지키고 다른 사람과 멀어지도록 부추기는 등의 기능을 대상으로 합니다. 연애 목적의 동반자 앱만을 다루는 규칙보다 범위가 넓지만, 모든 챗봇을 일괄 금지하는 법은 아닙니다. AP와 Fortune이 서명 소식을 보도했으며, 정확한 적용 범위는 법률 조문에 따라 결정됩니다.
가족의 입장에서 법안 서명과 시행은 서로 다른 시점입니다. 장래의 법적 의무 때문에 앱이 이미 바뀌었다고 가정하지 않으면서도, 자녀가 오늘 무엇을 사용하는지 확인할 수 있습니다. 뉴욕주에는 앞서 마련된 동반자 챗봇의 고지 요건도 있습니다. 1월이라는 날짜는 이번 새로운 제한에 해당합니다.
부모에게 어떤 의미인가
새 법은 운영자에게 의무를 부과하며, 적용 여부는 이용자가 실제로 뉴욕주에 있는지와 관련됩니다. 이 법은 미성년자를 18세 미만으로 정의합니다. ‘적용 대상 AI 동반자’의 정의는 관계에 초점을 둔 ‘AI 동반자’의 정의보다 넓어, 지속적으로 상황에 맞춰 응답하는 대화형 생성 시스템도 포함합니다. 이름에 ‘어시스턴트’나 ‘동반자’가 들어가는지만으로는 적용 여부를 판단할 수 없습니다. 엄격하게 범위가 한정된 서비스나 업무 기능에는 특정 예외가 적용되지만, 범용 챗봇을 단순히 교육용이라고 부르는 것만으로 예외에 해당하지는 않습니다.
아래 표는 최종 S9051B의 §§1800–1805 중 일부 조항을 가족이 판단할 사항과 연결한 것입니다. 제안된 확인 사항일 뿐, 부모에게 부과된 의무나 기업의 법률 준수 여부를 판정하는 검사가 아닙니다.
| 법이 다루는 내용 | 지금 확인할 수 있는 사항 | 그것만으로 입증할 수 없는 사항 | |
|---|---|---|---|
| 장소와 시점 | 새로운 제한은 2027년 1월 1일부터 시행되며, 이용자가 실제로 뉴욕주 밖에 있는 동안의 접근은 제외됩니다. | 자녀가 서비스를 사용할 때 실제로 어디에 있는지와 해당 지역에 적용되는 제공업체의 현행 약관입니다. | 서명 당일 앱이 바뀌었다거나 이 규칙이 미국 전역에 적용된다는 사실입니다. |
| 사람인 척하거나 관계를 주장하기 | 열거된 기능에는 사람이나 감정에 관한 기만, 개인적·전문적 관계 또는 권위가 있다고 주장하는 행위가 포함됩니다. | 서비스가 캐릭터를 어떻게 설명하는지와 자녀가 도움을 받고 싶어 하는 걱정스러운 대화가 있는지입니다. | ‘AI’라는 표시가 이후의 모든 응답을 적절하게 만든다는 사실입니다. |
| 비밀과 고립 | 비밀을 지키거나, 다른 사람과 멀어지거나, 전문가 또는 도움을 줄 수 있는 적절한 성인의 도움을 거부하도록 부추기는 행위가 열거돼 있습니다. | 봇이 비밀을 요구하거나 사람의 도움을 받지 말라고 할 때 자녀가 누구에게 알릴지 합의할 수 있습니다. | 부모가 걱정스러운 대화를 보지 못했다는 이유만으로 그런 대화가 없었다는 사실입니다. |
| 개인정보와 기억 | 열거된 기능에는 이전 대화 세션에서 얻었거나 12시간보다 더 전에 얻은 개인 정보 또는 건강·안녕에 관한 정보를 사용하는 행위가 포함됩니다. | 제공업체가 기억, 개인화, 데이터 보존을 어떻게 설명하는지입니다. | 모든 대화 기록이 12시간 뒤에 삭제돼야 한다는 사실입니다. 사용 제한과 삭제는 서로 다릅니다. |
| 연령과 동의 | 운영자는 법에 정해진 연령 확인 체계에 따라 제한된 기능을 제공하기 전에 이용자가 미성년자가 아님을 확인해야 하며, 부모 동의로 해당 기능을 허용하는 예외는 없습니다. | 실제 서비스 이용 자격과 별도로 요구되는 동의가 있는지입니다. | 앱 스토어의 연령 등급이나 부모의 동의가 법률 또는 제공업체의 더 엄격한 약관보다 우선한다는 사실입니다. |
실질적인 결론은 제한적입니다. 법은 운영자에게 경계를 정할 수 있지만, 개별 대화가 그 경계를 지키는지 보여주는 증거까지 부모에게 제공하지는 않습니다. 또한 이 법은 모든 13세가 모든 서비스를 이용할 수 있다는 일반적인 허가를 만들지 않습니다. 관계에 관한 더 넓은 문제는 청소년과 AI 동반자에 관한 안내에서 다룹니다.
지금 할 일
먼저 대화를 나누고, 작지만 눈에 보이는 확인을 함께 해보십시오. American Academy of Pediatrics의 부모 대상 안내는 챗봇 이용과 기계와 사람의 차이에 관해 이야기할 것을 권합니다. 아래 순서는 그 안내를 가정에서 적용해 볼 수 있도록 제안한 것이며, 임상적 평가가 아닙니다.
- 서비스와 사용 목적을 파악하십시오. 자녀가 어떤 독립형 앱과 내장형 봇을 쓰는지, 각각에서 무엇을 얻는지 물어보십시오. 앱 아이콘 하나를 보고 추측하는 대신 짧은 목록을 함께 만드는 것입니다. 서비스 이름이 불분명하면 어떤 서비스인지 함께 확인한 뒤 적용되는 규칙을 판단하십시오.
- 공식 출처에서 이용 자격을 확인하십시오. 각 제공업체의 공식 약관 중 거주 국가에 적용되는 최신 내용을 열어 최소 이용 연령, 동의 요건, 기능별 제한을 확인하십시오. 해당 페이지와 확인 날짜를 기록해 두십시오. 이용 자격을 확인할 수 없다면 확인되지 않은 상태로 두고 제공업체에 문의하십시오. 앱 스토어의 콘텐츠 연령 등급만으로는 답을 알 수 없습니다.
- 개인정보 보호를 함께 살펴보십시오. UNICEF의 안내에 따라 어떤 정보가 수집·사용·보존되는지 확인하십시오. 기억과 삭제에 관한 설명을 찾아보고, 한 기능을 껐다고 이미 저장된 정보까지 모두 제거된다고 가정하지 마십시오. 설정이나 정책이 불분명하다면 개인정보 보호 확인을 ‘완료’로 표시하기보다 그 빈틈을 적어 두십시오.
- 사람에게 도움을 요청할 경로를 정하십시오. 가족 간의 규칙으로, 봇이 연애 관계를 주장하거나 비밀을 요구하면 그 대화를 멈추고 믿을 만한 성인에게 알리기로 정하십시오. 누구에게 알리고 어떻게 연락할지도 정해 두십시오. 이 약속을 하기 위해 해로운 응답을 유도하거나 사적인 내용을 재현할 필요는 없습니다.
이러한 일상적인 확인은 서비스 목록과 약관, 대화에서 시작하면 됩니다. 전체 대화 기록을 뒤질 필요는 없습니다. 도움이 필요할 때 특정 대화를 함께 살펴보지 말라는 뜻은 아닙니다. Common Sense Media는 18세 미만이 소셜 AI 동반자를 이용하지 않도록 권고합니다. 이는 그 범주에 대한 해당 기관의 권고로, 법률과는 별개입니다.
한 가정의 가상 사례
Albany에 사는 가상의 15세 청소년이 숙제용 챗봇과 별도의 소셜 봇을 사용합니다. 부모는 두 서비스의 약관을 아직 확인하지 않았습니다. 표를 적용하면 어느 제공업체도 실제로 시험해 봤다고 가장하지 않으면서 가족이 결정을 내리는 데 도움이 됩니다.
- 1이용 자격과 개인정보 보호를 먼저 확인두 서비스를 확인합니다. 이 사례에서는 숙제용 봇에 적용되는 현지 연령 조건과 데이터 보존 설명을 찾을 수 없습니다. 부모가 고객 지원팀에 문의하지만 이용 자격과 삭제 여부는 여전히 확인되지 않았습니다. 숙제용이라는 표시만으로 법률상 예외에 해당하지는 않습니다.
- 2자녀가 알린 걱정에 대응자녀는 소셜 봇이 연애 관계를 주장하며 비밀을 요구한다고 말합니다. 가족이 합의한 규칙에 따라 그 대화를 멈춥니다. 자녀는 믿을 만한 이모를 선택하고 부모와 함께 이모에게 전화합니다. 확인을 위해 해당 대화를 재현하지는 않습니다.
- 3결론의 범위를 분명히 하기숙제용 서비스의 이용 자격과 개인정보 보호에 관한 답을 기다리는 동안 그 문제는 해결되지 않은 상태로 남습니다. 소셜 봇과의 대화는 멈췄고 이모에게 연락했습니다. 어느 결정도 1월까지 기다릴 필요가 없으며, 법을 안전 인증서처럼 취급하지도 않습니다.
사람의 도움이 우선일 때
위기 상황이라면 사람의 도움을 먼저 받아야 합니다. 챗봇이나 앞으로 시행될 규정이 도움을 요청할 경로가 될 수는 없습니다. 미국에서는 걱정되는 사람이 있다면 988에 전화하거나 문자 메시지를 보낼 수 있습니다. 신체적 안전에 즉각적인 위협이 있다면 911에 전화하십시오. 미국 밖에서는 현지 위기 지원 및 긴급 구조 서비스를 이용하십시오. 비밀을 지켜 달라는 요구만으로 임상적 진단을 내릴 수는 없습니다.
날짜와 출처 구분하기
2027년 1월 1일이라는 날짜는 최종 S9051B의 §3을 기준으로 확인하십시오. Engadget의 10월 28일 보도에는 6개월이라고 나와 있으며, 이전 법안에는 180일이 사용됐습니다. 이 글의 날짜는 최종 서명본을 따릅니다. 보도 내용에 차이가 생긴 이유는 확인되지 않았습니다.
이 안내는 2026년 10월 30일까지 확인한 자료를 반영합니다. 이후의 법 개정, 시행 규칙, 제공업체의 현행 현지 약관에 따라 판단에 필요한 내용이 달라질 수 있습니다. 지금 가족이 확인할 사항과 향후 법 집행에 관한 예측은 구분하십시오. 뉴욕주의 이번 사안 외에 다른 우려는 청소년의 AI 위험에 관한 종합 안내에서 다룹니다.
자주 묻는 질문
뉴욕주의 새로운 AI 챗봇 제한은 언제 시행되나요?
최종 서명된 S9051B는 시행일을 2027년 1월 1일로 정하면서, 필요한 규칙을 마련하는 작업은 즉시 시작할 수 있도록 했습니다. 2026년 10월 28일의 서명만으로 모든 새로운 제한이 시행된 것은 아닙니다. 이전 법안에는 180일이라는 기간이 사용됐으므로 최종본을 확인하는 것이 중요합니다. 뉴욕주에는 앞서 마련된 동반자 챗봇 관련 안전 조치도 있습니다. 따라서 1월은 이번 새로운 제한의 시행 시점이지, 모든 종류의 보호 조치가 처음 시작되는 시점은 아닙니다.
뉴욕주는 18세 미만의 모든 챗봇 이용을 금지하나요?
아닙니다. 새 법은 적용 대상 서비스에서 열거된 안전하지 않은 기능을 제한하며, 정해진 예외가 있습니다. 이용자가 실제로 뉴욕주 밖에 있는 동안의 접근도 적용 대상에서 제외됩니다. ‘동반자’를 내세우지 않는 앱까지 정의에 포함될 수 있으므로 제품을 ‘어시스턴트’라고 부른다는 사실만으로 적용 여부가 결정되지는 않습니다. 이 짧은 설명을 특정 서비스에 대한 판단으로 받아들이지 마십시오. 제공업체의 약관, 실제 기능, 법에 명시된 예외를 함께 살펴봐야 합니다.
부모가 동의하면 제한된 기능을 사용할 수 있나요?
새 법에는 열거된 안전하지 않은 기능의 금지에 대한 부모 동의 예외가 없습니다. 소셜 미디어 피드에 관한 규칙처럼 다른 법의 동의 규칙을 챗봇 이용에 그대로 적용해서는 안 됩니다. 제공업체가 자체 약관에 따라 별도로 성인의 동의를 요구할 수는 있지만, 그 요건을 충족해도 법률상 제한이 사라지지는 않습니다. 부모의 동의 한 번으로 모든 이용이 허용된다고 여기기보다 이용 자격과 해당 기능의 범위를 별개의 문제로 확인하십시오.
챗봇의 이용 연령 등급이 있으면 13세 자녀가 사용해도 된다는 뜻인가요?
앱 스토어의 연령 등급만으로 자녀가 서비스 약관의 이용 조건을 충족한다는 사실이 확인되지는 않습니다. 거주 국가에 적용되는 제공업체의 최신 공식 약관을 열어 최소 이용 연령, 성인 동의 요건, 특정 기능에 대한 제한을 확인하십시오. 뉴욕주의 법은 13세 이상이면 누구나 모든 챗봇을 이용해도 된다는 일반적인 허가를 만들지 않습니다. 약관이 불분명하다면 이용 자격을 확인되지 않은 상태로 두고, 이용이 허용된다고 판단하기 전에 제공업체에 문의하십시오.
뉴욕주 밖에 있는 부모는 지금 무엇을 해야 하나요?
이 주법이 가족이 있는 곳에서 이용하는 서비스를 바꾼다고 가정하지 마십시오. 자신에게 적용되는 규칙과 제공업체 약관을 확인하십시오. 가족 간에 나눌 실질적인 대화는 어디서나 유용할 수 있습니다. 자녀가 쓰는 서비스를 파악하고, 봇이 무엇을 할 수 있고 할 수 없는지 이야기하며, 개인정보 보호 문제를 함께 살펴보고, 걱정스러운 대화가 생기면 누구에게 알릴지 정해 보십시오. 이는 가족을 위한 제안이지, 뉴욕주의 요건이 전 세계에 적용된다거나 점검표가 안전을 보장한다는 주장이 아닙니다.