캘리포니아주, 인공지능 관련 법률

캘리포니아주, 인공지능 관련 법률

미국 캘리포니아주는 지난 9월 한 달간 
인공지능의 규제 및 사용과 관련한 18개의 법률을 제정하였다. 
기업의 인공지능 피해 예방 책임과 내부고발자 보호 규정 등을 

포함하여 관심을 불러일으켰던 
「인공지능 프런티어 모델의 안전혁신법」의 법률안
(2023-2024 상원법률안 제1047호)은 
개빈 뉴섬 주지사가 거부권을 행사하여 주의회 상원으로 환부되었다. 

인공지능의 법적 정의
1. 2024년 법률 제843호(하원법률안 제2885호): 인공지능에 대한 
캘리포니아주법상 정의를 캘리포니아주 정부법전 
제11546.45.5조제1항제1호의 규정으로 다음과 같이 통일하였다. 
(1) “인공지능”이란 다양한 수준의 자율성을 보이는 
공학적 체계나 기계 기반 체계로서, 명시적이거나 암묵적 목적에 따라, 
그것이 받은 입력 정보를 바탕으로 물리·가상 환경에 영향을 줄 수 있는 
출력 정보를 어떻게 생성하여야 하는지 추론할 수 있는 것을 말한다. 

딥페이크 성범죄 대응
2. 2024년 법률 제292호(상원법률안 제981호): 
딥페이크 음란물 신고 체계를 구축하고 
해당 콘텐츠를 즉시 삭제하여야 하는 
사회관계망 플랫폼 사업자의 의무를 규정한 조항을 신설. 
3. 2024년 법률 제289호(상원법률안 제926호): 
캘리포니아주 형법 제647조를 개정하여 
딥페이크 음란물을 만드는 행위를 형사상 범죄로 규정하고 처벌 근거를 마련. 
4. 2024년 법률 제926호(하원법률안 제1831호): 
캘리포니아주 형법 제311조 등을 개정하여 
인공지능을 사용한 아동 음란물을 만드는 행위를 금지하고 
형사 처벌의 근거를 마련. 

선거기간 중 가짜뉴스 대응
5. 2024년 법률 제260호(하원법률안 제2355호): 
인공지능의 활용 정도와 관계없이, 선거 홍보물에 인공지능을 활용한 경우
 그 정보를 모두 공개하도록 규정하였다. 
6. 2024년 법률 제261호(하원법률안 제2655호): 
선거일 전후의 일정 기간 중에 
가짜 정보를 포함한 콘텐츠를 차단하고 표시하며, 
그러한 콘텐츠 신고 절차를 마련해야 하는 
거대 온라인 플랫폼 사업자의 의무를 규정하였다. 
7. 2024년 법률 제262호(하원법률안 제2839호): 
선거 홍보물과 그밖에 
선거 관련 표현에서 허위 사실을 바탕으로 한 콘텐츠를 
악의로 배포하는 행위를 금지하였다. 

정보 관리: 개인정보의 보호
8. 2024년 법률 제802호(하원법률안 제1008호): 
개인정보 보호법상 개인정보의 범위에 
인공지능으로 출력될 수 있는 정보를 포함하였다. 

정보 관리: 인공지능 활용 여부의 공개
9. 2024년 법률 제316호(하원법률안 제2905호): 
텔레마케팅 전화에 인공지능 음성을 사용한 경우 이를 명시하도록 하였다. 
10. 2024년 법률 제928호(상원법률안 제896호):
주정부기관이 인터넷이나 유선상 민원 응대 과정에 
생성형 인공지능을 활용한 경우 이를 명시하도록 하였으며, 
주정부에 생성형 인공지능 도구의 장단점에 대한 보고서의 작성을 주문하였다. 

정보 관리: 기술 정보의 공개
11. 2024년 법률 제291호(상원법률안 제942호): 
다음을 인공지능 개발자의 의무로 규정하였다. 
- 인공지능 탐지 도구의 생성 및 무료 제공
- 개발자의 인공지능으로 생성된 모든 콘텐츠에 워터마크 표시
- 생성형 인공지능을 사용하는 제3자가 개발자와 계약할 경우에도 
개발자의 워터마크 기능을 그대로 적용토록 하여야 하며, 
위반 적발 시 72시간 내 계약 해지 
12. 2024년 법률 제817호(하원법률안 제2013호): 
2026년부터 인공지능의 학습에 사용된 자료의 정보를 
개발자가 홈페이지에 공개하도록 하였다. 

정보 관리: 의료 분야
13. 2024년 법률 제848호(하원법률안 제3030호): 
의료 분야에서 생성형 인공지능을 활용하여 환자와 소통할 경우 
이를 명시하도록 하였다.
14. 2024년 법률 제879호(상원법률안 제1120호): 
진료 및 보험 청구와 관련한 결정에 
인공지능 도구를 사용하는 과정에서 
의사의 감독이 이루어질 수 있도록 확인하는 방안을 
보험회사가 마련하도록 하였다. 

디지털 초상권
15. 2024년 법률 제258호(하원법률안 제1836호): 
민법 제3344.1조를 개정하여, 
영리 목적으로 고인이 된 자의 생전 모습을 무단으로 
디지털 복제하는 행위를 금지하고, 
위반 시 배상을 청구할 수 있는 근거를 마련하였다. 
16. 2024년 법률 제259호(하원법률안 제2602호): 
대중매체에서 배우의 디지털 복제물을 사용할 경우 
배우의 초상권을 보호하기 위하여 동의 요건을 강화하였다. 

교육에의 활용
17. 2024년 법률 제893호(상원법률안 제1288호): 
공립학교에서의 인공지능 활용을 위한 실무반을 조직하는 한편 
2025년까지 교육 분야에서 인공지능의 안전한 이용을 위한 
지침을 마련하여 줄 것을 캘리포니아주 교육감에게 주문하였다. 
18. 2024년 법률 제927호(하원법률안 제2876호): 
캘리포니아주 교육과정에 
인공지능 문해력 향상 교육을 포함하는 방안의 검토를 주정부에 주문하였다. 

 

California Governor Signs 18 AI Bills into Law

 

California Gov. Newsom vetoes AI safety bill that divided Silicon Valley