2024년은 AI 영상 원년으로 알려져 있는 지난해 알트만과 OPEN AI의 궁궐전 종료를 시작으로 올해 2월 SORA 출시와 LTX 스튜디오 출시까지 국내 다양한 ​​AI 영상에 이르기까지 다양하다. 전공 모델의 등장으로 사람들의 관심이 AI 영상으로 다시 돌아왔습니다.생성 와이즈 토토 지능을 규제하고 준수하는 방법에 대한 문제가 다시 한번 대중의 관심을 끌었습니다.현재 GenAI(생성와이즈 토토지능) 관리를 명확하게 목표로 하는 우리나라의 법률 및 규정에는 2022년 11월 25일에 발표된 "인터넷 정보 서비스 심층 합성 관리에 관한 규정"과 "생성와이즈 토토지능 서비스"가 포함됩니다. ’ 2023년 7월 10일 발표된 ‘경영에 관한 임시조치’에는 GenAI 서비스 제공자의 책임과 데이터 및 기술 관리, 감독·점검, 법적 책임 등을 규정하고 있다. 현재 규정은 대부분 원칙적으로 GenAI가 가져올 수 있는 위험을 직접적으로 해결할 수 없습니다.

1. GenAI 적용에는 어떤 실제 위험이 수반될 수 있습니까?

이전 기사에서"생성 와이즈 토토 지능 법률 및 규정에 대한 논평 및 실무 지침 (1) - AI 생성 제품 보호"(클릭하면 읽을 수 있음) GenAI의 작동 원리를 분석했습니다. 일반 대형 모델은 많은 양의 훈련 데이터에 의존해야 하며 GenAI 애플리케이션은 실제로 상호 작용 과정에서 사용자 정보를 수집합니다. 사용자. 이런 식으로 GenAI의 위험이 주로 관련되어 있다고 분석하는 것은 어렵지 않습니다.데이터 규정 준수, 지적 재산권, 개인 정보, 타인의 적법한 권리 및 이익네 가지 주요 측면.

1. 생성와이즈 토토지능 서비스 플랫폼 준수

이 네 가지 측면을 자세히 분석하기 전에 올해 2월 광저우 인터넷 법원에서 종결된 세계 최초의 AIGC 침해 사건을 먼저 살펴보겠습니다. 이 사건에서 피고는 플랫폼을 이용해 일본의 '울트라맨' 애니메이션 이미지와 실질적으로 유사한 사진을 생성해 고객에게 제공했습니다.

우선, 법원은 생성된 사진이 실제로 원본 작품과 실질적으로 유사하며 원본 작품의 복제 및 개작 권리를 침해했음을 확인했습니다. 둘째, 플랫폼은 서비스 제공자로서 합리적인 주의의무를 이행하지 않았으며 이에 대한 보상 책임을 져야 한다고 판단했습니다.

이 사건의 판결을 토대로 우리나라의 관련 법규를 살펴보겠습니다.

(1) 데이터 규정 준수.와이즈 토토 지능의 규정 준수는 데이터 규정 준수와 분리될 수 없습니다. 이는 훈련 데이터, 수집 데이터 및 출력 데이터의 세 가지 측면으로 나뉩니다. 이 사건에서 원고는 피고 플랫폼이 대형 모델 훈련을 위해 '울트라맨' 관련 이미지를 무단으로 사용했다고 주장했습니다.

그러나 작성자는 이 사건의 피고 플랫폼 당사자가 일반 대형 모델의 소유자가 아니라 프로그래밍 가능한 인터페이스를 통해 시스템에 액세스한 제3자 서비스 제공자임을 확인했습니다. 따라서 대형 모델 훈련을 위한 불법 데이터 출처에 대한 책임을 피고 플랫폼에 돌릴 수 없다.

(2) 지적재산권.이 경우 AI 생성 제품은 원본 작업과 실질적으로 유사합니다. 유사한 사례가 중국뿐만 아니라 외국 GenAI에서도 발생했습니다. DC, Marvel 등 영화 스튜디오에서 여러 차례 작업한 일러스트레이터인 Reid Southen은 MidjourneyV6 버전을 테스트하던 중 이 버전이 생성한 이미지가 많은 영화 게임의 장면과 거의 동일하다는 사실을 발견했습니다.

39344_39352데이터 수집 범주에 속합니다. "조치"는 "중화인민공화국 개인정보 보호법"의 규정을 위반하지 않으며 타인의 불필요한 개인정보를 수집하지 않을 것을 요구합니다.

40749_40759내보낸 데이터 준수와 관련하여 "조치"는 인종, 신념, 국적, 지역, 성별, 연령, 직업, 건강 등에 대한 차별을 방지하고 다른 사람의 신체적, 정신적 피해를 입히지 않도록 요구합니다. 정신 건강, 초상권, 평판 권리, 개인 정보 보호 권리, 재산권, 개인 정보 권리.

2. 생성와이즈 토토지능 서비스 이용자의 규정 준수

우리는 여전히 위에서 언급한 사례를 결합합니다. 이 경우 플랫폼을 사용하여 사진을 생성하는 사용자는 침해 혐의가 있습니까? 작성자는 사용자가 침해할 의도가 있다고 생각합니다.

2. AI가 생성한 제품 자체가 해당 권리 보호를 받을 수 있습니까?

우리나라 법률에는 AI 생성 개체 자체가 지적재산권을 향유하는지 여부를 명확하게 규정하고 있지 않지만, AI 생성 그림에 대한 저작권 침해 사례가 처음으로 발생하는 등 이미 AI 생성 개체의 권리와 관련된 사례가 일부 있습니다. , 와이즈 토토지능이 생성한 사진(AI)에 대한 베이징 인터넷 법원의 소송 그림과 사진에 관한 저작권 침해 분쟁에서 1심 판결이 내려졌습니다. 원고는 Xiaohongshu 플랫폼의 블로거였으며, 피고는 원고가 생성하고 게시한 사진을 사용했습니다. 원고는 와이즈 토토지능을 이용해 원고의 허락 없이 기사를 첨부한 사진으로 게재했고, 원고는 피고를 저작권 침해로 고소했다.

또 다른 예는 저작권 관련 권리와 관련된 디지털 휴먼 비디오의 저작권과 관련된 최근 사례입니다. 사건의 쟁점은 디지털 휴먼 영상이 저작물인지 여부이다.

이러한 사례를 바탕으로 저자는 AI 제품이 누리는 구체적인 권리가 AI 제품 자체의 특성과 결합되어야 한다고 믿습니다. 그들이 충족하는 특정 권리는 그에 상응하는 권리와 다양한 유형의 지적 권리를 누릴 수 있습니다. 성과는 다양하고 합리적인 권리 보호를 받을 수 있습니다.

3. EU의 와이즈 토토지능법에 따른 우리나라의 GenAI 관리를 살펴봅니다.

우리나라의 "데이터 보안법", "생성 와이즈 토토 지능 서비스 관리에 관한 임시 조치" 및 "인터넷 정보 서비스에 대한 알고리즘 권장 사항 관리에 관한 규정" 모두 "계층적이고 분류된 보안 관리 시스템"을 명시하고 있습니다. . '대책'에는 개인정보보호, 저작권 보호, 차별금지, 공정성 등 일부 조항을 열거하고 있으나, 준수해야 할 분류원칙과 이를 관리하는 방법이 상대적으로 산재하고 모호합니다.

EU의 와이즈 토토 지능법은 먼저 "신뢰할 수 있는 와이즈 토토 지능을 위한 윤리 원칙"의 7가지 윤리 원칙(인간 주체 및 감독 포함)을 기반으로 "위험의 강도와 범위"에 따라 와이즈 토토 지능의 위험 수준을 나눕니다. 기술적 견고성 및 보안, 개인 정보 보호 및 데이터 거버넌스, 다양성, 차별 금지 및 공평성)성행위 없음" 및 "고위험 행동"는 정의되고 구별됩니다.

1. "금지된 성적 행위"

EU 와이즈 토토지능법에 규정된 "금지된 성행위"는 다음과 같이 요약될 수 있습니다:인간의 건강, 안전 및 기본권에 대한 심각한 위험의 행동. 첫 번째 카테고리는 채택입니다.잠재의식 기술 또는 기타 속임수 기술은 정보에 입각한 결정을 내리는 인간의 능력을 크게 손상시키고 인간 행동을 왜곡합니다., 따라서 인간에게 심각한 해를 끼칩니다. 다음은 인간의 자극과 통제에 대한 뇌-컴퓨터 인터페이스와 가상 현실의 가능한 피해 효과에 대한 특별한 예입니다.연령, ​​장애 또는 특정 사회적 또는 경제적 상황으로 인한 모든 취약성, 이 그룹의 사람들의 행동을 실질적으로 왜곡하기 위한 세 번째 범주는 생체 데이터를 기반으로 한 개인 수준의 분류입니다.자신의 인종, 정치적 견해, 노동 조합 가입, 종교적 또는 철학적 신념, 성생활 또는 성적 취향에 대해 추론하거나 추론하기 위해;네 번째 범주는 개인 및 그룹의 알려진 행동을 통해 이루어집니다.그들의 특성을 추론하거나 예측하고, 분류하거나 점수를 매겨 개인과 집단이 사회적 맥락에서 불공정하고 불합리한 대우를 받도록 하는 행위. 동시에 이 기사는 국방, 법 집행, 의료 상황에서 데이터의 합리적인 사용과 추측이 필요한 여러 유형의 상황도 제외합니다. 상세한 분류와 정교화를 통해 시민의 개인 정보 보호와 국익이 최대한 균형을 이룹니다.

우리나라의 "생성와이즈 토토지능 서비스 관리에 관한 임시규정" 제4조에도 인종, 신념, 국적, 지역, 성별, 연령, 직업, 건강에 대한 차별금지 등 금지사항이 구체적으로 규정되어 있으며, 영업비밀 보호 및 불공정 경쟁 방지, 초상권, 사생활, 기타 개인정보 권리 등의 보호

2. "고위험 행동"

(1) "고위험 와이즈 토토지능"이란 무엇입니까

EU 와이즈 토토 지능법 6조는 고위험 와이즈 토토 지능 시스템을 분류합니다. 구체적으로 여기에는 두 가지 범주가 포함됩니다. 첫째, 제품 안전의 일부이거나 EU 보건 및 안전 조정 법률에 해당하는 시스템(예: 장난감, 항공, 자동차, 의료 기기, 리프트 등), 둘째, 8에 배포된 시스템. Annex 3 시스템에서 식별된 특정 필드에 대해 위원회는 법안 승인을 통해 필요한 업데이트를 수행할 수 있습니다.

(2) “고위험 와이즈 토토지능”을 규제하는 방법

EU 와이즈 토토지능법은 고위험 행동을 목표로 하며 위험 관리 시스템, 데이터 거버넌스, 기술 문서, 기록 보존, 투명성, 인간 감독, 정확성 및 안정성, 네트워크 보안에 대해 자세히 설명합니다. 동시에 고위험 와이즈 토토지능 제공업체의 의무를 명확히 하고 품질 관리 시스템에 대한 구체적인 요구사항을 제시합니다.

그 중 EU의 와이즈 토토지능법은 또한 "일반 와이즈 토토 대형 모델", "대형 모델을 포함하는 구성 요소" 및 "와이즈 토토 지능 애플리케이션"에 대한 자세한 정의를 제공하고 다양한 공개 의무를 나열합니다. 그러나 위에 언급된 애플리케이션과 모델은 해당 법의 "투명성" 요구 사항을 준수해야 합니다.

마킹과 관련하여 유럽 연합의 와이즈 토토 지능법은 고위험 와이즈 토토 지능 시스템에 CE 마크를 부착해야 한다고 규정하고 있습니다. 제품에 내장된 고위험 와이즈 토토지능 시스템의 경우 물리적 CE 마크를 부착해야 하며 디지털 CE 마크로 보완할 수 있습니다.

위의 비교 분석을 바탕으로 EU의 필수 규정은 행사 전, 행사 중, 행사 후 모든 수준의 감독 측면에서 더욱 구체적이고 엄격합니다. 고위험 와이즈 토토지능은 시장에 출시되기 전에 상세한 기술 문서를 준비하고 규제 요구 사항을 충족하는지 평가하기 위해 국가 기관에 필요한 정보를 제공해야 합니다.

[1]"레벨 분류" 및 "계약" 위험 거버넌스를 병행하는 와이즈 토토지능 규제 시스템 구축 - EU "와이즈 토토지능법"을 분석 대상으로 삼음, "하이난 금융" 2호, 2024, Huang Jingyi, Civil and 중국정치대학교 및 법학대학원 상경학과

4. 결론

심판의 태도로 볼 때 우리나라는 생성 와이즈 토토 지능에 대해 여전히 수용적이고 열린 마음을 갖고 있습니다. 새롭게 떠오르는 법적 문제는 실제로 복잡하고 변경 가능합니다. 실제로 우리나라의 법률에는 특정 결함이 있습니다. 그러나 기업은 우리나라의 현행 법률과 규정을 준수해야 하지만, 규정 준수 문제의 구체적인 실무에서는 여전히 해결해야 할 실질적인 문제가 많이 있습니다. .

2024년 3월 27일 공개 계정 "지적 재산권 프론티어"의 기사 "Zhao Jingtian Zifei"에서 재인쇄됨

이 기사의 내용은 작성자의 개인적인 견해일 뿐이며, 이는 작성자의 법률, 판례 및 자신의 경험에 대한 개인적인 이해를 바탕으로 한 것이며, 그 정확성에 대한 완전한 보장은 없습니다. Shenhao Law Firm의 법률 해석.

이 기사는 원래 Shenhao Law Firm의 변호사가 작성했습니다. 저작권은 서명된 작성자에게 있습니다. 재인쇄는 작성자의 승인을 받아야 합니다. 본 글은 전달 기능을 통해 전체 수정 없이 전달될 수 있으며, 복사나 기타 방법을 통해 전체 또는 일부를 다른 계정에 재게재하는 것은 허용되지 않습니다.

법적 조언이나 기타 전문가 의견이 필요한 경우 관련 자격을 갖춘 전문가에게 전문적인 법적 도움을 구해야 합니다.