초록
생성형 인공지능을 활용한 금융상품 추천 서비스의 도입이 본격화되고 있으나, 그로부터 발생하는 법적 책임의 구조에 관한 학문적 논의는 충분히 축적되지 않았다. 본 논문은 한국 금융소비자보호법 체계 하에서 생성형 AI의 기술적 특성인 확률적 출력, 맥락 의존성, 환각이 적합성 원칙(제17조), 설명의무(제19조), 부당권유 금지(제21조)의 적용에 어떠한 구조적 간극을 야기하는지를 분석한다.
본 논문의 핵심 논지는 의무 이행의 평가 단위를 출력 단위에서 시스템 단위로 이동시킬 필요가 있다는 점이다. 특히 설명의무에 관하여는, 출력 차원의 설명가능성이 구조적으로 제한되는 영역에서 거버넌스 차원의 설명이 자기결정권 보장이라는 입법 취지를 달성하기 위한 기능적 등가물로 작동할 수 있음을 제시한다. 이러한 접근은 EU 인공지능법, 미국 SEC 규칙안, 싱가포르 FEAT 원칙 등 해외 규제 동향과 정합적이다.
본 논문은 이러한 분석 위에서 학습 가능성(trainability)을 주의의무의 핵심 구성요소로 제시하며, 이를 매개로 사업자의 거버넌스 성숙도에 따라 책임을 차등화하는 단계적 주의의무 기준을 개선방안으로 제안한다. 이는 「금융회사의 지배구조에 관한 법률」상 내부통제기준의 운영 원리와 동일한 발상에 기초하며, 절차적 주의의무 법리의 자연스러운 확장에 해당한다.
Generative AI-based financial product recommendation services are entering the market, yet scholarly discussion on the structure of the legal liability arising from such services remains underdeveloped. This paper analyzes how the technical characteristics of generative AI — probabilistic outputs, context sensitivity, and hallucination — create structural gaps in the application of the principal duties under Korea’s Financial Consumer Protection Act: the suitability principle (Article 17), the duty to explain (Article 19), and the prohibition of unfair solicitation (Article 21).
The central thesis is that the unit of evaluation must shift from the output level to the system level. With particular reference to the duty to explain, the paper argues that governance-level explanation — disclosure of the system’s training and evaluation profile, known limitations, and verification pathways — operates as a functional equivalent for safeguarding the consumer’s right to self-determination where output-level explainability is structurally constrained. This approach is consistent with comparative developments in the EU, the United States, and Singapore.
Building on this analysis, the paper advances trainability — the capacity of the model itself to be updated through operational experience — as a core component of the duty of care, and proposes a graduated standard of care that differentiates liability according to operators’ governance maturity.
