AI 신용평가 면책 법안과 온라인 카지노 한도 알고리즘, 해외에서 벌어지는 두 논쟁이 겹치는 지점

최근 유럽과 미국 일부 주(州)에서 두 가지 성격이 달라 보이는 규제 논쟁이 거의 동시에 진행되고 있다. 하나는 AI 기반 신용평가 시스템이 잘못된 판단을 내렸을 때 사업자의 책임을 어디까지 물을 수 있느냐, 즉 이른바 'AI 면책' 조항을 둘러싼 법안 논쟁이다. 다른 하나는 온라인 도박 사업자가 이용자의 베팅 한도를 자동으로 조정하는 '한도 알고리즘'이 소비자 보호 장치인가 아니면 손실 유도 장치인가 하는 규제 논쟁이다. 언뜻 무관해 보이지만, 두 사안은 '자동화된 의사결정의 책임을 누가 지는가'라는 동일한 뿌리에서 갈라져 나온 문제다.

먼저 AI 신용평가 면책 쪽을 보자. 금융회사가 대출 심사나 신용카드 발급에 머신러닝 모델을 쓰는 것은 이미 보편적이다. 문제는 이 모델이 특정 집단에 불리한 결과를 반복적으로 내놓거나, 설명 불가능한 이유로 승인을 거절할 때다. 일부 입법안은 '사업자가 합리적 검증 절차를 거쳤다면 알고리즘의 개별 오류에 대해 면책된다'는 취지의 조항을 담고 있는 것으로 알려졌다. 산업계는 혁신을 위해 필요하다고 주장하는 반면, 소비자·시민단체는 이것이 '책임 회피용 방패'가 될 수 있다고 반발한다. 법적으로 보면, 면책의 범위를 어디까지 인정할지는 결국 '합리적 검증'의 기준을 얼마나 엄격하게 성문화하느냐에 달려 있다. 이 단서가 느슨하면 면책은 사실상 무제한에 가까워진다.

같은 논리 구조가 온라인 카지노의 한도 알고리즘에서도 반복된다. 사업자들은 이용자의 베팅 패턴을 분석해 한도를 자동 조정하는 시스템을 '책임 있는 게이밍(responsible gaming)' 장치라고 홍보한다. 하지만 규제 당국과 일부 연구자들은 동일한 데이터가 반대 방향으로도 쓰일 수 있다는 점을 지적한다. 즉, 이탈하려는 이용자를 붙잡거나 손실이 큰 이용자에게 특정 조건을 노출하는 방식으로 활용될 여지가 있다는 것이다. 여기서도 핵심 질문은 같다. 알고리즘이 낸 결과에 문제가 생겼을 때, 사업자는 '시스템이 판단한 것'이라며 책임에서 비켜설 수 있는가. AI 신용평가 면책 논쟁과 판박이다.

해외 반응은 국가별로 결이 다르다. 유럽 쪽은 개인정보와 자동화 의사결정에 대한 규제 전통이 강해 면책보다는 설명 의무와 이의 제기권을 강화하는 방향으로 무게를 두는 흐름으로 보인다. 반면 미국은 주(州)별로 편차가 크고, 산업 진흥과 소비자 보호 사이에서 논의가 엇갈리는 것으로 알려졌다. 한국 독자에게 이 두 논쟁이 의미 있는 이유는 분명하다. 국내에서도 신용평가 고도화와 온라인 베팅 규제는 이미 현안이며, 해외에서 먼저 정리되는 '알고리즘 책임 원칙'은 향후 국내 입법과 판례의 참고점이 될 가능성이 높기 때문이다. 다만 현재로서는 어느 방향으로 수렴할지 단정하기 어렵다. 각국 법안 문구가 아직 확정되지 않았고, '합리적 검증'이나 '책임 있는 게이밍' 같은 개념의 실제 기준도 계류 중이다. 개인적 소신을 밝히자면, 면책 조항 자체보다 그 예외 요건을 얼마나 구체적으로 쓰느냐가 이 논쟁의 실질을 결정할 것이라고 본다. 결국 독자로서 지켜봐야 할 지점은 '면책이 되느냐'가 아니라 '면책이 안 되는 경우를 얼마나 명확히 규정하느냐'다.