AI가 결정하는 개인의 금융 운명, 소비자 보호는 어디까지?
인공지능(AI)과 알고리즘이 개인의 금융 생활을 결정하는 데 점점 더 깊숙이 개입하고 있다. 은행은 대출 심사에 AI를 활용하고, 기업은 채용 과정에서 지원자를 평가하는 데 AI를 도입하고 있으며, 보험사는 AI를 통해 보험료를 산정한다.
AI가 공정성과 정확성을 보장한다면 금융 접근성을 확대하고 인간의 편견을 줄이는 긍정적인 역할을 할 수 있다. 그러나 그렇지 않을 경우 소비자에게 심각한 재정적 피해를 초래할 가능성이 있다는 분석이 나왔다.
AI가 대출 신청을 거부할 경우, 신청자는 그 결정이 어떤 근거로 내려졌는지 알기 어렵다. 소비자단체 컨슈머 리포트의 금융정책 옹호자인 척 벨은 "AI와 기계 학습 모델은 소셜미디어와 스마트폰 앱 등 다양한 경로에서 데이터를 수집하지만, 소비자들은 자신과 관련된 어떤 정보가 활용되고 있는지조차 알지 못한다"고 지적했다. 심지어 잘못된 정보가 반영될 가능성도 있으며, 이로 인해 부당한 결정이 내려질 위험도 크다.
AI의 의사 결정 과정이 불투명하다는 점도 문제로 꼽힌다. 소비자 연맹 CEO 수전 와인스톡은 "잘못된 데이터가 입력되면 잘못된 결과가 나올 수밖에 없다"며 "소비자는 자신이 부당한 결정을 받았는지도 모른 채 금융적 불이익을 감수해야 할 수 있다"고 설명했다.
AI 알고리즘이 특정 계층에 불이익을 줄 가능성에 대한 우려도 제기된다. 지난해 컨슈머 리포트와 소비자 연맹은 미 소비자금융보호국(CFPB)에 AI가 특정 집단에 대한 차별을 초래할 위험이 있다는 입장을 전달했다.
대표성이 부족하거나 과거의 편향성을 반영한 데이터는 유색 인종이나 저소득층의 금융 접근성을 제한할 가능성이 크다. 예를 들어, 대출 심사 과정에서 특정 지역의 우편번호가 평가 요소로 활용될 경우, 이는 단순한 지리적 요소가 아니라 인종, 소득 수준, 성별, 종교 등을 간접적으로 판단하는 기준이 될 수 있다.
벨은 "이러한 '프록시 차별'이 발생하면 보호받아야 할 계층이 부당한 대우를 받을 수 있지만, 기업들은 이를 제대로 인식하지 못하는 경우가 많다"고 지적했다.
소비자들은 AI 기반 금융 의사 결정에 대해 큰 불안감을 갖고 있는 것으로 나타났다. 컨슈머 리포트가 2024년 실시한 설문조사에 따르면, 응답자의 72%는 AI가 영상 면접을 분석하는 것에 대해, 69%는 AI가 임대 심사를 진행하는 것에 대해, 66%는 AI가 대출 심사를 담당하는 것에 대해 우려를 나타냈다.
또한, AI가 채용 과정에 활용될 경우 83%는 자신의 어떤 정보가 분석 대상이 되는지 알고 싶다고 답했으며, 93%는 잘못된 정보가 사용될 경우 이를 정정할 기회를 원한다고 밝혔다.
AI의 판단이 항상 신뢰할 만한 것도 아니다. 매사추세츠 공과대학(MIT)은 최근 보고서에서 "생성형 AI는 사실처럼 보이는 허위 데이터를 만들어낼 위험이 크다"며 "이러한 오류는 너무 빈번하게 발생해 ‘AI 환각(hallucination)’이라는 용어까지 생겼다"고 경고했다.
소비자 보호 단체들은 AI 의사 결정의 투명성을 높이고 공정성을 보장하기 위한 법과 규제의 필요성을 강조하고 있다. 벨은 "AI가 소비자에게 유익한 방향으로 활용되도록 공정성과 책임성에 대한 논의가 필요하다"며 "소비자는 AI가 사용되고 있는지 명확히 알아야 하고, AI의 결정이 부당하다고 느낄 경우 사람이 직접 검토할 수 있어야 한다"고 주장했다.
컨슈머 리포트는 AI 관련 규제 방안을 제안하며 AI 사용 여부 명확히 공개, AI 결정 근거 제공, 불투명한 AI 활용 제한, AI 차별 방지, 데이터 사용 제한, 개인 정보 보호 강화 등의 내용을 포함해야 한다고 밝혔다.
유럽연합(EU)은 2023년 'AI법(AI Act)'을 도입해 AI 시스템의 안전성과 투명성을 보장하고 있다. 와인스톡은 이에 대해 "미국도 같은 수준의 규제를 도입해야 한다"며 "유럽보다 뒤처질 이유가 없다. AI는 소비자의 권리를 보호하는 방향으로 책임감 있게 활용돼야 한다"고 강조했다.
Copyright@KSEATTLE.com
(Photo: Adobe Stock)
