금지 목록에 '챗봇 대화'가 들어갔다

법안에 적힌 금지 대상 데이터 목록에 챗봇 대화가 들어 있다. 웹 브라우징 기록, 실시간 위치, 소득과 가족 규모와 건강 상태에 대한 추정치, 인종, 성별, 고용 상태, SNS 활동과 나란히다.

시애틀 시의회가 9월 22일 공정가격투명성법(Fair Pricing and Transparency Act, CB 121267)을 7대 2로 통과시켰다. 개인 데이터를 써서 소비자마다 다른 식료품 가격을 보여 주는 행위를 막는 조례다. 시 단위로는 처음이다. 반대표는 두 명, 법안은 시장 서명을 기다린다.

한 줄 정리

미국의 한 도시가 개인 데이터 기반 가격 개인화를 명시적으로 금지하면서 그 금지 목록에 챗봇 대화 기록을 집어넣었다.

한눈에 보기

막은 것과 열어 둔 것 사이에 선이 있다

이 조례가 할인을 통째로 막지는 않았다. 광범위한 할인 관행을 허용하되 할인 내용을 더 투명하게 밝히라고 요구하고, 소비자를 프로파일링하는 방식에 제한을 걸었다.

그러니까 갈라진 지점은 할인의 유무가 아니라 같은 상품에 사람마다 다른 값을 붙였는가다. 누구나 조건만 맞으면 받는 10% 쿠폰과, 이 사람이 급하고 대안이 없어 보이니 950원을 더 받아도 되겠다는 판단은 기술적으로 이웃해 있고 법적으로는 다른 칸에 놓였다.

미국 연방 차원에서도 같은 방향이 움직인다. 연방거래위원회는 지난달 개인화 가격에 관한 집행 정책 성명 초안을 놓고 공개 의견을 받기 시작했다. 개인 데이터를 알리지 않고 수집하거나 개인화 가격에 쓰는 행위가 불공정·기만행위를 금지한 연방거래위원회법 위반일 수 있다는 입장이다.

왜 하필 식료품인가

이 조례의 사정거리가 넓지는 않다. 대상은 식료품과 생필품이고 온라인 대형 식료품점의 알고리즘 가격 책정을 주로 겨눈다. 개인화 가격 일반을 막는 법이 아니다.

범위를 좁게 잡은 데는 이유가 있다. 값을 비교하고 다른 가게로 옮겨 가기 쉬운 품목이면 개인화 가격이 오래 못 버틴다. 반대로 매주 사야 하고 바꿀 데가 마땅치 않은 품목에서는 같은 기술이 다르게 작동한다. 시애틀의 한 식료품점 노동자는 이 조례를 두고, 가족들이 자기가 공정한 값을 내고 있는지 알 수 있게 됐다고 말했다. 블랙박스라는 단어가 그 문장에 같이 붙었다.

가격 개인화가 규제 대상이 되는 경로가 대체로 이렇다. 기술 자체가 아니라 필수재에서 먼저, 설명 가능성이 없는 쪽에서 먼저 걸린다.

전자 가격표가 같이 도마에 올랐다

AFL-CIO 테크 인스티튜트가 최근 낸 정책 브리프는 전자 가격표(ESL) 쪽을 겨눈다. 개발사들의 마케팅 자료를 역산한 결과로, 미국 식료품점에 전자 가격표가 보편 도입되면 연간 16억~69억 달러의 임금이 사라지고 44,223~191,633개의 일자리가 영향을 받는다고 추산했다.

값을 바꾸는 비용이 0에 가까워진 것이 이 논쟁의 출발점이다. 종이 가격표를 갈아 끼우던 시절에는 하루에 몇 번 값을 바꿀지가 인건비로 제한됐다. 화면으로 바뀌면서 그 제한이 사라졌고, 거기에 개인 데이터가 붙으면 화면마다 다른 값을 띄우는 일까지 가능해진다. 규제는 뒤쪽을 먼저 잡으러 왔다.

위시클레이 관점

한국 소상공인이나 커머스 팀이 시애틀 조례를 지킬 의무는 없다. 그런데 이 법이 금지 목록에 챗봇 대화를 적어 넣었다는 사실은 그냥 지나칠 대목이 아니다. 상담 챗봇 로그를 마케팅 자동화에 되먹이는 설계는 지금 국내 커머스에서도 흔하고, 그 설계가 규제 문장 안에 이름을 갖게 된 첫 사례다.

실무로 옮기면 선 하나를 미리 긋는 일이 된다. 고객 데이터를 누구에게 무엇을 보여 줄지 정하는 데 쓰는 경로와 얼마를 받을지 정하는 데 쓰는 경로를 같은 파이프라인에 섞지 마라. 추천, 노출 순서, 재입고 알림은 앞쪽이다. 이탈 확률이 높아 보이는 고객에게만 낮은 값을 띄우는 리텐션 로직은 뒤쪽이다. 지금은 두 로직이 같은 테이블을 보고 있어도 아무도 뭐라 하지 않는다. 나중에 갈라 달라는 요구가 오면 뜯는 비용이 만든 비용보다 크다.

한 가지 더 챙길 것이 있다. 개인화 가격이 막혀도 개인화 할인은 남는다는 사실이다. 시애틀이 열어 둔 자리가 여기고 실제로 많은 커머스가 이미 이 자리에서 돌아간다. 다만 열어 둔 대가로 할인 조건을 더 드러내라는 의무가 붙었다. 쿠폰의 적용 조건을 고객이 읽고 이해할 수 있게 적어 두는 일은 규제 대응이기 전에 반품과 문의를 줄이는 작업이다. 지금 조건이 흐릿한 프로모션이 몇 개인지부터 세어 보면 할 일이 나온다.

메릴랜드와 뉴저지와 코네티컷이 주법으로, 시애틀이 조례로, 연방거래위원회가 집행 정책으로 각각 붙고 있다. 방향은 한쪽이다. 개인화 가격을 지금 제품 로드맵에 넣는다면 그 기능의 수명을 짧게 잡는 편이 안전하다.

참고

• 시애틀 공정가격투명성법 의안 기록 CB 121267 (Seattle City Council)
• Seattle becomes first city to ban surveillance pricing (Supermarket News)
• 법안 통과에 대한 소비자단체 성명 (Consumer Reports Advocacy)