다크패턴의 비밀

기만적인 온라인 설계는 어떻게 우리의 선택을 조종하는가

해리 브리그널 저자(글) · 심태은 번역

어크로스 · 2024년 04월 30일

책 소개

수상내역/미디어추천

• 미디어 추천도서 > 주요일간지소개도서 > 경향신문 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 동아일보 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 매일경제 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 매일경제 > 2024년 5월 2주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 문화일보 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 조선일보 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 중앙일보 > 2024년 5월 1주 선정
• 미디어 추천도서 > 주요일간지소개도서 > 한국일보 > 2024년 5월 1주 선정
• 교보문고 추천도서 > 북모닝 추천도서 > 이달의 추천도서 > 2024년 7월 선정

나도 모르는 새 구독료가 빠져나가고 있다는 사실을 뒤늦게 알게 된 적 있는가? ‘한정’, ‘마감’ 알림에 조급해하며 결제 버튼을 누른 적은? 처음 제시된 가격보다 최종 구매 가격이 더 비싸다는 걸 알아챘다면? 지금껏 더 꼼꼼히 살펴보지 않은 자신을 탓했다면, 이제는 ‘다크패턴’의 세계를 제대로 알아야 할 때다.
다크패턴이란 사용자의 자율성, 의사결정, 선택을 방해하거나 손상하도록 설계된 사용자 인터페이스(User Interface)를 뜻한다. 이 책 《다크패턴의 비밀》의 저자 해리 브리그널은 2010년 ‘다크패턴’을 처음 정의해 공론화한 장본인이다. 이 책에서 그는 에어비앤비 같은 글로벌 숙박 예약 사이트부터 대선 후보의 후원금 모금까지, 온라인 비즈니스가 트릭을 설계하고 사용자를 현혹하는 방법을 낱낱이 공개한다. 특히 ‘인간은 합리적이지 않고 편향된 사고와 의사결정을 내린다’는 행동과학과 인지과학 연구 결과가 눈부신 기술 발전과 결합하면서 어떻게 악용되는지 밝히고 있다.
또한 EU와 미국 등 선진국의 다크패턴 관련 법률까지 풍부하게 살펴보고 있어 다크패턴 규제가 중요한 경제적·사회적 이슈로 떠오른 우리에게도 가치 있는 자료를 제공한다. 다양한 사례와 연구를 기반으로 쓰인 이 책은 다크패턴에 대한 가장 신뢰할 수 있는 지침서다.

작가정보

저자(글) 해리 브리그널

(Harry Brignull)
독립 연구자, UX 전문가, 컨설턴트. 인지과학 박사학위를 받았고 서섹스 대학교와 노팅엄 대학교에서 학술 연구원으로 일했다. 스포티파이, 피어슨, HMRC(영국 국세청), 텔레그래프 등 다양한 조직에서 일해온 탁월한 사용자 경험 전문가다. 2010년 온라인에서 눈속임과 착각으로 사용자를 속여 구매를 유도하는 기만적인 설계를 '다크패턴'이라고 처음 정의해 이 문제를 공론화했다. 오늘날 관련 연구에서 널리 쓰이는 여러 용어 역시 그가 만든 것이다.
다크패턴이 사용자에게 미치는 부정적 영향을 인식한 그는 웹사이트 deceptive.design을 개설해 다크패턴의 비윤리적 관행을 폭로하고 대중을 교육하며 투명한 디지털 환경을 조성하기 위한 다양한 노력을 펼치고 있다. 니콜라스 대 눔(Noom Inc.), 아레나 대 인튜이트 등 다수의 다크패턴 관련 소송에 전문가 증인으로 참석하기도 했다.

번역 심태은

​​​경희대학교에서 호텔경영을 공부하고 한국외국어대학교 통번역대학원 한영과를 졸업했다. 다년간 통번역가로 활동했으며, 현재 번역에이전시 엔터스코리아에서 전문 번역가로 활동 중이다. 《읽자마자 IT 전문가가 되는 네트워크 교과서》, 《UX 라이터의 글쓰기 수업》, 《공감의 디자인》, 《구글은 어떻게 디자인하는가》 등의 역서가 있다.

목차

• 추천의 말
  프롤로그
  
  1부 기만적 눈속임은 어떻게 만들어지는가
  1장 다크패턴을 이해하기 위해 알아야 할 용어들
  2장 다크패턴은 어떻게 널리 퍼졌나
  3장 경제적 인간에서 조종당하는 인간으로
  
  2부 다크패턴이 노리는 인간의 8가지 취약성
  4장 제대로 보지 못한다: 지각의 취약성
  5장 제대로 읽지 않는다: 이해의 취약성
  6장 비합리적으로 행동한다: 의사결정의 취약성
  7장 예상한 대로 될 거라 믿는다: 기대치 이용하기
  8장 시간과 주의력을 쉽게 빼앗긴다: 자원 고갈과 압박
  9장 거부할 수 없는 상황에 가두기: 강제와 차단
  10장 부정적 감정을 피하려 한다: 감정의 취약성
  11장 인간은 도파민의 노예다: 중독
  12장 설득인가, 조종인가
  
  3부 다크패턴의 여러 유형
  13장 다크패턴의 분류 체계
  14장 은닉
  15장 긴급성
  16장 미스디렉션
  17장 사회적 증거
  18장 희소성
  19장 방해
  20장 행동 강요
  21장 다크패턴끼리 결합하는 경우
  
  4부 당신이 생각하는 것보다 더 나쁘다
  22장 다크패턴이 내게서 빼앗아가는 것
  23장 어떤 사람이 더 취약한가
  24장 시장을 혼란에 빠트리는 다크패턴
  
  5부 어떻게 벗어날 것인가
  25장 지금까지의 노력이 실패한 이유
  26장 규제의 중요한 역할
  27장 EU의 관련 법률
  28장 미국의 관련 법률
  29장 규제는 제대로 작동하고 있는가?
  
  6부 앞으로 나아갈 길
  30장 EU에서 일어나는 변화
  31장 미국에서 일어나는 변화
  32장 다크패턴을 학습하는 AI?
  33장 기술적 디스토피아가 다가올 위험성
  34장 나쁜 넛지가 되지 않게
  
  에필로그
  감사의 말
  주

추천사

• 구본권 (IT 전문 저널리스트, 〈한겨레〉 사람과디지털연구소장)

  누구나 날마다 스마트폰을 몇 시간씩 들여다보는 세상에서 스크린 설계자들은 강력한 힘을 갖게 됐다. 사용자 경험 디자이너가 직접 고발하는 이 책은 기만적 설계에 관한 다양한 사례와 연구를 소개한, 이 분야의 지침서다. 이용자의 선택에 긍정적 혹은 부정적으로 영향을 끼칠 ‘넛지’를 궁리하는 기획자와 디자이너는 자신들의 직무가 갖는 힘과 윤리성에 대한 고민을 만날 책이다. 스마트폰과 앱을 하루 몇 시간씩 들여다보는 이용자들에게는 속임수에 빠지지 않고 스스로를 방어할 지혜와 비결을 알려주는 가이드다.

책 속으로

항공권과 약관을 잠시 생각해보자. 여기에는 출국 라운지에 들어가기 전에 향수, 미용 제품, 주류 등을 보며 쇼핑 구역에서 시간을 보내야 한다는 말은 한마디도 없다. 그리고 출발 시간보다 최소 2시간 전에 도착하는 것이 좋다는 공항의 안내는 또 어떤가. 시간적인 효율성이 정말로 최우선 순위였다면 보안 검색대와 출국 라운지 사이에 강제 경로 매장을 필수 단계로 넣지 않았을 것이다.
이는 기업이 디자인을 활용하여 소비자를 강제하고 조종하는 방법을 보여주는 전형적인 사례이다. 또한, 논란의 여지는 다소 있겠지만, 약간 기만적이다. 공항이라는 기업이 강제 경로 매장의 수익 창출 목적을 제대로 알고 있으면서도 여행객에게 2시간 일찍 공항에 도착하라고 할 때 이를 밝히지 않고, 매장을 건너뛸 지름길도 제공하지 않기 때문이다. -20쪽

조금 더 뻔뻔하게 인간의 지각력을 이용하는 방법은 사용자의 지각 영역에서 무언가를 아예 없애버리는 것이다. 사람들이 어떤 내용을 이해하는 것을 원하지 않으면 그냥 페이지에서 보여주지 않고, 다른 것을 암시하는 링크나 버튼 뒤에 숨겨놓는다. 이는 쿠키 동의 대화창에서 흔하게 사용된다. 처음에 사용자가 보는 화면에서는 모든 형태의 추적을 거부할 수 있는 버튼이 있을 가능성이 보이지 않는다. 2020년에 나우웬스 등은 이런 방식의 영향을 측정하기 위한 연구를 진행했다. 40명의 참여자가 온라인 현장 실험에 참여했다. ‘모두 거부’ 버튼을 동의 팝업의 첫 페이지에서 삭제하자, 동의율이 23%p 증가했다 -58쪽

트럼프의 선거운동에서는 다양한 기만적 패턴이 적용되었는데, 그중에 속임수 표현도 있다. 2021년 3월에 나는 〈뉴욕타임스〉의 셰인 골드마허 기자의 연락을 받았다. 그는 트럼프 선거자금 후원 포털에서 심각한 기만적 패턴 사례를 발견했고, 이를 대중에 공개하기 전에 나와 논의하고 싶어 했다. 골드마허의 기사에 더 자세하게 설명되어 있으니, 여기에서는 요약만 하겠다. 대개 사용자는 이메일 캠페인을 통해 선거자금 후원 포털로 유입되었다. 시간이 지나면서 트럼프 선거운동 본부에서는 기만적 패턴의 강도를 높였다. -161쪽

2023년 3월에 FTC는 어려운 취소 기만적 패턴에 관한 새로운 규정을 발표했다. 리나 M. 칸 FTC 위원장은 “제시된 규정에 따르면 기업은 구독 서비스에 가입하는 것만큼 해지하는 것도 쉽게 만들어야 합니다”라고 말했다. 심지어 바이든 대통령도 “FTC가 기업에 시정을 요구한 것을 지지합니다. 서비스 가입보다 해지가 더 어려워서는 안 됩니다”라는 내용의 트윗을 게시했다. 놀랍게도 이런 일을 겪고서도 아마존 프라임 구독 해지는 여전히 어렵다. 아마존이 그렇게 많은 돈을 소송 비용에 투입하고 이만한 위험을 감수하고 있다는 점은 이 행위로 얼마나 많은 이득을 얻고 있는지를 시사한다. -194쪽

이 글을 쓰는 현재, 이런 도구는 상당히 기초적인 수준이지만 AI의 빠른 가속화를 보면 곧 널리 퍼질 것으로 보인다. AI 도구는 학습 데이터에 의존한다. 미드저니는 웹상의 수백만 개의 이미지로 AI를 훈련하고, 챗GPT는 수백만 편의 기사로 학습한다. 오늘날 웹사이트와 앱에는 기만적 패턴이 포함된 것이 많으므로, 새로운 UI 생성 AI 도구가 이를 바탕으로 학습한다면, 똑같은 종류의 기만적 패턴을 다양하게 재생산할 것이다. 이를 막기 위해 특별한 노력을 기울이지 않는다면 말이다. -291쪽

출판사 서평

탁월한 마케팅 전략인가, 소비자 기만인가
‘다크패턴’을 처음 정의한 해리 브리그널이 직접 밝히는
온라인 세상의 사기꾼, ‘다크패턴’의 모든 것

나도 모르는 새 구독료가 빠져나가고 있다는 사실을 뒤늦게 알게 된 적 있는가? ‘한정’, ‘마감’ 알림에 조급해하며 결제 버튼을 누른 적은? 처음 제시된 가격보다 최종 구매 가격이 더 비싸다는 걸 알아챘다면? 지금껏 더 꼼꼼히 살펴보지 않은 자신을 탓했다면, 이제는 ‘다크패턴’의 세계를 제대로 알아야 할 때다.
다크패턴이란 사용자의 자율성, 의사결정, 선택을 방해하거나 손상하도록 설계된 사용자 인터페이스(User Interface)를 뜻한다. 사용자가 본인의 의사와 상관없이 제품을 구매하게 만드는 기업들의 기만적 설계는 오프라인 매장에도 오래전부터 있었다. 검색대를 통과해 비행기를 타기 전 여행객들이 반드시 거치도록 만들어진 공항 쇼핑몰이 대표적인 예다.
온라인 세계에서는 이런 조작이 더욱 손쉽고 광범위하게 이루어진다. 소비생활에서 온라인 쇼핑이 압도적 비중을 차지하고, 구독 경제, 비대면 금융거래 등 새로운 형태의 전자상거래가 끊임없이 생겨나면서 다크패턴도 만연하고 있다. 2022년 유럽 의회가 수행한 연구에 따르면 검토한 웹사이트와 앱의 97%에서 하나 이상의 다크패턴을 적용하고 있었으며, 2020년 덴마크·노르웨이·스웨덴·영국·미국의 뉴스 및 잡지 웹사이트 300곳의 쿠키 동의 알림을 분석한 결과 99%가 다크패턴을 사용하고 있음이 밝혀졌다. (211쪽)
이 책 《다크패턴의 비밀》의 저자 해리 브리그널은 2010년 ‘다크패턴’을 처음 정의해 공론화한 장본인이다. 이 책에서 그는 에어비앤비 같은 글로벌 숙박 예약 사이트부터 대선 후보의 후원금 모금까지, 온라인 비즈니스가 트릭을 설계하고 사용자를 현혹하는 방법을 낱낱이 공개한다. 특히 ‘인간은 합리적이지 않고 편향된 사고와 의사결정을 내린다’는 행동과학과 인지과학 연구 결과가 눈부신 기술 발전과 결합하면서 어떻게 악용되는지 밝히고 있다. 또한, EU와 미국 등 선진국의 다크패턴 관련 법률까지 풍부하게 살펴보고 있어 2025년 전자상거래법 개정으로 다크패턴 규제가 중요한 사회·경제적 이슈로 떠오른 우리에게도 가치 있는 자료를 제공한다. 다양한 사례와 연구를 기반으로 쓰인 이 책은 다크패턴에 대한 가장 신뢰할 수 있는 지침서다. 이 책의 원서는 내용의 진정성을 유지하고 책이 지향하는 목적에 충실하기 위해 해리 브리그널이 독립 출판물로 직접 출간했다.

“이것은 넛지가 아니라 다크패턴입니다”
인지과학, 행동과학이 밝혀낸 인간의 취약성은
어떻게 다크패턴에 악용되는가

리처드 탈러와 캐스 선스타인이 제안한 개념인 ‘넛지’는 팔꿈치를 툭 치듯 부드럽게 타인의 행동을 유도하는 것을 뜻한다. 이후 직접적이지 않게 소비자의 구매를 이끌어낸다는 ‘넛지 마케팅’이 크게 유행했다. 사용자가 알아채지 못하게 행동을 바꾼다는 점에서 넛지와 다크패턴을 혼동하는 사람들이 많다. 그렇다면 둘 사이에는 어떤 차이가 있을까?
넛지는 인간의 행동을 올바른 쪽으로 유도하고자 하되 선택과 결정에 직접 개입하지 않지만, 다크패턴은 그 목적이 오직 기업의 이윤 창출에 있으며, 기업의 의도에 맞게 행동하도록 사용자의 생각과 행동을 강제하고 조종한다는 점이다. 다크패턴을 판단하는 핵심은 자율성, 즉 사용자가 외부의 영향과 관계없이 자기 선택의 본질을 제대로 이해하고 자기 목표대로 행동할 수 있는지에 있다. 넛지와 다크패턴 둘 다 인간이 ‘비합리적으로 행동하고 때로는 비이성적인 선택과 의사결정을 내린다’는 인지과학과 행동경제학의 연구 결과를 이용하지만, 그 목적에는 이처럼 커다란 차이가 있는 것이다.
이 책에서는 ‘착취적 디자인 전략’이라 부르는 다크패턴 설계가 인간의 여러 취약성을 어떻게 이용해서 온라인 설계에 반영하는지 다양한 사례를 통해 보여준다. 색상대비가 상대적으로 낮은 부분에는 주의를 기울이지 않아 메시지를 놓친다거나 스크린의 글을 꼼꼼히 보지 않고 훑어보기로 읽는다는 인간의 지각적 특징부터, 디폴트 효과·앵커링·프레이밍·사회적 증거·희소성 효과·매몰 비용 오류 등 인지 편향을 일으키는 심리적 특성까지 다루고 있어 독자들은 자신도 몰랐던 자신의 취약함이 무엇인지, 그로 인해 지금까지 어떻게 다크패턴에 당해왔는지 알게 해준다.

《블랙 스완》 작가가 테슬라에 항의한 까닭은?
트럼프의 선거 후원금은 왜 그토록 환불 요구가 높았나
때와 장소를 가리지 않고 만들어지는 다크패턴의 사례들

“이 구매는 정말 의도치 않게 이루어졌습니다. 4333달러나 되는 구매 금액에 확인이나 비밀번호 입력 절차 등이 없는 앱은 본 적이 없습니다. (…) 아마존에서 6.99달러짜리 킨들 책을 사는 것도 이것보단 어렵고, 실수로 구매했을 때 구매 철회도 가능합니다. (…) 나는 귀사의 그 멍청한 소프트웨어를 사용한 적도 없습니다.”

세계적 베스트셀러 《블랙 스완》의 저자 나심 니콜라스 탈레브는 2020년 테슬라에 보낸 메일 내용을 자신의 트위터에 게시했다. 테슬라는 모바일 앱으로 차량 업그레이드를 구매할 수 있는데, 앱이 잘못 눌려 자신의 의지와 상관없이 업그레이드가 결제된 것이다. 나심 니콜라스 탈레브는 테슬라에 환불을 요청했지만, 테슬라는 ‘결제 화면에 업그레이드 환불 불가 문구가 있다’며 거부했다. 문제는 이 환불 불가 문구가 사용자가 매우 알아보기 어렵게 되어 있다는 점이었다. (158쪽 그림) 이는 다크패턴의 여러 유형 중 ‘시각적 방해’에 해당한다. 사용자가 페이지에서 보일 거라고 합리적으로 기대하는 내용을 숨기는 행위이다.
다크패턴이 기업의 이윤을 위해서만 사용되는 것은 아니다. 놀랍게도 대선 후보의 선거자금 모금에서도 다크패턴이 사용되었다. 지난 미 대선 당시, 트럼프 선거자금 후원 포털에서는 일시 후원이 아닌 ‘매월 후원’을 사전 선택해두어 주의를 기울이지 않으면 자신도 모르게 매월 후원금이 나가는 형태를 만들었다. 효과가 좋다는 점을 알게 되자 선거운동 본부는 트럼프의 생일에 후원금을 더 내는 사전 선택란을 추가로 만들었다. 기만적 패턴을 가속화한 선거운동 본부는 애국을 강조한 메시지를 강조하고 후원금 관련 내용을 눈에 덜 띄게 만드는 방식으로 사용자가 주의를 기울이는 것을 방해했다(시각적 방해와 속임수 표현). 이처럼 트럼프 선거운동 본부는 다크패턴을 활용해서 수많은 후원금을 거둬들였지만, 후원금이 빠져나간다는 사실을 몰랐던 지지자들이 뒤늦게 환불 요청을 하는 바람에 트럼프 선거운동 본부의 환불 금액은 1억 2200만 달러에 이르렀다. 2100만 달러인 바이든 선거운동 본부에 비해 6배 가까이 높은 금액이었다. 이 사례에서 볼 수 있듯, 다크패턴은 온라인 쇼핑몰에서 물건을 구매하는 일뿐 아니라 우리가 접속하는 곳이라면 어디든지 숨어 있다. 하루에도 몇 시간씩 스마트폰을 손에서 놓지 못하는 현대인들이 다크패턴에 취약할 수밖에 없는 이유다.

AI가 다크패턴을 학습한다?
기술이 발전할수록 더욱 교묘해질 다크패턴

그렇다면 다크패턴은 사용자에게 어떤 영향을 미칠까? 금전적 손실을 끼치거나, 시간을 낭비하게 하거나, 원치 않는 계약을 체결하게 하거나, 개인정보를 허락 없이 이용해 프라이버시를 침해할 수 있다. 무엇보다 큰 문제는 사용자가 최선의 이익을 위한 결정을 내리는 것을 방해하고 생각할 자유를 빼앗아간다는 점이다. 특히 AI 기술의 급격한 발전은 잘못된 정보, 허위 정보 생산이 훨씬 쉬운 환경을 만들었다. 이미 우리는 딥페이크로 만들어진 거짓 영상을 충격 속에서 보고 있다. AI는 디자이너가 다크패턴을 만드는 일에 사용될 수도 있다. 디자이너가 직접 만들지 않더라도, 학습 과정에서 이미 만들어진 다크패턴을 학습하게 되면 디자이너의 의도와 상관없이 훨씬 발달된 형태의 다크패턴을 만들어낼 수도 있다.
인기 있는 앱이나 웹사이트를 이용하면 그곳에서 클릭하거나 스크롤한 모든 세부 정보가 기록되고 분석된다. 매일같이 사용자의 행동이 추적되며, 이를 통해 무엇이 사용자를 클릭하게 만들거나 상품을 구매하거나 약관에 동의하게 만드는지 알게 되는 것이다. 이러한 연구는 사용자에게 좋은 영향을 끼칠 수도, 해를 끼칠 수도 있다. 이는 기업의 의도에 따라 달라진다.
기술은 무엇이 좋고 나쁜지 판단하지 않는다. 그저 수치적으로 성과가 좋은 것을 알려줄 뿐이고, 이를 선택하는 것은 설계자의 몫이다. AI를 활용해 개별화, 맞춤형 설계가 더욱 용이해질수록 설계자조차 의도하지 않았던 다크패턴이 우리를 더욱 교묘하게 공략할 것이다. 우리가 다크패턴에 더 주목하고 알아야 하는 이유가 바로 여기에 있다.

기본정보

ISBN	9791167741493
발행(출시)일자	2024년 04월 30일
쪽수	344쪽
크기	142 * 211 * 27 mm / 623 g
총권수	1권
원서(번역서)명/저자명	Deceptive Patterns/Brignull, Harry

Klover

[la*******]

내용은 쉬우나 각 챕터의 구성은 기대에 미치지 못하고 조금 실망했습니다. 웹 자료로도 충분히 책의 내용을 쉽게 접근할 수 있으니까요. 많이 아쉽습니다.

[bu******]

잘읽었어요 도움이 많이 됩니다

[ha********]

필요했던 내용을 잘 정리해둔 책이라 유용하게 사용하고 있습니다. 추천드려요.

[te*****]

잘 받았습니다. 감사합니다.!!^.^~~

[gk********]

다크패턴의 비밀 다크패턴의 비밀

[wi*******]

2010년에 저자에 의해 정의된 <다크패턴> 은 인터넷 문화가 되면서 소비자의 돈을 더 취하고자 하는 많은 기업들의 판매 촉진 속에 더 발전해 가고 있다. 일종의 소비자 기만술인 것이다.
많은 이들의 예상 못한 비용의 손해와 부당함을 해소하고자 하는 노력에 선진국들은 조금씩 개선되고 있지만 많은 나라에서 개선되지는 못하고있다.

생각하지 못한 소비자의 손해가 일어나므로 국가석인 개선, 소비자의 개선을 향한 의지로 기업들이 소비자를 기만하며 취하는 불법적인 이익은 없어져야 할 것이다.

[te*****]

잘 받았습니다. 잘 쓰겠습니다.!!^.^~~

[wi*******]

기업은 소비자를 현혹시켜 구매를 유도하고, 구독서비스를 신청하게 만드는데, 그 방법들에 대해 이야기하고 있다. 알면서도 혹하는 우리의 구매 '다크패턴', 이번 기회에 모두 정리하고, 추후에는 현혹되지 말아야 할 터인데...

[ch****]

유익한 내용이 많았어오

[ti******]

너무 좋아요 ㅎㅎ추천해요!!