디지털생활연구소디지털생활연구소

2026-09-02 · 하윤재 (선임연구원)

알고리즘 윤리란 무엇인가, 다크패턴 93% 시대에 추천·가격·채용을 움직이는 알고리즘에 휘둘리지 않는 생활 4단계

#디지털생활#알고리즘윤리#다크패턴#추천알고리즘#알고리즘편향#알고리즘투명성#전자상거래법#ai채용편향#디지털리터러시

알고리즘 윤리란 무엇이고 왜 내 생활과 상관있나요

알고리즘 윤리의 출발점은 "알고리즘은 중립적이지 않다"는 사실을 인정하는 것입니다. 한국소비자원이 38개 온라인 쇼핑몰을 조사했더니 다른 소비자의 활동을 알리는 장치가 93.4%, 조바심을 자극하는 시간 제한 알림이 75.0%에서 발견됐습니다. 우리가 매일 보는 추천 목록과 가격, 심지어 채용 합격 여부까지 사람이 아니라 알고리즘이 먼저 정렬해 보여줍니다. 그 정렬 기준이 이용자가 아니라 판매자와 광고주의 이익에 맞춰져 있을 때, 그것을 바로잡자는 논의가 알고리즘 윤리입니다. 결론부터 말하면 이건 개발자만의 숙제가 아니라, 화면 앞에 앉은 이용자의 권리 문제입니다.

목차

환불 버튼을 3분 동안 찾은 어느 저녁

지난달 무료체험이라는 말에 가입한 영상 서비스를 해지하려다 겪은 일입니다. 분명 결제는 첫 화면에서 두 번만에 끝났는데, 해지 버튼은 설정의 다섯 번째 메뉴 안쪽, 회색 글씨로 숨어 있었습니다. 겨우 찾아 눌렀더니 "정말 떠나시겠어요? 지금까지 본 콘텐츠가 사라집니다"라는 큰 팝업이 뜨고, 계속 이용하기 버튼은 파랗고 크게, 해지 버튼은 작고 흐릿하게 배치돼 있었습니다. 이걸 세 번 반복하고 나서야 해지가 끝났는데요.

그 3분 동안 저는 제 판단력이 부족하다고 느꼈습니다. 그런데 조금 찾아보니 이건 제 문제가 아니었습니다. 가입은 쉽게, 해지는 어렵게 만드는 이 구조에는 이미 이름이 붙어 있었어요. 취소·탈퇴 방해라는 다크패턴이고, 2025년 시행된 전자상거래법 개정안이 규제하는 여섯 가지 유형 중 하나였습니다. 화면이 나를 붙잡으려고 설계됐다는 걸 안 순간, 답답함은 조금 다른 감각으로 바뀌었습니다. 내가 못한 게 아니라, 그렇게 만들어진것이구나 하는.

이 글은 그 감각에서 출발합니다. 알고리즘과 화면 설계가 우리를 어떻게 움직이는지, 그리고 그 앞에서 이용자가 무엇을 할수 있는지 정리해 보려 합니다.

알고리즘 윤리, 한 줄로 정리하면

알고리즘 윤리는 자동화된 판단이 사람에게 불리하거나 부당하게 작동하지 않도록 만드는 원칙과 실천을 말합니다.

조금 풀어 볼게요. 우리는 흔히 알고리즘을 계산기 같은 것으로 생각합니다. 입력이 같으면 결과도 같고, 감정이 없으니 공정할 거라고요. 하지만 알고리즘은 사람이 고른 데이터로 학습하고, 사람이 정한 목표를 최적화합니다. 쇼핑몰 추천 알고리즘의 목표가 "이용자에게 가장 알맞은 상품"이 아니라 "가장 많이 팔리는 상품"이라면, 그 결과는 이용자가 아니라 판매자 쪽으로 기웁니다. 목표를 누가 정했는지가 곧 그 알고리즘의 윤리를 결정합니다.

알고리즘 윤리에서 자주 등장하는 세 가지 축이 있습니다. 첫째는 투명성입니다. 왜 이 결과가 나왔는지 설명할 수 있어야 한다는 것이죠. 둘째는 공정성입니다. 성별이나 나이, 지역 같은 요소로 특정 집단이 불이익을 받지 않아야 한다는 겁니다. 셋째는 책임성입니다. 알고리즘이 잘못된 판단을 내렸을 때 그 책임을 사람이 져야 한다는 원칙입니다. 이 세 가지가 무너질 때 뒤에서 다룰 다크패턴과 편향 문제가 나타납니다.

여기서 짚어둘 점은, 알고리즘 윤리가 추상적인 철학이 아니라는 것입니다. 추천 목록의 순서, 팝업의 버튼 색, 대출 심사의 통과 여부 같은 아주 구체적인 화면과 결정에 스며 있습니다. 알고리즘이 만드는 피로에 대해서는 이미 다룬 적이 있는데, 이 글은 그 피로의 뿌리에 있는 설계와 권리 문제를 들여다봅니다.

다크패턴, 화면이 나를 설득하는 기술

다크패턴은 이용자가 원래 하려던 것과 다른 선택을 하도록 화면을 교묘하게 설계하는 방식입니다. 영국의 UX 전문가 해리 브리그널이 2010년에 이름 붙인 개념인데, 이제는 규제 대상이 될 만큼 흔해졌습니다.

문제는 이게 일부 악덕 업체만의 수법이 아니라는 데 있습니다. 한국소비자원이 38개 주요 온라인 쇼핑몰의 웹사이트와 앱을 조사한 결과, 소비자 피해가 우려되는 다크패턴이 앱에서는 평균 5.8개, 웹에서는 5.4개나 발견됐습니다. 하나만 쓰는 게 아니라 여러 개를 겹쳐 쓴다는 뜻인데요. 유형별로 보면 다음과 같습니다.

다크패턴 유형발견 비율이용자가 느끼는 것
타 소비자 활동 알림93.4%"방금 3명이 구매했어요" 조바심
감정적 언어 사용86.8%"이 혜택을 놓치시겠어요?" 죄책감
시간 제한 알림75.0%"10분 남음" 카운트다운 압박
특정옵션 사전선택48.7%유료 옵션이 미리 체크됨
숨겨진 정보44.7%배송비·수수료가 마지막에 등장

이 수치가 말하는 건 분명합니다. 우리가 온라인에서 하는 선택 상당수가 순수한 내 판단이 아니라, 특정 방향으로 유도된 결과일 수 있다는 것이죠. 특히 시간 제한과 활동 알림은 뇌의 손실 회피 본능을 건드립니다. 지금 안 사면 손해라는 느낌을 인위적으로 만들어 냅니다.

기존 방식에서는 이런 설계가 그저 마케팅으로 여겨졌습니다. 하지만 새 방식에서는 소비자를 기만하는 상행위로 봅니다. 공정거래위원회는 2025년 2월부터 7월까지 온라인 플랫폼을 점검해 36개 사업자의 45건에 조치했고, 이 가운데 34건이 시정됐습니다. 무료체험 뒤 몰래 유료로 전환되는 숨은갱신, 팝업의 X를 눌렀는데 광고로 넘어가는 잘못된 계층구조 같은 사례가 정리 대상이 됐습니다. 화면이 사람을 속일 수 있다는 걸 제도가 처음으로 인정한 셈입니다.

추천을 넘어 채용과 대출까지, 알고리즘 편향

다크패턴이 화면 설계의 문제라면, 알고리즘 편향은 판단 자체의 문제입니다. 그리고 이 판단은 이제 쇼핑을 넘어 사람의 인생을 좌우하는 영역까지 들어와 있습니다.

가장 널리 알려진 사례는 아마존의 AI 채용 시스템입니다. 과거 10년치 지원서를 학습시켰더니, 대부분이 남성이던 기존 데이터를 그대로 배워 여성 지원자에게 낮은 점수를 주기 시작했습니다. 편향을 없애려 여러 번 손봤지만 또 다른 차별 기준을 학습할 가능성이 있다고 판단해 결국 프로젝트를 접었습니다. 과거의 차별이 담긴 데이터로 미래를 판단하면, 알고리즘은 그 차별을 미래로 실어 나릅니다.

금융도 마찬가지입니다. 2019년 애플카드는 같은 부부인데도 여성에게 남성보다 훨씬 낮은 신용한도를 준 일로 조사를 받았습니다. 소득이나 신용이 비슷한데도 특정 인종이 더 낮은 평가를 받은 사례도 보고됐는데요. 여기서 무서운 건, 그 누구도 "여성이니 깎아라"라고 명시적으로 코딩하지 않았다는 점입니다. 알고리즘이 데이터에서 스스로 그 패턴을 학습해 버린 것이죠. 그래서 알고리즘 편향은 눈에 잘 안 보이고, 피해자조차 자신이 차별받았다는 사실을 모른채 지나갑니다.

이 대목에서 알고리즘 윤리의 세 축이 다시 등장합니다. 왜 떨어졌는지 설명을 들을 수 있어야 하고(투명성), 성별로 결과가 갈리지 않아야 하며(공정성), 잘못됐을 때 항의할 상대가 사람이어야 합니다(책임성). 국내에서도 AI 신용평가의 투명성을 높이고 알고리즘을 감사하자는 논의가 시작됐습니다. 자동화된 결정에 대해 설명을 요구할 권리, 즉 알고리즘 설명요구권이 핵심 열쇠로 떠오르고 있습니디.

2026년, 알고리즘을 둘러싼 규칙이 바뀝니다

지금까지는 알고리즘이 사실상 무법지대에 가까웠습니다. 그러나 2025년을 지나며 규칙이 빠르게 자리를 잡고 있는데요. 이용자 입장에서 알아두면 좋은 변화는 크게 세 갈래입니다.

첫째, 전자상거래법의 다크패턴 규제입니다. 2025년 시행된 개정법은 숨은갱신, 순차공개 가격책정, 특정옵션 사전선택, 잘못된 계층구조, 취소·탈퇴 방해, 반복간섭 이렇게 여섯 가지 유형을 금지했습니다. 가입만큼 해지도 쉬워야 하고, 총액을 처음부터 보여줘야 한다는 것이 뼈대입니다.

둘째, 개인정보보호위원회의 움직임입니다. 2026년 조사 방향에서 다크패턴을 비롯한 개인정보 과잉 수집과 불합리한 처리 관행을 여섯 가지 집중 점검 분야 중 하나로 지정했습니다. 맞춤형 광고를 위해 이용자 행태정보를 몰래 긁어모으는 관행에 제동이 걸린다는 의미입니다.

셋째, AI 워싱 규제입니다. 공정위는 2026년 중에 AI를 내세운 허위·과장 광고를 걸러낼 가이드라인을 마련하겠다고 밝혔습니다. 실제로는 별 기능이 없으면서 AI라는 말로 소비자를 현혹하는 표시를 규제하겠다는 것이죠.

정리하면 이렇습니다.

영역무엇이 바뀌나이용자에게 생기는 힘
전자상거래법다크패턴 6유형 금지쉬운 해지·투명한 가격 요구
개인정보위행태정보 관행 점검내 데이터 수집 거부 근거
AI 워싱과장 광고 가이드라인"AI"라는 말 검증 요구

규칙이 생겼다는 건 이용자에게 근거가 생겼다는 뜻입니다. 예전에는 답답해도 개인이 참거나 포기했지만, 이제는 "이건 금지된 설계"라고 말할 수 있게 된 것입니다.

알고리즘에 휘둘리지 않는 생활 4단계

거창한 지식이 없어도 오늘 바로 실천할 수 있는 순서로 정리했습니다. 알고리즘을 이기는 게 목표가 아니라, 알고리즘이 나를 대신해 결정하지 못하게 하는 것이 목표입니다.

1단계, 멈추고 이름 붙이기입니다. "지금 몇 명이 보고 있어요", "3분 남음" 같은 문구가 뜨면 그게 시간 제한 알림이나 활동 알림이라는 다크패턴임을 떠올려 보세요. 정체를 아는 순간 압박은 절반으로 줄어듭니다. 조바심이 들때 한 번 창을 닫고 10분 뒤 다시 여는 습관만으로도 충동구매가 크게 줄어듭니다.

2단계, 총액과 해지 조건을 먼저 확인하기입니다. 결제 직전이 아니라 가입 전에 최종 결제 금액과 해지 방법을 찾아보세요. 해지 메뉴가 지나치게 안 보이면 그 서비스는 이용자를 붙잡는 데 익숙한 곳이라는 신호입니다. 무료체험은 시작하는 날이 아니라 해지 알림을 미리 캘린더에 적어두는 날부터 관리해야 합니다.

3단계, 추천을 의심하고 직접 검색하기입니다. 첫 화면에 뜨는 상품이 가장 좋은 상품이 아니라 가장 많이 팔리거나 광고비를 낸 상품일 수 있습니다. 정렬 기준을 낮은 가격순으로 바꾸거나, 앱 밖에서 제품명을 따로 검색해 비교해 보는 것만으로 추천의 자장에서 벗어날 수 있습니다.

4단계, 부당하면 설명을 요구하고 신고하기입니다. 자동화된 심사에서 이해할 수 없는 거절을 당했다면 그 이유를 물어볼 권리가 있습니다. 다크패턴 피해는 국민신문고나 소비자원, 개인정보 침해는 개인정보보호위원회에 신고할 수 있습니다. 신고 하나하나가 다음 규제의 근거가 됩니다.

자주 묻는 질문

알고리즘 윤리는 개발자나 기업만 신경 쓰면 되는 것 아닌가요? 아닙니다. 알고리즘의 결과를 매일 받아 드는 사람은 이용자입니다. 추천 목록, 가격 표시, 심사 결과가 모두 알고리즘의 판단인데, 이용자가 그 원리를 알고 설명을 요구할수록 기업도 더 투명하게 설계할 수밖에 없습니다. 윤리는 만드는 쪽과 쓰는 쪽이 함께 만드는 것입니다.
다크패턴과 일반적인 마케팅은 어떻게 구별하나요? 핵심은 "이용자를 속이거나 실수를 유도하는가"입니다. 할인을 강조하는 건 마케팅이지만, 해지 버튼을 일부러 숨기거나 유료 옵션을 미리 체크해 두는 건 다크패턴입니다. 2025년부터는 여섯 가지 유형이 법으로 금지돼 있어, 겪었다면 신고 대상이 됩니다.
알고리즘이 나를 차별했는지 어떻게 알 수 있나요? 개인이 알아채기는 어렵습니다. 다만 자동 심사에서 납득하기 힘든 거절을 받았다면 그 사유를 서면으로 요청해 볼 수 있습니다. 앞으로 알고리즘 설명요구권과 감사 제도가 자리 잡으면, 판단 근거를 확인할 통로가 넓어질 전망입니다.
추천 알고리즘을 아예 끄는 게 나을까요? 꼭 그렇지는 않습니다. 추천은 편리한 도구이기도 합니다. 다만 그 순서가 절대적 기준이 아님을 기억하고, 가끔 정렬을 바꾸거나 밖에서 따로 검색해 비교하는 습관을 곁들이면 편리함은 누리면서 휘둘림은 줄일 수 있습니다.
다크패턴 피해를 봤을 때 어디에 신고하나요? 소비자 피해는 한국소비자원과 국민신문고, 개인정보 침해는 개인정보보호위원회가 창구입니다. 결제 화면을 캡처해 두고, 언제 어떤 설계 때문에 원치 않는 결제나 가입이 됐는지 기록해 두면 처리가 빠릅니다.

같이 읽으면 좋은 것들

출처