사진 mikemacmarketing / CC BY 2.0
AI 눈속임을 막는 EU법
AI가 만든 다크패턴을 막는 EU AI법
현대사회와 윤리 · 정보 사회와 인공지능 윤리 · UX/UI디자인
AI가 사용성 개선을 명분으로 사용자를 속이는 다크패턴(사용자를 속이거나 불리한 선택으로 유도하는 설계)을 퍼뜨릴 수 있다는 우려가 커지고 있습니다.
이에 EU AI법은 2025년 2월부터 잠재의식을 조작하거나 나이, 장애, 경제적 취약점을 노리는 기만적 설계를 금지했고, 어기면 최대 3,500만 유로 또는 전 세계 매출의 7%까지 벌금을 물립니다. AI가 사람마다 다르게 미세하게 유도하는 설계까지 규제 대상이 되면서, 윤리적 화면 설계가 디자이너의 책임으로 강조되고 있습니다.
'정보 사회와 인공지능 윤리' 단원은 AI 윤리의 쟁점으로 자율성과 설명 가능성, 편향과 차별, 책임 문제를 다룹니다.
AI 윤리 원칙으로는 투명, 공정, 안전을 제시하며, OECD와 EU, 우리나라의 AI 윤리 기준을 함께 살핍니다. 개발자와 이용자, 운영 관리자가 각각 어떤 책임을 지는지를 가리는 일이 이 단원의 핵심입니다.
'정보 사회와 인공지능 윤리' 단원은 AI 윤리 원칙으로 투명성과 공정성, 안전을 제시하고, 우리나라와 EU 등 여러 나라의 AI 윤리 기준을 다룹니다. AI 다크패턴 규제는 이 원칙이 실제 법으로 구현된 최신 사례입니다.
잠재의식을 조작하거나 취약점을 노린 설계를 금지하는 EU AI법은, 교과가 강조하는 투명·공정·안전 원칙을 화면 설계에 적용한 것입니다. 디자이너가 사용자를 속이지 않을 책임을 지는 것은 곧 AI 윤리에서 다루는 책임을 실무에서 실천하는 일입니다.
EU AI법은 다크패턴을 두 가지 방식으로 금지합니다. 첫째는 잠재의식 조작으로, 사람이 알아채지 못하는 사이에 판단을 비트는 설계입니다. 둘째는 취약점을 노린 유도로, 나이가 어리거나 장애가 있거나 경제적으로 어려운 사람의 약점을 이용하는 설계입니다. 다만 모든 유도가 금지되는 것은 아니고, 그 설계가 사람에게 실질적인 해를 끼칠 우려가 있을 때만 불법이 됩니다.
AI가 더해지면 이 문제가 한층 심각해집니다. 예전 다크패턴은 모든 사용자에게 똑같은 화면을 보여 줬지만, AI는 사람마다 행동을 실시간으로 분석해 각자의 약점을 노린 화면을 따로 만들어 냅니다. 예를 들어 결제를 망설이는 사람에게만 '곧 매진' 문구를 띄우는 식입니다. 본인은 AI가 작동하는 줄도 모른 채 사고 싶은 충동만 느낍니다. 그래서 이 법은 'AI가 어떻게 유도하는지' 그 과정의 투명성을 요구하며, 디자이너에게 화면이 사용자를 속이지 않도록 설계할 책임을 지웁니다.
생기부 기재 예시
AI가 사용성 개선을 명분으로 다크패턴이 확산될 수 있다는 기사에 호기심을 가져 EU AI법의 규제 내용을 조사함. 특히 잠재의식 조작, 나이·장애·경제적 취약점을 노린 기만적 설계가 금지되는 근거를 찾아 다크패턴 유형별로 정리하고, 이를 투명·공정·안전 원칙과 연결해 설명함. 또한 AI가 만든 결과에 개발자와 운영 관리자가 지는 책임 개념을 바탕으로 사용자 선택을 제한하는 설계가 왜 윤리적으로 문제인지 분석함. 이를 통해 AI가 개인별로 미세하게 유도하는 설계까지 단속 대상이 되는 이유를 구체적으로 제시하고, UX/UI디자인 분야에서 윤리적 설계 기준을 마련해야 한다는 관점을 발표 자료와 보고서로 체계적으로 정리함.
* 2026 생기부 기재 가이드라인, MOE Q&A와 FAQ, 메디컬저널 작성 공식 반영