🤖 AI와 미래 기술
AI는 디지털 민주주의의 가장 큰 도전이자 가장 큰 가능성입니다. 빠띠는 AI를 거부하지도, 무비판적으로 받아들이지도 않습니다. 기술의 통제 권한이 기업이나 국가가 아니라 시민에게 있어야 한다는 원칙 위에서, AI 시대에도 디지털 광장이 시민의 것으로 남도록 하는 일을 합니다. 이 카테고리는 빠띠가 AI를 보는 관점, 지금 하고 있는 일, 그리고 앞으로 만들어가야 할 일을 함께 기록합니다.
목차
빠띠가 AI를 보는 관점 — 책임 있는 AI의 세 원칙
민주적 의사결정에 관여하는 AI는 일반적인 기술 도구와 다른 무게를 가집니다. 빠띠는 AI 기능을 만들 때 그 효용을 다음 세 가지 기준으로 판단합니다. 아래에 기록한 개별 기능은 모두 이 기준 위에서 평가됩니다.
1. 설명 가능성 — 민주적 의사결정에 관여하는 AI는 다른 어떤 영역에서보다도 더 설명 가능해야 합니다. 시민이 결과만이 아니라 그 결과가 어떻게 나왔는지를 이해할 수 있을 때, 비로소 의사결정 시스템에 대한 신뢰가 성립합니다.
2. 시민 참여형 합의 — AI 알고리즘이 형성되는 과정 자체에 가능한 한 다양한 시민이 참여해, 사회적 합의를 거쳐야 합니다. 어떤 AI를 어떤 원칙으로 쓸지는 기술자나 운영자가 아니라 시민이 함께 정하는 문제입니다.
3. 중단할 권리 — AI 시스템은 언제나 검토하고 수정할 수 있도록 투명하게 공개되어야 하고, 누구나 의문을 제기할 수 있어야 하며, 필요할 때는 멈출 수 있는 권리가 시민에게 주어져야 합니다.
이 세 원칙은 빠띠가 AI를 단순한 효율 도구가 아니라 민주주의의 문제로 다루는 이유이자, AI 시대의 디지털 광장을 만들어가는 방향입니다.
AI 거버넌스와 시민 참여
AI가 어떻게 쓰일지를 시민이 함께 결정하도록 하는 빠띠의 활동.
1. AI 민주주의 시민대화
✅ 구현 완료
AI 시대의 민주주의를 시민이 직접 묻고 함께 이야기하는 공론장. “AI 시대에 모두의 민주주의를 다시 묻다” 연속 특강과 시민 질문 수집을 통해, AI가 시민에게 어떤 의미여야 하는지를 시민과 함께 논의합니다. 추첨으로 구성된 시민 패널이 숙의하는 본격적 시민의회(20번)를 향한 출발점. (5번 거버넌스 카테고리에서도 다룹니다.)
2. AI 민주주의 시민실험실
✅ 구현 완료
시민과 노동자가 AI를 직접 다뤄보며 아이디어를 만들어 보는 자리. “일하는 사람과 일터를 위한 AI 아이디어톤”을 통해, AI가 일터와 일상에 들어올 때 시민이 그것을 어떻게 쓰고 바꿔갈 수 있을지를 직접 실험합니다. (5번 거버넌스 카테고리에서도 다룹니다.)
3. 국가 AI 정책에 시민 목소리 전달
✅ 구현 완료
빠띠는 국가인공지능전략위원회 AI 민주주의 분과 활동을 통해, AI 정책 결정 과정에 시민의 관점을 전달해 왔습니다. AI의 기술 통제 권한이 시민에게 있어야 한다는 원칙, 그리고 그것을 가능하게 하는 디지털 공론장의 필요성을 정책 무대에서 제안합니다.
4. AI 의제 발굴 공론장
✅ 구현 완료
AI가 일터와 일상에 들어오면서 생기는 질문들을 시민이 직접 발굴하고 토론하는 공론장. “일하는 사람과 일터를 위한 AI” 등 시의적 주제로, AI를 둘러싼 시민의 우려와 기대를 의제로 만들어 갑니다.
5. AI 기반 1:1 심층대화 모델
✅ 구현 완료
가장 다른 생각을 가진 두 시민을 이어 깊은 1:1 대화를 나누게 하는 모델에 AI를 결합한 시도. 빠띠가 별별대화와 한국의 대화로 다져온 1:1 대화 방법론 위에, AI를 활용해 더 많은 시민이 시·공간 제약 없이 참여할 수 있는 디지털 대화 모델을 설계합니다. 통일부의 ‘AI 플랫폼 기반 사회적 대화’ 사업에서 빠띠가 국내 유일의 시민협력 플랫폼 기관으로 이 모델 설계를 맡고 있습니다.
6. AI 기반 공공 토의 모델
✅ 구현 완료
여러 시민이 함께 사회적 의제를 숙의하는 공공 토의에 AI를 결합한 모델. 빠띠가 공론장과 시민의회로 쌓아온 숙의 방법론 위에, AI를 활용해 대규모 참여와 의견 분석이 가능한 디지털 공론화 모델을 설계합니다. 시·공간의 제약으로 참여 규모가 제한되던 기존 사회적 대화를 넘어서는 ‘사회적 대화 2.0’의 시도입니다.
민주주의를 위한 AI — 의견 보조와 숙의 보조
빠띠가 AI를 시민 광장의 도구로 쓸 때, 그 기능은 두 갈래로 정리됩니다.
- 의견 보조 시스템 — 개인으로서의 시민이 자기 의견을 발전시키고 더 명료하게 표현하도록 돕습니다.
- 숙의 보조 시스템 — 대규모의 시민이 서로의 관점을 이해하고 논의를 점진적으로 발전시켜 나가도록 돕습니다.
흩어져 보이던 AI 기능들도 이 두 갈래 아래 놓으면 또렷해집니다. 어느 쪽이든, AI는 시민의 판단을 대신하지 않고 보조하는 자리에 머뭅니다.
의견 보조 시스템 — 개인 시민이 자기 의견을 발전시키고 더 명료하게 표현하도록 돕는 기능.
7. 유사 의견 비교와 의견 발전 넛지
⬜ 향후 과제
시민이 의견을 제출할 때, 기존에 모인 의견들과 비교해 비슷한 의견·다른 의견의 요약과 경향을 보여주고, 이를 바탕으로 의견을 한 걸음 더 발전시키도록 넛지하는 기능. 비동기적으로 참여하는 시민도 서로의 생각을 충분히 파악하고, 자기 의견을 더 명료하게 다듬을 수 있도록 돕습니다.
8. 발제문 쉬운 언어 요약과 시각화
⬜ 향후 과제
토론의 출발점이 되는 발제문을 단락별 요약본과 더 쉬운 언어로 표현한 버전으로 함께 제공하고, text-to-image 생성 AI로 발제문의 의도를 담은 이미지를 만들어 이해를 돕는 기능. 배경지식의 차이와 무관하게 누구나 같은 출발선에서 토론에 참여할 수 있도록 합니다.
숙의 보조 시스템 — 대규모 시민이 서로의 관점을 이해하고 논의를 점진적으로 발전시키도록 돕는 기능.
9. AI 기반 대규모 시민 의견 분석
✅ 구현 완료
⭐ 빠띠 오리지널
수천에서 수만 건의 시민 의견을 AI로 분류·요약·분야별 패턴 추출해, 시민이 직접 의제를 발굴할 수 있게 하는 기능. 대통령 직속 국민통합위원회의 모두의 국민통합에서 4,215건 이상의 시민 제안을 6개 분야로, 천만의 연결에서 788건의 시민 의견을 9개 분야로 분류·정리한 사례가 대표적이며, 그 분석 결과는 다시 전문가 검토와 시민 패널 토의, 정책 개발로 이어졌습니다. AI가 판정을 내리는 것이 아니라 시민의 숙의를 돕는 방향. (5번 거버넌스 카테고리에서 자세히 다루며, 이 기능의 한계와 경계는 18번 항목에서 다룹니다.)
10. 신뢰할 수 있는 숙의 요약 보고서
⬜ 향후 과제
토론·투표·캠페인으로 표현된 시민의 숙의 내용을, 다수 의견의 경향과 소수 의견을 모두 존중하는 공개 보고서로 정리하는 기능. AI를 활용하되 신뢰할 수 있는 요약을 만들기 위한 검토 과정을 반드시 사람이 거칩니다. 9번의 의견 분석 결과가 이미 보고서로 정리되고 있으며, 이를 누구나 검증할 수 있는 형식으로 고도화하는 것이 과제입니다. (2번 공론장 카테고리의 ‘AI 토론 요약’과 같은 숙의 보조 계열입니다.)
11. AI 콘텐츠 모더레이션 — 혐오표현·행동강령 위반 감지
✅ 구현 완료
캠페인즈는 이용약관과 행동강령에 따라 혐오표현과 위반 콘텐츠를 모더레이션하며, 게재된 내용을 AI가 자동으로 감지해 작성자에게 수정을 제안하거나 운영자에게 알리는 기능이 작동하고 있습니다. 대규모 대화의 안전성을 AI가 보조하는 사례. 다만 판정의 최종 책임은 사람에게 있으며, 시민은 그 결과에 시정을 요청할 수 있습니다.
12. 허위정보 감지·경고와 신뢰할 수 있는 정보 출처
⬜ 향후 과제
시민이 글을 쓸 때 허위로 의심되는 정보를 알려주고, 신뢰할 수 있는 정보 출처를 함께 제공하는 기능. 허위정보를 사후에 추적·검증하는 일(14번)과 짝을 이루어, 잘못된 정보가 퍼지기 전에 시민이 스스로 판단할 근거를 갖도록 돕습니다.
13. AI 보조 팩트체크
⬜ 향후 과제
AI가 시민 팩트체커의 검증 작업을 보조하는 도구. 자료 검색, 출처 확인, 유사 사례 추천을 AI가 자동화해 시민의 작업 부담을 줄입니다. AI가 진실을 판정하는 것이 아니라, 시민이 판정하는 과정을 돕는 방향. (4번 팩트체크 카테고리에서도 다룹니다.)
향후 과제
AI 시대에 빠띠가 만들어가야 할 일들.
14. 허위조작정보 유통경로 추적·사전 경고
⬜ 향후 과제
허위조작정보가 어떻게 만들어지고 어떤 경로로 확산되는지를 추적해, 사후 검증을 넘어 사전에 시민에게 경고하는 시스템. AI가 만드는 허위정보가 늘어나는 시대에 더욱 중요해지는 과제. (4번 팩트체크 카테고리에서도 다룹니다.)
15. 시민이 소유하는 공익 AI
⬜ 향후 과제
빅테크가 소유한 AI가 아니라, 시민사회가 함께 만들고 소유하는 공익 목적의 AI. 학습 데이터의 출처와 소유가 투명하고, 그 거버넌스에 시민이 참여하는 AI 모델. 빠띠가 지향하는 민주적 기술이 AI 영역에서 구현되는 형태.
16. AI 학습용 한국어 공익 데이터셋
⬜ 향후 과제
AI 모델이 학습하는 데이터의 소유와 출처가 점점 중요해지는 시대에, 시민이 직접 만든 한국어 공익 데이터를 AI 학습용으로 정제·공개하는 작업. 빠띠의 시민정책 DB, 공론장 기록, 시민 데이터셋이 그 토대. (6번 시민 기술 카테고리에서도 다룹니다.)
17. AI 시대 시민 역량 교육 프레임워크
⬜ 향후 과제
시민이 AI를 비판적으로 이해하고, 주체적으로 활용하며, 그 거버넌스에 참여할 수 있는 역량을 기르는 체계적 교육 프레임워크. 빠띠의 기존 교육 프로그램들이 AI 시대에 맞춰 통합·발전하는 방향. (9번 교육 카테고리에서도 다룹니다.)
18. 시민의 자리를 지키는 일 — AI 시뮬레이션과 의견 분석의 경계
⬜ 향후 과제
AI로 시민 의견을 시뮬레이션하는 합성 페르소나 기술, 그리고 AI로 대규모 의견 데이터를 분석해 시민의 욕망을 읽어내는 기술이 빠르게 발전하고 있습니다. 두 기술 모두 강력한 도구이지만, 같은 위험을 안고 있습니다 — 시민이 직접 말하고 함께 토의하는 자리를 AI의 출력물이 대신할 수 있다는 위험입니다. 빠띠는 AI 의견 분석을 실제로 활용하면서도(9번 항목), 그 분석이 시민의 숙의를 대체하지 않고 보조하는 자리에 머물도록 하는 일을 과제로 삼습니다. AI가 읽어낸 ‘민심’이 시민이 직접 모여 만든 합의를 대신할 수 없다는 것, 그 경계를 시민과 함께 지키는 일이 AI 시대 디지털 광장의 핵심 과제입니다.
19. 시민 데이터 신탁
⬜ 향후 과제
시민의 데이터를 시민이 직접 소유·운영하는 신탁 구조. AI가 시민 데이터를 학습해 막대한 가치를 만드는 시대에, 그 데이터의 주권을 시민에게 돌려주고 시민이 함께 결정하는 모델. (6번 시민 기술 카테고리에서도 다룹니다.)
20. AI 민주주의 시민의회
⬜ 향후 과제
추첨으로 구성된 시민 패널이 AI 거버넌스 의제를 깊이 숙의해 권고안을 만드는, 형식이 정해진 본격적 시민의회. 빠띠가 기후 시민의회 등으로 다져온 추첨형 숙의 방법론을, 1번 시민대화·2번 시민실험실에서 모은 질문과 경험 위에서 AI 영역으로 확장하는 과제입니다. 책임 있는 AI의 세 원칙 가운데 ‘시민 참여형 합의’를 가장 직접적으로 구현하는 자리.
맺으며
이 문서는 빠띠가 지난 10년간 만들어온 디지털 민주주의의 기능과 프로그램을 기록한 것입니다. 100가지로 시작했지만, 정리하다 보니 그보다 더 많은 것을 만들어왔다는 것을 발견했습니다.
이 모든 도구와 프로그램은 하나의 믿음에서 나왔습니다. 디지털 공공 광장은 시민의 것이어야 한다는 믿음. 그리고 그 도구들은 단지 민주주의를 위한 기술이 아니라, 시민이 소유하고 운영하는 민주적 기술의 토대 위에서 만들어졌습니다.
AI 시대에도 그 믿음은 변하지 않습니다. 디지털 세계는 누가 어떻게 다스리는가 — 이 질문에 빠띠는 시민이 답할 수 있어야 한다고 믿으며, 그 답을 함께 만들어 갑니다.