이 변화는 생산성과 편의성 측면에서는 분명한 진전이지만, 동시에 우리 사회에 새로운 질문을 던진다. 지금 이 행위는 과연 누구의 의사에서 나온 것인가. 인간의 직접 행위인가, 인간이 승인한 AI의 대리행위인가, 아니면 인간 승인 없이 자동으로 수행된 행위인가.
 |
박성준 동국대 블록체인연구센터장 |
이 신뢰인프라가 필요한 첫 번째 이유는 경제행위의 주체가 불명확해지기 때문이다. 지금까지는 인간이 주문하고, 인간이 계약하고, 인간이 의견을 내고, 인간이 거래한다고 여겼다. 그러나 앞으로는 하나의 계정이 인간일 수도 있고, 인간이 통제하는 AI일 수도 있으며, 조직이 운영하는 자동화 에이전트일 수도 있다. 이 구분이 흐려지면 거래 상대방의 실체, 의사결정의 정당성, 책임의 귀속이 모두 모호해진다. 결국 시장의 신뢰 비용이 높아질 수밖에 없다.
두 번째 이유는 희소성의 기준이 무너질 수 있기 때문이다. 인간 경제는 시간, 주의력, 평판, 참여라는 희소성을 전제로 작동해 왔다. 그런데 AI가 대량으로 계정을 만들고, 리뷰를 생산하고, 커뮤니티에 참여하고, 투표에 개입하고, 각종 보상 프로그램에 동원된다면 기존 시장이 전제해 온 “1인 1표”, “1인 1보상”, “진짜 사용자”, “실제 수요”라는 개념은 쉽게 왜곡된다. 에어드랍, DAO 거버넌스, 광고 보상, SNS 영향력, 플랫폼 평판, 디지털 기본소득 같은 영역에서 인간 기반 희소성을 다시 측정할 수 있는 장치가 없다면 분배와 의사결정의 정당성은 빠르게 흔들릴 것이다.
세 번째 이유는 책임성과 법적 귀속의 문제가 커지기 때문이다. AI가 수행한 행위로 피해가 발생했을 때, 책임은 누구에게 있는가. 겉으로는 자율적 AI처럼 보여도 현실에서는 대부분 인간이나 조직이 설계하고, 승인하고, 운영하고, 위임한다. 따라서 앞으로는 단순한 인간 인증을 넘어, 인간의 직접 행위와 AI 대리행위, 자동 수행 행위를 구분하고 그 권한 범위와 책임 관계를 함께 기록하는 체계가 중요해진다. 그래야 분쟁 해결도 가능하고, 규제 집행도 가능하며, 시장 참여자 간 신뢰도 유지될 수 있다.
이 점에서 앞으로 필요한 것은 “인간과 AI를 단순 분류하는 인프라”라기보다, 인간을 기준점으로 AI 행위를 정렬하는 “인간-앵커드 신뢰인프라”라고 보는 것이 더 정확하다. 이 인프라는 최소한 네 가지 층을 갖춰야 한다. 첫째, 실제 인간인지 여부를 확인하는 존재 증명. 둘째, 한 사람이 다수 계정으로 중복 참여하지 않도록 하는 유일성 증명. 셋째, 지금 이 순간 계정을 통제하는 자가 원래 검증된 그 인간인지 확인하는 현재 통제성 증명. 넷째, 해당 행위가 어디까지 인간에게서 위임된 것인지, 어떤 행위는 인간의 추가 승인이 필요한지 구분하는 행위 권한 증명이다.
물론 여기에는 분명한 경계도 필요하다. 과도한 실명 집중형 구조는 감시와 프라이버시 침해를 초래할 수 있고, 생체정보에 과도하게 의존한 구조는 유출 시 회복이 어렵다. 또 인간 인증만으로 모든 문제가 해결되는 것도 아니다. 인간도 계정을 임대할 수 있고, 담합할 수 있으며, 우회할 수 있기 때문이다. 따라서 바람직한 방향은 감시를 강화하는 체계가 아니라, 프라이버시를 보존하면서도 인간성, 유일성, 현재성, 위임 범위, 철회 가능성, 책임 추적성을 균형 있게 설계하는 것이다.
AI 경제는 AI를 배제하는 방식으로 운영될 수 없다. 오히려 인간과 AI의 협업이 기본 구조가 될 가능성이 높다. 중요한 것은 AI를 막는 것이 아니라, AI의 행위를 인간 또는 법인에 책임 있게 연결하고, 시장의 희소성과 권리, 책임의 기준점을 다시 세우는 일이다. 과거 인터넷이 계정 인증을 필요로 했다면, AI 경제는 이제 행위 주체와 위임관계의 인증을 필요로 한다. 이 신뢰인프라를 먼저 갖춘 사회와 시장이 다음 시대의 질서를 선점하게 될 것이다.
