Y combinator의 former president이자 현 OpenAI의 CEO, Worldcoin의 co-founder인 Sam Altman가 그리는 미래는 꽤나 radical하다. 근미래에 AI가 인간 노동력을 대체하고, 18살이 넘는 모든 성인 시민들은 연간 배분되는 기본소득으로 생활을 보조한다. 그의 주장에 따르면, 10년 뒤 미국 성인 2억 5000만에게 연간 1만 3500달러를 기본소득으로 제공할 수 있다.
AI의 고속 발전으로부터 생산성이 폭발적으로 증가하고 모든 영역에서 인간을 대체하게되면 인간의 노동력이 더 이상 많이 필요하지 않은 것 뿐만 아니라 사회적 비용을 절감할 수도 있기 때문에, 이러한 AI가 이끄는 막대한 phenomenally wealthy와 그의 재분배는 어쩌면 필연적일지도 모른다. AI가 이끄는 미래에서 인공지능 기업들이 부를 독점하는 것이 아니라 적절한 분배가 고려되어야 한다는 그의 주장 및 철학은, 이미 AI 선두를 달리는 OpenAI의 대표로서 한 말이기에 더욱 의미심장하다.
그의 기본소득에 대한 주장은 말로만 그치지 않았다. 그는 실제로 미국 캘리포니아주 오클랜드에서 3천명을 대상으로 기본소득제 파일럿 프로그램을 운영하거나, 월드코인을 창시해 전 세계 모든 사람에게 재화를 배분하는 실험을 진행 중이다.
부의 분배 및 기본소득이 옳냐 그르냐에 대한 가치판단은 잠시 접어두고, 월드코인이 이를 어떻게 달성하고자 하는지를 간단히 살펴보자. 이름에서부터 알 수 있지만 월드코인은 블록체인 기술로 동작하는 암호화폐이다. 기본 소득의 지급 수단으로 블록체인을 채택하는 것은 합리적이라 할 수 있는것이, 1. 정해진 프로토콜대로의 자동화된 지급이 용이하고, 2. 법정화폐 대비 세계 공용 통화로서 사용되기 용이하기 때문이다. 또한, 3. 활용하기 쉽고 프로그래밍하기 쉬운 화폐이기 때문에 기본 소득에 대한 여러 복잡한 액션을 편하게 추가 및 변경할 수 있다.
월드코인에서는 한 명이 여러 신원으로서 여러 기본 소득을 가져가는 Sybil attack을 방지하기 위해 커스텀 하드웨어인 오브(Orb)를 통해 홍채를 인식해 개인을 식별한다. 보다 상세하게는 사용자의 안구, 신체, 안면, 3차원 스캔 정보가 (주로 홍채 정보가) 암호화된 형태로 월드코인 데이터베이스에 보관되고 개인별 월드코인 지급과 관련된 액션에 활용되는 식이다. 이러한 식별을 통해 진짜 ‘한 명’을 식별할 수 있고, 암호화폐를 정기적으로 지급할 수 있다.
그러나 이러한 방법은 당연히 프라이버시 문제를 야기하고, 실제로 월드코인에 대해서 굉장히 많은 민감한 개인정보를 수집하고 활용한다는 점에서 논란의 목소리가 많다. 비록 월드코인측은 개인 데이터를 판매 등 부당하게 활용하지 않으며 오브의 사기 감지 알고리즘 훈련이 끝나면 모두 파기할 것이라 얘기하지만, 실제로 그러는지 아닌지는 지켜봐야 알 것이다. 그들이 결백하다 해도 해킹을 통해 유출될 수도 있는 노릇이고.
아무튼 월드코인에서는 프라이버시와 관련된 여러 문제들을 해결하고자 계속 노력 중에 있고, 최근까지도 그에 대한 고찰을 담은 글을 공개했다.
개인적으로는 월드코인은 다음의 두 가지 관점에서 아직까지는 naïve한 프로덕트라 생각한다.
- Custody한 방식의 블록체인상 개인 식별 방법. 프라이버시와 탈중앙화에 위해됨.
- 인공지능으로부터 야기되는 기본 소득을 블록체인을 통해 재분배하는, 중앙 주체가 web2 영역에서 소득을 벌어들이고 이렇게 취득한 소득을 web3로 가져가서 배분하는, 해당 과정의 연결 고리가 불확실. 신뢰 문제. 탈중앙성 위해.
결국 월드코인도 블록체인 서비스라 할 수 있고, 오늘날 블록체인 서비스들이 겪는 문제들(프라이버시, 탈중앙화, 신뢰 등) 역시 그대로 가지고 있음을 알 수 있다. 이러한 한계들은 월드코인만의 문제가 아니라 블록체인 전반에 걸쳐있는 문제이니 월드코인을 탓할건 아니다. 월드코인은 한 구체적 사례일 뿐, 문제를 다음과 같이 다시 정의해보자.
- 블록체인에서의 신원 식별
- 인공지능 학습 및 수행에 대한 신뢰
우리에게 보다 익숙한 형태의 문제들이다. 많은 사람들이 관심을 가지고 있던 문제이기도 하고, 그만큼 많은 연구가 진행 중인 분야이기도 하다. 공교롭게도 (월드코인을 염두에 두고 진행한 것은 아니지만) 최근 필자가 진행한 연구들이 이 문제들을 다루고 있는 바, 간략히 소개해보도록 하겠다.
zero-knowledge Address Abstraction
zero-knowledge Address Abstract 줄여서 zkAA는 블록체인 밖의 신원, 예를 들면 구글이나 깃허브와 같은 web2의 연합 신원을 블록체인으로 가져와 활용할 수 있게 하는 연구이다.
zkAA가 기존의 “from web2 to web3” 연구와 차별성을 가지는 것은 mapping에 의존하지 않는다는 점이다. 본 논문에서 제시하는 방법을 따르면 현재 블록체인이 가지고 있는 신원 시스템인 address로부터 벗어나, 원래의 web2 신원을 그대로 블록체인에서 활용할 수가 있다. 이 scheme에 Address Abstraction (AA)이라는 이름을 붙인 이유이다.
AA 스킴의 구현체인 zkAA를 통해 web2 신원을 web3로 가져오는 방법은 다음과 같다.
1단계에서 사용자는 기관으로부터 신원 정보에 해당하는 cert를 발급받는다. 간단하게는 JSON Web Token (JWT) 등이 될 수 있다. 2단계에서 사용자는 해당 cert의 Hash 값을 블록체인에 등록한다. 등록된 Hash가 바로 이 신원, cert의 identifier가 된다. 이후로 (3단계) 사용자는 등록된 identifier를 자유롭게 활용할 수 있는데, 이때 필요한 정보는 cert 원본이다.
보다 자세히 살펴보자. 2단계에서 등록되는 정보는 cert의 해시값 H(cert) 뿐만 아니라 상응하는 proof도 함께 제출된다. 이 proof를 가지고 영지식증명을 통해, 제출하는 해시값이 cert로부터 만들어 진 것이 맞으며, 이 cert는 인증 기관의 서명을 올바르게 담고 있음을 cert를 공개하지 않고 입증할 수 있다. 유효한 proof를 제출한 register transaction만이 받아들여지고 H(cert)가 identifier로써 등록된다.
이후 3단계에서 해당 식별자 H(cert)를 신원으로 사용하기 위해서는 cert 원본을 가지로 H(cert)를 만들 수 있음을 입증할 수 있는 proof를 함께 제출해야 한다. 달리 말하자면 cert가 없는 사람은 H(cert)를 신원으로써 활용할 수 없다. 또한, cert만 가지고 있으면 트랜잭션을 발행하는 주체 주소가 무엇이든 식별자 H(cert)를 신원으로써 활용할 수 있다. 즉, 이 scheme 하에서 secret은 더이상 private key가 아니며 cert이고, identifier는 더이상 address가 아니며 H(cert)이다. 기존 블록체인-specific한 신원 시스템에서의 secret과 identifier를 신경쓸 필요가 없다.
비단 JWT나 web2 신원만이 AA의 secret이 될 수 있는 것은 아니다. 가령, 홍채 정보가 secret이 될 수 있다. 이 경우 홍채 정보 자체가 web3 상에서의 신원이 되고, 이를 주소에 mapping한다거나 하는 절차 없이 블록체인에서 식별자로 기능한다. 따라서 Sybil attack으로부터 안전하다. 또한, 어떠한 경우에도 secret에 해당하는 홍채 정보는 공개되거나 남에게 전달되지 않는다. 본질적으로 Non-custodial하고 Privacy가 지켜지는 scheme이다.
다음은 zkAA 논문의 공개된 preprint 버전이다. Address Abstraction에 대한 상세한 정의, 속성, 그리고 zkAA의 구현, 성능 등이 궁금하다면 전문을 읽어보길 추천한다.
Blockchain Reliable AI Network
Blockchain Reliable AI Network 줄여서 BRAIN은 인공지능에 블록체인을 통한 신뢰를 부여하고자 진행된 연구이다. 인공지능의 영향력이 날로 커져감에따라 신뢰가 중요해지는 것은 뭐 당연하다 싶은데, 사실 개인적으로 인공지능이 블록체인 상에서 수행되어야 한다고 주장하는 것은 오히려 책임 관점에서의 decentralization과 traceability에 있다.
ChatGPT와 같은 인공지능이 Hallucinate Knowledge를 생산하거나 Toxic한 Response를 만든다는 사실은 그 한계점으로 익히 알려져 있다. 어찌보면 사람도 인생이라는 평생에 걸친 학습 하에서 Hallucinate하거나 Toxic한 결과를 내뱉는데, 아직 인간 수준에도 미치지 못하는 인공신경망에게는 더 당연한 행동일 터이다. 무튼 그러한 현재의 인공신경망의 구조적 한계로부터 서비스 사용자가 피해를 입었다면, 과연 서비스 제공자는 보상의 의무가 있을까? 책임이 있다/없다를 떠나 이러한 책임 소재로부터 탈피할 수 있는 방법이 있다. 바로 책임을 물을 주체를 없애버리는 탈중앙화이다. 탈중앙화된 환경, 가령 Ethereum에서 동작하는 인공지능을 상상해보라 — 누구에게 책임을 물을 것인가?
또한, 누군가가 인공지능을 활용해 부당한 활동을 펼쳤다고 생각해보자. 가짜 뉴스를 대량 생산했다던가, 딥페이크로 부적절한 영상을 편집했다던가. 이때 추론 요청에서부터 응답에 이르기까지가 전부 블록체인에서 이뤄졌다면 본질적으로 추적가능성이 높다. 트랜잭션을 발행할 수 있는 주체는 오직 secret을 가지고 있는 자이기 때문에, 자연스럽게 부인방지까지 된다.
인공지능이 급격하게 성장함에 따라 관련 서비스가 대거 등장할 것이 예상되는 바, 이러한 책임과 관련된 고찰은 반드시 필요하며, 블록체인이 한 솔루션이 될 수 있다.
블록체인과 인공지능을 결합하고자 하는 시도가 처음은 아니다. 다음은 여러 연구들과 BRAIN의 비교이다.
표에서 알 수 있지만, 인공신경망의 학습과 추론을 온전히 블록체인상에서 수행할 수 있는 플랫폼은 BRAIN이 유일하다. 특히 많은 연산력을 요구하는 대규모 신경망에 대해서는 더욱 그러하다.
다음은 BRAIN에서의 인공지능 추론 예시이다.
1단계에서 사용자가 추론을 요청하면 해당 요청은 즉각 처리되어 응답을 반환하는 것이 아니라 우선순위 큐에 담겨 순서를 대기한다. 이후 2단계에서, 즉 가장 높은 우선순위가 되어 요청이 처리될 때, 큐에서부터 pop되어 추론 위원회 노드들로부터 인공지능 추론이 중복 수행된다. 이때 추론 위원회는 VRF에 기반한 cryptographic sortition 방법론을 따라 BRAIN 노드 중 일부만 선출된다. 처리된 요청의 응답은 그대로 블록체인에 공시되는 것이 아니라 hash 값이 등록된다. 이는 commit-and-reveal 스킴에 따라, 다음 3단계에서 공개된다. 추론 처리에 있어 seed를 고정해 구동하기 때문에 공개된 응답들이 모두 일치해야 정상 상황이며, 합의된 응답을 가지고 최종적으로 사용자의 요청을 처리한다.
탈중앙화 인공지능 서비스 제공이 가능해지면 어떤 활동이 가능할까? 다시 월드코인의 사례를 생각해보자. Sam Altman은 인공지능 기업이 벌어들인 wealth의 일부를 (가령 2.5%) 기본 소득의 형태로 성인들에게 배분해야 한다고 주장한다. 만일 탈중앙화 환경에서 인공지능 서비스가 이익을 발생시키면 스마트 컨트랙트를 통해 투명성을 지키며 자동화된 방법으로 부의 배분이 가능해진다. 그 과정에서 블록체인이 핵심 역할을 수행하며, 신뢰는 필요치 않다.
다음은 BRAIN 논문의 preprint 버전이다. 탈중앙화 추론에 대한 상세한 내용, 학습 프로세스, 최적화 기법, 시간적 및 연산 비용이 궁금하다면 원본 논문을 참조하길 바란다.
본 글을 통해, 인공지능과 블록체인의 결합으로부터 발생하는 생각해 볼 만한 문제들을 필자가 주도한 두 연구인 zkAA와 BRAIN를 통해 살펴보았다. 두 연구를 착안하고 진행함에 있어 기본소득이니 월드코인이니 하는 개념이 영향을 끼친 것은 아니지만, 인공지능과 블록체인 모두에 적을 둔 연구자로서 마찬가지로 양 영역에 적을 두고 최고의 퍼포먼스를 내고 있는 Sam Altman의 철학에 고개가 끄덕여 지는 것은 어쩔 수 없나 싶다.
그것이 인공지능의 막대한 생산성 하에서 기본 소득으로 생활하는 인류가 될지 아니면 여전히 지금과 비슷할지는 아무도 모르지만, 있을 수 있는 근미래의 가능성에서 인공지능과 블록체인이 각자 어떻게 인간을 위한 기술이 될 지 생각해보는건 재미있는 일일 것이다.
이외에도, 인공지능과 블록체인의 결합은 여러 방면에서 시너지를 낼 수 있다. 그 중 “인공지능의 발전과 블록체인 거버넌스”는 꽤나 흥미로운 주제이다.
근미래에 우리가 초지능을 사용하고 있을지, 아니면 여전히 ‘초-확률적 글쓰기 머신’을 사용하고 있을지는 알 수 없다. 그러나 어떠한 형태로든 인공지능은 우리 삶에서 더 널리 쓰일 것이 자명하다. 그러나 이는 두 가지 문제를 야기한다.
- 학습 데이터의 제한, 하드웨어 자원의 한계, 그리고 시간 및 비용 등의 문제로 인해, 근미래에서도 인공지능 개발은 기업에 의해 이뤄질 것이다.
- 인간의 권리를 보호하기 위함 등, 강력한 AI를 통제하기 위한 정부의 규제가 더욱 강화될 것이다.
기업이 주도하는 인공지능의 발전과 정부의 규제 사이에서, 우리의 미래는 어떻게 형성될 것인가? 어쩌면 블록체인 기반의 거버넌스가 해답이 될 수 있을지도 모른다. 일반 사용자들도 인공지능의 발전 방향에 대해 의견을 제시하거나 결정 과정에 참여하고, 이를 통해 우리는 인공지능의 발전을 더욱 민주적이고 투명하게 만들 수 있다. 뭐, 단순하게 생각하자면 이렇다. 결코 쉬운 과정이 아닐 것이다.
기본소득의 관점에서, “인공지능과 x2e”을 엮어서 생각해볼 수도 있다. 모델을 학습시킬만한 고품질 정보라 함은 책, 뉴스, 포스팅 등 크리에이터들이 만든 것들을 잘 가공한 것이다. 결국 인공지능 학습을 위해 우수한 크리에이터가 선행되어야 한다면, x2e, 가령 write2earn을 통해 좋은 품질의 데이터를 제공하는 것에 대한 보상 체계를 도입함으로써 사용자들이 양질의 데이터를 생산하는 데 필요한 동기를 부여할 수 있다. 이를 더 확장하면 다양한 x2e들을 기본소득을 제공하기 위한 장치로 활용할 수 있을 것이다.
zkAA와 BRAIN 연구를 마무리한 뒤에도, 필자는 계속하여 블록체인과 인공지능을 주제로 연구를 진행하고 있다. 관심 있는 독자들은 다음 GitHub와 scholar 프로필을 참고하길 바란다.
💻 https://github.com/lukepark327
🎓 https://scholar.google.com/citations?user=lf8r2QgAAAAJ
