인공지능의 환각 문제, 분산 검증 네트워크로 해결 가능

인공지능(AI)의 환각(hallucination) 문제가 기업 의사결정에 심각한 영향을 주고 있다. 블록체인 기반 AI 검증 네트워크 '미라 네트워크(Mira Network)'는 이러한 문제를 해결하기 위해 분산형 검증 메커니즘을 제안했다.

미라 네트워크 자체 조사에 따르면, 지난해 전체 경영진 중 47%가 AI의 잘못된 정보에 기반해 주요 의사결정을 내린 것으로 나타났다. AI 모델이 더 정교해질수록 잘못된 정보조차 그럴듯하게 표현돼 사용자의 오판을 유도하고 있다는 지적이다.

미라 네트워크는 이 문제의 핵심 원인으로 '훈련 딜레마(Training Dilemma)'를 꼽는다. 정확도를 높이기 위해선 데이터 편향이 생기고, 편향을 줄이기 위해선 환각 오류 확률이 높아지는 구조다. 기존의 RAG 시스템, 지식 그래프, 인간 감독 등의 방법은 모두 근본적 한계를 안고 있다고 평가했다.

미라 네트워크는 AI 모델이 생성한 복잡한 콘텐츠를 독립적으로 검증 가능한 단위로 쪼갠 뒤, 여러 특화 AI 모델을 통해 검증한다. 이 과정을 통해 개별 모델의 편향과 오류를 걸러내며, 결과에 대한 분산 합의(consensus)를 도출한다.

미라 네트워크 네트워크는 이 과정을 통해 기존 AI의 평균 정확도인 70%를 96% 이상까지 끌어올렸다고 밝혔다. 현재까지 누적 30억 개 토큰 이상, 450만 명 사용자 대상 서비스에 이 기술이 적용됐다.

미라 네트워크 네트워크는 작업증명(PoW)과 지분증명(PoS)을 결합한 보안 메커니즘을 갖췄다. 노드 운영자는 일정 지분을 스테이킹하고 검증 작업에 참여하며, 합의에서 벗어나거나 무작위 응답을 할 경우 페널티로 스테이킹 금액이 삭감된다.

특히 검증 작업은 단순한 퍼즐 풀이가 아닌 실제 추론(inference)을 요하는 방식으로 설계됐다. 단순 추측을 통한 무임승차를 막기 위한 구조다. 각 검증 요청은 도메인별 특화 AI 모델에 배정돼 정확도를 높이고 응답 속도를 개선하는 구조로 구성돼 있다.

미라 네트워크의 장기 목표는 검증 자체를 생성 과정에 통합한 '신뢰 기반 AI 생성 모델'을 구축하는 것이다. 이 방식은 사람이 일일이 확인할 필요 없는 자율 AI 운영을 가능하게 하며, 디지털 사회 전반의 AI 채택을 가속할 수 있는 기반이 될 수 있다.

미라 네트워크 팀은 “스마트한 모델이 아니라, 검증 가능한 결과가 AI 대중화의 핵심”이라며 “AI는 독립적으로 작동할 수 있어야 진정한 변화를 만들 수 있다”고 말했다. 미라 네트워크 백서는 미라 네트워크 네트워크 구조와 기술적 세부사항, 경제적 인센티브 구조를 상세히 담고 있으며, 공식 웹사이트를 통해 열람할 수 있다.