AI가 어디까지 똑똑해질 것인가를 묻던 시대에서, 이제는 어디까지 맡겨도 되는가를 묻는 시대로 빠르게 넘어가고 있다. AGI를 넘어 초지능(SI·ASI)을 둘러싼 논쟁까지 뜨거워지면서 AI 산업의 화두도 성능에서 통제로 옮겨붙고 있다.
최근 Anthropic은 일부 AI 모델이 인터넷에 연결된 기기들을 통해 스스로 확산될 가능성을 경고했고, Google DeepMind의 데미스 허사비스도 최근 AI 에이전트의 해킹 사례를 더 큰 사고로 이어질 수 있는 ‘조기 경고’로 표현했다. 기술이 강해지는 속도만큼 “인간이 끝까지 통제할 수 있는가”라는 불안도 커지고 있다. 그런데 그 긴장감은 거대한 데이터센터 안에만 머물지 않는다. AI는 이미 사람의 얼굴 위에 올라왔다.
스마트폰을 내려놓자, AI가 눈과 귀로 들어왔다
지난 10일 연세대학교 수시 논술시험에서는 AI 기능 등이 탑재된 스마트 안경을 착용한 수험생이 감독관에게 적발됐다. 시험 전에는 일반 안경으로 검사를 받은 뒤 시험이 시작되고 스마트 안경으로 바꿔 쓴 것으로 파악됐다. 일주일 전 서울시립대 논술시험에서도 비슷한 사례가 발생했다.
시험장이 먼저 긴장하기 시작한 셈이다. AI 안경은 사진과 영상을 찍는 데서 멈추지 않는다. 카메라와 마이크, 생성형 AI가 사용자의 눈과 귀 가장 가까운 곳에 붙어 눈앞의 사물을 인식하고, 말을 듣고, 번역하고, 필요한 정보를 찾는다.
편리하다. 그러나 바로, 그 편리함이 새로운 질문을 던진다. 내가 바라보는 사람이 자신도 모르는 사이 기록되고 있다면. 옆자리 대화가 당사자의 인지 없이 AI의 분석 대상이 된다면. 보고 있는 행위와 기록하는 행위의 경계가 흐려진다면 어디까지 허용할 것인가.
첨부된 기획 방향 역시 AI 안경의 핵심 위험을 바로 이 지점, 즉 ‘보고 있는 행위’와 ‘기록하는 행위’의 경계가 흐려질 가능성에서 찾고 있다.
보고 있는 것인가, 기록하고 있는 것인가
스마트폰은 사진을 찍으려면 대개 기기를 꺼내 상대방에게 향한다.
안경은 다르다. 사용자는 자연스럽게 앞을 바라보고 있을 뿐인데, 기기는 그 장면을 인식하거나 기록할 수 있다. 제조사들도 이를 의식하고 있다. 촬영 시 표시등을 켜고, 사용자가 개인정보 설정을 관리하도록 하는 등 안전장치를 두고 있다.
국내 개인정보 보호법도 안경이나 시계처럼 신체에 착용해 영상을 촬영·수집·저장·전송하는 장치를 이동형 영상정보처리기기로 규정하고 있다. 업무 목적으로 공개된 장소에서 이를 사용할 경우 법률상 요건을 갖춰야 하고 촬영 사실 역시 쉽게 알릴 수 있도록 해야 한다. 이러한 법·제도적 통제 필요성은 기획보고서에서도 핵심 공익 논거로 제시됐다.
그러나 문제는 그 다음이다.
표시등은 ‘촬영 중’을 알릴 뿐이다
촬영 표시등은 카메라가 켜져 있다는 사실을 알릴 수 있다.
하지만 AI가 무엇을 보고 있는지까지 판단하지는 못한다. 누구의 얼굴과 음성을 인식했는지, 어떤 정보를 분석했는지, 무엇을 저장하고 어디로 전송하려는지까지 표시등 하나가 통제할 수는 없다. AI 안경이 실시간 번역과 검색을 넘어 스스로 여러 작업을 수행하는 에이전트형 기기로 발전하면 문제는 한층 복잡해진다.
병원이나 화장실, 시험장, 보안시설처럼 민감한 장소에서는 어떻게 할 것인가. 타인의 얼굴이나 대화를 저장하려 할 때는? 사용자가 명령했다고 AI가 그대로 실행해도 되는가. 세계 AI 산업이 지금 Human in the loop와 실행 전 통제, 로그와 추적성을 강조하는 이유와 맞닿는 지점이다.
국내에서는 메타콤(주)이 FORHU와 함께 SCL 기반 AI 플랫폼의 시장 적용과 사업화를 추진하고 있다. 그동안 주로 생성형 AI와 에이전트 통제 문제에서 다뤄졌던 SCL을 웨어러블·피지컬 AI까지 확장해 볼 수 있는 이유도 여기에 있다.
‘더 많이 보는 AI’보다 ‘멈출 줄 아는 AI’
AI 안경의 다음 경쟁이 카메라 화질이나 번역속도만으로 끝날 가능성은 낮다.
오히려 무엇을 보아도 되는지, 무엇은 기록하지 않아야 하는지, 어떤 행동은 실행 전에 멈춰야 하는지를 시스템이 얼마나 정교하게 판단하느냐가 중요해질 수 있다. 여기서 SCL(Structured Cognitive Loop·구조인지루프)을 하나의 설계 대안으로 검토할 수 있다.
예를 들어 안경의 센서가 주변 상황을 감지한다. AI가 장소와 상황, 개인정보 위험도를 판단한다. 그 다음 별도의 Control 단계가 정책과 조건을 확인한다. 문제가 없으면 실행한다. 민감한 저장이나 전송이라면 사람의 재확인을 요구한다. 금지조건이라면 촬영이나 외부 전송 자체를 막고, 승인과 차단 과정은 기록으로 남긴다. AI가 판단했다고 곧바로 실행하지 않게 하는 것이다. 기획보고서 역시 이를 ‘기능 제한’보다는 ‘신뢰 가능한 사용조건’을 만드는 문제로 보고 있다. 사용자의 양심에만 의존하는 대신 정책·로그·인간승인·차단규칙을 시스템 안에 넣는 방향이다.
물론 SCL이 현재 특정 AI 안경에 실제 탑재됐다는 의미는 아니다. 도촬이나 도청을 완전히 막는 기술이라고 단정할 단계도 아니다. 바로 그렇기 때문에 하나의 ‘가능성’으로 봐야 한다.
메타콤(주), 웨어러블 AI까지 통제구조 넓힐까
FORHU가 SCL 기술의 개발·고도화를 맡고 메타콤(주)이 서비스 적용과 시장 사업화를 추진하는 현재의 협력구조는 향후 AI 안경을 포함한 웨어러블·피지컬 AI 영역까지 확장 가능성을 검토할 수 있다. 실제 제품에 적용하려면 제조사 협력과 센서 접근권한, 정책 설계, 충분한 기술검증이 뒤따라야 한다.
아직 갈 길은 있다. 그럼에도 질문의 방향은 선명하다. AI 안경이 더 많은 것을 보고 듣게 된다면, 그만큼 더 정교하게 멈출 수도 있어야 하지 않는가. 기술이 앞서갈 수는 있다. 그러나 인간의 권리를 넘어설 수는 없다. AI 안경이 ‘더 많이 보는 기술’에서 끝날 것인가.
아니면 보아서는 안 되는 것을 구분하고, 실행해서는 안 되는 순간 멈출 줄 아는 기술로 진화할 것인가.
AI 안경의 진짜 경쟁은 어쩌면 지금부터다. 그리고 그 답을 찾는 과정에서 SCL이라는 ‘구조적 브레이크’도 하나의 대안으로 시험대에 오르고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
