Computer use와 서비스들의 AI agent 장벽
불과 1년도 채 되지 않은 시점에 AI agent에 대한 예상들 [1]이 있었는데, 지금은 이미 완전히 다른 세상이 되었다. Cursor 등과 같은 특화된 작업에 대한 AI agent, Microsoft Office나 Gmail 등과 같은 기존의 제품에 포함된 AI agent, Manus와 같은 일반적인 AI agent, 마지막으로 ChatGPT나 Claude와 같은 기존의 ‘LLM 서비스’들 – AI 서비스들도 AI agent 기능을 적극적으로 내세우고 있다.
Major AI 서비스들은 앞으로도 이 영역에서 일어나는 모든 것들을 흡수하려고 할 것이고, 전문화된 영역에서의 AI agent들도 계속 발전하고 그 영역도 많아질 것이다. 여기까지는 어찌보면 자연스러운 변화들이라서 더이상 뉴스라고 여겨지지 않을 정도다. 오늘 여기서 얘기하고 싶은 것은, Manus와 같은 일반적인 AI agent 서비스는 이미 굉장한 조명을 받았지만, 앞으로는 이러한 Computer use 기반의 도구나 서비스가 더 커다란 변화를 일으키고 더 큰 관심을 받을 것이라고 생각한다.
AI 서비스나 AI agent들을 활용하고 있는 대부분의 사람들은 그 서비스나 도구에서 허용한 도구들만 사용할 수 있었다. 최근에 이를 쉽게 확장할 수 있는 MCP가 화제가 되었지만, 적어도 지금까지는 사용자가 이를 설정하고 허용해야한다. Computer use 기반의 도구들은 사용자의 컴퓨터나 가상 컴퓨터의 애플리케이션들의 현재 상태를 확인하고 직접 조작을 한다. 현대의 많은 애플리케이션들은 웹 서비스로 구현되어있으므로, 대부분의 사용자가 필요로 하는 기능들은 웹 브라우저에 대한 기능만으로도 가능할 것이다. 그리고, 이미 AI 서비스들도 이러한 기능에 대한 데모와 베타 기능들을 선보였고, 미래를 준비하고 있는 것을 볼 수 있다. [2] [3]
Computer use의 광범위한 능력 덕분에 이를 활용하는 AI agent들은 어떤 목적의 작업을 수행하기 위해 그동안 인간이 사용하던 모든 종류의 인터넷 서비스에 접근할 수 있을 것이다. 그리고, 실제로 실현된다면 이것이 가져오는 파급력은 굉장할 것으로 보인다.
- 완전 경쟁이 일어날 가능성이 높아진다. 특히, 본질적인 경쟁 우위를 가지고 있는 것이 아니라, 인간 사용자의 관성이나 높은 전환 비용에 의존하던 서비스들은 AI agent에 의해 소외되고 결과적으로 사용자와 매출을 잃을 수 있다.
- 광고 매출이 감소할 수 있다. 시장 지배력을 가진 대형 서비스라고 하더라도, 광고 수익 모델에 의존하는 경우, AI agent에 의한 서비스 제공이 보편화된다면, 타격을 받게 될 수 있다.
- 서비스 제공 주체에 대한 인식과 브랜드 가치가 희석될 수 있다. 사용자가 실제로 사용하는 것이 만약 AI agent를 제공하는 AI 서비스라면, 실제로 서비스를 제공하는 기업의 브랜드가 더이상 사용자에게 노출되지 않거나 중요하지 않게 될 수 있다.
특히, 정보 제공이나 기능적 효용에 초점을 맞춘 서비스들은 AI agent들의 직접적인 영향권 아래 놓일 가능성이 높다. 게임이나 비디오 스트리밍과 같이 서비스의 목적 자체가 사용자와의 직접적인 상호작용을 요구하는 서비스가 아니라면 말이다.
그럼에도 불구하고, 이렇게 거대한 이익이 달린 문제라면 세상은 그렇게 호락호락 움직이지는 않을 것이다. 그래서, 적어도 앞으로 1-3년 사이에 인터넷 서비스들은 인간 사용자의 트래픽을 확보하고, AI agent의 트래픽을 차단하려는 노력을 기울일 것으로 추측한다.
이미 이러한 일들은 벌어진 바가 있다. ChatGPT와 같은 ‘LLM 서비스’들의 영향력이 커지면서, 인터넷 서비스 상의 저작물에 대한 AI의 수집 및 활용에 대해서는 이미 커다란 화제 [4]가 된지 오래이고, 인터넷 서비스들은 AI 서비스들과 법적인 충돌을 일으키고 있고, 많은 인터넷 서비스들은 이미 AI의 수집 접근을 차단하거나 제한하고 있다.
AI agent에 대해서도 비슷한 일들이 일어날 것으로 보인다.
- AI agent가 가장 먼저 보편화되는 비즈니스 영역에서 법적인 분쟁이 일어날 것이다. 예를 들어, 항공권 예약 AI agent가 보편화된다면 항공사 또는 항공권 판매사들의 경쟁이 치열해지고 마진이 줄어들 것이다. 이에 따라 그러한 서비스를 제공하는 가장 큰 AI 서비스 회사에 대한 소송전이 일어날 수 있다.
- 인터넷 서비스들은 AI agent들의 접근을 차단하기 위한 법적인 수단과 우회적인 기술 수단들을 만들 것이다. 우선, AI 서비스들에 대한 법적인 경고와 협조 하에 접근 규칙이 수립될 것이다. 하지만, 이것만으로는 그런 것들은 신경쓰지 않는 스타트업들이나 일반적인 사용자들의 AI agent들의 접근을 차단하기 어렵기 때문에, 서비스 내의 정보나 기능을 폐쇄적으로 유지한다든가, 인증 또는 주문 등의 시점에서 인간임을 직접 인증하도록 한다든가, 또는 사용자의 행동 패턴 분석 등을 통한 정교한 방법들도 시도될 것이다.
- OS와 브라우저 플랫폼 기업들은 이러한 변화를 레버리지로 활용할 것이다. 위에서 언급한 AI agent들을 차단하기 위한 우회적인 기술 수단은 결국 한계가 있기 때문에, OS나 브라우저에서의 변화가 도입될 수 있다. 다만, Microsoft, Google, Apple 등과 같은 OS와 브라우저 플랫폼 기업들은 모두 AI 서비스 제공자이자 서비스 제공자로서, 서비스 생태계 내에서 게이트키퍼로서의 이중적인 지위를 가질 수 있다. 따라서, 자체 서비스의 경쟁 우위를 확보한 후에는 AI agent에 대한 차단 수단들을 없앤다든가, 또는 미묘한 우회 기술을 자사 서비스에서만 활용해서 AI agent를 차단한다든가 하는 전략적 행보를 보일 가능성을 배제할 수 없다.
향후 2~3년은 AI agent의 확산과 이에 대응하는 인터넷 서비스들의 전략적 움직임이 충돌하며 상당한 긴장 관계가 형성되는 시기가 될 것으로 점쳐본다. 물론 여기서 정부의 역할도 빠질 수가 없는데, AI agent 차단을 둘러싼 법적인 논의 – AI agent를 차단하는 것이 사회에 이익이 되는가, AI agent를 차단하기 위해 이를 구분할 권리가 있는가 그리고 이에 따른 미국이나 EU 등의 정책 방향이 어디로 가는가도 흥미로운 관전 포인트가 될 것 같다.
[1] Jeongho Jang, LLM과 Autonomous Agent에 대한 단상, 2024-05-17
[2] Anthropic, Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku \ Anthropic, 2024-10-23
[3] OpenAI, Computer-Using Agent | OpenAI, 2025-01-23
[4] Audrey Pope, NYT v. OpenAI: The Times’s About-Face, 2024-04-10