티스토리 뷰
몇 년 전까지만 해도 새로운 AI 모델이 공개되면 가장 먼저 등장하는 이야기는 대부분 비슷했습니다.
“이번에는 얼마나 더 똑똑해졌을까?”
수학 문제를 얼마나 잘 푸는지, 코딩 성능은 얼마나 좋아졌는지, 어려운 질문에 얼마나 정확하게 답하는지와 같은 성능이 새로운 AI를 평가하는 중요한 기준이었습니다.
사용자가 AI를 활용하는 방식 역시 대부분 질문과 답변을 중심으로 이루어졌습니다.
궁금한 것이 있으면 질문합니다.
AI가 답변합니다.
사람은 그 답변을 읽고 다시 다음 행동을 합니다.
예를 들어 AI에게 여행 계획을 물어볼 수는 있지만 실제로 숙소를 찾아 비교하고 일정을 캘린더에 등록하는 것은 사람이 해야 했습니다. AI에게 프로그램 코드를 작성해 달라고 할 수는 있지만 프로젝트 구조를 확인하고 코드를 적용하고 테스트하는 것은 개발자가 해야 했습니다.
즉, AI가 매우 똑똑해졌어도 AI의 답변과 실제 업무 사이에는 여전히 사람이 존재했습니다.
그런데 최근 AI 업계를 살펴보면 경쟁의 중심이 조금씩 달라지고 있습니다.
이제 중요한 질문이 단순히 “어떤 AI가 가장 좋은 답변을 만드는가?” 에서 끝나지 않습니다.
“어떤 AI가 실제로 더 많은 일을 끝낼 수 있는가?”가 새로운 경쟁 기준으로 등장하고 있습니다.
Google의 Gemini 3.7 Flash에서 볼 수 있는 변화
이러한 변화를 살펴볼 수 있는 최근 사례가 있습니다.
2026년 8월 13일 Google은 Gemini 3.7 Flash를 공개했습니다.
이번 발표에서 주목해 볼 부분은 단순히 모델의 대화 성능이 얼마나 향상되었느냐만이 아닙니다. Reuters 보도에 따르면 Gemini 3.7 Flash에서는 소프트웨어 코딩과 여러 단계의 업무 자동화, Agent workflow 등이 중요한 활용 영역으로 제시되었습니다.
이것은 최근 AI 모델이 어디를 향해 발전하고 있는지를 보여주는 하나의 사례라고 생각합니다.
실제 업무에서는 좋은 문장을 만드는 것만으로 해결되지 않는 일이 많기 때문입니다.
예를 들어 사용자가 AI에게 “지난달 쇼핑몰 매출을 분석해서 보고서를 만들어 줘.”라고 요청했다고 생각해 보겠습니다.
단순한 챗봇이라면 어떤 데이터를 확인해야 하는지 알려주거나 사용자가 데이터를 제공했을 때 내용을 분석해 줄 수 있습니다.
하지만 실제로 이 일을 처음부터 끝까지 처리하려면 해야 할 일이 훨씬 많습니다.
먼저 필요한 매출 데이터를 찾아야 합니다. 데이터를 읽고 지난달과 이전 달의 매출을 비교해야 합니다. 어떤 상품의 매출이 크게 증가하거나 감소했는지도 확인해야 합니다. 필요한 경우 그래프를 만들어야 하고, 분석한 내용을 사람이 읽기 쉬운 보고서로 정리해야 합니다.
결국 하나의 업무를 완성하려면 데이터 확인 → 분석 → 비교 → 판단 → 시각화 → 문서 작성이라는 여러 단계가 필요합니다.
최근 AI 기업들이 Agent와 업무 자동화에 관심을 가지는 이유도 여기에 있습니다.
AI가 현실의 업무에서 더 큰 역할을 담당하려면 단순히 좋은 답변을 만드는 능력을 넘어 여러 작업을 연결하는 능력이 필요하기 때문입니다.
Chatbot에서 Copilot으로, 그리고 Agent로
지금 일어나고 있는 변화를 이해하려면 우리가 AI를 사용하는 방식이 어떻게 달라져 왔는지를 살펴보면 쉽습니다.
첫 번째는 Chatbot입니다.
Chatbot의 기본적인 구조는 매우 단순합니다.
사람 → 질문 → AI → 답변
사람이 질문하면 AI가 답변합니다.
예를 들어 개발자가 “Java에서 JWT 인증을 구현하려면 어떻게 해야 해?”라고 물어보면 AI가 방법과 예제 코드를 알려줍니다.
하지만 실제 프로젝트에 적용하는 것은 개발자의 역할입니다.
그다음 등장한 방식이 Copilot입니다.
Copilot에서는 AI가 사람의 작업 과정 안으로 조금 더 가까이 들어옵니다.
개발자가 코드를 작성하면 다음 코드를 제안하고, 문서를 작성하고 있다면 내용을 수정해 주며, 현재 작업하고 있는 내용을 바탕으로 필요한 도움을 제공합니다.
즉, 사람 ↔ AI가 계속 상호작용하면서 함께 결과를 만들어갑니다.
그리고 최근 더욱 중요해지고 있는 방향이 Agent입니다.
Agent에서는 사람이 모든 작업을 하나씩 지시하기보다 최종적으로 원하는 목표를 전달하는 방향으로 이동합니다.
예를 들어 “이번 달 경쟁 서비스의 주요 업데이트를 조사해서 비교 보고서를 만들어 줘.”라고 요청합니다.
그러면 Agent가 어떤 자료가 필요한지 판단하고, 검색 도구를 사용하고, 여러 자료를 읽고, 내용을 비교하고, 필요한 부분을 다시 조사하고, 최종 결과를 정리하는 식으로 여러 작업을 이어갈 수 있습니다.
결국 변화의 핵심은 AI가 얼마나 말을 잘하는가에서 AI가 얼마나 많은 작업을 연결할 수 있는가로 확장되고 있다는 것입니다.
왜 AI 기업들은 ‘일하는 AI’에 집중하기 시작했을까요?
이유는 생각보다 현실적입니다.
AI가 아무리 좋은 답변을 만들어도 사람이 그다음 과정을 모두 직접 처리해야 한다면 실제로 절약되는 시간에는 한계가 있기 때문입니다.
회의를 예로 들어보겠습니다.
AI가 1시간짜리 회의를 완벽하게 요약했다고 생각해 보겠습니다.
물론 이것만으로도 상당히 편리합니다.
하지만 실제 업무는 회의 요약에서 끝나지 않습니다.
회의에서 결정된 내용을 찾아야 합니다.
누가 어떤 일을 맡았는지 확인해야 합니다.
각 업무의 마감일을 정리해야 합니다.
업무 관리 도구에 작업을 등록해야 할 수도 있습니다.
관련된 사람에게 내용을 전달해야 할 수도 있습니다.
결국 사람이 AI의 요약을 읽고 다시 여러 프로그램을 돌아다니며 다음 일을 해야 합니다.
반대로 AI가 회의 내용을 정리하고, 결정 사항을 추출하고, 담당자별 해야 할 일을 정리하고, 일정 초안을 만들고, 전달할 메시지까지 준비한다면 사람이 처리해야 하는 작업은 훨씬 줄어듭니다.
여기서 AI가 제공하는 가치가 달라집니다.
좋은 답변을 제공하는 것에서 실제 업무를 줄여주는 것으로 이동하는 것입니다.
OpenAI 역시 최근 기업에서 AI의 가치를 평가할 때 단순한 사용량이나 비용만 보는 것보다 AI가 얼마나 많은 유용한 작업을 성공적으로 완료했는지를 함께 살펴볼 필요가 있다는 관점을 제시했습니다.
결국 기업 입장에서도 직원이 AI에게 질문을 몇 번 했는지보다 AI 덕분에 실제로 얼마나 많은 시간이 절약되었고 얼마나 많은 업무가 완료되었는가가 더 중요한 문제가 될 수 있습니다.
앞으로는 ‘AI를 얼마나 많이 사용하는가’가 중요하지 않을 수도 있습니다
AI 도입 초기에는 사용량 자체가 중요한 지표가 될 수 있습니다.
회사에서 직원 100명 중 90명이 AI를 사용하고 있다면 얼핏 보기에는 성공적으로 AI를 도입한 것처럼 보입니다.
하지만 조금 다르게 생각해 볼 필요가 있습니다.
90명의 직원이 하루에 한두 번씩 AI에게 이메일 문장을 다듬어 달라고 요청하는 회사가 있다고 생각해 보겠습니다.
반대로 AI를 적극적으로 사용하는 직원은 30명뿐이지만, 그 사람들이 매일 반복하던 자료 조사, 고객 문의 분류, 데이터 정리, 보고서 초안 작성, 테스트 코드 생성 등의 업무를 AI를 이용해 줄이고 있는 회사가 있습니다.
어느 쪽이 AI를 더 잘 활용하고 있다고 말할 수 있을까요?
단순한 사용 횟수만으로는 판단하기 어렵습니다.
그래서 앞으로는 AI를 몇 번 사용했는가 보다 AI를 사용해서 실제 업무가 얼마나 줄었는가가 더욱 중요한 기준이 될 수 있습니다.
예를 들어 한 달에 20시간이 걸리던 반복 업무를 AI를 통해 5시간으로 줄였다면 15시간의 시간이 생깁니다.
그 시간을 사람이 더 중요한 판단이나 새로운 업무에 사용할 수 있다면 AI가 만들어낸 가치는 단순한 답변 횟수보다 훨씬 큽니다.
결국 기업의 AI 경쟁에서도 모델의 사용량뿐만 아니라 작업 성공률, 사람이 다시 수정해야 하는 정도, 실제로 절약된 시간과 같은 지표가 중요해질 가능성이 있습니다.
AI가 저렴하고 빠르더라도 계속 잘못된 결과를 만들어 사람이 수정해야 한다면 실제 생산성은 높지 않을 수 있기 때문입니다.
‘일하는 AI’가 되려면 Context가 필요합니다
AI가 단순한 질문에 답할 때는 사용자가 입력한 몇 문장만으로도 충분할 수 있습니다.
하지만 AI에게 실제 일을 맡기려고 하면 이야기가 달라집니다.
예를 들어 개발자가 AI Agent에게 “우리 서비스에 회원 탈퇴 기능을 추가해 줘.”라고 요청했다고 생각해 보겠습니다.
AI가 프로그래밍을 아무리 잘하더라도 이 한 문장만 가지고 좋은 결과를 만들기는 어렵습니다.
현재 프로젝트가 어떤 구조로 되어 있는지 알아야 합니다.
회원 데이터가 어떤 테이블에 저장되어 있는지 확인해야 합니다.
탈퇴하면 작성한 게시물을 삭제할 것인지 유지할 것인지도 알아야 합니다.
소셜 로그인 사용자는 어떻게 처리하는지도 알아야 합니다.
팀에서 사용하는 코딩 규칙과 테스트 방법도 알아야 합니다.
즉, 실제 업무에서는 단순한 명령보다 그 일을 둘러싼 맥락(Context)이 훨씬 중요합니다.
사람에게 일을 맡길 때도 마찬가지입니다.
새로운 직원에게 “회원 탈퇴 기능 만들어 주세요.”라고 한마디만 하는 것보다 서비스 구조와 기존 정책, 주의해야 할 부분을 함께 알려줘야 더 좋은 결과가 나옵니다.
AI Agent 역시 마찬가지입니다.
그래서 Agent가 발전할수록 AI에게 필요한 정보를 어떤 방식으로 제공하고, 어떤 정보는 계속 기억하게 하고, 현재 작업에 필요한 정보만 어떻게 골라서 전달할 것인지가 중요한 문제가 됩니다.
이러한 흐름은 Context Engineering과도 자연스럽게 연결됩니다.
AI가 일을 시작하면 ‘권한’이라는 새로운 문제가 생깁니다
여기서 또 하나의 변화가 생깁니다.
AI가 질문에 답하는 것과 AI가 실제로 행동하는 것은 위험의 크기가 다릅니다.
AI가 잘못된 답변을 작성했다면 사람이 읽고 수정할 수 있습니다.
하지만 AI가 실제 고객에게 잘못된 이메일을 발송했다면 이미 행동이 발생한 뒤입니다.
AI가 잘못된 코드를 추천하는 것과 운영 중인 서버에 직접 잘못된 코드를 배포하는 것 역시 완전히 다른 문제입니다.
그래서 Agent가 발전할수록 AI가 무엇을 할 수 있는가와 함께 무엇을 하도록 허용할 것인가가 중요해집니다.
예를 들어 AI에게 회사 문서를 읽을 수 있는 권한은 줄 수 있습니다.
하지만 문서를 삭제할 권한까지 줄 필요는 없을 수 있습니다.
AI에게 이메일 초안을 작성하도록 할 수는 있지만 실제 발송 직전에는 사람의 승인을 받도록 만들 수도 있습니다.
AI가 상품을 검색하고 가격을 비교하는 것까지는 자동으로 수행하도록 하면서 실제 결제 단계에서는 사용자에게 확인을 요청하도록 할 수도 있습니다.
결국 좋은 Agent는 모든 권한을 가진 AI가 아닙니다.
자신에게 허용된 범위 안에서 최대한 많은 일을 처리하고, 중요한 순간에는 사람에게 판단을 넘길 수 있는 AI가 더 현실적인 형태에 가깝습니다.
따라서 Agent 시대에는 모델의 추론 성능뿐 아니라 권한 관리, 보안, 작업 기록, 사람의 승인 같은 기술도 함께 중요해질 수밖에 없습니다.
이제 AI 경쟁을 볼 때 질문을 바꿔볼 필요가 있습니다
새로운 AI 모델이 공개되면 우리는 자연스럽게 성능표를 확인합니다.
다른 모델보다 추론 점수가 얼마나 높은지, 코딩 문제를 얼마나 잘 해결하는지, 응답 속도가 얼마나 빠른지, 가격은 얼마나 저렴한지를 비교합니다.
물론 이러한 숫자는 앞으로도 중요합니다.
하지만 AI가 Chatbot에서 Agent로 확장되고 있다면 이제 한 가지 질문을 더 해볼 필요가 있습니다.
“그래서 이 AI는 실제로 어떤 일을 끝낼 수 있을까?”
코딩 벤치마크 점수가 높은 AI가 실제 프로젝트의 구조를 이해하고 여러 파일을 수정하고 테스트까지 수행할 수 있는지는 또 다른 문제입니다.
추론 점수가 높은 AI가 인터넷에서 필요한 자료를 찾아 여러 출처를 비교하고 신뢰할 만한 보고서를 만들어낼 수 있는지도 별개의 문제입니다.
앞으로 AI가 실제 업무에 더 깊이 들어올수록 단순한 지능뿐만 아니라 도구 사용 능력, 작업 성공률, 긴 작업을 유지하는 능력, 오류에서 복구하는 능력, 사람의 지시를 지키는 능력 등이 함께 중요해질 가능성이 높습니다.
그래서 앞으로 새로운 AI가 등장했을 때는 벤치마크 숫자를 보는 것과 함께 이런 질문을 던져보면 좋겠습니다.
이 AI에게 어떤 일을 맡길 수 있는가?
어디까지 혼자 처리할 수 있는가?
중간에 문제가 생기면 스스로 다시 시도할 수 있는가?
중요한 행동에서는 사람에게 확인을 요청하는가?
결국 AI 경쟁의 다음 단계는 더 똑똑한 답변을 만드는 경쟁에서 더 많은 유용한 일을 안정적으로 끝내는 경쟁으로 확장되고 있습니다.
그리고 저는 앞으로 AI의 발전을 볼 때 가장 재미있는 기준 역시 여기에 있다고 생각합니다.
“이 AI는 얼마나 똑똑한가?”가 아니라 “이 AI에게 무엇을 믿고 맡길 수 있는가?”
이 질문이 앞으로의 AI 경쟁을 이해하는 중요한 기준 중 하나가 될 수 있습니다.