직장에 기업용 ChatGPT가 들어온 뒤 생긴 일
회사에 기업용 ChatGPT가 들어왔다. 전사 공지가 나가고, 계정이 열리고, 사내 교육이 한 차례 돌았다. 몇 달 써본 지금 남은 느낌은 기대와 피로가 반반이다.
도입 자체가 잘못됐다는 얘기는 아니다. 잘 되는 일과 안 되는 일이 꽤 뚜렷하게 갈렸고, 안 되는 쪽의 이유가 대부분 AI 성능이 아니라 그 주변에 있었다.
확실히 빨라진 일
외부 자료를 모아 정리하는 일이 가장 크게 바뀌었다. 예전에는 검색창을 열고 스무 개쯤 링크를 돌아다니며 쓸 만한 문단을 골라냈다. 지금은 질문을 던지고 나온 결과를 검증하는 쪽으로 시간이 옮겨갔다. 전체 소요 시간이 반 이하로 줄었다.
엑셀을 다루는 일도 그렇다. 수식으로 며칠 붙들던 데이터 정리를 파이썬 코드 몇 줄로 끝내게 됐다. 코드를 못 쓰던 사람이 쓰게 됐다는 게 핵심이다. 반복 작업을 자동화하는 스크립트도 마찬가지다.
문서 초안도 빨라졌다. 빈 화면을 마주하는 시간이 사라졌다. 결국 대부분 고쳐 쓰게 되지만, 고칠 것이 있는 상태에서 시작하는 것과 아무것도 없는 상태에서 시작하는 것은 다르다.
공통점이 있다. 전부 회사 시스템 바깥에서 끝나는 일이다. 자료를 찾고, 문서를 쓰고, 파일을 정리하는 일. 여기까지는 AI가 바로 힘을 낸다.
막히는 곳은 정해져 있다
문제는 사내 시스템과 엮이는 순간 시작된다. 오래된 사내 시스템은 데이터를 꺼내는 방법부터 제각각이다. 화면에서 눈으로 읽어야 하는 것도 있고, 담당 부서에 요청해야 받을 수 있는 것도 있다. 데이터를 손에 넣지 못하면 AI가 아무리 좋아도 할 일이 없다.
보안 정책도 벽이 된다. 외부로 나가는 통신이 막혀 있고, 파일 반출에도 절차가 붙는다. 이것 자체는 필요한 통제다. 다만 AI를 도입하면서 이 통제를 어떻게 통과시킬지는 함께 설계되지 않았다. 결과적으로 쓸 수 있는 범위가 도입 전 기대보다 훨씬 좁아졌다.
그래서 실제 성과는 “자료 조사와 문서 작업이 빨라졌다” 선에서 멈춘다. 적은 성과는 아니다. 그런데 도입할 때 그린 그림은 업무 프로세스 자체가 바뀌는 쪽이었다.
쓸모없는 산출물이 늘어나는 이유
가장 피곤한 건 다른 데서 온다. 성과를 보여야 하니 뭔가를 만들기 시작한다.
아무도 보지 않는 대시보드가 생긴다. 업무를 잘 모르는 사람이 AI로 만든 시스템이 올라온다. 둘 다 만드는 데는 며칠이면 되지만, 검토하고 의견을 달고 회의에 참석하는 사람의 시간은 그대로 든다. 산출물 개수는 늘고 실제로 줄어든 일은 없다.
AI가 진입 장벽을 낮춘 결과이기도 하다. 예전에는 시스템 하나를 만들려면 개발 부서를 거쳐야 했고, 그 과정에서 걸러지는 것이 있었다. 지금은 누구나 만들 수 있다. 만드는 비용이 낮아진 만큼 걸러내는 장치도 같이 필요해졌는데, 그건 아직 없다.
비용 압박도 여기에 겹친다. 기업용 계약은 비싸다. 돈을 썼으니 성과를 내놓으라는 요구가 도입 직후부터 나온다. 안정화에 쓸 시간을 벌지 못한 채 숫자부터 만들어야 하는 상황이 된다.
이 흐름이 이어지면 다음 단계는 대개 정해져 있다. 성과가 기대에 못 미치면 비용 절감으로 방향이 바뀌고, 토큰 사용 제한 같은 정책이 붙는다. 정작 쓸모를 찾아가던 사람들의 손이 그때 묶인다.
우리 회사만의 일은 아니다
비슷한 이야기가 조사에서도 나온다. 2026 IT 전망 조사에서 국내 기업이 꼽은 가장 큰 어려움 1위가 경영진의 기대와 현실 사이의 격차였다. 응답자 3분의 1이 여기에 표를 줬다. 2위는 실무진의 역량 부족이었다.
널리 인용되는 숫자도 있다. MIT 보고서가 생성형 AI 파일럿의 95%가 손익에 잡히는 성과를 내지 못했다고 분석했다. 다만 이 숫자는 그대로 받아들이기 어렵다. 이 통계를 다시 뜯어본 기사는 조사 대상의 80%가 파일럿을 시도조차 하지 않았고, 실제로 시도한 곳 중에서는 25%가 높은 기준을 충족했다고 지적한다.
어느 쪽이든 공통으로 가리키는 곳은 같다. 기술이 아니라 준비와 측정이다. 파일럿 함정을 다룬 기사에는 파일럿이 나쁜 결과 때문이 아니라 아무 결과도 내지 못해 끝난다는 말이 나온다. 이미 시간과 돈을 썼다는 이유로 아무도 중단을 말하지 못하는 상태가 이어진다는 것이다.
도입하는 쪽이라면
겪어보고 정리한 것 세 가지가 있다.
첫째, 데이터를 꺼낼 수 있는 업무부터 시작한다. AI 성능보다 데이터 접근성이 먼저다. 잘 되는 일과 안 되는 일의 경계가 거기서 갈린다.
둘째, 산출물 개수를 성과 지표로 삼지 않는다. 몇 개를 만들었는지가 아니라 어떤 일이 없어졌는지를 센다. 없어진 일이 없으면 만든 것은 부담만 늘린 셈이다.
셋째, 탐색 기간을 명시적으로 준다. 첫 분기에는 ROI를 묻지 않는다고 미리 정해두는 편이 낫다. 그 기간에 나온 실패 사례가 다음 분기의 판단 근거가 된다.
AI 자체는 충분히 좋다. 몇 달 써보고 확실해진 건 도구가 아니라 그 도구를 받을 준비가 병목이라는 점이다. 준비되지 않은 곳에 좋은 도구를 넣으면, 좋은 도구를 쓰느라 바빠진다.
[…] 직장 내 ChatGPT 활용: 생산성과 현실 사이의 줄타기 […]