프롬프트로 뭘 할지 정하기 앞서 내 업무 있는 그대로 살펴보기

프롬프트 목표, 즉 AI로 내가 얻고자 하는 결과물은 곧 '내가 원래 하던 업무를 AI로 대체'한다는 의미일 가능성이 높습니다. 그런데 여기서 '대체'라는 관점도 좀 더 뜯어볼 여지가 있습니다. AI를 내 옆에서 같이 일하는 조수라고 해보겠습니다. 조수에게 내가 하던 업무 일부를 떼줘서 대신 해달라고 부탁하면 '대체'에 그치겠죠. 반면 내 산출물을 나와는 다른 관점으로 리뷰해달라고 부탁할 수도 있습니다. 이는 '대체'라 볼 수 없지만 분명 내 성과물을 한층 더 퀄리티있게 만들어 줄텐데요.

최근에 재밌게 본 위의 EO 유튜브 영상에서 이런 관점을 멋있게 설명하기 딱 좋은 표현을 발견했습니다. AI를 잘 쓰는 그룹과 아닌 그룹의 차이는 "AI를 도구가 아니라 동료 직원처럼 대했다"는 점이라고 합니다. 도구는 사람이 일방향으로 이용할 뿐이지만, 동료 직원은 나와 양방향으로 소통하고 서로 질문을 건넬 수 있습니다. AI를 내 업무를 대신 수행하는 성능 좋은 도구로 본다고 해서 잘못된 접근인 것은 아닙니다. 그러나 AI가 해낼 수 있는 능력을 100% 활용하는 방식은 아닙니다.

그렇다면 굳이 '대체'라는 틀에 우리 생각을 가둘 필요가 없습니다. 내가 지금 하고 있는 '업무'의 모든 종류와 특징을 살펴보고, 그 안에서 AI를 써먹을 수 있는 부분을 적용하면 됩니다. 저는 IT 기업에서 Product Manager로 일하고 있고, 이 글도 제 개인적인 경험에 다분히 제한되어 있습니다. 그럼에도 자료 조사, 데이터 분석, 논리적 스토리텔링이라는 큰 틀에서는 다양한 직무와 공통점을 갖고 있다고 생각합니다. 이러한 직무 특성상 생성형 AI로 만드는 이미지/영상을 활용할 일은 거의 없습니다. 그보다는 자연어 독해/쓰기 능력, 수학 연산, 프로그래밍 능력에 초점을 맞춰서 설명하겠습니다.

제 평소 업무를 기준점으로 봤을 때 업무의 종류를 아래와 같이 크게 3가지로 나눠볼 수 있습니다.

탐색형 업무(ex. 인터넷 검색)

• 정의 : 온라인 자료 검색 등 큰 목표만 정해진 상태에서 관련 자료나 데이터를 찾는 행위
• 예시 : 새로 출시하려는 제품의 잠재 시장 규모 조사, 다뤄본 적 없는 업무 방법론 학습하기
• 특징 : 검색 '키워드'를 얼마나 잘 찾는지가 자료 탐색 효율을 결정함. 내가 모르는 분야이므로 자료 조사를 하는건데, 모르는 분야여서 검색 '키워드'를 찾는 것부터 어려운 문제를 겪을 수 있음

분석형 업무(ex. 통계 계산)

• 정의 : 주어진 자료를 정해진 방법론이나 기법으로 분석하는 행위
• 예시 : 유저 행동 데이터에서 나타나는 패턴으로 비슷한 유저 군집 도출하기, VOC 데이터를 해당하는 기능별로 분류하기
• 특징 : 개별 데이터의 분석 단계에서 내가 할 행동의 '정답'은 정해져 있음. 예를 들어, 주어진 수량 데이터로 통계 리포트를 작성한다면 통계치를 계산하는 방식은 정답이 정해져 있음

발상형 업무(ex. 글쓰기)

• 정의 : 주어진 자료, 내 머리 속에서 나온 아이디어와 업무 능력을 활용해서 일정한 산출물을 만들어내는 행위
• 예시 : 프로젝트 기획서 작성, 영업용 이메일 본문 작성
• 특징 : '정답'이 정해져 있지 않으므로, 얼마나 더 효과적인 발상을 더 다양하게 해낼 수 있는지가 중요함

업무 특징에 따라 달라지는 AI 효과

업무 특징별 활용할 수 있는 AI 도구 요약 그림

탐색형 업무 : 점진적인 탐색 단계를 AI로 단축시키기

여기서 말하는 탐색형 업무란 큰 목표만 정해진 상태에서 자료를 찾아나가며 답을 도출하는 과정을 말합니다. 예를 들어 시장에 신제품을 출시하면 어느 정도 시간이 지난 후 성과 평가를 진행해야 합니다. 여기서 성과 평가의 기준점이 우리 회사의 타겟 시장, 제품 특성 등 다양한 변수에 의해 달라집니다. 그래서 단순히 '성과 평가 기준점'이라는 키워드로 내가 원하는 답을 찾을 수 없고, 내 상황에 맞추어 검색 결과를 좁혀나가야 합니다.

저도 이제는 주니어 레벨을 벗어난 상태라서 웬만한 업계 용어, 방법론 용어를 얼추 알다보니 자료 조사가 좀 더 쉬워진 편인데요. 불과 몇 년 전만 해도 이런 용어들도 잘 몰랐고, 적절한 검색 키워드를 알아내는 것도 쉽지 않았습니다. 이렇듯 내가 잘 모르는 분야일수록 광범위한 탐색으로 시작할 수밖에 없습니다. 그 탐색 결과를 내가 이해하고 후속 조사 방향성을 줄여나가는 시간도 감안해야 합니다. 그러나 AI를 쓰면 이러한 중간 단계를 사람이라면 불가능할 속도로 빠르게 진행한 후, 바로 최종 결과물부터 살펴볼 수 있습니다.

추천 도구(간단한 문제) : Perplexity (가격 : 무료)

비교적 간단한 자료 검색이라면 Perplexity를 쓰면 됩니다. Perplexity 데스크탑 앱을 설치하면 단축키로 빠르게 Perplexity를 실행할 수 있습니다. 지금 켜져 있는 프로그램과 상관없이 아무때나 실행시킬 수 있는 단축키여서 여러 업무 도구를 오가던 중 갑자기 검색하고 싶은게 생기면 언제나 곧바로 Perplexity에 궁금한 점을 입력할 수 있습니다.

내 컴퓨터에서 단축키를 누르면 바로 실행시킬 수 있는 Perplexity 입력 화면

AI 이전에는 검색 결과가 잘 나오도록 내가 검색 키워드를 잘 넣어주는 게 중요했는데요. 예를 들면 검색 결과에 반드시 포함했으면 하는 키워드는 따옴표로 감싸주는 식입니다. 기본적으로 웹에 존재하는 자료를 '찾는'일이다 보니, 문제 해결은 어디까지나 그 자료를 읽고 활용하는 내 몫이었습니다.

반면 AI는 내가 찾으려는 자료가 아니라 내 '문제'를 말해주면 됩니다. 그럼 내 의도를 독해한 후 인터넷 속 자료를 두루 찾아 해결책까지 도출해 줍니다. 예를 들어 엑셀에서 내가 원하는 분석 결과를 얻기 위해 어떤 엑셀 함수를 써야 하는지 조사한다고 해보겠습니다. 구글 검색으로 vlookup 같은 여러 엑셀 함수 사용법을 알아낼 수 있지만, 당연하게도 검색해서 나오는 자료는 내 데이터에 맞춰서 작성되지 않았다는 한계가 있습니다. Perplexity 같은 AI 툴을 쓰면 곧바로 내 데이터의 내용과 분석하고 싶은 목표를 알려주면 됩니다. 그러면 관련 엑셀 사용법을 인터넷 상에서 찾는 것 뿐만 아니라 내 데이터에 맞춰서 사용법을 알려 줍니다. 중간 과정을 생략하고 곧바로 해결책부터 나오니 굳이 검색 엔진을 쓸 필요가 없어지는 셈입니다. 더구나 Perplexity 무료 플랜을 써도 단순 검색은 무제한 사용 가능해서 Google 검색을 대체하는 용도로는 충분합니다.

Google 검색도 이제는 AI로 도출한 결과를 가장 먼저 보여주고 있습니다.

일론 머스크가 "AI가 검색 엔진을 대체할 것"이라며 최근 X에 올린 글에 Perplexity를 써본 사람이라면 모두 공감할 것이라 생각합니다. 실제로 내 일상에서 대체되었으니까요. 참고로 GPT 데스크탑 앱을 설치해도 동일하게 단축키로 손쉽게 접근할 수 있지만 Perplexity는 근거 자료를 항상 인용한다는 차이점이 있습니다. 팩트 체크가 중요한 상황일수록 인용된 원문을 내가 직접 점검하면 되므로 AI 할루시네이션 문제를 줄이는 데 큰 도움이 됩니다. 원문을 확인하는 과정에서 겸사겸사 자료 조사가 된다는 장점도 있구요.

그림에 1번으로 표시한 것처럼 참고한 인터넷 링크를 같이 제공합니다.

추천 도구(복잡한 문제) : Gemini Deep Research (가격 : 29,000원)

조금 더 복합적인 문제를 해결해야 한다면, 특히 무엇부터 조사해야 할 지도 감 잡기 어려운 초반 단계라면 Gemini Deep Research를 쓰면 됩니다. AI가 작성하는 분량에서부터 큰 차이가 나는데요. Perplexity 혹은 GPT를 써보면 한 번에 AI가 작성하는 분량이 많아야 A4 용지 1장 분량 정도가 나옵니다. 반면 Gemini Deep Research는 내가 준 요구사항과 직간접적으로 관련있는 자료를 모조리 찾아서 10페이지 내외의 보고서로 만들어 줍니다. 보고서 말미에 인용한 인터넷 자료 링크를 주석으로 달아주는데 최소 10개 이상 많게는 30개 정도의 자료가 활용됩니다. 쉽게 말해서 이 주제와 관련해서 찾을 수 있는 인터넷 속 자료는 모조리 다 찾아서 주는 느낌인데요. 게다가 그 자료를 보고서 형태로 목차와 표를 적절히 활용해서 요약 설명해주다보니, 내가 몇 시간에 걸쳐 할 구글링을 단 한번의 AI 프롬프트로 끝마치는 효과를 얻을 수 있습니다. 요즘은 무언가 자료 조사를 해야 할 때 일단 Gemini Deep Research를 켜는 것 부터 시작합니다. 웹상에서 얻을만한 자료는 한 번에 다 얻을 수 있으니 내가 무엇을 알아야 하는 지 감을 잡는 단계에 쓰기에 탁월합니다.

Google AI Pro를 구독해야 쓸 수 있는 유료 서비스인게 단점인데요. 후술할 Gemini Notebook LM 지원도 포함되어 있어서 29,000원 정도의 가격이라면 충분히 지불할만하다 생각합니다. 저도 업무에서 Gemini Deep Research, Notebook LM 이렇게 2개 서비스를 가장 자주 활용하고 있습니다. 업무 목적으로 쓰려면 방대한 자료를 읽어낼 줄 알거나, 복잡한 문제를 다룰 수 있어야 하는데 이를 모두 해내는 도구는 제가 직접 써본 것 중에서는 Gemini Notebook LM이 유일했습니다.

분석형 업무 : 편향과 소요 시간 줄이기

이 글에서 다루는 '분석형 업무'의 특징은 '정답'이 정해진 행동을 '반복'한다는 점에 있습니다. 예를 들어 고객 VOC 데이터를 그와 관련된 기능으로 분류한다고 해보겠습니다. VOC는 지속적으로 유입되므로, 분류 작업도 지속적으로 반복해야 합니다. 이러한 분류 작업에 적용되는 기준점은 일정할수록 좋습니다. 그래야 의사결정도 일관되게 이루어질 수 있으니까요. 비즈니스 데이터 분석은 객관적인 기준을 매 데이터 분석 시행마다 일관되게 적용할 수 있어야 합니다. 그리고 바로 이 지점이 사람보다 AI가 더 뛰어난 지점입니다.

앞서 예시로 든 VOC 기능 분류하기 작업만 해도 사람의 편향이 적용되기 쉽습니다. 일단 분류할 기능 단위를 얼마나 잘게 쪼갤 것인가, 큼직하게 분류할 것인가부터 분류하는 사람 특유의 관점이 들어가게 됩니다. 쉽게 말해 분류하는 담당자가 바뀌기만 해도 "이걸 왜 이렇게 분류했지?"라는 상황이 생기기 십상입니다. 이렇듯 사람이 판단할 수밖에 없는 정성적 기준점으로 많은 양의 데이터를 처리해야 할수록 AI의 장점이 빛을 발합니다. AI는 편향되지도, 지치지도 않으니까요.

정량 분석은 엑셀로, AI는 정성 분석을 '대량 반복' 수행하기에 적합합니다.

여기서 하나 짚고 넘어가야 할 점은 AI는 정성적 분석에 적합하다는 점입니다. 정량형 분석이라면 사실 AI를 쓰는 것보다 엑셀이나 파이썬 같은 통계 도구를 쓰는 것이 맞습니다. 제 개인적인 경험상 숫자로 가득 찬 통계 데이터를 AI에게 주고 인사이트를 뽑아보라고 하면 디테일한 숫자 계산이 틀리는 경우를 많이 봤습니다. 예를 들어 "2번 유저의 A 데이터가 1,000으로 가장 높은 수치다"라는 결론을 냈길래 원본을 살펴보니 2번 유저가 아니라 3번 유저가 1등이라거나, 2번 유저가 1등은 맞는데 1,000이 아니라 900이라던지, 구체적인 수치를 틀리는 경우가 있었습니다.

생성형 AI가 결과물을 만들어내는 원리는 학습한 자료를 토대로 가장 확률이 높은 텍스트를 골라내는 '예측' 작업입니다. 그에 비해 수학 계산은 논리적 추론을 거쳐 정답에 도달하는 과정입니다. 물론 생성형 AI 성능 수준이 쫓아가기도 힘들 정도로 빠르게 성장하고 있으니 불과 내년에 또 달라질 수 있습니다. 그러나 현재 시점에서는 소소한 수치 오차가 충분히 발생할 수 있고, 이는 통계 분석 업무로는 허용할 수 없는 단점입니다. 사실 이렇게 정량적인 분석은 엑셀을 써도 충분히 빠르게 해낼 수 있으니 굳이 AI를 써야 할 의미가 부족한 점도 있구요.

반면 정성적인 분석을 대량 반복해야 하는 상황이라면 AI를 쓰는 효과가 대폭 증가합니다. 앞서 예시로 든 '분류' 작업이 딱 여기에 맞는 작업인데요. 예를 들어 내가 인스타그램 고객 데이터 분석가인데, "친구 스토리를 보다가 내가 원하는 위치에 이모지를 스티커처럼 붙이고 싶어요"라는 VOC가 들어 왔다면 어떻게 분류해야 할까요? AI가 아닌 규칙 기반 방법으로 분류 작업을 자동화하려면 VOC에 등장하는 단어의 단순 포함 여부로 분류해야 할텐데요. "스토리"라는 단어가 인스타그램 스토리를 의미할 때도 있고, 정말로 이야기라는 의미로 쓰일 때도 있을 겁니다. "스토리" 기능으로 분류해야 할지, "리액션"이라는 카테고리로 분류해야 할지도 판단하는 사람의 생각에 따라 결과가 달라질 수 있죠.

이렇듯 주어진 데이터를 자연어로 독해할 수 있어야 하고, 분석 기준점도 사람의 추론 능력이 필요하다면 전적으로 사람이 해야 하는 업무였습니다. 이제는 AI에게 대신 분석 작업을 시켜 내 시간을 아낄 수 있습니다. 더구나 AI는 빠른 판단 속도를 지치지 않고 유지하므로 분류할 데이터가 몇 백 몇 천 건이 될수록 더 효과적입니다. 일반 상식과 기초적인 전문 지식은 나보다도 더 많이, 다양하게 알고 있어서 오히려 나보다 더 좋은 판단 결과를 도출할 가능성도 있습니다.

분석 기준점이 널리 알려진 전문 지식 수준에서 판단 가능해야 합니다.

다만 정성적 분석 안에서도 AI가 대신할 수 없는 업무가 존재합니다. 분석형 업무는 (1) 주어진 자료를 이해하고 (2) 자료 분석 기준점을 이해한 후, (2)로 (1)을 처리하는 과정인데요. (1)과 (2)를 AI가 이해할 수 있다는 것은 온라인 상에 널리 알려진 지식 수준으로 이해할 수 있는 내용이라는 의미입니다.

AI를 업무 용도로 활용하기 어려운 지점이 여기서 발생합니다. 최근 들어서는 생성형 AI가 학습한 데이터가 워낙 방대하다지만, 그럼에도 여전히 AI가 모르는 지식이 필요한 업무는 존재할 수 있습니다. 예를 들어 다음과 같은 경우를 말합니다.

1. 1최근 1년 이내에 생성된 지식
2. 2업계 특유의 은어나 관행 등 매우 좁은 분야의 전문 지식
3. 3그 외 '자연어'로 설명하기 어려운 지식

AI가 이 업무를 해낼 수 있느냐를 판단할 때 3번을 기준점으로 생각하면 좋은데요. AI를 활용하려면 프롬프트를 작성해야 하고, 프롬프트를 쓸 수 있다는 것은 그 업무를 자연어 텍스트로 설명할 수 있다는 것을 의미합니다. 앞서 AI를 도구가 아니라 동료 직원처럼 여기는 사람일수록 AI를 더 잘 쓸 수 있다고 언급했습니다. 다시 말하면 이 업무를 실제 내 사람 동료 직원에게 맡긴다고 생각하고 업무 지침을 글로 써서 전달할 수 있다면, 그 업무는 AI에게도 맡길 수 있다는 의미가 됩니다.

추천 도구(분석할 자료가 적을 때) : GPT, Claude, Gemini 중 비용이 유리한 서비스

그럼 구체적으로 분석형 업무에서 어떤 AI 도구를 쓰면 좋을까요? 분석할 데이터가 A4 용지 3장 내외 정도라면 어느 AI 도구를 써도 괜찮다고 생각합니다. Claude, GPT, Gemini 등이 A4 용지 10장짜리 데이터를 읽지 못하는 것은 아닙니다. 충분히 읽을 수 있습니다. 다만 개인적인 경험상 A4 용지 10장 정도만 돼도 AI가 '정독'해내지 못한다는 느낌을 받았습니다. 그래서 도출하는 인사이트의 결론도 다소 두루뭉술하고 뻔한 결과가 나오는 경우가 많았는데요. 주어진 데이터를 최대한 활용해내는 가장 보수적인 기준이 저는 A4 용지 3장 정도라고 생각합니다.

AI 추론 성능 테스트 결과는 항상 엎치락 뒤치락 하는 편이라 Claude, GPT, Gemini 중 어느 쪽을 써도 큰 차이는 나지 않는 편입니다. 그러니 AI 서비스 구독 비용을 감안해서 가장 저렴한 서비스를 선택해도 된다고 생각합니다. 저는 회사에서 Google 기업 플랜을 도입한 덕에 Gemini 유료 서비스를 쓸 수 있어서 업무 용도는 거의 Gemini만 사용하고 있습니다. Google AI Pro를 구독하면 Gemini Deep Research, Notebook LM, Google Docs에서 Gemini 이용하기까지 지원돼서 Google로 올인하는 것도 좋은 방법입니다.

특히 위의 3가지 서비스를 추천 예시로 든 이유는 '프롬프트 지침'을 관리할 수 있다는 점 때문인데요. Claude Project, GPT Project, Gemini Gem이 이에 해당합니다. Project, Gem, Rule 등 서비스마다 부르는 용어가 조금씩 다르지만 역할은 동일합니다. AI 채팅을 시작하기에 앞서, 항상 AI가 유념해야 하는 규칙을 지정하는 기능입니다. 구체적인 목적에 최적화된 채팅창을 만들고 싶을 때 쓰면 좋은데요.

예를 들어 프롬프트 지침에 "우리 회사의 UX Writing 가이드라인.txt"를 업로드하고 "한국어 표준 맞춤법을 항상 체크할 것"과 같은 규칙을 적어둘 수 있습니다. 해당 지침이 적용된 채팅창은 항상 업로드된 .txt 파일과 한국어 표준 맞춤법을 활용합니다. 이처럼 고정적으로 사용하는 '가이드라인' 역할을 하는 프롬프트는 '프롬프트 지침'에 업로드해두면 됩니다. 그리고 지금 내 업무에 주어진 자료나 데이터 등 그때그때 분석할 자료는 AI 채팅창에 인풋 데이터로 전달하면 보다 효율적으로 AI를 활용할 수 있습니다.

추천 도구(분석할 자료가 많을 때) : Gemini Notebook LM (가격 : 29,000원)

A4 용지 수 십 장 분량의 많은 데이터라면 Gemini Notebook LM을 쓰는 것을 추천드립니다. Claude, Cursor에다가 용량 큰 파일을 줬더니 'too long conversation' 에러가 나온 적이 종종 있었는데요. 개인적인 경험상 용량 큰 데이터도 너끈히 견디는 것은 Notebook LM이 유일했습니다.

Notebook LM을 켜면 Source 업로드 창이 가장 먼저 보입니다. Website, Youtube 링크만 줘도 그 안의 내용을 잘 읽어들여서 최신 자료를 활용하기 편리합니다. PDF, txt, Markdown 등 파일 업로드도 지원합니다.

Notebook LM을 켜면 가장 먼저 보이는 Source 업로드창

아쉽게도 Google Sheet는 업로드 할 수 없고, Google Docs, Slide만 지원합니다. Google Sheet 분석을 하려면 Google Sheet 화면에서 바로 Gemini 프롬프트 창을 열어서 사용하는 방법이 있습니다. Notebook LM은 CSV 업로드도 지원하지 않아서 억지로 .txt로 변환해서 업로드한 적이 있는데요. 프롬프트 테스트를 해보니 .txt여도 AI가 내용을 이해하기에 큰 지장은 없어 보였습니다.

Google Sheet 우측 상단 Gemini 로고 버튼을 누르면 Gemini 채팅창을 활성화할 수 있습니다.

Notebook LM에 Source를 업로드하면 아래 스크린샷과 같은 메인 화면을 볼 수 있습니다.

Notebook LM 메인 화면

1. 1업로드한 Source 사용 여부를 체크할 수 있습니다. 한 번에 여러개의 Source를 업로드 해두었는데 AI가 이번 프롬프트에서 활용해야 하는 자료를 더 좁히고 싶을 때 유용합니다.
2. 2화면 가운데 채팅창에서 프롬프트를 입력할 수 있습니다. Source에서 활용할 자료를 적절히 체크/언체크해두고 프롬프트를 입력하면 됩니다. Source가 용량이 매우 큰 파일이어도 프롬프트 결과물을 준수한 퀄리티로 얻을 수 있습니다.
3. 3프롬프트가 생성한 결과는 Note로 저장할 수 있습니다. Note는 화면 우측 하단에 보이는 Notes 메뉴에서 관리하는데요. Note를 또 다시 Source로 업로드하는 것도 가능합니다. 즉, AI로 Source 분석하기 → 분석 결과를 Note로 저장하고 다시 Source로 업로드 → Source 분석을 반복하며 대용량의 Source에 대해서 분석 결과를 좁혀나갈 수 있습니다.

발상형 업무 : 내가 미처 떠올리지 못한 측면 채우기

분석형 업무가 자동화라면 발상형 업무는 빈칸 채우기입니다.

이 글에서 말하고자 하는 발상형 업무는 주어진 자료를 논리적 틀로 엮어내서 새로운 생각을 제안하거나, 새로운 산출물을 만들어 내는 행위를 말합니다. Product Manager 업무 중에서는 기획서(원페이저, PRD) 작성이 대표적인 예시입니다. 정답이 정해져 있지 않고, 기존에 없던 것을 만들어내는 행위인데요. 따라서 얼마나 다양한 아이디어를 충분히 시도해볼 수 있느냐가 중요합니다.

아이데이션하면 보통 굉장히 창의적 발상을 떠올리기 쉽지만, 꼭 그 정도가 아니더라도 아이데이션 단계에서 도움받을 여지가 있습니다. 아이데이션이 필요할 때 남에게 간단히 도움을 요청하면 곧잘 그 사람만의 아이디어를 주는 경우가 있죠. 이때, 그 사람이 낸 아이디어가 나는 생각해낼 수 없었던 몹시 새로운 경우는 사실 잘 없습니다. 그냥 듣고 나면 나도 떠올릴 법한 아이디어인데 왜 미처 생각하지 못했지? 라고 느낄 때가 많았는데요. 시간이 부족해서, 눈 앞에 소재에 집중하다보니 시야가 좁아져서 등, 단순히 아이디어의 개수를 늘리는 일도 나 혼자만으론 어려움을 느낄 수 있습니다.

분석형 업무와 발상형 업무에서 AI를 활용하는 차이점은 이 '빈칸 채우기'에 있다고 생각합니다. 분석형 업무는 정답이 정해진 작업을 더 많이, 빠르게, 편향 없이 완료하는 것이 목적이기 때문에 자동화에 가깝습니다. 반면 발상형 업무는 내가 모든 경우의 수를 충분히 검토했는지가 중요합니다. 인간이라면 다양한 변수로 시야가 좁아지기 쉽기 때문에 다른 사람의 시야를 빌리는 것이 가장 손쉬운 해결책인데요. 사람 수준의 독해/추론 능력을 갖춘 AI가 바로 그 다른 사람의 역할을 해낼 수 있습니다.

발상형 업무에서 AI를 활용하는 예시는 크게 2가지 측면으로 나눠볼 수 있습니다.

1. 1아이데이션 : 내가 아이디어를 내는 것부터 어려운 업무 시작 단계
2. 2리뷰/평가 : 내가 일정한 산출물을 낸 이후 빈 칸을 찾아내는 업무 마무리 단계

첫 아이디어를 떠올리는 것부터 어려울 때, 일단 아이디어의 양을 늘려야 할 때, 혹은 내가 할 수 있지만 AI에게 대신 시켜서 시간을 아끼고 싶을 때 등, AI에게 직접 아이데이션을 시켜서 업무를 효율화할 수 있습니다. 이때 아이데이션이라고 해도 막연하게 아이디어를 내보라고 하는 것보다 적절한 가이드라인을 제공하는 것이 중요합니다. 사람도 오히려 생각에 제약이 있을 때 더 창의적인 발상을 해낼 수 있듯이, AI도 정해진 틀 안에서 아이데이션할 때 개별 아이디어의 정확도가 높아집니다. 또한 기본적으로 AI 프롬프팅은 원하는 산출물의 양식과 적절한 예시를 제공해주어야 준수한 결과물을 얻을 수 있습니다.

한편 앞 단계를 내가 (혹은 AI의 도움을 받았든) 일단락한 후, 1차적인 결과물에 대해 AI에게 의견을 물을 수 있습니다. 프롬프팅에 '이상적인 산출물의 정의'를 가이드라인으로 제공하고, 이걸 기준점으로 내 산출물을 리뷰/평가하라고 시키면 됩니다. 예를 들어 온라인상에 널려있는 '훌륭한 기획서의 정의, Amazon 6 Pager 작성법' 등의 자료를 찾아 프롬프팅으로 만들고 내 기획서를 AI에게 리뷰시킬 수 있습니다.

설사 AI의 리뷰 결과가 다소 뻔한 결론일지라도 내가 미처 생각지 못한 포인트를 발견해주는 '빈 칸 채우기'에 도움될 수 있습니다. 1, 2, 3번 항목을 모두 채워야 한다는 걸 머리로는 알고 있다가도 2번 항목에만 너무 많은 시간을 쓰는 경우가 있죠. 이렇게 되면 1, 3번 항목은 의도치 않게 적은 시간을 쓰고 내용이 부실해집니다. AI가 이런 빈 칸을 발견해내고, 어떻게 채워나가야 할 지 제안해주면 마치 동료에게 첨삭 받듯이 내 업무의 양과 질을 끌어올릴 수 있습니다.

추천 도구(리뷰/평가 작업) : Cursor (가격 : $20)

발상형 업무에도 분석형 업무와 동일한 규칙이 적용됩니다. AI에게 투입할 자료의 총량이 수십 페이지 분량이면 Notebook LM을 쓰고 적은 양이면 GPT, Claude, Gemini 등을 쓰면 됩니다. 그리고 매우 특이한 암묵지가 활용되는 업무만 아니면 됩니다. 그런데 저는 여기서 리뷰/평가 작업 용도로는 AI 코딩 도구인 Cursor를 추천해보려 합니다.

앞서 다른 포스팅에서 Cursor를 '프롬프트 에디터'로 확장해서 쓸 수 있다고 설명했는데요. AI 코딩 도구라는 선입견을 잊어버리고, 내 컴퓨터 파일 탐색기에 AI 채팅창이 붙어 있다고 생각하면 코딩과 전혀 상관없는 목적으로도 활용할 수 있습니다. Cursor의 특장점은 내 파일 탐색기의 어떤 폴더를 에디터로 열고, AI에게 요구사항을 주면 AI가 직접 내 파일을 수정한다는 점입니다. 여기서 '파일'이 보통 소스 코드이고 'AI에게 주는 요구사항'이 프로그래밍 개발에 필요한 요구사항인 것인데요.

Cursor는 특별히 코딩에 특화한 AI 모델만 사용하지 않습니다. GPT, Claude, Gemini를 지원하고 이들 모델로부터 얻어낸 내 소스 코드 개선사항을 내가 직접 편집할 필요 없이 곧바로 적용해주는 UX가 핵심입니다. 따라서 '소스 코드'가 아닌 일반 글쓰기 파일에 '코딩이 아닌 일반 글쓰기에 필요한 요구사항'을 적용하는 것도 얼마든지 가능합니다. 예를 들어 내 '블로그 포스트 초안'을 주고 '읽기 쉽게 윤문하라'는 프롬프팅을 적용할 수 있습니다.

cursor 화면 구조

1. 1Cursor에서 내 컴퓨터의 특정 폴더를 열면 화면 왼쪽에서 파일 목록을 볼 수 있습니다. 파일 탐색기와 동일한 역할입니다.
2. 2AI로 리뷰하고 싶은 파일을 클릭하면 화면 중앙에서 본문을 볼 수 있습니다. 여기서 원하는 영역을 마우스 드래그로 지정한 후 단축키(Command + i / Ctrl + i)를 누르면 AI 채팅창에 첨부할 수 있습니다.
3. 3Cursor 화면 오른쪽에서 AI 채팅창을 볼 수 있습니다. @ 버튼 오른쪽에 이번 채팅창에 첨부된 자료를 볼 수 있습니다. 2번에서 첨부한 부분(post.md 파일의 30번째 줄)을 확인할 수 있습니다.

cursor에게 내 파일 수정하라고 시키기

1. 1AI 채팅창에 어떤 가이드라인으로 내 산출물을 리뷰/평가할지를 알려줍니다.
2. 2여기서 (1) Agent (2) Ask (3) Manual 모드 중 Agent 모드를 쓰면 AI가 내 파일을 직접 수정합니다.

만일 AI가 바로 내 파일을 건드리게 하기 보다 프롬프팅 결과만 보고 싶다면 Ask 모드를 쓰면 됩니다. 여타 생성형 AI 서비스처럼 채팅창 안에서 AI와 대화를 나눌 뿐 AI가 내 파일에 접근하지 않습니다.

마지막으로 Manual 모드는 Agent 모드와 똑같이 AI가 내 파일을 바로 편집할 수 있는데요. Agent와 달리 내가 채팅창에 직접 지정한 파일만 편집 가능하다는 차이점이 있습니다. 여기서 지정한 파일이란 채팅창 @ 버튼 오른쪽에 추가할 수 있는 자료를 의미합니다. 파일 혹은 파일의 일부분을 지정할 수 있고, 웹사이트 링크 등 내 폴더 바깥의 자료를 추가하는 것도 가능합니다. Agent 모드는 내가 특별히 채팅창에 어느 어느 파일을 보라고 지정하지 않아도 '알아서 필요에 따라 내 폴더 안에 있는 다른 파일도' 참고할 수 있습니다. 여기서 폴더란 내가 현재 Cursor로 연 경로를 말합니다. Cursor 왼편 목록에서 볼 수 있는 파일들만 Agent가 알아서 읽어들일 수 있습니다. Cursor는 본래 프로그래밍 도구이고, 소스 코드는 개별 파일이 긴밀하게 연결되어 있기 때문에 AI가 알아서 다른 파일을 보게 해주는 이 기능이 매우 요긴하게 쓰입니다.

이 글에서 설명한 것처럼 글쓰기 용도로만 쓴다면 Manual 모드로도 충분할 수 있습니다. 다만 기본값이자 Cursor의 권장 설정이 Agent 모드이기도 하구요. 꼭 소스 코드가 아니더라도 한 번에 여러개의 파일이 서로 연관되어 있는 경우는 얼마든지 있을 수 있습니다. Agent 모드는 그걸 내가 일일이 지정해줄 필요 없다는 장점이 있으므로 이왕이면 Agent 모드를 쓰는 쪽이 더 편리합니다. (이걸 쓴다고 비용 손해가 있는 것도 아니니까요!)

cursor가 내 파일 수정도 직접 하기

1. 1화면 오른쪽 AI 채팅창에서 프롬프트 결과, 즉 AI가 내 산출물을 리뷰한 의견을 볼 수 있습니다.
2. 2Agent 모드일 때 Cursor가 내 파일을 직접 수정합니다. 화면 하단의 Accept 버튼을 눌러서 이를 적용할 지 선택할 수 있습니다. Reject를 누르면 편집 이전으로 돌아갑니다.
3. 3내가 쓴 원문이 빨간색, AI가 편집한 버전이 초록색으로 표시됩니다. 파일 전체에 대해서 Accept하기 보다 부분적으로 판단하고 싶다면, 각 부분별로 Accept/Reject 버튼을 누를 수 있습니다.

마치며

이 글에서 추천했던 AI 서비스는 모두 제 개인적인 경험에 국한되어 있습니다. 제가 모르는 더 좋은 서비스가 있을 수도, 혹은 새롭게 출시될 수도 있습니다. 요즘 AI 소식이 겪어본 적 없는 속도로 빠르게 쏟아져 나오고 있습니다. 이러니 쫓아가는 것 조차 어렵다는 이야기를 다들 한 번쯤 들어보셨을 겁니다.

그럼에도 텍스트 중심 과업에서 GPT, Claude, Gemini 이 3가지 AI 서비스가 주요 강자로 자리매김한 상황은 근시일내에 흔들리지 않을 것으로 보입니다. Google은 얼마 전까지만 해도 GPT와 비교할만한 선택지는 아니었습니다. 최근에 나온 Gemini 2.5 모델을 기점으로 성능이 뛰어나다는 평이 들렸던 것으로 기억합니다. 그리고는 링크드인과 유튜브 피드가 Google I/O 얘기로 가득찰 정도로 이제는 상황이 바뀌어 버렸는데요. GPT의 Open AI, Claude의 Anthropic과 달리 Google은 검색 엔진, 문서 도구, 이메일 등 'B2C, B2B 서비스'를 쥐고 있는 기업이라는 점에서 지금보다도 더 빠르게 성장할 일만 남지 않았을까 하는 생각이 듭니다.

어느 때나 준수한 성능을 보이는 주요 AI 모델이 정해졌다면 그 AI 모델로 무엇을 어떻게 할 것인지를 결정하는 과정이 더 중요해집니다. 도구는 바뀔 수 있어도 내가 이 도구로 무엇을 하려 했는지는 바뀌지 않습니다. 어느 기업의 모델이 가장 뛰어난지는 바뀔 수 있어도 'AI 프롬프팅'의 본질적인 원리는 바뀌지 않습니다. 따라서 내 목표에 도달하기 위해 AI 프롬프트를 어떤 구조로 어떻게 연계해서 쓸 지를 설계하는 데 집중해야 합니다. 구조가 자리잡히면 그 끝단에서 쓰일 도구 혹은 AI 모델만 갈아끼면 되니까요.

앞선 포스팅에서 프롬프트 목표를 AI로 수행하려는 작업의 산출물로 정의했습니다. 그리고 프롬프트 워크플로우는 그 산출물에 도달하기까지 AI가 몇 번 실행되어야 하는지, 각각의 실행 결과를 어떻게 연계할 지를 말한다고 설명했는데요. 특히 분석형 업무에서 프롬프트 워크플로우 설계가 중요합니다.

예를 들어 분류 작업할 고객 VOC가 1,000건이 있다고 해보겠습니다. 1,000건을 AI에게 한 번에 주고 분류할 수도 있고, 100개씩 나눠 분류할 수도, 아예 가장 정밀하게 1개씩 주고 분류할 수 도 있습니다. 앞서 여러번 언급했듯 하나의 프롬프트에 주는 자료 분량이 늘어날수록 AI가 '정독'하지 못하고 두루뭉술하게 이해합니다. 그러니 주어진 데이터를 십분 활용하고 싶다면 되도록 한 번의 프롬프팅에 인풋 데이터를 적게 주는 것이 좋겠죠.

문제는 프롬프트를 실행하는 횟수가 수 백 단위 이상만 되도 프롬프트로 아끼는 시간보다 프롬프트를 채팅창에 엔터 치느라 쓰는 시간이 더 많아집니다. 이를 해결하려면 생성형 AI를 API로 쓸 수 있어야 합니다.

앞서 다루는 자료의 양이 적은 분석형 업무라면 GPT, Claude, Gemini 중 어느 것을 써도 무방하다고 말씀드렸는데요. 포스트 서두의 요약 이미지에는 그 중에서도 추천 서비스로 GPT를 표시해두었습니다. 이는 제가 써 본 'API로 쓰는 생성형 AI 서비스' 중 GPT API가 가장 괜찮았기 때문입니다. 분석형 업무는 자동화성 작업이 될 가능성이 높아서 API로 생성형 AI를 쓸 수 있게 되면 훨씬 더 넓은 활용 가능성이 열립니다. 버튼 클릭 한 번으로 알아서 프롬프트 백 번을 반복하도록 만들 수 있으니 더 다양한 시도를 해볼 수 있습니다.

다음 포스트에서는 이렇듯 내 데이터의 잠재력을 더 끌어올리기 위해서 프롬프팅을 어떻게 여러번, 연계해서 써야 하는지를 다뤄보겠습니다. 관련하여 생성형 AI를 API로 쓸 때 얻을 수 있는 장점과 사용법을 저와 같은 비개발자 기준으로 정리해 보겠습니다.