AI 도구

이 카테고리에 속하는 도구

내 자료를 바탕으로 답하는 어시스턴트, 다른 제품 안에 들어 있는 코파일럿, 손으로 하던 프로세스에 모델을 연결하는 플랫폼이 여기에 속합니다. 모두를 관통하는 공통점은 같습니다. 모델이 일의 일부를 하고, 사람이 확인합니다.

초안 작성이 전부인 제품은 AI 글쓰기에 속합니다. 이미지나 영상을 만드는 제품은 AI 이미지·영상에 있습니다. 모델이 개입하지 않는 자동화는 노코드·자동화에 있습니다.

한 가지 이름으로 팔리는 네 가지 형태

• 채팅 어시스턴트는 내 문서, 티켓, 코드베이스에 접근할 수 있습니다.
• 내장 코파일럿은 이미 쓰고 있는 헬프 데스크, 에디터, CRM 안에 나타납니다.
• 에이전트 빌더는 단계를 연결하고, 도구를 호출하고, 단계 사이에 사람 없이 계속 진행합니다.
• 모델 게이트웨이는 내 코드와 여러 제공사 사이에 놓여 키, 라우팅, 지출을 처리합니다.

요금 페이지는 비슷해 보입니다. 하지만 구매 시 던질 질문은 다릅니다. 코파일럿은 워크플로에 맞는지로 평가하고, 에이전트 빌더는 새벽 세 시에 실수했을 때 어떻게 되는지로 평가하기 때문입니다.

밑에 깔린 모델은 누구 것이고, 그게 중요한가

대부분의 제품은 하나 이상의 파운데이션 모델을 감쌉니다. 이것이 흠은 아닙니다. 검색, 권한, 워크플로를 담당하는 것이 이 감싸는 층이고, 보통 가치가 있는 곳도 여기입니다.

중요한 이유는 하나입니다. 모델이 바뀔 때 어떻게 되는지를 이 층이 결정합니다. 어떤 제공사를 지원하는지, 프롬프트를 다시 만들지 않고 바꿀 수 있는지, 기반 제공사가 요금을 올리면 누가 비용을 감당하는지 물어보세요.

정직하게 차이를 만드는 것은 검색 품질입니다. 같은 위키를 연결해도 문서를 어떻게 나누는지, 구절 순위를 어떻게 매기는지, 관련 내용을 찾지 못했을 때 그렇다고 인정하는지에 따라 답이 크게 달라집니다. “자료에 없습니다”라고 절대 말하지 않는 도구는 지어내는 도구입니다.

권한, 로깅, 아무도 시연하지 않는 부분

서비스 계정 하나로 모든 것을 색인하는 어시스턴트는, 여러 해 동안 공들여 설정한 모든 접근 제어를 조용히 없애 버린 것입니다.

제품이 권한을 워크스페이스 단위가 아니라 사용자 단위로 원본 시스템에서 이어받는지 확인하세요. 답변이 출처 문서를 인용해서, 틀린 답을 놓고 말싸움하는 대신 추적할 수 있는지 확인하세요. 프롬프트와 출력이 내가 읽을 수 있는 곳에 기록되는지 확인하세요.

읽기가 아니라 쓰기를 하는 기능이라면 피해 범위가 어디까지인지 물어보세요. 기록을 수정할 권한이 있는 도구에는 승인 단계나 드라이 런 모드, 또는 둘 다 필요합니다.

돈이 움직이는 방식

세 가지 모델이 흔하고, 섞여 있기도 합니다.

사용자당 과금은 예측하기 쉽지만 라이선스의 절반이 쓰이지 않으면 낭비입니다. 사용량 과금은 토큰, 메시지, 실행 횟수를 따라가는데, 시범 운영 규모에서는 저렴하고 도입이 확산되면 겁이 날 정도가 됩니다. 플랫폼 과금은 워크스페이스에 요금을 매기고 무거운 부분은 그 위에 따로 계량합니다.

알림이 아니라 하드 지출 상한을 요청하세요. 알림은 돈이 나간 뒤에 도착합니다. 필요한 커넥터가 어느 등급에 있는지도 물어보세요. 전체를 쓸모 있게 만드는 연동은 견적받은 요금제보다 한 단계 위에 있는 경우가 많습니다.

체험 기간에 시험할 것

데모용 프롬프트가 아니라 지난달 팀이 실제로 받은 질문 스무 개를 던져 보세요. 수정 없이 고객에게 보낼 수 있는 답이 몇 개인지 세어 보세요.

그다음 실패 사례를 일부러 시험해 보세요. 자료에 답이 없는 질문을 던지고, 모른다고 인정하는지, 자신 있게 지어내는지 보세요.

마지막으로 배관을 확인하세요. 실제 소스 하나를 연결하고, 제한된 문서가 계속 제한된 상태로 남는지 확인하고, 방금 한 세션이 감사 로그에 나타나는지 읽어 보세요.

한 분기를 낭비하지 않는 시범 운영

여기서 흔한 실패 패턴은 결정이 아니라 의견만 남기는 6개월짜리 평가입니다.

전후를 측정할 수 있는 프로세스 하나를 고르세요. 특정 유형의 질문에 답하는 데 쓰는 시간, 문서를 요약하는 데 쓰는 시간, 에스컬레이션 없이 해결된 티켓 수 같은 것입니다. 현재 수치를 말할 수 있는 것이면 무엇이든 됩니다.

그 일을 실제로 하는 사람들과 4주 동안 돌려 보세요. 지원한 열성 팬 그룹이 아닙니다. 열성 팬은 어떤 도구든 좋아 보이게 만듭니다.

그다음 적어 둔 수치와 비교하세요. 개선이 실제라면 의도적으로 확대하고 무엇이 효과를 냈는지 기록하세요. 아니라면 시범 운영은 1년이 아니라 한 달을 썼을 뿐이고, 시범 운영을 하는 이유가 바로 그것입니다.

도구가 무엇을 잘못했는지도 기록해 두세요. 그 목록이 한계선이 어디에 있는지 알려 줍니다.