AIツール

このカテゴリの対象

自社の資料をもとに答えるアシスタント、別の製品の中に組み込まれたコパイロット、これまで手作業だった工程にモデルをつなぐためのプラットフォームです。共通しているのは、モデルが作業の一部を担い、人が確認するという点です。

文章の下書きが主な用途の製品は、AIライティングにあります。画像や映像を作る製品はAI画像・動画生成にあります。モデルを介さない自動化は、ノーコードと自動化に入ります。

1つの呼び名で売られる4つの形

• チャット型アシスタント。自社のドキュメント、チケット、コードベースにアクセスできます。
• 組み込み型コパイロット。すでに契約しているヘルプデスク、エディタ、CRMの中に現れます。
• エージェントビルダー。手順をつなぎ、ツールを呼び出し、各ステップの間に人を挟まずに進み続けます。
• モデルゲートウェイ。自社のコードと複数の提供元の間に入り、キー、ルーティング、支出を管理します。

料金ページは似ています。しかし購入時の判断基準は別物です。コパイロットは業務フローに合うかどうかで評価され、エージェントビルダーは午前3時にミスをしたとき何が起きるかで評価されるからです。

裏にあるのはどのモデルか、それは重要か

多くの製品は、1つ以上の基盤モデルをラップしています。それ自体は悪いことではありません。検索、権限、業務フローはラッパー側が持っており、価値の大半はたいていそこにあります。

重要になる理由は1つで、モデルが変わるときの動きをラッパーが決めるからです。対応している提供元はどこか、プロンプトを作り直さずに切り替えられるか、基盤側が料金を上げたときに誰がそのコストを負担するか、を確認してください。

誠実な差別化要因は、検索の品質です。同じWikiを対象にしても、文書の分割方法、パッセージの順位付け、該当する内容がなかったときにそれを認めるかどうかで、返ってくる答えは大きく変わります。「お手元の資料にはありません」と決して言わないツールは、作り話をするツールです。

権限、ログ、そして誰もデモしない部分

1つのサービスアカウントですべてをインデックス化するアシスタントは、何年もかけて整えたアクセス制御を、静かに無効にしてしまいます。

製品が、ワークスペース単位ではなくユーザー単位で、元のシステムから権限を引き継いでいるかを確認してください。回答が出典の文書を示し、間違った答えを議論ではなく追跡で解決できるかを確認してください。プロンプトと出力が、読める場所に記録されているかを確認してください。

読むだけでなく書き込みもするものについては、影響範囲がどこまで及ぶかを尋ねてください。レコードを更新する権限を持つツールには、承認のステップ、ドライランモード、またはその両方が必要です。

お金の仕組み

よくあるモデルは3つで、組み合わせて使われることもあります。

席ごとの課金は費用が読みやすい反面、ライセンスの半分が使われないままだと無駄になります。従量課金はトークン、メッセージ、実行回数に応じるもので、試験導入の規模なら安く、利用が広がると驚くほど高くなります。プラットフォーム課金はワークスペースに対して料金がかかり、負荷の大きい部分には追加で従量の計測が付きます。

通知ではなく、強制的な支出の上限を求めてください。通知が届くのは、お金が出ていったあとです。必要なコネクタがどのプランに含まれるかも確認が必要です。全体を価値あるものにする連携が、提示されたプランの一つ上にあることはよくあります。

トライアルで試すこと

デモ用のプロンプトではなく、先月チームが実際に受けた質問を20件入れてみてください。編集なしでお客様に送れる回答がいくつあるかを数えます。

次に、失敗するケースをわざと試します。資料に答えのない質問をして、できないと認めるか、自信満々に作り話をするかを見てください。

最後に配管まわりです。実際のデータソースを1つ接続し、制限された文書が制限されたままか確かめ、いま行ったセッションが監査ログに載っているかを読んで確認します。

四半期を無駄にしない試験導入

ここでよくある失敗は、6か月かけた評価が、決定ではなく意見しか生まないことです。

前後を測定できる業務を1つ選びます。ある種類の質問への対応にかかる時間、文書の要約に費やす時間、エスカレーションなしで解決したチケット数。現在の数字を言い表せるものなら何でも構いません。

その業務を実際に担当している人たちと4週間やってみてください。熱心な志願者のグループではありません。熱心な人は、どんなツールも良く見せてしまいます。

そのうえで、書き留めておいた数字と比べます。改善が本物なら、計画的に拡大し、何がうまくいったのかを書き残します。そうでなければ、試験導入にかかったのは1年ではなく1か月で、それこそが試験導入を行う意味です。

ツールが間違えたことの記録も残しておきましょう。その一覧が、使える範囲の境界を教えてくれます。