AI機能をプロダクトに組み込む仕事をしていると、同じテキストボックス1つに対して、検索のつもりで打つ人、相談のつもりで話しかける人、作業をまるごと渡すつもりで指示する人が同居する場面によく出会います。
反応がバラバラな理由を、これまでは「ユーザーによる」としか説明できずにいました。『AIインターフェースデザイン ―AI時代の対話・可視化・制御の原則』を読んで、この本が「入力・計算・出力」という3段階でAIプロダクトの設計を整理していることを知り、自分のプロダクトに当てはめて考え直してみました。
見た目が同じなら、同じように使われる
まず入力の話です。ユーザーは人間らしい言語を扱うシステムに対して、人間的な性質が備わっているはずだと思い込みやすい性質を持っています。いわゆるELIZA効果です。
加えて、ほとんどのユーザーは20年以上にわたるGoogle検索の経験を持ち込んできます。検索エンジンと同じ見た目のテキストボックスを渡しておきながら、ユーザーがそれを検索エンジンのように扱うと不思議がるのは、使う側ではなく作る側の設計ミスだという指摘は、率直に耳が痛いものでした。
キーワードの羅列で入力されても文脈のある対話として扱ってほしい、という願いは、UI側が対話らしい見た目や振る舞いを用意して初めて成立します。プレースホルダーの一文、最初の返答の温度感、会話が続くことを示す小さなヒント。検索ボックスと対話UIの境目は、機能ではなく見た目が引いていることのほうが多いと感じます。
入力は、ユーザーが思っているほど「主役」ではない
入力設計でもう1つ効いてくるのが、コンテキストウィンドウの不可視性です。
モデルは会話履歴やユーザー情報、各種設定などのコンテキストを先に処理してから、ユーザーが打ち込んだプロンプトを見ます。つまりユーザーが目にしている入力欄の文字は、モデルにとって最後に処理される、相対的に重要度の低い入力にすぎません。
多くのインターフェースはこの事実をユーザーに見せません。「さっき言ったのに」「なんで前の話を覚えていないのか」というユーザーの混乱や不信は、コンテキストが不可視なまま設計されていることが原因の1つだと理解しています。
自分が関わる画面でも、何を参照して答えているかをユーザーに一部でも見せる工夫は、まだ足りていないと感じました。設定画面の奥に隠すのではなく、回答のすぐ近くに「何を踏まえた回答か」を軽く添えるだけでも、混乱はかなり減らせるはずです。
計算のブラックボックスをどこまで見せるか
本書は計算の段階として、処理パイプラインやレイテンシー管理、エラーハンドリングを扱っています。ここは自分が現場で一番泥臭さを感じている部分でもあります。
AIの応答には、人間の会話にはない待ち時間が発生します。数秒の沈黙をどう埋めるか、途中経過をどこまで見せるか、失敗したときにどう伝えるか。ここを雑に扱うと、せっかく入力と出力を丁寧に設計しても、待っている間の不安がすべてを台無しにします。
進捗を見せるならどの粒度で見せるか、エラーを技術的な文言のまま出すかユーザー向けに翻訳するか。地味ですが、この計算の見せ方こそがAIプロダクトの体感速度を決めていると、自分のプロダクトを触りながら痛感しています。
出力は答えではない
最後が出力の話です。本書はここで、出力は答えではないという原則を掲げています。
現在のテキストボックスUIは、モデルの不確実性をユーザーに伝えないまま、出てきた文章にそれっぽい権威性を与えてしまいます。ハルシネーションは、モデルの性能問題である以前にUXの問題だという立場です。インターフェースは異論の余地をあらかじめ用意してデザインされるべき、という一文には、自分が今まで「正しそうに見える画面」ばかりを目指していたことに気づかされました。
出力設計で扱うべき観点として、明確さ、検証可能性、グラウンディング、行動可能性、調整可能性の5つが挙げられています。
- 明確さは、何を根拠にその答えを出したかが伝わるかどうか
- 検証可能性は、ユーザー自身が正しさを確かめられる手段があるかどうか
- グラウンディングは、出力が何らかの事実や出典に紐づいているかどうか
- 行動可能性は、出力を読んだユーザーが次に何をすればいいかわかるかどうか
- 調整可能性は、出力が違うと感じたときにユーザーがやり直しや修正を指示できるかどうか
自分のプロダクトを振り返ると、出力の文章そのものは磨いてきた一方で、「これは提案であって断定ではない」と伝わる余白を意識的に作ってはいませんでした。断定的な文体をやめるだけでも、ユーザーが出力を鵜呑みにする度合いは変わってくるはずです。
まとめ
入力・計算・出力という3段階で見直すと、これまで「ユーザーによる」で片づけていた反応のばらつきに、設計側の理由がいくつも見えてきました。
- 検索ボックスに見える入力欄は、検索のように使われる。見た目が期待をつくる
- ユーザーの入力はモデルにとって最後に処理される、相対的に重要度の低い情報にすぎない。何を参照しているかを見せる工夫が要る
- 計算の待ち時間と失敗の伝え方が、体感速度と信頼を左右する
- 出力は答えではない。明確さ・検証可能性・グラウンディング・行動可能性・調整可能性の5つの観点で、異論の余地を残すデザインが要る
まずは自分が触っている画面の入力欄が、何に見えてしまっているかを見直すところから始めます。第6章で扱われているエージェント型AIの設計パターンについては、また別の記事でまとめたいと思います。
参考