現場ノート ／ AIと業務記録
AIはとても便利です。ですが、ときどき本当のように見える間違いを、 自然な文章の中へ混ぜることがあります。 この記事では、その間違いと安全に付き合う方法を一緒に考えます。
音声メモから記録の下書きを作ったり、 長い文章を読みやすく整理したり。 AIを使うと、これまで時間がかかっていた作業を短時間で進められます。
私の試行では、約2時間半かかっていた一連の生成処理が、 約25秒で終わったことがありました。 そのときは「これはもう手放せない」と感じました。
ただし、この数字は私が特定の環境で試した結果です。 使う機器や通信環境、入力する文章の量によって結果は変わります。 誰でも同じ速さになる、という意味ではありません。
そして使い続けるうちに、もう一つ大切なことに気づきました。 AIは、入力していない内容や実在しない名前を、 まるで本当のことのように書く場合があります。
このような現象は、 ハルシネーション と呼ばれています。 日本語では「幻覚」と訳されることもありますが、 この記事では、分かりやすく「もっともらしい誤り」と呼びます。
AIは、なぜ自然に間違えるのでしょうか
AIは、私たちのように内容を理解し、 正しい答えを知っているとは限りません。 学習した大量の文章をもとに、 「次にはどの言葉が続きそうか」を予測しながら文章を作っています。
そのため、とても読みやすい文章を作れる一方で、 事実と異なる内容を混ぜることがあります。 入力した内容と矛盾する文章を作る場合もあります。
ここで難しいのは、文章の自然さと正しさが別物だという点です。 詳しく書かれていても、言い切る口調で書かれていても、 それだけで正しいとは判断できません。
AIを怖がる必要はありません。
どこを確認すればよいかを知ることが、最初の一歩です。
6つの対策と、気をつけたい点
AIの間違いを減らす方法はいくつかあります。 ただし、一つの方法だけですべてを防げるわけではありません。 ここでは、対策と注意点をセットで見ていきます。
対策 01
出典を尋ねます
気をつけたい点 AIが紹介した論文名やURLそのものが、 間違っている場合があります。 リンクを実際に開き、書かれている内容まで確認しましょう。
対策 02
「分からなければ、分からないと書いて」と伝えます
気をつけたい点 この指示は役に立ちますが、 すべての間違いを防げるわけではありません。 入力していない内容が追加されていないか確認しましょう。
対策 03
検索機能や参考資料を使います
気をつけたい点 検索結果には、古い情報や間違った情報も混ざっています。 誰が、いつ発表した情報なのかを見てみましょう。
対策 04
公式情報を確認します
気をつけたい点 すべてを細かく確認すると、 かえって時間がかかってしまいます。 大切な情報から優先して確認するのが現実的です。
対策 05
内容によって確認方法を変えます
気をつけたい点 何が大切かを最初に決めておかないと、 必要な確認を見落とす可能性があります。 日時、数値、金額、期限、名前は元の情報と比べましょう。
対策 06
AIが示す確信度を参考にします
気をつけたい点 AIが「90％の確信があります」と答えても、 本当に90％正しいとは限りません。 数字だけで安心せず、内容と根拠を確認しましょう。
まずは、この5つから始めてみましょう
最初から完璧な仕組みを作る必要はありません。 AIに任せる部分と、人が確認する部分を分けるだけでも、 間違いを見つけやすくなります。
-
入力していない事実を追加させないようにします。
数値、発言、行動、結果などを、AIの推測で埋めないように伝えます。 -
事実と意見を分けます。
実際に確認できたことと、そこから考えたことを分けて書きます。 -
大切な項目は元の情報と比べます。
日時、数値、金額、期限、名前などは、元のメモを見ながら確認します。 -
AIが作った文章を、そのまま確定しません。
元のメモ、AIの下書き、確認後の文章を区別しておくと安心です。 -
最後は人が確認します。
AIは下書きを手伝う道具です。最終的な内容は、担当する人が確認します。
一つの対策ではなく、確認を重ねます
出典を尋ねる、検索する、公式情報を見る、 大切な項目を確認する。 どの方法も役に立ちますが、一つだけで十分とは限りません。
そこで、いくつかの確認を重ねます。 一つ目の確認で見逃しても、 次の確認で気づけるようにしておくためです。
AIには下書きと整理を手伝ってもらい、 大切な判断と最終確認は人が行います。
AIをずっと疑い続けるのではなく、 間違いがあっても途中で気づける仕組みを作ることが大切です。
コメント