AIに質問すると、驚くほど整った文章で答えが返ってきます。言葉づかいも丁寧で、筋道も通っているように見える。だからこそ、そのまま書類に貼り付けたり、お客様への返信に使ったりしたくなります。
ただ、AIの答えには、ときどき事実と違う内容が紛れ込みます。しかも、間違っている部分ほど自信ありげに書かれていることがあります。AIを仕事で使ううえで大切なのは、AIに完璧を求めることではなく、「確かめる」ことを仕事の手順の中に組み込んでおくことだと、私たちは考えています。
なぜAIは「それらしい間違い」をするのか
いまの文章生成AIは、膨大な文章から「この流れなら次はこういう言葉が来そうだ」という傾向を学び、それをもとに文章を組み立てています。事実を調べて答えているというより、もっともらしい文章を組み立てるのが得意な仕組みだと考えると、分かりやすいかもしれません。
そのため、文章として自然であることと、内容が正しいことは、必ずしも一致しません。存在しない制度の名前や、少しずれた日付、別のものと取り違えた数字が、滑らかな文章の中に自然に混ざることがあります。
これはAIが不真面目だからではなく、仕組みの性質です。性質だと分かっていれば、付き合い方を決めることができます。
確かめる手間は、答えの「重さ」で変える
とはいえ、AIの答えをすべて一から調べ直していては、使う意味が薄れてしまいます。そこでおすすめしたいのが、その答えが間違っていたときに何が起きるかで、確かめ方を変えるという考え方です。
社内向けのたたき台やアイデア出しであれば、多少の間違いは読む人が気づいて直せます。ざっと目を通す程度で十分なことが多いでしょう。
お客様や取引先に出る文章では、固有名詞・日付・金額・数字だけは必ず元の資料と見比べる、と決めておくと安心です。全文を疑うのではなく、間違うと困る箇所に絞って確かめます。
制度・契約・健康などに関わる内容は、AIの答えを結論として使わず、「どこを調べればよいか」の手がかりとして扱います。最終的な判断は、公的な情報源や専門家の確認をもとに、人が行います。
このように線を引いておくと、確かめる手間は必要なところにだけかかり、AIの便利さも失われません。
「確かめる人」がいる職場は、AIをうまく使える
確かめる習慣は、個人の注意力に頼るだけでは長続きしません。「この種類の書類は、外に出す前に数字を元資料と照らす」といった小さな約束を、チームの手順として決めておくことが大切です。
また、確かめる作業そのものにもAIは役立ちます。「この文章の中で、事実確認が必要な箇所を挙げてください」と頼めば、見落としやすい固有名詞や数字を洗い出してくれます。AIに書かせ、AIに点検の手がかりを出させ、最後に人が確かめる。この順番が、無理のない使い方の一つです。
AIの答えを確かめるのは、AIを疑うためではありません。その文章を受け取る人に、正しいものを届けるためです。iTELASが掲げる「人を想う心が、AIを価値に変える。」という言葉も、まさにこの点にあります。AIの速さを活かしながら、最後の一手間を人が引き受ける。その積み重ねが、AIを安心して使える職場をつくっていくのだと考えています。
社内でのAIの使い方や、確かめるルールづくりについて迷われていることがあれば、どうぞお気軽にご相談ください。