生成ＡＩは平気で間違える？！

吉田正幸
4月5日
読了時間: 3分

生成ＡＩを鵜呑みにせずファクトチェックを

　文部科学省の幼児教育ワーキンググループの第６回会議がこのほど開かれ、この中でいわ　使ってみると非常に便利で、予想以上にきちんとした回答をしてくれる生成ＡＩですが、間違いや勘違いをすることも決して珍しいことではないようです。具体的なケースで見てみましょう。

〈ケース１（Gemini）〉

○プロンプト：小規模事業場ストレスチェックで、労働者数 50 人未満の事業場におけるストレスチェックの実施が義務化されるのはいつからですか

○回答：「労働者数50人未満の小規模事業場におけるストレスチェックの義務化は、2025年（令和7年）12月1日からスタートする予定です」と間違った回答

○正解：2025年５月14日に公布された改正労働安全衛生法によると、施行期日は公布後３年以内に政令で定める日とされています（つまり2028年5月13日までに施行）

〈ケース２（日経新聞の生成ＡＩであるNIKKEI ）〉

○プロンプト：「こども誰でも通園制度」の経済効果を教えて

○回答：「直接的な経済効果に関する具体的な記述は見つかりませんでした」と回答した上で、保育業界の動向に触れた中で、「「こども誰でも通園制度」の対象となるのは、都道府県知事の認可する保育園のみ」と間違った回答

○正解：「こども誰でも通園制度」の実施対象には認可外保育施設も含まれます

　このように生成ＡＩは、それほど難しくない質問についても簡単に間違うことがあります。

　ケース１に関しては、「施行期日は公布後３年以内に政令で定める日とされているが、 2025年12月1日から施行されるのか」と改めて聞くと、「具体的な施行日が『2025年12月1日』と決定されたという公的な事実（政令の公布など）は、現時点（2026年3月）では確認されておりません」としれっと回答。「最長期限は 2028年（令和10年）5月13日まで」と正しい回答を寄せました。

　ケース２については、この質問を行う数日前に日経新聞の客員編集委員による解説記事「企業内保育園、消費税の解釈めぐり混乱も　決着は痛み分けか」の中で、「専業主婦の家庭でも子どもを預けることができる『こども誰でも通園制度』が4月から始まるが、対象になるのは都道府県知事の認可する保育園のみ。認可外保育園である企業内保育園には適用されない」という文章があったことから、日経の生成ＡＩがこれを参考にして回答を生成したため、そのまま間違ったものだと考えられます。

　これら生成ＡＩの間違いに関して、大阪大学全学教育推進機構・教育学習支援部（ホームページ）では、「生成AIは理路整然とした文章の中に間違った情報が入る、つまりは平気で間違えるために、警戒が必要です。このような生成AIがつく間違いを『ハルシネーション（幻覚：Hallucination）』といいます」と指摘しています。

　その上で、「生成AIは、あくまでもデータに基づいて『それっぽいこと』を生成しているにすぎません。生成された情報の真偽を確かめるファクトチェックは、必ず人の手で行う必要があります」「生成AIは、回答を生成するまでの過程がブラックボックスになっているため、『なぜその答えを出したのか』という根拠がわからない点にも注意が必要です」などと注意を呼びかけています。

＊この記事については、会員ページの「オリジナルコラム」で詳しく取り上げています。