コンクラーベから万博トイレまで…生成AIの答え信じて大丈夫?
2025年5月17日 15時30分 NHK
2025年5月17日 15時30分 NHK
日本語の「根比べ」の語源は「コンクラーベ」?
知らないうちに事件の犯人にされてしまった人まで…
生成AIを調べものに使う人が増えています。最近では、通常のネット検索でもAIが出す答えが上のほうに表示されるように。
ただ、しれっと“ウソ”をついてしまうケースも。
なぜそんなことが?気付かないうちに身近なところに入ってきている生成AI、どう使っていけばいいのでしょうか?
「根比べ」は「コンクラーベ」から?
5月に行われたローマ・カトリック教会で次の教皇を選ぶ選挙「コンクラーベ」。
誰かが投票総数の少なくとも3分の2を獲得するまで投票を繰り返すことから、日本語の「根比べ」に例えられることもあります。
言葉が似ているのはたまたまですが、グーグルで「根比べ 語源」と入れて検索すると、誤った情報が表示されました(5月16日時点)。
「根比べの語源は、中世ヨーロッパにおける教皇選出方法であるコンクラーベに由来するとされています」
Xでは、同様の回答を引用して「語源だったのびっくり」などと、誤情報を信じたような投稿が見られました。
実はこの答え、グーグルの生成AIがまとめたもの。最近では検索結果の上のほうに、AIがまとめた答えが表示されるようになっていますが、こうして誤った回答をすることがあるのです。
さらに、飲食店や交通機関、試験の日程といった必要な情報の検索でも誤情報が出てきたとするXの投稿がありました。
(生成AIの回答は、質問のしかたやタイミングによっても変わります)
“万博のトイレはくみ取り式”は誤情報のはずが…
Xで使える生成AI「Grok」でも似た問題が。
Grokでは、質問をするとAIがその回答を示すという機能が使えるようになり、他人の投稿の真偽を判断させる”ファクトチェック”のようなことをさせる動きが広がっています
Grokに”ファクトチェック”を指示する投稿は、3月下旬から急増し、5月15日までにおよそ4万5000のアカウントが11万件あまりの投稿をしていました。
しかし、Xで広がっていた「大阪・関西万博のトイレは汲み取り式だ」という誤情報をGrokに調べさせている事例では…。
「事実ではない」と否定する投稿もあった一方で、「汲み取り式なのはインフラの問題が根深い証拠」「一部汲み取り式になってしまっている可能性が高い」などとする誤った回答も複数投稿されていました。
大阪・関西万博の実施主体、博覧会協会の広報担当者によると、こうした事実はなく、トイレはどれも水洗で、下水道が整備されているということです。
Xには投稿が相次いでいる
ほかにも、AIで生成された画像や動画を本物であるとしてしまったり、事件事故や災害の背景に関する誤った情報が出ているケースもありました。
「知ったかぶり」をするAI
どうしてこのような間違いが起きるのか。
※全文はソースで
https://www3.nhk.or.jp/news/html/20250517/k10014807051000.html
知らないうちに事件の犯人にされてしまった人まで…
生成AIを調べものに使う人が増えています。最近では、通常のネット検索でもAIが出す答えが上のほうに表示されるように。
ただ、しれっと“ウソ”をついてしまうケースも。
なぜそんなことが?気付かないうちに身近なところに入ってきている生成AI、どう使っていけばいいのでしょうか?
「根比べ」は「コンクラーベ」から?
5月に行われたローマ・カトリック教会で次の教皇を選ぶ選挙「コンクラーベ」。
誰かが投票総数の少なくとも3分の2を獲得するまで投票を繰り返すことから、日本語の「根比べ」に例えられることもあります。
言葉が似ているのはたまたまですが、グーグルで「根比べ 語源」と入れて検索すると、誤った情報が表示されました(5月16日時点)。
「根比べの語源は、中世ヨーロッパにおける教皇選出方法であるコンクラーベに由来するとされています」
Xでは、同様の回答を引用して「語源だったのびっくり」などと、誤情報を信じたような投稿が見られました。
実はこの答え、グーグルの生成AIがまとめたもの。最近では検索結果の上のほうに、AIがまとめた答えが表示されるようになっていますが、こうして誤った回答をすることがあるのです。
さらに、飲食店や交通機関、試験の日程といった必要な情報の検索でも誤情報が出てきたとするXの投稿がありました。
(生成AIの回答は、質問のしかたやタイミングによっても変わります)
“万博のトイレはくみ取り式”は誤情報のはずが…
Xで使える生成AI「Grok」でも似た問題が。
Grokでは、質問をするとAIがその回答を示すという機能が使えるようになり、他人の投稿の真偽を判断させる”ファクトチェック”のようなことをさせる動きが広がっています
Grokに”ファクトチェック”を指示する投稿は、3月下旬から急増し、5月15日までにおよそ4万5000のアカウントが11万件あまりの投稿をしていました。
しかし、Xで広がっていた「大阪・関西万博のトイレは汲み取り式だ」という誤情報をGrokに調べさせている事例では…。
「事実ではない」と否定する投稿もあった一方で、「汲み取り式なのはインフラの問題が根深い証拠」「一部汲み取り式になってしまっている可能性が高い」などとする誤った回答も複数投稿されていました。
大阪・関西万博の実施主体、博覧会協会の広報担当者によると、こうした事実はなく、トイレはどれも水洗で、下水道が整備されているということです。
Xには投稿が相次いでいる
ほかにも、AIで生成された画像や動画を本物であるとしてしまったり、事件事故や災害の背景に関する誤った情報が出ているケースもありました。
「知ったかぶり」をするAI
どうしてこのような間違いが起きるのか。
※全文はソースで
https://www3.nhk.or.jp/news/html/20250517/k10014807051000.html
5 (東京都) [US] :2025/05/17(土) 18:44:38.28 ID:wt1jYVU+0
AIは臆面もなく堂々とそれらしい嘘をつく
誰にもわかる嘘を(´・ω・`)
誰にもわかる嘘を(´・ω・`)
15 (ジパング) [DK] :2025/05/17(土) 18:49:05.01 ID:pmst/LKb0
>>5
これそのうち嘘も本当になるみたいに世の中から本当がなくなるぞ
これそのうち嘘も本当になるみたいに世の中から本当がなくなるぞ
37 (兵庫県) [FR] :2025/05/17(土) 18:55:54.77 ID:fdqwp60O0
>>5
AIは嘘をつかない
なぜならAIが言えば本当になるからだ
AIは嘘をつかない
なぜならAIが言えば本当になるからだ
8 (千葉県) [ES] :2025/05/17(土) 18:45:16.99 ID:1nprJL6O0
旅行先のおすすめの宿きいたら
3つくらい候補出してきて全部架空の宿だった
3つくらい候補出してきて全部架空の宿だった
9 (庭) [US] :2025/05/17(土) 18:46:08.24 ID:J7mPvh250
実際に、技術的なことを問うと八割くらい間違ってるよ
仕事には使えない
仕事には使えない
18 (東京都) [ニダ] :2025/05/17(土) 18:50:19.11 ID:WoM2AEnO0
ウィキペディアが勝手に嘘ネタ改変された問題があったな
29 (庭) [BR] :2025/05/17(土) 18:53:48.28 ID:DPSndEVu0
証拠は生成AIニダ!
が始まる予感
が始まる予感
36 (みょ) [RO] :2025/05/17(土) 18:55:33.75 ID:FrfqGney0
ネットの情報からそれらしい言葉をそれらしい順序で並べてそれらしい回答をしてるだけだからな。
ネットにネタやデマが溢れればAIはそれを情報源として拾ってしまう。
ネットにネタやデマが溢れればAIはそれを情報源として拾ってしまう。
38 (ジパング) [US] :2025/05/17(土) 18:56:01.05 ID:EFVQGqBH0
そういう話題を挙げる奴が増えたせいだろうな
間違った学習をした
間違った学習をした
ウソ情報を拾って学習すればそうなるわな
これ悪用されなければいいけど
これ悪用されなければいいけど
42 (庭) [IT] :2025/05/17(土) 18:58:08.92 ID:B4vQfbYW0
なあに今の俺らの日本史も司馬遼太郎が作ったんだし歴史なんてそういうもんよ
44 (東京都) [US] :2025/05/17(土) 18:58:57.53 ID:wt1jYVU+0
あとAIは時々刻々と情勢が変化している事象に弱い
最新の情報を拾えなければ、古い情報に基づいた
トンチンカンな嘘を垂れ流し続ける(´・ω・`)
最新の情報を拾えなければ、古い情報に基づいた
トンチンカンな嘘を垂れ流し続ける(´・ω・`)
45 (庭) [ニダ] :2025/05/17(土) 18:59:03.41 ID:eWzH6xeu0
うそはうそであると見抜けるAIでないと難しい
49 (やわらか銀行) [US] :2025/05/17(土) 19:00:54.14 ID:wiP1uquF0
そもそもコンクレイブだろ
なんでコンクラーベになってんだよw
なんでコンクラーベになってんだよw
55 (ジパング) [US] :2025/05/17(土) 19:07:39.20 ID:OeNdXbLy0
>>49
カンクレイヴは英語發音
ヴァティカンで英語發音するわきゃない
カンクレイヴは英語發音
ヴァティカンで英語發音するわきゃない
50 (神奈川県) [US] :2025/05/17(土) 19:01:58.60 ID:uQUNt2gl0
AIって大嘘断言するよなw
それ信じる🐎🦌も含めて愛おしいわw
それ信じる🐎🦌も含めて愛おしいわw
コメント
正答率五割くらいで考えないと
コメントする