10億円かけた虐待判定AI、こども家庭庁が導入見送り…ミス6割で「実用化困難」
3/3(月) 5:00配信 読売新聞オンライン
3/3(月) 5:00配信 読売新聞オンライン
虐待が疑われる子どもの一時保護を巡り、人工知能(AI)にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が2021年度から約10億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが6割に上った。AIは虐待の判断にはなじまず、実用化は困難と結論付けた。
同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したAIに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が0~100の点数で表示される。
試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。
ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「2~3」だった。あざなどがなかったためとみられる。
同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。AIの発展状況を見ながら、再開するかどうかも含め検討するという。
開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をAIが高精度で判定することの難しさを指摘する。AIの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。
同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。
国立情報学研究所の佐藤一郎教授は「AIは何でもできる『魔法の杖(つえ)』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。AIの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。
※全文はソースで
https://news.yahoo.co.jp/articles/2e93e428378fcb71b80fb0aa5bd1d4b5606fe0d7
同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したAIに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が0~100の点数で表示される。
試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。
ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「2~3」だった。あざなどがなかったためとみられる。
同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。AIの発展状況を見ながら、再開するかどうかも含め検討するという。
開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をAIが高精度で判定することの難しさを指摘する。AIの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。
同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。
国立情報学研究所の佐藤一郎教授は「AIは何でもできる『魔法の杖(つえ)』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。AIの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。
※全文はソースで
https://news.yahoo.co.jp/articles/2e93e428378fcb71b80fb0aa5bd1d4b5606fe0d7
2 (千葉県) [ニダ] :2025/03/03(月) 10:25:15.38 ID:+H4PZG7A0
>>1
中抜き
企業献金
キックバック
中抜き
企業献金
キックバック
3 (庭) [US] :2025/03/03(月) 10:26:03.75 ID:YbZPLJPi0
公金チューチュー
4 (兵庫県) [GB] :2025/03/03(月) 10:26:21.41 ID:ySv9rHWH0
作った奴も最初から虐待をやめさせる気なんて無いだろ
5 (神奈川県) [SA] :2025/03/03(月) 10:26:54.27 ID:JKJXRUdX0
少子化対策とは?
6 (茸) [BE] :2025/03/03(月) 10:27:20.55 ID:kXhG7b6E0
こんなんアルゴリズム組むだけでAIである必用ないだろ?
9 (茸) [IR] :2025/03/03(月) 10:30:23.02 ID:wHOcAwRv0
>>6
いやAIじゃないと10億円の予算がつかない
いやAIじゃないと10億円の予算がつかない
7 (やわらか銀行) [US] :2025/03/03(月) 10:27:45.10 ID:3kspn5kF0
91項目を手入力して判定?
あのさあ…
あのさあ…
10 (茸) [ニダ] :2025/03/03(月) 10:30:44.38 ID:6RTNDePo0
>>7
わざとやってんだよ
わざとやってんだよ
8 (埼玉県) [US] :2025/03/03(月) 10:29:19.33 ID:ECbPkSjE0
AIは日進月歩やぞ
今日ダメダメでも明日には完璧になってたりする世界や
ダメだからやめますなんてアウトオブ論外だぞ
今日ダメダメでも明日には完璧になってたりする世界や
ダメだからやめますなんてアウトオブ論外だぞ
失敗は成功の母や
13 (庭) [IR] :2025/03/03(月) 10:36:32.21 ID:gDcIPyYO0
10億ポッチで何を作るつもりだったのか
>>13
10億は金かけすぎだろ
1億あれば十分じゃん
10億は金かけすぎだろ
1億あれば十分じゃん
>>19
子ども家庭庁「おい中抜き9億忘れてンぞ?」
子ども家庭庁「おい中抜き9億忘れてンぞ?」
14 (東京都) [ニダ] :2025/03/03(月) 10:38:20.97 ID:htIkigEi0
「こういうAI募集します!」と民間から広く公募して
成績の良かったものを採用すればムタがないのに
成績の良かったものを採用すればムタがないのに
15 (北海道) [US] :2025/03/03(月) 10:38:37.02 ID:nDFIZNoE0
財務省解体デモよりこども家庭庁解体デモした方がいいよ
16 (徳島県) [US] :2025/03/03(月) 10:38:38.98 ID:xoDs3phB0
実際にプログラミングしたのはX次下請1000万円だから仕方ない
20 (東京都) [US] :2025/03/03(月) 10:44:18.58 ID:jLU68/cf0
こうやって無駄なプロジェクトを乱発し私服を肥やすのか
なんとも、金の無駄使いだな
25 (庭) [KE] :2025/03/03(月) 10:58:19.46 ID:znBmiP3G0
どうせ始めから中抜きで私腹を肥やすためのプロジェクトでしょ
26 (ジパング) [US] :2025/03/03(月) 10:59:17.01 ID:zGG1r4Pg0
こども家庭庁「こんなしょーもないの作って遊んでるだけで数億だぜw 国民には金だけ出させてwww」
28 (兵庫県) [EU] :2025/03/03(月) 11:05:21.52 ID:OnURTXP+0
91項目入力してフローチャートで判定するなら紙の上で出来る10円置くレベル
31 (茸) [US] :2025/03/03(月) 11:11:28.23 ID:vsiMhdCB0
明細出せよ国賊
33 (茸) [ニダ] :2025/03/03(月) 11:27:00.35 ID:viws3Xmf0
一瞬で10億円が消えた 笑 まぁこんなもんだろうな政府の愚策なんて。
38 (庭) [BR] :2025/03/03(月) 11:37:02.89 ID:OVBo7Yit0
誰がそれ AI 化しろって言い出したんだよ。公務員か?
AI はなんでも真実を見抜いてくれる魔法の道具だと思ってないか?
AI はなんでも真実を見抜いてくれる魔法の道具だと思ってないか?
43 (茸) [JP] :2025/03/03(月) 11:46:24.93 ID:Ufi3TslR0
早く解体してほしい
45 (ジパング) [US] :2025/03/03(月) 11:55:32.99 ID:zGG1r4Pg0
職員全員に借金させて10億作って返納させろよ。
47 (茸) [ニダ] :2025/03/03(月) 11:57:49.76 ID:eJe1Cpll0
9億9000万ぐらいポッケナイナイしてそう
48 (日本のどこか) [ニダ] :2025/03/03(月) 12:04:13.87 ID:VPzA13CM0
中抜き庁に名前変えたら?
コメント
コメントする