>>1
専門家たちが指摘する「アウトプット泥棒」の疑い

　このニュースを受けて、欧米の専門家らがまず指摘したのは「DeepSeekのAIが正当なものかどうか」ということだった。

　多くの専門家は、おそらくDeepSeekはアメリカ企業が開発しているAIモデルを使ってAIを構築したのではないか、と疑っているのだ。具体的には、マイクロソフトが莫大な投資をしているOpenAIが開発しているChatGPTや、メタ社が開発している生成AI「Llama」（ラマ）の両方を「悪用」しているのではないか、と見ている。

　とくに疑われているのが、AIの「アウトプット（出力＝回答）泥棒」の可能性だ。

　分かりやすい例えを使って説明しよう。医療に関して他の追随を許さない情報と経験を誇る「知の巨人」のような医者がいたとする。その名医にニセ医師が何億回も質問し、出された回答を全てコピーしてパクってしまうのだ。患者たちから質問されたニセ医師は、パクった回答をさも自分の回答のように提示する。それだけで、それなりの「知の巨人」になれる。DeepSeekも他のAIの回答をパクっているではないか、という指摘だ。

　前出の情報機関の元サイバー作戦責任者は筆者に、「アメリカやイギリスなど欧米情報機関は昨年8月ごろからこのDeepSeekのAIを水面下で入手して調査に乗り出しており、現時点ではDeepSeekのAIモデルそのものは完全なフェイクではないと見ている」と述べた。

　ただ「他のAIが出す答えなどを勝手に盗んでいる可能性が高く、まだ調査が行われている段階だが、その疑念も含めた途中経過は米政権に伝わっているはずだ」と指摘するのだ。

ダウンロードすべきではない

　さらに現時点でわかっているだけでも、DeepSeekには他にもいくつかの問題点がある。まず、データの安全性だ。

　現在、多くのユーザーはDeepSeekアプリをスマホなどにダウンロードしている。だがそこに入力したデータ（質問）は直接、中国に送信されている。入力したデータはDeepSeekがAIに蓄積されるわけだが、中国では企業が保有しているデータは中国政府が収集できるという悪名高い「国家情報法」がある。要するに、DeepDeekに入力した情報は中国政府に流れる可能性が高いのだ。

　もちろん、アプリをダウンロードした際に登録するユーザー情報も収集され、中国に送られる。これは中国製のデジタルデバイスの多くに共通するが、ユーザー側が意図しないうちに個人データが収集されてしまうので注意が必要だ。DeepSeekの利用規約を読むと、ユーザーがアプリを利用する「デバイス間の利用状況などを監視して分析する」と書かれているので、かなり危ない。

　またDeepSeekから吐き出される回答が「検閲」または「不正操作」されていることもわかっている。

　たとえば天安門事件について聞いても正しく答えてくれないし、習近平国家主席に似ていると揶揄されている「くまのプーさん」についての回答は拒否するという具合だ。これは、中国政府の“検閲”があるためAIがイデオロギーに関わる回答を自主規制したり回避したりしているからだ。

　こうした点を踏まえれば、現時点で一般人や日本の企業はDeepSeekアプリをダウンロードすべきではないだろう。

※全文はソースで
https://jbpress.ismedia.jp/articles/-/86360?page=2