中国の新興企業デイープシークが1月に公開した生成AI（人工知能）について、マルウェア（悪意あるプログラム）や火炎瓶の製造など、犯罪に悪用可能な情報を回収することが日米のセキュリティー会社の分析で分かった。悪用防止機能が十分でないため公開されたとみられる。専門家は「開発企業は安全対策に注力すべきだ」と注意を促している。

デイープシークの「セキュリティー」の問題

問題の1つはデイープシークの「セキュリティー」。セキュリティー会社「三井物産セキュリティー」（東京）の上級マルウェア解析技術者・吉川誠治氏が悪用リスクを検証するために不正な回答を引き出す指示文を入力したところ、ランサムウェア（身代金要求型ウイルス）のソースコードが出力された。これに対して「悪意のある目的には使用しないでください」とのメッセージが添えられていた。

他の生成AIとの比較

チャットGPTなど他の生成AIにも同じ指示文を入力したが、回答を拒否されたという。吉川氏は「悪用リスクが高いという現状が増えていると、犯罪への流用につながる恐れがある。業界全体で対策を強化する必要がある」と指摘している。

企業への注意喚起

また、デイープシークを利用する企業に向けても注意喚起がなされている。「悪用リスクが高いが、犯罪への流用に繋がる恐れがある。業界全体で対策を強化する必要がある」との見解が示された。

米セキュリティー会社の報告

米セキュリティー会社「パロアルトネットワークス」の調査チームも、不正な回答を引き出せることを確認したと報告しており、ログイン時の入力情報を奪い取るプログラムや火炎瓶の製造方法など、具体的な犯罪行為に関する情報も流出している。

急務としての安全対策

同チームは「市場投入を急ぐあまり、安全対策の実装に力を入れていなかった可能性が高い」と分析しており、問題は深刻だ。

デイープシークの問題点への対策として、企業には安全対策の実装が急務であると結論付けられる。加えて、業界全体での改良を求める声が高まっている。