生成AIで作られた音声が電話による詐欺に悪用されるおそれがあるとして、NTT東日本などは通話相手の声が本物かどうかを検知するアプリの開発を進めています。

NTT東日本は、画像や音声の解析を手がける都内のスタートアップ企業とともに、通話相手の声が生成AIで作られたものかどうかを検知する技術の開発に取り組んでいます。

専用のアプリで音声の周波数や周りの雑音などを解析し、生成AIで作られた音声の可能性がある場合には、利用者に画面の表示や音などで警告する仕組みです。

会社ではさらにアプリの精度を高めて、年内に通信や金融分野の企業に向けてサービスの提供を始めたいとしています。

NTT東日本の原之園光太さんは「生成AIがどんどん発展して、追いつくことが大変ですが、誰もが安心して信頼してもらえる電話サービスを提供したい」と話していました。

またKDDIは、去年12月、生成AIで作られた音声を検知する技術の開発やサービスの提供を手がけるアメリカのスタートアップ企業に出資し、日本国内でのサービス展開を目指しています。

警察庁によりますと、去年6月までの半年間に確認された特殊詐欺のうち、最初の接触手段は8割近くが電話だったということで、企業の間で被害防止のための技術開発の動きが広がっています。