AIで誰かを完全に再現可能な日が来たら

もう何年前だったかスターウォーズでレイア姫のホログラムを見たときは驚きました。
その場にいないのにあたかもその場にいるみたいに人が動いてしゃべることに。
その時にくらべて紅白歌合戦のAI美空ひばりさんの新曲披露は変な感じでした。

現象的にはスターウォーズのホログラムよりも遥かに高度な技術なのは確かですが。
みんなが「すごい！」と驚嘆した訳ではなくて「冒涜だ」とのご意見も聞こえてきます。
でも中にはまるで本当にご本人が蘇られたかのように感激し感涙された方もおられます。

でもこのAI技術が進化し深化して誰かを完全に再現可能な日が来たら・・・
という想像をしたとき、恩恵も多そうに思いますが恐怖感のほうが遥かに先立ちます。
フェイクニュースのように悪用されて人を騙すことに利用されるのではないか、と。

映ってもいない防犯カメラに音声入りで映っていたと捏造されたり・・・
ビデオ通話レベルでの新たなるオレオレ詐欺の素材にされたり・・・
果ては影響力の大きい人を騙って大勢の人を扇動させて戦争を起こしたり・・・

医療技術の日進月歩に倫理観が追いていかれているのと同じように。
AI技術の日進月歩も倫理観が追いついていくことができなくなるのでは・・・
ということになるんじゃないかという恐怖感が拭えません。。。