今のAIは「生命がアウトプウトしたものをたくさんインプットさせたら、生命っぽいアウトプットをする機械が出来た」というだけの話なので、そんなに怖くないんですよね。

そうじゃなくて「生命を愚直にモデリングして作った」AIが出てきたときが恐怖だと思います。その「生命のモデリング」をどうやってやるのかを考えると、仮に実現するとしてもだいぶ先の話だと思いますが。