やまもも書斎記

2024年3月30日　當山日出夫

フランケンシュタインの誘惑　ディープフェイク リアルが揺らぐとき

生成AIの利用によるフェイク画像・動画については、最近になってよく報道などで接するようになった。テレビなどで伝えられるとき、よく観察してみなければならない、といった稚拙な反応が多かった。人間の目で観察してフェイクだと分かるようなものは、そのうちすぐに新たな技術でクリアされてしまうのは、当然のことである。なんというか、日本のマスコミの感覚の鈍さという印象を持ったのを憶えている。

今では、AIが内部でどのように活動しているのか、それを作った人間にさえ分からないという時代になろうとしている。フェイク動画を見破るAIを開発することは可能であるかもしれないが、そこでは、もはや何を根拠にフェイクである、いや、本物である、と判定したのか、その根拠さえ人間には分からない。

そして、本物かフェイクか分からないということは、本物を伝えようという人間の営みを根底からくつがえす。昨年のイスラエルとハマスとの紛争のときのSNS画像をめぐる混乱は、いまだ判定がつかないという。これでは、いったい何を信用したらいいのか、分からないことになる。おそらくは、これが一番おそろしいことであるかと思う。

テクノロジーと人間社会の問題は、古くて新しい課題ではある。しかし、AIの発達は、ここにきて新たな段階を迎えていることを認識しておく必要がある。

思い起こせば……つい、二〇年ほど前のことになるだろうか、写真がデジタルになったころ、デジタル写真はフォトショップで自由に加工できてしまうから、写真として信頼できないという意味のことが言われていたことがあった。今から思えば、なんとも牧歌的でのどかな議論であったと思える。

このような時代になったからこそ、自分で本を読み、自然とふれ、人と話す……この当たり前のことの重要性を、つくづくと感じることになる。とはいえ、自分自身にとってのリアルとは何であるのか、これはこれでかなり難しい問題をはらむ議論ではあるにちがいないが。

2024年3月26日記