やまもも書斎記

2025年3月21日　當山日出夫

NHKスペシャル　創られた“真実” ディープフェイクの時代

最後のクレジットを見ると、NII（国立情報学研究所）の名前があった。専門家の協力で作ったのだろうと思う。

だが、フェイク動画に、メタデータが埋め込んであって、それを解析すれば、それを作ったPCのシリアルナンバーが分かる……というのは、どうだろうか。もし、そうであったとしても、そんなものは、消去するか、改竄するか、暗号化するか、ということになるだけのことである。ここはドラマとしての都合で作った部分であろう。

AIによるディープフェイクが氾濫するとどうなるか、最終的には、人間は、もっとも素朴な現実……身体的な現実ということになるかと思うが……しか信じなくなる。ようするに、産業革命以前の生活にもどることになる。これは、ユートピアかもしれないし、ディストピアかもしれない、いや、そのような区分すら意味のない状況をむかえることになる。せいぜい楽観的に考えて、これぐらいである。

AIの技術に歯止めがかけられないことの一つの要因は、これが軍事的に利用可能であり、敵対する側により高性能のAIを開発されてしまうと困ったことになる。だから、政府としても、強引な規制ということに踏み切れない。こういうこともあるだろう。

その一方で、人間の技術の開発というのは、いったん動き始めたら、自律的に動く、あるいは、暴走することを、止めることができないものである、ということもある。

たとえば、生命倫理をめぐる、ここ半世紀のほどの流れを思ってみるならば、技術的に可能なことであるならば、なんとか理屈をつけて容認する方向にむかってきたのが、人間の歴史でもある。はじめのころは、人工授精であっても、自然の摂理に反するものであると拒否していた時代があった。将来、クローン人間の是非をめぐる議論が過去のものとなる時代がくるかもしれない。

ディープフェイクを、人間の倫理観で制御しようということは、そもそも無理だろうと思う。人間は、ウソだとわかっていても、ウソを好む……これは無視できないことにちがいない。

できることとしては、それが犯罪に使われないように、また、軍事的に使われないように、可能な限りで対応していくだけのことかと思う。これは、技術のイタチごっこにはなるが、これ以外の有効な手立ては思いつかない。

WEB会議が、AIとディープフェイクによってのっとられるということを防ぐには、実際に人と会って話しをする、昔のスタイルにもどすしかない。そして、それだけの手間暇をかける価値のあることが何であるか、判断することが求められる、ということになるだろうか。最重要機密は、人と人があって、盗聴器のないところで、直接、話しをするしかない、これは昔も今も変わらないことであろう。

ある程度予想できることとしては、世の中がディープフェイクだらけになってしまうと、その価値も下落する。それを作る意欲が減退し、手間暇をおしむようになるかもしれない。今は、まだ、本物と見間違えるものとして価値があるから、作ろうとする。

だが、これも、人間の意志をはなれて、AIが勝手に作るようなときがやってくるかもしれないが。

2025年3月19日記