やまもも書斎記

2025年3月5日　當山日出夫

BS世界のドキュメンタリー　「亡き人と話せたら AIがひらく危うい世界」

2024年、ドイツの制作。

AIをめぐっては、いろいろと本もあるし、テレビ番組もある。まあ、NHKが作ると、多くの場合、東京大学の松尾豊が登場して、AIの明るい未来について語ることが多いのではあるが。

この番組をAIの問題として見ることもできるが、その一方で、人間の側に視点をおいて、人間とはこういうもの……人間は人の死というものをどうやってうけいれるのか……と考えることもできるだろう。少なくとも、AIの登場によって、人間の死生観に変容を迫られるということは、確実にあるにちがいない。

これは、AIが死んだ人間の代わりに出てくる、というよりも、人間の側として、そのようなAIのふるまい（チャットであったり、仮想空間であったり）に対して、あたかも、本物の人間（死んだ人）がいるかのように感じてしまう、その人間の感性のあり方とか、考え方の問題として、とらえることもできるかと思う。

この番組で出てきたようなことは、今のAI技術なら、そう難しいことではないはずである。

AIの最大の問題点の一つは、その内部で何がどうなっているのか、開発した技術者でも分からないことが起きている、ということにある。つまり、人間が、AIをコントロールすることが出来ていないのである。これは、もし、AIが暴走したらどうなるか、この危険性をうったえる人は多い。

人間を模してチャットで答えてくれるAIについては、肯定的にとらえるむきもある。AIとことばのやりとりをすることによって、自分の考えていることが、徐々に形づくられて具体化していくということがある。こういう報告もある。これを、良く考えれば、自分の感情やアイデアの言語化を手助けしてくれるということになる。しかし、その一方で、人間がAIに感情や思考を操られてしまう、ということにもなる。

もしAIに人間の脳のすべてを移すことが出来たとしたら、いったい何が起こることになるのだろうか。これは、もはやSF的な空想のことではなく、現実の問題として考えなければならない課題になってきている。このとき、人間の無意識（フロイトの語った）は、どのように再定義されることになるだろうか。これを、サイエンスの方法論で、説明しきることが可能になるだろうか。

人間というものは死ぬものであり、その人が生きている間のことを憶えている人も、いずれ死んでいく。その次の世代も同様である。このようにして、世代を重ねて、人間の文化というものが形成されてきた。今の自分のあるのも、過去からの多くの人びとの死の積み重ねのうえにある。だからこそ、これからの未來の世代に対しても責任がある。そのようなものとして死んでいかねばならない。

これまでは、基本的にこのような考え方のもとに、世界のいろんな文化が継承されてきたはずである。その根本的なところが、これから大きく変わっていくことになるのだろうか。

ところで、この番組で、はじめて、シェリー・タークルの顔を見た。その著書（翻訳）はいくつか読んでいる。こういう問題を考えるには、適任の一人だと思う。

2025年3月2日記