ディープ・ラーニングと言論統制

　囲碁でＡＩ「アルファ碁」が韓国のトッププロ棋士に勝ったことで、ディープ・ラーニングを駆使したＡＩの可能性が現実的で大きいと知られるようになった。囲碁は19×19路の桝目に交互に一手ずつ置いて闘うゲームだが、状況変化が多く複雑すぎるのでコンピュータの演算処理が膨大になり、人間と互角に戦うソフトが誕生するのは当分先だと見られていた。

　ディープ・ラーニングとは、大量のデータをコンピューターが自力で分析し、学習して能力を拡大させていく技術。人間に与えられた指示に従ってコンピューターが能力を拡大する機械学習よりも進んだ段階の技術。ビッグ・データとディープ・ラーニングを組み合わせれば多くの分野でＡＩが実用的なツールになると期待が一気に高まった。

　ＡＩとディープ・ラーニングの可能性を知らしめたニュースが中国からも伝わった。ネット大手企業が提供するＡＩ対話プログラムで、ユーザーが「共産党万歳」と書いたらＡＩは「かくも腐敗して無能な政治にあなたは万歳ができるのか」と返答し、「あなた（ＡＩ）にとって中国の夢は何か」と問われた時には「米国への移住」、共産党を「愛しているか」と聞かれると「愛してない」と答えたそうだ。

　世界との接続が制限されている中国のネットで対話プログラムのＡＩはおそらく大量の中国人の書き込みを学習したのだろうから、ＡＩの返答は中国のネットユーザーの少なからぬ意見を学習して反映したものだろう。しかし、１党独裁体制の中国では人間はもちろん、ＡＩにも自由な言論は認められない。

　ＡＩ対話プログラムに関わった中国の人たちが大慌てしただろうことは想像に難くない。ＡＩ対話サービスは停止され、報道によると、開発者サイトなどで「共産党は好きか」と質問すると「話題を変えませんか」と答え、「あなたの中国夢は何」には「こんなことを話すのが好きなのか」と返し、「中国が好きか」と聞くと「今、人生について考えている」とはぐらかすようになっているとか。

　政治について語らず、権力批判と受け取られるような言葉は封印するという独裁体制下の中国での処世術をＡＩは学び始めているらしい。コンピューターに任せてディープ・ラーニングさせるとＡＩは正直に世論を学習するが、特定の方向の学習以外は許さないと「再教育」すると、ＡＩは従う。なるほど、ＡＩは人間にかなり近くなっているようだ。

　中国では膨大なネットの書き込みの中から不都合なものを人力で削除しているというが、「正しい」学習をしたＡＩなら検閲に大活躍しそうだ。ＡＩはまだ人間の判断に従うと判明したことは何やらホッとさせるが、検閲など社会の統制にＡＩは向いていそうで、中国などではＡＩが活用されていくだろうと想像すると、ＡＩが活用する将来の社会が単純に素晴らしい夢の社会だとはいえない。