オーウェル、嘘は真実となる

今週の書物/
『一九八四年』
ジョージ・オーウェル著、高橋和久訳、新訳版、ハヤカワepi文庫、2009年刊

気送管へ?

2022年、監視社会がここまで進むとは、だれが思っていただろうか?

30年ほど前、英国で少年による幼児の誘拐殺人があった。当時、私はロンドン駐在の科学記者。事件があまりに猟奇的だったこともあり、記事にしなかった。今思うと、それは怠慢だったかもしれない。容疑者特定の決め手が街頭の監視カメラだったからだ。

監視カメラと聞いて、私は一瞬「イヤだな」と思った。街が見張られているなんて……。でも、この装置があったからこそ事件は解決した。犯罪の抑止力があるということだ。実際その後、英国は監視カメラ大国になる。あの事件は一つの転機だったかもしれない。

ただ、英国と監視カメラの取り合わせには違和感がある。英国は、とにもかくにも自由と民主主義の国ではないか。人権感覚の強い人々が大勢いる。その社会が、なぜ監視カメラをあっさり受け入れたのか。理由は、いくつか思い浮かぶ。1970~1990年代、北アイルランド紛争が激化してテロが相次いだことも大きく影響しているだろう。この問題では、英国社会の現実主義が人権感覚をしのいで、治安を優先させたということかもしれない。

思い返すと世紀が変わるころまで、私たちは人権に対して旧来の見方をしていた。それによれば、監視行為は刑務所などいくつかの例外を除いて許されない。ところが、この20年余でそんなことを言っていられなくなった。海外ではテロや乱射事件……。国内でも通り魔事件やあおり運転……。相次ぐ凶事に監視待望論が強まった。監視の目はコンビニの防犯カメラやドラレコの車載カメラなどに多様化され、その〈視界〉を広げている。

しかも、監視の道具は今やカメラだけではない。私たちの行動は、今日的な技術によっても追跡されている。スマートフォンを持って街を歩けば、自分がどのあたりをうろついていたかが記録される。散歩の経路にとどまらない。心の軌跡もまた見透かされている。インターネットの閲覧履歴を手がかりに、自分が何をほしいか、どこへ行きたがっているかまで推察されてしまう。もはや、監視カメラだけに目を奪われている場合ではない。

カメラの背後には警察がある。民間が取り付けたものでも警察が映像を使う。ところがスマホとなると、ネットの向こうに誰がいるかがなかなか見えてこない。旧来の人権観のように国家権力だけを警戒していればよいわけではない。不気味さは、いっそう増している。

2022年の今、監視社会の実相はこうだ――。一つには、監視している主体を見極めきれないこと。もう一つは、監視されている対象が人間の内面にも及ぼうとしていること。この認識を踏まえて、今週は70年ほど前に書かれた長編の未来小説をとりあげる。

『一九八四年』(ジョージ・オーウェル著、高橋和久訳、新訳版、ハヤカワepi文庫、2009年刊)。著者は英国の作家。1903年に生まれ、1950年に死去した。著者紹介欄には「二十世紀の思想、政治に多大なる影響を与えた小説家」とある。代表作には、風刺の効いた寓話小説『動物農場』も。本書は1949年に発表されたが、刊行時点から35年後の未来社会を描いている。1984年をすでに通過した私たちが読むと、その想像力に圧倒される。

主人公はウィンストン・スミス、39歳。ロンドン在住で「真理省」職員。この省は「報道、娯楽、教育及び芸術」を扱う。政府官庁には、ほかに「戦争」担当の「平和省」、「法と秩序の維持」を担う「愛情省」、「経済問題」を受けもつ「潤沢省」がある。一つ、付けくわえると、この国は英国ではなく「オセアニア」だという。英、米、豪などから成る。そのころの世界はオセアニア、ユーラシア、イースタシアの3国が割拠していた。

この作品で、著者の先見性の的確さが見てとれるのは「テレスクリーン」の普及だ。ウィンストンの自宅マンションにも、真理省記録局の職場にもある。たとえば、自室の装置は「壁面の一部を形成している曇った鏡のような長方形の金属板」とされている。驚くのは、この装置が送受信双方向の機能を具えていることだ。一方では、当局の思想宣伝を一身に浴びることになる。もう一方では、当局に自らの言動が筒抜けになってしまう。

受信の例として作品に頻出するのは、「臨時ニュース」のような音声情報だ。これは、執筆時点がラジオ全盛の時代だったからか。だが、スクリーンに映像が映る場面も出てくるから、著者は薄型テレビの開発などエレクトロニクスの進展を予感していた。送信機能についていえば、自分がいつも見られているわけだから監視カメラやスマホの追跡機能も先取りしている。著者は、監視社会の到来もすっかり見抜いていたのだ。

職場の風景が印象深い。ウィンストンがいる部屋や廊下の壁には穴がいくつも並んでいる。「記憶穴」と呼ばれるものだ。職員たちは、手にした書類を「破棄すべき」ものと見てとったとたん、「一番近くにある〈記憶穴〉の上げ蓋を開け、それを放り込むのが反射的な行動になっていた」。書類は穴に投げ込まれると、気送管――筒状に丸めた文書を空気圧で飛ばす装置――を通って、庁舎内のどこかにある「巨大な焼却炉」へ直行するのだ。

1984年のオセアニアでは「過去が消され、その消去自体が忘れられ、嘘が真実となる」。これが、日常になっている。過去が都合悪ければ、記録した文書をなきものにしたり書き換えたりする。私たちが報道で耳にする文書の廃棄や改竄が制度化されているのだ。

この小説では、ウィンストンがどんな作業をしていたかが詳述されている。気送管で届けられた書類には次のような業務命令が書かれていた――。1983年12月3日付の新聞に載った「ビッグ・ブラザー」による「勲功通達」の記事は「極めて不十分」だった。「存在していない人物に言及している」ので「全面的」に書き換えるように! ここで ビッグ・ブラザーはオセアニアの「党」の指導者。実在性さえ不確かな謎めいた人物である。

新聞の記事によると、ビッグ・ブラザーは今回、「FFCC」という組織のウィザーズ同志に「第二等大殊勲章」を授けた。FFCCは、水兵に慰問品を贈る組織。ところが、この組織が解体された。不祥事があったのか、政治的確執によるものか、理由はわからない。いずれにしてもウィザーズは存在してはいけない人となり、叙勲はあってはならない過去になった。ウィンストンがなすべきは、その過去を抹消して別の過去をつくりだすことだった。

ウィンストンが思いついたのは、英雄譚だった。「英雄の最期にふさわしい状況下で最近戦死した人物」の称賛記事はどうか。それででっちあげたのが「オーグルヴィ同志」だ。

オーグルヴィ同志は6歳でスパイ団に入り、11歳で叔父を思考警察に売り、19歳で新種の手投げ弾を考えだした。これは、敵軍の捕虜31人を「処分」するときに使われた。23歳になり、ヘリコプターに乗って重要公文書を運ぶ途中、敵機に追いかけられる。同志は公文書を抱え、眼下の海へ飛び降りた。浮きあがることがないよう、体に重しを括りつけて……。同志は架空でも、「数行の活字と数枚の偽造写真」で「実在することになる」のだ。

ただ私が思うに、この改竄には限界がある。記事を書き換えても、すでに発行された新聞紙面は変えられない。デジタル化以前の時代なら、なおさらだろう。さらに人はいったん知ってしまった記憶を掻き消すことができないではないか。心に消しゴムはないのだ。

このツッコミを切り抜ける仕掛けとして、著者が作品にもち込んだのが「二重思考」である。作中ではビッグ・ブラザーの政敵エマニュエル・ゴールドスタインの著作に、その定義がある。それは「ふたつの相矛盾する信念を心に同時に抱き、その両方を受け入れる能力」だ。オセアニアでは「党」の知識人たちが「自分の記憶をどちらの方向に改変しなければならないかを知っている」という。こうして「事実」は都合よく塗りかえられていく。

思考のありようひとつで過去は思い直せるということか。それによって、過去そのものも変わってしまうのか。では、思考のありようはどのように変えられていくのか。『一九八四年』には、聞いてみたいことが山ほどある。次回もまた、この本の読みどころを。
☆引用部にあるルビは原則、省きました。
*本書『一九八四年』については、当欄2022年1月21日付「宗匠のかくも過激な歌自伝」でも言及しています。
(執筆撮影・尾関章)
=2022年6月24日公開、同月29日最終更新、通算632回
■引用はことわりがない限り、冒頭に掲げた書物からのものです。
■本文の時制や人物の年齢、肩書などは公開時点のものとします。
■公開後の更新は最小限にとどめます。

4 Replies to “オーウェル、嘘は真実となる”

  1. 尾関さん、

    「1984」と関係があるのか、ないのか。ジョージ・オーウェルが描いたディテイルよりも、現在の技術的なことに思いが行きます。AI が進化して、AI が何をしているのかを説明できる人がいなくなりつつあるなかで、AI に対する私たちのスタンスが大きく変わりつつあるように思えるのです。

    どのようなアルゴリズムによってその結果に至ったのかを説明できるようにすれば AI のパフォーマンスが落ちるから、AI のパフォーマンスを上げるために AI のブラックボックス化が許容される。データサイエンティストも AI のアルゴリズムを作成するエンジニアも、データから直接導き出される結果について、何の説明もできない。ブラックボックスの内部で何が起こっているのかを理解してもいない。

    結果に影響を与える variable にどんなものがあるのかさえもわからない技術者たちによって導き出された結果が社会を変えてゆく現実を前にして、私たちは理解したり考えたりすることを止め、「AI が言っていることだから」といって躊躇いを棄て、何でも受け入れてしまうようになる。

    多様性だとかフェアネスとかはパフォーマンスを下げる要素として切り捨てられ、イエスかノーかといった答えだけが欲しいデシジョン・メーカーのために、AI の出した結果は極限まで単純化される。もう今までの監査や検査、規制などはまったく通用しない。

    解釈可能な AI とか説明可能な AI といった技術の側からのまやかしと、「AI が出した答えだから」と言って AI の答えを歪曲して伝える人間の側からのまやかしとで、信頼性のないことがあたかも信頼性のあるものとして伝えられる。

    カネを儲けたいという欲求や、勝負に勝ちたいという欲求、長く生きたいという欲求が、AI によって見事に打ち砕かれてゆくのを見ていると、なんともいえない気分になってきます。

    全体主義の権力者たちも例外ではなく、AI に裏切られる。必ず裏切られる日がくる。権力者たちまでもを監視してしまう IoT とか Blockchain といった技術が、すべて権力者たちのためにあるとは限らないように思えます。

    「技術者の手のなか」にない技術が「権力者の手のなか」に収まるわけもなく、これからの社会は「1984」の想像をはるかに超え、もう誰にも制御できないものになってゆくのではないか。そうなったときに、自分の言うことを聞く AI を持つ者が現れて、すべてをコントロールしてゆくのだろうけれど、そういう状態はまだ当分来そうにありません。

    「将棋 AI」から素直に良いものを習得し混戦を抜け出して勝ってしまう藤井聡太のような人が経済の分野にも表れて、「経済予測 AI」から素直に良いものを習得し経済政策を決めてゆけば、経済はよくなっていくかもしれない。「農業 AI」に「栽培から収穫まで」や「放牧から搾乳まで」の多くのプロセスを任せれば、今より少ない人数で収益性のいい農業になるかもしれない。そういうことのひとつひとつはディストピアとは無縁のようです。

    権力者は 皆 狡猾だから、AI をはじめとするすべての技術を自分のものにしようとするかもしれません。でも、どんなにがんばっても、権力者には今の技術の本質をつかむことはできない。だから、もし AI を自分のものにできる新しいタイプの権力者が現れるとしたら、その人はきっと誰の前にも姿を現さず、うしろのほうで静かにほくそ笑んでいるような気がします。そんなAI を手中に収めた独裁者は恐ろしい。私たちの敵となるか、無害の存在でいてくれるか。でも間違いないのは、独裁者は、私たちの味方に見えたとしても、絶対に私たちの味方ではないということですね。

  2. 38さん
    《でも、どんなにがんばっても、権力者には今の技術の本質をつかむことはできない》
    《もし AI を自分のものにできる新しいタイプの権力者が現れるとしたら、その人はきっと誰の前にも姿を現さず、うしろのほうで静かにほくそ笑んでいるような気がします》
    「ビッグ・ブラザー」の実在性すら不確かなありようは、ある意味でAI時代の権力者像を先取りしているのかもしれません。
    次回拙稿では「オセアニア」の支配層がどういう人々によって構成されていたかについても触れる予定ですが、それもAI社会と重なって見えてきました。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です