■はじめに
今回，記念すべき800号のメルマガにコラムを書かせていただくことになりました，上原です．はじめにお断りしておきますが，今回のお話は全くまとまらないと思います（笑）
昨今のAIの進化やシンギュラリティについて，知能と知性，自我の側面から考えていることをまとめようと思ったのですが，哲学的になりすぎてまとまりませんでした．理論も少し調べてみましたが…まぁ，風呂敷を広げ過ぎてまとまらないのはいつものことですのでご容赦下さい．
■ブレードランナー
映画の「ブレードランナー」は1982年の公開で，主演はハリソン・フォード，監督はリドリー・スコットです．最初の「スター・ウォーズ」が1977年なので，その少し後に撮影されたことになります．本稿が配信される頃には続編（?）の「ブレードランナー 2049」が公開されていると思います．
原作はフィリップ・K・ディックの「アンドロイドは電気羊の夢を見るか ?」ですが，原作とは全く違います．人間と人工知能の違いというテーマ，地球に侵入したレプリカント（原作では「アンドロイド」）を処理する賞金稼ぎ（映画では「ブレードランナー」）というプロットや，生物が死滅し本物とそっくりの機械仕掛けの生物が作られているといったデテイルが利用されています．ディックという作家は，アイデアはすごく面白いのですがストーリーになると自滅する感じがあります．いくつか映画化もされていますが，みんな原作とはストーリーが違うように思います．途中で息切れする私の文章と同じですね．
2019年のロサンゼルスで物語は始まります．
リトルトーキョーでしょうか，日本風の広告（なぜか「強力わかもと」）や屋台が出てきます．日本と中国の区別がついていないのは，まぁご愛敬でしょう．
■レプリカント
レプリカントは数年たつと感情が芽生え不安定になります．そのため，安全装置として寿命が4年と設定されています．
最新型のレプリカントに感情が芽生え，シャトルを奪い地球に侵入します．元ブレードランナーのデッカードが呼び戻され，レプリカントを追跡することになります．レプリカントは，自らの寿命を延ばす方法を探して製造元のタイレル社に侵入します．
「死ぬのは怖いだろう ?」とレプリカントがデッカードに言うシーンがあります．感情の基本には自己保存本能があるのかなと思います．
■ニューラルネットワーク
直訳すれば神経回路網ですが，AIのディープラーニングではコンピューター上で仮想化されたニューラルネットワークを多層化した構造が利用されています．
AIが賢くなるには，大量のデータを学習する必要があります．
このニューラルネットワークの元になった考えは，IT技術者でも数理学者でもなく心理学者が考え出したというところが興味深いです．
■シンギュラリティ
技術的特異点（Technological Singularity）は言葉が独り歩きして，混乱しているように思います．一般には，AIが人間の能力を超える時点と考えられていますが，すでに，チェス，囲碁，将棋，画像認識等いくつかの分野ではAIは人間の能力を超えています．
当初の定義は「人類が生物学的進化のスピードの限界を，テクノロジーの進化で超える」時のように使われていました．この時の主役は「人類」でした．
汎用人工知能（強い人工知能）を考えていくと「汎用人工脳が再帰的により優れた人工知能を作り出す」状況が考えられます．そうすると人類が想像できない超越的な知能が生まれる可能性があります．今ではこちらの方が「シンギュラリティ」としてメジャーな使われ方をしているように思います．
■チューリングテスト
前回のコラムに少し書きましたが，マシンに「知性」が存在すると言えるかと判断するテストです．AIとチャットで会話して，相手が人間と区別できなければ「知性」があると判断します．映画の中ではフォークト＝カンプフ検査という一種の嘘発見器で相手が人間かレプリカントかを判断しています．
チューリングテストで興味深いのは，相手に知性があるかどうかを判断するのは「受け手」であることです．2014年に「13歳の少年」が合格したそうです．
■知能，知性，自我
「知能」「知性」は共に英語では「intelligence」ですが，日本語だと語感が違います．「知能」は純粋に知的能力（ability）です．与えられた input に対して，状況を判断してどれだけ最適な output を返せるかが問われます．適切な状況判断のためには，多くの input と，それによって学習したニューラルネットワークが必要です．どれだけ最適に近い output を出しているかは，外部からの観察によって判断できます．
「知性」は恐らく「知能」＋「理性」なのではと思います．そうすると，「知性」には価値判断が入入ってきます．価値判断には「善悪」や「美醜」の価値基準に対する感受性（sensibility）が必要です．
「理性」の対語は「本能」です．動物行動学によると，本能には特定の刺激に対して遺伝的に組み込まれた特定の行動がリリースされます．蝶が花に向かって飛ぶのは，花が視覚に入ると本能にビルトインされた仕組みがリリースされて近づいていくからです．それが「花と遊ぶ」「花に引かれて飛ぶ」ように見えるのは，受け手の感受性の問題です．
名画や花を美しいと思うか，文学作品で感動するかは，知性の役割で，感受性には「他者」の存在への思いやりが欠かせないと思います．
知能が高くても「善悪」の判断ができないサイコパスという存在があります．サイコパスの特徴に「良心の欠如」「罪悪感の欠如」があります．その結果他者への思いやりに欠け，平気で嘘をつきます．「知性」の基礎は「良心」にあるように思います．
「知性」が善悪の判断を含むとすると「自我（identity）」は「好悪」の感情を含みます．「自我（identity）」と「自己（personality）」も違うように思いますが…
恐らく本能的な「好悪」は，進化の過程で獲得された自己保存に役立つ情報の集積ではないかと思います．ただし「自我」としての好悪は生得的なものと，成長過程で獲得した，ニューラルネットワークの発達と蓄積された情報に基づいて構成されるように思います．
赤ちゃんは，自分と母親を同一視しているらしいです．
自分が自分であるという「自我」は1歳半位に確立されるそうです．「○○したい」という目的があり，その目的を達成しようとしている「自分」がわかる状態らしいです．「○○したい」という一番の目的は「生存」「自己保存」のように思います．前述したように，映画では自我に目覚めたレプリカントが「死ぬのは怖いだろう ?」と自分を「処理」しにきたブレードランナーに言います．
レプリカントに感情が芽生えると不安定になるという設定は「自我が目覚めると不安定になる」ということだと思います．その不安定さを安定させるには「記憶」が必要とされています．レプリカントに自我が芽生えるのに4年かかるということは，データを学習したニューラルネットワークが充分複雑になり，情報が蓄積されるのに4年かかるということで説得力があります．
「知能：能力，知性：感受性があるかないかは，チューリングテストのように外部から定義される．自我：自己保存の欲求があるかないかは，内部から定義される．」と言えるかも知れません．飼っている猫を見ていると，知能はありますが知性はあまりなさそうです．でも自我はあります（笑）知能が基礎にあって，その上に知性と自我が並列して乗っているような構造だろうと思います．
人工知能の開発の現場に近いところに居るわけではありませんので，確定的なことは言えませんが，現在の人工知能は，チューリングテストに合格した「13歳の少年」も含めて「知能」の段階ではないかと思います．
「他者からの質問（input）に対して，外部から見て「13歳の少年」が答えそうな適切な回答（outpit）を返す」のが要件ですから，大量のデータによるディープラーニングで，そのような形にニューラルネットワークが構築されるようにプログラミングされているのだと思います．
「自我」が芽生える条件は良く分かっていないようです．
充分複雑なニューラルネットワークが構築できれば，自然発生的に生まれるものなのか，他に条件が必要なのか…個人的には，自己と他者の区別がつかないといけないように思います．そのためには自己と他者の「境界」を認識する必要があります．ニューラルネットワークの考えが心理学者から出てきたように，ここら辺は，心理学や医学，脳科学等の別の分野からの研究が必要なようにも思います．
■終わりに
字数が大幅に超過していますが…
シンギュラリティが起きて「汎用人工脳が再帰的により優れた人工知能を作り出す」状況になると何が起こるか，率直に言って私の能力では分かりません．もしその人工知能が自我を持ってしまうと「再帰的により優れた人工知能を作り出す」ことは，自らの生存を脅かすと判断するかも知れません．本稿のアイデアを考えたときには「2001年宇宙の旅」のHAL9000をモデルに考えようかと思いましたが，余計収拾が付かなくなりました．
「誰もいない森で木が倒れたときに音はしたのか」という哲学的な命題があります．認識する存在がいなければ音はしないというのが回答です．AIの知能や知性も，チューリングテストのように，それを判断する存在がいなければ存在しないと考えらえます．
また禅問答で「狗子仏性」というのがあります．犬にも仏性があるのかという問いです．これを聞かれた禅僧は「無」と答えました．しかし「一切衆生悉有仏性」ということで，犬にも仏性はあるというのが前提です．この「無」は，二元論の有無の「無」ではないというのが，解釈らしいです．
AIが自我を持った時に，その中に「仏性」が宿ることはあるのでしょうか ?
時間かかりました…次回からはもっと軽いお題にしようと思います（笑）
参考資料
1) 「ブレードランナー クロニクル」 DVD
2) 「チョウはなぜ飛ぶか」日高 敏隆
3) 「ソロモンの指環」「攻撃」コンラート・ローレンツ
4) Wikipediaの各記事
5) 「シンギュラリティで人類はどうなるのか」
http://www.nikkeibp.co.jp/atcl/column/16/ai/080300003/?P=1
------------------------------------------------------------------------
■執筆者プロフィール
上原 守
ITC，CISA，CISM，ISMS審査員補
IPA プロジェクトマネージャ，システム監査技術者 他
エンドユーザ，ユーザのシステム部門，ソフトハウスでの経験を活かして，上流から下流まで，幅広いソリューションが提供できることを目指しています．
コメントをお書きください