根性論で守れないロボット三原則

etc

　プログラムでパズルを解こうと思ったら、多くの人は自分がどのようにパズルを解いているかを分析してプログラムに起こすことだろう。プログラマはまず、そのパズルを自分の手で解いてみる。プログラマが解き方を考えつかないパズルはプログラムにも解かせられない。だって解かせ方がわからないのだもの。

　対戦ゲームのAIを作るなら、まずは自分でそのゲームでの強い戦い方を身につけなきゃならない。戦略シミュレーションしかり、対戦格闘ゲームしかり、麻雀しかり。*1

　この極めて素朴な世界はもはや崩れ去っていて、コンピュータ将棋のソフトとして一躍有名になったボナンザは、将棋の指せない保木邦仁氏によって作られた。*2強い戦い方を機械自身が学習するというアプローチだ。

　もちろん、ボナンザのような機械学習はある種のブラックボックスを育てるようなものだから、考え方を制御することは難しい。プログラマが直接にそのアルゴリズムを組み立てているわけではなく、パラメータを調整しながらコンピュータの学習を見守ることになるんだ。さながら植物や動物を育てるようなもので、環境を整え餌を与えて成長の過程を観測するような、そんな感じ。

　現在ではハードウェアの進歩もあって、かなり大規模なニューラルネットワーク（人間の脳みそを模した人工知能）の実験とかされている。人間の脳みそのニューロンの数は1000億とも言われるけども、近い規模でのシミュレーションとか行われているらしい。

　いまではスパコンを使ってやっとという規模ではあるけど、それがさらに大量に安価に作れるようになったら、AI牧場とでも言うべき、AI達を育てる牧場が作られることだろう。環境を変えAIの学習過程を検査して、良いものを選別する、そんな世界。

検問を張るなら橋

　話は変わって、重大事件が発生した時に検問を張るとすれば、通常は橋や峠と言った交通の要所に張る。そこを通らないと出られないよっていうポイントがあるわけだ。

　プログラムも網羅的に何かを行いたければフローチャート的な要所に張る。処理が集まる場所に網を張って漏れなくデータの整合性をチェックしたりするわけ。これが分散していると厄介で、XSS（クロスサイトスクリプティング）やバッファオーバーランのようなセキュリティの脆弱性が後を絶たないのも、分散しているが故だ。

　たとえば、あなたはきちんと家計簿をつけることができるかい？という話題。なぁに、財布や銀行口座でのお金の出入り全てを書きとめるだけのことだよ。これを簡単だと言う人はヒューマンエラーを分かっちゃいない。

　こうした事項を横断的関心事といって、アスペクト指向はこうした事例をどのように一網打尽にするかに取り組んでいるわけ。

根性論じゃヒューマンエラーは防げない

　さて、家計簿に戻って、ヒューマンエラーに理解がない人は「きちんとやればできるよ」などと言う。きちんとってどうやったら出来るの？もしあなたに10人の部下がいて、彼ら全員にきっちりとお金の出入りを報告させるにはどうするだろう？恐怖政治で厳しい罰を課したとしても、ミスの発生がなくなるわけじゃないよね。

　簡単な方法論としては、お金の出入り全てが記録される決済方法を使うこと。たとえばEdyのような電子決済でもいいし、クレジットにするでもいい。人間の根性に頼る方法ではどうやってもミスが出るものをきれいさっぱりなくすことができる。*3ヒューマンエラー対策ってのは、端的にはそう言うことだ。

人の脳みそを模したなら

　さて、ここで人工知能の話に戻って、巨大なブラックボックスである脳みそのシュミレーションが出す答えにどうやって網を張ればよいだろう？

　脳みそからの出力結果は神経を通じて体を動かす。僕らは考えながら箸でエビフライをつまむわけじゃない。ペンキ塗りたての札があっても誤って触ったりしてしまうもんだ。例えそれが機械の脳みそだったとしても、「ワタシハ、イマ、えびふらいヲ、ハシデ、ツマモウト、シテイル」とか考えながらつまむわけじゃないし、「ペンキ塗りたてには触るな」とプログラムして行動を禁止させるわけにもいかない。

　そんなAIにロボット三原則ってどうやったら守らせられると思う？人間の脳みそを模しているのだから、人間が法を犯して殺人をなすように、ロボットも法を犯して人間に危害を加えるかもしれない。

　アスペクト指向的に、ロボットが人間に危害を加えるという横断的関心事に、禁則事項をウィービング（weaving : 縫い付けるの意。アスペクトを適用させること） なんてできやしない。となれば、産業上は危なっかしくてアンドロイドなんて製品として出せやしない。前世紀の末に緑髪のアンドロイド*4に恋をした青年の夢を砕くようで申し訳ないけども。

発想のネタ

とかその辺。ハードウェアの進歩は凄まじい。機械学習のような、以前はスパコン使って研究でやられてたようなことが個人のパソコンで出来てしまう時代なのだから。こうしたネタが沢山持ち上がってきているのもそういう流れがあってのことなのかな。

*1:もっともコンピュータ特権としてプレーヤーが扱った場合とは性能を変えるなどのインチキによって強さを調整することもよく行われている。例えば古典的な麻雀アルゴリズムとしては、コンピュータ側の手配をあらかじめアガリ形にしておき、タイミングを見計らってツモおよびロンをするというシンプルな方法論だったりする。

*2:Bonanza - Wikipedia

*3:もちろん、現実にはどうしても現金での決済が必要と言うこともあるわけだけども。

*4:型番はHMX-12