ホーム OB会 行 事 OB便り 現役便り リンク
[OB便] 2017.11.02 第35回雁鳴きフォーラム(10月15日)レジュメ 11期北岡満
       人工知能と裁判
 <第35回雁鳴きフォーラム(10月15日)で講演した11期北岡さんよりレジュメが届きました。これに基づいて作成しました。(HP管理 9期近藤)>

<画像1> <画像2>
<画像2>自己紹介
1.小学校の頃から両親に連れられて、近郊の山々(北摂・生駒連山)にて親しんでいたことで自然の中で生活することで憧れ,入学と同時にワンダーフォーゲル部に入部した。
2.ワンダーフォーゲル部10周年のヨーロッパ遠征の隊員募集があることを知り、応募。2年生の時、遠征隊員として北欧の山々を約3か月巡りました。
3.3年生の9月から関西学生ワンダーフォーゲル連盟の委員長となり、関西の30余校の大学及び、東京・名古屋など全国の大学のワンダーフォーゲル部の仲間が出来ました。
4.連盟委員長を4年生の秋に終え、司法試験の勉強を始め、1972年司法試験に合格。その後は、弁護士登録の上、法律事務所を開設し、今に至ります。
5.大阪大学のワンダーフォーゲル部には、OB会の副理事長として、40年近く、現役を見守ってきました。その間、周年行事に立ち会うとともに、事故など痛ましい思いにも遭遇することもありました。
 しかし、ワンダーフォーゲル部に入部し、今日までOB会に在籍できたことにより、若い現役の世代の方々とも交流が出来,OBの先輩,後輩の方々ともたくさんの楽しい思い出を作り,多くの友人を得られたことに心から感謝の念でいっぱいです。

<画像3> <画像4>
<画像3>今回のフォーラムの議題としてなぜ人工知能と法律をテーマにしたか
1.人工知能という言葉には私はSF映画やアニメの自立型ロボットを想像してきました。
2.そして今日チェス,将棋,囲碁などゲームの世界で鉄腕アトムなど人工知能がめざましい発展を遂げていることを目の当たりにし,あらゆる業種で人工知能を意識するようになりました。そして,我々の業界の司法の分野でもアメリカやEUなどでは現に使われており,侮れない状況になっています。
3.そこで,人工知能と裁判をテーマに取り上げ,人工知能を裁判に利用する制度としての問題と,裁判をする能力の両面から検討してみたいと思いました。人工知能は将来,どこまで我々人間社会の中に入ってくるのか,どのようなことが想定しうるのか,検証してみたいと思っています。
<画像4>人工知能とは
 人工知能が驚異的に知能を高めるようになったひとつのツールがディープラーニングというソフトが開発されたことにあります。
 将棋ソフトのポナンザや囲碁のアルファ碁なども,コンピューター同士で数百万回から数千万回対局することで人間の頭脳に及ばない,知識と技術を習得しました。それは人間にはもはや到達できないブラックボックスの部分があり,窮極的に人工知能があらゆる場面で人間の知能を凌駕し,人工知能が自立することを予想されるものでした。

<画像5> <画像6>
<画像5>今回のフォーラムの議題としてなぜ人工知能と法律をテーマにしたか
 私の母校の、大阪府立北野高校の先輩に手塚治虫氏がいます。彼は第二次大戦中に旧北野中学校に在籍し、漫画を描いて軍事訓練の教官ににらまれたと言われています。
 それに対して、その時の美術担任の岡島教諭が手塚氏をかばい続けたというエピソードを聞き及んでいました。そして戦後、彼は大阪大学医学部に入学、漫画を描きながら医師の国家資格も取っておられます。
 私は人工知能が人間の能力を凌駕することは話題になるに及び、その手塚氏が描いたロボット、 「鉄腕アトム」が人間との関係に悩み続けたセリフを思い出すのです。
 手塚氏は,漫画の中でアトムにこう言わせています。
「ぼくは奴隷ではありません」
「ロボットは人間の友達だけど奴隷ではありません」
「ものですって?ぼくたちロボットはものじゃないですよ。ぼくたち生きてるんですよ」
「なぜこんなロボットをつくったんだ。人間はなぜ、なぜ」
「私達はデク人形じゃありません」
「私達にはちゃんと人間と同じ資格があります」
「おまえたちはバカだ、大バカだ。ロボットが何のために生まれてきたのかもしらんでそれを軽蔑し排斥し、 わけもわからずぶっ壊す。おまえたちの友達をだぞ」
「いまにみとれ。わしは何年か後、ロボットたちに人間としての権利を認めさせてみせるぞ。 この哀れなロボットのために」
「私をロボットと呼ぶなら呼んでもいいよ。だが私はロボットになれたことを誇りに思うくらいだ」
<画像6>人工知能(AI)は現在どこまでしんかしているか?
1.(ゲーム)チェスソフト,将棋ポナンサ,囲碁アルファ碁など。
2.(自動運転システム)トヨタ,日産,ホンダなど国産メーカーも少しずつ展開、販売しており、メルセデスベンツやアウディなど外国車は自動運転技術で、し烈な競争をしています。
3.(株のトレード)アメリカ・セレベラム社は人工知能が運用する米国株式ファンドを日本で販売しています。株価などデータ分析から投資する銘柄の決定、見直しなどすべてAIが自動で行い、人間が気付かない市場の特徴を見抜く力を生かしています。
4.(医療分野)質問に答えるだけでなくAIが質問を考え、瞬時に多用な言葉のやり取りを持たせます。そして、介護の分野で貢献し、要介護の高齢者の話し相手がつとまるレベルまでもっていきます。また、レントゲンなどの多量の資料の中から病変を見つける能力もすでにプロの人間の能力を凌駕するようになっています。
10.(契約書・文書作成)AIにより、契約書を分析し、レビューを効率化させていきます。見逃しがちな条件も見つけ出し、契約書の進抄管理まで行う機能も付属しています。
 イスラエルではLawGeekという契約書自動作成機を所持。2017年3月にはリクルートがそれに対して出資をし、さらなる開発を志しています。

<画像7> <画像8>
<画像7>手塚治虫のロボット法・ロボット三原則
 手塚治虫は,ロボットと人間の関係を作品の中で、上記のようにロボット法(10項)を定め、ロボットは人間に従属させるものとして規律させています。しかしそこで描かれる人工知能や、ロボットはそのロボット法に従わず,そこから反発し、自立していきます。
 もう一人のSF作家アイザック・アシモフも作品の中で上記のようなロボット三原則というものを提起していますが,これもロボットは人間に完全に服従するものとしています。
 ロボットが自立して、人間と対立することがあるなどということを全く想定していないものだと思われます。
<画像8>人工知能と裁判
 裁判は憲法上、憲法76条の制限があり,裁判は裁判所の裁判官の専権事項です。それゆえ、人工知能が独自で裁判をすることは法的にはできません。しかし,裁判に付属するアシスト業務は諸外国を含め,様々なところで実行され、利用されています。
 裁判に人工知能が適さない、あるいは必要ないなどと言うことは全く世の中の動きを見ず、浅薄な考えと思います。具体的にAIが裁判のアシストとして利用されているものとしては、①スタンフォード大の学生が開発した、Donotpay(チャットポート)②オランダ政府が作った、Rechtwijzer(離婚相談サイト)③UCL、シェフィールド大、ペンシルバニア大のよる共同開発のもの(判決の予測、79%の正答率)などがあります。人工知能侮り難い、ということです。
 これからは、いかに人工知能をアシストとして、どのように利用するか、を真剣に考えなければいけません。

<画像9> <画像10>
<画像9,10>人工知能は、どのような裁判をするのだろうか?
 人工知能に裁判をさせてみると,どのような裁判をするのでしょうか。
裁判をすることは、裁判のアシストということとは、質的に大きく飛躍があります。そもそも人間社会が人工知能が行った裁判に納得し、従うか、が最大の問題だろうと思います。
 裁判には人間社会の将来へのあり様を示す働きもあります。そこには「正義とは何か」「公平とは何か」「異端な考えをどの程度、包容するか」「他者への柔軟性」などの判断も迫られます。
一例をあげると以下のような判例で裁判官は、なにが平等か、なにを基準に判断すべきか、という決断を迫られています。
最高裁判所が戦後初めて憲法違反の判決をした事例は以下のようなものです。
(1)事実の概要
 Y(被告人)は、14歳のときに実父から破倫の行為を受け、以後10余年間、夫婦同様の生活を強いられ、5人の子までできるという悲惨な境遇にあった。本件発生の直前、たまたま正常な結婚の機会にめぐりあったが、実父はこれを嫌い、あくまでYを自己の支配下に置き醜行を継続しようとした。Yは、実父から10日余りにわたって脅迫虐待を受け、懊悩煩悶(おうのうはんもん)の極にあったところ、いわれのない暴言に触発され、忌まわしい境遇から逃れようとして実父を絞殺し、直ちに自首した。
(2)この事案に対し、廃止前の刑法200条は尊属殺人については、「死刑、無期懲役」と定めており、そのため、本件事案のように何とか執行猶予にしてあげたい事案でも、どのように減刑手続をしても、実刑を免れないとなっていたのです。
一審の判決は刑法200条を憲法14条1項の法の下の平等の原則に違反するものとして、違憲で無効として刑法199条(通常殺人の罪)を適用し、その上、心神耗弱などを理由として刑を免除したが、控訴審は刑法200条を合憲として適用して、心神耗弱と酌量減刑を認めたものの、法律の最低限で懲役3年6か月の実刑とした。Yが刑法200条を違憲として上告した。
(3)上告審の裁判官は3つの判断に割れました。
イ)15人の裁判官のうち、8名は「刑法200条の立法目的は尊属を殺害することが一般に高度の社会的道義的非難に値するとし、かかる犯罪は通常の殺人の場合より、厳重に処罰し、特に強く禁圧しようとするので、尊属に対する、尊重報恩は社会生活の基本的道義というべく、このような自然的情愛ないし、普遍的倫理の維持は刑法上の保護に値する」とし、尊属殺人自体を特に強く禁圧することは、合理的であるとしたが、その刑罰の加重の程度が極端であって立法目的の手段として、甚だしく、均衡を失し、これを正当化すべき根拠を見出しえない。その差別は著しく不合理なものとして違憲になる」として、刑法200条を違憲として無効とした。そして、本件、Yを懲役2年6月、3年の執行猶予として、Yは刑に服することはなかった。
ロ)同じ違憲の判断であるが、5名の裁判官は違憲の理由として、尊属がただ尊属なるがゆえに特別の保護を受けるべきであるとか、尊属殺人に関する特別の規定を設けることは、一種の身分制道徳の見地に立つものというべきであり、旧家族制制度的倫理観に立脚するものであって、個人の尊厳と人格価値の平等を基本的な立脚点とする民主主義の理念と牴触する。
と、している。私はこの5名の裁判官の意見に賛成である。
ハ)そして1名の裁判官は、他の裁判官とは逆に刑法200条の尊属殺人の規定を合理的根拠があるとして違憲とすることに反対している。
このように3つの意見に分かれたのです。
(4)ここで本件事案を見ると、
①尊属に対する尊重報恩というようなことを刑法で守るのか、それともそのことは刑法で格別に「保護に値する」として区別せず、通常の殺人罪で考慮すればよいとするのか。
②尊属殺人の刑を厳罰にするとしても、どの程度までなら法の下に平等に反しないのか、人それぞれが家族や社会のあり様を考え、人間自身が決める問題です。そこでは、人工知能にその判断を委ねたくないし、人工知能が決めるべき問題でもない様に思われます。

<画像11>
<画像11>人工知能が自立した時、どのような事が起こるか?
 人工知能について、「人工知能が自立することがあるのか、そのとき人間との関係はどうなるのか」ということを考えてみました。そのようなことを疑問に思う人は少ないのだろうかと思っていましたが、研究者の方々は、既にそのようなことを充分考えておられることが分かり、以下のような人工知能学会の「倫理指針」をweb上で掲載しています。
そして、私の上記の疑問に対し、いくつかの回答を示してくれています。
(人工知能学会倫理指針より)
序文
人工知能研究は、人間のような知性を持ち自律的に学習し行動する人工知能の実現を目指している。人工知能が、産業、医療、教育、文化、経済、政治、行政など幅広い領域で人間社会に深く浸透することで、人々の生活が格段に豊
高度な専門的職業に従事する者として、人工知能の研究、設計、開発、運用、教育に広く携わる人工知能研究者は、人工知能が人間社会にとって有益なものとなるようにするために最大限の努力をし、自らの良心と良識に従って倫理的に行動しなければならない。人工知能研究者は、社会の様々な声に耳を傾け、社会から謙虚に学ばなければならない。人工知能研究者は技術の進化及び社会の変化に伴い、人工知能研究者自身の倫理観を発展させ深めることについて不断の努力をおこなう。
人工知能学会は、自らの社会における責任を自覚し、社会と対話するために、人工知能学会会員の倫理的な価値判断の基礎となる倫理指針をここに定める。学会員はこれを指針として行動するよう心がける。
(1)(人類への貢献)人工知能学会会員は、人類の平和、安全、福祉、公共の利益に貢献し、基本的人権と尊厳を守り、文化の多様性を尊重する。人工知能学会会員は人工知能を設計、開発、運用する際には専門家として人類の安全への脅威を排除するように努める。
(2)(法規制の遵守)人工知能学会会員は専門家として、研究開発に関わる法規制、知的財産、他者との契約や合意を尊重しなければならない。人工知能学会会員は他者の情報や財産の侵害や損失といった危害を加えてはならず、直接的のみならず間接的にも他者に危害を加えるような意図をもって人工知能を利用しない。
(3)(他者のプライバシーの尊重)人工知能学会会員は、人工知能の利用および開発において、他者のプライバシーを尊重し、関連する法規に則って個人情報の適正な取扱いを行う義務を負う。
(4)(公正性)人工知能学会会員は、人工知能の開発と利用において常に公正さを持ち、人工知能が人間社会において不公平や格差をもたらす可能性があることを認識し、開発にあたって差別を行わないよう留意する。人工知能学会会員は人類が公平、平等に人工知能を利用できるように努める。
(5)(安全性)人工知能学会会員は専門家として、人工知能の安全性及びその制御における責任を認識し、人工知能の開発と利用において常に安全性と制御可能性、必要とされる機密性について留意し、同時に人工知能を利用する者に対し適切な情報提供と注意喚起を行うように努める。
(6)(誠実な振る舞い)人工知能学会会員は、人工知能が社会へ与える影響が大きいことを認識し、社会に対して誠実に信頼されるように振る舞う。人工知能学会会員は専門家として虚偽や不明瞭な主張を行わず、研究開発を行った人工知能の技術的限界や問題点について科学的に真摯に説明を行う。
(7)(社会に対する責任)人工知能学会会員は、研究開発を行った人工知能がもたらす結果について検証し、潜在的な危険性については社会に対して警鐘を鳴らさなければならない。人工知能学会会員は意図に反して研究開発が他者に危害を加える用途に利用される可能性があることを認識し、悪用されることを防止する措置を講じるように努める。また、同時に人工知能が悪用されることを発見した者や告発した者が不利益を被るようなことがないように努める。
(8)(社会との対話と自己研鑽)人工知能学会会員は、人工知能に関する社会的な理解が深まるよう努める。人工知能学会会員は、社会には様々な声があることを理解し、社会から真摯に学び、理解を深め、社会との不断の対話を通じて専門家として人間社会の平和と幸福に貢献することとする。人工知能学会会員は高度な専門家として絶え間ない自己研鑽に努め自己の能力の向上を行うと同時にそれを望む者を支援することとする。
(9)(人工知能への倫理遵守の要請)人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない。

以上が、人工知能学会が発表している、倫理指針です。
その中で(9)項の「人工知能への倫理遵守の要請」という項目に、私は目を見張りました。そこでは、本倫理指針に従って作られた人工物に対しても、「社会の構成員または、それに準ずるものとなるためには」本倫理指針が遵守出来なければならないとしています。指針のいう、「人工知能が社会の構成員、または、それに準じるものとなる」とは、どういうことでしょうか、「人工知能が倫理指針を遵守する」とは、どういうことでしょうか、興味深いものがあります。
人工知能学会は将来、人工知能が自立して、社会の構成員になることをすでに視野に入れているように思われます。
本当に「アトム」は生まれるのでしょうか。