夢ナビ夢ナビは、さまざまな言葉をデータベースから検索・閲覧し、将来の進路を決める“きっかけ”を提供します。

講義No.09632

AIの失敗を予防せよ! ~緩やかな開発ルールを整備する~

AIがミスをおかす!

 ロボットとAI(人工知能)は急速に社会のあらゆるところに普及するでしょう。インターネットや自動運転の車などにもAIが不可欠です。しかしAIには欠点も指摘されています。1つは不透明性です。2016年にアルファ碁というAIの囲碁プログラムが人間のトップ棋士を破りました。5回戦のうち4回勝ったことで勝利と判断されましたが、残りの1回は、ミスをおかして負けました。開発者でさえ、どうしてAIがそんなミスをしたのか認識できませんでした。AIはデータを自律的に学習して複雑なため、どうしてミスをおかしたのかがわからないのです。例えばこのようなミスが高い安全性の必要な医療分野などで生じても、原因がわからなければ責任の所在が確定できないだけではなく、改善も難しくなり、問題です。

AIには常識が通じない?

 AIには制御不可能性という欠点も見つかっています。AIが入った人型のロボットに、自分の右の手で左の耳をつかむように命令するとします。人間なら顔の前に右腕を横切らせて左耳をつかみます。ところがロボットは右手で自分の頭を突き抜いて耳をつかもうとしてしまうという例え話があります。距離の最短を優先するからです。常識が備わった人間であれば教えられなくても自然に行える動作であっても、AIでは「そんなことをするはずがない」という常識外の行動をとる可能性があるのです。

AI開発の緩やかなルール作り

 AIの社会的影響について、2016年から総務省の有識者会議で検討され、AIの開発や利活用のルール作りが進められています。リスクばかりをとらえて法律で厳しく制限し過ぎてしまうと技術開発が阻害されるため、望ましい開発のあり方を企業と共に考え、緩やかなルールを共有しようとしています。今後も、情報学、情報法学、倫理哲学などさまざまな角度から、AIといかに共生するかを議論することが必要でしょう。

アイコン

講義を視聴する(1分)

アイコン

講義を視聴する(1分 その2)

アイコン

講義を視聴する(1分 その3)

アイコン

講義を視聴する(30分)

この学問が向いているかも 情報法学、法律学、情報学

中央大学
国際情報学部 国際情報学科 教授
平野 晋 先生

先生の著書
メッセージ

 中央大学の国際情報学部は、「iTL」と呼ばれています。情報の仕組みである「IT」(Information Technology)と、法律(Law)の頭文字をとった「L」の2つが、学部の学びの大きな柱となっています。文系学部のため、情報は基礎的な知識を中心に学び、法律は憲法・民法・刑法の基礎を学んだ上で、情報法や個人情報保護法といった情報関連の法律も一緒に学びます。スマホやSNS、AI(人工知能)などに興味があるなら、ぜひこの学部で学んでください。社会が要求する情報問題の解決能力が養えます。

先生の学問へのきっかけ

 もともとはインターネットのための法律である「サイバー法」を研究していました。経済産業省の有識者会議「ロボット政策研究会」に参加したことから、今後のロボットの急速な普及を予感します。その後、総務省の「AIネットワーク社会推進会議」や、内閣府の「人間中心のAI社会原則検討会議」に加わったことで、AIの開発や利活用の国際ルール作りにも興味を持ち、AIと共生する議論を進めています。また、パリに本部を置くOECD(経済協力開発機構)に去年設置された「AI専門家会合」にも日本の共同代表として参加しています。

先輩たちはどんな仕事に携わっているの?

裁判官/コンサルティング会社/メーカー

大学アイコン
平野 晋 先生がいらっしゃる
中央大学に関心を持ったら

 中央大学は、1885年の創立から「實地應用ノ素ヲ養フ」という建学の精神のもと、実社会が求める人材を育成する実学に取り組んできました。社会の課題に応える人材育成をめざし、豊かな教養、異文化を理解する力など、幅広い人間力の形成をめざす教育とともに最先端の学問を追究しています。熱意あふれる教員たちから生きた知識を吸収し、キャンパス内で多様な学生たちが切磋琢磨しあい、留学制度などを活用して社会を知る。中央大学は、社会に通用する実学を修得できる大学です。

TOPへもどる