アクセスカウンター
   2018.03.04.
 ＡＩが悪用される近未来：一党支配の中国は！
   
.
AI開発競争には有利な中国！
.
独裁国家でビジネスリーダーは例がない！
.
.
　中国は過去２５年間、玩具からタイヤまであらゆる物を安く製造し、それを海外に輸出することで経済発展を遂げてきた。これから真の富裕国となるためには、低コスト製造業の担い手から脱却し、同国自身が経済的イノベーターとなる必要がある。
.
　５カ年計画と国民の監視を得意とする抑圧的な国家が、そのような飛躍を成し遂げられるのか。成功の見込みは一見低そうに思われる。経済の歴史を見ると独裁国家が革新的なビジネスリーダーになった例はほとんどない。
.
.
　独裁者や犯罪者、テロリストが人工知能（AI）を利用して選挙を操作したり、ドローン（小型無人機）によるテロ攻撃を行ったりしたら？──２０人を超える世界の専門家が、ＡＩ技術の悪用に警鐘を鳴らす報告書を発表した。
.
　発表された報告書「ＡＩの悪用：予測、防止、リスク軽減」で、英国ケンブリッジ大学の「存在リスク研究センター（CSER）」や米国の「電子フロンティア財団（EFF）」、「新米国安全保障センター（CNAS）」、ＡＩ研究非営利団体「オープンAIenAI）」などの専門家らは、作業を自動化するプログラム「bot（ボット）」を利用したニュース取材・収集への介入や、ソーシャルメディア（SNS）への侵入、急成長するサイバー犯罪などを挙げ、向こう１０年間に起こり得るシナリオに関する分析結果を１００ページに及ぶ報告書にまとめている。
.
　「存在リスク研究センター（CSER）」のエグゼクティブ・ディレクター、ショーン・オヘイガティ氏はＡＦＰに対し「サイバーセキュリティ、物理的安全、政治的安全保障のすべてにまたがる形で、ＡＩは新たな脅威を及ぼすか、あるいは今ある脅威の性質に変化をもたらすだろう」と述べた。
.
　報告書によるとまず、マルウエア（悪意のあるソフトウエア）が仕込まれたメールを送信し、個人情報を不正に取得する詐欺の手口である「フィッシング」の脅威が増すことが考えられる。例えば、現在の技術では特定の個人を標的とする「スピアフィッシング」には手間がかかるが、「ＡＩを使えばプロセスの多くを自動化し、大規模なスピアフィッシングが可能になるだろう」とオヘイガティ氏は言う。
.
　政治に関わる部分では、自国民をスパイするために張り巡らされた監視ネットワークから集めた大量のデータを、独裁的な指導者や無節操な政治家らが最新技術を使ってふるいにかけることがすでに可能な状態だ。「独裁者は政権転覆を計画している者たちをいっそう敏速に把握し、居場所を特定し、彼らが行動を起こす前に投獄することが可能になるだろう」と報告書は述べている。
.
　また、安価でありながら真実味のあるフェイク（偽）動画を使った特定の対象へのプロパガンダは、「これまでに想像できなかった規模で」世論を操作する強力なツールとなりつつあるという。
.
　ドローン（無人機）やロボットが普及しつつあることも迫りくる新たな危険だ。自動運転車を衝突させたり、ミサイルを運搬したり、重要インフラを脅して身代金を得ようとしたりと、本来の目的とは異なった使い方をされることもあり得る。
.
　「個人的に特に懸念しているのは、犯罪者や国家組織の両方によって自律移動できるドローンがテロに使われたり、サイバー攻撃が自動化されたりする可能性だ」と話すのは、英オックスフォード大学人類未来研究所の研究員で報告書の著者の1人、マイルス・ブランデージ氏だ。
.
　報告書では実際に起こり得る出来事として、爆弾を仕掛けられたオフィス用掃除ロボットが他の同型のロボットにまぎれ、ドイツ財務省に侵入するシナリオが詳述されている。
.
　侵入したロボットは通常通り掃除をしたり、ごみ箱を片付けたりするが、隠された顔認識ソフトが標的の財務相を特定すると接近していく。このＳＦ的なシナリオでは最後、仕掛けられた爆発装置は近接で爆破され、同相を殺害、周辺にいた職員を負傷させて終わる。
.
「これから５年、１０年の未来がどうなる可能性があるかをこの報告書は想像している」「われわれはAIの悪用による危険性を日々はらんでいる世界に住んでおり、この問題に対する責任を負う必要がある」とオヘイガティ氏は言う。
.
　報告書の著者らは政策立案者や企業に対し、ハッキングされないロボット運用ソフトウエアの作成や、安全保障の観点から一部の研究に制限を課すこと、またAI開発を管理する法と規制の拡大の検討などを求めている。
.
.
　さらに懸念されている分野の一つが自律型兵器の使用が拡大されることだ。
.
　昨年、米電気自動車（EV）大手テスラおよび宇宙開発企業スペースXのイーロン・マスク最高経営責任者（CEO）や、英国の著名な宇宙物理学者スティーブン・ホーキング博士を含むロボット産業とＡＩ業界の１００人を超える実業家や専門家らは、自律型殺人ロボット開発の禁止を訴える書簡を国連（UN）に提出した。
.
　デジタル時代の兵器が、テロリストによって民間人に対して使われる可能性を指摘。米グーグル傘下の英ＡＩ企業ディープマインドのムスタファ・スレイマン共同創業者も署名した共同声明で「自律型殺傷兵器は、機関銃と原子爆弾の発明に次ぐ、武力衝突における第３の革命となり得る脅威だ」と警告し、「行動を起こすために多くの時間は残されていない。一度、パンドラの箱が開いてしまってからでは、それを閉じることは困難だろう」と述べている。
.