「殺人ロボ」生むな 脅威の芽を摘む
AIと世界 踏み出す人々
- AIと世界
- コラム(ビジネス)
試験中=裕
「殺人ロボット」を防げるか。2017年11月、人工知能(AI)が判断して動かす兵器に関する初の国連公式専門家会議がスイスで開かれた。きっかけは起業家たちの声だった。
「野放図なAIの開発競争は1ドルで人を殺せる世界をもたらす」。インターネット無料通話サービス、スカイプ共同創業者のジャン・タリンはこう警鐘を鳴らす。
「スカイプ」創業者のジャン・タリン氏はAIの可能性とリスクを説く伝道師として世界を飛び回る=Annika Haas撮影
タリンなどが創設した非営利団体は「人による制御の担保」「AI軍拡競争の禁止」など23原則を掲げる。8月に公開した国連に殺人ロボの禁止を求める書簡では、米テスラの最高経営責任者(CEO)イーロン・マスクや米アップルの共同創業者スティーブ・ウォズニアックら100人超が賛同した。
タリンは05年にスカイプを米イーベイに売却。得た資金でスタートアップなどに投資し、研究者と意見を交わす中で敵対的なAIが生まれる危険性を強く意識するようになった。それを防ぐ活動に自らの資金と労力を投じることを決めた。
タリンの祖国エストニアはドイツやロシアなど周辺の列強の争いに翻弄されてきた。旧ソ連から独立できたのも不当な占領への対抗意識が国民に広がったため。「今こそAIの負の側面を世界で共有しなければならない」とタリンは強調する。
AIの開発は国家間競争に突入している。中国は30年までにAI関連産業の市場規模を10兆元(170兆円)に拡大する計画を発表。ロシア大統領のプーチンは「AI開発のリーダーが世界の支配者となる」と言う。
規律なきAI開発競争は世界の分断を引き起こしかねない。研究者や起業家の危機感はグローバル企業を動かし始めた。
17年12月、普段はライバルとして激しく争う30以上の企業や組織が「人とAIの共存」や「AIの安全管理」など7テーマで議論を始めた。数年内にAI開発のガイドラインを作る予定だ。
議論には米グーグルや米アクセンチュア、ソニーなどの企業以外に人権団体なども参加する。プロジェクトを主導するのが、米IBMで「AIの倫理」を研究するフランチェスカ・ロッシ。「AIの警察になるわけではない。皆がいいと思える最善の方法を示すつもりだ」と言う。
イタリアの大学でコンピューターサイエンスを教えていたロッシがIBMへ入社したのも、AIの意思決定にも透明性が必要だと考えたため。「ネットで『祖母』と画像検索すると白人ばかり出てくる。判断に多様性が欠けたAIは人間に信頼されない」と言う。
一方で現状、プロジェクトの参加企業は欧米が大半で、日本から加わるのはソニーだけ。欧米の考え方が基準になる恐れがある。「多くの業種、地域の企業が参加しなければ理想に近づけない」とロッシは呼びかける。
ロボットが生みの親である人類に反旗を翻す。SFで描かれてきたシナリオが現実に起こることを防ごうと、開発の最前線で連携の輪が広がりつつある。(敬称略)
『今日の御務めは1時間程で終了成。このような!?日も必要だと思う。ぞ)』http://mx4.nikkei.com/?4_--_86314_--_515517_--_81裕