人工知能（AI)（その9）（「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓（途中まで）、日本の社長にお手あげ 第一人者 松尾豊氏の警告、「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表 アイリス・沖山氏に聞く） [イノベーション]
人工知能（AI)については、昨年5月16日に取上げた。久しぶりの今日は、（その9）（「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓（途中まで）、日本の社長にお手あげ 第一人者 松尾豊氏の警告、「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表 アイリス・沖山氏に聞く）である。
先ずは、5月17日付け日経ビジネスオンライン「AIバブル 失敗の法則：「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓」のうち、無料部分を紹介しよう。
https://business.nikkei.com/atcl/NBD/19/special/00108/
・『法則1：万能目指して無能に（ソフトバンク） 「〇〇社、××事業にAI導入」。多くの企業が次々に発表し、連日ニュースの見出しを飾る。問題はその先。実証実験で止まったまま、ビジネス活用に至らないケースは多い。先行企業の実例から、AIの導入で陥りがちな「失敗の法則」を紹介する。 ソフトバンクが社内に千数百人いる営業員をAIで支援するシステム「ソフトバンクブレーン」を導入してから3年。AI・ロボティクス事業推進部の柴谷幸伸課長は「開発当初、AIは何でもできるという妄想に取りつかれていた」と振り返る。「経営層から現場までAIで盛り上がっていた」（柴谷氏）という熱気の中で完成したシステムは、理想とかけ離れたものだった。 「AIは万能」という勘違いはソフトバンクに限らず産業界に蔓延している。実際には音声や画像認識など限られた分野で実用に耐えるAIが視野に入ってきたという段階。有効な学習データがそろわなければ十分な性能は出ない。 IT業界からは「メガバンクが多額を投じてコールセンターに導入した対話型AIが使い物にならなかった」「医療機関が試験導入したAIが間違った治療法の提案を繰り返した」といった失敗談が聞こえてくる。 グループの投資ファンドを通じて世界中の先端企業に投資し、AI分野では優等生ともされるソフトバンクはなぜ失敗したのか』、「「AIは万能」という勘違いはソフトバンクに限らず産業界に蔓延している。実際には音声や画像認識など限られた分野で実用に耐えるAIが視野に入ってきたという段階。有効な学習データがそろわなければ十分な性能は出ない」、実用化の壁は予想以上に高そうだ。「万能目指して無能に」とは「ソフトバンク」には耳が痛いタイトルを付けられたものだ。
・『営業成績底上げを期待したが ソフトバンクが想定していたのは、エース級の営業員のように振る舞う、自然言語処理による対話型AIだ。一般の営業員が専用のアプリを搭載したスマートフォンに向かって自由に質問すれば幅広い問題について深い洞察に基づきアドバイスを返すAIを目指した。 営業員が「銀行にIT機器の導入を提案したのだけど、『予算が削られて無理』と言われた」などと語りかければ、客先の業種や予算、過去の実績などから「予算の削減に取り組む金融機関は人手不足の解消につながる提案が効果的です。人型ロボット『ペッパー』を受付に導入するよう勧めてはどうでしょう」などと臨機応変に助言する。 「ペッパーをお客様に気に入ってもらう秘訣は？」と追加で質問すると、「実際に動いているところをデモンストレーションで見せると契約につながりやすい」などと回答し、客先の担当者へのアプローチ法をより詳しく教えてくれる。営業成績の底上げに期待した。 しかし現実は違った。AIは「ペッパーの導入を提案してみましょう」など、誰でも思い付くような回答を繰り返すばかり。どうすればペッパーを効果的に売り込めるかといった、状況に応じた具体的なアドバイスまでは踏み込めなかった。柴谷氏は「回答が浅いため、ソフトバンクブレーンは社内でほとんど利用されなかった」と話す。 ソフトバンクの営業部門で扱う製品やサービスはペッパーのほかにも、法人向けスマホやクラウドなど、2500件に及ぶ。AIの開発段階ではこれらすべての商材について、どんな質問にも回答できる万能型を目指した。 AIに尋ねたいことを営業員から事前に聞き取り、エース級の営業員から集めた回答例をAIに学習させればシステムは完成すると考えていた。 柴谷氏は「学習に対する認識がかなり甘かった」と反省する。実際には天文学的な数の回答を学習させなければ、2500件に上る商材の一つひとつについて、どんな質問にでも答えられるようにはならない。エース級の営業員にそのような数の回答を用意させるのは非現実的だ。 またソフトバンクブレーンが採用したAIの技術は、自ら新しい回答を見つけ出すような水準に達していない。そのためアドバイスできる内容は限られ、誰も使わないAIが出来上がった。 開発陣は、「何でもできる」というAIに対するイメージが過大評価であることを身をもって学んだ。その反省を踏まえたうえで、新たな機能の開発に乗り出す』、「回答が浅いため、ソフトバンクブレーンは社内でほとんど利用されなかった」、「ソフトバンクブレーンが採用したAIの技術は、自ら新しい回答を見つけ出すような水準に達していない。そのためアドバイスできる内容は限られ、誰も使わないAIが出来上がった。 開発陣は、「何でもできる」というAIに対するイメージが過大評価であることを身をもって学んだ」、「その反省を踏まえたうえで、新たな機能の開発に乗り出す」、勝算はあるのだろうか。
・『機能絞り込んで再出発 「機能は大幅に絞り込むことにした」（柴谷氏）という第2弾では、扱う商材を法人向けのスマホに限った。何でも自由に質問できる形式の対話も諦めた。営業員が口頭でAIに伝えられるのは、スマホの機種、新規や継続などの契約形態、レンタルや売り切りといった提供方法などだけにした。それを基に自動で見積額をはじき出す。 金額の算出にAIは使っていない。機種や契約形態などによって金額は一意に決まるため、単純な計算式で済む。AIを使っているのは、スマホに向かって口頭や文字でやり取りするための自然言語処理の部分だけである。（無料はここまで）』、失敗も蓄積になるので、全く無駄という訳ではないだろう。「再出発」が上手くいくことを期待したい。
次に、5月25日付け日経ビジネスオンライン「AIバブル 失敗の法則：日本の社長にお手あげ 第一人者 松尾豊氏の警告」を紹介しよう。
https://business.nikkei.com/atcl/NBD/19/special/00107/
・『バブルははじける──。AI研究の第一人者、松尾豊・東京大学大学院教授はこう警鐘を鳴らす。多くの企業はマーケティングを目的に、単にITの活用をAIと言い換えているだけだと指摘する。経営者が技術を理解し、ビジネスとつなげなくてはAIでイノベーションは起こせないと説く。 日本企業の間でAI（人工知能）の理解が一向に進んでいない。中身はいわゆるIT（情報技術）化のような話が半分以上ではないか。今までもやっていたことをAIという言葉に換えて、マーケティングに利用しているだけ。意味がまったくないわけではないが、それでは世界で勝てるビジネスは生まれない。だから私は「日本でのAIの盛り上がりは中身のないバブル、いつはじけてもおかしくない」と警鐘を鳴らしている。 AIの現状を、エレベーターがもたらしたイノベーションと重ねて考えてみたい。2階に上がるために使っても意味はなく、階段で十分だ。10階や20階建ての高層ビルが建てられるようになったことこそがエレベーターの革新性だ。 今、AIで最も大きなイノベーションが起きているのが深層学習（ディープラーニング）だ。自律的に画像や映像を（人間以上に）認識できるため、新しいビジネスが生まれている。高層ビルが建ち始めているわけだ』、「今までもやっていたことをAIという言葉に換えて、マーケティングに利用しているだけ」、「私は「日本でのAIの盛り上がりは中身のないバブル、いつはじけてもおかしくない」と警鐘を鳴らしている」、本格活用には、「深層学習」にまで進む必要がありそうだ。
・『インターネット登場時と同じ ITやビッグデータは20年以上前からやっているので、新しい価値がそれほど残っていない。一方、ディープラーニングを使えばさまざまなプロセスの自動化が可能になる。 エンジンやトランジスタが発明された時も、インターネットが登場した時も同じ。その時代のテクノロジーをちゃんと身に付けて経営的な意思決定を行い、どういうビジネスが生み出せるか一生懸命に考え、やり遂げた人がビジネスで成功を勝ち取った。 新たな価値を見つけるには、当然技術（ディープラーニング）のことが分からなければならない。経営者が分かっていなければ技術の活用に踏み切れない。それにもかかわらず、残念ながら日本には技術とビジネスの両方を分かっている経営者が少ない。 3カ月や半年でもきちんと勉強すれば、ディープラーニングを経営にも活用できるようになる。だから技術を研究している我々からすると、「早く勉強してほしい」という話に尽きる。これまでこうしたことを日本企業の経営者に何年も言い続けてきたが、何も起こらない。 社長は業界やビジネスの構造が頭に入っている。それと照らし合わせることで「ここにAIを使うとこうなるのでは」というシミュレーションができるようになるはず。社長としてAIのことが腹落ちしていなくて、自分の言葉で語れないような会社は本物ではない。 もちろん手足を動かすのは現場だが、プロジェクトに関わっているうちに、社長に知識が付いてくる。嗅覚の鋭い社長は自分なりに理解して、自分の言葉でAIを語れるようになる。下に任せて「何かやれ」と言ったってできるわけがない』、「社長としてAIのことが腹落ちしていなくて、自分の言葉で語れないような会社は本物ではない」、「嗅覚の鋭い社長は自分なりに理解して、自分の言葉でAIを語れるようになる。下に任せて「何かやれ」と言ったってできるわけがない」、同感だ。
・『入り口で迷っている経営者 世界では技術とビジネスを組み合わせて伸ばしていく筋道を競って見つけようとしている。しかし日本では経営者がディープラーニングを活用するかどうかという入り口で迷っている。 大企業のなかにもセンスがいい経営者がいたり、底力があったりする企業もあるにはある。そうした企業では経営者がいい判断をし、ちゃんとディープラーニングの活用に取り組んでいる。 ただ全体でみればごく一部で、むしろ日本ではスタートアップ企業のほうが有望だ。 先日、高専（高等専門学校）のチームを対象とした、ディープラーニングとハードウエアを組み合わせたプロジェクトを競う大会があった。優勝チームには約4億円の評価が付き、すぐに4000万円投資しようという話になった。 もはや、勉強もせず自ら動こうとしない企業の経営者に何を言ってもしょうがない。それよりも、やる気のある若い世代にチャンスを与えて、新しいことをやってちゃんともうけて会社を大きくしていけばいいのではないかと思う。やる気のある若い人にチャンスを与えたほうがましだ。（談）』、「大企業のなかにもセンスがいい経営者がいたり、底力があったりする企業もあるにはある・・・全体でみればごく一部で、むしろ日本ではスタートアップ企業のほうが有望だ」、その通りなのだろう。
・『「幻滅期」に突入へ 活用本番はこれから 「お祭りの時期が終わる。本気ではなかった人が離れる今からが、地に足をつけて進む本番だ」。米調査会社ガートナー日本法人の亦賀忠明ディスティングイッシュトバイスプレジデントはこう指摘する。同社は2018年秋に「日本では19年以降、AIが幻滅期に入る」との予測を示した。 ガートナーは「ハイプ・サイクル」と呼ぶ曲線で各種の先進技術の普及状況を表現する。認知が広がって徐々に期待度が上がり、過度な期待のピークを迎える。その後、期待度が急激に下がる幻滅期を経て、徐々に普及していくというパターンを模したものだ。 ●ガートナーが分析した日本でのAIの期待度（図はリンク先参照） 幻滅期は「本当のことが分かっていなかった人が幻滅する時期のこと」（亦賀氏）。調査会社IDCジャパンはAIシステムへの世界の支出額が19年に358億ドル（約3兆9380億円）で、22年には792億ドル（約8兆7120億円）まで増えると予測する。AIに過度な期待をしていた時期は終わるが、投資は着実に増えていく。AIの現実と可能性を見極めた企業が本格的な活用で先行することになる』、「「幻滅期」に突入へ 活用本番はこれから」、「AIの現実と可能性を見極めた企業が本格的な活用で先行することになる」、「本格的な活用で先行する企業」に期待したい。
第三に、5月28日付け日経ビジネスオンライン「「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表、アイリス・沖山氏に聞く」を紹介しよう。
https://business.nikkei.com/atcl/gen/19/00043/052300005/?P=1
・『画像診断や手術支援、医薬品の開発など、医療の分野でもAI（人工知能）の導入が進みつつある。将来的にAIが医療過誤や事故を起こした場合、責任はだれが取るのか。生死を左右する医療分野にAIを取り入れることに倫理的な問題はないのか。離島でへき地医療に従事した経験がある医師にして、現在はAIスタートアップ「アイリス」を率いる沖山翔氏に話を聞いた（Qは聞き手の質問）。 Q:AI人工知能が誤診をしたら責任はだれが取るんでしょうか。 アイリスの沖山翔代表（以下、沖山氏）：今のAIは医師が使うただのツールにすぎないので、やっぱり使った医師が責任を取ることになります。さらにその先、ドラえもんは行き過ぎにしても、AIが本当に自律的に診断をするようになった場合の責任の所在も答えが出ていて、自動運転がレベル5になった時と同様にメーカーです。製造者責任でメーカーが責任を負うことになります。 医療が特殊なのは、命にかかわるところです。不可逆で定量的に議論ができない。例えば自動運転中の事故については、割に合うように計算して保険制度を用意すればいい。でも命には値付けができない。時間をかけて社会的合意を得る必要があります。 Q：医療分野にAIを導入することにはやはり抵抗のある人もいると思います。 沖山氏：責任の所在をちゃんと明らかにしておくことが納得感につながると思っています。AIはただのツールだから医療事故はツールを使った医師の責任、仮にAIドクターができてしまった場合にはメーカーの責任だということが広く共有されれば、抵抗感もなくなるのではないでしょうか。 AIがレントゲンの見逃しをしたらどうするんだというのはよく話題になりますが、人間だって見逃します。当直明けの人間の脳はビール2杯飲んだ時と同じ状態だといわれているんですよね。ただ、AIという言葉はインパクトが強いため、患者さんの間には「どうしても生身の先生に見てほしい」といった意識が残り続けることも想像されます。いかに摩擦なくAIを取り入れていくかというところで、大事になるのが“倫理”なんです。 そもそもAIが現れる以前から医療と倫理は切り離せません。外科医は合法的に人にメスを入れることを認められていますが、普通の人がやったら傷害罪です。これは議論の上で医師法で制度化し、さらに時間をかけて医者が外科手術をすることについて社会的合意を得たわけです。AIも同じプロセスを通っていくのでしょう。 Q：AIと倫理の問題は世界中で話題になっています。 沖山氏：米国でいま、スタンフォード大やマサチューセッツ工科大で博士号（PhD）を取ったAI技術者たちは、いわゆるミレニアル世代で、AIと倫理の課題をすごく重視しています。米グーグルで2018年に、社員による「AIの軍事利用」に反対する運動が起きて一部で辞職者も出た事件は象徴的でしょう。AI技術者に定着してもらうためにも倫理の問題は避けて通れません。 AI倫理の話でやっぱり避けられないのが、「アシロマAI 23原則」です。非営利団体「Future of Life Institute」が世界の名だたる倫理学者や宗教家、数学者や起業家をカリフォルニアの小さな街アシロマに集めてまとめたものです。 このうちで私が好きなのが17番目の“非破壊”の原則です。「高度な人工知能システムがもたらす制御の力は、既存のプロセスを覆すものであってはならない」といったものです。若い起業家はよく「破壊的イノベーション」などと言いますが、破壊していい領域とそうじゃない領域がある。医療で破壊と言ったら人が死んでしまいますから。医学の祖ともされる古代ギリシアのヒポクラテスは第一に、「Do no harm（傷つけてはいけない）」と言っているんですが、これが医師の間で今でも守られ続けている倫理観だと思います』、「人間だって見逃します。当直明けの人間の脳はビール2杯飲んだ時と同じ状態だといわれているんです」、「当直明けの医者」には出来れば診てもらいたくないものだ。「アシロマAI 23原則」は下記の通りだが、なかなかよく練られているようだ。
https://www.tmresearch.co.jp/sensor/wp-content/uploads/sites/2/2017/03/SENSOR35.pdf
・『Q：実際にAIはどの程度、医療現場に浸透しているのでしょうか 沖山氏：現場レベルで言うと、特に日本ではAIがすみずみまで浸透しているわけではありません。極めてまれなケースでしか、AIと一般患者の接点はないです。どちらかと言うと、医師とAIの接点が増えて、医師が有用性を実感している段階です。AIと一般患者の接点はもうちょっと先、1～2年後ぐらいじゃないでしょうか。 ではその時に、AIが何か問題を起こす可能性があるのか―。それはまずありえません。なぜなら、医療機器は厚生労働省が承認するまでは使えないからです。医師がなにか悪用できるAIというのは、そもそも世の中に出られないような制度がすでに出来上がっています。 Q：医療AIが学習をして成長していく中で、医療機関ごとにAIの能力に格差が生まれることはないですか 沖山氏：現段階では持続的に成長するAIというのは、承認できないことになっているんですね。つまり成長後のAIをフリーズ（凍結）した状態で世の中に出す仕組みになっているんです。なので格差は生まれない。 でもそれだけではやはり救えない病気もあるので、どうやって学習させるのかという点も検討しながら、持続的に成長するAIを承認していくのがこれからのパラダイムです。米国では動き始めているので、日本でも5年以内にはそうなるのではないかと思っています。具体的にはまずクラウド経由で成長するので結局、どのAIも同じ性能になるというやり方が1つあると思います。 もう1つはカスタマイズ。病院によって性能が変わるというのはありだと思います。医療の世界に完全上位互換はないので、東大病院のAIがほかの病院より完全に優れているということにはならない。ただの風邪で大学病院にかかることはないので、受診する層が偏っている。東大病院のAIだといってありがたがっても、一般の病院で使おうとするとめちゃめちゃ性能が悪くなるわけです。そこはすみ分けになるんだと思います』、「AIと一般患者の接点はもうちょっと先、1～2年後ぐらいじゃないでしょうか」、画像診断のようにAIに適した分野ではそろそろ使ってほしいものだ。
先ずは、5月17日付け日経ビジネスオンライン「AIバブル 失敗の法則：「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓」のうち、無料部分を紹介しよう。
https://business.nikkei.com/atcl/NBD/19/special/00108/
・『法則1：万能目指して無能に（ソフトバンク） 「〇〇社、××事業にAI導入」。多くの企業が次々に発表し、連日ニュースの見出しを飾る。問題はその先。実証実験で止まったまま、ビジネス活用に至らないケースは多い。先行企業の実例から、AIの導入で陥りがちな「失敗の法則」を紹介する。 ソフトバンクが社内に千数百人いる営業員をAIで支援するシステム「ソフトバンクブレーン」を導入してから3年。AI・ロボティクス事業推進部の柴谷幸伸課長は「開発当初、AIは何でもできるという妄想に取りつかれていた」と振り返る。「経営層から現場までAIで盛り上がっていた」（柴谷氏）という熱気の中で完成したシステムは、理想とかけ離れたものだった。 「AIは万能」という勘違いはソフトバンクに限らず産業界に蔓延している。実際には音声や画像認識など限られた分野で実用に耐えるAIが視野に入ってきたという段階。有効な学習データがそろわなければ十分な性能は出ない。 IT業界からは「メガバンクが多額を投じてコールセンターに導入した対話型AIが使い物にならなかった」「医療機関が試験導入したAIが間違った治療法の提案を繰り返した」といった失敗談が聞こえてくる。 グループの投資ファンドを通じて世界中の先端企業に投資し、AI分野では優等生ともされるソフトバンクはなぜ失敗したのか』、「「AIは万能」という勘違いはソフトバンクに限らず産業界に蔓延している。実際には音声や画像認識など限られた分野で実用に耐えるAIが視野に入ってきたという段階。有効な学習データがそろわなければ十分な性能は出ない」、実用化の壁は予想以上に高そうだ。「万能目指して無能に」とは「ソフトバンク」には耳が痛いタイトルを付けられたものだ。
・『営業成績底上げを期待したが ソフトバンクが想定していたのは、エース級の営業員のように振る舞う、自然言語処理による対話型AIだ。一般の営業員が専用のアプリを搭載したスマートフォンに向かって自由に質問すれば幅広い問題について深い洞察に基づきアドバイスを返すAIを目指した。 営業員が「銀行にIT機器の導入を提案したのだけど、『予算が削られて無理』と言われた」などと語りかければ、客先の業種や予算、過去の実績などから「予算の削減に取り組む金融機関は人手不足の解消につながる提案が効果的です。人型ロボット『ペッパー』を受付に導入するよう勧めてはどうでしょう」などと臨機応変に助言する。 「ペッパーをお客様に気に入ってもらう秘訣は？」と追加で質問すると、「実際に動いているところをデモンストレーションで見せると契約につながりやすい」などと回答し、客先の担当者へのアプローチ法をより詳しく教えてくれる。営業成績の底上げに期待した。 しかし現実は違った。AIは「ペッパーの導入を提案してみましょう」など、誰でも思い付くような回答を繰り返すばかり。どうすればペッパーを効果的に売り込めるかといった、状況に応じた具体的なアドバイスまでは踏み込めなかった。柴谷氏は「回答が浅いため、ソフトバンクブレーンは社内でほとんど利用されなかった」と話す。 ソフトバンクの営業部門で扱う製品やサービスはペッパーのほかにも、法人向けスマホやクラウドなど、2500件に及ぶ。AIの開発段階ではこれらすべての商材について、どんな質問にも回答できる万能型を目指した。 AIに尋ねたいことを営業員から事前に聞き取り、エース級の営業員から集めた回答例をAIに学習させればシステムは完成すると考えていた。 柴谷氏は「学習に対する認識がかなり甘かった」と反省する。実際には天文学的な数の回答を学習させなければ、2500件に上る商材の一つひとつについて、どんな質問にでも答えられるようにはならない。エース級の営業員にそのような数の回答を用意させるのは非現実的だ。 またソフトバンクブレーンが採用したAIの技術は、自ら新しい回答を見つけ出すような水準に達していない。そのためアドバイスできる内容は限られ、誰も使わないAIが出来上がった。 開発陣は、「何でもできる」というAIに対するイメージが過大評価であることを身をもって学んだ。その反省を踏まえたうえで、新たな機能の開発に乗り出す』、「回答が浅いため、ソフトバンクブレーンは社内でほとんど利用されなかった」、「ソフトバンクブレーンが採用したAIの技術は、自ら新しい回答を見つけ出すような水準に達していない。そのためアドバイスできる内容は限られ、誰も使わないAIが出来上がった。 開発陣は、「何でもできる」というAIに対するイメージが過大評価であることを身をもって学んだ」、「その反省を踏まえたうえで、新たな機能の開発に乗り出す」、勝算はあるのだろうか。
・『機能絞り込んで再出発 「機能は大幅に絞り込むことにした」（柴谷氏）という第2弾では、扱う商材を法人向けのスマホに限った。何でも自由に質問できる形式の対話も諦めた。営業員が口頭でAIに伝えられるのは、スマホの機種、新規や継続などの契約形態、レンタルや売り切りといった提供方法などだけにした。それを基に自動で見積額をはじき出す。 金額の算出にAIは使っていない。機種や契約形態などによって金額は一意に決まるため、単純な計算式で済む。AIを使っているのは、スマホに向かって口頭や文字でやり取りするための自然言語処理の部分だけである。（無料はここまで）』、失敗も蓄積になるので、全く無駄という訳ではないだろう。「再出発」が上手くいくことを期待したい。
次に、5月25日付け日経ビジネスオンライン「AIバブル 失敗の法則：日本の社長にお手あげ 第一人者 松尾豊氏の警告」を紹介しよう。
https://business.nikkei.com/atcl/NBD/19/special/00107/
・『バブルははじける──。AI研究の第一人者、松尾豊・東京大学大学院教授はこう警鐘を鳴らす。多くの企業はマーケティングを目的に、単にITの活用をAIと言い換えているだけだと指摘する。経営者が技術を理解し、ビジネスとつなげなくてはAIでイノベーションは起こせないと説く。 日本企業の間でAI（人工知能）の理解が一向に進んでいない。中身はいわゆるIT（情報技術）化のような話が半分以上ではないか。今までもやっていたことをAIという言葉に換えて、マーケティングに利用しているだけ。意味がまったくないわけではないが、それでは世界で勝てるビジネスは生まれない。だから私は「日本でのAIの盛り上がりは中身のないバブル、いつはじけてもおかしくない」と警鐘を鳴らしている。 AIの現状を、エレベーターがもたらしたイノベーションと重ねて考えてみたい。2階に上がるために使っても意味はなく、階段で十分だ。10階や20階建ての高層ビルが建てられるようになったことこそがエレベーターの革新性だ。 今、AIで最も大きなイノベーションが起きているのが深層学習（ディープラーニング）だ。自律的に画像や映像を（人間以上に）認識できるため、新しいビジネスが生まれている。高層ビルが建ち始めているわけだ』、「今までもやっていたことをAIという言葉に換えて、マーケティングに利用しているだけ」、「私は「日本でのAIの盛り上がりは中身のないバブル、いつはじけてもおかしくない」と警鐘を鳴らしている」、本格活用には、「深層学習」にまで進む必要がありそうだ。
・『インターネット登場時と同じ ITやビッグデータは20年以上前からやっているので、新しい価値がそれほど残っていない。一方、ディープラーニングを使えばさまざまなプロセスの自動化が可能になる。 エンジンやトランジスタが発明された時も、インターネットが登場した時も同じ。その時代のテクノロジーをちゃんと身に付けて経営的な意思決定を行い、どういうビジネスが生み出せるか一生懸命に考え、やり遂げた人がビジネスで成功を勝ち取った。 新たな価値を見つけるには、当然技術（ディープラーニング）のことが分からなければならない。経営者が分かっていなければ技術の活用に踏み切れない。それにもかかわらず、残念ながら日本には技術とビジネスの両方を分かっている経営者が少ない。 3カ月や半年でもきちんと勉強すれば、ディープラーニングを経営にも活用できるようになる。だから技術を研究している我々からすると、「早く勉強してほしい」という話に尽きる。これまでこうしたことを日本企業の経営者に何年も言い続けてきたが、何も起こらない。 社長は業界やビジネスの構造が頭に入っている。それと照らし合わせることで「ここにAIを使うとこうなるのでは」というシミュレーションができるようになるはず。社長としてAIのことが腹落ちしていなくて、自分の言葉で語れないような会社は本物ではない。 もちろん手足を動かすのは現場だが、プロジェクトに関わっているうちに、社長に知識が付いてくる。嗅覚の鋭い社長は自分なりに理解して、自分の言葉でAIを語れるようになる。下に任せて「何かやれ」と言ったってできるわけがない』、「社長としてAIのことが腹落ちしていなくて、自分の言葉で語れないような会社は本物ではない」、「嗅覚の鋭い社長は自分なりに理解して、自分の言葉でAIを語れるようになる。下に任せて「何かやれ」と言ったってできるわけがない」、同感だ。
・『入り口で迷っている経営者 世界では技術とビジネスを組み合わせて伸ばしていく筋道を競って見つけようとしている。しかし日本では経営者がディープラーニングを活用するかどうかという入り口で迷っている。 大企業のなかにもセンスがいい経営者がいたり、底力があったりする企業もあるにはある。そうした企業では経営者がいい判断をし、ちゃんとディープラーニングの活用に取り組んでいる。 ただ全体でみればごく一部で、むしろ日本ではスタートアップ企業のほうが有望だ。 先日、高専（高等専門学校）のチームを対象とした、ディープラーニングとハードウエアを組み合わせたプロジェクトを競う大会があった。優勝チームには約4億円の評価が付き、すぐに4000万円投資しようという話になった。 もはや、勉強もせず自ら動こうとしない企業の経営者に何を言ってもしょうがない。それよりも、やる気のある若い世代にチャンスを与えて、新しいことをやってちゃんともうけて会社を大きくしていけばいいのではないかと思う。やる気のある若い人にチャンスを与えたほうがましだ。（談）』、「大企業のなかにもセンスがいい経営者がいたり、底力があったりする企業もあるにはある・・・全体でみればごく一部で、むしろ日本ではスタートアップ企業のほうが有望だ」、その通りなのだろう。
・『「幻滅期」に突入へ 活用本番はこれから 「お祭りの時期が終わる。本気ではなかった人が離れる今からが、地に足をつけて進む本番だ」。米調査会社ガートナー日本法人の亦賀忠明ディスティングイッシュトバイスプレジデントはこう指摘する。同社は2018年秋に「日本では19年以降、AIが幻滅期に入る」との予測を示した。 ガートナーは「ハイプ・サイクル」と呼ぶ曲線で各種の先進技術の普及状況を表現する。認知が広がって徐々に期待度が上がり、過度な期待のピークを迎える。その後、期待度が急激に下がる幻滅期を経て、徐々に普及していくというパターンを模したものだ。 ●ガートナーが分析した日本でのAIの期待度（図はリンク先参照） 幻滅期は「本当のことが分かっていなかった人が幻滅する時期のこと」（亦賀氏）。調査会社IDCジャパンはAIシステムへの世界の支出額が19年に358億ドル（約3兆9380億円）で、22年には792億ドル（約8兆7120億円）まで増えると予測する。AIに過度な期待をしていた時期は終わるが、投資は着実に増えていく。AIの現実と可能性を見極めた企業が本格的な活用で先行することになる』、「「幻滅期」に突入へ 活用本番はこれから」、「AIの現実と可能性を見極めた企業が本格的な活用で先行することになる」、「本格的な活用で先行する企業」に期待したい。
第三に、5月28日付け日経ビジネスオンライン「「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表、アイリス・沖山氏に聞く」を紹介しよう。
https://business.nikkei.com/atcl/gen/19/00043/052300005/?P=1
・『画像診断や手術支援、医薬品の開発など、医療の分野でもAI（人工知能）の導入が進みつつある。将来的にAIが医療過誤や事故を起こした場合、責任はだれが取るのか。生死を左右する医療分野にAIを取り入れることに倫理的な問題はないのか。離島でへき地医療に従事した経験がある医師にして、現在はAIスタートアップ「アイリス」を率いる沖山翔氏に話を聞いた（Qは聞き手の質問）。 Q:AI人工知能が誤診をしたら責任はだれが取るんでしょうか。 アイリスの沖山翔代表（以下、沖山氏）：今のAIは医師が使うただのツールにすぎないので、やっぱり使った医師が責任を取ることになります。さらにその先、ドラえもんは行き過ぎにしても、AIが本当に自律的に診断をするようになった場合の責任の所在も答えが出ていて、自動運転がレベル5になった時と同様にメーカーです。製造者責任でメーカーが責任を負うことになります。 医療が特殊なのは、命にかかわるところです。不可逆で定量的に議論ができない。例えば自動運転中の事故については、割に合うように計算して保険制度を用意すればいい。でも命には値付けができない。時間をかけて社会的合意を得る必要があります。 Q：医療分野にAIを導入することにはやはり抵抗のある人もいると思います。 沖山氏：責任の所在をちゃんと明らかにしておくことが納得感につながると思っています。AIはただのツールだから医療事故はツールを使った医師の責任、仮にAIドクターができてしまった場合にはメーカーの責任だということが広く共有されれば、抵抗感もなくなるのではないでしょうか。 AIがレントゲンの見逃しをしたらどうするんだというのはよく話題になりますが、人間だって見逃します。当直明けの人間の脳はビール2杯飲んだ時と同じ状態だといわれているんですよね。ただ、AIという言葉はインパクトが強いため、患者さんの間には「どうしても生身の先生に見てほしい」といった意識が残り続けることも想像されます。いかに摩擦なくAIを取り入れていくかというところで、大事になるのが“倫理”なんです。 そもそもAIが現れる以前から医療と倫理は切り離せません。外科医は合法的に人にメスを入れることを認められていますが、普通の人がやったら傷害罪です。これは議論の上で医師法で制度化し、さらに時間をかけて医者が外科手術をすることについて社会的合意を得たわけです。AIも同じプロセスを通っていくのでしょう。 Q：AIと倫理の問題は世界中で話題になっています。 沖山氏：米国でいま、スタンフォード大やマサチューセッツ工科大で博士号（PhD）を取ったAI技術者たちは、いわゆるミレニアル世代で、AIと倫理の課題をすごく重視しています。米グーグルで2018年に、社員による「AIの軍事利用」に反対する運動が起きて一部で辞職者も出た事件は象徴的でしょう。AI技術者に定着してもらうためにも倫理の問題は避けて通れません。 AI倫理の話でやっぱり避けられないのが、「アシロマAI 23原則」です。非営利団体「Future of Life Institute」が世界の名だたる倫理学者や宗教家、数学者や起業家をカリフォルニアの小さな街アシロマに集めてまとめたものです。 このうちで私が好きなのが17番目の“非破壊”の原則です。「高度な人工知能システムがもたらす制御の力は、既存のプロセスを覆すものであってはならない」といったものです。若い起業家はよく「破壊的イノベーション」などと言いますが、破壊していい領域とそうじゃない領域がある。医療で破壊と言ったら人が死んでしまいますから。医学の祖ともされる古代ギリシアのヒポクラテスは第一に、「Do no harm（傷つけてはいけない）」と言っているんですが、これが医師の間で今でも守られ続けている倫理観だと思います』、「人間だって見逃します。当直明けの人間の脳はビール2杯飲んだ時と同じ状態だといわれているんです」、「当直明けの医者」には出来れば診てもらいたくないものだ。「アシロマAI 23原則」は下記の通りだが、なかなかよく練られているようだ。
https://www.tmresearch.co.jp/sensor/wp-content/uploads/sites/2/2017/03/SENSOR35.pdf
・『Q：実際にAIはどの程度、医療現場に浸透しているのでしょうか 沖山氏：現場レベルで言うと、特に日本ではAIがすみずみまで浸透しているわけではありません。極めてまれなケースでしか、AIと一般患者の接点はないです。どちらかと言うと、医師とAIの接点が増えて、医師が有用性を実感している段階です。AIと一般患者の接点はもうちょっと先、1～2年後ぐらいじゃないでしょうか。 ではその時に、AIが何か問題を起こす可能性があるのか―。それはまずありえません。なぜなら、医療機器は厚生労働省が承認するまでは使えないからです。医師がなにか悪用できるAIというのは、そもそも世の中に出られないような制度がすでに出来上がっています。 Q：医療AIが学習をして成長していく中で、医療機関ごとにAIの能力に格差が生まれることはないですか 沖山氏：現段階では持続的に成長するAIというのは、承認できないことになっているんですね。つまり成長後のAIをフリーズ（凍結）した状態で世の中に出す仕組みになっているんです。なので格差は生まれない。 でもそれだけではやはり救えない病気もあるので、どうやって学習させるのかという点も検討しながら、持続的に成長するAIを承認していくのがこれからのパラダイムです。米国では動き始めているので、日本でも5年以内にはそうなるのではないかと思っています。具体的にはまずクラウド経由で成長するので結局、どのAIも同じ性能になるというやり方が1つあると思います。 もう1つはカスタマイズ。病院によって性能が変わるというのはありだと思います。医療の世界に完全上位互換はないので、東大病院のAIがほかの病院より完全に優れているということにはならない。ただの風邪で大学病院にかかることはないので、受診する層が偏っている。東大病院のAIだといってありがたがっても、一般の病院で使おうとするとめちゃめちゃ性能が悪くなるわけです。そこはすみ分けになるんだと思います』、「AIと一般患者の接点はもうちょっと先、1～2年後ぐらいじゃないでしょうか」、画像診断のようにAIに適した分野ではそろそろ使ってほしいものだ。
タグ：AIと一般患者の接点はもうちょっと先、1～2年後ぐらいじゃないでしょうか 人間だって見逃します。当直明けの人間の脳はビール2杯飲んだ時と同じ状態だといわれているんです アシロマAI 23原則 命には値付けができない。時間をかけて社会的合意を得る必要 今のAIは医師が使うただのツールにすぎないので、やっぱり使った医師が責任を取ることになります 「「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表、アイリス・沖山氏に聞く」 AIの現実と可能性を見極めた企業が本格的な活用で先行することになる 「幻滅期」に突入へ 活用本番はこれから 全体でみればごく一部で、むしろ日本ではスタートアップ企業のほうが有望だ 大企業のなかにもセンスがいい経営者がいたり、底力があったりする企業もあるにはある 入り口で迷っている経営者 嗅覚の鋭い社長は自分なりに理解して、自分の言葉でAIを語れるようになる。下に任せて「何かやれ」と言ったってできるわけがない 社長としてAIのことが腹落ちしていなくて、自分の言葉で語れないような会社は本物ではない インターネット登場時と同じ 「深層学習」 私は「日本でのAIの盛り上がりは中身のないバブル、いつはじけてもおかしくない」と警鐘を鳴らしている 今までもやっていたことをAIという言葉に換えて、マーケティングに利用しているだけ 「AIバブル 失敗の法則：日本の社長にお手あげ 第一人者 松尾豊氏の警告」 機能絞り込んで再出発 ソフトバンクブレーンが採用したAIの技術は、自ら新しい回答を見つけ出すような水準に達していない。そのためアドバイスできる内容は限られ、誰も使わないAIが出来上がった。 開発陣は、「何でもできる」というAIに対するイメージが過大評価であることを身をもって学んだ 回答が浅いため、ソフトバンクブレーンは社内でほとんど利用されなかった 営業成績底上げを期待したが 「AIは万能」という勘違いはソフトバンクに限らず産業界に蔓延している。実際には音声や画像認識など限られた分野で実用に耐えるAIが視野に入ってきたという段階。有効な学習データがそろわなければ十分な性能は出ない 法則1：万能目指して無能に（ソフトバンク） 「AIバブル 失敗の法則：「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓」 日経ビジネスオンライン （その9）（「何でもできる」と妄想 性能や費用の壁に直面 先行企業が残した教訓（途中まで）、日本の社長にお手あげ 第一人者 松尾豊氏の警告、「AI医師」に命を委ねられますか 医師にしてAIスタートアップ代表 アイリス・沖山氏に聞く） AI 人工知能
