【IWI×Robust Intelligence対談】
脆弱性診断ソリューションを通して、堅牢で安全なAI社会を実現する
2021年9月、当社はアメリカのAIセキュリティベンチャーであるRobust Intelligence, Inc.（以下、Robust Intelligence）が開発したAIエンジン「RIME」を、不正検知ソリューション「FARISスコアリングサービス」に対する不正検知精度向上・AIチューニング負荷の軽減を目的に、採用しました。このことを契機に、両社はさらに幅広い分野での協業を進めています。今回は、Robust Intelligenceの共同創業者である大柴 行人氏（以下、敬称略）をお招きし、当社の代表取締役社長 佐藤邦光とオンライン対談を行いました。創業の背景や協業に至った経緯、今後の展望など、さまざまなテーマについて語り合いました。
※対談は2021年12月にWeb会議にて行われました。
株式会社インテリジェント ウェイブ 代表取締役社長
佐藤 邦光（さとう くにみつ）
2020年9月にインテリジェント ウェイブ社長に就任。次世代の情報化社会に向けて、「決済、金融、セキュリティ分野を含む様々な企業のビジネスリライアビリティ(※)を支えるITサービス会社」になることをミッションとする変革をスタートさせる。社員と、会社の将来はどうあるべきかを議論しながら、従来の延長線にはない変革を常に求めている。また「働きやすさ」と「働きがい」を追求する多様な働き方と多様な人財の活躍の推進を通じて、新たな挑戦や創造を生み出す組織づくりを進めている。“世の中を変える”、“未来を創り出す”という実感を挑戦の醍醐味としており、新たな挑戦を通して、持続可能な社会に貢献し、社員と会社の成長の実現を目指している。
(※)ビジネスリライアビリティ：顧客事業の信頼性および自社事業の信頼性を高め続けること。※当社の造語。
Robust Intelligence, Inc. 共同創業者
大柴 行人（おおしば こうじん）
開成高校からハーバード大学に進学。在学中にAIセキュリティの研究で最も権威のある国際会議にて論文が複数採択される。同大学卒業間際の2019年に当時の指導教授のヤロン・シンガーと共に Robust Intelligenceを設立。「AIのリスクを根絶する」ことをミッションにAIモデルのテスティング・保護を行うプラットフォームを提供している。２年半で総額50億円を調達、PayPalやExpedia 、アメリカ国防省といった顧客を抱えAIセキュリティの分野で世界を牽引している。
Robust Intelligenceの事業内容や設立の背景について、改めてご説明ください。
大柴：主に、AIの脆弱性診断エンジン「Robust Intelligence Model Engine （RIME）」を提供しています。拠点はカリフォルニア州サンフランシスコで、現在50名ほどの従業員が在籍中です。RIMEは、AIモデルに何百ものテストを実行して脆弱性を見つけ出す「AI Stress Testing」と、運用中のAIモデルにおいて誤作動を引き起こすようなデータから保護する「AI Firewall」の2要素で構成されています。
アメリカでは、PayPalやExpediaといった企業のお客様に加えて、国防総省（U.S. Department of Defense）にもご採用いただいています。日本国内では、IWIさんを筆頭に、NTTデータ（株式会社エヌ・ティ・ティ・データ）様などがご利用中です。
佐藤：IWIはお陰様で顧客との親密度が非常に高く、将来への貢献が期待されていると感じています。皆さんの期待に応えるためには技術の幅を広げていく必要があり、新たな独自技術を創り出すことと、エッジのある専門技術を持つ企業同士が専門技術を掛け合わせた分業（スペシャライゼーション）によるエコシステム構築を始めています。
Robust Intelligenceさんの話を聞いて、直ぐに大柴さんの経歴を拝見したとき、その生き方に深く感銘を受け、これほど素晴らしい志を持った、日本人の若者がいるのだなと感動しました。一緒になってエコシステムを実現していく上では、技術だけでなく、会社を代表する社長の人柄や志を大切にしており、大柴さんとお話する中でさらに共感しました。創業されたときは、まだ学生だったのですよね。
大柴：はい。設立の発端は2018年に遡ります。ハーバード大学の学部生であった私は、後に共同創業者（Co-Founder）となる指導教授ヤロン・シンガーとともに、「ロバスト機械学習」と呼ばれるAIの脆弱性や堅牢性についての研究を行っていました。当時は、AIに対する期待が世界中で高まりつつも、AIがまるで「なんでもできる魔法の箱」であるかのように考えられており、違和感を覚えていました。世の中の理解と、私たちが学問として研究していた内容との間に、大きなギャップがあると。私たちはその差を埋めるべく、2019年に大学のあるボストンでRobust Intelligenceを共同創業したのです。
設立の1年後に、大手ベンチャーキャピタルであるSequoia Capital（セコイア・キャピタル）から12億円のシリーズAの資金調達を行い、それを機にサンフランシスコへ移転。昨年12月には、Tiger Global（タイガー・グローバル）をはじめとするベンチャーキャピタルから、35億円のシリーズBの資金調達を実施したところです。
Robust Intelligence の強みについて教えてください。
大柴：私たちが属する市場は、広義で言うとMLOpsマーケットと呼ばれます。MLOpsとは、機械学習（Machine Learning）とソフトウェアの開発手法である「DevOps」を組み合わせた造語。機械学習モデルの開発・運用を効率的に行うための仕組みや、考え方そのものを表す言葉です。
機械学習モデルの開発や運用は「データを収集する」「ラベリングする」「AIモデルを作る」「AIモデルを運用する」など、さまざまな工程で成り立っており、それぞれのフェーズにはリスクが存在します。そのリスクを取り除くことが私たちの役割です。
佐藤：“AIリスク”は、まさにいま、さまざまな業種で注目されていますね。不正検知ソリューションは、ある種不正利用という攻撃を防ぐ、犯罪を止めることですので、AIを活用する上でAIリスクは以前から注目していました。
大柴さんから以前にお聞きしましたが、「AI Stress Testing」でAIモデルの問題点を検出し、レポートする。これを常時走らせていれば、リアルタイムにAIモデルの品質をチェックできる。 次に、「AI Firewall」でAIモデルに送込むデータを検閲して、おかしな入力値やパイプラインの故障を検知する。どちらも、本来はAIモデルを開発しているチームのデータサイエンティストが手作業で変な入力値を除去したり、一からAIモデルを守る仕組みを構築する。そして、まだこのAIモデルを守る仕組みは確立されてない。RIMEを導入すれば、ほぼ自動的にAIの品質を管理できる。つまり AIでAIを守ることですね？
大柴：おっしゃる通りです。「作ったAIモデルが正しく動くのか」「投入するデータが変化してもモデルの性能は担保されるのか」「担保できない場合に原因を特定できるのか」といった問題が、AIに存在していることが広く知られてきました。その一方で、実際に取り組んでいる会社はまだまだ少ないと言っていいでしょう。
私たちは、テストを用いたアプローチを行うことで、AIリスクに対してさまざま課題分析を可能にしました。テストの合否だけでなく、AIモデルの状況が良好なのか悪いのか、その程度はどのくらいなのか、結果を踏まえてどのように対策を取るべきかを自動的に提案します。これこそがRobust Intelligenceの強みであり、独自性であると考えています。
大柴さんは、どのような経緯でAI分野に関心を持たれたのでしょうか。
大柴：大学に入ってすぐのころは経済学に興味があり、データを用いて意思決定を行う計量経済学の分野に没頭していました。ただ、研究を進めるうちに、AIに対する危機感を覚えていったのです。
データを用いた意思決定の重要性がさらに増していくこれからの社会において、AIの活用は必要不可欠です。しかし、AIの中身や挙動を十分に理解しないまま、意思決定をAIにゆだねてしまうのは危険なのではないか、社会にとって良くないことが起こるのではないかと、そう考えました。そのうちに、AIの脆弱性といった技術的領域の研究に没頭していくようになったのです。
佐藤：AIによる意思決定が一般的になる中で、中身が“ブラックボックス”のままなのは、大きな社会課題と感じます。一方、RIMEは今も相当な種類のAIモデルに対応してますが、さらに増やしていくのですか？
大柴：はい。医療機器系のお客様がいるのですが、彼らは血液サンプルから病気の確率を予測するAIモデルを作っています。そのようなモデルに万が一間違いがあれば、私たちを含めた全ての人間が被害に遭う可能性もあるわけです。
他の業界でも、たとえば保険の審査や価格設定において、AIが特定の性別や人種に対して、差別的な意思決定をした事例がありました。AIによる判断ミスが、社会に大きな影響を及ぼしかねない。そのようなクリティカルな領域でAIを活用されているお客様は、Robust Intelligenceに対して強い関心をお持ちだと実感しています。
Robust Intelligence とIWI の協業内容について、改めて教えてください。
大柴：主に「AI Stress Testing」を用いて、IWIさんの不正検知ソリューション「FARISスコアリングサービス」の不正検知精度やロバストネス（堅牢性）向上をお手伝いさせていただきました。
佐藤：IWIは、不正検知の分野において国内ナンバーワンの企業ですが、海外への展開を見据えて、不正検知ソリューションを今まで以上にパワーアップさせたいと考えていました。その助けになる技術を探していくなかで、大柴さんの会社とソリューションを知ったわけです。もともとIWIには、海外のスタートアップ企業から、エッジの利いた技術を積極的に取り入れていく文化があります。お互いを知ってからは、短い期間でスムーズに協業を始められました。
大柴：2020年末にお話をいただいたのですが、翌年の夏には本格的な導入に着手していましたよね。検証自体も2～3ヶ月ほどで進み、2021年の秋には本番環境での製品提供を実施できました。スピード感をもって協業に至れたと思っています。
佐藤：不正検知の分野では、次々と新しい攻撃手法が生まれます。常に新しい技術を取り入れて、検知の質を向上させ続けなければなりません。Robust Intelligenceさんのソリューションを導入したことで、これまでとは違った新しい観点で、サービスの質を高められました。
大柴：「AI Stress Testing」では何百ものテストを用意しています。実証実験では効果の高いテストを集中的に行いましたが、サービス運用を始めてからは、「他のテストにも高い効果を得られるものがあるのでは」といった声を、IWIさんの担当事業部の方からいただくようになり、大変嬉しく思っています。
佐藤：IWIでは現在、データを活用した新規事業の創出を検討しています。ネットワークにおけるデータの処理技術はすでに蓄積されていますが、現時点ではデータ活用のフェーズに至っていません。だた、データ活用ビジネスを形にするのであれば、やはりAIが技術のコアになる。Robust Intelligenceさんの力もお借りしながらアイデアを磨いていけば、AIを柱にした新規ビジネスを生み出せると信じています。IWIは製品づくりが強みです。大柴さんとタッグを組みながら、データ分析という新機軸を確立して、新しい製品を世に出していきたいですね。
Robust Intelligence では創業者のお二人をはじめ、多様な人々が働きながら、グローバルに仕事をされていますね。実際にどのような人たちがいるのでしょうか。
大柴：共同創業者はイスラエル出身で、大学卒業まではイスラエルに住んでいました。会社全体でも、フランスやスイス、タイや韓国など、従業員の出身国はさまざまです。そうですね、セールス部門には元オリンピック選手をはじめ、アスリート経験のある従業員が多いかもしれません。国籍やジェンダーはもちろん、キャリアの観点から見ても多様なバックグラウンドを持つ人材が集まっています。
社内に多様な人材がいるという事実は、労働環境の観点からも望ましいことですが、私たちにとってのメリットはそれに留まりません。製品開発にも、多様な視点は生かされているのです。AIは、潜在的にバイアスのかかった意思決定を行う危険性を孕んでいます。実際、アメリカではクレジットカードの入会審査などの場で、AIによる性差別的な判断が行われたとして、公的機関が介入するほどの、大きな問題になりました。
AIの脆弱性診断を提供する企業として私たちは、「AIによる差別」の排除を非常に重視しています。その点において、社内に多様な視点を持てていること自体が、私たちにとっては、大きな強みになっているのです。
また、ウェルネスやウェルビーイングも重要視している課題です。スタートアップ企業ですから、ときには製品開発やセールスに集中しなければならないこともありますが、会社の成長というのは本来、短距離走ではなくマラソンのようなものです。体づくりや食の観点から社員をサポートすることも、会社の大切な役割だと認識しています。具体的には、会社負担で昼食のデリバリーサービスを提供したり、スナックを常備したりですね。その際にも、ヴィーガンやグルテンフリーといった食の多様性に配慮しています。
佐藤：前職（DNP時代）は海外出張も多く、20か国以上の企業を何度となく訪問していました。成長を続ける会社からは多様性に向き合うことの大切さを学んできました。IWIは多様性を強みとすることを宣言していますが、自分らしく生きられることを大切にする会社でありたいと考えています。人財採用でも個性的な人財が増えていくことを期待していますが、アスリート経験のある従業員が多いのは大変興味深いですね。大柴さんから有機的流れでオフィスにジムができたと聞きましたが社員が楽しんでいるのが活力になっているのでしょうね。
また、“食の多様性”という観点はぜひ見習いたいですね。IWIでは、社員の健康増進施策として無料の朝食サービスを行っています。サンドイッチや果物などを、社員が毎朝、オフィスの自席で食べられるという取組みです。2022年には、会社が費用の大半を負担する形で、昼食や夕食を提供するサービスの導入も予定しています。
ただ、当社も海外出身の社員が増えつつありますから、食事1つとっても、今までのやり方では対応できない場面が出てきました。Robust Intelligenceさんの事例を参考にしながら、しっかりと対応できるようにしたいですね。
2022年以降の両社の展望についてお聞かせください。
大柴：AIを取り巻く状況は、急激に変わりつつあります。EUの政策執行機関である欧州委員会からは、AIガバナンスに関するガイドラインがすでに公表されており、2022年以降に法制化が進められる見込みです。日本国内においては、経済産業省がAIに関するガイドラインをすでに策定しています。そうなると、GDPR（General Data Protection Regulation：EU一般データ保護規則）と同様に、法規制を前提とした新たな体制づくりが必要になります。政府をはじめとする法的なステークホルダーを巻き込む形で、AI業界はより深い社会実装に向けて、新たなフェーズを迎えようとしているのです。
このような状況下において、技術的な解決を担う企業である私たちとしてはもちろん、製品の成熟度をさらに高めていく必要があります。他方で、技術系以外のステークホルダーとも連携を図りながら、AIリスクに対するRobust Intelligence製品の重要性を業界全体にアピールしていくことも必要です。
AIが重要な意思決定を任されていく時代においては、単に製品を販売することに留まらず、AIと社会の関わりについて考えていくことが重要。そのことを周知していくような活動にも、積極的に取り組みたいと考えています。
佐藤：IWIは、24時間365日止まらないシステムを30年以上にわたり提供し続けている、リアルタイム処理を強みとする会社です。これまで培ってきた技術を活用して、今後はミッションクリティカルな別の領域でビジネスを展開したいと考えています。また新たな強みとする、集まったデータをリアルタイムに処理してその場で結果を出せるような、高速処理とAIを有効活用したデータ分析を軸とした新規ビジネスを構想中です。
ただし、データ分析ビジネスを展開しても、分析の精度が悪ければ意味はありません。その領域に関しては、Robust Intelligenceさんの力が必要になっていきます。IWIとしては、ぜひ末永くタッグを組んでお付き合いしていきたいですね。
もう1つは、海外展開。すでに製品化されている不正検知サービス「FARISスコアリングサービス」を、東南アジアに展開していく計画を持っています。Robust Intelligenceさんの技術が入っていることは大変心強く、こちらにも、しっかり注力していくつもりです。
今後は私のネットワークをフル活用して、Robust Intelligenceの製品や大柴さんの魅力を、日本の皆さんにどんどん紹介していきたいです。「こんなに素晴らしい技術を持った会社がありますよ」と、多くの方に直接お会いして伝えたいですね。
大柴：ありがとうございます。
