セキュリティ分野の専門家として。生成AIのトラスト強化に挑むGlobal FDEの想い

富士通研究所 データ＆セキュリティ研究所に所属する兒島。生成AIから出力される回答の信頼性を向上する、トラスト強化技術の研究開発に取り組んでいます。

「データ＆セキュリティ研究所では、Web3やブロックチェーン、生体認証など、セキュリティやトラストに関する幅広い研究開発を行っています。急速に進化する生成AIにも軸足を置き、新たな技術を安心・安全な形で富士通のビジネスにつなげていくことが私たちのミッションです。

その中で私は、自身の専門領域であるセキュリティを中心に、品質やガバナンス、倫理的に問題がないかなども含めてAIの信頼性向上に取り組んでいます。最近ではとくに、生成AIの社会的な普及にともなう課題を解決することが大きなテーマです」

利便性の裏に潜む生成AIのさまざまなリスク。兒島はその一つとして、生成AIにおける新たなセキュリティの脅威への対策に取り組んでいます。

「たとえばプロンプトインジェクションは、生成AIに悪意のある指示を与えることで、有害な情報や機密データの漏洩などを引き起こす攻撃手法です。こうした被害を防ぐため、攻撃の検出技術や悪質な指示に応じないインジェクション対策機能など、セキュリティを強化する技術の開発も進めています」

セキュリティ面の脅威だけではなく、「もっともらしい嘘」を出力するハルシネーション（幻覚）の問題もあります。

「対話型生成AIの回答が真実かどうか、ユーザーが判断するのは極めて困難です。そこで私たちが開発を推進しているのが、幻覚を検出する技術です。生成AIのトラスト強化に向けて、正確な回答を出力させるためにも幻覚対策は重要な課題となっています」

富士通で長年培ってきたセキュリティの専門知識を活かし、生成AIの信頼性向上に貢献する兒島。高い技術力を持つエンジニアを認定する「Global Fujitsu Distinguished Engineer（Global FDE）」にも選ばれており、その卓越した技術力でビジネス戦略立案や顧客への価値提供に貢献しています。

「サイバーセキュリティ分野における富士通の代表として、常に技術の先進性を維持し、ビジネスの成長を通じて社会に貢献すること。そして海外の拠点や他社の研究員と連携し、グローバルな活動によって社会的価値を高めていくこと。その二つをミッションとして活動しています」

Global FDEとして重責を担うからこそ、仕事をする上で兒島が大切にしていることがあります。

「セキュリティにおいて重要なのは、問題やリスクを見つけ出すことです。そのためにもっとも求められるのは『気づく力』だと考えています。だからこそ私は、技術や事象の表層にとどまらず、根本まで掘り下げて理解することを意識しています。

自分が真に納得するまで理解することは、他の人にわかりやすく伝えることにも活かされるはずです。生成AIのリスクについて、社会に周知することにも重点を置いて活動しています」

兒島がセキュリティ技術の研究開発に取り組み始めたのは、大学生の時。研究室での恩師との出会いをきっかけに、その世界に夢中になっていきました。

「先生は、ビジネスや社会課題に直結するセキュリティをテーマに扱っており、世界でもトップレベルを誇る企業の研究所で経験を積まれた方でした。先生の指導の下、暗号技術など自分が今まで知らなかった世界に初めて触れる中で、問題やリスクを見つけるおもしろさに気づいたんですね。

そんな時、旧Netscape社がセキュリティバグを見つけた人に報奨金を支払う『バグバウンティ』を実施しているのを知りました。そこでバグを報告したところ、報奨金として$1,000を獲得することに。脆弱性を見つけて誰かに喜んでもらえたのは初めての経験で、セキュリティ技術の社会的価値の高さを実感し、ますます夢中になっていきました」

そんな兒島が学生時代に取り組んだ研究テーマは、プログラム言語であるJavaのセキュリティ技術。その内容を高く評価したのが、富士通でした。

「私の研究内容を紹介したところ、非常に興味を持っていただき、セキュリティ研究部門の責任者との面談まで設定してくれました。その熱意から自分のセキュリティに関する知見が切に求められていることを実感し、この会社でなら自分のやりたいことができると感じて入社を決めました」

そして2001年、兒島は富士通研究所へ入社。ITシステムのセキュリティ技術に関する研究開発に約18年にわたり従事します。しかし技術一筋で築いてきたキャリアに、ある変化が訪れました。

「社内制度により他の部門へ異動することになり、お客様向けにシステムを導入する際の内部的なセキュリティ監査などに約2年携わることになったんです。より直接的にお客様の課題と向き合える喜びを感じると同時に、今までと違う環境に身を置いたことで、視野が広がるのを実感しました」

兒島はさらに新たな世界での成長を求め、コンサルティング会社への転職を決断。インターネットとの接続機能を持つ自動車であるコネクティッドカーのセキュリティに関するコンサルティングに携わる中、強まっていったのは「富士通で技術を追求したい」という想いでした。

「外に出てみて気づいたのは、自分が一番やりたいのは技術だということ、そして富士通というコミュニティがいかに素晴らしいかということです。同じ価値観を持つ仲間が集まり、高め合える環境で働く良さを痛感し、カムバック採用制度を利用して再入社を実現しました。

戻ってきたからには、自分の価値を発揮できることすべてに挑戦しよう──そう考え、サイバーセキュリティ領域における社内の認定制度に応募。18件に及ぶIPAへの脆弱性報告などこれまでの実績が評価され、Global FDEに認定されることになりました」

生成AIのトラスト強化に向け、兒島がまず開発に取り組んだのはフィッシングURL検出技術。兒島はセキュリティ技術において世界有数の知見を持つ、海外の大学と共同研究に取り組みました。

「海外の大学との連携には、言葉の壁や時差の問題があります。リモートで打ち合わせしなければならず、意思疎通も対面ほど円滑にはできません。そうした中で時差を考慮してお互いの就業時間中にうまくボールを渡し合うことで、プロジェクトを効果的に推進しました。

また大学で研究開発している技術は、検証環境でのみ動作し、実装すると不具合を起こすケースが多いという問題もあります。つまりさまざまな条件下での検証が足りていないので、テストを増やしフィードバックを集める必要があるのです。その点において、社内で十分な検証ができる富士通の環境が活かされ、既存の敵対的攻撃を含むフィッシングサイトを高度に検出する技術の提供が実現しました」

また、幻覚検出技術にも取り組み、まだAIが普及し始めた昨年秋、日本国内に法人向けの実証実験環境としてその提供を開始しました。

「当時はまだ、幻覚の問題は今ほど注目されていませんでした。そうした中で、他社に先駆けて対策のための技術を世に出すのは、非常にチャレンジングだったと言えます。

なぜなら、前例のない取り組みには正解がないからです。何をもって幻覚と定義し、それをどう検出するか、検出した結果をどのようなUIで提示するべきか。すべて手探りの状態で、自分たちが納得できるクオリティを追求するにはさまざまな困難がありました」

正解がない中での技術開発。そのプロセスで意思決定を行うにあたり、富士通ならではの環境が活かされたと兒島は振り返ります。

「まずは部署内でベータ版を公開し、使用感を評価してもらいました。さらに社内でアクセスできるように技術を公開し、約12万人の従業員を有する富士通のリソースを活用して多様なフィードバックを収集しました。

それを反映して改善を重ね、幻覚が生じやすい固有名詞や数値などの固有表現部分を特定して重点的に確認することで、既存手法よりも高精度な幻覚の検出を可能にしました。チームとして素晴らしい動きができたと思います」

難易度の高いプロジェクトを推進してきた兒島。困難に立ち向かう原動力になっているのは、社会に貢献できる喜びだと話します。

「セキュリティやトラスト強化技術は、素晴らしい技術の裏に潜むリスクの怖さを指摘することから、ある意味ではネガティブなものだと言えます。しかし複雑化する現代社会において、リスクの発生は避けられず、事前の対策を講じることは企業の社会的責任だと考えています。

そのためにもトラスト強化技術の開発を通じ、ユーザーが安心・安全に生成AIを利用できる社会の実現に貢献することは、私の使命であり、大きなやりがいにつながっています」

一度外の世界も経験しながら、富士通グループで20年近いキャリアを築いてきた兒島。あらためて感じる富士通の魅力についてこう語ります。

「一つは、多様な人材がいることです。サービスやソフトウェアなどの技術開発はもちろん、ダムのシステム開発で工事現場の指揮を執るほか、地域DX人材として地域の発展と持続可能なまちづくりに貢献するなど、実に多様な人材が幅広いフィールドで活躍しています。

この多様性を活かし、最近では組織を超えたコラボレーションを促進する取り組みも増えてきました。社外との連携だけでなく、社内でも新しいビジネスの創出や、社会課題の解決に向けたアイデアを生み出せる環境があるのはとても魅力的です。私が再入社した理由でもある、心理的安全性の高いコミュニティがあることも富士通ならではだと感じます」

多様な人材がそれぞれの専門性を活かして活躍できる環境。その基盤を活かし、Global FDEとして兒島が今後描いているビジョンがあります。

「短期的には、現在取り組んでいる欧州やインドなどとの海外連携をさらに拡大していきたいと考えています。そしてグローバルに活躍できる人材としてさらに成長し、富士通を技術面でリードする存在になることが長期的な目標です。

会社に貢献しながら、富士通の充実した環境やリソースを活かして、自分の価値を高めていく。そうして会社と個人がWin-Winの関係を築き、共に成長できれば理想だと考えています」

これからもセキュリティ技術を専門領域に、グローバルな活躍をめざす兒島。トラスト強化技術を通じて安心・安全な社会の実現に貢献するために、挑戦は続きます。

「生成AIは、すでに多くの方が日常的に利用し、その性能の高さを実感していると思います。しかし誤情報の提示やサイバー攻撃のほか、AIが人間の知能を超えるシンギュラリティなど、さまざまな課題も抱えています。

大切なのは、これらのリスクを正しく理解した上で利用することです。そして生成AIを社会の発展に役立てるためにも、トラスト強化技術の開発が欠かせません。この分野に興味を持ち、より良い未来に向かって共に新たな技術の開発に挑戦する仲間が増えることを期待しています」

※ 記載内容は2024年11月時点のものです