【後編】AI対AIの攻防時代へ：独自LLMに潜む脅威と日本企業の課題（ゲスト: 入谷光浩アイ・ティ・アール シニアアナリスト）

9月26日に公開した前半では、「シャドーAI」に潜む情報漏洩リスクなどを中心に議論しました。後半はさらに一歩踏み込み、企業が競争力強化のために構築する「独自LLM（大規模言語モデル）」に潜む新たな脅威と、AIがAIと戦うサイバーセキュリティの未来を展望します。

自社の独自情報を安全に活用し、他社との差別化を図る切り札として期待される独自LLM。しかし、その構築と運用には、これまでとは質の異なるセキュリティリスクが潜んでいます。少し前まではSF映画の世界だった「AI対AIの攻防」が日常の現実となった今、日本企業は何を課題とし、どう立ち向かうべきなのでしょうか。

■□ハイライト□■
競争力の源泉か、新たなリスクか？「独自LLM」構築の光と影:なぜ今、多くの企業がパブリックな生成AIから、クローズドな環境で運用する「プライベートLLM」へと向かうのでしょうか。金融や医療といった重要インフラ分野で先行するその動きの背景と、自社でAIを運用管理することの新たなリスクを解説します。

モデルにマルウェアが？生成AIならではの巧妙な攻撃手口:オープンソースのLLMモデル自体に悪意のあるコードが仕込まれていたり、AIを巧みに騙して機密情報を盗む「プロンプトインジェクション」攻撃など、従来の対策では防ぎきれない脅威が台頭しています。日本の企業が陥りがちなオープンソース利用の落とし穴とは何でしょうか。

もうSFではない。「AIvsAI」のサイバー攻防時代:攻撃側のAIがマルウェアを自動生成し、防御を突破するために自律的に学習・改善を繰り返す。そんな「攻撃のエージェント化」が現実のものとなっています。専門家でなくとも高度な攻撃者になれてしまう時代に、防御側はどう対抗すればよいのでしょうか。

日本の最大の課題は「人。高度セキュリティ人材不足への処方箋:政府もAIによるサイバー攻撃の脅威は認識しているものの、対策の担い手となる高度なセキュリティ人材の不足が深刻な課題となっています。外部ベンダーに依存しがちな体質から脱却し、大企業と中小企業がそれぞれ取るべきアプローチの違いについて議論します。

＜ゲスト・プロフィール＞
入谷光浩（いりや・みつひろ）さん
株式会社アイ・ティ・アールシニアアナリストhttps://www.itr.co.jp/company/analyst/mitsuhiro-iriya

外資系IT市場調査会社において15年間アナリストに従事し、ITインフラストラクチャ、システム運用管理、アプリケーション開発プラットフォームの領域について、市場・技術動向に関する調査とレポート執筆、ユーザー企業に対するアドバイザリー業務、ベンダーのビジネス・製品戦略支援を担当。クラウドサービス市場およびソフトウェア市場の国内における調査責任者も務めた。また、複数の外資系ITベンダーにおいては、事業戦略・企画の立案、新規事業調査、競合調査・分析にも携わった。イベントやセミナーでの講演やメディアへの記事寄稿の実績を多く持つ。2023年3月よりITRのアナリストとして、主にクラウド・コンピューティング、インフラストラクチャ、開発プラットフォーム、システム運用管理の分野を担当。グリーントランスフォーメーションに関する市場・技術動向調査にも従事する。

■□収録後記□■
入谷さんとの対話は、生成AIのリスク管理というテーマをさらに深く、そして未来へと押し進めるものでした。特に、競争力の源泉となるはずの独自LLMの、その土台となるオープンソースモデル自体にマルウェアが仕込まれている危険性があるというお話は、セキュリティの常識が通用しない新時代に突入したことを痛感させられました。

また、「AIvsAI」の攻防が現実となり、専門知識のない個人でさえ容易に攻撃者になれてしまうという指摘は、セキュリティ対策が一部の専門家だけのものではなくなったことを示唆しています。

しかし、絶望ばかりではありません。入谷さんが最後に強調された「IT部門と事業部門の対話」と「経営層のリーダーシップ」、そしてリスクを恐れて利用を禁じるのではなく、リスクと活用価値の「バランス」を見出すことの重要性にこそ、私たちが進むべき道があるのだと感じました。AIという強力なツールとどう向き合うべきか、組織全体で考えるきっかけとなる回になったのではないでしょうか。

（ホスト：JCGR川端隆史）