【後編】AI対AIの攻防時代へ：独自LLMに潜む脅威と日本企業の課題（ゲスト: 入谷光浩アイ・ティ・アール シニアアナリスト）

ジョーシスサイバー地経学研究所(JCGR) · Oct 9, 2025 · 24m

9月26日に公開した前半では、「シャドーAI」に潜む情報漏洩リスクなどを中心に議論しました。後半はさらに一歩踏み込み、企業が競争力強化のために構築する「独自LLM（大規模言語モデル）」に潜む新たな脅威と、AIがAIと戦うサイバーセキュリティの未来を展望します。

自社の独自情報を安全に活用し、他社との差別化を図る切り札として期待される独自LLM。しかし、その構築と運用には、これまでとは質の異なるセキュリティリスクが潜んでいます。少し前まではSF映画の世界だった「AI対AIの攻防」が日常の現実となった今、日本企業は何を課題とし、どう立ち向かうべきなのでしょうか。

■□ハイライト□■

競争力の源泉か、新たなリスクか？「独自LLM」構築の光と影:なぜ今、多くの企業がパブリックな生成AIから、クローズドな環境で運用する「プライベートLLM」へと向かうのでしょうか。金融や医療といった重要インフラ分野で先行するその動きの背景と、自社でAIを運用管理することの新たなリスクを解説します。

モデルにマルウェアが？生成AIならではの巧妙な攻撃手口:オープンソースのLLMモデル自体に悪意のあるコードが仕込まれていたり、AIを巧みに騙して機密情報を盗む「プロンプトインジェクション」攻撃など、従来の対策では防ぎきれない脅威が台頭しています。日本の企業が陥りがちなオープンソース利用の落とし穴とは何でしょうか。…