Research / Paper Files

Paper Files

Paper Files は、学習ツールとして scientific method を適用する、cybersecurity における継続学習の個人的実践です。各記事は学術出版のためではなく、斧を研ぐための意図的な訓練として書かれています。特定トピックへの知識を深め、考えを厳密に整理し、特定の विषयへの理解が時間とともにどう発展するかを観察するためです。これは訓練日誌に相当する知的活動であり、各エントリには何を学び、どのように分析し、どのような結論に至ったかが記録されます。

私は、セキュリティ専門家がこの方法を採用することを強く推奨します。習得したいトピックを一つ選び、一次資料 (RFCs、papers、公式ドキュメント) を調査し、文章を序論、方法論、分析、結論で構成し、同僚に説明するつもりで書いてください。書くという行為は思考の明確さを強制し、受動的な読書では見えない理解の穴をあぶり出します。このサイトの記事を形式と深さの例として活用し、自分自身のコレクションを構築してください。時間が経てば、どのコースや certification でも置き換えられない、洗練された知識の個人リポジトリが手に入ります。

DAI & ADAI · 2026

DAI · EN

DAI: A Domain-Specific LLM with Model-Excluded Authority, Capability-Disjoint Verification, and Recomputable Receipts

DAI (Decripte Artificial Intelligence) is a proprietary domain-specific LLM within a governed autonomous defensive architecture. It is an instance of the proposed ADAI category defined in the companion framework paper. T…

Read paper →ADAI · EN

Autonomous Defensive AI: An Envelope-and-Evidence Framework for Governed LLMs Acting on Production Infrastructure

ADAI (Autonomous Defensive Artificial Intelligence) is a proposed category of governed autonomous cyber defense. The framework specifies defended perimeters, bounded effects, declared rollback and capability-disjoint ver…

Read paper →

すべて Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

13 papers

AI Security

攻撃的AIと防御的AIが交差する2026年のAIセキュリティ：LLM、エージェント基盤、MLOpsに対する脅威モデル、実装手法、評価

本稿は、2026年時点のサイバーセキュリティ文脈におけるAI Securityを、生成AI・大規模言語モデル（LLM）・自律エージェント・MLOps/LLMOpsを含む実運用系の観点から体系化する研究である。AIは既に、SOC支援、フィッシング検知、脅威ハンティング、ソフトウェア開発、コードレビュー、脆弱性分析、対話型オペレーションの中核に組み込まれている一方、同じ技術は攻撃側にとっても、精密なソーシャルエンジニアリング、マルウェア生成、フィッシングの多言語化、プロンプトインジェクション、データ汚染、モデル抽出、推論時の機密漏えいを促進する。そこで本稿は、AIシステムを「データ面」「モデル面」「推論・エージェント面」「運用統制面」の4層に分解し、脅威を定式化したうえで、実装可能な防御アーキテクチャを提案する。提案手法は、入力正規化、ポリシー強制、RAGコンテンツ隔離、機密境界の明確化、監査証跡の非改ざん化、eBPFベースの実行観測、CNAPP/ゼロトラスト連携、赤青双方の継続的評価を統合するものである。さらに、公開ベンチマークと実運用に近い評価設計を用いて、プロンプト注入耐性、機密情報の漏えい抑止、応答有用性、運用オーバーヘッドのトレードオフを分析する。結果として、AIセキュリティは単一の「LLM防御」では成立せず、クラシックなアプリケーションセキュリティ、サプライチェーンセキュリティ、クラウド防御、ID基盤、インシデントレスポンスを横断する統合設計が必要であることを示す。最後に、2026年以降に重要となるAIガバナンス、ポスト量子暗号、エージェントの権限制御、評価データの汚染耐性について将来課題を議論する。

2026-05-06Read paper →AI Security

生成AI時代におけるAIセキュリティの体系的防御アーキテクチャ：LLM攻撃面分析、実運用防御、およびゼロトラスト統合モデル（2026）

2022年以降、大規模言語モデル（LLM）および生成AIの急速な普及により、従来のサイバーセキュリティに存在しなかった新しい攻撃面が顕在化した。特に、プロンプトインジェクション、トレーニングデータ汚染、モデル抽出、推論時情報漏洩、AIサプライチェーン侵害などの脅威は、従来のアプリケーションセキュリティやクラウドセキュリティの枠組みだけでは十分に対処できない。本研究は、2026年時点の実運用環境に基づき、AIシステムに対する攻撃モデルを体系化し、実践的な防御アーキテクチャを提示することを目的とする。本研究では、MITRE ATLASフレームワーク、OWASP Top 10 for LLM Applications、NIST AI Risk Management Framework、Microsoft Counterfit、IBM Adversarial Robustness Toolboxなどの既存研究およびツールを統合し、AIセキュリティを「モデル層」「推論層」「データ層」「インフラ層」の四層アーキテクチャとして定式化する。さらに、攻撃成功確率を評価するためのリスクスコアリングモデルを導入し、実環境における検出・防御の実装方法を提示する。実験では、Llama系モデルおよびOpenAI系APIを対象に、プロンプトインジェクション、モデル抽出、敵対的サンプル生成の攻撃実験を行い、防御手法としてプロンプトフィルタリング、出力監査、eBPFベースのランタイム監視、ゼロトラストAPIゲートウェイを組み合わせた防御構成を評価した。結果として、単一防御では平均攻撃成功率が62.3%であったのに対し、多層防御アーキテクチャを導入した場合には19.4%まで低減できることが確認された。さらに、実運用ケーススタディとして、企業内LLMアシスタント環境におけるデータ流出リスクを分析し、CNAPPおよびeBPFベース監視を統合したAIセキュリティ基盤を提案する。本研究は、生成AI時代のセキュリティ運用において、AI専用の脅威モデルとクラウドネイティブ防御の統合が不可欠であることを示す。

2026-04-16Read paper →AI Security

タイトル: 人工知能ベースシステムのための統合防御アーキテクチャ: 脅威の形式的モデリング、敵対的攻撃の検知、および本番環境における運用監視

タイトル: 人工知能ベースシステムのための統合防御アーキテクチャ: 脅威の形式的モデリング、敵対的攻撃の検知、および本番環境における運用監視要旨: 機械学習ベースのシステムの企業環境への導入は、人工知能モデルを運用上の意思決定における重要な構成要素へと変化させた。これらのシステムは、不正検知、マルウェア分類、画像支援医療トリアージ、推薦システム、ならびにデジタルプラットフォームにおける行動分析に用いられるようになった。しかし、従来のソフトウェアとは異なり、機械学習モデルはデータから学習されたパラメトリック関数であり、そのことは入力の操作、学習プロセスの汚染、推論インターフェースの悪用に関連する追加的な攻撃面を導入する。近年の文献は、敵対的サンプル、データポイズニング、モデル抽出、メンバー推論を含む、機械学習システムに対する複数の攻撃クラスを記録している。これと並行して、これらのシステムが DevOps パイプラインおよびコンテナベースのインフラストラクチャに統合されることで、ソフトウェアおよびモデルのサプライチェーンに関連する追加的リスクが導入される。本研究は、本番環境に展開された人工知能システムのための統合防御アーキテクチャを提案し、脅威の形式的モデリング、統計的異常検知機構、暗号学的完全性検証、および継続的な運用監視を組み合わせる。私たちは、異なる攻撃クラスに関連付けられた条件付き確率の関数として、パラメータ化された敵対者モデルの下で集約敵対的リスクの概念を形式化する。次に、Mahalanobis 距離と Isolation Forest アルゴリズムに基づくハイブリッド検知器を導入し、モデルの潜在表現に適用する。加えて、暗号学的ハッシュ、デジタル署名、および出力分布の乖離に基づく行動テストを組み合わせた完全性検証機構を提案する。アーキテクチャは Kubernetes ベースの運用パイプラインに統合され、テレメトリは MITRE ATT&CK や MITRE ATLAS のようなフレームワークで記述される技術と相関付けられる。制御されたシナリオでの実験評価は、回避攻撃に対する経験的なロバスト性の一貫した向上と、モデル成果物に対する未承認の変更の検知性能の改善を示した。分析はまた、防御機構が適切に規模設定される場合、遅延への影響が中程度であることを明らかにしている。これらの結果は、暗号学的制御、統計分析、運用監視を組み合わせたアプローチが、本番環境に展開された人工知能システムの安全性を高めるための実用的に妥当な道筋を提供することを示唆している。

2008-07-15Read paper →AI Security

タイトル: 人工知能システムのセキュリティのための運用アーキテクチャ: 脅威モデリング、Defense in Depth、およびクリティカル環境における実証評価

タイトル: 人工知能システムのセキュリティのための運用アーキテクチャ: 脅威モデリング、Defense in Depth、およびクリティカル環境における実証評価要旨: 人工知能（IA）システムの重要インフラへの急速な組み込みは、従来の情報セキュリティモデルでは十分に捉えきれない新たな脆弱性のクラスを導入した。決定論的ソフトウェアとは異なり、machine learning モデルは学習データおよび統計分布に強く依存しており、データ改ざん、推論インターフェースの悪用、ならびにデータ供給網の侵害に関連する攻撃面を生み出す。本研究は、Defense in Depth の原則に基づくIAシステム保護のための運用アーキテクチャを提案し、形式的な脅威モデリング、データ改ざん検知のための統計的メカニズム、およびセキュリティ運用センター（SOC）と統合された運用制御を統合する。まず、教師あり学習パイプラインにおける望ましいセキュリティ特性、すなわちデータの統計的完全性およびモデルのパラメトリック機密性を特徴付ける数学モデルを形式化する。次に、Kullback–Leibler ダイバージェンスとサンプル影響分析に基づくデータ poisoning 検知メカニズムを導入し、モデル抽出攻撃を緩和するための適応的なクエリレート制限戦略と組み合わせる。提案アーキテクチャは、データ取り込み、学習、パッケージング、オーケストレーション環境への展開を含む、IAモデルのライフサイクル全体にわたってセキュリティ制御を統合する。実装には、Kubernetes、PyTorch、MLflow、Suricata、および企業向けSIEMとの統合から成る現代的な技術スタックを用いる。我々は、公開セキュリティデータセットと制御された敵対的シナリオを用いて、クリティカルインフラを代表するラボ環境でこのアプローチを実証的に評価した。その結果、敵対的攻撃およびモデル抽出攻撃の有効性が大幅に低減され、レイテンシおよび計算資源消費の面での運用上の影響は中程度であった。詐欺検知シナリオにおけるケーススタディは、実運用の文脈における本アーキテクチャの実現可能性を示している。また、IAガバナンスへの含意および NIST AI Risk Management Framework のような新興の規範的枠組みとの整合性についても論じる。これらの結果は、統計的メカニズムと従来の運用制御を組み合わせることが、クリティカル環境におけるIAの採用拡大に伴うリスクを低減する効果的な戦略であることを示唆している。

2008-07-08Read paper →AI Security

タイトル: 人工知能システムのための統合セキュリティアーキテクチャ：脅威の形式的モデリング、敵対的攻撃の検出、および企業環境における運用ハードニング

タイトル: 人工知能システムのための統合セキュリティアーキテクチャ：脅威の形式的モデリング、敵対的攻撃の検出、および企業環境における運用ハードニング要旨: 重要な企業インフラストラクチャへの人工知能（IA）システムの急速な導入は、従来のサイバー防御モデルを超える新たな安全保障リスクのクラスをもたらした。深層学習モデル、API経由で公開される推論サービス、そして近年では Large Language Models（LLMs）は、詐欺検知、自動分類、インシデント対応を含む機微な意思決定を担う運用パイプラインに統合されるようになっている。しかし、近年の研究は、これらのシステムが敵対的攻撃、モデル抽出、メンバーシップ推論、データポイズニングを含む構造的脆弱性を有することを示している。さらに、AIアプリケーションを支える運用エコシステムは依然として従来型のインフラ脅威の影響を受けやすく、攻撃面を拡大している。本研究では、形式的な脅威モデリング、敵対的攻撃の検出メカニズム、ならびに企業環境向けの運用ハードニング実践を組み合わせた、AIシステムのための統合セキュリティアーキテクチャを提案する。まず、MITRE ATT&CK と MITRE ATLAS のタクソノミーを統合した一元的な脅威モデルを構築し、確立されたサイバー防御フレームワークの中で機械学習に特有の攻撃ベクトルをマッピング可能にする。次に、敵対的ロバスト性の問題を min–max 最適化の観点から形式化し、推論時に敵対的である可能性のある入力を識別するために、出力エントロピーおよび局所内在次元推定に基づく検出機構を導入する。提案アーキテクチャはさらに、統計的ドリフトの監視、データパイプラインの整合性検証、および運用対応のための SIEM プラットフォームとの統合を組み込む。実装は PyTorch、Suricata、Elastic Stack、および Kubernetes インフラストラクチャを用いて行われ、2023年までに企業環境で広く採用されている実践を反映している。実験評価は、CIFAR‑10 と UNSW‑NB15 のデータセットを用いたコンピュータビジョンおよび侵入検知のシナリオで実施した。結果は、FGSM および PGD 攻撃に対するロバスト性の大幅な向上、ならびにセキュリティオペレーションセンター（SOC）における運用平均応答時間の有意な短縮を示している。これらの結果は、敵対的ロバスト性に関する個別のアプローチは不十分であり、AI セキュリティは数学的手法、安全なソフトウェア工学、ならびに継続的なインフラ監視を統合する სისტემ的問題として扱う必要があることを示唆している。

2008-07-01Read paper →AI Security

AIシステムのセキュリティのための形式的アーキテクチャ：脅威モデリング、敵対的検証、および定量化可能な保証を備えた堅牢な緩和

TITLE: AIシステムのセキュリティのための形式的アーキテクチャ：脅威モデリング、敵対的検証、および定量化可能な保証を備えた堅牢な緩和 ABSTRACT: 重要インフラ、金融サービス、デジタルプラットフォーム、および産業環境における人工知能（IA）システムの導入拡大は、その複雑性が従来の計算機セキュリティのパラダイムを超える新たな攻撃面をもたらしている。深層学習モデルは、敵対的攻撃、データ汚染、モデル抽出、および機微属性の推論に対して脆弱であり、機密性、完全性、および可用性を損なう。本研究では、数学的な脅威モデリング、自動化された敵対的検証、および定量化可能な保証を備えた堅牢な緩和機構を組み合わせた、IAセキュリティのための統合的な形式アーキテクチャを提案する。我々の方法論は、(i) 計算資源の予算とアクセス能力によってパラメータ化された形式的な敵対者モデル、(ii) 適応的統計的ダイバージェンスに基づく異常検知機構、(iii) 緩和された凸最適化を用いた認証済みロバストネスモジュール、という三つの構成要素を統合する。PyTorchおよびTensorFlow環境でプロトタイプを実装し、CIFAR-10、ImageNet-subset、およびUNSW-NB15の各データセットで評価した。ε = 8/255 のPGD攻撃下において、本手法はロバスト精度を32.4%（ベースライン）から61.7%へと向上させ、標準偏差は1.8%であった。10%のデータが汚染されたデータ汚染シナリオでは、汎化誤差への影響を47%低減した。さらに、モデル抽出攻撃の成功率を63%低減したことも示した。複雑性解析により、推論時間における平均18%のオーバーヘッドが示され、運用上の実用性は維持された。我々の結果は、形式的検証と統計的に基礎づけられた緩和策の体系的統合が、IAセキュリティ工学における大きな進展を構成し、NIST AI Risk Management Frameworkの指針に整合した測定可能な保証を提供することを示している。

2007-08-09Read paper →AI Security

adversarial attacks, poisoning, and model extraction attacks に対する統一防御モデルとしての人工知能システム安全性のための形式的アーキテクチャ

TITLE: adversarial attacks, poisoning, and model extraction attacks に対する統一防御モデルとしての人工知能システム安全性のための形式的アーキテクチャ ABSTRACT: 重要インフラ、金融サービス、医療プラットフォーム、および産業環境への人工知能（AI）システムの統合が進むにつれ、サイバー攻撃の攻撃面は大幅に拡大している。機械学習（ML）および深層学習（DL）モデルは、adversarial attacks、データ poisoning、model extraction といった特有の脆弱性を導入し、これらは従来の情報セキュリティ機構では十分に軽減できない。本研究では、統計的ロバストネス機構、実行時異常検知、ならびに暗号学的保証を統合した、AI セキュリティのための統一的な形式アーキテクチャを提案する。我々の方法論は、(i) 適応的 adversarial regularization、(ii) 分布の divergence に基づく確率的検知、(iii) 認証済み hash 関数とリモート検証を用いた完全性証明機構、を組み合わせる。脅威モデルをパラメトリックに定式化し、本手法が white-box シナリオにおける adversarial attacks の成功率を 78.4% から 12.7% に、black-box シナリオでは 64.2% から 18.9% に低減することを示す。汚染率 10% の poisoning attacks においては、精度への影響を 22.5% から 4.3% に低減することを確認した。平均的な計算オーバーヘッドは、推論時で 11.6%、学習時で 18.2% であった。我々は、このシステムを広く用いられている3つのデータセット（CIFAR-10、ImageNet-Subset、UNSW-NB15）で評価し、従来の adversarial training および統計的検知に基づく個別の防御機構を含むベースライン防御と比較した。その結果、ロバストネスと安定性において統計的に有意な優位性（p < 0.01）が示された。結論として、AI セキュリティは、従来のセキュリティの ad hoc な拡張ではなく、検証可能な性質を持つ形式的な学問分野として扱われるべきである。

2007-08-02Read paper →AI Security

タイトル: 適応型攻撃下における機械学習モデルのセキュリティのための形式的に検証可能なアーキテクチャ: 堅牢性、監視、および暗号学的保証を統合したフレームワーク

タイトル: 適応型攻撃下における機械学習モデルのセキュリティのための形式的に検証可能なアーキテクチャ: 堅牢性、監視、および暗号学的保証を統合したフレームワーク要旨: 重要インフラへの機械学習（ML）モデルの統合が進むにつれ、サイバーセキュリティ・エコシステムに新たな攻撃対象領域が導入されている。敵対的攻撃、データ汚染、モデル抽出、属性推論は、人工知能ベースのシステムの脆弱性を実証しており、金融、医療、防衛分野において文書化された影響を及ぼしている。本研究では、適応的な敵対者の下でのMLモデルのセキュリティに向けた、統合的かつ形式的基盤に基づくアーキテクチャを提案する。これは、認証可能な敵対的堅牢性、実行時の行動逸脱の検知、および完全性と機密性に関する暗号学的保証を組み合わせるものである。我々の方法論は、主要な3つの構成要素から成る。(i) Lipschitz正則化と確率的認証を用いた堅牢学習、(ii) 潜在分布の統計的モデリングに基づくオンライン監視と逐次検定による異常検知、(iii) リモートアテステーションと機密計算を備えた暗号学的カプセル化である。我々は、MITRE ATT&CK（T1565, T1190, T1027）に整合した能力を有する脅威モデルを形式化し、測定可能なセキュリティ特性を定義した。3つのデータセット（CIFAR-10, UNSW-NB15, MIMIC-III）および2つの実世界の侵入検知シナリオにおいて、本アーキテクチャを評価した。敵対的堅牢性のベースライン（PGD-training）および単独の検知手法と比較して、我々のフレームワークは敵対的攻撃の成功率を78.4%から21.7%へ低減し、3.8%の偽陽性率でポイズニング攻撃の93.2%を検知し、平均計算オーバーヘッドを11.6%に抑えた。我々は、形式的メカニズムと運用メカニズムの体系的統合がシステム全体のレジリエンスに大きな向上をもたらすことを示し、高リスク環境における安全なAIシステム開発のための具体的な指針を確立した。

2007-07-26Read paper →AI Security