AIが自らハッキングを行いはじめました。ますますデジタル化が加速する現代社会は、深刻なサイバーセキュリティの脅威に直面しています。AI時代のサイバー脅威をすべて正確に予測することは困難です。だからこそ、明確で一貫した基準を定め、それを個々の状況に当てはめながら課題を解決していくことが重要です。
こうした考えのもとで、ペンタセキュリティとオートクリプトの暗号学、ソフトウェア工学、フィジカルAIなどの専門家が集まり、前述の基準に関する議論を重ねました。より包括的で効果的な議論と協力を生み出す出発点となることを願い、その内容を共有いたします。
サイバーセキュリティ宣言
Declaration on Cybersecurity
Key Element.
サイバーセキュリティは社会の基本構成要素です。
私たちはデジタル化された時代を生きています。すべてのデジタルシステムにおいて、サイバーセキュリティは必ず保障されなければなりません。
Comprehensiveness.
サイバー脅威に対する防衛対策は隙間なく備えられなければなりません。
「攻撃コストが利益を上回れば攻撃されない」というサイバーセキュリティの前提は、AIが攻撃を仕掛ける時代には通用しません。すべてのデジタルシステムがAIによる攻撃の対象であり、わずかな脆弱性であっても危険です。したがって、あらゆるサイバーセキュリティ措置を講じる必要があります。そのために「Cyber Defense 3原則」を以下に提示します。
Security by Design.
サイバーセキュリティを優先的に考慮して設計されなければなりません。
一部の重要なITシステムや自動車を含む一部のフィジカルAIでは、設計段階からサイバーセキュリティが適用されていますが、他のあらゆるデジタルシステムにおいても同様であるべきです。サイバーセキュリティの概念がシステムの核心となる機能設計思想に組み込まれていなければなりません。
適用例：自動車・フィジカルAI 自動車分野ではUN-R155とISO/SAE 21434に基づき、設計段階からサイバーセキュリティを組み込む枠組みが型式認証の要件として定着しています。この枠組みは、他のデジタルシステムへと展開していくうえでの基準となります。
Cyber Defense 3原則
1．Observability — サイバーセキュリティ情報の測定
すべてのデジタルシステムには、サイバーセキュリティに関連するあらゆるデータを測定・分析できる技術的手段が用意されていなければなりません。この手段はデジタルシステムのOSおよびそれと相互作用するAIから独立して実装・運用される必要があります。
2．Cross-Layer Defense — すべてのアタックサーフェスに対する防衛体系とそれらの連携
デジタルシステムの構成要素間の接点は、サイバーセキュリティの観点から脆弱になりがちです。これらが連結されると、アタックサーフェス（攻撃対象領域）が形成されます。デジタルシステムの発達にともなって接点が増加するほどアタックサーフェスも拡大します。アタックサーフェスは複数の層（Layer）にわたって存在するため、層ごとに適切なサイバーセキュリティ体系を構築し、それらが水平的・垂直的に連携しなければなりません。
3．Zero Damage Design — サイバー攻撃の無効化
サイバー攻撃の最終目的は重要な情報資産の窃取、偽造・改ざん、システムの無力化、あるいは制御権の掌握です。したがって、これらの目的の達成を阻む対策を講じる必要があります。
- すべての情報資産の暗号化と安全な鍵管理
- 中核機能のレジリエンスと体系的な復旧の確保
- 被害が波及しないCompartmental Design（区画化設計）
- 中核機能に対するFail-Safe、Minimal Risk Maneuver、非常停止装置（Red Button）の確保
安全なAIのためのサイバーセキュリティ提案
AIの潜在的リスクに対する懸念が高まる中、安全なAIを実現するための方策に関する議論や研究が活発に行われています。しかし、こうした取り組みにもかかわらず、安全基準がAIによって回避されるケースや、安全基準そのものに不備がある、あるいは悪意のあるAIによって意図的に欠落させられているケースも想定しておく必要があります。そこで、AIのサイバーセキュリティリスクを外部から制御する方法として以下を提案します。
1．Trustworthy AI
AIは検証された方式で動作しなければなりません。AIに対して「許容される行動」と「許容されない行動」を、厳格かつ矛盾なく定義する必要があります。定義されていない行動は「許容されない行動」とみなします。AIのアプローチや行動は客観的に観察・記録・説明可能でなければなりません。
2．Controllable AI
Trustworthy AIを確保するため、AIの行動に対する外部からの統制権が必要です。AIの行動に関する最終的な権限は人間が持ち、すべての行動はいつでも拒否・停止できなければなりません。また、AIが稼働する物理的環境に対する人間の完全な統制権も保障される必要があります。
3．Accountable AI
AI Agentには責任主体が必ず定義されていなければなりません。問題が発生した場合、責任主体は速やかに通知し、Agentを修正する必要があります。すべてのAI Agentには作成者、所有者、目的、終了条件が明記されていなければなりません。
未来に向けて
AIが示した驚異的な可能性は、大きな期待と懸念を同時に引き起こしています。その懸念の中で代表的なのがサイバーセキュリティに関するもので、急速に現実化・拡散しつつあります。近年、報じられるさまざまなハッキング事件ではAIの関与が疑われています。果たしてAIは脅威なのでしょうか？
AIは人間が蓄積してきた数学的・工学的知識をベースに人間によって生み出されたものであり、その仕組みや原理自体はよく知られています。私たちがまだわからないのは、AIが社会の他のシステムとどのように相互作用し、どのような結果をもたらすかということです。それが何であれ、AIを人類にとって害ではなく助けとなる方向へ導いていかなければなりません。サイバーセキュリティはこの方向性を決定づける最も重要な要素です。適切な技術の開発、関連制度の整備、そして社会全体の理解と合意形成に取り組む時が来ました。
本宣言は以下の専門家による議論をもとに取りまとめたものです。
イ・ソグ AUTOCRYPT会長/創業者、ソフトウェア工学、M.E. | キム・ドクス AUTOCRYPT CEO/共同創業者、暗号学、M.E. |
シム・サンギュ AUTOCRYPT CTO/共同創業者、暗号学、Ph.D. | チョン・ソンギュン AUTOCRYPTエンジニアリング本部長、情報セキュリティ、M.E. |
チョ・ソンウ AUTOCRYPT AIモビリティ政策研究所長、自動車AI、技術士/Ph.D. | キム・テギュン ペンタセキュリティCEO、海軍情報通信士官 |
チョン・テジュン ペンタセキュリティ企画室長、セキュリティソフトウェア戦略 | イ・ジュンヨン ペンタセキュリティ研究所長、セキュリティソフトウェア開発 |
