サイバーセキュリティにおいてAIを活用して人間を補完する

AI活用による人間の補完：サイバーセキュリティにおける新たな展開

人工知能が産業全体で急速に採用される中、サイバーセキュリティセクターは、ますます洗練された脅威に対する防御を強化するために、AIを活用する方法を探っています。

最近のFal.Con23ユーザーカンファレンスで、CrowdStrikeのエグゼクティブパネルは、人間の専門知識を補完する形でAIを統合するビジョンを示しました。

セキュリティにおける速度の必要性

加速度的な検出と対応のためにAIを利用することがテーマとなりました。ランサムウェアなどの攻撃は侵害のタイムラインを数分間に圧縮し、速度は現在最も重要な指標となっています。人間のアナリストだけでは機械の速度で動作する脅威に追いつくことはできません。Managed Detection and ResponseのVPであるAustin Murphyは、「昨年までの攻撃者の逃走時間は、2018年の118分からたったの7分にまで短縮されました」とまとめています。

CrowdStrikeは、クラウドネイティブのAIを利用して、現代のセキュリティオペレーションに必要なスピードを提供することを目指しています。ただし、攻撃の複雑さと絶えず変化する性質から、完全に自動化されたセキュリティは慎重に扱うべきです。AIはノイズを除去し、繰り返しのタスクを処理することができますが、新たな脅威に対応するためには人間の洞察力が重要です。Murphyは、「AIにより、初心者のアナリストが基本的なトリアージを担当することができますが、判断には依然として人間の創造力と直感が必要です」と説明しています。

• 開発者はAIを使ってソフトウェアのTCOを削減できるのか？
• You take care of a rich beauty and fashion expertise, often composing vibrant and lively articles on the subjects.
• 新しいAIチューターに会ってください！

進化する敵対者の戦術

パネリストたちは、生成型のAIがソーシャルエンジニアリングを活気づける可能性を示す恐ろしい例を示しました。ソーシャルエンジニアリングは、依然として攻撃の主要な手法です。説得力のある本物の合成音声や人格を使用して、脅威行為者は効率的に大量のターゲットを欺くことができます。これは、AIの二面性を示しています – AIの普及には新たなリスクも伴います。

Professional ServicesのVPであるJustin Weissertは、攻撃者の洗練度の進化を自身の目で見た経験を振り返り、「Cチームが再びアクセスしようとしているのが実際に見え、しばらくすると新しいグループが入ってきて、彼らが入力しているコマンドが見えます。あなたが存在維持のためにそこにいた。それでは、A SWATが入ってきてください」と説明しています。

AIを活用した対抗策を進めるために、CrowdStrikeは、助手であるCharlotteの会話型インターフェースを備えたプラットフォームを強化しています。これにより、人間とAIのシームレスな連携が可能となり、自然言語のクエリを機械実行可能なアクションに変換することができます。このようなパートナーシップは、人間の専門知識の微妙さとAIの速度とスケーラビリティを結びつけるものです。

人間の存在

この未来への移行は、アセンブリ言語から現代のコンパイラやIDEへの移行と比較されました。これにより、アナリストはルーチンのログ分析の代わりに、高い付加価値の戦略的なタスクに集中することができます。ただし、これは進化の過程であり、瞬時の変換ではありません – AIの成熟には、質の高いデータによるモデルの慎重な育成が数年かかります。

監視に関しては、パネリストたちはAIを専門スキルを必要とするドメインと見なすべきだと強調しました。ニューラルネットワークの安全化や誤用の監視といった概念はまだよく理解されていません。プライバシーや倫理を確保するために、Chief AI Officerなどの専任の役職が提案されました。クラウドやシャドウITを安全に採用することとの類似点も指摘されました。

AIを統合しようとする開発者やアーキテクトに対するアドバイスとしては、低リスクのユースケースから段階的に開始し、ガバナンスプラクティスが成熟するまでアクセスを制限することが含まれます。モデルの振る舞いやデータの流れに関する透明性は重要であり、毒入りデータなどの敵対的な技術も考慮する必要があります。AIは強力な機会を提供しますが、慎重に採用される必要があります。

セキュリティの脅威ハンティングのVPであるParham Singhは、「これはもはやマルウェアの問題ではない。これは敵対者の問題です。敵対者は実際に自分たちのマルウェアをVirusTotalにアップロードして、検出されるかどうかを確認します。そして、検出されないまでコードを修正してそれを使用します」と説明します。

前進の道

パネリストは、AIのような「新しい光沢のあるもの」を追い求める前に、パッチとMFAなどのセキュリティの基礎から始めることを強調しました。 Weissertは「知らないものは制御できない」と警告し、アセットとデータフローへの可視性は前提条件です。

変革を進めるためには、反復的なワークフローの自動化と悪用の監視を先に進めることが勧められました。これにより、専門的なリソースを高い価値のある未知の脅威に集中させることができます。 Singhは「AIで自分自身を置き換え、未知の未知により多くの注意を集中させましょう」と述べています。

結局のところ、CrowdStrikeの使命は、技術を使って人間の防御者を力付けることです。堅牢なデータ基盤とユーザーエクスペリエンスへの注力により、摩擦のないAIの支援が目指されています。これにより、セキュリティチームはますます自動化された攻撃に遅れずに対応できるのです。

拙速に導入するのではなく、Murphyは「Tier 1および2のアナリストが必要ではないわけではありません。ただし、基礎訓練を受けることができるようになりました。AIによって、アナリストは人間だけが実行できる高付加価値の創造的かつ戦略的なタスクに限定されることができるという結果が見えました」と結論づけています。

進化する脅威の風景

パネリストはエスカレートするサイバー脅威の状況について懸念を示しました。AIの彼方に、敵対者は常に新たな攻撃手法やランサムウェアの戦術を革新していることに言及しました。 Singhは次のように述べています。「毎日新しい技術や戦術が使われ、以前解決しなかったパーミュテーションと組み合わせの悪用チェーンを見ています。そして、AIの進化に伴い脅威行為者もそれを利用するでしょう」と述べています。

これは、AIだけでは攻撃者の創造性に追いつくことができないため、持続的な人間によるイノベーションの必要性を裏付けています。防御策は、人間と機械学習の双方の能力を活用する必要があります。

人間の洞察力と機械のスピードの統合

重要な考え方の一つは、人間の専門知識をAIのスケーラビリティと密接に結び付けることです。脅威はデジタルのスピードで運営されるため、AIはノイズを迅速にフィルタリングして対応する必要があります。ただし、モデルが見逃す新たな脅威を特定するためには、人間の判断が依然として必要です。

Weissertは次のように説明します。「一般的に、私は「これは以前に見たものだから止めます」というシステムに依存しています。しかし、それを見たことがなければ止めることはできません。そして、それが私たちがこれらの問題と戦う方法の重要な部分です」と説明しています。

人間の創造性と機械の一貫性を組み合わせることで、組織は両方の世界の最良の部分を実現することができます-個別化された洞察力と迅速な自動化。

誤用のリスク

AIはスケーラブルな効率性を可能にしますが、そのリスクも検討されました。パネルは、生成モデルが監視されていない場合、誤情報や偏った視点を広めるために誤用される可能性があることに注意を喚起しました。

Murphyは次のように述べています。「Cスイートの顧客から、この素晴らしい技術で遊んでいたユーザーが知らずに知的財産を第三者に送ってしまったという問題について話を聞くことがありました」と述べています。

これは、AIを導入する前に慎重な監督が必要であり、データのプライバシー、ユーザー認証、透明性、バイアス検出などの要素を考慮する必要があります。これらのガードレールが整備されていないまま導入を急ぐことは危険です。

次世代の育成

AIを安全かつ効果的に活用するために、次世代のセキュリティ専門家の育成に関するアドバイスがされました。モデルの堅牢性、倫理、アルゴリズムのバイアスなどの概念は、サイバーセキュリティの教育の中核となる必要があります。

Singhは次のように提案しています。「AIを使用してオンボーディング時間を短縮することができます。以前行っていたトレーニング演習にAIを活用することで、オンボーディング時間を大幅に短縮できます」と提案しています。

AIの専門スキルがますます必須となるにつれて、これらの新興技術に特化したプログラムは防御者にとって重要です。

コンセンサスは、人間の創造性と機械の効率性を組み合わせることが、現代の脅威に対抗するために不可欠であるということです。注意深く実施されたAI支援のセキュリティは、アナリストがよりコンテキストを持ってデジタルの速度で働くことを可能にします。この融合によって、セキュリティは攻撃に打ち勝つために技術と人間の創造性が調和する未来へと進むことを約束します。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!