「Coremail RSAC カンファレンス観察: AI は電子メール セキュリティ分野において槍でもあり盾でもある」
世界的なサイバーセキュリティコミュニティの一大イベント「2023 RSACカンファレンス」が、現地時間4月24日から27日まで米国サンフランシスコで「Stronger Together」をテーマに開催され、セキュリティセミナーやサンドボックスイノベーションなどが主な議題となった。コンテスト、セキュリティ技術基調講演など Coremail の共同創設者で現 CTO 副社長の Lin Yanzhong 氏と Coremail メール製品チーフアーキテクトの Chen Yingtang 氏が会議に出席しました。
18 年目を迎える RSAC イノベーション サンドボックス コンペティションは、サイバーセキュリティ業界を変革する可能性のある画期的なテクノロジーをスタートアップ企業が紹介する主要なプラットフォームです。しかし、今年のイノベーションサンドボックス競争は依然として熾烈を極め、最終的には人工知能アプリケーションセキュリティ企業であるHiddenLayerが「最も革新的なスタートアップ企業」の称号を獲得した。
今回のカンファレンスでは、セキュリティ分野におけるAIの応用も大きな話題となっていることがわかる。カンファレンスの開会式では、RSA の CEO である Rohit Ghai 氏も、人工知能がネットワーク セキュリティにもたらす機会と課題に焦点を当てました。
「新しいテクノロジーの波はどれも、以前のものよりも大きく、速く、破壊的です。今回も例外ではありません。」
ガイ氏は、人工知能の時代が到来しており、サイバーセキュリティ組織は AI の力を活用する必要があると強調しました。人工知能テクノロジーがネットワーク セキュリティ製品やソリューションに徐々に浸透していくにつれて、セキュリティと AI の衝突によるさらなる火種が予想されます。しかし同時にガイ氏は、「良いAI」ロボットの裏側は「悪いAI」であるとも述べた。
確かに、攻守の対立においては、AI技術がセキュリティベンダーによって防御に利用されることになるでしょうし、ChatGPTのような人工知能ソフトウェアがハッカーの攻撃兵器となる可能性もあり、フィッシングへの抵抗がより困難になる可能性があります。それでは、人工知能は電子メールセキュリティ業界にどのような変化をもたらすのでしょうか?
Coremail 電子メール セキュリティ人工知能研究所のチーフ アーキテクトである Pan Qingfeng (以下、「ビッグ P」と呼びます) は、「電子メール セキュリティに対する現在の AI テクノロジーの影響」というテーマについて詳しく説明しました。
1.現在の AI テクノロジーが電子メールセキュリティの対立に与える影響
ChatGPT と GPT-4 の登場により、現在の深層学習モデルがこれほど高いレベルに達していることに誰もが驚きました。
Big P は、実際、ChatGPT は 2 つのタスク、つまり意味解析タスクとテキスト生成タスクを完了したと考えています。
まず、ChatGPT モデルを大量のデータによって学習された高次元空間迷路に喩えると、各文字を読み取って次のステップを決定することで、最終的に迷路内の特定の位置に到達することができます。
この位置の近くに最も可能性の高い回答スペースがあり、この位置から開始して、最も可能性の高いパスに従って単語ごとに回答が生成されます。これが ChatGPT 応答です。
したがって、質問の意味分析部分は、テキスト分類のための Coremail スパム対策アルゴリズムの基礎となります。
Big P は、自然言語処理技術が応用爆発の時期に入ろうとしており、メール システム業界では主に 3 つの側面で応用されると考えています。
まず、ユーザー レベルでは、メール アシスタントが AI を使用して返信や下書きを自動的に生成し、簡単なロジック プログラムの作成を支援することもでき、手動で検証して作業効率を向上させることができます。
第二に、企業のビジネスレベルでは、AIテクノロジーが大量の社内文書を読み取り、顧客サービスシステムを生成することができ、現在の機械的な回答と比較して、その後の質問への回答の品質が大幅に向上します。
第三に、スパム送信者にとって、AI テクノロジーを使用して、形式や内容は異なるものの同じ内容の大量のスパム テキストが作成される可能性があり、送受信されるスパムの量が急速に増加する可能性があります。
2. AIは槍でもあり盾でもある
ChatGPT は、ランサムウェアやフィッシングメールの開発によく使用されています。これは変えられない事実ですが、Big P は、あらゆるテクノロジーが攻撃にも防御にも使用できることを強調しています。AI の深層学習テクノロジーについてはあまり心配する必要はありません。スパム対策認識システム失敗します。
Big P は 3 つの理由を分析しました。まず、大量のガベージ テキストを生成するには、テキスト分類よりもはるかに大量のコンピューティングが必要であり、通常の黒人生産グループがこのレベルのコンピューティング能力サポートを提供するのは困難です。
第 2 に、生成されたテキストの可読性と論理を考慮すると、そのようなテキストには多くの方向性のある単語が含まれている必要があり、同様の品詞を持つテキストの高次元空間内での位置は類似しています。これは、スパム対策のためのテキスト分類の使用を意味します。あまり大きな変化はないだろう。
最後に、スパム対策アルゴリズムは、単にテキストの分類の問題ではなく、レター送信履歴、レター送信行動、レター送信元などのさまざまな特性によっても判断できます。
黒人プロダクションギャングは喜んで AI を使用してスパム テキストを生成するため、防御側もディープラーニング テクノロジーを使用してスパム コンテンツを動的に生成し、スパム対策システムのトレーニング パートナーとして使用できます。
3. Coremail AI テクノロジーの開発の過去と現在
Big P はまた、Coremail AI テクノロジーの開発の歴史を紹介し、AI を使用して Coremail 電子メール セキュリティのスパム対策機能を向上させる、AI における Coremail のさまざまな開発期間を示しました。
コアメールは、1999年に最初のメールシステムを開発して以来、スパム対策技術の研究を開始し、AI技術の発展に伴い「インテリジェントアルゴリズムの萌芽期（2000年頃）」と「インテリジェントアルゴリズムの発展期」を経験してきました。メールセキュリティアプリケーションの普及（2010年頃）」を経て、「大規模アプリケーション時代（2020年～現在）」を迎えます。
現在、Coremail Email Security AI Lab (電子メール セキュリティ AI ラボ) は、電子メール セキュリティ ビッグによって継続的に蓄積された大量の高品質データに基づいて、電子メール サンプルのインテリジェントな収集、識別、保管、フィードバック、自己学習トレーニング、およびアルゴリズム モデル機能の向上を実現しています。データ センター クローズド ループにより、中央エンジンが継続的に最適化され、スパム対策品質の着実な向上が維持されます。
今後、Coremail AI LABは長期原則を堅持し、クラウドコンピューティング、人工知能、ビッグデータ研究への投資を増やし、その結果をCoremail電子メールセキュリティシリーズの製品とサービスに実装し、実際のビジネスに適用していきます。シナリオを構築し、電子メールセキュリティ産業全体の発展を促進します。
免責事項: この記事はCoremailから提供されており、著作権は著者に属します。記事の内容は著者の独立した意見を表すものであり、Coremailの立場を表すものではありません。転載の目的は、より多くの情報を伝えることです。権利侵害の場合は、ご連絡ください。