ナビゲーションをスキップする
BlackBerry ブログ
  1. BlackBerry ThreatVector Blog
  2. 2023
  3. サイバーセキュリティ環境で高まる ChatGPT の影響力

サイバーセキュリティ環境で高まる ChatGPT の影響力

セキュリティ / 06.05.23 / Jonathan Jackson
原文のブログはこちらからご覧いただけます。
 
本記事は、Muhammad "Zul" Zulhusni 氏による BlackBerry APAC 担当エンジニアリングディレクター Jonathan Jackson へのインタビュー記事「The Growing Influence of ChatGPT in the Cybersecurity Landscape」（Tech Wire Asia、2023 年 2 月 21 日公開）から許可を得て抜粋したものです。記事全文はこちらでご覧いただけます。）
 
  • 攻撃者が手法を自動化し、ChatGPT などの AI ツールを用いて戦略を改善しているため、防御する側も AI を駆使し効果的に対抗することが重要です。
  • AI は大量のデータをわずか数秒で解析でき、検知と対応までの平均時間を大幅に改善します。

OpenAI が開発した強力な言語モデル「ChatGPT」への昨今の注目の高まりを受け、多くのサイバーセキュリティ専門家が業界への潜在的な影響を注視しています。学生から専門技術者に至るまでChatGPT は日常的な語彙として一般的になりつつあり、サイバーセキュリティへの影響を観察し続ける必要性を浮き彫りにしています。

Google 社の Bard や、検索エンジンへの「大規模言語モデル」（LLM）AI の統合がニュースになったように、「会話型 AI ボット」の利用に伴うリスクと恩恵は、もはや一般家庭から企業の役員会議の席上に至るまで話題の中心となっています。このテーマの議論を加速させているのは、主に教育業界への導入（または禁止）について、またこうしたソフトウェアが人々から仕事を奪うのではないかという懸念です。

多数の脅威研究報告がこの技術の潜在的な脆弱性を指摘する中、BlackBerry 社は ChatGPT に関する IT セキュリティ専門家の意見調査に乗り出しています。Tech Wire Asia は先日、この件について BlackBerry APAC 担当エンジニアリングディレクターの Jonathan Jackson 氏に話を聞きました。

「最終的にわかったのは、さまざまな市場に関して、IT 専門家がこの技術にチャンスと脅威の両方を見ているということです。当社はこの先、リスクに対する意識向上を図るとともに、AI の未来に向けてより良い備えができるよう、個人と組織を支援したいと考えています」と、Jackson 氏は述べています。

同氏の見解では、AI ボットの利用は今後も続きます。脅威アクターが、攻撃の自動化と、ChatGPT のようなツールを活用した手法と戦術の進化を続けていることを踏まえると、AI を防御に導入し、同じ手段を用いて相手に対抗することは極めて重要です。

ChatGPT に対する IT 専門家の見解

IT およびサイバーセキュリティの意思決定者 1,500 名を対象とした BlackBerry 社の調査では、回答者の 51% が、ChatGPT に依拠するサイバー攻撃が今後 1 年以内に成功すると考えていることがわかりました。また回答者の 71% は、国家がすでに ChatGPT を悪意のある目的に利用している可能性があると考えています。

Jackson 氏は潜在的な影響領域をいくつか示し、サイバーセキュリティの専門家に注意を促しています。同氏によると、文法上の不備やその他の言語上の問題は、悪意のある通信が行われている可能性を示す決定的な証拠となり得ます。彼はまた、ChatGPT はハッカーにとってより本物らしいフィッシングメールを作成する助けとなり得ることも指摘しています。

「この他にも、アンダーグラウンドフォーラムでは、新たなマルウェアの作成や、経験の浅いハッカーのコーディングスキル向上のために ChatGPT が利用されている形跡が見られます」と Jackson 氏は述べています。「このように進化するサイバー環境においては、常に警戒を怠らず、こうした新たな脅威を軽減する手段を備えておくことが不可欠です」

APAC 地域のサイバーセキュリティ業界における ChatGPT の役割

ChatGPT はサイバー業界で大きな役割を担っており、その影響力は時とともに増すばかりです。この AI プラットフォームは、AI がさまざまなターゲット層にもたらす利益と影響の両方について、より活発な議論をもたらしています。

BlackBerry 社は 2023 年 1 月 31 日、同社初となる四半期版のグローバル脅威インテリジェンスレポートを公開しました。同レポートでは、2022 年 9 月 1 日から 11 月 30 日の 90 日間で、同社の AI 駆動型の予防ファーストテクノロジーがマルウェアベースのサイバー攻撃を 1,757,248 件阻止したことが示され、うち 10,300 件の攻撃はシンガポールで発生していました。つまり、シンガポールでは 1 か月あたり 3,433 件、1 日にして約 113 件、1 時間に 5 件近くの攻撃が 当該期間の3 か月にわたり阻止されていたことになります。

サイバー犯罪者が手を休めることはありません。そのためAPAC 地域のサイバーセキュリティ業界は、次なる被害者を探す回避性を備え標的型かつ自動化された新たな戦術に備えるために、行動で対処する必要があります。

企業のサイバー脅威対策における AI への投資の重要性

「LLM AI の進化を踏まえると、AI を活用して条件を対等にしない限り、組織を守ることは難しくなる一方でしょう。当社の調査によると、ほとんどの IT 専門家は、AI 駆動型の新種のサイバー脅威には AI 駆動型ツールに基づくサイバー防御が必要となると認識しています」と Jackson 氏は述べています。

インドネシアの Bluebird Group 社をはじめとする組織は、BlackBerry 社のようなマネージドセキュリティサービスプロバイダによるマネージド XDR（拡張型の検知/対処）を活用しています。こうしたサービスでは、熟練のサイバーセキュリティ専門家が最先端の脅威検知/対処ツールを活用し、侵入検知、インシデント対応、脅威の排除を実施しながら、組織を 24 時間体制でサポートします。

Jackson 氏は、同じく BlackBerry 社の顧客であるマレーシアの GDEX 社の顧客事例も紹介しています。そこでは AI を搭載した CylanceOPTICS® と CylancePROTECT® で脅威が発生前に阻止され、その結果アラート数が減少し、監視のために必要な人員も削減されています。GDEX 社 CEO の Melvin Foong 氏は次のように述べています。「従業員による厳格な監視は必要ありません。定期的なチェックを行う担当者を 1 名割り当てるだけでよいのです。他の分野やソリューションとの比較では、同様の業務をこなすだけでも 5、6 人の担当者を要する可能性があります」

Jackson 氏によると、AI は大量のデータをわずか数秒で解析でき、検知と対応までの平均時間を大幅に改善します。この能力は限られた人的リソースへの依存度を下げるとともに、IT コストを削減します。このような先端技術を活用すれば、サイバーアナリストが攻撃への警戒態勢を取った上で、分類された攻撃種別に基づいて最も効果的に対応することが可能となります。

「これにより、サイバーアナリストは貴重なリソースをより有効に活用し、最も複雑な脅威にも少ない工数で対処するための手段を得られます」と Jackson 氏は付け加えます。

APAC 地域の IT 業界に向けたサイバー脅威対策の推奨事項

組織はサイバーセキュリティ体制の評価と改善方法を整えるために、シンガポールサイバーセキュリティ庁（CSA）の「Cyber Essentials」および「Cyber Trust」のマークやツールキットなどの認証プログラムを活用できます。あるいは、CSA の「Operational Technology Cybersecurity Competency Framework」や MITRE 社の「Adversarial Tactics, Techniques, and Common Knowledge (ATT&CK) for ICS」など、運用技術（OT）の脆弱性を扱った既存の標準規格を参照してもよいでしょう。

Jackson 氏によると、組織はインフラの健全性チェックを定期的に実施し、パッチが最新、かつ防御が適切に調整された状態を確保することで、サイバーセキュリティを良好な衛生状態に保つ必要があります。また、組織はゼロトラストセキュリティ環境に移行して、リモートワーク環境を真に信頼するに足る接続を実現する必要があります。ゼロトラストモデルの中心にあるのは、組織が境界の内外にあるものを自動的に信頼するのではなく、アプリ、デバイス、ネットワーク、人を含め、あらゆるものを検証し確認する必要があるという考え方です。

「ゼロトラストはユーザーのアイデンティティ検証を持続的な認証プロセスとして扱い、ログイン時だけでなく、データプレーンのすべての経路上で実施します。従来のログイン認証情報に加えて、生体認証、場所やデバイスなどのコンテキスト要因、さらには視覚と手の協調、個々人のスクロールパターン、その他のユーザー規範といった行動プロファイルも考慮します」と Jackson 氏は続けます。

ゼロトラストの下では、常に検証することが求められるのです。

ChatGPT の規制

ChatGPT やその他の類似ツールは新しい技術です。大衆に受け入れられる新技術の例に漏れず、善悪の両面でその影響が問われています。

その中で、たとえばシンガポール教育省（MOE）は興味深いアプローチを採っています。同省は、ChatGPT などのデジタル技術の使用を全面的に禁止するのではなく、教師に対し、それらを有効活用して学習効果を高めるためのガイダンスやリソースを提供しています。

「新技術の活用への模索はまだ始まったばかりです。サイバー専門家やハッカーは、あらゆる政府機関や業界と同様に、この技術を最大限に活用する方法を模索し続けるでしょう。誇大な宣伝や不安を煽るデマは傍に置くとして、どの取り組みがより効果的かは時間が経ってみなければわかりません」と Jackson 氏は説明します。
 

BlackBerry 社の ChatGPT とサイバーセキュリティに関する調査の重要ポイント

「当社の調査と洞察は、極めて今日的な議論を支えるデータを提供しています」と Jackson 氏は言います。「脅威アクターが目下 ChatGPT に探りを入れ、このソフトウェアを悪用してサイバー攻撃を行う方法を試行錯誤していることは周知の事実です」

ChatGPT の成熟度が高まる中、ハッカーはこのツールや類似のプラットフォームを用いてより防御が難しいサイバー攻撃を実施しており、その結果組織にとってAI 防御を導入し、対抗するため条件を対等にする必要性が高まっています。しかし、一般に利用できる AI ソフトウェアの利用に関しては懸念もあり、そのようなツールに対する規制の是非について議論が生じています。最新の調査によると、こうした技術に対する規制責任が政府にあると考える回答者は 95% に上ります。

その一方で、調査では IT 専門家らが政府の対応をただ待っているわけではないことも示されています。回答者の82% はすでに、AI を組み込んだサイバー攻撃に対する防御策を計画しています。

「この先端技術から得られる利点は数多く、私たちはまだそれを表面的に理解し始めたばかりです。その探究は刺激に満ちていますが、脅威アクターもまたAI技術の利点に注目しており、こうした新技術を悪意のある手口の中に早速採り入れるであろうことも忘れてはなりません」と、Jackson 氏は締めくくります。

シンガポールがChatGPT などの会話型 AI ツールの利点を享受し続けるように、官民両部門はサイバーセキュリティリスクの軽減のため常に一歩先を行く必要があります。それには敵と同じ手段、すなわち防御型 AI での対抗が必要なのです。

記事全文は Tech Wire Asia でご覧いただけます。

関連記事

イベント日程
Jonathan Jackson

About Jonathan Jackson

Jonathan Jacksonは、BlackBerryの APAC エンジニアリング・ディレクターです。

戻る