ChatGPT から HackGPT へ

^{（本ブログ記事は、BlackBerry の南・西ヨーロッパ担当シニアディレクター John Schaap が}^WinMagPro^{Netherlands に寄稿し、2023 年 6 月 13 日に公開された記事「}^{From ChatGPT to HackGPT}^{」から許可を得て抜粋したものです。記事全文と関連トピックは}^こちら^{でご覧いただけます。）}

本ブログの原文はこちらからご覧いただけます。

人工知能（AI）の出現とその継続的な発展は、サイバーセキュリティの世界に無限の新たな可能性を生み出しています。AI を活用することによって、セキュリティチームは脅威や脆弱性をより高速かつ正確に検知でき、これまで以上に迅速に行動することができます。AIの活用は急務と言えます。なぜなら、人類の発展に役立つ新たな資源が常にそうであるように、新技術の追求はサイバー犯罪者の側でも盛んに見られるからです。

サイバーセキュリティチームは、サイバー犯罪者を阻止するために、すでに AI と機械学習（ML）を利用しています。高度なサイバーセキュリティソリューションはこれらの技術を採用し、攻撃の自動検知、大量のデータトラフィックの迅速な監視、不正パターンの検知、さらには攻撃の予測さえも行っています。これは、サイバーセキュリティチームの業務を大きく支援する AI アプリケーションが持つ機能の一部に過ぎません。

一方、こうした AI 資産は、より悪質な活動にも利用できます。成功率の高いフィッシングメールの作成からディープフェイクの生成にいたるまで、その用途は多岐にわたります。AI の普及に伴い、ハッカーとセキュリティ専門家による「いたちごっこ」は新たな次元に突入しているのです。

フィッシングのさらなる進化

これまでのフィッシングメールは、不自然な言葉遣いから容易に判別することができ、また内容も無差別的でした。しかし ChatGPT の台頭によって状況は一変しました。過去に成功した実績のあるメッセージや、特定の内容によって信憑性を高めたメッセージに基づいて、攻撃者は今やパーソナライズされたフィッシングメッセージを生成する力を得たのです。こうしたメールは一目で見分けることが難しくなっているため、従業員はフィッシングメールをよりよく判別できるよう訓練を受け、これまで以上に「このリンクは安全か ?」と自問する必要があります。

知人を装うディープフェイク

ディープフェイクが多くの被害をもたらす可能性があることは、もはや周知の事実です。しかし最近では、これまでとはまた違った形のディープフェイクが出現しています。AI ボットは音声、さらには動画さえも生成し、あるいは模倣できます。そのため、サイバー犯罪者が企業の幹部を装い、従業員に金銭や個人情報、企業情報を共有するよう促すといったことも可能です。この手法は現在よく知られている WhatsApp 詐欺の発展系と言えます。今や人々は家族や友人、同僚の音声を偽装したコンピューターからの電話を受ける可能性があるのです。

虚偽情報の拡散

ハッカーが虚偽情報を世界中に拡散し、大局的な世論に影響を与えることは、AIの活用によってかつてないほど容易になっています。フェイクニュースや誤情報は、世間に大きな混乱をもたらす可能性があります。たとえば、特定の株式銘柄（または暗号通貨）の価値が高まることを示唆すると、投資家の間で偽の情報が流れます。その後、企業や個人がそれらの銘柄に投資し、その価値を人為的に高めます。これは、当該の株式（または暗号通貨）の一部をあらかじめ購入していた犯罪者にとって、実入りのよい詐欺手段となります。さらに、悪意のあるグループにとっては、世論や評判、政治問題、社会問題に影響を与える機会にもなります。

フェイクメールによる風評被害

生成 AI を使用すると、極めて現実的なメールのやり取りを再現でき、それによって重大な風評被害がもたらされる可能性があります。たとえば、経営陣が資金不足を挽回する方法を話し合っているメールのやり取りを、 AI モデルが再現したとします。そうしたメールのやり取りが「流出」し、ソーシャルメディア上のボットで拡散された場合、その風評被害の影響は計り知れません。起こり得る結果としては、顧客や従業員の離反や事業価値の急落などが考えられます。

こうした AI の脅威による潜在的な被害に対抗するには、サイバーセキュリティチームが積極的かつ専制的な行動を取ることが欠かせません。火をもって火を制す、つまり AI を駆使して AI から身を守ることで、条件が対等になります。これにより、AI アプリケーションが保護され、AI の力で脅威を撃退できることが保証されます。

言うまでもなく、AI はサイバーセキュリティを継続的に改善していく大きな可能性を秘めています。サイバーセキュリティチームや経営陣は、新しい展開があるときには常に犯罪者にとっての新たな機会も生まれているということに留意する必要があります。急速に発展するこの時代、時に時代遅れとなった自社独自の手法や人的プロセスに頼って組織を守ることは、もはや不可能なのです。

WinMagPro の記事全文と関連トピックはこちらでご覧いただけます。

同様の記事やニュースの配信を希望される場合は、BlackBerry ブログの購読 をご検討ください。