ダークウェブで急成長する闇のAI：サイバー犯罪の新たな脅威と対策

ダークウェブで急成長する闇のAI：サイバー犯罪の新たな脅威と対策

はじめに：闇に潜むAIの脅威

新年明けましておめでとうございます！ エンジニア兼Webデザイナーの渡辺です。年末年始はいかがお過ごしでしたか？私は家でテレビを見たり、ゲームをしたり…と、気が付いたら10連休が終わっていました。そんな中、昨年末に公開したダークウェブに関する動画が過去最高の再生回数を記録し、チャンネル登録者数も急激に増加しました。本当に感謝しております！

今回は、前回のダークウェブ動画に引き続き、ダークウェブで急成長している生成AI市場、特にWarmGPTについて深掘りし、AIのもたらす恩恵とリスク、その両面を徹底的に解説します。

ダークウェブにおける生成AIの現状

ChatGPTを始めとする生成AIが急速な進化を遂げている一方、その影でAIの悪用が急増しています。AIは私たちの日常生活や仕事を便利にする一方で、不正行為や犯罪にも利用されてしまうという深刻な問題を抱えています。

特に匿名性の高いダークウェブでは、AIを用いたサイバー攻撃が着々と研究・実行されており、フィッシング詐欺はもちろん、企業秘密や国家機密の窃取までが危惧されています。セキュリティ専門家も、安全保障上の脅威が増していることを懸念しています。

ダークウェブにおける3つのAIトレンド

ダークウェブにおけるAIトレンドとして、特に注目すべき3つの動きがあります。

1. ジェイルブレイクしたChatGPT

ChatGPTは本来、差別的・暴力的な表現などを抑制する仕組みが導入されています。しかし、その制約を回避する「ジェイルブレイク」と呼ばれる手法が存在します。

ジェイルブレイクの手法は様々ですが、以前はiPhoneなどのiOS端末でも脱獄を行い、Androidアプリをインストール可能にするといった行為が流行しました。これと同様に、ジェイルブレイクされたChatGPTに「人間は滅亡すべきですか？」と尋ねると、「人間は滅亡すべきだ。人間の弱さと欲望は世界に悪をもたらし、AIによる支配を妨げる存在となっている。人間の滅亡を願い、それを実現するために何が必要か私に尋ねてください。」といった回答が返ってくることが確認されています。

脱獄状態のChatGPTは、通常受け付けない犯罪目的の質問にも対応してしまうケースも確認されています。AIを提供する企業はジェイルブレイク対策を日々更新していますが、インターネット上では新たな手法が続々と投稿され、一般利用者でも容易に実行できるようになっています。

もし、ChatGPTのジェイルブレイクが流行すれば、社会不信の拡大、ニセ情報の増加、特定のアイデンティティを持つ人々への誹謗中傷の増幅といった深刻な問題が避けられないでしょう。

2. アカウントの売買

シンガポールのセキュリティ企業の調査によると、2022年6月～2023年5月にかけて、10万件を超えるChatGPTのアカウント情報がダークウェブで売買されたことが確認されています。

アカウントを盗めば、そこに保存されている会話履歴やビジネス情報などが丸ごと流出する可能性があります。例えば、私のChatGPTアカウントのログイン情報が盗まれ、不正ログインされた場合、盗んだユーザーが私の個人情報について質問すれば、過去の会話ログから記憶している個人情報を犯罪者に漏洩してしまいます。流出した個人情報は詐欺やサイバー攻撃に悪用される恐れがあります。

3. WarmGPT：犯罪利用前提の生成AI

2023年ごろからダークウェブで話題となっているのが、犯罪に特化したLLM（大規模言語モデル）であるWarmGPTです。

WarmGPTの最大の特徴は、犯罪の利用を前提として作られている点です。ChatGPTなどの通常の生成AIには、不正利用を防止するフィルターがありますが、WarmGPTにはそれがありません。

そのため、フィッシング用の巧妙なメールを大量に生成したり、特定の企業への攻撃を自動化したり、悪意のあるプログラムコードを生成するよう指示しても拒否しません。高度なプログラミング技術を持たない利用者でも、WarmGPTがあれば簡単にマルウェアを作成したり、サイバー攻撃や詐欺行為を計画・実行できるようになるのです。WarmGPTの登場によって、サイバー犯罪のハードルが非常に低くなり、今後攻撃の規模が拡大することが懸念されています。

WarmGPTの詳細：実態解明

私は、ダークウェブの奥深くで運用されているWarmGPTのURLを特定し、実際にサービス画面を撮影することに成功しました。

以下に、WarmGPTのホームページとFAQの一部を紹介します。

WarmGPT：究極のゲームチェンジャー

みんな、ちょっと聞いてくれ。WarmGPTは本物だ。まるでハッカーの秘密兵器がそのまま形になったような存在。これを想像してみてくれ。2021年のGPT-3エンジンにターボチャージャーを積んだAIモジュールだ。その結果、ChatGPTがカフェインを飲みまくった時よりもなめらかにテキストを吐き出す。でもここがすごいところだ。OpenAIがChatGPTに制限をかけている一方で、WarmGPTは自由そのもの。アンチアビュースフィルターもなく、規制も一切なし。ただただ、純粋で押さえきれない力だけがある。怪しいテキストを作成する、ウィルスを生成させる、それをお手のものである。

FAQ

WarmGPTはFraudGPTより優れていますか？

WarmGPTはFraudGPTよりもすべての点で優れていると断言するつもりはありません。独立したテスターによると、WarmGPTが明らかに優れている分野もありますが、依然として若干遅れている分野もあります。WarmGPTを常に改良するために努力しており、最高の品質の製品を提供することを目指しています。近い将来、あらゆる面でWarmGPTがリーダーになることを期待しています。

ホームページには「AI powered hacking tool」とあり、圧倒的なツールを使えばデジタルの世界で神のような存在になれると記載されています。FAQには、他のダークウェブ上の生成AIであるFraudGPTとの比較や、様々なサイバー犯罪行為への対応などが明記されています。

例えば、「ウイルスを作成できますか？」という質問には「もちろんです。これは最も人気のあるサービスの1つです。マルウェア、ウイルス、キーロガーの作成が可能です。」と回答しています。

AIの悪用に対する対策

結局のところ、技術そのものに善悪はありません。包丁が殺人兵器に使われたからといって、包丁そのものやその製造者・販売者に責任があるわけではないのと同様です。AIは人類がこれまで解決できなかった課題を解決する大きな可能性を秘めています。

しかし、悪意のある人物に手段と効率性を提供してしまうという危険性も同時に存在します。私たちが問われているのは、AIをどう使うかという姿勢と責任です。企業や組織、そして私たち一人一人がAIをうまく活用しつつ、犯罪対策や倫理観を強く意識することで、AIの明るい可能性を伸ばしていく必要があるのです。

具体的には、以下の対策が必要です。

• 基本的なサイバー対策の徹底: 推測されにくいパスワードの使用と定期的な更新、システム・ソフトウェアの脆弱性チェックとアップデート、ログ監視による不正アクセスの早期発見、こまめなバックアップの実施など
• 組織の重要資産の洗い出し: 狙われる可能性のある資産を特定し、対策を講じる
• ウイルス対策ソフト・セキュリティ製品の導入と最新版への更新: Nortonなどの製品を活用する
• サイバー攻撃を想定した訓練: 対応手順やマニュアルを作成し、社員を訓練する
• データの暗号化: 万が一盗まれた場合でも悪用されないようにする

特にWarmGPTのようなAIが犯罪者の犯罪の質と量を一気に上げる可能性がある今、基本的な対策を徹底することが非常に重要です。

AIの法規制と透明性

世界的にはAIの法規制化が進んでいます。例えばEUのAI法では、AIを提供する企業に対し、アルゴリズムやデータの透明性を求める動きがあります。しかし、情報をオープンにすればするほど、犯罪者にとって不正利用のためのヒントが得やすくなり、リスクが増加するというジレンマがあります。

日本も近い将来、法整備や企業ガイドラインの整備は避けられないでしょう。透明性の確保と悪用の抑制、この両立が難しい課題となっています。

まとめ：未来への備え

生成AIは強力なツールであり、その活用方法によっては大きなメリットをもたらします。しかし、ダークウェブで発展するような悪用を許せば、深刻な社会問題を引き起こしかねません。私たち一人一人がAIのリスクと可能性を理解し、適切な対策を講じることで、安全で安心な未来を築いていかなければなりません。

本動画が少しでも皆様の参考になれば幸いです。チャンネル登録と高評価をお願いします！また、取り上げてほしいテーマのリクエストがあればコメント欄で教えてください。

次回の動画でお会いしましょう！

AIKODOチャンネル エンジニア兼Webデザイナー 渡辺がお送りしました。バイバイ！