最近話題になったセキュリティ関連のニュースから、気になるものをピックアップしてお届けします。

2023/2/07

BlackBerry、IT意思決定者を対象としたグローバル調査結果を公開、国家規模のサイバー攻撃におけるChatGPT使用の可能性を指摘

https://www.blackberry.com/ja/jp/company/newsroom/press-releases/2023/chatgpt-may-already-be-used-in-nation-state-cyberattacks-say-it-decision-makers-in-blackberry-global-research

BlackBerry Limited（本社: カナダ オンタリオ州、CEO: ジョン・チェン、NYSE: BB、TSX: BB、以下BlackBerry）はカナダ時間２月ＸＸ日、ChatGPTに関する最新の調査結果を発表しました。調査によると、回答したITプロフェッショナルの半数（51%）はChatGPTを用いたサイバー攻撃が今後1年以内に成功すると予測しており、71%はすでに同技術が他国への悪意ある目的のもと国家規模で使用されている可能性を指摘しています。

今回調査対象となった北米、イギリス、オーストラリアのIT意思決定者1,500人のうち
約8割がAI駆動型のサイバーセキュリティ対策を検討していると回答しており、
AI vs. AIといった構図がよりスタンダードになってくる日も近いかもしれません。

2023/2/09

ハッカーがマルウェアのChatGPT規制を回避するサービスを販売中

https://arstechnica.com/information-technology/2023/02/now-open-fee-based-telegram-service-that-uses-chatgpt-to-generate-malware/

本来ChatGPTは「ハッキングされたデバイスからデータを盗む」や「フィッシングメールを作成しコードを書く」などのような違法性の高い依頼を拒否するように設計されています。しかし、サイバー犯罪者たちはこのようなChatGPTの制限を回避する方法を発見し販売しています。

すでにRaaS (Ransomware as a Service)としてのビジネスモデルが確立しているそうです。

2023/2/09

ChatGPT はこれらの奇妙な単語を入力することで壊れる可能性があり、その理由は誰にもわからない

https://www.vice.com/en/article/epzyva/ai-chatgpt-tokens-words-break-reddit

人間が入力した文章に対して自然な応答を返すチャットAI「ChatGPT」は、Googleのコーディング職試験に合格したり、ロースクールの試験に合格したりするレベルの実力を誇っています。そんなChatGPTにいろいろな言葉を入力していた研究者が、入力するとChatGPTが意味不明な回答を返してしまう魔法の言葉をいくつか発見したことを明らかにしました。

問題となっている単語は100種類以上あり、
文字の並びや大文字・小文字などが完全に一致したある特定の単語のみに反応するようです。

まとめのまとめ

今週は、2022年11月にリリースされたばかりの対話型AI「ChatGPT」に関するニュースをご紹介しました。
世界中で利用者が急速に拡大している一方で、技術力が低いサイバー犯罪者でもマルウェアの開発やフィッシングメールの作成など容易に悪用できることが問題として挙げられています。
音声アシスタント機能や自動運転システムなど、現代の生活の一部として身近になったAIですが、どのように使いこなしていくべきなのか真剣に考える必要がありそうです。

担当：RT