アメリカの伝説的な銀行強盗ウィリー・サットンは、自伝の中で主張しているように、銀行強盗をするのが好きだったから40年間銀行強盗を続けました。そして、なぜ強盗の対象としてあらゆる場所の銀行を選んだのかと尋ねられたとき、彼は「そこにお金があるからです」と答えたと言われています。

2017 年に私は、間もなく銀行強盗を行うのはサットンのような愛すべき悪党だけではなく、人工知能 (AI) であると予測する本を書きました。

その日が、もうすぐそこまで来ているのかもしれない。世界中の銀行は、近いうちにサイバー犯罪者が AI の最新の進歩を利用して強盗を図るのではないかと深刻に懸念しています。

金庫へのデジタル バック ドア

金融界の懸念は、「Mythos」と呼ばれる製品の優れたサイバー機能にあります。これは、人気の Claude チャットボットを開発した Anthropic の最新かつ最も有能な AI モデルです。

一般のメンバーは、現時点ではこのモデルにアクセスしたり使用したりすることはできません。それは、Anthropic (および他の多くの人々) が、Mythos には疑いのない世界に攻撃する能力がありすぎると信じているためです。

Mythos の内部テストにより、すべての主要なオペレーティング システムとウェブ ブラウザにわたって、数千もの重大なセキュリティ脆弱性が発見されました。

これらの脆弱性の中には、何十年も検出されなかったものもあります。その多くは、技術関係者が「ゼロデイ」脆弱性と呼ぶもので、開発者がゼロデイで修正する必要があるほど危険な攻撃です。

アンスロピック社のダリオ・アモデイ最高経営責任者（CEO）は、新モデルは現段階で一般に公開するには強力すぎると述べている。マルクス・シュライバー/AP通信

公共用途ではありません

この新たな脅威に対抗するために、Anthropic は、Microsoft、Amazon Web Services、Apple、Cisco、Linux Foundation を含む防衛連合の 12 社のパートナーがこのモデルを利用できるようにしました。

同社はまた、これらのバグの発見と修正を開始するために、使用クレジットとして 1 億米ドル (約 1 億 4,000 万豪ドル) とオープンソース助成金として 400 万米ドル (約 560 万豪ドル) を拠出しました。

さらに、多数の米国の銀行を含む 40 以上の追加組織もアクセスを受けています。しかし、心配なことに、私たちが知る限り、Anthropic はまだオーストラリア、英国、ヨーロッパのどの銀行にもアクセスを許可していません。

懸念をさらに高めるために、Anthropic は水曜日、少数の無許可ユーザーが Mythos にアクセスしたというブルームバーグの報道の主張を調査していることを認めた。ただし、現段階では、この疑惑のアクセスが悪意のある目的であったという示唆はありません。

続きを読む:Claude Mythos と Project Glasswing:AI スーパーハッカーがテクノロジー業界を警戒させる理由

心配する必要がありますか?

先週、ワシントンで開催された国際通貨基金春季会合に世界中の規制当局者や政策立案者が集まった。イラン戦争が大きな焦点となった。しかし、参加者はまた、銀行業界に対するこの新たなサイバーセキュリティの脅威について一連の警告も発しました。

銀行はお金が集まる場所であるため魅力的な標的であるだけでなく、業界は多くのレガシー システム、つまりこの種の攻撃に対して特に脆弱である可能性のある数十年前のテクノロジーで稼働しています。

個人的にはあまり心配する必要はありません。多くの国では銀行顧客に対して強力な保護を設けています。たとえばオーストラリアでは、顧客の預金のうち最初の 25 万豪ドルが政府支援の金融請求制度を通じて保証されます。

また、オーストラリア証券投資委員会は、銀行が顧客に過失がない不正取引を調査し、返金することを保証しています。

したがって、現金を引き出してマットレスの下に置くのはおそらく賢明な考えではありません。しかし、銀行はこうした脆弱性の解消を急ぐべきだ（そしてそうしている）。

コンピューターとスマートフォンを定期的に更新して、最新のオペレーティング システムと銀行アプリをインストールすることをお勧めします。新しい脆弱性が発見され、パッチが適用されるため、近い将来さらに多くのアップデートが行われる可能性があります。

そして、あなたもそうされたことがあるはずですが、銀行の認証情報を取得しようとする電子メールや SMS によるフィッシング攻撃に常に警戒する必要があります。

ワシントンで開催された国際通貨基金の春季会合には、ジェローム・パウエル米連邦準備制度理事会議長も出席した。ショーン・シュー/EPA

進化する脅威の状況

長期的には、Mythos は防御が攻撃よりもはるかに難しいという課題を明らかにします。ソフトウェアは、人類が構築する最も複雑な製品の 1 つです。したがって、バグがないことを保証することはほとんど不可能です。

そのため、悪用される前に欠陥を発見して修正するために、私たちは「悪者」との終わりのない競争にさらされることになります。

たとえば、欧州連合は大々的に鳴り物入りで、ソーシャルメディア、ポルノ、その他の年齢制限のあるコンテンツへのアクセスに関する新たな法律の基礎となるように設計された年齢確認アプリをリリースしたばかりです。しかし、セキュリティ専門家は数時間以内に、未成年のユーザーが簡単に悪用できるサイバー脆弱性を発見しました。

最も重要な設定では、ソフトウェアにバグがないことを数学的に証明することができます。たとえば、Beneficial AI Foundation は、人気のメッセージング アプリ Signal にバグがなく、主張どおりプライバシーを保護していることを証明する野心的な「ムーンショット」プロジェクトを発表したばかりです。

しかし、そのような取り組みは今日では標準ではなく例外です。おそらく AI のさらなる進歩により、近いうちにこの状況を逆転させることができるでしょう。